儿童安全开发者指南

Anthropic采用

这些保护措施适用于我们的整个平台。由于您控制产品的设计、用户群和内容流，您最适合应对特定于您部署的风险。

所有在Anthropic API上构建的开发者都必须遵守我们的使用政策，该政策禁止使用我们的产品或服务危害儿童安全。这包括但不限于创建、分发或推广CSAM(包括AI生成的CSAM)；便利对未成年人的诱骗、贩运、性勒索或其他剥削；以及在任何背景下(包括虚构或角色扮演)将未成年人性化。

这些义务适用于您的平台规模或用例。虽然您可能已经禁止此类活动，但您的最终用户或客户可能会上传CSAM、引发涉及未成年人的性化内容，或使用输出便利诱骗或性勒索。您负责在您的部署中实施适当的防护措施以防范这些风险。我们监控API使用情况是否违反使用政策，并采取与我们的政策和法律义务一致的执法行动。

此外，如果您的产品允许未成年人直接与我们的模型交互，请参考我们的为未成年人服务的组织指南，其中规定了Anthropic对该受众的额外保护措施。本指南涵盖一系列可能的措施，包括但不限于年龄验证系统、内容审核和过滤、监控和报告机制以及监管合规和披露要求。

无论您是否收到来自Anthropic关于禁止内容的通知，或者正在主动建立您的保护措施，以下资源可以帮助您了解如何建立适合您平台的检测、报告和响应基础设施。

儿童安全计划没有单一的正确架构。可行的方法取决于您的平台、其规模、用户可以参与、提交或生成内容的表面，以及您的司法管辖区。许多平台已经建立了适合自己背景的预防和响应能力，该领域已经开发了共享指南、工具和报告基础设施，新计划可以借鉴。以下组织提供许多平台用作起点的资源。Anthropic不要求您使用任何特定的供应商或计划。

设计原则。Thorn和All Tech Is Human发布了生成式AI安全设计，这是一套原则和实际缓解措施，用于在AI产品的开发、部署和维护阶段防止儿童性虐待。Anthropic是这些原则的签署方，我们鼓励在我们的模型上构建的开发者在设计自己的保护措施时考虑这些原则。

检测和阻止服务。如果您的部署允许用户上传或生成图像或视频，或与其他用户交互，您可以在自己的基础设施上实施检测。组织可以选择构建针对其威胁模型的自定义分类器，但对许多组织来说，供应商或合作伙伴解决方案可能是更实用的路径。有几个提供商提供哈希匹配、图像、视频或文本分类器解决方案。例如，一个广泛部署的选项是Thorn的Safer，它针对已知CSAM提供哈希匹配，以及针对新材料和诱骗信号的分类器。互联网观察基金会(IWF)为其成员公司提供一套服务，用于检测、阻止和响应其平台上的CSAM，包括哈希列表和URL黑名单。Tech Coalition的Pathways计划(如下所述)可以帮助公司评估和访问适合其平台的检测选项。

计划开发和运营指导。Tech Coalition是一个专注于防止在线儿童性剥削和虐待的行业联盟。其免费的Pathways计划专为初创公司和中小型平台设计，提供构建儿童安全计划的模板、CSAM检测和NCMEC报告指南、全球监管要求的见解，以及对金融性勒索和AI生成伤害等新兴风险的支持。Anthropic是Tech Coalition成员。您可以联系Tech Coalition团队进行初步咨询。

报告。美国平台如果实际了解明显的CSAM，在法律上必须向NCMEC的CyberTipline报告。平台可以向NCMEC注册以获得CyberTipline报告系统的访问权限，NCMEC发布了关于报告义务的额外法律资源。在其他司法管辖区运营的平台应咨询当地报告要求；INHOPE维护了国家热线目录。在构建您的计划时，考虑为透明度报告目的纳入日志记录。

本页仅供参考之用，不构成法律建议或Anthropic的认可。请咨询您自己的法律顾问了解您的具体义务。