儿童安全开发者指南

Anthropic 采用

这些保护措施适用于我们的整个平台。由于您控制产品的设计、用户群和内容流，您最适合解决特定于您部署的风险。

所有在 Anthropic API 上构建的开发者都必须遵守我们的 使用政策，该政策禁止使用我们的产品或服务危害儿童安全。这包括但不限于创建、分发或推广 CSAM（包括 AI 生成的 CSAM）；便利对未成年人的诱骗、贩运、性勒索或其他剥削；以及在任何背景下（包括虚构或角色扮演）性化未成年人。

无论您的平台规模或用例如何，这些义务都适用。虽然您可能已经禁止此类活动，但您的最终用户或客户可能会上传 CSAM、引发涉及未成年人的性化内容，或使用输出便利诱骗或性勒索。您负责在您的部署中实施适当的防护措施来防范这些风险。我们监控 API 使用情况是否违反使用政策，并采取与我们的政策和法律义务一致的执法行动。

此外，如果您的产品允许未成年人直接与我们的模型交互，请参考我们的 为未成年人服务的组织指南，其中规定了 Anthropic 对该受众的额外保护措施。本指南涵盖一系列可能的措施，包括但不限于年龄验证系统、内容审核和过滤、监控和报告机制以及监管合规和披露要求。

无论您是否收到过 Anthropic 关于禁止内容的通知，或者正在主动建立您的保护措施，以下资源可以帮助您了解如何建立适合您平台的检测、报告和响应基础设施。

儿童安全计划没有单一的正确架构。可行的方法取决于您的平台、其规模、用户可以参与、提交或生成内容的表面，以及您的司法管辖区。许多平台已经建立了适合自己背景的预防和响应能力，该领域已经开发了共享指南、工具和报告基础设施，新计划可以借鉴。以下组织提供许多平台用作起点的资源。Anthropic 不要求您使用任何特定的供应商或计划。

设计原则。Thorn 和 All Tech Is Human 发布了 生成式 AI 设计中的安全，这是一套原则和实际缓解措施，用于在 AI 产品的开发、部署和维护阶段防止儿童性虐待。Anthropic 是这些原则的 签署方，我们鼓励在我们的模型上构建的开发者在设计自己的保护措施时考虑这些原则。

检测和阻止服务。如果您的部署允许用户上传或生成图像或视频，或与其他用户交互，您可以在自己的基础设施上实施检测。组织可以选择构建针对其威胁模型定制的分类器，但对许多组织来说，供应商或合作伙伴解决方案可能是更实用的途径。有几个提供商提供哈希匹配、图像、视频或文本分类器解决方案。例如，一个广泛部署的选项是 Thorn 的 Safer，它针对已知 CSAM 提供哈希匹配，以及针对新材料和诱骗信号的分类器。互联网观察基金会 (IWF) 为其成员公司提供 一套服务，用于在其平台上检测、阻止和响应 CSAM，包括哈希列表和 URL 阻止列表。Tech Coalition 的 Pathways 计划（如下所述）可以帮助公司评估和访问适合其平台的检测选项。

计划开发和运营指南。Tech Coalition 是一个专注于防止在线儿童性剥削和虐待的行业联盟。其免费的 Pathways 计划专为初创公司和中小型平台设计，提供构建儿童安全计划的模板、关于 CSAM 检测和 NCMEC 报告的指导、对全球监管要求的见解，以及对财务性勒索和 AI 生成伤害等新兴风险的支持。Anthropic 是 Tech Coalition 成员。您可以联系 Tech Coalition 团队进行初步咨询。

报告。美国平台如果实际了解明显的 CSAM，在法律上必须向 NCMEC 的 CyberTipline 报告。平台可以 向 NCMEC 注册以获得 CyberTipline 报告系统的访问权限，NCMEC 发布了关于报告义务的额外 法律资源。在其他司法管辖区运营的平台应咨询当地报告要求；INHOPE 维护了 国家热线目录。在构建您的计划时，考虑为透明度报告目的纳入日志记录。

本页仅供参考之用，不构成法律建议或 Anthropic 的认可。请咨询您自己的法律顾问了解您的具体义务。