在 Anthropic,我们认识到儿童在数字空间中面临的独特漏洞和需求。为了创建更安全的数字环境并降低风险,为未成年人提供直接与包含我们 API 的产品交互能力的组织应实施以下保障措施:
1. 额外的技术措施
为未成年人提供服务的组织应实施针对其独特用例量身定制的额外安全功能,因为他们最了解最终用户可能与包含 Anthropic 服务的产品交互的具体方式。这些安全措施可能包括但不限于:
年龄验证系统,以确保只有预期用户可以访问该产品
内容审核和过滤,以阻止不适当或有害的内容
监控和报告机制,以识别和解决潜在问题
为未成年人提供的教育资源和指导,以安全和负责任地使用该产品
除了这些特定于组织的措施外,Anthropic 可能会提供旨在为某些最终用户(包括未成年人)定制产品体验的技术措施。例如,我们可能会提供儿童安全系统提示,为未成年人提供服务的组织应将其作为全面安全措施套件的一部分来实施。需要注意的是,虽然这些技术措施很有帮助,但它们并非万无一失,应与组织自身的安全功能结合使用,以确保采取强有力的儿童安全方法。
2. 监管合规
组织有责任遵守所有适用的儿童安全和数据隐私法规,例如美国的《儿童在线隐私保护法》(COPPA)。对这些法规的遵守应在组织的网站或类似的面向公众的文档中明确说明。
3. 披露要求
组织必须向用户披露他们正在与 AI 系统而非人类进行交互。
Anthropic 将定期审计组织是否遵守这些保障措施。如果您的组织违规率很高且尚未实施这些安全建议,我们可能会要求您实施这些措施。在被要求时未能实施这些建议,或继续保持高违规率,可能导致您的账户被暂停或终止。
