En Anthropic, reconocemos las vulnerabilidades y necesidades únicas de los menores en espacios digitales. Para crear un entorno digital más seguro y mitigar riesgos, las organizaciones que proporcionan a menores la capacidad de interactuar directamente con productos que incorporan nuestras API(s) deben implementar las siguientes medidas de protección:
1. Medidas Técnicas Adicionales
Las organizaciones con productos que sirven a menores deben implementar características de seguridad adicionales adaptadas a sus casos de uso únicos, ya que están mejor posicionadas para comprender las formas específicas en que sus usuarios finales pueden interactuar con productos que incorporan los servicios de Anthropic. Estas medidas de seguridad pueden incluir, pero no se limitan a:
Sistemas de verificación de edad para garantizar que solo los usuarios previstos puedan acceder al producto
Moderación y filtrado de contenido para bloquear contenido inapropiado o dañino
Mecanismos de monitoreo e informes para identificar y abordar posibles problemas
Recursos educativos y orientación para menores sobre el uso seguro y responsable del producto
Además de estas medidas específicas de la organización, Anthropic puede poner a disposición medidas técnicas destinadas a adaptar las experiencias de productos para ciertos usuarios finales, incluidos menores. Por ejemplo, podemos proporcionar un aviso del sistema de seguridad infantil, que las organizaciones que sirven a menores deben implementar como parte de un conjunto integral de medidas de seguridad. Es importante tener en cuenta que, aunque útiles, estas medidas técnicas no son infalibles y deben usarse junto con las características de seguridad propias de la organización para garantizar un enfoque sólido para la seguridad infantil.
2. Cumplimiento Normativo
Es responsabilidad de las organizaciones cumplir con todas las regulaciones aplicables de seguridad infantil y privacidad de datos, como la Ley de Protección de la Privacidad en Línea de los Menores (COPPA) en Estados Unidos. El cumplimiento de estas regulaciones debe estar claramente indicado en el sitio web de la organización o en documentación similar de cara al público.
3. Requisitos de Divulgación
Las organizaciones deben divulgar a sus usuarios que están interactuando con un sistema de IA en lugar de con un ser humano.
Anthropic auditará periódicamente a las organizaciones para verificar el cumplimiento de estas medidas de protección. Si su organización tiene una tasa de violación alta y no ha implementado estas recomendaciones de seguridad, podemos solicitarle que las implemente. El incumplimiento de estas recomendaciones cuando se solicite, o una tasa de violación continuamente alta, puede resultar en la suspensión o terminación de su cuenta.