Guía de seguridad infantil para desarrolladores

Anthropic adopta un enfoque de Seguridad por Diseño para la seguridad infantil. Somos signatarios de los principios de Seguridad por Diseño de Thorn y All Tech Is Human para IA generativa e informamos sobre nuestro progreso en el Centro de Transparencia. En la práctica, esto significa que aplicamos entrenamiento de seguridad diseñado para que nuestros modelos rechacen solicitudes que sexualicen o pongan en peligro a menores, operamos sistemas de detección y monitoreo en todos nuestros servicios, e informamos sobre aparente CSAM y otras formas de explotación infantil al Centro Nacional para Niños Desaparecidos y Explotados (NCMEC). Nuestros servicios de consumidor de primera parte se restringen a usuarios de 18 años o más, y Claude no produce salida de imagen o video fotorrealista.

Estas protecciones se aplican en toda nuestra plataforma. Debido a que controlas el diseño de tu producto, la base de usuarios y los flujos de contenido, estás en la mejor posición para abordar los riesgos específicos de tu implementación.

Todos los desarrolladores que construyen en la API de Anthropic deben cumplir con nuestra Política de Uso, que prohíbe usar nuestros productos o servicios para comprometer la seguridad de los niños. Esto incluye, entre otras cosas, crear, distribuir o promover CSAM, incluido CSAM generado por IA; facilitar el grooming, tráfico, sextorsión u otra explotación de un menor; y sexualizar a menores en cualquier contexto, incluida ficción o juego de rol.

Estas obligaciones se aplican independientemente del tamaño o caso de uso de tu plataforma. Si bien es posible que ya prohíbas esta actividad, tus usuarios finales o clientes pueden cargar CSAM, solicitar contenido sexualizado que involucre a menores, o usar resultados para facilitar grooming o sextorsión. Eres responsable de implementar salvaguardas apropiadas contra estos riesgos en tu implementación. Monitoreamos el uso de la API para detectar violaciones de la Política de Uso y tomamos medidas de cumplimiento consistentes con nuestras políticas y obligaciones legales.

Además, si tu producto permite que menores interactúen directamente con nuestros modelos, consulta nuestras Directrices para Organizaciones que Sirven a Menores, que establece las salvaguardas adicionales que Anthropic requiere para esa audiencia. Esta guía cubre una variedad de medidas posibles, incluyendo pero no limitado a sistemas de verificación de edad, moderación y filtrado de contenido, mecanismos de monitoreo e informes, y requisitos de cumplimiento normativo y divulgación.

Ya sea que hayas recibido una notificación de Anthropic sobre contenido prohibido o estés construyendo proactivamente tus salvaguardas, los recursos a continuación pueden ayudarte a orientarte en la implementación de infraestructura de detección, informes y respuesta apropiada para tu plataforma.

No existe una arquitectura única correcta para un programa de seguridad infantil. El enfoque viable depende de tu plataforma; su tamaño; las superficies donde los usuarios pueden interactuar, enviar o generar contenido; y tu jurisdicción. Muchas plataformas ya han construido capacidades de prevención y respuesta adaptadas a sus propios contextos, y el campo ha desarrollado orientación compartida, herramientas e infraestructura de informes que los programas más nuevos pueden aprovechar. Las organizaciones a continuación ofrecen recursos que muchas plataformas utilizan como punto de partida. Anthropic no requiere que uses ningún proveedor o programa específico.

Principios de diseño. Thorn y All Tech Is Human han publicado Seguridad por Diseño para IA Generativa, un conjunto de principios y mitigaciones prácticas para prevenir el abuso sexual infantil en las fases de desarrollo, implementación y mantenimiento de un producto de IA. Anthropic es signatario de estos principios, y alentamos a los desarrolladores que construyen en nuestros modelos a considerarlos al diseñar sus propias salvaguardas.

Servicios de detección y bloqueo. Si tu implementación permite que los usuarios carguen o generen imágenes o videos, o interactúen con otros usuarios, puedes implementar detección en tu propia infraestructura. Las organizaciones pueden optar por construir clasificadores personalizados adaptados a su modelo de amenaza, aunque para muchos, una solución de proveedor o socio puede ser el camino más práctico. Hay varios proveedores que ofrecen soluciones de coincidencia de hash, clasificadores de imagen, video o texto. Por ejemplo, una opción ampliamente implementada es Safer de Thorn, que proporciona coincidencia de hash contra CSAM conocido y clasificadores para material novedoso y señales de grooming. La Fundación Internet Watch (IWF) ofrece a sus empresas miembros una suite de servicios para detectar, bloquear y responder a CSAM en sus plataformas, incluyendo listas de hash y una lista de bloqueo de URL. El programa Pathways de la Tech Coalition (descrito a continuación) puede ayudar a las empresas a evaluar y acceder a opciones de detección adaptadas a su plataforma.

Desarrollo de programas y orientación operativa. La Tech Coalition es una alianza industrial enfocada en prevenir la explotación y el abuso sexual infantil en línea. Su programa gratuito Pathways está diseñado para startups y plataformas pequeñas a medianas y proporciona plantillas para construir un programa de seguridad infantil, orientación sobre detección de CSAM e informes a NCMEC, información sobre requisitos regulatorios globales, y apoyo en riesgos emergentes como sextorsión financiera y daños generados por IA. Anthropic es miembro de Tech Coalition. Puedes contactar al equipo de Tech Coalition para una consulta inicial.

Informes. Las plataformas basadas en EE.UU. con conocimiento real de aparente CSAM están legalmente obligadas a informar a la Línea Cibernética de NCMEC. Las plataformas pueden registrarse con NCMEC para obtener acceso al sistema de informes de la Línea Cibernética, y NCMEC publica recursos legales adicionales sobre obligaciones de informes. Las plataformas que operan en otras jurisdicciones deben consultar los requisitos de informes locales; INHOPE mantiene un directorio de líneas directas nacionales. A medida que construyas tu programa, considera incorporar registro para fines de informes de transparencia.

Esta página se proporciona solo con fines informativos y no constituye asesoramiento legal ni respaldo por parte de Anthropic. Consulta con tu propio asesor legal sobre tus obligaciones específicas.