Chez Anthropic, nous reconnaissons les vulnérabilités et les besoins uniques des enfants dans les espaces numériques. Afin de créer un environnement numérique plus sûr et d'atténuer les risques, les organisations offrant aux mineurs la possibilité d'interagir directement avec des produits qui intègrent notre ou nos API devraient mettre en œuvre les mesures de protection suivantes :
1. Mesures techniques supplémentaires
Les organisations dont les produits servent des mineurs devraient mettre en œuvre des fonctionnalités de sécurité supplémentaires adaptées à leurs cas d'utilisation uniques, car elles sont les mieux placées pour comprendre les façons spécifiques dont leurs utilisateurs finaux peuvent interagir avec des produits qui intègrent les services d'Anthropic. Ces mesures de sécurité peuvent inclure, sans s'y limiter :
Des systèmes de vérification de l'âge pour garantir que seuls les utilisateurs prévus peuvent accéder au produit
La modération et le filtrage du contenu pour bloquer le contenu inapproprié ou nuisible
Des mécanismes de surveillance et de signalement pour identifier et traiter les problèmes potentiels
Des ressources éducatives et des conseils pour les mineurs sur l'utilisation sûre et responsable du produit
En plus de ces mesures spécifiques à l'organisation, Anthropic peut mettre à disposition des mesures techniques destinées à adapter les expériences de produit pour certains utilisateurs finaux, y compris les mineurs. Par exemple, nous pouvons fournir une invite système de sécurité pour les enfants, que les organisations servant des mineurs devraient mettre en œuvre dans le cadre d'une suite complète de mesures de sécurité. Il est important de noter que, bien qu'utiles, ces mesures techniques ne sont pas infaillibles et devraient être utilisées conjointement avec les propres fonctionnalités de sécurité de l'organisation pour garantir une approche robuste de la sécurité des enfants.
2. Conformité réglementaire
Il incombe aux organisations de se conformer à toutes les réglementations applicables en matière de sécurité des enfants et de confidentialité des données, telles que le Children's Online Privacy Protection Act (COPPA) aux États-Unis. La conformité à ces réglementations doit être clairement indiquée sur le site Web de l'organisation ou dans une documentation similaire accessible au public.
3. Exigences de divulgation
Les organisations doivent divulguer à leurs utilisateurs qu'ils interagissent avec un système d'IA plutôt qu'avec un humain.
Anthropic effectuera périodiquement des audits des organisations pour vérifier la conformité avec ces mesures de protection. Si votre organisation a un taux de violation élevé et n'a pas mis en œuvre ces recommandations de sécurité, nous pouvons vous demander de les mettre en œuvre. Le non-respect de ces recommandations lorsqu'elles sont demandées, ou un taux de violation élevé continu, peut entraîner la suspension ou la résiliation de votre compte.