Chez Anthropic, nous reconnaissons les vulnérabilités et les besoins uniques des enfants dans les espaces numériques. Afin de créer un environnement numérique plus sûr et d'atténuer les risques, les organisations fournissant aux mineurs la capacité d'interagir directement avec des produits qui intègrent nos API(s) devraient mettre en œuvre les mesures de protection suivantes :
1. Mesures techniques supplémentaires
Les organisations proposant des produits destinés aux mineurs devraient mettre en œuvre des fonctionnalités de sécurité supplémentaires adaptées à leurs cas d'usage uniques, car elles sont les mieux placées pour comprendre les façons spécifiques dont leurs utilisateurs finaux peuvent interagir avec les produits qui intègrent les services d'Anthropic. Ces mesures de sécurité peuvent inclure, sans s'y limiter :
Des systèmes de vérification de l'âge pour s'assurer que seuls les utilisateurs prévus peuvent accéder au produit
La modération et le filtrage du contenu pour bloquer les contenus inappropriés ou nuisibles
Des mécanismes de surveillance et de signalement pour identifier et résoudre les problèmes potentiels
Des ressources éducatives et des conseils pour les mineurs sur l'utilisation sûre et responsable du produit
En plus de ces mesures spécifiques à l'organisation, Anthropic peut mettre à disposition des mesures techniques destinées à adapter les expériences de produit pour certains utilisateurs finaux, y compris les mineurs. Par exemple, nous pouvons fournir un système d'invite de sécurité pour enfants, que les organisations servant les mineurs devraient mettre en œuvre dans le cadre d'une suite complète de mesures de sécurité. Il est important de noter que, bien qu'utiles, ces mesures techniques ne sont pas infaillibles et devraient être utilisées conjointement avec les propres fonctionnalités de sécurité de l'organisation pour assurer une approche robuste de la sécurité des enfants.
2. Conformité réglementaire
Il est de la responsabilité des organisations de se conformer à tous les règlements applicables en matière de sécurité des enfants et de confidentialité des données, tels que la Loi sur la protection de la vie privée des enfants en ligne (COPPA) aux États-Unis. La conformité à ces règlements devrait être clairement indiquée sur le site Web de l'organisation ou dans une documentation similaire accessible au public.
3. Exigences en matière de divulgation
Les organisations doivent divulguer à leurs utilisateurs qu'ils interagissent avec un système d'IA plutôt qu'avec un humain.
Anthropic audittera périodiquement les organisations pour vérifier leur conformité avec ces mesures de protection. Si votre organisation a un taux de violation élevé et n'a pas mis en œuvre ces recommandations de sécurité, nous pouvons vous demander de les mettre en œuvre. Le non-respect de ces recommandations lorsqu'elles sont demandées, ou un taux de violation élevé continu, peut entraîner la suspension ou la résiliation de votre compte.