Guida sulla sicurezza dei minori per gli sviluppatori

Anthropic adotta un approccio Safety by Design per la sicurezza dei minori. Siamo firmatari dei principi Safety by Design di Thorn e All Tech Is Human per l'IA generativa e rendicontiamo i nostri progressi nell'Hub di trasparenza. In pratica, ciò significa che applichiamo un addestramento sulla sicurezza progettato per fare in modo che i nostri modelli rifiutino richieste che sessualizzano o mettono in pericolo i minori, gestiamo sistemi di rilevamento e monitoraggio su tutti i nostri servizi e segnaliamo apparenti CSAM e altre forme di sfruttamento di minori al National Center for Missing & Exploited Children (NCMEC). I nostri servizi consumer di prima parte sono limitati agli utenti di 18 anni e più, e Claude non produce output di immagini o video fotorealistici.

Queste protezioni si applicano su tutta la nostra piattaforma. Poiché controlli il design del tuo prodotto, la base di utenti e i flussi di contenuti, sei nella posizione migliore per affrontare i rischi specifici della tua implementazione.

Tutti gli sviluppatori che costruiscono sull'API di Anthropic sono tenuti a conformarsi alla nostra Politica di utilizzo, che vieta di utilizzare i nostri prodotti o servizi per compromettere la sicurezza dei minori. Ciò include, tra le altre cose, la creazione, distribuzione o promozione di CSAM, incluso CSAM generato da IA; facilitare l'adescamento, il traffico, la sextortion o altri sfruttamenti di un minore; e la sessualizzazione di minori in qualsiasi contesto, inclusa la fiction o il roleplay.

Questi obblighi si applicano indipendentemente dalle dimensioni della tua piattaforma o dal caso d'uso. Sebbene tu possa già vietare questa attività, i tuoi utenti finali o clienti potrebbero caricare CSAM, sollecitare contenuti sessualizzati che coinvolgono minori o utilizzare output per facilitare l'adescamento o la sextortion. Sei responsabile dell'implementazione di adeguate misure di salvaguardia contro questi rischi nella tua implementazione. Monitoriamo l'utilizzo dell'API per le violazioni della Politica di utilizzo e intraprendiamo azioni di applicazione coerenti con le nostre politiche e obblighi legali.

Inoltre, se il tuo prodotto consente ai minori di interagire direttamente con i nostri modelli, consulta le nostre Linee guida per le organizzazioni che servono i minori, che stabiliscono le misure di salvaguardia aggiuntive che Anthropic richiede per quel pubblico. Questa guida copre una serie di possibili misure, incluse ma non limitate a sistemi di verifica dell'età, moderazione e filtrazione dei contenuti, meccanismi di monitoraggio e segnalazione, e requisiti di conformità normativa e divulgazione.

Che tu abbia ricevuto una notifica da Anthropic su contenuti vietati o stia costruendo in modo proattivo le tue misure di salvaguardia, le risorse di seguito possono aiutarti a orientarti nell'implementazione di infrastrutture di rilevamento, segnalazione e risposta appropriate per la tua piattaforma.

Non esiste un'unica architettura corretta per un programma di sicurezza dei minori. L'approccio praticabile dipende dalla tua piattaforma; dalle sue dimensioni; dalle superfici in cui gli utenti possono interagire, inviare o generare contenuti; e dalla tua giurisdizione. Molte piattaforme hanno già costruito capacità di prevenzione e risposta adatte ai loro contesti, e il settore ha sviluppato una guida condivisa, strumenti e infrastrutture di segnalazione su cui i nuovi programmi possono fare affidamento. Le organizzazioni di seguito offrono risorse che molte piattaforme utilizzano come punto di partenza. Anthropic non ti richiede di utilizzare alcun fornitore o programma specifico.

Principi di progettazione. Thorn e All Tech Is Human hanno pubblicato Safety by Design per l'IA generativa, un insieme di principi e mitigazioni pratiche per prevenire l'abuso sessuale di minori nelle fasi di sviluppo, implementazione e manutenzione di un prodotto di IA. Anthropic è un firmatario di questi principi, e incoraggiamo gli sviluppatori che costruiscono sui nostri modelli a considerarli quando progettano le loro stesse misure di salvaguardia.

Servizi di rilevamento e blocco. Se la tua implementazione consente agli utenti di caricare o generare immagini o video, o interagire con altri utenti, puoi implementare il rilevamento sulla tua infrastruttura. Le organizzazioni possono scegliere di costruire classificatori personalizzati adattati al loro modello di minaccia, sebbene per molti, una soluzione di fornitore o partner potrebbe essere il percorso più pratico. Ci sono diversi provider che offrono soluzioni di hash-matching, classificatori di immagini, video o testo. Ad esempio, un'opzione ampiamente distribuita è Safer di Thorn, che fornisce hash-matching rispetto a CSAM noto e classificatori per materiale nuovo e segnali di adescamento. La Internet Watch Foundation (IWF) offre alle sue aziende associate una suite di servizi per rilevare, bloccare e rispondere a CSAM sulle loro piattaforme, inclusi elenchi di hash e un elenco di blocco degli URL. Il programma Pathways della Tech Coalition (descritto di seguito) può aiutare le aziende a valutare e accedere a opzioni di rilevamento adatte alla loro piattaforma.

Sviluppo del programma e guida operativa. La Tech Coalition è un'alleanza industriale focalizzata sulla prevenzione dello sfruttamento e dell'abuso sessuale online di minori. Il suo programma gratuito Pathways è progettato per startup e piattaforme piccole e medie e fornisce modelli per costruire un programma di sicurezza dei minori, guida sul rilevamento di CSAM e sulla segnalazione all'NCMEC, informazioni sui requisiti normativi globali e supporto su rischi emergenti come la sextortion finanziaria e i danni generati dall'IA. Anthropic è un membro della Tech Coalition. Puoi contattare il team della Tech Coalition per una consultazione iniziale.

Segnalazione. Le piattaforme con sede negli Stati Uniti che hanno effettiva conoscenza di apparente CSAM sono legalmente tenute a segnalare alla CyberTipline dell'NCMEC. Le piattaforme possono registrarsi con l'NCMEC per ottenere l'accesso al sistema di segnalazione CyberTipline, e l'NCMEC pubblica ulteriori risorse legali sugli obblighi di segnalazione. Le piattaforme che operano in altre giurisdizioni dovrebbero consultare i requisiti di segnalazione locali; INHOPE mantiene una directory di hotline nazionali. Mentre costruisci il tuo programma, considera l'incorporazione della registrazione ai fini della segnalazione sulla trasparenza.

Questa pagina è fornita solo a scopo informativo e non costituisce consulenza legale o approvazione da parte di Anthropic. Consulta il tuo consulente legale riguardo ai tuoi obblighi specifici.