Panduan keselamatan anak untuk pengembang

Anthropic menerapkan pendekatan Safety by Design untuk keselamatan anak. Kami adalah penandatangan prinsip Safety by Design Thorn dan All Tech Is Human untuk AI generatif dan melaporkan kemajuan kami di Transparency Hub. Dalam praktiknya, kami menerapkan pelatihan keselamatan yang dirancang untuk membuat model kami menolak permintaan yang menseksualkan atau membahayakan anak di bawah umur, mengoperasikan sistem deteksi dan pemantauan di seluruh layanan kami, dan melaporkan CSAM yang tampak dan bentuk eksploitasi anak lainnya ke National Center for Missing & Exploited Children (NCMEC). Layanan konsumen pihak pertama kami dibatasi untuk pengguna berusia 18 tahun ke atas, dan Claude tidak menghasilkan output gambar atau video yang fotorealistis.

Perlindungan ini berlaku di seluruh platform kami. Karena Anda mengontrol desain produk, basis pengguna, dan aliran konten Anda, Anda berada dalam posisi terbaik untuk mengatasi risiko spesifik untuk penerapan Anda.

Semua pengembang yang membangun di API Anthropic harus mematuhi Kebijakan Penggunaan kami, yang melarang penggunaan produk atau layanan kami untuk mengorbankan keselamatan anak. Ini termasuk, antara lain, membuat, mendistribusikan, atau mempromosikan CSAM, termasuk CSAM yang dihasilkan AI; memfasilitasi grooming, perdagangan, sextortion, atau eksploitasi anak lainnya; dan menseksualkan anak di bawah umur dalam konteks apa pun, termasuk fiksi atau roleplay.

Kewajiban ini berlaku terlepas dari ukuran atau kasus penggunaan platform Anda. Meskipun Anda mungkin sudah melarang aktivitas ini, pengguna akhir atau pelanggan Anda dapat mengunggah CSAM, meminta konten yang menseksualkan anak di bawah umur, atau menggunakan output untuk memfasilitasi grooming atau sextortion. Anda bertanggung jawab untuk menerapkan perlindungan yang sesuai terhadap risiko ini pada penerapan Anda. Kami memantau penggunaan API untuk pelanggaran Kebijakan Penggunaan dan mengambil tindakan penegakan yang konsisten dengan kebijakan dan kewajiban hukum kami.

Selain itu, jika produk Anda memungkinkan anak di bawah umur untuk berinteraksi langsung dengan model kami, silakan lihat Panduan untuk Organisasi yang Melayani Anak di Bawah Umur kami, yang menetapkan perlindungan tambahan yang Anthropic perlukan untuk audiens tersebut. Panduan ini mencakup berbagai kemungkinan tindakan, termasuk tetapi tidak terbatas pada sistem verifikasi usia, moderasi dan penyaringan konten, mekanisme pemantauan dan pelaporan, serta persyaratan kepatuhan dan pengungkapan peraturan.

Baik Anda telah menerima pemberitahuan dari Anthropic tentang konten yang dilarang atau secara proaktif membangun perlindungan Anda, sumber daya di bawah dapat membantu Anda memahami cara membangun infrastruktur deteksi, pelaporan, dan respons yang sesuai untuk platform Anda.

Tidak ada arsitektur tunggal yang benar untuk program keselamatan anak. Pendekatan yang layak tergantung pada platform Anda; ukurannya; permukaan tempat pengguna dapat terlibat, mengirimkan, atau menghasilkan konten; dan yurisdiksi Anda. Banyak platform telah membangun kemampuan pencegahan dan respons yang sesuai dengan konteks mereka sendiri, dan bidang ini telah mengembangkan panduan bersama, alat, dan infrastruktur pelaporan yang dapat digunakan oleh program yang lebih baru. Organisasi di bawah menawarkan sumber daya yang banyak platform gunakan sebagai titik awal. Anthropic tidak mengharuskan Anda menggunakan vendor atau program tertentu.

Prinsip desain. Thorn dan All Tech Is Human telah menerbitkan Safety by Design untuk AI Generatif, serangkaian prinsip dan mitigasi praktis untuk mencegah pelecehan seksual anak di seluruh fase pengembangan, penerapan, dan pemeliharaan produk AI. Anthropic adalah penandatangan prinsip-prinsip ini, dan kami mendorong pengembang yang membangun di model kami untuk mempertimbangkannya saat merancang perlindungan mereka sendiri.

Layanan deteksi & pemblokiran. Jika penerapan Anda memungkinkan pengguna mengunggah atau menghasilkan gambar atau video, atau berinteraksi dengan pengguna lain, Anda dapat menerapkan deteksi pada infrastruktur Anda sendiri. Organisasi dapat memilih untuk membangun pengklasifikasi khusus yang disesuaikan dengan model ancaman mereka, meskipun bagi banyak orang, solusi vendor atau mitra mungkin merupakan jalur yang lebih praktis. Ada beberapa penyedia yang menawarkan solusi pencocokan hash, gambar, video, atau pengklasifikasi teks. Misalnya, salah satu opsi yang banyak diterapkan adalah Safer milik Thorn, yang menyediakan pencocokan hash terhadap CSAM yang diketahui dan pengklasifikasi untuk materi baru dan sinyal grooming. Internet Watch Foundation (IWF) menawarkan perusahaan anggotanya rangkaian layanan untuk mendeteksi, memblokir, dan merespons CSAM di platform mereka, termasuk daftar hash dan daftar pemblokiran URL. Program Pathways Tech Coalition (dijelaskan di bawah) dapat membantu perusahaan mengevaluasi dan mengakses opsi deteksi yang sesuai dengan platform mereka.

Pengembangan program dan panduan operasional. Tech Coalition adalah aliansi industri yang berfokus pada pencegahan eksploitasi dan pelecehan seksual anak online. Program Pathways gratis kami dirancang untuk startup dan platform kecil hingga menengah dan menyediakan template untuk membangun program keselamatan anak, panduan tentang deteksi CSAM dan pelaporan NCMEC, wawasan tentang persyaratan peraturan global, dan dukungan tentang risiko yang muncul seperti sextortion keuangan dan kerusakan yang dihasilkan AI. Anthropic adalah anggota Tech Coalition. Anda dapat menghubungi tim Tech Coalition untuk konsultasi awal.

Pelaporan. Platform berbasis AS dengan pengetahuan aktual tentang CSAM yang tampak secara hukum harus melaporkan ke CyberTipline NCMEC. Platform dapat mendaftar dengan NCMEC untuk mendapatkan akses ke sistem pelaporan CyberTipline, dan NCMEC menerbitkan sumber daya hukum tambahan tentang kewajiban pelaporan. Platform yang beroperasi di yurisdiksi lain harus berkonsultasi dengan persyaratan pelaporan lokal; INHOPE memelihara direktori hotline nasional. Saat Anda membangun program Anda, pertimbangkan untuk menggabungkan pencatatan untuk tujuan pelaporan transparansi.

Halaman ini disediakan hanya untuk tujuan informasi dan tidak merupakan nasihat hukum atau dukungan oleh Anthropic. Konsultasikan dengan penasihat hukum Anda sendiri mengenai kewajiban spesifik Anda.