開発者向けの児童安全ガイダンス

Anthropicは児童安全に対してセーフティ・バイ・デザインのアプローチを採用しています。当社はThornおよび全Tech Is Humanの生成AIに関するセーフティ・バイ・デザイン原則の署名者であり、トランスペアレンシーハブで進捗状況を報告しています。実際には、未成年者を性的対象化または危険にさらすリクエストを拒否するように設計された安全トレーニングを適用し、当社のサービス全体で検出および監視システムを運用し、明らかなCSAMおよび他の児童搾取の形態を全米行方不明・被搾取児童センター（NCMEC）に報告しています。当社のファーストパーティ消費者向けサービスは18歳以上のユーザーに限定されており、Claudeは写真のようにリアルな画像またはビデオ出力を生成しません。

これらの保護はプラットフォーム全体に適用されます。製品の設計、ユーザーベース、およびコンテンツフローを制御するのはあなたであるため、あなたの展開に固有のリスクに対処する立場にあります。

AnthropicのAPIを使用して構築するすべての開発者は、当社の利用規約に準拠する必要があります。この規約は、児童の安全を損なうために当社の製品またはサービスを使用することを禁止しています。これには、特に、AI生成CSAMを含むCSAMの作成、配布、または宣伝、未成年者のグルーミング、人身売買、セックス恐喝、またはその他の搾取の促進、および虚構やロールプレイを含むあらゆる文脈での未成年者の性的対象化が含まれます。

これらの義務は、プラットフォームのサイズまたはユースケースに関係なく適用されます。プラットフォームがこのアクティビティを既に禁止している可能性がありますが、エンドユーザーまたは顧客がCSAMをアップロードしたり、未成年者を含む性的コンテンツを引き出したり、出力を使用してグルーミングまたはセックス恐喝を促進したりする可能性があります。あなたは、展開に対するこれらのリスクに対する適切なセーフガードを実装する責任があります。当社はAPI使用状況を監視して利用規約違反を検出し、当社のポリシーおよび法的義務に一致した執行措置を講じます。

さらに、製品が未成年者が当社のモデルと直接対話することを許可する場合は、未成年者にサービスを提供する組織向けガイドラインを参照してください。このガイドラインは、その対象者に対してAnthropicが要求する追加のセーフガードを規定しています。このガイダンスは、年齢確認システム、コンテンツモデレーションとフィルタリング、監視および報告メカニズム、規制遵守および開示要件を含むがこれに限定されない、さまざまな可能な対策をカバーしています。

Anthropicから禁止されたコンテンツについて通知を受け取ったか、積極的にセーフガードを構築しているかにかかわらず、以下のリソースは、プラットフォームに適切な検出、報告、および対応インフラストラクチャを構築する際に役立つことができます。

児童安全プログラムに単一の正しいアーキテクチャはありません。実行可能なアプローチは、プラットフォーム、そのサイズ、ユーザーがコンテンツを操作、送信、または生成できるサーフェス、および管轄区域によって異なります。多くのプラットフォームは既に独自のコンテキストに適した予防および対応機能を構築しており、このフィールドは、新しいプログラムが利用できる共有ガイダンス、ツール、および報告インフラストラクチャを開発しています。以下の組織は、多くのプラットフォームが出発点として使用するリソースを提供しています。Anthropicは、特定のベンダーまたはプログラムの使用を要求していません。

設計原則。ThornおよびAll Tech Is Humanは、生成AIのセーフティ・バイ・デザインを発表しました。これはAI製品の開発、展開、および保守段階全体で児童性的虐待を防ぐための原則と実践的な軽減策のセットです。Anthropicはこれらの原則の署名者であり、当社のモデルを使用して構築する開発者に、独自のセーフガードを設計する際にこれらを検討することをお勧めします。

検出およびブロッキングサービス。展開がユーザーに画像またはビデオのアップロードまたは生成、または他のユーザーとの対話を許可する場合、独自のインフラストラクチャで検出を実装できます。組織は、脅威モデルに合わせてカスタマイズされたカスタム分類器を構築することを選択できますが、多くの場合、ベンダーまたはパートナーソリューションがより実用的なパスになる可能性があります。ハッシュマッチング、画像、ビデオ、またはテキスト分類器ソリューションを提供するいくつかのプロバイダーがあります。たとえば、広く展開されているオプションの1つはThornの安全性であり、既知のCSAMに対するハッシュマッチングと新規素材およびグルーミング信号の分類器を提供します。インターネット監視財団（IWF）は、メンバー企業にサービススイートを提供し、プラットフォーム上のCSAMの検出、ブロック、および対応を行います。ハッシュリストとURLブロックリストが含まれます。Tech Coalitionのパスウェイプログラム（以下で説明）は、企業がプラットフォームに適した検出オプションを評価およびアクセスするのに役立ちます。

プログラム開発および運用ガイダンス。Tech Coalitionは、オンライン児童性的搾取および虐待の防止に焦点を当てた業界同盟です。その無料のパスウェイプログラムはスタートアップおよび中小規模のプラットフォーム向けに設計されており、児童安全プログラムを構築するためのテンプレート、CSAM検出およびNCMEC報告に関するガイダンス、グローバル規制要件への洞察、および金融セックス恐喝やAI生成害などの新興リスクに関するサポートを提供します。Anthropicはtech Coalitionのメンバーです。初期相談については、Tech Coalitionチームに連絡できます。

報告。明らかなCSAMの実際の知識を持つ米国ベースのプラットフォームは、法的にNCMECのサイバーティップラインに報告する必要があります。プラットフォームはNCMECに登録してサイバーティップライン報告システムへのアクセスを取得でき、NCMECは報告義務に関する追加の法的リソースを公開しています。他の管轄区域で運営しているプラットフォームは、地域の報告要件を参照する必要があります。INHOPEは国家ホットラインのディレクトリを維持しています。プログラムを構築する際に、透明性報告の目的でログを組み込むことを検討してください。

このページは情報提供のみを目的として提供されており、Anthropicによる法的助言または承認を構成しません。あなたの特定の義務に関しては、あなた自身の法的顧問に相談してください。