開発者向けの児童安全ガイダンス

Anthropicは児童安全に対してセーフティ・バイ・デザインのアプローチを採用しています。当社はThornおよびAll Tech Is Humanの生成AIに関するセーフティ・バイ・デザイン原則の署名者であり、トランスペアレンシーハブで進捗状況を報告しています。実際には、未成年者を性的対象化または危険にさらすリクエストを拒否するように設計された安全トレーニングを適用し、当社のサービス全体で検出および監視システムを運用し、見かけ上のCSAMおよび他の児童搾取形態を全米行方不明・被搾取児童センター（NCMEC）に報告しています。当社のファーストパーティ消費者向けサービスは18歳以上のユーザーに限定されており、Claudeはフォトリアリスティックな画像またはビデオ出力を生成しません。

これらの保護はプラットフォーム全体に適用されます。製品の設計、ユーザーベース、およびコンテンツフローを制御するのはあなたであるため、あなたのデプロイメントに固有のリスクに対処する立場にあります。

Anthropic APIを使用して構築するすべての開発者は、当社の利用規約に準拠する必要があります。この規約は、児童の安全を損なうために当社の製品またはサービスを使用することを禁止しています。これには、特に、AI生成CSAMを含むCSAMの作成、配布、または宣伝、未成年者のグルーミング、人身売買、セックストーション、またはその他の搾取の促進、および虚構やロールプレイを含むあらゆる文脈での未成年者の性的対象化が含まれます。

これらの義務は、プラットフォームのサイズまたはユースケースに関係なく適用されます。既にこのアクティビティを禁止している可能性がありますが、エンドユーザーまたは顧客がCSAMをアップロードしたり、未成年者を含む性的コンテンツを引き出したり、出力を使用してグルーミングまたはセックストーションを促進したりする可能性があります。あなたのデプロイメントでこれらのリスクに対する適切なセーフガードを実装する責任があります。当社はAPI使用状況を監視して利用規約違反を検出し、当社のポリシーおよび法的義務に一致した執行措置を講じます。

さらに、製品が未成年者が当社のモデルと直接対話することを許可する場合は、未成年者にサービスを提供する組織向けガイドラインを参照してください。このガイドラインは、その対象者に対してAnthropicが要求する追加のセーフガードを規定しています。このガイダンスは、年齢確認システム、コンテンツモデレーションおよびフィルタリング、監視および報告メカニズム、規制遵守および開示要件を含むがこれに限定されない、さまざまな可能な対策をカバーしています。

Anthropicから禁止されたコンテンツについて通知を受け取ったか、積極的にセーフガードを構築しているかにかかわらず、以下のリソースは、プラットフォームに適切な検出、報告、および対応インフラストラクチャを構築する際に役立つことができます。

児童安全プログラムに単一の正しいアーキテクチャはありません。実行可能なアプローチは、プラットフォーム、そのサイズ、ユーザーがコンテンツを操作、送信、または生成できるサーフェス、およびあなたの管轄区域に依存します。多くのプラットフォームは既に独自のコンテキストに適した予防および対応機能を構築しており、このフィールドは、新しいプログラムが利用できる共有ガイダンス、ツール、および報告インフラストラクチャを開発しています。以下の組織は、多くのプラットフォームが出発点として使用するリソースを提供しています。Anthropicは、特定のベンダーまたはプログラムの使用を要求していません。

設計原則。ThornおよびAll Tech Is Humanは、生成AIのためのセーフティ・バイ・デザインを公開しており、AIプロダクトの開発、デプロイ、および保守段階全体で児童性的虐待を防止するための原則と実践的な軽減策のセットです。Anthropicはこれらの原則の署名者であり、当社のモデルを使用して構築する開発者に、独自のセーフガードを設計する際にこれらを検討することをお勧めします。

検出およびブロッキングサービス。デプロイメントがユーザーに画像またはビデオのアップロードまたは生成、または他のユーザーとの対話を許可する場合、独自のインフラストラクチャで検出を実装できます。組織は、脅威モデルに合わせてカスタマイズされたカスタム分類器を構築することを選択できますが、多くの場合、ベンダーまたはパートナーソリューションがより実用的なパスになる可能性があります。ハッシュマッチング、画像、ビデオ、またはテキスト分類器ソリューションを提供するいくつかのプロバイダーがあります。たとえば、広く展開されているオプションの1つはThornのSaferであり、既知のCSAMに対するハッシュマッチングと新規素材およびグルーミング信号の分類器を提供します。インターネット・ウォッチ・ファウンデーション（IWF）は、メンバー企業にサービススイートを提供し、プラットフォーム上のCSAMの検出、ブロック、および対応を行います。これには、ハッシュリストとURLブロックリストが含まれます。Tech CoalitionのPathwaysプログラム（以下で説明）は、企業がプラットフォームに適した検出オプションを評価およびアクセスするのに役立ちます。

プログラム開発および運用ガイダンス。Tech Coalitionは、オンライン児童性的搾取および虐待の防止に焦点を当てた業界同盟です。その無料のPathwaysプログラムはスタートアップおよび中小規模プラットフォーム向けに設計されており、児童安全プログラムを構築するためのテンプレート、CSAM検出およびNCMEC報告に関するガイダンス、グローバル規制要件への洞察、および金銭的セックストーションおよびAI生成害などの新興リスクに関するサポートを提供します。Anthropicはtech Coalition会員です。Tech Coalitionチームに連絡して、初期相談を受けることができます。

報告。見かけ上のCSAMについて実際の知識を持つ米国ベースのプラットフォームは、法的にNCMECのCyberTiplineに報告する必要があります。プラットフォームはNCMECに登録してCyberTiplineレポートシステムへのアクセスを取得でき、NCMECは報告義務に関する追加の法的リソースを公開しています。他の管轄区域で運営しているプラットフォームは、地域の報告要件を参照する必要があります。INHOPEは国家ホットラインのディレクトリを維持しています。プログラムを構築する際に、透明性報告の目的でログを組み込むことを検討してください。

このページは情報提供のみを目的として提供されており、Anthropicによる法的助言または承認を構成するものではありません。あなたの特定の義務に関しては、あなた自身の法的顧問に相談してください。