Unsere Verpflichtungen zur Kindersicherheit
Anthropic verfolgt einen Safety-by-Design-Ansatz zur Kindersicherheit. Wir sind Unterzeichner der Safety-by-Design-Prinzipien von Thorn und All Tech Is Human für generative KI und berichten über unsere Fortschritte im Transparency Hub. In der Praxis bedeutet dies, dass wir Sicherheitstraining anwenden, das unsere Modelle dazu bringt, Anfragen abzulehnen, die Minderjährige sexualisieren oder gefährden, Erkennungs- und Überwachungssysteme über unsere Dienste hinweg betreiben und mutmaßliche CSAM und andere Formen der Kinderausbeutung dem National Center for Missing & Exploited Children (NCMEC) melden. Unsere First-Party-Verbraucherdienste sind auf Benutzer ab 18 Jahren beschränkt, und Claude produziert keine fotorealistische Bild- oder Videoausgabe.
Diese Schutzmaßnahmen gelten auf unserer gesamten Plattform. Da Sie die Gestaltung, Benutzerbasis und Inhaltsflüsse Ihres Produkts kontrollieren, sind Sie am besten positioniert, um risiken zu adressieren, die für Ihre Bereitstellung spezifisch sind.
Ihre Verpflichtungen gemäß Anthropics Nutzungsrichtlinie
Alle Entwickler, die auf Anthropics API aufbauen, müssen unsere Nutzungsrichtlinie einhalten, die die Verwendung unserer Produkte oder Dienste zur Gefährdung der Kindersicherheit verbietet. Dies umfasst unter anderem das Erstellen, Verbreiten oder Fördern von CSAM, einschließlich KI-generiertem CSAM; das Erleichtern von Grooming, Menschenhandel, Sextortion oder anderer Ausbeutung eines Minderjährigen; und die Sexualisierung von Minderjährigen in jedem Kontext, einschließlich Fiktion oder Rollenspiel.
Diese Verpflichtungen gelten unabhängig von der Größe oder dem Anwendungsfall Ihrer Plattform. Obwohl Sie diese Aktivität möglicherweise bereits verbieten, können Ihre Endbenutzer oder Kunden CSAM hochladen, sexualisierte Inhalte mit Minderjährigen anfordern oder Ausgaben zur Erleichterung von Grooming oder Sextortion verwenden. Sie sind verantwortlich für die Implementierung angemessener Schutzmaßnahmen gegen diese Risiken bei Ihrer Bereitstellung. Wir überwachen die API-Nutzung auf Verstöße gegen die Nutzungsrichtlinie und ergreifen Durchsetzungsmaßnahmen, die mit unseren Richtlinien und rechtlichen Verpflichtungen vereinbar sind.
Wenn Ihr Produkt Minderjährigen die direkte Interaktion mit unseren Modellen ermöglicht, beachten Sie bitte unsere Richtlinien für Organisationen, die Minderjährige betreuen, die die zusätzlichen Schutzmaßnahmen festlegen, die Anthropic für diese Zielgruppe verlangt. Diese Anleitung umfasst eine Reihe möglicher Maßnahmen, einschließlich, aber nicht beschränkt auf Altersverifizierungssysteme, Inhaltsmoderation und Filterung, Überwachungs- und Meldungsmechanismen sowie behördliche Compliance- und Offenlegungsanforderungen.
Unabhängig davon, ob Sie eine Benachrichtigung von Anthropic über verbotene Inhalte erhalten haben oder proaktiv Ihre Schutzmaßnahmen aufbauen, können die folgenden Ressourcen Ihnen helfen, sich bei der Einrichtung von Erkennungs-, Meldungs- und Reaktionsinfrastruktur, die für Ihre Plattform geeignet ist, zu orientieren.
Aufbau eines Kindersicherheitsprogramms
Es gibt keine einzige richtige Architektur für ein Kindersicherheitsprogramm. Der praktikable Ansatz hängt von Ihrer Plattform, ihrer Größe, den Oberflächen, auf denen Benutzer Inhalte einreichen, generieren oder einreichen können, und Ihrer Gerichtsbarkeit ab. Viele Plattformen haben bereits Präventions- und Reaktionsfähigkeiten aufgebaut, die ihren eigenen Kontexten entsprechen, und das Feld hat gemeinsame Anleitungen, Tools und Meldungsinfrastruktur entwickelt, auf die neuere Programme aufbauen können. Die folgenden Organisationen bieten Ressourcen an, die viele Plattformen als Ausgangspunkt nutzen. Anthropic verlangt nicht, dass Sie einen bestimmten Anbieter oder ein bestimmtes Programm verwenden.
Designprinzipien. Thorn und All Tech Is Human haben Safety by Design für generative KI veröffentlicht, eine Reihe von Prinzipien und praktischen Maßnahmen zur Verhinderung von sexuellem Kindesmissbrauch in den Phasen Entwicklung, Bereitstellung und Wartung eines KI-Produkts. Anthropic ist ein Unterzeichner dieser Prinzipien, und wir ermutigen Entwickler, die auf unseren Modellen aufbauen, diese bei der Gestaltung ihrer eigenen Schutzmaßnahmen zu berücksichtigen.
Erkennungs- & Blockierungsdienste. Wenn Ihre Bereitstellung Benutzern das Hochladen oder Generieren von Bildern oder Videos oder die Interaktion mit anderen Benutzern ermöglicht, können Sie die Erkennung auf Ihrer eigenen Infrastruktur implementieren. Organisationen können sich dafür entscheiden, benutzerdefinierte Klassifizierer zu erstellen, die auf ihr Bedrohungsmodell zugeschnitten sind, aber für viele kann eine Anbieter- oder Partnerlösung der praktischere Weg sein. Es gibt mehrere Anbieter, die Hash-Matching-, Bild-, Video- oder Textklassifizierer-Lösungen anbieten. Beispielsweise ist eine weit verbreitete Option Thorns Safer, das Hash-Matching gegen bekannte CSAM und Klassifizierer für neues Material und Grooming-Signale bietet. Die Internet Watch Foundation (IWF) bietet ihren Mitgliedsunternehmen eine Reihe von Diensten zur Erkennung, Blockierung und Reaktion auf CSAM auf ihren Plattformen an, einschließlich Hash-Listen und einer URL-Blockliste. Das Pathways-Programm der Tech Coalition (siehe unten) kann Unternehmen dabei helfen, Erkennungsoptionen zu bewerten und zu nutzen, die für ihre Plattform geeignet sind.
Programmentwicklung und operative Anleitung. Die Tech Coalition ist ein Branchenbündnis, das sich auf die Verhinderung von Online-Kindersexualausbeutung und -missbrauch konzentriert. Sein kostenloses Pathways-Programm ist für Startups und kleine bis mittlere Plattformen konzipiert und bietet Vorlagen für den Aufbau eines Kindersicherheitsprogramms, Anleitungen zur CSAM-Erkennung und NCMEC-Meldung, Einblicke in globale behördliche Anforderungen und Unterstützung bei neuen Risiken wie finanzielle Sextortion und KI-generierte Schäden. Anthropic ist ein Tech-Coalition-Mitglied. Sie können das Tech-Coalition-Team für eine erste Beratung kontaktieren.
Meldung. US-basierte Plattformen mit tatsächlicher Kenntnis von mutmaßlichem CSAM sind gesetzlich verpflichtet, an NCMECs CyberTipline zu melden. Plattformen können sich bei NCMEC registrieren, um Zugriff auf das CyberTipline-Meldungssystem zu erhalten, und NCMEC veröffentlicht zusätzliche rechtliche Ressourcen zu Meldungsverpflichtungen. Plattformen, die in anderen Gerichtsbarkeiten tätig sind, sollten lokale Meldungsanforderungen konsultieren; INHOPE verwaltet ein Verzeichnis nationaler Hotlines. Während Sie Ihr Programm aufbauen, sollten Sie erwägen, Protokollierung für Transparenzmeldungszwecke zu integrieren.
Diese Seite wird nur zu Informationszwecken bereitgestellt und stellt keine Rechtsberatung oder Billigung durch Anthropic dar. Konsultieren Sie Ihren eigenen Rechtsbeistand bezüglich Ihrer spezifischen Verpflichtungen.