Bei Anthropic erkennen wir die einzigartigen Anfälligkeiten und Bedürfnisse von Kindern in digitalen Räumen an. Um eine sicherere digitale Umgebung zu schaffen und Risiken zu mindern, sollten Organisationen, die Minderjährigen die Möglichkeit geben, direkt mit Produkten zu interagieren, die unsere API(s) enthalten, die folgenden Schutzmaßnahmen implementieren:
1. Zusätzliche technische Maßnahmen
Organisationen mit Produkten für Minderjährige sollten zusätzliche Sicherheitsfunktionen implementieren, die auf ihre einzigartigen Anwendungsfälle zugeschnitten sind, da sie am besten verstehen, wie ihre Endbenutzer mit Produkten interagieren können, die Anthropic-Dienste enthalten. Diese Sicherheitsmaßnahmen können unter anderem Folgendes umfassen:
Altersverifikationssysteme, um sicherzustellen, dass nur beabsichtigte Benutzer auf das Produkt zugreifen können
Inhaltsmoderation und Filterung, um unangemessene oder schädliche Inhalte zu blockieren
Überwachungs- und Meldungsmechanismen, um potenzielle Probleme zu identifizieren und zu beheben
Bildungsressourcen und Anleitungen für Minderjährige zur sicheren und verantwortungsvollen Nutzung des Produkts
Zusätzlich zu diesen organisationsspezifischen Maßnahmen kann Anthropic technische Maßnahmen bereitstellen, die Produkterfahrungen für bestimmte Endbenutzer, einschließlich Minderjähriger, anpassen sollen. Beispielsweise können wir ein Kindersicherheits-System-Prompt bereitstellen, das Organisationen, die Minderjährige bedienen, als Teil einer umfassenden Sicherheitsmaßnahmensuite implementieren sollten. Es ist wichtig zu beachten, dass diese technischen Maßnahmen, obwohl hilfreich, nicht fehlerfrei sind und in Verbindung mit den eigenen Sicherheitsfunktionen der Organisation verwendet werden sollten, um einen robusten Ansatz zur Kindersicherheit zu gewährleisten.
2. Einhaltung von Vorschriften
Es ist die Verantwortung von Organisationen, alle geltenden Kindersicherheits- und Datenschutzbestimmungen einzuhalten, wie beispielsweise den Children's Online Privacy Protection Act (COPPA) in den Vereinigten Staaten. Die Einhaltung dieser Bestimmungen sollte auf der Website der Organisation oder in ähnlicher öffentlich zugänglicher Dokumentation klar dargelegt werden.
3. Offenlegungspflichten
Organisationen müssen ihren Benutzern offenlegen, dass sie mit einem KI-System und nicht mit einem Menschen interagieren.
Anthropic wird Organisationen regelmäßig auf die Einhaltung dieser Schutzmaßnahmen überprüfen. Wenn Ihre Organisation eine hohe Verletzungsquote aufweist und diese Sicherheitsempfehlungen nicht implementiert hat, können wir Sie auffordern, diese zu implementieren. Die Nichtimplementierung dieser Empfehlungen auf Anfrage oder eine anhaltend hohe Verletzungsquote kann zur Aussetzung oder Beendigung Ihres Kontos führen.