Egal ob Sie gerade damit beginnen, Schutzmaßnahmen für Ihre Claude-API-Bereitstellung einzurichten, oder Ihre Bereitstellung bereits läuft – hier sind einige Strategien, die Sie beim Aufbau Ihres eigenen KI-Sicherheitsprogramms berücksichtigen sollten. Diese Vorschläge sollen Ihnen helfen, unsere Nutzungsbedingungen und Nutzungsrichtlinie einzuhalten, die bestimmte Verwendungen von Claude untersagen. Die Nichtbeachtung der Nutzungsbedingungen und Nutzungsrichtlinie kann zur Sperrung oder Beendigung Ihres Zugriffs auf die Dienste führen.
Grundlegende Schutzmaßnahmen
Speichern Sie IDs, die mit jedem API-Aufruf verknüpft sind, damit Sie bei Bedarf spezifische Verstöße in Ihren Systemen finden können.
Erwägen Sie, Benutzern IDs zuzuweisen, mit denen Sie bestimmte Personen verfolgen können, die gegen Anthropics AUP verstoßen, um gezielter gegen Missbrauch vorgehen zu können.
Die Entscheidung, IDs über die API an Anthropic zu übermitteln, liegt bei Ihnen. Falls bereitgestellt, können wir Verstöße präziser identifizieren. Um die Privatsphäre der Endbenutzer zu schützen, sollten alle übermittelten IDs kryptografisch gehasht werden.
Erwägen Sie, dass Kunden sich auf Ihrer Plattform registrieren müssen, bevor sie Claude nutzen
Stellen Sie sicher, dass Ihre Kunden die zulässigen Verwendungen verstehen
Warnen Sie, drosseln Sie oder sperren Sie Benutzer, die wiederholt gegen Anthropics Nutzungsbedingungen und Nutzungsrichtlinie verstoßen
Mittlere Schutzmaßnahmen
Erstellen Sie Anpassungsrahmen, die die Interaktionen von Endbenutzern mit Claude auf einen begrenzten Satz von Prompts beschränken oder Claude nur zur Überprüfung eines bestimmten Wissensspeichers erlauben, den Sie bereits haben, um die Möglichkeit von Benutzern, gegen Richtlinien zu verstoßen, zu verringern.
Anthropic führt standardmäßig Echtzeit-Schutzmaßnahmen für API-Ein- und Ausgaben durch. Es gibt keinen zusätzlichen Opt-in-Filter zum Aktivieren. Sie können Ihre eigene Moderationsebene in Ihrer Anwendung hinzufügen; siehe die Moderationsleitlinien in der Entwicklerdokumentation.
Für Bedrock-Kunden:
Aktivieren Sie Ihren privaten S3-Bucket, um Prompts und Vervollständigungen für Ihre eigene Bewertung zu speichern
Erweiterte Schutzmaßnahmen
Führen Sie eine Moderations-API für alle Endbenutzer-Prompts aus, bevor sie an Claude gesendet werden, um sicherzustellen, dass sie nicht schädlich sind
Umfassende Schutzmaßnahmen
Richten Sie ein internes Überprüfungssystem ein, um Prompts zu kennzeichnen, die von Claude (für die Inhaltsmoderation verwendet) oder einer Moderations-API als schädlich gekennzeichnet sind, damit Sie eingreifen können, um Benutzer mit hohen Verstoßquoten einzuschränken oder zu entfernen.