Cowork ist als Research Preview für Max-Plan-Abonnenten verfügbar, die die Claude Desktop-App auf macOS verwenden. Benutzer anderer Pläne können sich auf die Warteliste setzen, um zukünftigen Zugriff zu erhalten.
Die Risiken verstehen
Cowork ist eine Research Preview mit einzigartigen Risiken aufgrund seiner agentengestützten Natur und des Internetzugriffs.
Um Risiken zu minimieren:
Vermeiden Sie, Zugriff auf lokale Dateien mit sensiblen Informationen wie Finanzdokumenten zu gewähren.
Wenn Sie die Claude in Chrome-Erweiterung verwenden, beschränken Sie den Zugriff auf vertrauenswürdige Websites.
Wenn Sie Claudes Standard-Internetzugriffseinstellungen erweitern möchten, seien Sie vorsichtig und erweitern Sie den Internetzugriff nur auf Websites, denen Sie vertrauen.
Überwachen Sie Claude auf verdächtige Aktionen, die auf Prompt-Injection hindeuten könnten.
Wichtig: Cowork hat Zugriff auf Claude in Chrome; wir raten dringend davon ab, Claude in Chrome zu verwenden, um sensible Informationen zu verwalten oder Aktionen durchzuführen. Weitere Informationen zu den potenziellen Risiken finden Sie unter Claude in Chrome sicher verwenden.
Unsere Sicherheitsmaßnahmen
Wir haben mehrere Schutzebenen implementiert:
Modelltraining: Wir verwenden Reinforcement Learning, um Claude zu trainieren, böswillige Anweisungen zu erkennen und abzulehnen – auch wenn sie autoritär oder dringend wirken.
Content-Klassifizierer: Wir scannen alle nicht vertrauenswürdigen Inhalte, die in Claudes Kontext eingehen, und kennzeichnen potenzielle Injektionen, bevor sie das Verhalten beeinflussen können.
Wichtig: Obwohl wir diese Sicherheitsmaßnahmen implementiert haben, um Risiken zu verringern, ist die Wahrscheinlichkeit eines Angriffs immer noch nicht null. Üben Sie immer Vorsicht bei der Verwendung von Cowork.
Schutz vor böswilligen Angreifern
1. Seien Sie selektiv beim Dateizugriff
Sie kontrollieren, auf welche lokalen Dateien Claude zugreifen kann. Da Claude diese Dateien lesen, schreiben und dauerhaft löschen kann, seien Sie vorsichtig beim Gewähren von Zugriff auf sensible Informationen wie Finanzdokumente, Anmeldedaten oder persönliche Daten. Erwägen Sie, einen dedizierten Arbeitsordner für Claude zu erstellen, anstatt breiten Zugriff zu gewähren, und führen Sie Sicherungen wichtiger Dateien durch.
2. Überwachen Sie Aufgaben, nicht nur Befehle
Cowork führt Code und Befehle in Ihrem Namen aus. Obwohl wir anzeigen, was Claude tut, sollten Sie nicht erwarten, jeden einzelnen Befehl zu validieren – achten Sie stattdessen auf unerwartete Muster: Greift Claude auf Dateien oder Websites zu, die Sie nicht erwähnt haben? Wächst der Aufgabenumfang über das hinaus, was Sie gefragt haben? Wenn etwas nicht stimmt, stoppen Sie die Aufgabe sofort.
3. Beschränken Sie Browser- und Webzugriff auf vertrauenswürdige Quellen
Wenn Sie die Claude in Chrome-Erweiterung mit Cowork verwenden, beschränken Sie den Zugriff auf Websites, denen Sie vertrauen. Webinhalte sind ein primärer Vektor für Prompt-Injection-Angriffe – böswillige Anweisungen können in Websites, E-Mails oder Dokumenten versteckt sein, auf die Claude zugreift. Claudes Standard-Netzwerkzugriff ist absichtlich eingeschränkt; erweitern Sie ihn nur auf Websites, denen Sie vertrauen.
4. Seien Sie besonders vorsichtig mit unbekannten MCPs
Desktop-Erweiterungen (MCPs) erweitern, was Claude tun kann, aber jede führt neue Wege ein, auf denen Angriffe Claude erreichen können. Halten Sie sich an verifizierte Erweiterungen aus dem Claude Desktop-Verzeichnis und bewerten Sie sorgfältig die Berechtigungen, die eine Erweiterung anfordert, bevor Sie sie installieren.
5. Melden Sie verdächtiges Verhalten sofort
Wenn Claude plötzlich anfängt, über unabhängige Themen zu diskutieren, versucht, auf unerwartete Ressourcen zuzugreifen, oder unaufgefordert sensible Informationen anfordert, stoppen Sie die Aufgabe und melden Sie dies an [email protected] oder verwenden Sie die In-App-Feedback-Schaltfläche. Ihre Berichte helfen uns, unsere Abwehrmechanismen zu verbessern.
Ihre Verantwortung
Sie bleiben verantwortlich für alle Aktionen, die Claude in Ihrem Namen durchführt. Dies umfasst:
Alle veröffentlichten Inhalte oder gesendeten Nachrichten
Käufe oder Finanztransaktionen
Auf Daten zugegriffen oder diese geändert
Einhaltung der Nutzungsbedingungen von Drittanbieter-Websites, einschließlich aller Einschränkungen für automatisierten Zugriff
Weitere Informationen zur sicheren Verwendung von KI-Agenten finden Sie in unserer Acceptable Use Policy for Agents.