Cowork доступен как исследовательский предпросмотр для подписчиков плана Max, использующих приложение Claude Desktop на macOS. Пользователи других планов могут присоединиться к списку ожидания для получения доступа в будущем.
Понимание рисков
Cowork — это исследовательский предпросмотр с уникальными рисками из-за его агентивной природы и доступа в интернет.
Чтобы минимизировать риски:
Избегайте предоставления доступа к локальным файлам с конфиденциальной информацией, таким как финансовые документы.
При использовании расширения Claude в Chrome ограничивайте доступ только доверенными сайтами.
Если вы решили расширить стандартные параметры доступа Claude в интернет, будьте осторожны и расширяйте доступ только на сайты, которым вы доверяете.
Следите за Claude на предмет подозрительных действий, которые могут указывать на инъекцию подсказок.
Важно: Cowork имеет доступ к Claude в Chrome; мы настоятельно рекомендуем не использовать Claude в Chrome для управления или выполнения действий, связанных с конфиденциальной информацией. Дополнительную информацию о потенциальных рисках см. в разделе Безопасное использование Claude в Chrome.
Наши меры безопасности
Мы реализовали несколько уровней защиты:
Обучение модели: Мы используем обучение с подкреплением, чтобы обучить Claude распознавать и отклонять вредоносные инструкции — даже когда они выглядят авторитетными или срочными.
Классификаторы контента: Мы сканируем весь недоверенный контент, поступающий в контекст Claude, и отмечаем потенциальные инъекции до того, как они смогут повлиять на поведение.
Важно: Хотя мы внедрили эти меры безопасности для снижения рисков, вероятность атаки все еще не равна нулю. Всегда проявляйте осторожность при использовании Cowork.
Защита от злоумышленников
1. Будьте избирательны в отношении доступа к файлам
Вы контролируете, какие локальные файлы может читать Claude. Поскольку Claude может читать, писать и безвозвратно удалять эти файлы, будьте осторожны при предоставлении доступа к конфиденциальной информации, такой как финансовые документы, учетные данные или личные записи. Рассмотрите возможность создания выделенной рабочей папки для Claude вместо предоставления широкого доступа и сохраняйте резервные копии важных файлов.
2. Следите за задачами, а не только за командами
Cowork выполняет код и команды от вашего имени. Хотя мы показываем, что делает Claude, вы не должны ожидать проверки каждой отдельной команды — вместо этого следите за неожиданными закономерностями: Claude получает доступ к файлам или веб-сайтам, которые вы не упоминали? Область задачи выходит за пределы того, что вы просили? Если что-то кажется неправильным, немедленно остановите задачу.
3. Ограничивайте доступ браузера и веб-доступ только доверенными источниками
Если вы используете расширение Claude в Chrome с Cowork, ограничивайте доступ только сайтами, которым вы доверяете. Веб-контент — это основной вектор для атак инъекции подсказок — вредоносные инструкции могут быть скрыты на веб-сайтах, в письмах или документах, к которым Claude получает доступ. Стандартный сетевой доступ Claude намеренно ограничен; расширяйте его только на сайты, которым вы доверяете.
4. Будьте особенно осторожны с незнакомыми MCP
Расширения для рабочего стола (MCP) расширяют возможности Claude, но каждое из них вводит новые способы атак на Claude. Придерживайтесь проверенных расширений из каталога Claude Desktop и тщательно оцените разрешения, которые запрашивает любое расширение, перед установкой.
5. Немедленно сообщайте о подозрительном поведении
Если Claude внезапно начинает обсуждать несвязанные темы, пытается получить доступ к неожиданным ресурсам или запрашивает конфиденциальную информацию без приглашения, остановите задачу и сообщите об этом на адрес [email protected] или используйте кнопку обратной связи в приложении. Ваши отчеты помогают нам улучшить нашу защиту.
Ваша ответственность
Вы остаетесь ответственны за все действия, выполняемые Claude от вашего имени. Это включает:
Любой опубликованный контент или отправленные сообщения
Покупки или финансовые операции
Доступ к данным или их изменение
Соблюдение условий обслуживания веб-сайтов третьих сторон, включая любые ограничения на автоматизированный доступ
Для получения дополнительной информации об безопасном использовании AI-агентов, пожалуйста, ознакомьтесь с нашей Политикой приемлемого использования для агентов