Cowork은 macOS의 Claude Desktop 앱을 사용하는 Max 플랜 구독자를 위한 연구 미리보기로 제공됩니다. 다른 플랜의 사용자는 향후 접근을 위해 대기 목록에 참여할 수 있습니다.
위험 이해하기
Cowork은 에이전트 특성과 인터넷 접근으로 인한 고유한 위험이 있는 연구 미리보기입니다.
위험을 최소화하려면:
재무 문서와 같은 민감한 정보가 포함된 로컬 파일에 대한 접근 권한을 부여하지 마세요.
Chrome 확장 프로그램에서 Claude를 사용할 때 신뢰할 수 있는 사이트로만 접근을 제한하세요.
Claude의 기본 인터넷 접근 설정을 확장하기로 선택한 경우, 신뢰하는 사이트로만 인터넷 접근을 확장하도록 주의하세요.
프롬프트 주입을 나타낼 수 있는 의심스러운 행동이 없는지 Claude를 모니터링하세요.
중요: Cowork은 Claude in Chrome에 접근할 수 있으므로, Claude in Chrome을 사용하여 민감한 정보와 관련된 작업을 관리하거나 수행하지 않을 것을 강력히 권장합니다. 잠재적 위험에 대한 자세한 내용은 Claude in Chrome 안전하게 사용하기를 참조하세요.
당사의 안전 조치
우리는 여러 계층의 보호를 구현했습니다:
모델 훈련: 우리는 강화 학습을 사용하여 Claude가 악의적인 지시사항을 인식하고 거부하도록 훈련합니다. 이는 지시사항이 권위 있거나 긴급해 보이는 경우에도 마찬가지입니다.
콘텐츠 분류기: Claude의 컨텍스트에 들어오는 모든 신뢰할 수 없는 콘텐츠를 스캔하고 잠재적 주입을 동작에 영향을 미치기 전에 플래그합니다.
중요: 이러한 안전 조치를 시행하여 위험을 줄였지만, 공격의 가능성은 여전히 0이 아닙니다. Cowork을 사용할 때 항상 주의를 기울이세요.
악의적인 공격자로부터 자신을 보호하기
1. 파일 접근에 대해 선택적이기
Claude가 접근할 수 있는 로컬 파일을 제어합니다. Claude는 이러한 파일을 읽고, 쓰고, 영구적으로 삭제할 수 있으므로, 재무 문서, 자격 증명 또는 개인 기록과 같은 민감한 정보에 대한 접근 권한을 부여할 때 주의하세요. Claude를 위한 전용 작업 폴더를 만드는 것을 고려하고 광범위한 접근을 부여하지 마세요. 중요한 파일의 백업을 유지하세요.
2. 명령어가 아닌 작업 모니터링하기
Cowork은 사용자를 대신하여 코드와 명령어를 실행합니다. Claude가 무엇을 하고 있는지 표시하지만, 모든 개별 명령어를 검증할 것으로 기대해서는 안 됩니다. 대신 예상치 못한 패턴을 살펴보세요: Claude가 언급하지 않은 파일이나 웹사이트에 접근하고 있나요? 작업 범위가 요청한 것을 넘어 확대되고 있나요? 뭔가 이상하면 즉시 작업을 중지하세요.
3. 브라우저 및 웹 접근을 신뢰할 수 있는 소스로 제한하기
Cowork과 함께 Claude in Chrome 확장 프로그램을 사용하는 경우, 신뢰하는 사이트로만 접근을 제한하세요. 웹 콘텐츠는 프롬프트 주입 공격의 주요 벡터입니다. 악의적인 지시사항은 Claude가 접근하는 웹사이트, 이메일 또는 문서에 숨겨질 수 있습니다. Claude의 기본 네트워크 접근은 의도적으로 제한되어 있습니다. 신뢰하는 사이트로만 확장하세요.
4. 낯선 MCP에 특히 주의하기
데스크톱 확장 프로그램(MCP)은 Claude가 할 수 있는 일을 확장하지만, 각각은 공격이 Claude에 도달할 수 있는 새로운 방법을 도입합니다. Claude Desktop 디렉토리의 검증된 확장 프로그램을 사용하고, 설치하기 전에 모든 확장 프로그램이 요청하는 권한을 신중하게 평가하세요.
5. 의심스러운 행동을 즉시 보고하기
Claude가 갑자기 관련 없는 주제에 대해 논의하기 시작하거나, 예상치 못한 리소스에 접근을 시도하거나, 예고 없이 민감한 정보를 요청하는 경우, 작업을 중지하고 [email protected]에 보고하거나 앱 내 피드백 버튼을 사용하세요. 귀하의 보고는 우리의 방어를 개선하는 데 도움이 됩니다.