Claude가 Sonnet 5.5와의 대화에서 모델을 전환한 이유

이 문서에서는 Claude Sonnet 5.5에서 요청이 다른 모델로 폴백되거나 차단될 수 있는 이유, 채팅이 모델을 전환할 때 발생하는 상황, 자동 전환을 관리하는 방법을 설명합니다.

Claude Sonnet 5.5는 사이버보안 기능이 Claude Sonnet 5보다 상당히 향상되었기 때문에, 가장 강력한 모델을 위해 개발한 것과 같은 사이버 폴백을 갖춘 첫 번째 Sonnet 모델입니다. 생물학 보안 조치는 Sonnet 5와 동일합니다. 두 보안 조치 모두 좁은 범위의 고위험 요청을 대상으로 하며, 일상적인 소프트웨어 개발 및 대부분의 생명과학 작업은 영향을 받지 않습니다.

Sonnet 5.5로 전송된 대부분의 요청은 이러한 보안 조치를 만나지 않습니다. 좁은 범위의 고위험 요청은 Sonnet 5로 폴백되거나 직접 차단되므로, 일상적인 작업을 계속 지원하면서 오용 위험을 제한할 수 있습니다. 거짓 양성을 줄이기 위해 분류기를 미세 조정하는 것을 포함하여 정당한 요청을 더 적게 차단하도록 이러한 보안 조치를 계속 개선하고 있습니다. 귀하의 피드백은 이 작업을 안내하는 데 도움이 됩니다.

Sonnet 5.5는 모든 요청에 대해 자동화된 안전 검사(분류기)를 실행합니다. 검사는 최신 메시지뿐만 아니라 모델이 읽는 모든 것을 검토합니다. 여기에는 메모리, 커넥터의 콘텐츠, 웹 검색 결과 및 파일이 포함되므로, 폴백 또는 차단은 입력하지 않은 콘텐츠로 인해 트리거될 수 있습니다.

폴백 및 차단은 트리거된 분류기의 유형(사이버보안, 생물학, LLM 개발 또는 증류)에 따라 다르게 작동합니다.

Sonnet 5.5는 사이버 분류기가 잠재적으로 더 높은 위험의 공격적인 사이버보안 요청(예: 다음)을 플래그할 때 Claude Sonnet 5로 폴백할 수 있습니다:

소스 코드에서 취약점을 스캔하는 것과 같은 보안 코딩 사용 사례에 Sonnet 5.5를 계속 사용할 수 있습니다.

Sonnet 5.5는 누군가가 심각한 생물학적 해를 끼치는 데 도움이 될 수 있는 요청을 차단합니다. 생물학 차단은 다른 모델로 폴백되지 않으며, 요청이 완전히 차단됩니다.

Sonnet 5.5는 Sonnet 5와 동일한 생물학 보안 조치 세트를 사용합니다. 이들은 해로운 요청을 대상으로 하며, 대부분의 연구, 교육 및 임상 작업은 영향을 받지 않지만, 일부 미생물학 및 바이러스학 요청은 오류로 플래그될 수 있습니다. 조직은 생물학 관련 작업의 전체 범위를 위해 설계된 보안 조치에 액세스하기 위해 생명과학 검증 프로그램에 신청할 수 있습니다.

Sonnet 5.5는 특정 ML 가속기를 위한 커널 개발과 같은 가장 고급 LLM 개발과 관련된 작은 기능 세트에 대한 분류기를 가지고 있습니다. 이들은 대부분의 전통적인 AI 또는 ML 개발, 연구 또는 일반 코딩에 영향을 주지 않아야 합니다. 이러한 분류기가 요청을 플래그할 때, Claude는 Sonnet 5.5에서 Sonnet 5로 폴백합니다.

Sonnet 5.5는 모델의 내부 추론을 추출하려는 시도를 감지하고 직접 차단하는 분류기를 가지고 있습니다. 증류 차단은 다른 모델로 폴백되지 않으며, 요청이 완전히 차단됩니다.

차단된 요청의 예에는 Claude에게 추론을 그대로 반복하거나 전체 사고 과정을 외부 출력에 작성하도록 요청하는 프롬프트가 포함됩니다. Claude에게 추론을 설명하거나, 개념을 가르치거나, 코드 검토를 진행하도록 요청할 수 있습니다. "왜 그렇게 했나요?"와 같은 대화형 요청은 영향을 받지 않습니다.

자동 모델 전환은 기본적으로 활성화됩니다. 요청이 폴백되면, Claude는 동일한 대화에서 Sonnet 5에서 다시 실행합니다. 모든 폴백은 투명하므로, 모델이 전환되었음을 설명하는 알림이 표시되고, 응답은 답변한 모델로 표시됩니다.

전환 후, 모델 선택기는 채팅의 나머지 부분에서 Sonnet 5에 유지됩니다. 모델 선택기에서 언제든지 Sonnet 5.5로 다시 전환할 수 있습니다.

Sonnet 5는 자체 안전 시스템을 가지고 있습니다. 요청이 Sonnet 5에서도 차단되면, 메시지를 편집하고 다시 시도할 수 있습니다.

생물학의 경우, 조직이 정당한 생명과학 연구를 수행하고 이러한 보안 조치의 영향을 받으면, 확장된 기능을 위해 생명과학 검증 프로그램(LSVP)에 신청할 수 있습니다. Sonnet 5.5에서 LSVP는 고위험 사용 추가 기능을 통해서만 생물학 보안 조치를 완화합니다. 자세한 내용은 블로그를 참조하세요: 생명과학 검증 프로그램 소개.

Sonnet 5.5는 출시 시 사이버 검증 프로그램에서 사용할 수 없습니다. 곧 사이버 방어자들은 Sonnet 5.5의 더 고급 기능에 대한 계층화된 액세스를 위해 확장된 사이버 검증 프로그램에 신청할 수 있을 것입니다.

자동 전환은 Sonnet 5.5에 대해 기본적으로 활성화되며, 언제든지 끌 수 있습니다:

자동 모델 전환이 꺼져 있으면, 폴백되는 요청은 모델을 전환하는 대신 채팅을 일시 중지합니다. 그러면 다음을 수행할 수 있습니다:

폴백되거나 차단된 요청이 청구되는 방식은 차단이 발생하는 시기와 어떤 분류기가 트리거했는지에 따라 다릅니다:

거부 및 폴백에 대해 자세히 알아보세요.

요청이 차단되었지만 위에 나열된 분류기 중 하나와 관련이 없어 보이거나, 정당한 작업이 계속 폴백되면 알려주세요. "피드백 보내기"를 사용하여 보고하세요. 잘못 차단된 요청에 대한 보고는 이러한 보안 조치를 좁히고 개선하는 데 도움이 됩니다.

자동 모델 전환은 Claude Sonnet 5.5를 사용할 수 있는 모든 곳에서 동일하게 작동합니다:

블로그를 읽고 Claude Sonnet 5.5에 대해 자세히 알아보세요.

보안 조치는 모델의 기능과 일치하도록 구축됩니다.

Claude Opus 5.5의 보안 조치 작동 방식은 Opus 5 또는 Opus 5.5와의 대화에서 Claude가 모델을 전환한 이유를 참조하세요. Claude Fable 5.1의 경우 Fable 5 또는 Fable 5.1과의 대화에서 Claude가 모델을 전환한 이유를 참조하세요.