Claude가 Opus 5 또는 Opus 5.5와의 대화에서 모델을 전환한 이유

이 문서에서는 요청이 Claude Opus 5 또는 Opus 5.5로 폴백될 수 있는 이유, 대화가 다른 모델로 전환될 때 발생하는 상황, 그리고 자동 전환을 관리하는 방법을 설명합니다.

Claude Opus 5와 Opus 5.5는 Claude Opus 4.8을 모든 면에서 개선합니다. 우리는 이러한 기능 향상에 맞춰 보안 조치를 설정했습니다.

Opus 5 또는 Opus 5.5로 전송된 대부분의 요청은 폴백 안전 개입을 만나지 않습니다. 더 높은 위험의 좁은 범위의 요청은 기능이 낮은 모델로 폴백되거나 직접 차단되므로 일상적인 작업을 계속 지원하면서 오용의 위험을 제한할 수 있습니다. 우리는 이러한 보안 조치를 계속 개선하여 정당한 요청을 더 적게 차단하기 위해 노력하고 있습니다. 여기에는 분류기를 미세 조정하여 거짓 양성을 줄이고 다양한 계정 신뢰 신호를 고려하는 것이 포함됩니다. 귀하의 피드백은 이 작업을 안내하는 데 도움이 됩니다.

Claude Opus 5와 Opus 5.5는 모든 사용자 요청에 대해 자동화된 안전 검사(분류기)를 실행합니다. 검사는 모델이 읽는 모든 것을 검토하며, 최신 메시지뿐만 아니라 메모리, 커넥터의 콘텐츠, 웹 검색 결과, 파일을 포함하므로 입력하지 않은 콘텐츠로 인해 폴백이 트리거될 수 있습니다.

폴백과 차단은 트리거된 분류기의 유형에 따라 다르게 작동합니다: 사이버 보안, 생물학, 프론티어 LLM 개발 또는 증류.

Opus 5 또는 Opus 5.5는 사이버 분류기가 다음과 같은 잠재적으로 더 높은 위험의 공격적인 사이버 보안 요청을 플래그할 때 Opus 4.8로 폴백할 수 있습니다:

소스 코드 취약점 스캔, 보안 문제 분류, 안전한 코드 구축을 포함한 안전한 코딩을 위해 Opus 5와 Opus 5.5를 계속 사용할 수 있습니다.

Claude Opus 5는 생물학에서 Opus 4.8을 개선하지만, 중대한 위험으로 이어질 수 있는 새로운 연구 발견을 위한 실제 장기 작업에서는 Fable 5만큼 기능이 뛰어나지 않습니다. 결과적으로 Opus 5는 생물학, 화학 또는 생명 과학 질문에 대해 폴백하지 않습니다. 이러한 주제에 대해 Opus 4.8과 유사한 보안 조치를 사용합니다.

Opus 5.5는 Opus 5에 비해 기능이 증가했기 때문에 생물학을 위해 Claude Fable 5와 유사한 안전 분류기를 가지고 있습니다. 이러한 분류기는 바이러스학, 독성학, 분자 설계와 같은 영역에서 이중 용도 요청을 제출할 때 Claude가 Opus 5.5에서 Opus 5로 폴백하도록 합니다. Opus 5.5를 실험실 결과 해석, 증상 이해, 생물학 학습을 포함한 일상적인 건강 및 교육 질문에 계속 사용할 수 있습니다.

Opus 5.5는 특정 ML 가속기를 위한 커널 개발과 같은 프론티어 LLM 개발과 관련된 작은 기능 세트에 대해 Fable 모델과 유사한 분류기를 가지고 있습니다. 이들은 전통적인 AI 또는 ML 개발, 연구 또는 일반 코딩의 대부분에 영향을 미치지 않아야 합니다. 이러한 분류기는 Claude가 Opus 5.5에서 Opus 5로 폴백하도록 합니다.

Opus 5와 Opus 5.5는 모델의 내부 추론을 추출하려는 시도를 감지하고 직접 차단하는 분류기를 가지고 있습니다. 증류 차단은 다른 모델로 폴백하지 않으며 요청이 완전히 차단됩니다.

차단된 요청의 예에는 Claude에게 추론을 그대로 반복하거나 전체 사고 과정을 외부 출력에 작성하도록 요청하는 프롬프트가 포함됩니다. Claude에게 추론을 설명하거나, 개념을 가르치거나, 코드 검토를 진행하도록 요청할 수 있습니다. "왜 그렇게 했나요?"와 같은 대화형 요청은 영향을 받지 않습니다.

자동 모델 전환은 기본적으로 활성화됩니다. 요청이 폴백되면 Claude는 같은 대화에서 기능이 낮은 모델에서 차단된 요청을 다시 실행합니다. 모든 폴백은 투명하므로 모델이 전환되었음을 설명하는 알림이 표시되고 응답에는 답변한 모델의 레이블이 지정됩니다.

전환 후 모델 선택기는 대화의 나머지 부분에서 기능이 낮은 모델에 유지됩니다. 모델 선택기에서 언제든지 Opus 5 또는 Opus 5.5로 다시 전환할 수 있습니다.

Opus 4.8은 자체 안전 시스템을 가지고 있습니다. 요청이 Opus 4.8에서도 차단되면 메시지를 편집하고 다시 시도할 수 있습니다.

특히 사이버 보안의 경우, 사용 사례에 정당한 방어 목적이 있고 이러한 보안 조치의 영향을 받는 경우 사이버 검증 프로그램(CVP)에 신청할 수 있습니다. Claude Opus 및 Sonnet의 실시간 사이버 보안 조치에 대해 자세히 알아보세요.

생물학의 경우, 조직이 정당한 생명 과학 연구를 수행하고 이러한 보안 조치의 영향을 받는 경우 생명 과학 검증 프로그램(LSVP)에 신청할 수 있습니다. LSVP는 검증된 생명 과학 조직에 내부 연구 및 개발을 위해 Claude의 가장 기능이 뛰어난 모델에 대한 액세스를 제공합니다. 우리 블로그에서 자세히 알아보세요: 생명 과학 검증 프로그램 소개.

자동 전환은 Claude Opus 5 또는 Opus 5.5를 처음 선택할 때 기본적으로 활성화됩니다. 기본적으로 활성화된 상태로 유지되며 언제든지 끌 수 있습니다:

자동 모델 전환이 꺼져 있으면 폴백하는 요청은 모델을 전환하는 대신 대화를 일시 중지합니다. 그러면 다음을 수행할 수 있습니다:

폴백하는 요청이 청구되는 방식은 차단이 발생하는 시기와 어떤 분류기가 트리거되었는지에 따라 다릅니다:

거부 및 폴백에 대해 자세히 알아보세요.

요청이 차단되었지만 위에 나열된 분류기 중 하나와 관련이 없어 보이거나 정당한 보안 작업이 계속 폴백되는 경우 알려주세요. "피드백 보내기"를 사용하여 보고하세요. 잘못 차단된 요청에 대한 보고는 이러한 보안 조치를 좁히고 개선하는 데 도움이 됩니다.

자동 모델 전환은 Claude Opus 5 또는 Opus 5.5를 사용할 수 있는 모든 곳에서 동일한 방식으로 작동합니다:

블로그를 읽고 Claude Opus 5 및 Claude Opus 5.5에 대해 자세히 알아보세요.

우리의 보안 조치는 모델의 기능과 일치하도록 구축되었습니다. Claude Fable 5의 보안 조치가 어떻게 작동하는지 알아보려면 Claude가 Fable 5와의 대화에서 모델을 전환한 이유를 참조하세요.