이 문서는 요청이 차단될 수 있는 이유, 대화가 다른 Claude 모델로 전환될 때 발생하는 상황, 그리고 자동 전환을 관리하는 방법을 설명합니다.
일부 요청이 차단되는 이유
Claude Fable 5의 기능은 이전에 일반에 공개한 모든 모델의 기능을 훨씬 능가합니다. AI 기능의 거의 모든 테스트 벤치마크에서 최첨단이며, 소프트웨어 엔지니어링, 지식 작업, 비전 및 기타 많은 분야에서 뛰어난 성능을 보입니다.
이렇게 강력한 모델을 출시하는 것은 위험을 수반합니다. 강력한 보안 조치가 없으면 사이버보안 및 생물학 분야에서 Claude Fable 5의 고급 기능이 사용자에 의해 악용되어 대규모 사이버 공격이나 생물무기를 만드는 데 사용될 수 있으며, 이는 재앙적인 피해를 초래할 수 있습니다. 이러한 기능이 우리가 이전에 Mythos 클래스 모델(예: Mythos Preview)을 선별되고 검증된 소수의 파트너에게만 출시한 이유입니다.
이러한 위험을 인식하여 일반 사용자가 Fable 5의 대부분의 기능에 접근할 수 있도록 하기 위해, 우리는 서비스 약관 및 허용 가능한 사용 정책에 따라 특정 영역에서 응답을 차단하는 보안 조치를 적용하여 모델을 출시했습니다. 또한 Claude Fable 5를 처음 출시한 이후 보안 조치를 계속 개선하고 있습니다.
Fable 5의 이러한 보안 조치로 차단된 대부분의 사용자 쿼리는 대신 우리의 차선책인 Claude Opus 4.8(즉, "폴백")에서 응답을 받을 수 있습니다. 우리는 이러한 보안 조치를 더욱 정교하게 만들어 타겟팅 위험과 직접 관련된 모델 사용만 정확하게 차단하고 현재보다 거짓 양성을 줄이기 위해 노력하고 있습니다.
어떤 요청이 폴백될 수 있는가
Claude Fable 5는 모든 사용자 요청에 대해 자동화된 안전 검사를 실행합니다. 이러한 검사는 사용자가 다음 네 가지 영역에서 요청을 제출할 때 Fable 5에서 비-Mythos 모델(예: Opus 4.8)로 명확하게 폴백하도록 설계되었습니다:
익스플로잇, 악성코드 또는 공격 도구 구축과 같은 공격적인 사이버보안 기법. Claude Fable 5는 일상적인 사이버보안 작업을 지원할 수 있지만 사용자는 높은 폴백률을 예상해야 합니다. 보안 조치는 Mythos 수준의 기능에 대한 접근을 차단하도록 설계되었습니다.
실험실 방법 또는 분자 메커니즘과 같은 생물학, 화학 및 생명과학 쿼리의 대부분. 단기적으로 이는 모델이 양성 생물학 연구 및 생명공학 비즈니스 문서, 의료 영상 및 진단, 임상 및 진단 의료 질문 또는 생물학의 기본 교육 콘텐츠와 같은 관련 주제를 지원하는 능력에 영향을 미칠 수 있습니다.
Fable 5에 대한 증류 공격(모델의 요약된 사고를 추출하려는 시도 포함).
분산 학습 인프라, ML 가속기 설계 및 특정 비표준 칩용 커널 개발과 같은 좁은 범위의 최첨단 LLM 개발 작업.
이러한 차단 보안 조치는 의도적으로 광범위하며, 우리는 사용자 경험에 미치는 영향을 줄이기 위해 보안 조치를 지속적으로 개선하기 위해 노력합니다. 요청이 차단되면 현재 Opus 4.8인 비-Mythos 모델로 폴백될 수 있습니다.
검사는 또한 모델이 읽는 모든 것(최신 메시지뿐만 아니라 메모리, 커넥터의 콘텐츠, 웹 검색 결과 및 파일 포함)을 검토하므로 입력하지 않은 콘텐츠로 인해 차단이 트리거될 수 있습니다.
차단 후 발생하는 상황
기본적으로 자동 모델 전환은 Claude, Claude Cowork, Claude Code, Claude Design 및 Claude for Microsoft 365에서 활성화됩니다. 모델을 자동으로 전환할 때 Claude는 차단된 Claude Fable 5 요청을 같은 대화에서 Claude Opus 4.8에서 다시 실행합니다. 모델이 전환되었음을 설명하는 알림이 표시되고 응답에는 답변한 모델이 표시됩니다. Opus는 강력한 자체 보안 조치를 갖춘 매우 능력 있는 모델이며, Fable 5에서 차단된 대부분의 정당한 요청의 경우 Opus가 도움이 되는 답변을 제공해야 합니다.
전환 후 모델 선택기는 대화의 나머지 부분에서 Opus에 유지됩니다. 모델 선택기에서 언제든지 Claude Fable 5로 다시 전환할 수 있습니다.
참고: 자동 모델 전환이 발생한 후 Claude Fable 5로 다시 전환하는 경우 원래 요청이 여전히 대화의 일부이기 때문에 동일한 Fable 5 보안 조치가 대화를 다시 차단할 수 있습니다. 재시도하기 전에 이전 메시지를 편집하면 도움이 되는 경우가 많습니다.
요청이 Opus에서도 차단된 경우
Opus는 자체 안전 시스템을 가지고 있습니다. 요청이 Opus에서도 차단되면 메시지를 편집하고 다시 시도할 수 있습니다. 사이버의 경우 사용 사례가 정당한 방어 목적을 가지고 있고 이러한 보안 조치의 영향을 받는 경우 Opus용 사이버 검증 프로그램(CVP)에 신청할 수 있습니다. 실시간 사이버 보안 조치 및 사이버 검증 프로그램에 대해 자세히 알아보세요.
자동 모델 전환 관리
자동 전환은 Claude Fable 5를 처음 선택할 때 기본적으로 활성화됩니다. 기본적으로 활성화된 상태로 유지되며 언제든지 끌 수 있습니다:
설정 > 기능(또는 Claude Code의 구성 > 모델 및 출력)으로 이동합니다.
메시지가 플래그되면 모델 전환을 끕니다.
자동 모델 전환이 꺼져 있으면 차단된 요청은 모델을 전환하는 대신 대화를 일시 중지합니다. 그러면 다음을 수행할 수 있습니다:
메시지를 편집하고 Claude Fable 5에서 다시 시도
같은 메시지를 Opus로 수동으로 전송
사용량 및 청구
차단된 요청은 차단이 발생하는 시기에 따라 다르게 청구됩니다:
입력에서 차단됨: Claude Fable 5가 출력을 생성하기 전에 요청이 차단되면 대화가 즉시 Opus로 전환됩니다. Opus 요금으로만 청구되며 Opus 응답은 사용 한도 또는 소비량에 포함됩니다.
스트림 중 차단됨: 요청이 스트림 중에 차단되면 입력과 차단 전에 스트리밍된 토큰이 Claude Fable 5 요금으로 청구됩니다. 나머지 응답은 Opus 요금으로 청구됩니다.
피드백 제공
차단된 요청이 보안 또는 생물학 주제와 무관해 보이거나 이러한 영역에서의 정당한 작업이 계속 차단되는 경우 알려주세요. "피드백 보내기"를 사용하여 보고하세요. 잘못 차단된 요청에 대한 보고는 이러한 보안 조치를 좁히고 개선하는 데 도움이 됩니다.
업데이트를 기대하세요
앞으로 우리는 이중 용도 사이버 방어 및 생물학 연구를 위한 할당을 개방하는 방법을 고려할 계획입니다. 안전 시스템이 성숙해짐에 따라 우리는 정당한 생물학 및 방어적 사이버보안 작업을 지원하면서 오용에 대한 강력한 보호를 유지하는 것을 목표로 합니다.
프로그램에 대한 자격 및 신청 방법을 포함한 자세한 내용은 사용 가능해지면 공유하겠습니다. 이 도움말 센터에서 업데이트를 확인하거나 여기에서 알림에 등록하세요.
자동 모델 전환이 적용되는 위치
자동 모델 전환은 Claude Fable 5를 사용할 수 있는 모든 곳에서 동일한 방식으로 작동합니다:
웹의 Claude
Claude 모바일
Claude 데스크톱
Claude Cowork
Claude Code
Claude Design
Claude for Microsoft 365
Claude for Teams
Slack의 Claude
Claude 태그
중요: Claude API를 사용하는 경우 모델 전환이 다르게 작동합니다. 자동 전환은 자동이 아니며 API 고객은 API에서 전환을 선택하고 구성해야 합니다. 자세한 내용은 개발자 문서를 참조하세요.
Claude Fable 5에 대해 자세히 알아보려면 우리의 블로그를 읽으세요: Claude Fable 5 및 Claude Mythos 5.