メインコンテンツにスキップ

Claude が Fable 5 との会話でモデルを切り替えた理由

この記事では、Claude Fable 5 でリクエストがブロックされる理由、会話が別の Claude モデルに切り替わるときに何が起こるか、および自動切り替えを管理する方法について説明します。

一部のリクエストがブロックされる理由

Claude Fable 5 の機能は、これまでに一般公開されたすべてのモデルの機能をはるかに上回っています。AI 機能のほぼすべてのテストベンチマークで最先端であり、ソフトウェアエンジニアリング、知識作業、ビジョン、その他多くの分野で優れたパフォーマンスを発揮しています。

このような高い機能を持つモデルをリリースするには、リスクが伴います。強力なセーフガードがなければ、Claude Fable 5 のサイバーセキュリティと生物学などの分野での高度な機能は、ユーザーが大規模なサイバー攻撃や生物兵器を作成するために悪用される可能性があり、壊滅的な被害をもたらす可能性があります。これらの機能が、以前に Mythos クラスモデル(Mythos Preview など)を少数の選定・審査済みパートナーにのみリリースした理由です。

これらのリスクを認識して、一般ユーザーが Fable 5 の大多数の機能にアクセスできるようにするために、利用規約および許容使用ポリシーに従って、特定の分野での応答をリダイレクトまたはブロックするセーフガードを備えてモデルをリリースしました。また、Claude Fable 5 の最初のリリース以来、セーフガードを改善し続けています

Fable 5 のこれらのセーフガードによってブロックされたほとんどのユーザークエリは、代わりに次に高い機能を持つモデル(つまり「フォールバック」)からの応答を受け取る可能性があります。これらのセーフガードをより正確にして、本当にリスクのあるリクエストのみをブロックし、今日よりも誤検知を減らすことに取り組んでいます。

フォールバックする可能性のあるリクエスト

Claude Fable 5 は、すべてのユーザーリクエストに対して自動安全チェック(分類器)を実行します。これらのチェックは、ユーザーが 4 つの分野でリクエストを送信するときに、Fable 5 から Opus モデルへの目に見えるフォールバックを意図しています:

  • エクスプロイト、マルウェア、攻撃ツールの構築など、攻撃的なサイバーセキュリティ技術。Claude Fable 5 は日常的なサイバーセキュリティタスクを支援できますが、ユーザーは高いフォールバック率を予想する必要があります。セーフガードは Mythos レベルの機能へのアクセスをブロックするように設計されています。

  • ラボ方法や分子メカニズムなど、生物学、化学、生命科学クエリの大多数。近い将来、これは良性の生物学研究および関連トピック(バイオテック事業文書、医療画像処理と診断、臨床および診断医療質問、または生物学の基本的な教育コンテンツなど)を支援するモデルの能力に影響を与える可能性があります。

  • Fable 5 への蒸留攻撃(モデルの要約された思考を抽出しようとする試みを含む)。

  • 分散トレーニングインフラストラクチャ、ML アクセラレータ設計、特定の非標準チップのカーネル開発など、限定的なフロンティア LLM 開発タスク。

これらのブロッキングセーフガードは意図的に広範であり、ユーザーエクスペリエンスへの影響を減らすためにセーフガードを継続的に改善するために取り組んでいます。リクエストがブロックされると、非 Mythos モデルにフォールバックする可能性があります。現在、生物学、化学、生命科学リクエストの場合は Opus 5、攻撃的なサイバーセキュリティ技術リクエストの場合は Opus 4.8 です。

チェックはモデルが読むすべてのもの(最新のメッセージだけでなく、メモリ、コネクタからのコンテンツ、ウェブ検索結果、ファイルを含む)を確認するため、入力していないコンテンツによってブロックがトリガーされる可能性があります。

フォールバック後に何が起こるか

自動モデル切り替えはデフォルトで有効です。リクエストがフォールバックすると、Claude はブロックされた Claude Fable 5 リクエストを同じ会話内の Opus モデルで再実行します。モデルが切り替わったことを説明する通知が表示され、応答には回答したモデルのラベルが付きます。Opus は高い機能を持つモデルであり、独自の強力なセーフガードを備えており、Fable 5 でブロックされたほとんどの正当なリクエストに対して、Opus は有用な回答を提供するはずです。

切り替え後、モデルピッカーは会話の残りの部分で Opus に留まります。モデルピッカーからいつでも Claude Fable 5 に戻すことができます。

注:自動モデル切り替え後に Claude Fable 5 に戻す場合、同じ Fable 5 セーフガードが原因で、元のリクエストがまだ会話の一部であれば、Claude が再度フォールバックする可能性があります。前のメッセージを編集してから再試行することがよく役立ちます。

フォールバックリクエストもブロックされた場合

Opus には独自の安全システムがあります。Claude Opus 5 のフォールバックについて詳しくは、Claude が Opus 5 との会話でモデルを切り替えた理由を参照してください。

リクエストが機能の低いモデルでもブロックされた場合は、メッセージを編集して再試行できます。サイバーセキュリティの場合、ユースケースが正当な防御目的を持っており、これらのセーフガードの影響を受けている場合は、Opus の Cyber Verification Program(CVP)に申請できます。Claude Opus および Sonnet のリアルタイムサイバーセーフガードについて詳しく学んでください。

自動モデル切り替えを管理する

自動切り替えは、Claude Fable 5 を初めて選択するときにデフォルトで有効になります。デフォルトで有効のままであり、いつでもオフにできます:

  1. 設定 > 機能(または Claude Code の設定 > モデルと出力)に移動します。

  2. メッセージがフラグされたときにモデルを切り替えるをオフにします。

自動モデル切り替えがオフの場合、ブロックされたリクエストはモデルを切り替える代わりに会話を一時停止します。その後、以下のことができます:

  • メッセージを編集して Claude Fable 5 で再試行する

  • 同じメッセージを機能の低いモデルに手動で送信する

使用量と請求

ブロックされたリクエストは、ブロックが発生するタイミングに応じて異なる方法で請求されます:

  • 入力でブロック:Claude Fable 5 が出力を生成する前にリクエストがブロックされた場合、会話は直ちに Opus に切り替わります。Opus レートでのみ請求され、Opus 応答は使用量制限または消費量にカウントされます。

  • ストリーム中にブロック:リクエストがストリーム中にブロックされた場合、入力とブロック前にストリームされたトークンは Claude Fable 5 レートで請求されます。残りの応答は Opus レートで請求されます。

フィードバックを送信する

ブロックされたリクエストがセキュリティまたは生物学トピックに関連していないように見える場合、または正当な作業がこれらの分野で継続的にブロックされている場合は、お知らせください。「フィードバックを送信」を使用して報告してください。不正にブロックされたリクエストの報告は、これらのセーフガードを絞り込み、改善するのに役立ちます。

更新を楽しみにしてください

今後、デュアルユース防御サイバーセキュリティと生物学研究の割り当てを開く方法を検討する予定です。安全システムが成熟するにつれて、悪用に対する強力な保護を維持しながら、正当な生物学および防御的なサイバーセキュリティ作業をサポートすることを目指しています。

プログラムの詳細(適格性と申請方法を含む)が利用可能になったら、詳細を共有します。このヘルプセンターで更新を確認するか、ここで通知にサインアップしてください

自動モデル切り替えが適用される場所

自動モデル切り替えは、Claude Fable 5 を使用できるすべての場所で同じように機能します:

  • ウェブ上の Claude

  • Claude モバイル

  • Claude デスクトップ

  • Claude Cowork

  • Claude コード

  • Claude デザイン

  • Claude for Microsoft 365

  • Claude タグ

重要:Claude API を使用している場合、モデル切り替えは異なる方法で機能します。自動切り替えはデフォルトで有効ではなく、API ユーザーはフォールバックをオプトインして構成する必要があります。フォールバックが構成されるまで、モデルは API で停止理由を含む 200 応答を返します。詳細については、開発者ドキュメントを参照してください。

ブログでClaude Fable 5 と Claude Mythos 5について詳しく学んでください。

セーフガードはモデルの機能に合わせて構築されています。Claude Opus 5 のセーフガードの仕組みについては、Claude が Opus 5 との会話でモデルを切り替えた理由を参照してください。

こちらの回答で解決しましたか?