Claude がお客様との Fable 5 での会話でモデルを切り替えた理由

この記事では、リクエストがブロックされる理由、会話が別の Claude モデルに切り替わるときに何が起こるか、および自動切り替えを管理する方法について説明します。

Claude Fable 5 の機能は、これまでに一般公開したすべてのモデルの機能をはるかに上回っています。ほぼすべてのテスト済みの AI 機能ベンチマークで最先端であり、ソフトウェアエンジニアリング、知識作業、ビジョン、その他多くの分野で優れたパフォーマンスを発揮しています。

このような高度な機能を持つモデルをリリースするには、リスクが伴います。強力なセーフガードがなければ、Claude Fable 5 のサイバーセキュリティと生物学などの分野での高度な機能は、ユーザーが大規模なサイバー攻撃や生物兵器を作成するために悪用される可能性があり、壊滅的な被害をもたらす可能性があります。これらの機能が、以前に Mythos クラスのモデル (Mythos Preview など) を少数の選別・審査済みパートナーにのみリリースした理由です。

これらのリスクを認識し、一般ユーザーが Fable 5 の大部分の機能にアクセスできるようにするために、当社は利用規約および許容使用ポリシーに沿って、特定の分野でのレスポンスをブロックするセーフガードを備えたモデルをリリースしました。

Fable 5 のこれらのセーフガードによってブロックされたほとんどのユーザークエリは、代わりに次に高度な Claude Opus 4.8 モデルからレスポンスを受け取ります。当社は、これらのセーフガードをより識別力を高め、ターゲティングリスクに直接関連するモデルの使用を正確にブロックし、今日よりも誤検知を減らすために取り組んでいます。

Claude Fable 5 は、すべてのユーザーリクエストに対して自動安全チェックを実行します。これらのチェックは、4 つの分野でリクエストをブロックすることを目的としています。

これらのブロッキングセーフガードは意図的に広範です。これらは、認可されたセキュリティテストや良性の生物学研究を含む、これらの分野での正当な作業をブロックする可能性があり、バイオテック事業文書、医療画像診断、臨床および診断医療質問、または生物学の基本的な教育コンテンツなど、これらのトピックにのみ触れる通常の安全な会話もブロックする可能性があります。

チェックはまた、最新のメッセージだけでなく、モデルが読むすべてのもの (メモリ、コネクタからのコンテンツ、ウェブ検索結果、ファイルなど) を確認するため、入力していないコンテンツによってブロックがトリガーされる可能性があります。

デフォルトでは、自動モデル切り替えは Claude、Claude Cowork、Claude Code、Claude Design、および Claude for Microsoft 365 で有効になっています。モデルを自動的に切り替える場合、Claude は、ブロックされた Claude Fable 5 リクエストを同じ会話で Claude Opus 4.8 で再実行します。モデルが切り替わったことを説明する通知が表示され、レスポンスは回答したモデルでラベル付けされます。Opus は強力なセーフガードを備えた高度に有能なモデルであり、Fable 5 でブロックされたほとんどの正当なリクエスト (ほとんどの生物学の質問を含む) に対して、Opus は有用な回答を提供するはずです。

切り替え後、モデルピッカーは会話の残りの部分で Opus に留まります。モデルピッカーからいつでも Claude Fable 5 に戻すことができます。

Opus には独自のセーフティシステムがあります。リクエストが Opus でもブロックされた場合は、メッセージを編集して再試行できます。サイバーの場合、ユースケースが正当な防御目的を持っており、これらのセーフガードの影響を受けている場合は、Opus の Cyber Verification Program (CVP) に申請できます。リアルタイムサイバーセーフガードと Cyber Verification Program の詳細をご覧ください。

自動切り替えは、Claude Fable 5 を初めて選択するときにデフォルトで有効になります。デフォルトで有効なままで、いつでもオフにできます。

自動モデル切り替えをオフにすると、ブロックされたリクエストはモデルを切り替えるのではなく、会話を一時停止します。その後、以下のことができます。

ブロックされたリクエストは、ブロックが発生するタイミングに応じて異なる方法で請求されます。

ブロックされたリクエストがセキュリティまたは生物学のトピックに関連していないように見える場合、または正当な作業がこれらの分野で継続的にブロックされている場合は、お知らせください。「フィードバックを送信」を使用して報告してください。誤ってブロックされたリクエストの報告は、これらのセーフガードを絞り込み、改善するのに役立ちます。

今後、デュアルユース サイバー防御および生物学研究の割り当てを開く方法を検討する予定です。安全システムが成熟するにつれて、悪用に対する強力な保護を維持しながら、正当な生物学および防御的なサイバーセキュリティ作業をサポートすることを目指しています。

適格性と申請方法を含むプログラムの詳細については、利用可能になったときに共有します。このヘルプセンターで更新を確認するか、ここで通知にサインアップしてください。

自動モデル切り替えは、Claude Fable 5 を使用できるすべての場所で同じように機能します。

Claude Fable 5 の詳細については、当社のブログをご覧ください。Claude Fable 5 と Claude Mythos 5。