Por que Claude mudou de modelo na sua conversa com Sonnet 5.5

Este artigo explica por que uma solicitação pode recorrer a outro modelo ou ser bloqueada no Claude Sonnet 5.5, o que acontece quando sua conversa muda de modelo e como gerenciar a mudança automática de modelos.

Como suas capacidades de segurança cibernética são um avanço substancial em relação ao Claude Sonnet 5, Claude Sonnet 5.5 é o primeiro modelo Sonnet com fallbacks de segurança cibernética como os que desenvolvemos para nossos modelos mais capazes. Suas proteções biológicas são as mesmas do Sonnet 5. Ambas as proteções visam um conjunto restrito de solicitações de alto risco; o desenvolvimento de software rotineiro e a maioria do trabalho em ciências da vida não são afetados.

A maioria das solicitações enviadas para Sonnet 5.5 não encontrará essas proteções. Um conjunto restrito de solicitações de risco mais alto recorre ao Sonnet 5 ou é bloqueado diretamente, para que possamos continuar apoiando o trabalho cotidiano enquanto limitamos o risco de uso indevido. Continuamos refinando essas proteções para que bloqueiem menos solicitações legítimas, incluindo o ajuste fino de nossos classificadores para reduzir falsos positivos. Seus comentários ajudam a orientar este trabalho.

Sonnet 5.5 executa verificações de segurança automatizadas, ou classificadores, em cada solicitação. As verificações também analisam tudo o que o modelo lê, não apenas sua mensagem mais recente. Isso inclui memória, conteúdo de conectores, resultados de pesquisa na web e arquivos, portanto um fallback ou bloqueio pode ser acionado por conteúdo que você não digitou.

Fallbacks e bloqueios funcionam de forma diferente dependendo do tipo de classificador acionado: segurança cibernética, biologia, desenvolvimento de LLM ou destilação.

Sonnet 5.5 pode recorrer ao Claude Sonnet 5 quando nossos classificadores de segurança cibernética sinalizam solicitações potencialmente de risco mais alto relacionadas a segurança ofensiva, como:

Você ainda pode usar Sonnet 5.5 para casos de uso de codificação segura, como varredura de código-fonte para vulnerabilidades.

Sonnet 5.5 bloqueia solicitações que poderiam ajudar alguém a causar danos biológicos graves. Os bloqueios de biologia não recorrem a outro modelo, e a solicitação é bloqueada imediatamente.

Sonnet 5.5 usa o mesmo conjunto de proteções biológicas que Sonnet 5. Estas visam solicitações prejudiciais; a maioria do trabalho de pesquisa, educação e clínico não é afetada, embora algumas solicitações de microbiologia e virologia possam ser sinalizadas por engano. As organizações podem se inscrever em nosso Programa de Verificação de Ciências da Vida para obter acesso a proteções projetadas para toda a amplitude do trabalho relacionado à biologia.

Sonnet 5.5 possui classificadores para um pequeno conjunto de capacidades relacionadas ao desenvolvimento dos LLMs mais avançados, como desenvolvimento de kernel para certos aceleradores de ML. Eles não devem afetar a grande maioria do desenvolvimento tradicional de IA ou ML, pesquisa ou codificação geral. Quando esses classificadores sinalizam uma solicitação, Claude recorre de Sonnet 5.5 para Sonnet 5.

Sonnet 5.5 possui classificadores que detectam e bloqueiam diretamente tentativas de extrair o raciocínio interno do modelo. Os bloqueios de destilação não recorrem a outro modelo, e a solicitação é bloqueada imediatamente.

Exemplos de solicitações bloqueadas incluem prompts que pedem ao Claude para repetir seu raciocínio textualmente ou escrever sua cadeia de pensamento completa para uma saída externa. Você ainda pode pedir ao Claude para explicar seu raciocínio, ensinar um conceito ou percorrer uma revisão de código. Solicitações conversacionais como "por que você fez isso?" não são afetadas.

A mudança automática de modelo está ativa por padrão. Quando sua solicitação recorre, Claude a executa novamente no Sonnet 5 na mesma conversa. Todos os fallbacks são transparentes, o que significa que você verá um aviso explicando que o modelo mudou, e a resposta é rotulada com o modelo que respondeu.

Após a mudança, o seletor de modelo permanece no Sonnet 5 pelo resto do chat. Você pode voltar para Sonnet 5.5 a qualquer momento no seletor de modelo.

Sonnet 5 possui seus próprios sistemas de segurança. Se sua solicitação também for bloqueada no Sonnet 5, você pode editar sua mensagem e tentar novamente.

Para biologia, se sua organização realiza pesquisa legítima em ciências da vida e é afetada por essas proteções, você pode se inscrever no Programa de Verificação de Ciências da Vida (LSVP) para capacidades expandidas. No Sonnet 5.5, LSVP relaxa as proteções biológicas apenas através do complemento High-risk Use. Saiba mais em nosso blog: Apresentando o Programa de Verificação de Ciências da Vida.

Sonnet 5.5 não está disponível no Programa de Verificação de Segurança Cibernética no lançamento. Em breve, defensores de segurança cibernética poderão se inscrever em nosso Programa de Verificação de Segurança Cibernética expandido para acesso em camadas a capacidades mais avançadas no Sonnet 5.5.

A mudança automática está ativada por padrão para Sonnet 5.5, e você pode desativá-la a qualquer momento:

Com a mudança automática de modelo desativada, uma solicitação que recorre pausa o chat em vez de mudar de modelo. Você pode então:

Como uma solicitação que recorre ou é bloqueada é faturada depende de quando o bloqueio ocorre e qual classificador o acionou:

Saiba mais sobre recusas e fallback.

Se sua solicitação for bloqueada mas parecer não relacionada a um dos classificadores listados acima, ou se seu trabalho legítimo continuar recorrendo, nos avise. Use "Enviar comentários" para denunciá-lo. Relatórios de solicitações bloqueadas incorretamente nos ajudam a estreitar e melhorar essas proteções.

A mudança automática de modelo funciona da mesma forma em todos os lugares onde você pode usar Claude Sonnet 5.5:

Leia nosso blog para saber mais sobre Claude Sonnet 5.5.

Nossas proteções são construídas para corresponder às capacidades de um modelo.

Para saber como as proteções funcionam no Claude Opus 5.5, consulte Por que Claude mudou de modelo na sua conversa com Opus 5 ou Opus 5.5. Para Claude Fable 5.1, consulte Por que Claude mudou de modelo na sua conversa com Fable 5 ou Fable 5.1.