Anthropic atualiza salvaguardas biológicas do Fable 5 e reduz redirecionamentos benignos

A Anthropic atualizou as salvaguardas biológicas do Fable 5 e afirma que o sistema revisado encaminhará muito menos perguntas biológicas comuns para um modelo menos capaz. A empresa relatou que os redirecionamentos relacionados à biologia caíram cerca de 85% em seus testes nas diferentes superfícies de produto. A atualização pretende tornar o modelo mais útil para perguntas cotidianas de saúde e educação, preservando restrições para solicitações que a companhia classifica como de uso duplo, incluindo virologia, toxicologia, desenho molecular e trabalho profissional de desenvolvimento de medicamentos. Trata-se de um refinamento de um limite de segurança existente, não da abertura de assistência biológica de fronteira sem restrições.

O Fable 5 usava inicialmente um classificador amplo, concebido para errar por cautela. Quando detectava uma solicitação biológica potencialmente protegida, o sistema redirecionava o usuário ao Opus 5, modelo que a Anthropic descreve como capaz, mas menos capaz em biologia que o Fable 5. Essa era a mudança de rota vista pelos usuários. A abordagem limitava a exposição a perguntas difíceis de uso duplo, mas também bloqueava solicitações benignas que poderiam surgir numa sala de aula, na tentativa de um paciente de entender resultados de laboratório ou numa discussão geral sobre sintomas. A Anthropic diz agora que o novo classificador distingue essas categorias com maior precisão.

A explicação da empresa destaca a dificuldade central das salvaguardas em biologia: usos benéficos e prejudiciais podem estar tecnicamente próximos. Pesquisar uma doença, desenhar um tratamento ou estudar um patógeno pode se sobrepor a conhecimento que poderia ser usado de forma indevida. A Anthropic afirma que o Fable 5 pode superar especialistas em algumas tarefas biológicas complexas e oferecer suporte operacional em outras, motivo pelo qual inicialmente colocou uma gama ampla de consultas atrás de uma salvaguarda. A mesma capacidade que ajuda um pesquisador legítimo pode ajudar materialmente um agente malicioso; portanto, não basta que uma pergunta pareça educacional na superfície.

Para estreitar a fronteira, a Anthropic disse que reescreveu a constituição do classificador, um conjunto de regras para diferenciar material permitido de material protegido. Em seguida desenvolveu dados de treinamento atualizados, retreinou o classificador e buscou comentários de especialistas internos e externos. A empresa afirma que o sistema resultante continua a disparar para conteúdo de pesquisa biológica nocivo ou de uso duplo, mas permite uma gama maior de solicitações benignas. O classificador também precisa resistir a tentativas de contorná-lo, o que torna mais difícil reduzir falsos positivos. O índice de 85% é resultado de testes da própria Anthropic, e não uma medição independente.

A experiência esperada varia conforme a superfície do produto. A Anthropic disse que o total de redirecionamentos, inclusive por outras causas, deve cair aproximadamente 67% no Claude.ai, 55% no Cowork, 17% no Claude Code e 7% no Claude Platform. Esses números não garantem que o Fable 5 responderá agora a toda pergunta de biologia. A empresa continuará a afastar do modelo solicitações profissionais de biologia e desenvolvimento de fármacos de uso duplo. Seu objetivo de longo prazo é criar vias de acesso confiáveis para pesquisadores que precisem de capacidades mais fortes sob condições mais controladas.

A publicação ilustra uma troca recorrente no lançamento de modelos de fronteira. Um sistema de segurança que bloqueia demais pode frustrar usuários e reduzir a utilidade em contextos legítimos. Um que bloqueia de menos pode criar riscos difíceis de reverter depois que um modelo esteja amplamente disponível. A abordagem da Anthropic é mudar o classificador em vez de remover o limite, usando regras mais estreitas e novos dados para levar perguntas claramente benignas ao lado permitido. Se esse equilíbrio se mantém dependerá do desempenho real, de testes adversariais e da disposição da companhia para ajustar de novo quando surgirem erros.

Para clínicos, educadores e usuários comuns, a mensagem prática é comedida. Mais perguntas cotidianas de biologia e saúde podem receber ajuda direta em vez de um redirecionamento, mas o produto não é apresentado como substituto de julgamento médico nem como ferramenta universal de pesquisa. Para pesquisadores que trabalham em áreas controladas de uso duplo, a restrição continua substancial. O anúncio mostra que a segurança de modelos é cada vez mais uma questão operacional de produto: usuários a percebem em qual modelo responde, com que frequência uma solicitação é desviada e se uma resposta útil está disponível. A próxima evidência virá de como o classificador refinado funciona fora dos testes internos da Anthropic.