Anthropic met à jour les protections biologiques de Fable 5 et réduit les renvois de requêtes bénignes

Anthropic a mis à jour les protections biologiques de Fable 5 et affirme que le système révisé orientera beaucoup moins de questions biologiques ordinaires vers un modèle moins capable. L’entreprise a indiqué que les renvois liés à la biologie avaient diminué d’environ 85% dans ses tests sur ses différentes surfaces de produit. La mise à jour doit rendre le modèle plus utile pour des questions quotidiennes de santé et d’éducation, tout en conservant des restrictions sur les demandes que la société classe comme à double usage, notamment en virologie, toxicologie, conception moléculaire et développement professionnel de médicaments. Il s’agit d’un affinage d’une limite de sécurité existante, pas d’une ouverture sans restriction de l’assistance biologique de pointe.

Fable 5 utilisait au départ un classifieur large, conçu pour privilégier la prudence. Lorsqu’il détectait une demande biologique potentiellement protégée, le système redirigeait l’utilisateur vers Opus 5, un modèle qu’Anthropic décrit comme capable mais moins compétent en biologie que Fable 5. C’est cette réorientation que les utilisateurs voyaient comme un renvoi. L’approche limitait l’exposition à des questions difficiles à double usage, mais bloquait aussi des demandes bénignes qui pouvaient naître en classe, dans la tentative d’un patient de comprendre des résultats de laboratoire ou dans une discussion générale de symptômes. Anthropic dit maintenant que le nouveau classifieur distingue ces catégories avec davantage de précision.

L’explication de l’entreprise souligne la difficulté centrale des protections en biologie : les utilisations bénéfiques et néfastes peuvent être techniquement proches. Étudier une maladie, concevoir un traitement ou examiner un agent pathogène peut recouper des connaissances susceptibles d’être détournées. Anthropic affirme que Fable 5 peut dépasser des experts dans certaines tâches biologiques très complexes et fournir un soutien opérationnel dans d’autres. La même capacité qui aide un chercheur légitime peut donc aider matériellement un acteur malveillant ; le fait qu’une question paraisse éducative à première vue ne suffit pas à évaluer son usage.

Pour resserrer la frontière, Anthropic a expliqué avoir réécrit la constitution du classifieur, un ensemble de règles destiné à distinguer le contenu autorisé du contenu protégé. L’entreprise a ensuite élaboré de nouvelles données d’entraînement, réentraîné le classifieur et sollicité des avis d’experts internes et externes. Le système obtenu doit continuer à se déclencher pour les contenus de recherche biologique dangereux ou à double usage, tout en autorisant un éventail plus large de demandes bénignes. Le classifieur doit également résister aux tentatives de contournement, ce qui complique la réduction des faux positifs. Le chiffre de 85% est issu des tests d’Anthropic, et non d’une mesure indépendante.

L’expérience attendue varie selon la surface de produit. Anthropic prévoit que le total des renvois, y compris ceux dus à d’autres causes, diminue d’environ 67% sur Claude.ai, 55% sur Cowork, 17% sur Claude Code et 7% sur Claude Platform. Ces chiffres ne garantissent pas que Fable 5 répondra désormais à toute question de biologie. L’entreprise continuera à écarter du modèle les demandes professionnelles de biologie et de développement de médicaments à double usage. Son objectif à plus long terme est de créer des voies d’accès de confiance pour les chercheurs qui ont besoin de capacités plus fortes dans des conditions davantage contrôlées.

Cette publication illustre un arbitrage récurrent dans le déploiement de modèles de pointe. Un système de sécurité qui bloque trop largement peut frustrer les utilisateurs et réduire l’utilité dans des contextes légitimes. Un système qui bloque trop peu peut créer des risques difficiles à inverser après qu’un modèle soit largement disponible. L’approche d’Anthropic consiste à modifier le classifieur plutôt qu’à supprimer la limite, avec des règles plus étroites et de nouvelles données pour faire basculer les questions clairement bénignes du côté autorisé. La tenue de cet équilibre dépendra des performances réelles, des tests adversariaux et de la volonté de l’entreprise d’ajuster à nouveau le système lorsque des erreurs apparaissent.

Pour les cliniciens, enseignants et utilisateurs ordinaires, le message pratique reste mesuré. Davantage de questions quotidiennes de biologie et de santé pourront peut-être obtenir une aide directe plutôt qu’un renvoi, mais le produit n’est pas présenté comme un substitut au jugement médical ni comme un outil universel de recherche. Pour les chercheurs travaillant dans des domaines contrôlés à double usage, la restriction reste substantielle. L’annonce montre que la sécurité des modèles devient une question opérationnelle de produit : les utilisateurs la constatent dans le modèle qui répond, la fréquence des redirections et la disponibilité d’une réponse utile. Le prochain élément de preuve viendra du fonctionnement du classifieur affiné hors des tests internes d’Anthropic.