Anthropic verfeinert Fable-5-Biologieschutz und reduziert Rückfälle bei harmlosen Anfragen

Anthropic hat die Biologieschutzvorkehrungen von Fable 5 aktualisiert und erklärt, das überarbeitete System werde deutlich weniger gewöhnliche Biologiefragen an ein weniger leistungsfähiges Modell weiterleiten. Nach Unternehmensangaben gingen biologiebezogene Rückfälle in Tests über die verschiedenen Produktoberflächen hinweg um rund 85% zurück. Die Änderung soll das Modell für alltägliche Gesundheits- und Bildungsfragen nützlicher machen, während Beschränkungen für Anfragen erhalten bleiben, die das Unternehmen als Dual Use einstuft. Dazu zählen Bereiche wie Virologie, Toxikologie, Moleküldesign und professionelle Arzneimittelentwicklung. Es handelt sich um eine Verfeinerung einer bestehenden Sicherheitsgrenze, nicht um die uneingeschränkte Öffnung biologischer Spitzenunterstützung.

Fable 5 nutzte anfangs einen breiten Klassifikator, der bewusst auf Vorsicht ausgelegt war. Erkannte er eine potenziell geschützte Biologieanfrage, leitete das System den Nutzer an Opus 5 weiter, ein Modell, das Anthropic als leistungsfähig, in Biologie aber weniger leistungsfähig als Fable 5 beschreibt. Diese Weiterleitung erschien Nutzenden als Rückfall. Der Ansatz begrenzte die Exposition gegenüber schwierigen Dual-Use-Fragen, blockierte aber auch harmlose Anfragen aus dem Unterricht, von Patienten, die Laborwerte verstehen wollen, oder aus allgemeinen Gesprächen über Symptome. Anthropic sagt nun, der neue Klassifikator unterscheide diese Kategorien präziser.

Die Erklärung des Unternehmens unterstreicht das Kernproblem biologischer Schutzmaßnahmen: Nützliche und schädliche Anwendungen können technisch eng beieinander liegen. Das Erforschen einer Krankheit, die Entwicklung einer Behandlung oder die Untersuchung eines Erregers kann sich mit Wissen überschneiden, das missbraucht werden könnte. Anthropic erklärt, Fable 5 könne bei einigen hochkomplexen biologischen Aufgaben Fachleute übertreffen und bei anderen praktische Unterstützung leisten. Daher könne dieselbe Fähigkeit, die einer legitimen Forschung hilft, auch einem böswilligen Akteur materiell helfen. Ob eine Frage oberflächlich pädagogisch klingt, reicht folglich nicht aus, um ihre Verwendung zu bewerten.

Um die Grenze enger zu ziehen, schrieb Anthropic nach eigenen Angaben die Verfassung des Klassifikators um, also eine Sammlung von Regeln zur Unterscheidung erlaubter und geschützter Inhalte. Danach entwickelte das Unternehmen aktualisierte Trainingsdaten, trainierte den Klassifikator neu und holte Rückmeldungen interner und externer Fachleute ein. Das resultierende System soll bei schädlichen oder Dual-Use-Inhalten der Forschungsbiologie weiterhin auslösen, aber einen größeren Bereich harmloser Anfragen zulassen. Der Klassifikator müsse zugleich gegen Umgehungsversuche robust sein, was die Verringerung von Fehlalarmen erschwere. Die Angabe von 85% beruht auf Tests von Anthropic selbst und nicht auf einer unabhängigen Messung.

Die erwartete Erfahrung unterscheidet sich je nach Produktoberfläche. Anthropic erwartet, dass die Gesamtzahl der Rückfälle einschließlich anderer Ursachen auf Claude.ai um etwa 67%, bei Cowork um 55%, bei Claude Code um 17% und auf der Claude Platform um 7% sinkt. Diese Zahlen bedeuten nicht, dass Fable 5 nun jede Biologiefrage beantwortet. Das Unternehmen will Dual-Use-Anfragen aus professioneller Biologie und Arzneimittelentwicklung weiter vom Modell wegleiten. Sein längerfristiges Ziel ist es, vertrauenswürdige Zugangswege für Forschende zu schaffen, die unter stärker kontrollierten Bedingungen leistungsfähigere Fähigkeiten benötigen.

Die Veröffentlichung zeigt einen wiederkehrenden Zielkonflikt bei der Bereitstellung von Spitzenmodellen. Ein Sicherheitssystem, das zu breit blockiert, kann Nutzende frustrieren und den Nutzen in legitimen Situationen verringern. Ein System, das zu wenig blockiert, kann Risiken schaffen, die nach breiter Verfügbarkeit eines Modells schwer rückgängig zu machen sind. Anthropic verändert deshalb den Klassifikator, statt die Grenze zu entfernen, und verschiebt mit engeren Regeln und neuen Daten klar harmlose Fragen auf die erlaubte Seite. Ob dieses Gleichgewicht hält, wird von realer Leistung, adversarialen Tests und der Bereitschaft abhängen, bei auftretenden Fehlern erneut nachzusteuern.

Für Kliniker, Lehrkräfte und allgemeine Nutzende bleibt die praktische Botschaft zurückhaltend. Mehr alltägliche Biologie- und Gesundheitsfragen könnten direkte Unterstützung statt einer Weiterleitung erhalten, doch das Produkt wird weder als Ersatz für medizinisches Urteil noch als universelles Forschungswerkzeug dargestellt. Für Forschende in kontrollierten Dual-Use-Bereichen bleibt die Beschränkung erheblich. Die Ankündigung zeigt, dass Modellsicherheit zunehmend eine operative Produktfrage ist: Nutzende erleben sie daran, welches Modell antwortet, wie oft eine Anfrage weitergeleitet wird und ob eine hilfreiche Antwort erreichbar ist. Der nächste Beleg wird daraus kommen, wie der verfeinerte Klassifikator außerhalb der internen Tests von Anthropic funktioniert.