Die US-Regierung weist Anthropic an, den Zugriff auf Fable 5 und Mythos 5 wegen Bedenken einer Schutzumgehung zu sperren
Regierung greift in die neuesten Modelle von Anthropic ein
Die US-Regierung hat Anthropic angewiesen, den Zugriff auf zwei seiner fortschrittlichsten KI-Systeme, Claude Fable 5 und Claude Mythos 5, sofort auszusetzen, und nannte als Begründung nationale Sicherheitsbedenken im Zusammenhang mit einer möglichen Schutzumgehung.
Anthropic sagte, es habe die Anordnung am Freitag um 17:21 Uhr ET erhalten und befolge sie, während das Unternehmen zugleich argumentiere, die Regierung habe "hier falsch gelegen." Das Unternehmen erklärte, die Anordnung zwänge es, den Zugriff auf beide Modelle weltweit zu deaktivieren, nicht nur für ausländische Staatsangehörige, obwohl die Maßnahme als Exportkontrollmaßnahme dargestellt worden sei.
Der Schritt trifft Anthropic zu einem sensiblen Zeitpunkt. Mythos 5 ist das leistungsfähigste Modell des Unternehmens und war wegen seiner angeblichen Fähigkeit, Sicherheitslücken in Software aufzudecken, streng beschränkt worden. Anthropic erklärte, das Modell sei über wichtige Betriebssysteme und Browser getestet worden und habe in jedem Schwachstellen gefunden. Statt es breit zu veröffentlichen, habe das Unternehmen den Zugriff über Project Glasswing beschränkt, ein kontrolliertes Programm mit etwa 50 geprüften Organisationen, darunter Amazon, Apple, Google, Microsoft und CrowdStrike.
Fable 5, vor nur drei Tagen veröffentlicht, war die öffentlich zugängliche Version von Mythos 5, mit Schutzmechanismen entworfen, um risikoreiche Themen wie Cybersicherheit und Biologie zu blockieren. Das Unternehmen sagte, es habe geglaubt, diese Schutzvorkehrungen würden eine allgemeine Freigabe rechtfertigen, und Benchmark-Tests von Vals AI hätten es bereits an die Spitze des öffentlichen Feldes gesetzt.
Anthropic sagte, die Sorge der Regierung scheine sich auf eine angebliche Schutzumgehung von Fable 5 zu konzentrieren. Nach Angaben des Unternehmens hätten die Beamten lediglich mündliche Hinweise auf eine "potenziell enge, nicht universelle Schutzumgehung" geliefert, die Prompts betreffe, mit denen das Modell dazu gebracht würde, einen Codebestand zu untersuchen und Softwarefehler zu identifizieren. Anthropic erklärte, dass diese Fähigkeit bereits in anderen öffentlich zugänglichen Modellen vorhanden sei, unter anderem GPT-5.5 von OpenAI, und routinemäßig für defensive Cybersicherheitsarbeit genutzt werde.
Das Unternehmen argumentierte außerdem, dass seine stärksten Schutzmaßnahmen auf unabhängigen Klassifikatorsystemen beruhen, die vom Modell selbst getrennt sind, sodass eine Schutzumgehung nicht unbedingt die zugrunde liegenden Schutzmechanismen gegen gefährliche Ausgaben außer Kraft setzen würde.
Dennoch ist die Anordnung der Regierung ein deutliches Zeichen dafür, wie schnell fortgeschrittene KI zu einer nationalen Sicherheitsfrage wird — und wie viel eher Regulierungsbehörden eingreifen, wenn sie glauben, ein Modell könne eine Schwelle überschritten haben.
Quellen: