Das KI-Unternehmen Anthropic hat am vergangenen Wochenende bestätigt, dass es den Zugriff auf seine neuesten KI-Modelle, Claude Mythos 5 und Claude Fable 5, für die gesamte Kundschaft gesperrt hat. Der Schritt erfolgt als Reaktion auf eine Exportkontrollanordnung der US-Regierung, die den Zugriff auf die Modelle für ausländische Staatsangehörige, sowohl innerhalb als auch außerhalb der USA, untersagt. Die Anordnung betrifft auch ausländische Mitarbeiter von Anthropic selbst.
Ursprünglich waren Claude Mythos 5 und Claude Fable 5 aus dem Projekt Glasswing hervorgegangen, einem exklusiven Programm, das einer kleinen Gruppe von Unternehmen und Forschungspartnern den Zugriff auf das hochmoderne Sicherheitsforschungsmodell Claude Mythos Preview ermöglichte. Beteiligte wie Mozilla berichteten, mit dessen Hilfe Hunderte von Sicherheitslücken identifiziert und behoben zu haben. Während Mythos 5 weiterhin auf Glasswing-Teilnehmer beschränkt bleiben sollte, war Fable 5 für eine breitere Öffentlichkeit vorgesehen, allerdings mit strengen Schutzmechanismen, die Missbrauch verhindern sollten. Anthropic hatte Claude Mythos 5 und Claude Fable 5 in der vergangenen Woche veröffentlicht.
Regierungsintervention: Exportkontrollen und nationale Sicherheit
Die weiteren KI-Modelle von Claude sind weiterhin verfügbar.
Laut eines Berichts von Axios schickte Handelsminister Howard Lutnick einen Brief an Anthropic-CEO Dario Amodei, in dem er mitteilte, dass beide Modelle Exportkontrollen unterliegen würden. Ein Regierungsbeamter erklärte gegenüber Axios: „Das Handelsministerium habe diese Maßnahme beschlossen, nachdem ein anderes Unternehmen behauptet hatte, es sei in der Lage, Mythos zu jailbreaken, was die Regierung hinsichtlich möglicher Risiken für die nationale Sicherheit alarmierte.“
Axios verwies zudem darauf, dass die Trump-Regierung zuvor versucht habe, die Veröffentlichung der Modelle zu blockieren, allerdings ohne Erfolg. Die neue Richtlinie erfordert nun eine Lizenz für den Export, Reexport oder die inländische Weitergabe der Modelle. In einer offiziellen Stellungnahme erklärte Anthropic:
„Die US-Regierung hat unter Berufung auf nationale Sicherheitsbehörden eine Exportkontrollrichtlinie erlassen, um jeglichen Zugriff auf Fable 5 und Mythos 5 durch ausländische Staatsangehörige, sei es innerhalb oder außerhalb der Vereinigten Staaten, einschließlich ausländischer Mitarbeiter von Anthropic, auszusetzen. Die Folge dieser Anordnung ist, dass wir Fable 5 und Mythos 5 für alle unsere Kunden unverzüglich deaktivieren müssen, um die Einhaltung der Vorschriften zu gewährleisten. Der Zugriff auf alle anderen Anthropic-Modelle bleibt davon unberührt.
Wir haben die Anordnung heute um 17:21 Uhr (ET) von der Regierung erhalten. Das Schreiben enthielt keine konkreten Details zu den Bedenken hinsichtlich der nationalen Sicherheit. Unserem Verständnis nach geht die Regierung davon aus, dass ihr eine Methode zur Umgehung oder zum ‚Jailbreaking‘ von Fable 5 bekannt geworden ist. Wir haben eine Demonstration dieser spezifischen Technik geprüft, die zur Identifizierung einer kleinen Anzahl bereits bekannter, geringfügiger Schwachstellen verwendet wurde. Diese Schwachstellen erscheinen alle relativ einfach, und wir haben festgestellt, dass auch andere öffentlich zugängliche Modelle in der Lage sind, sie zu entdecken, ohne dass eine Umgehung erforderlich ist.“
Sicherheitsvorkehrungen und Kritik an den Einschränkungen
Anthropic verwies auf die umfangreichen Sicherheitsmaßnahmen, die bei der Veröffentlichung von Fable 5 getroffen worden seien. Die Schutzmechanismen des Modells hatten jedoch von Anfang an Kritik hervorgerufen, insbesondere wegen ihrer strengen Einschränkungen. Das Unternehmen gab an, in den letzten Wochen Anpassungen vorgenommen zu haben, um ein Gleichgewicht zwischen Sicherheit und Benutzerfreundlichkeit zu finden.
In der eigenen Stellungnahme entschuldigte sich Anthropic bei der Kundschaft für die Unannehmlichkeiten und äußerte die Vermutung, dass die Maßnahme der Regierung auf einem Missverständnis beruhe. Das Unternehmen kündigte an, in den nächsten 24 Stunden weitere Informationen zu veröffentlichen und daran zu arbeiten, den Zugriff auf die Modelle so schnell wie möglich wiederherzustellen. Die vollständige Erklärung von Anthropic ist über den Link einsehbar.
Der Beitrag Anthropic sperrt Claude 5 auf Anordnung der US-Regierung erschien zuerst auf appgefahren.de.