US-Behörden stoppen KI-Modelle von Anthropic aus Sicherheitsgründen

Hintergrund und Anordnung

US-Behörden haben den KI-Entwickler Anthropic angewiesen, den Zugang zu seinen fortschrittlichsten Modellen Fable 5 und Mythos 5 für ausländische Staatsbürger zu blockieren – begründet mit nationaler Sicherheit. Anthropic zog die Systeme daraufhin weltweit zurück. Das Handelsministerium untersagte die Nutzung durch Nicht-US-Bürger, woraufhin Anthropic die Modelle komplett offline nahm. Dies geht aus einer Unternehmensmitteilung hervor.

Bedrohung durch Jailbreaking

Die Sorge gilt insbesondere Cyberaktivitäten: Mythos 5 soll in der Lage sein, selbst über Jahre unentdeckte Schwachstellen in Software aufzuspüren – eine Fähigkeit, die als mögliche Cyberwaffe eingestuft wird. Anthropic räumte ein, dass die Regierung eine Methode zum „Jailbreaking“ von Fable 5 sehe. Das Unternehmen selbst bewertet das Risiko als gering.

Rechtlicher Streit und Marktfolgen

Erst kürzlich stufte das Pentagon Anthropic als „Lieferkettenrisiko“ ein. Ein US-Richter erklärte die Anweisung für nicht durchsetzbar, der Rechtsstreit dauert an. Marktbeobachter sehen Anthropics KI-Modelle dennoch als „zu mächtig für die breite Freigabe“ an.