KI-Modell Claude Mythos löst Sicherheitsalarm bei Finanzinstitutionen weltweit aus

Sicherheitsbedenken bei Finanzinstitutionen weltweit

Das KI-Modell Claude Mythos des US-Unternehmens Anthropic hat bei Finanzministern, Zentralbanken und Bankern weltweit ernste Besorgnis ausgelöst, nachdem es tausende Sicherheitslücken in vielen großen Betriebssystemen und Browsern identifizierte. Auf dem IMF-Treffen in Washington wurde das Modell ausführlich diskutiert, wobei der kanadische Finanzminister François-Philippe Champagne die Unvorhersehbarkeit der Bedrohung als 'unbekanntes Unbekanntes' beschrieb und betonte, dass sie die Aufmerksamkeit aller Finanzminister erfordere.

Zugang für ausgewählte Unternehmen und Institutionen

Anthropic hat Mythos nicht öffentlich freigegeben, sondern im Rahmen der Initiative 'Project Glasswing' zunächst zwölf Technologieunternehmen wie Amazon Web Services, Apple, Microsoft, Google, Nvidia und Broadcom Zugang gewährt. In den nächsten Tagen werden auch britische Banken Zugang zum Claude Mythos-Modell erhalten, um ihre Systeme vorab zu testen. Dies ermöglicht es den Finanzinstitutionen, Schwachstellen zu beheben, bevor das Modell möglicherweise öffentlich freigegeben wird.

Regulatorische Herausforderungen und internationale Reaktionen

Die Entwicklung stellt Regulierer weltweit vor erhebliche Herausforderungen. Andrew Bailey, Gouverneur der Bank of England, betonte die Ernsthaftigkeit der Situation und die Notwendigkeit, die Auswirkungen auf Cyberkriminalität genau zu prüfen. Das US-Finanzministerium hat bereits Treffen mit Bankvorständen abgehalten, um sie zu ermutigen, ihre Systeme zu testen. Die EU führt ebenfalls Gespräche mit Anthropic über ihre Bedenken bezüglich Mythos.

Unabhängige Bewertungen und kritische Stimmen

Das britische KI-Sicherheitsinstitut hat als einzige unabhängige Stelle einen Bericht zu Mythos veröffentlicht und bestätigt, dass es sich um ein leistungsfähiges Werkzeug handelt, das viele Sicherheitslücken in schlecht geschützten Systemen finden kann. Allerdings weisen die Forscher darauf hin, dass Mythos nicht dramatisch besser ist als sein Vorgänger Opus 4. Einige Cybersicherheitsexperten bleiben skeptisch und verweisen darauf, dass die Behauptungen von Anthropic möglicherweise übertrieben sind, um Aufmerksamkeit zu generieren.

Britische KI-Investitionen trotz Risiken

Parallel zu den Sicherheitsbedenken setzt die britische Regierung ihre KI-Investitionspläne fort. Der mit 500 Millionen Pfund ausgestattete souveräne KI-Fonds investiert in Unternehmen, die sich mit KI-Sicherheit befassen. James Wise, Vorsitzender der Sovereign AI Unit, sieht in Mythos 'das erste von vielen leistungsfähigeren Modellen', die Systemschwachstellen aufdecken können, und hofft, dass solche Modelle auch zur Behebung von Sicherheitslücken beitragen werden.