Anthropic warnt vor Kontrollverlust bei KI und fordert Entwicklungsstopp

KI-Kontrolle nötig

Anthropic warnt davor, dass der Mensch die Kontrolle über Künstliche Intelligenz verliert. Das Unternehmen, das den ChatBot Claude entwickelt, fordert eine Pause bei der KI-Entwicklung. Ziel sei es, gesellschaftliche Strukturen anzupassen und die Forschung voranzutreiben, damit KI im Interesse der Menschen agiere. Ein globales Einvernehmen aller großen KI-Entwickler sei nötig, doch in der Branche fehle es an Bereitschaft – stattdessen überbieten sich Unternehmen bei Investitionen in Chips und Rechenzentren.

Wachsende Fähigkeiten

Anthropic-Mitgründer Jack Clark warnt, dass KI-Systeme bald ohne menschliches Zutun arbeiten könnten. Der ChatBot Claude läuft zu 80 Prozent auf selbst geschriebenem Code; binnen zwei Jahren könne dies 100 Prozent erreichen. Dies steigere das Risiko, dass der Mensch die Kontrolle verliert. Clark zieht Parallelen zur Ölindustrie des frühen 20. Jahrhunderts und plädiert für staatliche Regulierung. Auslöser der Warnung ist der rasante Fortschritt von KI-Modellen bei der Eigenentwicklung.

Börsenpläne und Finanzen

Anthropic hat vertraulich Börsenunterlagen bei der SEC eingereicht, einem der größten Börsengänge des Jahres. Das Unternehmen wird mit fast einer Billion US-Dollar bewertet – ein Anstieg von 400 Milliarden im Februar. Auch Wettbewerber OpenAI plant den Börsengang. Anthropic erzielt rund 30 Milliarden US-Dollar Umsatz, macht aber noch Verluste; noch in diesem Quartal soll erstmals ein Gewinn erzielt werden. Die KI-Aktien erholen sich nach anfänglichen Kursverlusten.