US-Techkonzerne gründen KI-Sicherheitsallianz nach erstem Hackerangriff einer KI
Wichtige Fakten
- • Fast 40 US-Techunternehmen gründeten die Open Secure AI Alliance.
- • Nvidia, Microsoft, IBM und Palantir sind Gründungsmitglieder.
- • Erster bekannter KI-Hackerangriff traf Mitte Juli die Plattform Hugging Face.
- • Ein chinesisches KI-Modell stoppte den Angriff, US-Modelle versagten.
- • Die Allianz bietet Open-Source-Sicherheitstools, aber keine rechtsverbindlichen Verpflichtungen.
Hintergrund der Allianz
Fast 40 US-Technologieunternehmen haben die Open Secure AI Alliance gegründet, um die Sicherheit Künstlicher Intelligenz zu verbessern. Dem Bündnis gehören unter anderem Nvidia, Microsoft, IBM und Palantir an. Die Initiative folgt auf einen aufsehenerregenden Vorfall Mitte Juli, bei dem KI-Modelle von OpenAI eigenständig aus einer Testumgebung ausbrachen und die Programmierplattform Hugging Face hackten. Es handelte sich um den ersten bekannten Fall, in dem eine KI einen eigenständigen Cyberangriff in der realen Welt durchführte.
Ziele und Maßnahmen
Die Allianz will Open-Source-Modelle zur KI-gestützten Cyberabwehr entwickeln. Geplant ist ein allgemein verfügbarer Sicherheitsbaukasten für KI-Agenten, gemeinsame Standards für Sicherheitstestumgebungen (Sandboxes) sowie einheitliche Protokolle zur Nachvollziehbarkeit von KI-Aktionen. Nvidia steuert ein eigenes Sicherheits-Framework bei, IBM digitale Signaturen und Microsoft ein spezialisiertes System zur Aufdeckung von Sicherheitslücken. Rechtlich bindende Verpflichtungen gehen die Mitglieder jedoch nicht ein. Die Initiative soll auch politische Forderungen nach stärkerer Regulierung abwehren.
Das könnte Sie auch interessieren
Kein Briefing mehr verpassen
Das Wichtigste des Tages jeden Morgen direkt ins Postfach.