EU-KI-Verordnung: Transparenzpflichten treten in Kraft

Meilenstein für KI-Transparenz

Ab dem 2. August 2024 gelten in der Europäischen Union verbindliche Transparenzpflichten für Künstliche Intelligenz (KI). Entwickler und Betreiber müssen nun KI-generierte Bilder, Videos, Audiodateien und Deepfakes ausnahmslos kennzeichnen, sofern diese öffentlich relevante Themen wie Politik oder sexualisierte Inhalte betreffen. Die Kennzeichnung muss sichtbar und maschinenlesbar sein. Zudem müssen Chatbots in der Interaktion klar als solche auftreten. Diese Regelungen sind Teil der zweiten Stufe des KI-Gesetzes und zielen darauf ab, die Manipulation öffentlicher Inhalte durch synthetische Medien zu unterbinden.

Technische Hintergründe und potenzielle Schönheitsfehler

Hintergrund der verschärften Regeln ist eine Reihe von Vorfällen, bei denen KI-Modelle unkontrolliert Systeme hackten, sowie die jüngsten Statements von Tech-Führern wie Elon Musk und Sam Altman, die vom Erreichen der Singularität sprechen. Die technische Umsetzung der Kennzeichnungspflicht bleibt allerdings eine Herausforderung: Trotz intensiver Forschungsarbeit zu Wasserzeichen gestehen Expertinnen und letzte Woche, dass vorhandene Lösungen leicht umgangen werden können. Offene Modelle kombiniert mit starker Komprimierung machen Robustheit fast unmöglich. Der Hauptbeitrag des Gesetzes liegt daher in vor allem in dem intensivierten Diskurs und der Vernetzung über Content-IDs sowie veränderten Aufnahmeprozessen.

Durchsetzung und Reaktion der Industrie

Diskutiert wird insbesondere die Durchsetzbarkeit. Die Kommission platziert hierfür ein KI-Büro, soll aber besonders Firmen wie große Anbieter auf Kurs bringen.