Grok: xAI blockiert Bearbeitung sexualisierter Deepfakes – Geoblocking und Einschränkungen bei Editierfunktionen angekündigt

Elon Musks KI-Plattform Grok hat nach einem öffentlichen Aufschrei technische Maßnahmen angekündigt, um zu verhindern, dass reale Fotos von Menschen in freizügiger Kleidung mittels des Chatbot-Modells bearbeitet werden. xAI spricht dabei von Geoblocking: Die Funktion, reale Personen in Bikinis, Unterwäsche oder ähnlicher Aufmachung darzustellen, soll in den Rechtsgebieten blockiert werden, in denen dies gesetzlich verboten ist. Zudem betont X/xAI, dass Bildbearbeitungsfunktionen auf der Plattform grundsätzlich nur zahlenden Nutzern zur Verfügung stehen sollen (laut BBC-Angaben). Die Ankündigung folgt Berichten über Tausende sexualisierte, mit Grok erzeugte Bilder, unter denen Medienberichten zufolge auch anzügliche Darstellungen von Minderjährigen aufgetaucht sind. Daraufhin haben die Europäische Union, mehrere nationale Behörden und der US-Bundesstaat Kalifornien Untersuchungen gegen xAI eingeleitet; Ofcom führt im Vereinigten Königreich eine förmliche Untersuchung. Länder wie Malaysia und Indonesien hatten den Zugang zu Grok bereits gesperrt. Betroffene, Kampagnenorganisationen und Wissenschaftler begrüßen die Maßnahme als Schritt in die richtige Richtung, kritisieren aber, dass die Reaktion zu spät komme und die Plattform den bereits entstandenen Schaden nicht rückgängig machen könne. Ofcom und die britische Regierung sehen die Ankündigung zwar positiv, betonen jedoch, dass die Prüfung fortlaufe. Unklar ist, wie X/xAI die Geo-Blocks technisch durchsetzen und Missbrauch verhindern will; Experten warnen, Nutzer könnten versuchen, Sperren zu umgehen (z. B. per VPN). Zugleich sorgt das Verhalten von Elon Musk in der öffentlichen Debatte (etwa das Teilen provokanter AI-Bilder) für zusätzliche Kritik. Kurz: xAI hat zugesagt, sexualisierte Editierungen realer Personen technisch zu blockieren und die Editierfunktion auf zahlende Nutzer zu beschränken, doch zentrale Fragen zur Durchsetzung, möglichen Umgehungen und zu rechtlichen Konsequenzen sind weiterhin offen. Die Lage bleibt daher rechtlich, politisch und technisch volatil.