xAI hat technische Maßnahmen angekündigt, um zu verhindern, dass Grok Bilder realer Personen in freizügiger Kleidung (z. B. Bikinis, Unterwäsche) bearbeitet werden kann.
Die Firma spricht von Geoblocking: Die Fähigkeit, Bilder realer Personen in freizügiger Kleidung zu erzeugen oder zu bearbeiten, soll in den Rechtsgebieten blockiert werden, in denen dies illegal ist.
xAI/X erklärte zugleich, dass die Möglichkeit, Bilder mit Grok zu bearbeiten, grundsätzlich auf zahlende Nutzer beschränkt ist (laut BBC).
Berichten zufolge waren in den vergangenen Wochen Tausende sexualisierte KI-Bilder von Frauen auf X/Grok aufgetaucht; darunter sollen auch anzügliche Darstellungen von Minderjährigen gewesen sein.
Die EU, verschiedene nationale Behörden und der US-Bundesstaat Kalifornien haben Ermittlungen gegen xAI eingeleitet; Ofcom führt eine formelle Untersuchung im Vereinigten Königreich durch.
Malaysia und Indonesien hatten den Zugang zu Grok bereits gesperrt.
Kritiker und Betroffene bewerten die Änderungen als verspätet und heben hervor, dass der bereits verursachte Schaden (Vorzeigen und Verbreitung manipulierten Materials) nicht rückgängig gemacht wird.
Es bleibt unklar, wie Geo-Blocks technisch durchgesetzt werden sollen und ob sie sich durch VPNs oder andere Umgehungsmethoden aushebeln lassen.
Ofcom hat angekündigt, die Vorwürfe weiter zu untersuchen; falls X nicht gesetzeskonform handelt, könnte Ofcom gerichtlich eine Sperrung über Internetanbieter in Großbritannien anstreben.
Elon Musk hatte zuvor die Verantwortung für die Erstellung der Bilder teilweise auf Nutzer geschoben und selbst umstrittene AI-Bilder (u. a. eines britischen Politikers im Bikini) verbreitet.
Ausblick
"Die Entwicklung ist bedeutend und bleibt dynamisch: Regulatorische Prüfungen (Ofcom, EU, kalifornische Behörden) und mögliche gerichtliche Maßnahmen könnten zu weiteren Einschränkungen, Bußgeldern oder gar regionalen Sperren führen. Technische Fragen zur Wirksamkeit von Geo-Blocks und zur Verhinderung von Umgehungen (z. B. via VPN) bleiben offen. Politischer Druck könnte zu verschärfter Gesetzgebung und strengeren Betreiberpflichten für KI-Plattformen führen; gleichzeitig könnten Reputations- und Marktfolgen für xAI/X zunehmen."