KI-Schwärme: Forschende warnen vor Gefahr für demokratische Prozesse

KI-Schwärme als neue Bedrohung

Forschende warnen vor sogenannten KI-Schwärmen, bei denen zahlreiche KI-Agenten wie echte Menschen auftreten und als Gruppe die Illusion einer Mehrheitsmeinung erzeugen können. Laut einem internationalen Forschungsteam im Science Policy Forum unterscheiden sich diese Systeme deutlich von früheren Bot-Netzwerken, da sie über viele Plattformen hinweg agieren, sich gegenseitig bestätigen und so einen künstlichen gesellschaftlichen Konsens schaffen, der demokratische Prozesse ins Wanken bringen könnte.

Mechanismen und Risiken

KI-Schwärme nutzen große Sprachmodelle (LLMs), um alternative Gesellschaften zu simulieren und in langsamen, beharrlichen Prozessen Menschen zu überzeugen, ihre Meinung oder politische Unterstützung zu ändern. Die Gefahr liegt nicht in einzelnen Falschmeldungen, sondern im künstlich erzeugten Konsens, der gesellschaftliche Normen verschieben kann, indem viele scheinbar unabhängige Stimmen dieselbe Position vertreten und so den Eindruck einer nicht existierenden Mehrheit erwecken.

Gegenmaßnahmen und Handlungsbedarf

Obwohl noch kein bestätigter Fall eines voll entwickelten KI-Schwarms vorliegt, wurden erste KI-gesteuerte Netzwerke entdeckt. Forschende wie David Garcia von der Universität Konstanz betonen, dass die Hürde für den Einsatz solcher Technologien niedrig ist, da die erforderlichen Sprachmodelle frei zugänglich sind. Um demokratische Prozesse zu schützen, plädieren sie für frühzeitiges Handeln, einschließlich Mustererkennung zur Identifizierung koordinierten Verhaltens und der Einrichtung einer unabhängigen Beobachtungsstelle für plattformübergreifende Überwachung.