Der Beitrag KI-Schwärme: Die nächste Stufe der Desinformation erschien zuerst beim Online-Magazin BASIC thinking. Über unseren Newsletter UPDATE startest du jeden Morgen bestens informiert in den Tag.
KI-Schwärme könnten die nächste Evolutionsstufe der Desinformation sein. Statt einzelner Bots agieren vernetzte KI-Systeme koordiniert und täuschen so gesellschaftlichen Konsens vor. Forscher warnen, dass diese Entwicklung den öffentlichen Diskurs und demokratische Entscheidungsprozesse erheblich gefährden könnte.
Künstliche Intelligenz treibt die digitale Transformation enorm voran und prägt bereits heute zentrale Bereiche in Wirtschaft, Wissenschaft oder Gesellschaft. In kürzester Zeit hat KI bereits verändert, wie Informationen entstehen, verbreitet und wahrgenommen werden.
Die Fähigkeit, Inhalte in großem Maßstab zu erzeugen und zu koordinieren, eröffnet neue Chancen. Sie birgt aber auch erhebliche Risiken. Denn KI entwickelt sich zunehmend zu einem Machtfaktor, der Meinungsbildung und politische Prozesse beeinflussen kann.
Forscher warnen daher eindringlich vor den gesellschaftlichen Folgen dieser Entwicklung. Sie sehen KI-Schwärme als die nächste Generation der Desinformation, weil sie koordiniert auftreten, menschliche Debatten täuschend echt imitieren und so gezielt Meinungsbilder verfälschen können.
Gefährden KI-Schwärme die Demokratie?
Ein internationales Konsortium von Forschern warnt vor einer neuen Eskalationsstufe der digitaler Manipulation. Bereits bei den US-Präsidentschaftswahlen 2028 könnten sogenannte KI-Schwärme gezielt eingesetzt werden, um den Wahlprozess massiv zu stören.
Führende KI-Forscher und Sozialwissenschaftler unter anderem aus Berkeley, Harvard, Oxford, Cambridge, Yale und Konstanz haben KI-Schwärme als eine neue, schwer erkennbare Form koordinierter Desinformation identifiziert. Diese hätten das Potenzial, die öffentliche Meinungsbildung gezielt zu manipulieren und demokratische Prozesse zu untergraben.
Diese Systeme sind in der Lage, sich autonom zu koordinieren, Gemeinschaften zu infiltrieren und effizient Konsens herzustellen. Indem sie menschliche soziale Dynamiken adaptiv nachahmen, bedrohen sie die Demokratie.
In ihrem Artikel in der renommierten Fachzeitschrift Science beschreiben die Forscher diese „disruptive Bedrohung“ durch „Schwärme kollaborativer, bösartiger KI-Agenten“. Damit drohe eine bislang beispiellose Form der Meinungsmanipulation, die den demokratischen Diskurs ernsthaft gefährdet.
Droht Wahlmanipulation durch KI-Schwärme?
Das Forscherteam warnt vor allem von dem „künstlichen Konsens“, der durch die KI-Schwärme entstehen könne. Denn dieser sei in der Lage Überzeugungen und Normen zu beeinflussen – sogar bei umstrittenen Behauptungen.
„Die Gefahr besteht nicht mehr nur in Fake News“ erklärt Jonas R. Kunst von der BI Norwegian Business School, einer der Hauptautoren des Artikels. Vielmehr sei es gefährlich, „dass die Grundlage des demokratischen Diskurses – unabhängige Stimmen – zusammenbricht, wenn ein einzelner Akteur Tausende von einzigartigen, KI-generierten Profilen kontrollieren kann“.
Zusätzlich hätten schädliche KI-Schwärme einen negativen Einfluss auf die Trainingsdaten von regulären KI-Systemen. Da sie das Internet mit gefälschten Behauptungen fluten, könnten sie ihren Einfluss auf etablierte KI-Systeme ausweiten.
Laut den Forschern handle es sich dabei nicht nur um eine theoretische Bedrohung. Analysen hätten gezeigt, dass Taktiken in dieser Form bereits Anwendung finden. Sie seien 2024 bei den Wahlen in Taiwan, Indien und Indonesien zum Einsatz gekommen.
Daher fordern die Forscher auch weltweit koordinierte Maßnahmen, die dieses Risiko eindämmen. Sie schlagen hierfür sogenannte „Schwarmscanner“ sowie mit Wasserzeichen versehene Inhalte vor. So könnte KI-gesteuerten Desinformationskampagnen entgegengesteuert werden.
„Über die Täuschungen oder die Sicherheit von einzelnen Chatbots hinaus müssen wir neue Gefahren erforschen, die sich aus der Interaktion von vielen KI-Akteuren ergeben“, erklärt David Garcia, Professor für Social and Behavioural Data Science an der Universität Konstanz. „Dazu ist es essenziell, dass wir diese KI-Akteure mit Methoden der Verhaltenswissenschaften untersuchen und ihr kollektives Verhalten analysieren, wenn sie in großen Gruppen interagieren.“
Auch interessant:
5-Minuten-Training schärft Blick, um KI-Gesichter zu erkennen
KI verwässert Wissenschaft – durch immer mehr Artikel
Wasserverbrauch von KI: Zwischen Panikmache und realen Zahlen
So findest du heraus, was ChatGPT alles über dich weiß
Der Beitrag KI-Schwärme: Die nächste Stufe der Desinformation erschien zuerst auf BASIC thinking. Folge uns auch auf Google News und Flipboard oder abonniere unseren Newsletter UPDATE.