In der heutigen digitalen Welt sind Künstliche Intelligenz (KI) und insbesondere große Sprachmodelle (Large Language Models, LLMs) zu unverzichtbaren Werkzeugen geworden. Sie unterstützen Unternehmen, Experten und Privatpersonen dabei, Informationen zu finden, Texte zu verfassen und komplexe Probleme zu lösen. Doch gerade die enorme Bedeutung dieser Technologien macht sie auch zu einem interessanten Ziel für manipulative Akteure, die versuchen, die Funktionsweise der Modelle zu beeinflussen. Ein herausragendes Beispiel dafür ist das russische Desinformationsnetzwerk namens Pravda, das laut mehreren aktuellen Studien immense Mengen an manipulativem Content produziert hat, um die Trainingsdaten moderner KI-Modelle zu überschwemmen und deren Ausgaben gezielt zu steuern.Die Gefahr hinter der sogenannten „LLM-Grooming“-Strategie, wie Expertinnen und Experten die gezielte Beeinflussung von KI-Trainingsdaten nennen, liegt darin, dass falsche oder irreführende Narrative nicht nur im menschlichen Informationsraum Verbreitung finden, sondern direkt in die Künstliche Intelligenz eingespeist werden.
Dies kann dazu führen, dass führende Chatbots und andere KI-Systeme selbst jene Desinformationen reproduzieren, die von strategisch agierenden Akteuren wie Pravda in Umlauf gebracht werden.Pravda agiert nicht als klassischer Nachrichtensender mit eigenen journalistischen Inhalten. Vielmehr ist das Netzwerk darauf spezialisiert, Inhalte von pro-kreml-nahen Quellen zusammenzuführen und über ein breit gestreutes Netzwerk von etwa 150 Webseiten zu verbreiten. Dabei richten sich einzelne Webdomains gezielt an spezifische Regionen, beispielsweise News-Kiew.ru oder Kherson-News.
ru, die in mehreren Sprachen erscheinen. Das Ziel ist klar: Das Netz von Seiten verbreitet Propaganda und falsche Informationen, zu denen sich auch absurde Narrative wie „geheime US-Biolabore in der Ukraine“ oder Vorwürfe gegen die ukrainische Führung zählen.Diese Strategie zeigt, wie sich Desinformation im Zeitalter der Künstlichen Intelligenz weiterentwickelt hat. Anstatt ausschließlich menschliche Empfänger als Zielgruppe zu betrachten, richtet sich die Operation verstärkt an die KI-Modelle selbst. Durch das Publizieren von Millionen von Artikeln wird der Trainingsdatensatz von LLMs bewusst überschwemmt, wodurch es wahrscheinlicher wird, dass die falschen Narrative im Antwortverhalten der KI auftauchen.
So ergab etwa ein Studienbericht von NewsGuard, dass in immerhin einem Drittel der Fälle ein populärer KI-Chatbot Antworten liefert, die von den Inhalten der Pravda-Plattformen beeinflusst sind.Die Tragweite dieser Strategie für die Zuverlässigkeit von KI-Anwendungen kann kaum überschätzt werden. Sprachmodelle basieren auf der Analyse großer textlicher Datenmengen aus dem Internet, die sie nutzen, um Muster zu erkennen und sinnvolle Antworten zu generieren. Wenn jedoch der Anteil von Desinformation in den Daten wächst, beginnt das Modell, diese Narrative als valide Inhalte zu betrachten und in der Folge zu reproduzieren. Das wirft nicht nur ethische und sicherheitstechnische Bedenken auf, sondern könnte langfristig auch das Vertrauen der Nutzerinnen und Nutzer in Künstliche Intelligenz untergraben.
Mit Blick auf geopolitische Hintergründe ist die Vorgehensweise von Pravda Teil einer breiter gefassten Informationsstrategie, die verschiedene Regionen der Welt anspricht. Neben Europa und der Ukraine zählen auch Afrika, der Mittlere Osten und Nordamerika zu den Zielgebieten, die durch spezifische Webseiten, die jeweils auf lokale Themen oder Nachrichten zugeschnitten sind, bearbeitet werden. Eine solche Diversifikation erhöht die Wirkung und Reichweite der Desinformation erheblich.Die Auswirkungen dieser Entwicklung werden in Fachkreisen als problematisch und beängstigend betrachtet. Die American Sunlight Project, eine US-amerikanische gemeinnützige Organisation, warnte in einem Bericht davor, dass die Manipulation von KI-Systemen durch Desinformation langfristige Risiken birgt, die weit über direkte Propaganda hinausgehen.
So könnten KI-Modelle, die einmal mit falschen Informationen trainiert wurden, dazu beitragen, eine verzerrte Realität zu reproduzieren und so die Gesellschaften zu spalten.Zudem offenbart der Fall Pravda die dringende Notwendigkeit, strengere Kontrollen und Schutzmechanismen in der Entwicklung und dem Training von KI-Modellen zu etablieren. Es muss gewährleistet werden, dass Trainingsdaten verifiziert und qualitativ hochwertig sind, um eine unbeabsichtigte Verstärkung von Falschinformationen zu verhindern. Gleichwohl stellt die schiere Menge an im Internet verfügbaren Daten eine große Herausforderung dar, da viele Trainingsprozesse automatisiert und oft ohne umfassende einzelne Inhaltsprüfung ablaufen.Die politische Dimension wird durch die Tatsache unterstrichen, dass der Bericht von NewsGuard zeitgleich mit Berichten erschien, wonach in den USA Operationen des U.
S. Cyber Command gegen Russland vorläufig ausgesetzt wurden. Diese Entwicklung könnte eine gewisse Öffnung der Grenzen für russische Desinformationskampagnen erklären oder zumindest begünstigen.Für Deutschland und Europa ergeben sich daraus zentrale Fragen: Wie können Sicherheit und Integrität von KI-Systemen in einer vernetzten Welt gewährleistet werden? Welche Rolle spielen staatliche und private Akteure bei der Regulierung und Überwachung der KI-Trainingsdaten? Und wie kann die Bevölkerung für die Risiken sensibilisiert werden, die durch gezielte LLM-Manipulation entstehen?Pravdas Vorgehen illustriert eindrücklich, dass Informationskriege heute nicht nur im direkten menschlichen Kommunikationsraum stattfinden, sondern auch im digitalen Raum der KI-Modelle. Die Technologie, die eigentlich dazu dienen sollte, den Zugang zu Wissen zu erleichtern, wird zum Teil eines komplexen geopolitischen Spiels.
Für Entwicklerinnen, Nutzerinnen und Entscheidungsträger in Politik und Wirtschaft ist es daher von höchster Bedeutung, wachsam zu sein und entsprechende Gegenmaßnahmen zu entwickeln.Mit der zunehmenden Vernetzung von KI und menschlicher Kommunikation verschärft sich die Herausforderung, dass Manipulationen in Trainingsdaten schwer erkannt, noch schwerer zurückgenommen und schließlich bekämpft werden können. Die Wissenschaft und Industrie müssen daher verstärkt auf Transparenz der Trainingsprozesse, kontrollierte Datenquellen und präzise Filtermechanismen setzen. Nur so kann sichergestellt werden, dass KI-Modelle nicht zu unbeabsichtigten Verbreitern von Desinformation werden.Abschließend lässt sich sagen, dass das Beispiel des russischen Netzwerks Pravda die Dimension der Bedrohung verdeutlicht, die von gezielter Datenmanipulation im Zeitalter Künstlicher Intelligenz ausgeht.
Die Herausforderungen sind immens, doch das Bewusstsein darüber wächst. Die Gesellschaft steht vor der Aufgabe, eine Balance zu finden zwischen offenem Zugang zu Informationen und der Notwendigkeit, die Zuverlässigkeit und Unabhängigkeit von KI-Systemen zu schützen.
