Die Verbreitung künstlicher Intelligenz als Werkzeug zur Informationsverarbeitung und Kommunikation hat längst alle Bereiche des gesellschaftlichen Lebens durchdrungen. Mit der erweiterten Verfügbarkeit von generativen KI-Systemen wie ChatGPT eröffnen sich jedoch nicht nur positive Anwendungsfelder, sondern auch neue Möglichkeiten für Manipulation, Einflussnahme und verdeckte Operationen. Ein aktueller Bericht von OpenAI zeigt eindrücklich, wie insbesondere chinesische Akteure KI-Plattformen für politische und gesellschaftliche Zwecke missbrauchen und welche Gegenschritte das Unternehmen unternimmt, um diese Bedrohungen einzudämmen.Im Zentrum der jüngsten Enthüllungen steht die Identifikation von zehn koordinierten Einflussoperationen, die künstliche Intelligenz einsetzten, um falsche Narrative zu verbreiten, soziale Medien zu manipulieren und interne Berichte zu erstellen – vier dieser Operationen haben laut OpenAI wahrscheinlich Verbindungen zur chinesischen Regierung. Diese Kampagnen zeigen nicht nur ein breites Spektrum an eingesetzten Taktiken, sondern auch einen ausgeklügelten Einsatz von KI, um die Authentizität von Onlineinteraktionen vorzutäuschen.
Ein besonders bemerkenswertes Beispiel ist die sogenannte "Sneer Review"-Operation, die ChatGPT nutzt, um auf Plattformen wie TikTok, X (früher Twitter), Reddit und Facebook Beiträge und Kommentare zu verfassen. Die Inhalte wurden in mehreren Sprachen – darunter Englisch, Chinesisch und Urdu – verfasst und deckten ein breites Themenspektrum ab. So wurden etwa die Auflösung der US-Entwicklungsagentur USAID durch die Trump-Administration sowohl gelobt als auch kritisiert, während zugleich ein taiwanisches Strategiespiel verunglimpft wurde, in dem Spieler gegen die chinesische Kommunistische Partei antreten. Diese Methode, sowohl positive als auch negative Kommentare zu einem Thema zu generieren, soll dabei helfen, eine scheinbar natürliche Meinungsvielfalt zu simulieren und eine organische Debatte vorzutäuschen.Das Ausmaß der Täuschung zeigt sich auch darin, dass nicht nur einzelne Beiträge generiert wurden, sondern auch antwortende Kommentare, die den Eindruck erwecken, eine aktive Gemeinschaft diskutiere die Inhalte.
Dies sorgt für erhöhte Sichtbarkeit und Glaubwürdigkeit der manipulativen Beiträge. Überraschenderweise beinhaltete die „Sneer Review“-Operation sogar eine von der KI verfasste Leistungsbewertung des betrügerischen Netzwerks, in der die durchgeführten Methoden detailliert dokumentiert wurden. Die Parallelen zwischen den beschriebenen Prozessen und den beobachteten Onlineaktivitäten verdeutlichen, wie offen KI bei der Organisation solcher Operationen eingesetzt wird.Neben der Meinungsmanipulation wird in einem weiteren Fall die KI zur Informationsbeschaffung und Spionage genutzt. Eine als Journalisten und geopolitische Analysten getarnte chinesische Operation setzte KI ein, um Biografien und Posts auf X zu verfassen, Kommunikation zu übersetzen und Daten zu analysieren.
Unter den angeblich bearbeiteten Dokumenten befand sich auch Korrespondenz, die an einen US-Senator zu einer Nominierung gerichtet war. Zwar konnte OpenAI die Echtheit dieses Dokuments nicht bestätigen, doch unterstreicht der Fall die zunehmende Verbindung von KI-basierten Manipulationen mit geopolitischen Interessen.Diese Aktivitäten stehen in einem größeren Zusammenhang mit Chinas wachsenden Bemühungen um Online-Einflussnahme und Überwachung. Bereits frühere Berichte von OpenAI hatten ähnliche Operationen identifiziert, bei denen soziale Medien in Echtzeit zur Beobachtung von Protesten im Westen genutzt werden. Die KI wird dabei nicht nur zur Erstellung von Inhalten verwendet, sondern auch für technische Aufgaben wie das Debuggen von Code und das Erstellen von Verkaufspräsentationen für Überwachungssysteme.
Die entdeckten Einflussaktivitäten sind jedoch keineswegs auf China beschränkt. OpenAI berichtet ebenfalls von koordinierten Kampagnen, die wahrscheinlich aus Russland, dem Iran und weiteren Ländern stammen. Dazu zählen Spam-Operationen, Rekrutierungsscams und betrügerische Beschäftigungskampagnen, die die Bandbreite der manipulativen Strategien erweitern. Dabei kommen verschiedenste Taktiken und Plattformen zum Einsatz, die bewusst eingesetzt werden, um möglichst breite und gezielte Wirkung zu entfalten.Trotz der Potenz dieser verdeckten Netzwerke betont OpenAI, dass viele dieser Aktionen noch in einem frühen Stadium gestoppt wurden, bevor sie eine große Anzahl realer Nutzer erreichten.
Interessanterweise zeigte sich, dass der Einsatz von KI nicht zwangsläufig zu einem höheren Engagement oder erfolgreicherer Verbreitung führte. Dieses Ergebnis unterstreicht, dass auch wenn KI-Werkzeuge mächtig sind, die reine Verfügbarkeit solcher Technologien nicht automatisch zu effektivem Einfluss führt. Die Qualität, Kreativität und Kontextualisierung bleiben weiterhin entscheidende Faktoren für den Erfolg solcher Operationen.Aus Sicherheits- und Forschungsperspektive ist die Arbeit von OpenAI ein wichtiger Schritt, um die komplexen Herausforderungen der KI-Nutzung im Bereich der Desinformation und verdeckten Einflussnahme besser zu verstehen und gegenzusteuern. Die Offenlegung der Methoden, Kombination von Sprachen und Plattformen sowie die Analyse der betrieblichen Abläufe innerhalb der Operationen bieten wertvolle Einblicke in die Funktionsweisen sogenannter „Information Warfare“ im digitalen Zeitalter.
Darüber hinaus zeigt diese Entwicklung, wie dringlich die Debatte um ethischen KI-Einsatz, Transparenz und internationale Regulierung geworden ist. Ohne klare Standards und Richtlinien könnten KI-Systeme zunehmend für unerlaubte Aktivitäten missbraucht werden, die demokratische Prozesse untergraben, gesellschaftliches Vertrauen erschüttern und die globale Stabilität beeinträchtigen. Unternehmen wie OpenAI, die KI-Modelle entwickeln, übernehmen dabei eine wichtige Verantwortung, ihre Plattformen durch technische, rechtliche und politische Maßnahmen vor der Instrumentalisierung für böswillige Zwecke zu schützen.Das Thema verdeckte Einflussoperationen zeigt exemplarisch, wie eng Technologie, Politik und Medien miteinander verflochten sind und welche Herausforderungen die Digitalisierung mit sich bringt. Künstliche Intelligenz bietet immense Chancen zur Wissensvermittlung, Problemlösung und Innovation, steht aber zugleich im Fokus verschiedenartiger Gefahren, die aktive Gegenmaßnahmen erforderlich machen.
