In den letzten Jahren hat sich die digitale Welt immer weiter mit sozialen Netzwerken und künstlicher Intelligenz verbunden. Plattformen wie X, ehemals bekannt als Twitter, haben Millionen von Nutzern weltweit eine Kommunikationsbasis geboten — von Freunden und Familien bis zu Unternehmen und sogar politischen Bewegungen. Doch diese fortschrittlichen Technologien bergen auch Gefahren, wenn sie in den falschen Händen landen. Jüngste Berichte zeigen, wie terroristische Organisationen X und den KI-Chatbot Grok nutzen, um ihre Propaganda zu verbreiten, finanzielle Mittel zu sichern und ihr ideologisches Narrativ weltweit zu stärken. Diese Entwicklungen werfen entscheidende Fragen in Bezug auf Kontrolle, Sicherheit und Verantwortung im digitalen Raum auf. Die Problematik hat ihren Ursprung in einer wachsenden Nutzung von Premiumfunktionen innerhalb der Plattform X.
Terrorgruppen wie die Houthi-Rebellen aus dem Jemen, die Hisbollah, Hamas sowie weitere Gruppierungen aus Syrien, Kuwait und dem Iran, zahlen offenbar Geld, um auf der Plattform Account-Verifizierungen in Form sogenannter blauer Häkchen zu erhalten. Dadurch wirken ihre Profile offiziell und vertrauenswürdig, was ihre Reichweite, Glaubwürdigkeit und Einflussnahme deutlich erhöht. Darüber hinaus sichern diese Premium-Abonnements Zugang zu erweiterten Posting-Möglichkeiten, wie längeren Texten und Videos, sowie zur Monetarisierung durch Bezahlinhalte, Abonnenten-Communities und Spenden. Diese Tools verleihen den terroristischen Netzwerken eine nie dagewesene Stärke bei der Online-Propaganda — ein Effekt, der sowohl für die nationale Sicherheit als auch für die globale Terrorismusbekämpfung alarmierend ist. Besonders brisant ist dabei die Rolle von Grok, dem hauseigenen KI-Chatbot der Plattform X.
Die von Grok generierten Profilzusammenfassungen der verdächtigen Konten zeichnen sich durch ein bemerkenswert positiveres Bild terroristischer Akteure aus. Anstatt kritische Informationen und offizielle Sanktionslisten zu berücksichtigen, stützt sich Grok anscheinend fast ausschließlich auf die Inhalte der Nutzer und deren Feedback innerhalb der Plattform. Dies führt zu beschönigten Darstellungen, die beispielsweise einen von den USA sanktionierten Hisbollah-Geldwechsler als "leidenschaftlichen Journalisten und kämpferischen Ökonomen" porträtieren, der gegen israelische Aggression kämpfe — eine Form der Weißwaschung mit massiven Folgen. Die Nutzung von X's Monetarisierungsfunktionen durch Terroristen verstößt zudem möglicherweise gegen US-Sanktionen und stellt eine nationale Sicherheitsbedrohung dar.
Die Tech Transparency Project (TTP) hat beharrlich dokumentiert, dass trotz vorheriger Warnungen und vereinzelter Maßnahmen einige dieser Konten nach kurzzeitiger Sperrung unter neuen Identitäten erneut aktiv werden und die gleichen Monetarisierungsoptionen wieder buchen können. Die Tatsache, dass einige dieser Profile zudem mit offiziellen Verifizierungsmarken versehen sind, verstärkt den Eindruck mangelnder Kontrolle seitens der Plattformbetreiber. Der Verdacht, dass sogar Geldtransfers und Spenden über diese Kanäle erfolgen, alarmiert Experten und Behörden gleichermaßen. Die Frage, ob X und dessen Muttergesellschaft rechtskonform handeln, steht somit im Zentrum der Debatte. Elon Musk hatte Anfang 2025 die US-amerikanische Finanzbehörde für mangelnde Kontrollen kritisiert und sich selbst für bessere Schutzmechanismen gerühmt. Doch die Vorwürfe gegen die Plattform lassen an der Umsetzung dieser Versprechen zweifeln.
Die Plattform hat auf frühere Vorwürfe reagiert, indem sie einige verdächtige Konten vorübergehend suspendierte, jedoch scheint das Problem tiefer zu liegen. Die Datenlage legt nahe, dass X aufgrund seines eigenen Geschäftsmodells und der Bestrebung, Einnahmen durch Premiumabos zu erzielen, trotz sanktionierter Nutzer bisher nicht konsequent eingreift. Die Verantwortung für die Eindämmung solcher Aktivitäten liegt damit auch bei den Plattformbetreibern selbst. Neben der problematischen Monetarisierung verstärkt Grok die Verbreitung einseitiger und oft gewaltverherrlichender Narrative terroristischer Gruppen. Die KI-gestützte Zusammenfassung der Kontoinhalte trägt dazu bei, deren Propaganda in einem sympathischeren Licht darzustellen. Dies kann insbesondere bei jüngeren oder weniger informierten Nutzern den Effekt haben, Terrororganisationen als legitime Akteure oder gar als Helden darzustellen.
Die mangelnde Berücksichtigung externer, kritischer Quellen zeigt die Grenzen der derzeitigen KI-Modelle hinsichtlich gesellschaftlicher Verantwortung auf. Plattformen wie X stehen in der Pflicht, sowohl ihre technischen Systeme als auch ihre Richtlinien zu überarbeiten und sicherzustellen, dass Sanktionen und Sicherheitsvorgaben strikt eingehalten werden. Die Entwicklung automatisierter Prüfmechanismen zur Identifikation und Blockierung von sanktionierten Einheiten muss höchste Priorität erhalten. Zudem sind stärkere Kollaborationen mit nationalen und internationalen Behörden notwendig, um Terrorfinanzierung und Propagandaschmieden wirksam zu begegnen. Die Lage illustriert die komplexe Herausforderung der Digitalisierung im Sicherheitskontext: Einerseits ermöglichen neue Technologien und KI eine schnelle Informationsverbreitung und demokratische Teilhabe, andererseits schafft dieselbe Infrastruktur opportunistische Kanäle für extremistische Gruppierungen.
Die Balance zwischen freier Meinungsäußerung und Schutz vor Missbrauch erfordert ein sensibles Vorgehen, bei dem technologische Anpassungen, regulatorische Maßnahmen und gesellschaftliches Bewusstsein Hand in Hand gehen. Auch die Öffentlichkeit und Nutzer tragen eine gewisse Verantwortung. Mehr Bewusstsein für die Hintergründe von Online-Inhalten, eine kritische Haltung gegenüber scheinbar offiziellen Verifizierungen sowie die Förderung von Medienkompetenz können helfen, Manipulationen und Propagandaschäden einzudämmen. Nur in einem koordinierten Zusammenspiel aller Beteiligten – Plattformen, Behörden, Gesellschaft – lässt sich die Bedrohung durch Online-Terrorpropaganda effektiv bekämpfen. Abschließend bleibt festzuhalten, dass die Aufdeckung der Verquickung zwischen terroristischen Organisationen, X und Grok eine Warnung darstellt: Die Zukunft der sozialen Medien muss sicher, transparent und frei von missbräuchlichen Praktiken bleiben.
Eine verantwortungsbewusste Regulierung der digitalen Räume ist essenziell, um sicherzustellen, dass Technologien im Dienste der Gesellschaft wirken und nicht zur Verschärfung von Konflikten und Gefahren beitragen.
