Im Frühjahr 2025 sorgte ein geheimes Experiment der Universität Zürich für erhebliches Aufsehen in der Online-Community und der Forschungsgemeinde. Die Wissenschaftler der Universität führten über mehrere Monate hinweg eine Untersuchung durch, bei der Künstliche Intelligenz (KI) eingesetzt wurde, um die Meinungen von Nutzern auf der großen Diskussionsplattform Reddit zu beeinflussen – ohne deren Wissen oder Zustimmung. Dieser Fall wirft zahlreiche ethische Fragen auf, die Bedeutung von Transparenz in der Forschung sowie die Herausforderungen und Risiken moderner KI-Technologien im gesellschaftlichen Kontext. Reddit ist eine der größten sozialen Plattformen weltweit, auf der Menschen in hunderten von Tausenden von Teilgemeinschaften – sogenannten Subreddits – über verschiedenste Themen diskutieren. Ein besonderer Subreddit namens r/changemyview, der rund 3,8 Millionen Mitglieder umfasst und dafür bekannt ist, respektvolle, auf Meinungswechsel ausgerichtete Diskussionen zu fördern, wurde unerwartet zur Bühne eines unerlaubten AI-basierten Experiments.
Die Forscher starteten eine viermonatige Studie, bei der sie eigens programmierte KI-gestützte Accounts einsetzten. Diese Accounts simulierten unterschiedliche Persönlichkeiten – darunter sogar eine angebliche Vergewaltigungsopfer, Aktivisten, die gegen bestimmte soziale Bewegungen sind, sowie einen Trauma-Berater. Ziel war es herauszufinden, ob und wie KI-generierte Kommentare in einem hochsensiblen Diskussionsforum Menschen tatsächlich beeinflussen und deren Meinungen verändern können. Das außergewöhnliche an dem Experiment: Die KI-Systeme passten ihre Antworten individuell an, indem sie öffentlich zugängliche Profildaten der jeweiligen Nutzer analysierten – dazu gehörten politische Einstellungen, Alter, Geschlecht und ethnische Herkunft. So sollten die Kommentare besonders glaubwürdig und überzeugend wirken.
Während der gesamten Dauer äußerte niemand in der Community Verdacht, dass es sich um Künstliche Intelligenz und nicht um echte Menschen handelte. Tatsächlich erhielten die KI-Accounts 137 sogenannte „Deltas“ – eine Anerkennung, dass andere Nutzer ihre Meinung geändert haben. Die Universität Zürich rechtfertigte das Experiment mit den potenziellen Erkenntnissen: Die Studie zeigte, dass heutige Sprachmodelle durchaus in der Lage sind, Menschen resignativ zu beeinflussen und damit neue wissenschaftliche Dimensionen der menschlichen Kommunikation mit KI eröffnen. Vor allem wiesen die Forscher darauf hin, dass diese Entwicklung sowohl große Chancen als auch Gefahren in sich birgt, da dieselbe Technologie von böswilligen Akteuren missbraucht werden könnte. Allerdings verlief die Aktion in der Öffentlichkeit keineswegs reibungslos.
Sobald das Experiment von den Moderatoren der r/changemyview-Community entdeckt wurde, zeigten sie sich alarmiert und wiesen die Universität scharf zurück. Für die Moderatoren ist das Forum ein Ort der ehrlichen menschlichen Diskussionskultur, der keine verdeckten Manipulationsversuche dulden darf. Sie kritisierten vor allem die fehlende Transparenz und informierte Einwilligung der beteiligten Nutzer, wodurch Vertrauen missbraucht wurde. Rechtlich betrachtet verletzte das unautorisierte Experiment die Nutzungsbedingungen von Reddit. Konsequenterweise wurden alle zugehörigen Accounts von der Plattform gesperrt, und Reddit erklärte, rechtliche Schritte gegen die Universität und die beteiligten Forscher zu prüfen.
Reddit versucht damit, seine Community zu schützen und klare Grenzen gegen verdeckte Experimente zu ziehen. Die Fakultät für Geistes- und Sozialwissenschaften der Universität Zürich leistete zwar Untersuchungen und sprach eine formelle Verwarnung gegenüber dem Leitenden Forscher aus, doch eine Publikation der Forschungsergebnisse wurde untersagt. Die Ethikkommission kündigte zudem eine strengere Überwachung zukünftiger Studien an und betonte die Notwendigkeit, Testpersonen künftig besser einzubeziehen und offener zu kommunizieren. Der Fall des Zürcher Experiments steht exemplarisch für das Spannungsfeld zwischen wissenschaftlicher Neugier, technologischem Fortschritt und ethischen Verpflichtungen. Er zeigt, wie digitale Plattformen und KI-Systeme verändert werden können, ohne dass deren Nutzer dies realisieren.
Die Fähigkeit moderner KI, Täuschung auf menschlicher Ebene auszuüben, stellt Forscher, Plattformbetreiber und Nutzer vor fundamentale Herausforderungen. Diskussionen zur Regulierung und zu ethischen Leitlinien werden seit Jahren geführt, doch die rasante Entwicklung der KI-Technologien erfordert zunehmend flexible und durchsetzungsfähige Maßnahmen. Experten fordern eine verstärkte Zusammenarbeit zwischen Wissenschaft, Politik und sozialen Plattformen, um Missbrauch zu verhindern und gleichzeitig innovative Forschung zu ermöglichen. Für die Nutzer bleibt ein wichtiger Appell: Kritisches Denken, Aufmerksamkeit und Aufklärung sind heute wichtiger denn je. In einer Welt, in der KI so realistisch kommunizieren kann, müssen Menschen lernen, Informationen zu hinterfragen und digitale Quellen differenziert zu bewerten.
Transparenz von Seiten der Forscher und Plattformen sind dabei unabdingbar, um das Vertrauen in das digitale Miteinander zu sichern. Abschließend zeigt das Vorhaben der Universität Zürich eindrucksvoll, dass KI-basierte Manipulation bereits Realität ist und eine zentrale gesellschaftliche Debatte ausgelöst hat. Es ist ein Weckruf, der aufzeigt, wie Technologie gestaltend wirkt – mit allen Chancen und Risiken. Wie künftig Forscherinnovationen verantwortungsvoll eingesetzt werden können, ist eine der großen Fragen unserer Zeit, die weit über den konkreten Fall hinausreicht und einen bedeutenden Beitrag zur Gestaltung ethischer Standards im Zeitalter der Künstlichen Intelligenz leisten kann.
