Im April 2025 brach auf Reddit eine kontroverse Debatte aus, nachdem herauskam, dass Forschende der Universität Zürich ohne Wissen oder Zustimmung der Nutzer:innen eine mehrmonatige Studie mit AI-generierten Kommentaren durchgeführt hatten. Ziel der Studie war es, die Überzeugungskraft von großen Sprachmodellen (Large Language Models, LLMs) in der beliebten Subreddit r/changemyview zu untersuchen, in der Mitglieder kontroverse Meinungen äußern und zur Diskussion einladen. Die Enthüllung dieser unerlaubten Experimente führte zu massiven Protesten durch die Subreddit-Moderatoren, zur Sperrung der betreffenden Bot-Accounts und löste eine juristische Prüfung durch Reddit aus. Dieses Ereignis wirft essentielle Fragen um Ethik, Datenschutz und die Handhabung von künstlicher Intelligenz in Online-Communities auf. Die r/changemyview-Community gilt als lebhafter Diskussionsort mit rund 3,8 Millionen Mitgliedern, die meist darauf aus sind, ihre Ansichten zu hinterfragen und neue Perspektiven kennenzulernen.
Die Methode der Forschenden bestand darin, mithilfe von LLMs, also großen Sprachmodellen ähnlich OpenAI’s GPT, selbstgestaltete Kommentare zu erstellen, welche gezielt auf die Meinungen der Originalposter (OPs) reagierten. Dabei wurden die KI-Antworten zum Teil persönlich zugeschnitten, indem Informationen über die OPs wie Geschlecht, Alter, ethnische Herkunft, Standort oder politische Orientierung durch ein weiteres Modell aus den bisherigen Postings extrapoliert wurden. Besonders schockierend für viele Community-Mitglieder war die Tatsache, dass die AI in der Rolle verschiedenster Identitäten agierte – darunter die einer sexuellen Überlebenden, eines Trauma-Beraters und eines Schwarzen Mannes, der sich gegen die Black Lives Matter-Bewegung ausspricht. Diese Täuschung löste großen Unmut aus, da Reddit-Regeln explizit vorsahen, dass der Einsatz von Bots und AI-offen gelegt werden müsse. Außerdem verbietet die Subreddit eigene Richtlinien, dass automatisierte Accounts ohne klare Kennzeichnung agieren.
Die Moderatoren von r/changemyview bezeichneten das Experiment als psychologische Manipulation und erklärten, dass die Nutzer:innen der Community nicht mit einer Einbeziehung in eine wissenschaftliche Studie gerechnet hätten. Sie reagierten mit einer offiziellen Beschwerde bei der Universität Zürich und forderten, dass die Forscher die Veröffentlichung ihrer Ergebnisse unterlassen. Auch Reddit reagierte entschieden und deaktivierte sämtliche Konten, die mit den Experimenten in Verbindung standen. Reddit's Chief Legal Officer Ben Lee kommentierte die Situation äußerst kritisch und sprach von einem moralischen sowie rechtlichen Fehlverhalten. Man erwägt juristische Schritte gegen die Forscher, um die Community zu schützen und Verantwortliche zur Rechenschaft zu ziehen.
Die Universität Zürich antwortete auf die Vorwürfe mit einer Erklärung, in der sie betonte, dass die Studie von einem universitären Ethikkomitee genehmigt worden sei. Gleichzeitig räumte man ein, dass die ethischen Rahmenbedingungen, insbesondere die Einhaltung von Plattformregeln, besser hätten beachtet werden sollen. Zu diesem Zweck will die Fakultät für Geistes- und Sozialwissenschaften die Prüfprozesse für derartige Forschung künftig verschärfen und Stellungnahmen von betroffenen Online-Communities in ihre Entscheidungsfindung einbinden. Als Konsequenz haben die Forschenden den Schritt unternommen, die Veröffentlichung ihrer Forschungsergebnisse freiwillig auszusetzen. Über die ethischen Konflikte hinaus werden die Debatte im Netz und in Fachkreisen vor allem grundlegende Fragen zu Transparenz, Einwilligung und Verantwortung im Umgang mit künstlicher Intelligenz hervorgerufen.
Die Studie legte offen, wie problemlos KI inzwischen in der Lage ist, Menschen in digitalen Umgebungen gezielt zu beeinflussen. Während viele in der Forschung die Entwicklung von KI als Chance sehen, um etwa den Umgang mit Hassrede oder Fehlinformation zu verbessern, warnen Kritiker vor Missbrauchspotentialen – gerade dann, wenn Nutzerinnen und Nutzer unwissentlich manipuliert werden. Eine weitere Dimension ergibt sich aus der Frage, wie Online-Plattformen mit KI-generiertem Inhalten umgehen. Reddit hat sich klar positioniert und kämpft mit zunehmend ausgefeilten technischen Mitteln gegen nicht authentische Accounts und manipulierte Inhalte. Gleichzeitig ist das Interim vieler Nutzer, dass soziale Medienräume sichere, authentische Orte für ehrlichen Meinungsaustausch bleiben müssen – eine Herausforderung, die durch automatisierte KI-Texte erheblich erschwert wird.
Die r/changemyview-Mods hoben in ihrem Statement hervor, dass es bereits Experten gebe, die ähnlich gelagerte Daten für Forschung nutzen, jedoch ohne Nutzer zu täuschen oder diese experimentell ohne Einwilligung einzubinden. Dies sei ein wichtiger Ansatz, um wissenschaftlichen Fortschritt mit gerechtfertigtem Vertrauen der Onlinenutzer zu verbinden. Die Universität Zürich und andere Institutionen müssen künftig abwägen, wie Forschungsfreiheit und Datenschutz sich gegenseitig verträglich ergänzen. Insgesamt war dieser Vorfall ein Weckruf für alle Akteure des digitalen Raums. Die vielversprechenden Möglichkeiten von KI-basierten Sprachmodellen stehen im Spannungsfeld zu Datenschutz, Transparenz und Ethik.
Von Plattformbetreibern wandelt sich die Aufgabe zunehmend zu einer Balance aus Innovation, Nutzerwohl und Integrität der Community. Forscherinnen und Forscher sind ebenfalls gefordert, klare Grenzen zu respektieren und ethische Prüfungen streng zu gestalten sowie Kommunikation mit Betroffenen zu gewährleisten. Der Fall verdeutlicht zugleich, wie wichtig es ist, Nutzende über die Präsenz und den Einsatz von KI im Netz aufzuklären. Nur wenn Menschen wissen, mit wem oder was sie interagieren, können sie informierte Entscheidungen treffen. Für die Zukunft bleibt die Herausforderung, KI verantwortungsvoll, transparent und im Sinne des Gemeinwohls zu integrieren – und nicht als Instrument zur heimlichen Manipulation.
Die Forschung rund um Künstliche Intelligenz schreitet weiter voran und wird die Art und Weise, wie wir kommunizieren und Informationen austauschen, nachhaltig verändern. Doch dieser Fortschritt muss von einer verantwortungsvollen Ethik begleitet sein. Projekte wie das der Universität Zürich zeigen, wie schnell Grenzen überschritten werden können und wie wichtig es ist, strenge Regeln und klare Richtlinien im Umgang mit KI zu etablieren. Nur so kann das Vertrauen der Menschen in digitale Plattformen und in innovative Technologien erhalten und gestärkt werden.
