Künstliche Intelligenz (KI) zählt zu den meistdiskutierten Technologien unserer Zeit. Sie wird mit großem Enthusiasmus als revolutionäre Kraft dargestellt, die nahezu jeden Lebensbereich verbessern und unser aller Zukunft neu gestalten soll. Doch hinter dem glitzernden Versprechen von KI steckt längst nicht nur Fortschritt, sondern auch eine Reihe von Irrtümern, fragwürdigen Geschäftsmodellen und handfesten Risiken. Das Buch "The AI Con" von Emily M. Bender und Alex Hanna sorgt für dringend nötige Klarheit, indem es die oft unkritisch übernommenen Mythen um KI entlarvt und aufzeigt, warum der sogenannte KI-Boom keineswegs für alle von Vorteil ist, sondern vor allem den Profitinteressen einiger weniger Großkonzerne dient.
Die Autorinnen nehmen insbesondere die als KI gehypten großen Sprachmodelle (Large Language Models, LLMs) wie ChatGPT kritisch unter die Lupe. Diese Modelle werden häufig als bahnbrechende Technologien gepriesen, die menschliche Kommunikation verstehen und kreativ nutzen können. Tatsächlich aber funktionieren sie eher wie extrem aufwendige Autovervollständigungssysteme, die auf gigantischen Datenbanken aus Büchern, Internetseiten und anderen Textquellen basieren. Der beängstigende Punkt dabei ist, dass diese Systeme keinerlei bewusste Absicht haben und oft schlicht Inhalte reproduzieren oder sogar erfinden, ohne eine tatsächliche Validierung der Informationen vorzunehmen. So entstehen beispielsweise gefälschte Zitate oder falsche Quellenangaben, mit denen Nutzerinnen und Nutzer in die Irre geführt werden können.
Darüber hinaus liegt ein erhebliches ethisches Problem in der Verwendung von urheberrechtlich geschütztem Material für das Training dieser Systeme. Unter anderem wurden illegal zugängliche Datenbanken genutzt, um die KIs zu füttern. Die Meta-Konzerne argumentieren zwar mit "Fair Use", doch viele Kreative – Autoren, Übersetzer und Illustratoren – berichten, dass ihnen aufgrund der Konkurrenz durch KI-basierte Systeme Aufträge verloren gehen. Die Gefahr besteht darin, dass mit KI erzeugte Inhalte menschliche Arbeit verdrängen, ohne dass eine faire Kompensation oder Anerkennung der ursprünglichen Schöpfer erfolgt. Es stellt sich damit die Frage, ob der Nutzen für das Gemeinwohl wirklich so groß ist, wie es die Marketingstrategien der Konzerne suggerieren.
Die Autoren sprechen daher zu Recht von einem »Plagiatmaschinen-Boom«, bei dem unter dem Deckmantel technischer Innovation vor allem wirtschaftliche Interessen im Vordergrund stehen. Die Folge ist eine zunehmende Entwertung kreativer Leistungen und eine Verarmung der kulturellen Landschaft, die sich zu einem Moloch aus KI-generiertem Einheitsbrei entwickeln könnte. Doch die Folgen eines unkritischen KI-Einsatzes beschränken sich nicht nur auf die Kulturbranche. Auch im gesellschaftlichen Alltag zeichnen sich tiefgreifende Veränderungen ab, die alles andere als fortschrittlich sind. So berichten etwa Hilfsorganisationen von Stellenabbau und dem Ersatz menschlicher Beschäftigter durch Chatbots kurz nachdem Angestellte eine Gewerkschaft gründen wollten.
Dies spiegelt ein System wider, in dem technologische Entwicklungen in erster Linie dazu genutzt werden, Arbeitskräfte überflüssig zu machen, anstatt menschenwürdige Bedingungen zu schaffen. Eine aktuelle Analyse des Weltwirtschaftsforums zeigt zudem, dass 40 Prozent der Unternehmen planen, ihre Mitarbeiterzahlen durch KI-Einsatz zu reduzieren. Der gesellschaftliche Verlust menschlicher Expertise und die Abhängigkeit von algorithmisch erzeugten Informationen bergen darüber hinaus Risiken für die Qualität unserer Entscheidungsfindung und unseres kritisch-reflektierten Umgangs mit Wissen. Die Umstellung vieler Suchergebnisseiten auf KI-gestützte Zusammenfassungen mindert die Möglichkeit, selbst abwägend mehrere Informationsquellen zu prüfen. Hierdurch könnte langfristig die Fähigkeit zum kritischen Denken geschwächt werden, weil die Nutzer*innen sich zunehmend auf vorgefertigte Antworten verlassen und die Vielfalt der zugänglichen Informationen nicht mehr wahrnehmen.
Trotz der Kritik an LLMs und generativer KI ist es wichtig, nicht die gesamte Welt der Künstlichen Intelligenz pauschal zu verurteilen. Die Bezeichnung »KI« umfasst nämlich eine Vielzahl unterschiedlicher Technologien, die keineswegs alle problembehaftet sind. So gibt es zum Beispiel sinnvolle Anwendungen im medizinischen Bereich, wo KI-Systeme Ärzte beispielsweise bei der Analyse von radiologischen Bildern unterstützen können. Auch effizienzsteigernde Maßnahmen in Infrastruktur, Produktion und Umweltmanagement zeigen, dass Machine Learning als Instrument durchaus unterschätzte Vorteile besitzt. Bemerkenswert ist auch die wissenschaftliche Errungenschaft rund um DeepMind, das mit KI-gestützter Protein-Faltung kürzlich den Nobelpreis gewonnen hat.
Diese Entwicklung könnte künftig die Arzneimittelentwicklung revolutionieren und Leben retten. Praktische Helfer wie automatische Transkription von Arztberichten im Gesundheitsdienst erfahren ebenfalls weniger öffentliche Aufmerksamkeit, bieten aber ganz konkrete Erleichterungen für Fachpersonal und Patienten. Dennoch mahnen Bender und Hanna, solche Einzelfälle stets mit Bedacht zu prüfen. Es kommt darauf an, die Nutzen und Risiken der Technik in einem kritischen Dialog zu verhandeln, besonders im Hinblick auf Diskriminierung und Bias, die von den Algorithmen mittransportiert werden können. KI darf nicht unreflektiert eingesetzt werden, da Maschinen keine moralische Verantwortung übernehmen und folglich keine geeigneten Entscheider für komplexe Management- oder Personalentscheidungen sind.
Die schon vor Jahrzehnten von IBM postulierte Regel, dass Computer keine Managemententscheidungen treffen dürfen, hat angesichts der aktuellen Entwicklungen nichts an Bedeutung verloren. Eine der größten Gefahren besteht darin, dass KI zunehmend als Sündenbock für Fehlentscheidungen instrumentalisiert wird, während Verantwortliche in Konzernen oder Regierungen intransparent agieren und sich hinter vermeintlich neutralen Algorithmen verstecken. So wird ein falscher Mythos geschürt, dass KI objektiv und unfehlbar sei, während in Wahrheit komplexe menschliche Werte und Entscheidungen algorithmisch reduktionistisch abgebildet werden. Ein gesamtgesellschaftlicher Diskurs ist deshalb unabdingbar, um den überzogenen KI-Hype kritisch zu hinterfragen und Wege zu finden, faire, transparente und menschzentrierte Technologien zu fördern. Der Wunsch darf nicht sein, KI industriell in jede Lebens- und Arbeitswelt zu injizieren und damit eine Abhängigkeit zu schaffen, die schädlich für Individualität, Kreativität und soziale Werte ist.
Zukunftsfähige Strategien müssen deshalb über reine Profitinteressen hinausgehen. Sie erfordern eine demokratische Kontrolle über KI-Entwicklungen, die Sicherstellung von Fairness und Datenschutz sowie die Anerkennung der Leistung von menschlicher Arbeit und Kreativität. Nur so kann verhindert werden, dass ein kleiner Teil der Gesellschaft einseitig profitiert, während die große Mehrheit mit gesellschaftlichen, wirtschaftlichen und kulturellen Verlusten leben muss. Selbstverständlich darf der technologische Fortschritt nicht aufgehalten werden, aber es gilt, ihn mit Umsicht zu gestalten. Innovation und Verantwortung sind keine Gegensätze, sondern zwei Seiten derselben Medaille.
Wir sollten uns das Potenzial von KI nutzen machen, ohne dabei blind für ihre Schattenseiten zu sein. Durch das Aufdecken der wahren Mechanismen hinter dem KI-Hype leisten Emily M. Bender und Alex Hanna einen wertvollen Beitrag für eine reflektierte Auseinandersetzung mit dieser Technologie. Ihre kritische Perspektive eröffnet einen neuen Blickwinkel abseits euphorischer Marketingkampagnen und zeigt, wie wir als Gesellschaft aktiv die Weichen für eine lebenswerte Zukunft stellen können – jenseits der Illusion einer durch KI vollkommen veränderten Welt.
