In den letzten Jahren hat Künstliche Intelligenz eine nahezu mythische Stellung in der öffentlichen Debatte eingenommen. Von Medien über Politik bis hin zu Wirtschaft und Kultur wird oft behauptet, KI werde bald alle Bereiche unseres Lebens revolutionieren – als ultimative Lösung für komplexe Probleme oder als ursprüngliche Gefahr, die unsere Existenz bedroht. Doch genau diesen beiden Extremen – der grenzenlosen Euphorie und dem apokalyptischen Pessimismus – setzen Emily Bender und Alex Hanna mit ihrem Buch „The AI Con: How to Fight Big Tech’s Hype and Create the Future We Want“ eine differenzierte und kritische Perspektive entgegen. Die beiden Autoren, eine Linguistin und ein ehemaliger AI-Ethiker bei Google, entfalten in ihrem Werk eine fundierte Analyse der gegenwärtigen KI-Landschaft, die darauf abzielt, den weit verbreiteten Hype zu entlarven und den Blick auf die tatsächlichen Potenziale und Risiken zu schärfen. Eine zentrale Botschaft des Buches ist die Notwendigkeit, die Illusion einer allmächtigen künstlichen Intelligenz zu durchbrechen.
Bender und Hanna definieren KI nicht als eine monolithische, allseits mächtige Technologie, sondern als ein heterogenes Feld mit vielfältigen Anwendungen, Herausforderungen und Auswirkungen. Besonders kritisch gehen sie mit der Vorstellung um, künstliche Intelligenz sei ein „Wunderwerk“ der Technik, das bald autonome Entscheidungen treffen wird, die menschliche Fähigkeiten übersteigen. Stattdessen beschreiben sie KI-Systeme oft als „mathematische Mechanismen“ oder „stochastische Papageien“, die Muster aus riesigen Datenmengen reproduzieren, ohne echtes Verständnis oder Bewusstsein zu besitzen. Diese reduzierte Sichtweise mag zunächst ernüchternd erscheinen, doch sie ist gerade deshalb notwendig, um Verantwortliche, Anwender und die Gesellschaft insgesamt für die tatsächlichen Dimensionen von KI-Systemen zu sensibilisieren. Denn hinter dem glänzenden Marketing und der medienwirksamen Rhetorik stehen oft undurchsichtige Abläufe, fragwürdige Datengrundlagen und ökonomische Interessen großer Technologiekonzerne, die den KI-Hype vorantreiben, ohne die komplexen gesellschaftlichen Konsequenzen ausreichend zu berücksichtigen.
Bender und Hanna rücken in ihrem Buch auch diejenigen in den Mittelpunkt, die im Schatten dieser Technologien stehen. Das sind die Programmierer und Datenarbeiter, deren Alltag aus der repetitive Verarbeitung von unzähligen Inhalten besteht, die zum Training der KI genutzt werden – oftmals ohne angemessene Anerkennung oder faire Arbeitsbedingungen. Ebenso thematisieren sie die Kreativen, deren Werke als Trainingsmaterial abgeschöpft werden, häufig ohne deren Wissen oder Zustimmung. Diese Aspekte machen deutlich, dass KI-Entwicklungen keine „black box“ sind, sondern eingebettet in menschliche Arbeitsbeziehungen, Machtverhältnisse und ethische Verantwortlichkeiten. Ein weiterer Schwerpunkt von „The AI Con“ ist die kritische Auseinandersetzung mit der verbreiteten Akzeptanz und Begeisterung für KI in Wirtschaft und Gesellschaft.
Bender und Hanna beobachten, dass viele Menschen KI als universelle Lösung für tiefgreifende gesellschaftliche Probleme ansehen – von der Entlastung monotoner Arbeit bis hin zur Bekämpfung globaler Krisen wie dem Klimawandel oder sozialen Isolationen. Diese Erwartungshaltung entspricht einer modernen Form von technologischem Evangelium, das der Vorstellung ähnelt, wir könnten durch ungebremsten technologischen Fortschritt letztlich alle Herausforderungen meistern. Diese optimistische Perspektive wird durch vielfältige Narrative befeuert, etwa die Idee einer „objektiven“, neutralen Maschine, die unvoreingenommen bessere Entscheidungen treffen könne als Menschen. Doch Bender und Hanna warnen eindringlich davor, diese Annahme zu verabsolutieren. Vielmehr sei es wichtig, hinter die Technik zu schauen und die menschlichen Entscheidungen, Werte und Interessen zu erkennen, die in KI-Systeme einfließen und diese prägen.
Menschen, nicht Algorithmen, tragen Verantwortung, etwa für die Auswahl von Datensätzen, die Gestaltung von Modellen und die Implementierung in Anwendungsfeldern. Die Autoren bieten zudem eine soziale Einordnung der KI-Debatte, etwa anhand von drei unterschiedlichen Haltungstypen: den sogenannten „Boomern“, „Doomern“ und „Boostern“. „Boomer“ stehen hierbei symbolisch für konservative Skeptiker, während „Doomer“ eine eher pessimistische, apokalyptische Sichtweise vertreten, und „Booster“ als Enthusiasten auftreten, die den Technikoptimismus bedienen. Bender und Hanna argumentieren, dass diese Kategorisierungen zwar verbreitet sind, jedoch die Realität vielschichtiger ist und das Spektrum möglicher Sichtweisen erheblich erweitern sollten. Es gehe darum, weder die Augen vor Risiken zu verschließen, noch Bewertungen rein aus technischer Utopie oder Dystopie heraus zu tätigen.
Eine der Kernbotschaften des Buches ist die Stärkung individueller sowie kollektiver Handlungsmöglichkeiten im Umgang mit KI-Technologien. Die Autoren ermutigen zur bewussten Reflexion über die eigenen Werte und Zwecke bei der Anwendung von AI-Systemen, etwa im beruflichen Umfeld oder bei alltäglichen Online-Diensten, die zunehmend automatisierte Funktionen integrieren. Dabei warnen sie vor der fatalistischen „Unvermeidbarkeitserzählung“, die häufig suggeriert, man könne dem Fortschritt nicht entkommen und müsse sich beugen. Im Gegenteil: Die genaue Analyse der eingesetzten Technologie, die kritische Befragung ihrer Auswirkungen und der bewusste Widerstand gegen schädliche Anwendungen sind aus ihrer Sicht zentral, um eine verantwortungsvolle und gerechte Nutzung von KI zu ermöglichen. Auch die Bedeutung von Fachwissen und fachspezifischem Kompetenzerwerb wird hervorgehoben.
So plädieren die Autoren dafür, Expertise in den jeweiligen Berufsfeldern einzusetzen, um den KI-Hype zu durchschauen und marktschreierische Versprechen zu hinterfragen. Sie geben das Beispiel von Organisationen wie National Nurses United, die sich mit den Auswirkungen von KI auf die Pflegepraxis kritisch auseinandersetzen und so ein Bewusstsein schaffen, das über reine Technologiekritik hinausgeht. Dieses fachlich fundierte Verständnis könne helfen, nicht nur potenzielle Gefahren zu erkennen, sondern auch zu gestalten, welche Rolle KI künftig spielen soll. Die Reaktionen auf „The AI Con“ in Fachkreisen und der breiteren Öffentlichkeit zeigen, wie wichtig und relevant die fundierte Perspektive von Bender und Hanna ist. Während manche technologische Twitter- und Online-Communities durchaus eine kritische Haltung gegenüber den neumodischen Tools zeigen, ist gerade in akademischen und beruflichen Kontexten eine breite Diskussion über die Grenzen und ethischen Implikationen von KI in Gang gekommen.
