In den vergangenen Jahren ist die Begeisterung für künstliche Intelligenz ins Unermessliche gestiegen. Insbesondere Large Language Models (LLMs) wie GPT-4, Claude oder ähnliche Systeme haben mit ihrer Fähigkeit, Texte zu generieren, zu übersetzen und komplexe Aufgaben zu bearbeiten, Aufmerksamkeit und Investitionen in Milliardenhöhe angezogen. Dennoch gibt es zunehmend kritische Stimmen, die den vermeintlichen Hype hinterfragen und darauf hinweisen, dass diese Systeme trotz all ihrer Raffinesse an grundlegendem Verständnis und echter Intelligenz scheitern. Diese Kritik basiert nicht auf oberflächlichen Beobachtungen, sondern wird durch historische Perspektiven und praxisnahe Beispiele untermauert – ein Kontrast, der zeigt, dass wir zwar beeindruckende Fortschritte erleben, die Intelligenz von LLMs jedoch noch lange nicht mit menschlichem Denken vergleichbar ist. Gary Marcus, ein renommierter Forscher und Kritiker im Bereich der KI, hat kürzlich darauf hingewiesen, dass selbst milliardenschwere KI-Systeme nicht in der Lage sind, ein Problem zu lösen, das bereits 1957 von einem der Gründerväter der künstlichen Intelligenz, Herb Simon, mit relativ einfachen Mitteln bewältigt wurde.
Simon war zusammen mit Allen Newell bahnbrechend in der Entwicklung von Algorithmen, die das menschliche Denken simuliertermaßen nachvollziehen sollten. Was damals als hohe Hürde für Computer galt, gehört heute zum Standardwissen von Studentinnen und Studenten im ersten Semester eines KI-Studiums. Dass moderne LLMs an solchen Fragestellungen scheitern, wirft ernste Zweifel an ihrer Fähigkeit auf, eine generelle künstliche Intelligenz (Artificial General Intelligence – AGI) zu erreichen. Eine der zentralen Herausforderungen von LLMs zeigt sich in ihrer Art des Denkens und Problemlösens. Im Kern sind diese Modelle extrem teure Mustererkennungsmaschinen.
Sie lernen aus riesigen Datenmengen, Verbindungen zwischen Worten, Sätzen und Kontexten zu erkennen und darauf basierend Antworten zu generieren. Doch sobald die Aufgabe außerhalb dessen fällt, was sie in ihrem Trainingsdatensatz gesehen haben, zeigen sie Schwächen. Dies ist besonders dann der Fall, wenn es um komplexes logisches oder kausales Denken geht, das echte Schlussfolgerungen erfordert, anstatt nur Ähnlichkeiten abzuleiten. Ein eindrückliches Beispiel dafür ist das sogenannte "Tower of Hanoi" – ein klassisches Logikspiel, bei dem Scheiben unterschiedlicher Größe von einem Pegel auf einen anderen umgestapelt werden müssen, wobei stets darauf geachtet wird, dass keine größere Scheibe auf einer kleineren liegt. Für Menschen, selbst für Kinder ab sieben Jahren, ist dieses Spiel nach ausreichend Übung beherrschbar.
Ein Computer kann es sogar vollständig algorithmisch lösen, wenn er entsprechend programmiert wird. Doch überraschenderweise konnten selbst die modernsten LLM-Systeme diese Aufgabe nicht zufriedenstellend bewältigen, obwohl es sich um reine Logik und Planung handelt – Bereiche, in denen künstliche Intelligenz traditionell gut performt. Diese Unfähigkeit verweist auf ein grundsätzlicheres Problem: LLMs funktionieren gut bei Mustererkennung innerhalb klar definierter Grenzen, brechen jedoch zusammen, wenn sie extrapolieren oder kreative Schlussfolgerungen ziehen sollen, die über das Gelernte hinausgehen. Sie scheitern daran, das Denken zu skalieren oder Ausnahmen zu behandeln, die in der realen Welt unzählige Male auftreten. Anders ausgedrückt, sie besitzen keine echte Flexibilität oder ein Verständnis für Bedeutung im menschlichen Sinne, was für viele praktische Anwendungen eine erhebliche Einschränkung darstellt.
Ein weiterer Bereich, in dem die Schwächen von LLMs zutage treten, ist die Automatisierung von Aufgaben, die subjektive Beurteilungen erfordern. Ein aktuelles Beispiel findet sich im Kontext der Barrierefreiheit von Webseiten. Hier gibt es klare Vorgaben, etwa von der Web Content Accessibility Guidelines (WCAG), dass Überschriften und Labels tatsächlich den jeweiligen Zweck oder das Thema beschreiben müssen. Doch es existiert keine automatische Prüfung, die zuverlässig feststellen kann, ob etwa ein Label „Zurücksetzen“ tatsächlich die gewünschte Funktion erfüllt oder ob der Zustand auf der Webseite danach korrekt zurückgesetzt wurde. Nur ein Mensch kann diese subjektive Einschätzung treffen, da sie auf Kontextverständnis und Erfahrung basiert, etwas, das LLMs trotz ihrer Leistungsfähigkeit bisher nicht leisten können.
Die Folgen dieser technischen Grenzen sind weitreichend. In einer Zeit, in der zunehmend Vertrauen in KI-Systeme gelegt wird, von der textbasierten Kommunikation bis hin zu kritischen Entscheidungsprozessen, kann der Glaube an ihre Allmächtigkeit gefährlich sein. Fehlerhafte oder irreführende KI-Ergebnisse können zu Fehlinformationen, falschen Entscheidungen oder sogar Sicherheitsrisiken führen. Die humorvollen und manchmal skurrilen Fehler von KI-Anwendungen mögen auf den ersten Blick belustigend sein, doch bergen sie in sensiblen Anwendungsfeldern eine erhebliches Risiko. Darüber hinaus verdeutlicht die kritische Betrachtung der KI-Entwicklung, dass der derzeitige Boom von KI-Technologien stark durch kapitalistische Interessen getrieben ist.
Gigantische Summen werden in die Vermarktung und Implementierung dieser Systeme gesteckt, häufig auf Kosten einer nachhaltigen, innovativen Forschung, die die echten Grenzen der KI adressiert. Es entsteht der Eindruck, dass die Technologie oft „halbfertig“ auf die breite Masse losgelassen wird, begleitet von übertriebenen Versprechen, statt einer nüchternen und realistischen Einschätzung ihrer Leistungsfähigkeit und Anwendbarkeit. Historisch gesehen ist die künstliche Intelligenz ein Forschungsfeld mit inzwischen mehr als sechs Jahrzehnten Praxis. Die frühen Pioniere wie Herbert Simon und Alan Newell haben gezeigt, dass grundlegende Intelligenzmerkmale durch logische und symbolische Systeme abgebildet werden können. Der Fokus lag zunächst auf der Modellierung des menschlichen Denkens, mit dem Ziel, Problemlösungsschritte transparent nachvollziehbar zu machen.
Mit dem Aufkommen neuronaler Netze und datengetriebener Modelle hat sich der Schwerpunkt verschoben – vom erklärbaren, strukturorientierten Ansatz hin zu statistischen Methoden, die schwarze Boxen erzeugen, deren Verhalten oft nur schwer nachvollziehbar ist. Diese Entwicklung ist ambivalent. Einerseits erlauben heutige große Modelle eine beeindruckende Vielseitigkeit und können in vielen Szenarien als Hilfsmittel dienen. Andererseits werfen sie die grundlegende Frage auf, ob sie wirklich intelligenter werden oder lediglich durch schiere Datenmengen und Rechenleistung simulieren, was wie Intelligenz wirkt. Die Antwort darauf ist entscheidend für die zukünftige Ausrichtung der KI-Forschung.
Ein starker Appell von Forschern wie Gary Marcus fordert deshalb eine evidenzbasierte Herangehensweise, die LLMs konsequent im direkten Vergleich zu menschlichen Fähigkeiten prüft und in den Kontext der umfangreichen KI-Geschichte stellt. Statt einzelner Anekdoten oder kurzlebiger Selbstversuche sollten solide Daten und reproduzierbare Forschungsergebnisse Grundlage für die Bewertung der Systeme sein. Nur so können realistische Einschätzungen getroffen werden, die über den aktuellen Hype hinausgehen und nachhaltige Fortschritte ermöglichen. Die Diskussion um den tatsächlichen Stand der KI und deren Grenzen führt letztlich zu einer differenzierten Sichtweise: Large Language Models sind mächtige Werkzeuge, die bestimmte Anwendungen revolutionieren und unterstützen können. Sie sind jedoch kein Ersatz für menschliches Denken und Verstehen.
