Die britische Regierung hat mit der Einführung ihres KI-Systems namens Humphrey eine ambitionierte Reform der öffentlichen Verwaltung gestartet, die weitreichende Auswirkungen auf die Effizienz und Arbeitsweise von Behörden in England und Wales haben dürfte. Humphrey basiert auf fortschrittlichen KI-Modellen von OpenAI, Anthropic sowie Google – einem Zusammenspiel der führenden Akteure im Bereich künstlicher Intelligenz. Während die Regierung die Technologie als Schlüssel zur Modernisierung und Optimierung von Verwaltungsprozessen präsentiert, wächst die Besorgnis von Experten, Bürgern und der Kreativwirtschaft über die zunehmende Abhängigkeit von großen Technologieunternehmen, die diese Modelle betreiben. Die Einführung erfolgt in einem Kontext intensiver Debatten über Datenschutz, Urheberrecht und ethische Standards bei KI-Nutzung, die gerade in Großbritannien an Brisanz gewonnen haben.
Diese kontroverse Gemengelage beleuchtet sowohl Chancen als auch Risiken, die mit der Digitalisierung des öffentlichen Dienstes im Zeichen von KI-Technologie einhergehen. Die Nutzung von KI im öffentlichen Sektor verspricht zunächst vor allem eine erhebliche Entlastung von Verwaltungsaufgaben. Humphrey soll Beamte dabei unterstützen, Routinearbeiten wie das Zusammenfassen von Beratungen, das Erstellen von Berichten oder das Analysieren großer Datenmengen effizienter zu gestalten. Erste Erfahrungen aus Pilotprojekten, etwa beim schottischen Regierungstool zur Analyse von Bürgerbeteiligungen, sprechen von erheblichen Zeiteinsparungen bei minimierten Kosten – weniger als 50 Pfund soll eine derartige Auswertung gekostet haben, bei einer Herausforderung, die sonst mehrere Stunden in Anspruch nimmt. Auch bei der Dokumentation von Besprechungen rechnet die Regierung mit Produktivitätsgewinnen: Das sogenannte AI Minute Software erfasst Notizen eines einstündigen Meetings für unter 50 Pence.
Diese Zahlen verdeutlichen das Potenzial zur Kostenreduktion im öffentlichen Sektor, der traditionell durch umfangreiche und zeitaufwändige Bürokratie geprägt ist. Gleichzeitig zeigt sich jedoch, wie stark das britische Verwaltungssystem auf die Angebote weniger großer Tech-Konzerne angewiesen ist. Die Grundlage von Humphrey beruht auf einem Mix von Modellen der großen KI-Entwickler, ohne dass die Regierung bisher über umfassende langfristige Lizenz- oder Kooperationsverträge verfügt. Stattdessen verfolgt die Verwaltung eine „pay-as-you-go“-Strategie, die kurzfristige Anpassungen an sich schnell ändernde technische Rahmenbedingungen erlaubt. Diese praktikable Lösung dient zwar der Flexibilität, offenbart aber eine wachsende Abhängigkeit von privatwirtschaftlichen Marktführern.
Mehrere Kritiker warnen davor, dass die öffentliche Hand mit diesem Vorgehen erhebliche Souveränitätsprobleme riskiert: Wenn zentrale Verwaltungstools auf Software basieren, die in der Hoheit großer Tech-Konzerne bleibt, kann dies die demokratische Steuerung und Transparenz beschneiden. Darüber hinaus diskutiert der öffentliche Diskurs in Großbritannien intensiv über die ethischen Implikationen der KI-Ausbildung. Ein zentrales Thema ist der Umgang mit urheberrechtlich geschütztem Material, das als Trainingsdaten für Modelle wie GPT von OpenAI, Claude von Anthropic oder Gemini von Google dient. Viele kreative Berufsbereiche, darunter Musiker, Schriftsteller und Künstler, kritisieren eine unzureichende Kompensation und Anerkennung für die Nutzung ihrer Werke. Prominente Persönlichkeiten wie Elton John oder Paul McCartney unterstützen Kampagnen, die faire Vergütungen und Schutzmechanismen fordern.
Das britische Parlament hat jüngst mit dem Data Bill eine Regelung verabschiedet, die es erlaubt, von Urhebern nicht ausdrücklich ausgeschlossene Materialien zur KI-Ausbildung zu verwenden. Für viele Kritiker ein Rückschritt, da Rechteinhaber gezwungen sind, aktiv Widerspruch einzulegen, falls sie der Verwendung nicht zustimmen. Die Gleichzeitigkeit des staatlichen Einsatzes von KI auf dieser Grundlage erzeugt einen Interessenkonflikt und nährt Befürchtungen hinsichtlich mangelnder Regulierung. Ed Newton-Rex, Geschäftsführer der Organisation Fairly Trained, welche sich gegen die unkontrollierte Nutzung kreativer Inhalte durch KI-Systeme einsetzt, kritisiert die Doppelmoral der Regierung: Wenn der Staat die marktbeherrschenden KI-Anbieter umfassend nutzt, ohne klare Regeln und Transparenz, wird die Regulierungspolitik untergraben.
Zudem warnt er vor den unvermeidlichen Fehlern, sogenannten „Halluzinationen“ der KI – also falschen oder irreführenden Ausgaben, die gerade bei komplexen Verwaltungsentscheidungen schwerwiegende Folgen haben können. Die Forderung nach transparenten Fehlerprotokollen und regelmäßigen Überprüfungen der KI-Ergebnisse unterstreicht, dass der Einsatz von Humphrey gut überwacht und kritisch reflektiert werden muss. Auch zivilgesellschaftliche Stimmen, wie die der Menschenrechtlerin und Labour-Peer Shami Chakrabarti, mahnen zur Vorsicht. Sie verweist auf historische Fehler im Umgang mit computergestützten Systemen, die zu gravierenden Fehlurteilen führten, etwa im Fall des Horizon-Systems, das Postbeamten zu Unrecht Veruntreuung vorwarf, basierend auf fehlerhaften Berechnungen. Ein sorgloser und sehr schneller Einsatz von KI-Technologie kann ähnliche Risiken bergen, insbesondere wenn es um sensible Verwaltungsprozesse geht, die Existenzen berühren.
Die Regierung hebt als Antwort auf diese Bedenken hervor, dass sie eigene Evaluationsprogramme betreibe, bei denen die Genauigkeit der eingesetzten KI kontinuierlich überprüft werde. Zudem gäbe es Richtlinien, ein sogenanntes „AI Playbook“, das die Beamten anleite, KI verantwortungsbewusst einzusetzen, mit dem Ziel, menschliche Entscheidungskompetenz zu wahren und Fehler möglichst auszugleichen. Das sind wichtige Schritte, doch viele Experten betonen, dass die Kombination der technischen Komplexität mit der Abhängigkeit von global agierenden Großunternehmen eine besondere Wachsamkeit erfordert. Angesichts der rapide sinkenden Kosten für KI-Nutzungen bei den Anbietern plant die Regierung, die Ausweitung von Humphrey weiterhin zu forcieren. Prognosen zeigen, dass die Investitionen steigen, doch zugleich erwartet man mehr Effizienz und bessere Leistungsfähigkeit der Modelle.
Eine geplante umfassende Schulung aller Regierungsmitarbeiter in England und Wales soll den Umgang mit Humphrey verbreitern und vereinheitlichen, damit die Technologie flächendeckend möglichst effektiv einsetzbar ist. Die Ankündigung, dass die Ausgaben für Technologieverträge im Umfang von rund 23 Milliarden Pfund jährlich neu strukturiert werden sollen und verstärkt auch kleinen Technologieanbietern Chancen geboten werden, soll zusätzlich zur gesunderen Wettbewerbskultur im IT-Sektor beitragen. Doch der Kern bleibt, dass die digitale Zukunft der öffentlichen Verwaltung in Großbritannien maßgeblich von den großen KI-Anbietern geprägt werden wird. Letztlich stellt die Einführung von Humphrey eine Balance zwischen Innovationsdruck, ökonomischem Pragmatismus und demokratisch-legitimierten Kontrollmechanismen dar. Die Regierung steht vor der Herausforderung, Modernisierung und Effizienzsteigerung mit Schutz der Bürgerrechte und Wahrung von Transparenz in Einklang zu bringen.
Die kritische Öffentlichkeit und Interessengruppen müssen diesen Prozess aufmerksam begleiten, um sicherzustellen, dass Technologie nicht unkontrolliert die öffentliche Verwaltung dominiert und der Staat seine Gestaltungsfähigkeit im digitalen Zeitalter erhält. Die Debatten um Urheberrecht, Datenschutz und Systemgenauigkeit werden weiterhin entscheidend sein für den Erfolg und das Vertrauen in AI-basierte Systeme wie Humphrey. So verlangt die technologische Entwicklung von heute auch eine umfassende politische, juristische und gesellschaftliche Auseinandersetzung in Großbritannien und darüber hinaus – eine Aufgabe, die nicht nur die Regierung, sondern alle Beteiligten in Gesellschaft und Wirtschaft betrifft.
