In den letzten Jahren hat die Bedeutung Künstlicher Intelligenz (KI) in Politik und Verwaltung weltweit stark zugenommen. Auch die britische Regierung unter Premierminister Keir Starmer setzt auf technologische Innovationen, um Arbeitsprozesse effizienter zu gestalten und die Wettbewerbsfähigkeit Großbritanniens zu stärken. Doch wie viel Einfluss hat KI tatsächlich auf politische Entscheidungsprozesse? Werden Starmer und sein Kabinett durch automatisierte Systeme beraten? Und wie transparent ist die Nutzung dieser Werkzeuge gegenüber der Öffentlichkeit? Eine investigative Recherche von New Scientist hat enthüllt, dass Tausende britische Regierungsbeamte eine eigens für die Verwaltung entwickelte KI namens Redbox verwenden. Dieses intelligente Chatbot-System basiert auf großen Sprachmodellen und soll bei der Arbeitserleichterung helfen – beispielsweise durch schnelles Zusammenfassen von Dokumenten oder das Erstellen erster Entwürfe von Briefings.
Trotz der breiten Nutzung und der Versprechungen, die mit Redbox verbunden sind, verweigert die Regierung detaillierte Auskünfte darüber, wie genau die KI eingesetzt wird und ob tatsächlich der Premierminister persönlich von den generierten Inhalten profitiert. Redbox wurde innerhalb der Regierung entwickelt und dient als Tool, um große Mengen an Informationen in kurzer Zeit zu verarbeiten. Ein Beamter berichtete, dass er mit Hilfe von Redbox komplexe Dokumentenbündel, die sonst einen ganzen Arbeitstag erfordern würden, innerhalb von Sekunden analysieren konnte. Diese Effizienz kann im hektischen Umfeld der Staatsverwaltung enorme Vorteile bringen. Doch genau hier liegt auch der Kern der Debatte: Wie zuverlässig und neutral sind die von der KI ausgegebenen Inhalte? Die Entscheidungsträger der Regierung hielten Anfragen nach Transparenz im Umgang mit Redbox bisher größtenteils für störend.
Mehrere Ministerien reagierten auf Anfragen zur Herausgabe von Chat-Protokollen mit der Bezeichnung „vexatious“, was grob mit „belästigend“ übersetzt werden kann. So wurde zum Beispiel das Kabinettsamt, das den Premierminister direkt unterstützt, zwar mitgeteilt, dass etwa 3000 Mitarbeiter an rund 30. 000 Konversationen mit Redbox teilgenommen haben. Die Auswertung und Freigabe dieser Daten sei jedoch aufgrund des hohen Aufwands nicht innerhalb eines Jahres möglich. Auch das Department for Business and Trade bestätigte umfangreiche Nutzungszahlen, lehnte jedoch die Herausgabe der Chats mit der Begründung ab, es sei nicht machbar, alle Inhalte vor der Freigabe zu prüfen. Besonders brisant ist, dass das Department for Science, Innovation and Technology (DSIT), das die Verantwortung für Redbox trägt, keine konkreten Informationen dazu preisgibt, ob Keir Starmer oder andere Kabinettsmitglieder direkt Rat oder Dokumente erhalten, die von KI-gestützten Systemen erstellt wurden.
Das Ministerium erklärte, Redbox helfe dabei, Zeit zu sparen, die Beamte so in die Entwicklung von politischen Maßnahmen oder Verbesserung von Dienstleistungen investieren könnten. Gleichzeitig blieb es jedoch eine offene Frage, wie genau die KI auf mögliche Fehler oder Verzerrungen in den Ergebnissen überprüft wird. Fachleute äußern angesichts dieser mangelnden Transparenz Bedenken. Große Sprachmodelle wie Redbox haben mindestens zwei wesentliche Schwachstellen: eine potenzielle Verzerrung der Inhalte (Bias) und Fehlerhaftigkeiten (Inaccuracies). Da diese Systeme „Black Boxes“ sind, ist nicht offenlegbar, auf welcher Grundlage sie bestimmte Antworten generieren. Dies erschwert es, nachzuvollziehen, warum bestimmte Informationen hervorgehoben oder ausgeblendet werden.
Die fehlende öffentliche Kontrolle der KI-Entscheidungsprozesse in der Regierung könnte dazu führen, dass unbemerkte Fehlinformationen in politische Entscheidungen einfließen – mit weitreichenden Folgen für Demokratie und Gesellschaft. Die Kritiker unterstreichen, dass öffentliche Institutionen eine besondere Verantwortung tragen. Als Vertreter der Bevölkerung sollten Regierungen nachvollziehbar machen, wie politische Beratungen entstehen und welche Rolle Algorithmen dabei spielen. Catherine Flick, Wissenschaftlerin an der University of Staffordshire, betont, dass Bürger das Recht hätten zu verstehen, wie Regierungshandeln durch KI beeinflusst wird. Die Zurückhaltung der Regierung, Einblick in die Nutzung von Redbox zu gewähren, nährt den Verdacht eines Mangels an Offenheit. Zu der Debatte gehört auch ein Blick auf andere Ministerien. Die Finanzbehörde Treasury gab an, keinen Zugang zu Redbox zu haben, aber offenbar andere GPT-basierte Tools zu verwenden.
Allerdings speichert das Finanzministerium keine Protokolle über Eingaben und Ausgaben dieser Systeme, was es schwierig macht, deren Einfluss auf politische Entscheidungsprozesse nachzuvollziehen. Auch hier fehlt also ein Fundament für Transparenz und Rückverfolgbarkeit. Juristische Expert:innen wie Jon Baines von der Anwaltskanzlei Mishcon de Reya weisen darauf hin, dass es ungewöhnlich ist, interne Prompt-Verläufe bei der Verwendung solcher KI-Systeme nicht zu archivieren. Gerade im Bereich der Politikbildung wäre eine sorgfältige Dokumentation essenziell, um bei späteren Nachfragen nachvollziehen zu können, wie bestimmte Entscheidungen zustande gekommen sind. Dennoch erklärt der Datenschutzexperte Tim Turner, dass es unter den geltenden Informationsfreiheitsgesetzen durchaus zulässig sei, KI-Prompt-Verläufe nicht zu speichern, solange keine spezifischen Regelungen dies vorschreiben.
Vor dem Hintergrund der zunehmenden KI-Integration im öffentlichen Sektor stellt sich die Frage, wie Regierungen mit diesen Technologien verantwortungsvoll umgehen können. Noch fehlen klar definierte Standards und umfassende Regulierungen, die nicht nur den Datenschutz und die Sicherheit betreffen, sondern auch ethische Aspekte wie Transparenz, Fehlerkorrektur und die Vermeidung von Diskriminierung berücksichtigen. Für die britische Regierung wären klare Leitlinien hilfreich, die definieren, wie KI-Tools in Entscheidungsprozesse eingebunden werden dürfen und wie die Öffentlichkeit darüber informiert wird. Eine offene Kommunikation könnte das Vertrauen der Bevölkerung stärken und gleichzeitig sicherstellen, dass KI nicht unkontrolliert, sondern als unterstützendes Instrument unter menschlicher Aufsicht eingesetzt wird. Abschließend bleibt zu sagen, dass zwar eindeutig feststeht, dass Redbox ein wichtiges Werkzeug für viele Beamte innerhalb der Regierung ist.
Doch ob Premierminister Keir Starmer persönlich von KI-generierten Beratungen profitiert, ist offiziell nicht bestätigt. Die verweigerte Transparenz und die fehlenden Erkenntnisse darüber, wie potenzielle Fehler oder Verzerrungen in den KI-Ausgaben gehandhabt werden, werfen große Fragen bezüglich der demokratischen Kontrolle und der Qualität der politischen Entscheidungsfindung in Zeiten fortschreitender Digitalisierung auf. Die Debatte um KI in der britischen Regierung zeigt exemplarisch, wie eng technologische Innovation mit politischer Verantwortung und gesellschaftlicher Akzeptanz verflochten sind. Für eine Zukunft, in der KI eine noch größere Rolle in der Verwaltung und Politik spielt, müssen Fragen der Nachvollziehbarkeit, Sicherheit und ethischen Nutzung von Anfang an mitgelöst werden. Solange dies nicht geschieht, bleibt die Nutzung von KI bei der Regierung ein Thema voller Unsicherheiten und öffentlichem Interesse.
