Die Houston Housing Authority (HHA) steht aktuell im Zentrum einer intensiven Debatte über die Qualität und Verlässlichkeit juristischer Gutachten. Grund für die Kritik ist ein von der Anwaltskanzlei Fulton Law Group eingereichtes Rechtsdokument, das in einem Prozess über die mögliche Kündigung einer Wohnungsbeihilfe zahlreiche, aber offenbar erfundene Gerichtszitate enthielt. Eine genaue Analyse des Rechtsgutachtens durch den Houston Chronicle zeigte, dass von mehr als einem Dutzend genannter Urteile nahezu keine der Zitate tatsächlich existiert. Diese Enthüllung wirft wichtige Fragen über den Einsatz von Künstlicher Intelligenz (KI) beim Verfassen juristischer Texte und die damit verbundenen Risiken auf. Der Kern des Problems liegt im rechtlichen Streit darüber, ob eine Frau ihr Anspruch auf eine Wohnkostenbeihilfe verloren hat und welche Pflichten die Behörde gegenüber den Vermietern und Mietern hat.
In dem Fall bat der Anwalt der Housing Authority das Gericht, die Behörde nicht zu zwingen, eine Zahlung an den Vermieter zu leisten, die sich auf eine Person bezieht, die nicht mehr für das Programm eingeschrieben ist. Um seine Argumentation zu stützen, zitierte die Kanzlei zahlreiche Gerichtsurteile. Doch diese Zitate wurden kaum sorgfältig überprüft, was offensichtlich zu gravierenden Fehlern führte. Kevin Fulton, der geschäftsführende Anwalt der Kanzlei, begründete die Fehler mit dem extrem kurzen Zeitrahmen, den das Gericht für die Einreichung des Gutachtens vorgegeben hatte. Dadurch sei es nicht möglich gewesen, eine mehrfache Prüfung durch verschiedene Anwälte durchzuführen. Außerdem hätten die Fallargumente direkt zitiert statt umschrieben werden müssen. Dennoch blieb unklar, wie es zu einem derart hohen Anteil an falschen und zum Teil völlig irrelevanten Zitaten kommen konnte.
Noch brisanter ist, dass auf Nachfrage nicht bestätigt wurde, ob KI-Technologie in der Texterstellung zum Einsatz kam. Ein KI-Erkennungstool, GPTZero, bewertete das Dokument mit 73 Prozent Wahrscheinlichkeit als KI-generiert, was nahelegt, dass automatisierte Textgenerierung eine Rolle spielte. Die HHA selbst erklärte, dass ein internes Verfahren zur Prüfung dieser Angelegenheit eingeleitet wurde. Es wurde zudem darauf hingewiesen, dass das Rechtsgutachten nicht den internen juristischen Teams der Behörde vor Abgabe vorgelegt wurde, was gegen die üblichen Verfahrensweisen verstößt. Die Behörde räumte Fehler bei der Verifikation der Zitate ein, beteuerte jedoch, den Fall in Zusammenarbeit mit der Klägerin und deren Anwälten zu einer Lösung führen zu wollen. Juristen und Experten bewerteten die Vorkommnisse vernichtend.
Nikolas Guggenberger, Rechtsprofessor an der Universität Houston, bezeichnete das Zitieren erdachter Gerichtsentscheidungen als schwerwiegenden Fehler, der niemals passieren dürfe. Die mögliche Bandbreite der Konsequenzen reicht von diplomatischen Kopfschütteln über Vertrauensverluste bis hin zu juristischen Sanktionen wie einer Missachtung durch das Gericht oder gar strafrechtlichen Folgen. Für ihn ist der entscheidende Punkt, ob es sich um einen ehrlichen Fehler oder absichtlichen Betrug handelt. Dabei ist die Verwendung von KI ein zweischneidiges Schwert: Sie kann helfen, Prozesse zu beschleunigen, darf aber keineswegs den sorgfältigen Prüfprozess eines Anwalts ersetzen. Parallel berichtete ein Experte der französischen Wirtschaftshochschule HEC Paris, Damien Charlotin, über eine zunehmende Zahl an juristischen Fällen, die voll von sogenannten „Halluzinationen“ durch KI-generierte Inhalte sind.
Er habe in seiner Datenbank bereits über 140 Fälle gesammelt, in denen Gerichtsakten falsche oder frei erfundene Richterzitate und sogar fiktive Gesetze enthielten. Das Besorgniserregende sei hierbei, dass diese Fehler keine typischen menschlichen Patzer darstellen. Menschen neigten nicht dazu, vollständige Zitate zu erfinden – das wirke eher wie bewusster Betrug. Die Fehler entstünden vielmehr durch unkritischen Einsatz von KI, die nicht verifizierte Inhalte generiere. Eine Lösung sieht Charlotin in der Entwicklung verbesserter KI-Modelle, die weniger zu solchen Halluzinationen neigen, auch wenn man dort „noch nicht angekommen“ sei. Das juristische Debakel wird vor dem Hintergrund systemischer Defizite im Wohnungsprogramm von Houston besonders brisant. Die Klägerin Arletha Joseph wirft der Housing Authority vor, ihre Wohnbeihilfe ohne ordnungsgemäße Benachrichtigung beendet zu haben.
Dabei habe die Behörde es versäumt, sie über notwendige Dokumenteingaben wie die sogenannte Rezertifizierung zu informieren, obwohl sie mehrfach Kontakt aufgenommen hatte. Diese Unterlassungen entsprechen Berichten und Untersuchungen, die auf mangelhafte Verwaltungsprozesse innerhalb der HHA hindeuten. So zeigte ein Drittanbieter-Audit aus dem Jahr 2023, dass viele Akten im Programm keine ordnungsgemäß durchgeführte Rezertifizierung aufwiesen. Zudem entdeckte eine interne Untersuchung, dass Mitarbeiter über das Ende von Beihilfen entschieden hatten, ohne die betroffenen Personen zu benachrichtigen – offenbar auch im Fall der Klägerin. Dennoch widersetze sich die Housing Authority in mehreren juristischen Schriftsätzen der Forderung, das Wohngeld wieder zu gewähren oder Mietzahlungen so zu sichern, dass eine drohende Räumung verhindert wird.
Erst später verkündete die Behörde auch per E-Mail, man arbeite daran, mit der Klägerin und ihren Anwälten eine Lösung zu finden, um eine Rückkehr in das Subventionsprogramm zu ermöglichen und damit Wohnungslosigkeit zu vermeiden. Die falschen Zitate in der juristischen Eingabe sind inhaltlich oft nicht nur erfunden, sondern erscheinen auch thematisch unsinnig oder widersprüchlich. Beispielsweise zitierte die HHA eine Entscheidung aus dem Jahr 2009, die angeblich ausdrücke, dass Verzögerungen bei Anträgen auf einstweilige Verfügungen die Dringlichkeit minderten. Das steht im krassen Gegensatz zum tatsächlichen Urteil, das gerade eine verzögerte Antragsstellung nicht als hinderlich für eine einstweilige Verfügung ansah. Weitere Beispiele stammen aus Fällen zu ausgeflogenen Themen wie dem Umgang mit Flugmeilen oder der Regulierung von Umsatzsteuererstattungen bei Exportwaren. Hier wurden Zitate erfunden, die weder existieren noch thematisch passen.
Solche gravierenden Fehler unterstreichen das Ausmaß der mangelnden Sorgfalt bei der Erstellung des Gutachtens. Ein besonders beunruhigender Aspekt ist, dass die Verwendung von KI im juristischen Umfeld ausgehend von diesen Vorfällen zunehmend kritisch hinterfragt wird. KI-Modelle wie große Sprachmodelle erzeugen oft plausible, aber falsche Informationen – sogenannte Halluzinationen. In einem hochsensiblen und formalisierten Bereich wie der Rechtsprechung können derartige Fehler erhebliche Schäden an Prozessintegrität und Schadensersatzforderungen verursachen. Fachleute betonen deshalb immer wieder die Notwendigkeit der sorgfältigen Prüfung und Verifikation aller KI-generierten Inhalte, wenn sie in juristischen Kontexten Anwendung finden. Wie sieht die Zukunft nun aus für den Einsatz von KI in der Rechtsberatung und Gerichtsdokumenten?
Experten sind sich einig, dass KI trotz der Risiken eine wertvolle Unterstützung für Anwälte sein kann, wenn sie als Hilfsmittel und nicht als Ersatz für fachliche Expertise verwendet wird. Anwälte müssen darauf achten, dass sämtliche automatisierte Ergebnisse umfassend gegengeprüft werden. Es braucht strengere Richtlinien und möglicherweise auch gesetzliche Vorgaben, um Missbrauch und Fehler zu vermeiden. Die Houston Housing Authority und die Fulton Law Group haben mit diesem Fall einen eindrücklichen Präzedenzfall geschaffen, der zeigt, wie wichtig Korrektheit und Transparenz in juristischen Verfahren sind – gerade wenn es um so sensible Themen wie bezahlbaren Wohnraum und soziale Unterstützung geht. Die Kontroverse zeigt auch das größere Problem des öffentlichen Wohnungsprogramms in Houston, dessen Verwaltung in den letzten Jahren mehrfach für Versäumnisse kritisiert wurde.
Fehlende Kommunikation, bürokratische Hürden und Intransparenz haben zu nicht unerheblichen Härten für Mieter geführt. Es ist im Interesse aller Beteiligten, dass die Qualität der juristischen Betreuung und der Verwaltung verbessert wird, um solche Vorfälle künftig zu verhindern. Zusammenfassend liefert der Fall Houston Housing Authority ein vielschichtiges Lehrstück: Er offenbart die Gefahren eines ungeprüften Einsatzes moderner Technologien wie KI im juristischen Bereich, vor allem wenn sie mit engem Zeitdruck kombiniert werden. Gleichzeitig hebt er hervor, wie wichtig rechtsstaatliche Verfahren und der Schutz von Klientinnen und Klienten sind, die auf behördliche Hilfe angewiesen sind. Der öffentliche Diskurs um solche Probleme ist notwendig, damit Vertrauen in Institutionen erhalten bleibt und betroffene Menschen nicht zwischen bürokratischen Fehlern und technischen Fehlentwicklungen zerrieben werden.
