Die fortschreitende Entwicklung von künstlicher Intelligenz (KI) hat in den letzten Jahren zunehmend in den Fokus von Politikern, Forschern und der Öffentlichkeit gerückt. Während KI-Technologien in zahlreichen Bereichen enormes Potenzial bieten, warnen Experten vor den Risiken, die mit der unkontrollierten Nutzung und dem Einsatz besonders leistungsstarker KI-Modelle verbunden sind. Vor diesem Hintergrund hat der US-Bundesstaat New York jüngst einen bedeutenden Schritt unternommen, um die Sicherheit im Umgang mit sogenannten Frontier-KI-Modellen zu gewährleisten – das sogenannte RAISE-Gesetz (Regulation of AI Safety and Ethical Standards Act). Dieses Gesetz zielt darauf ab, potenzielle Katastrophen durch KI-Anwendungen zu verhindern, die schwerwiegende Schäden oder Unfälle verursachen könnten. Mit dem RAISE-Gesetz reagiert New York auf eine zunehmende Besorgnis angesichts der Geschwindigkeit, mit der KI-Technologien heute voranschreiten.
Die vorhandenen Regulierungen in den USA und weltweit hinken vielfach den technologischen Entwicklungen hinterher. Während Länder und Konzernen die Innovation priorisieren, entsteht eine Lücke in der gewollten Kontrolle und in der Transparenz der KI-Systeme. Das RAISE-Gesetz verfolgt das Ziel, diese Lücke zu schließen, indem es klare Vorgaben und Anforderungen für die größten KI-Labore und -Entwickler schafft. Ein Kernpunkt des Gesetzes betrifft die Transparenz: Die größten KI-Unternehmen, zu denen auch global bedeutende Player wie OpenAI, Google und Anthropic zählen, sollen umfassende Sicherheits- und Schutzberichte für ihre Frontier-Modelle veröffentlichen. Dies soll der Öffentlichkeit, der Regierung und insbesondere der Justiz ermöglichen, die Entwicklungs- und Einsatzprozesse dieser Modelle besser nachvollziehen zu können.
Gerade weil diese KI-Systeme mittlerweile gesellschaftliche und wirtschaftliche Prozesse tiefgreifend beeinflussen und potenziell für großflächige Schäden verantwortlich sein könnten, ist eine solche Offenlegung von essenzieller Bedeutung. Das RAISE-Gesetz legt ein besonderes Augenmerk auf Risiken, die durch Fehlfunktionen oder missbräuchliche Verwendung entstehen können. Sollte eine KI-Anwendung nachweislich Unfälle mit mehr als 100 Verletzten oder Todesfällen verursachen oder finanziellen Schaden in Milliardenhöhe anrichten, sieht das Gesetz klare Sanktionen vor. Die neuen Regelungen geben der Staatsanwaltschaft von New York die Befugnis, bei Verstößen zivilrechtliche Strafen von bis zu 30 Millionen US-Dollar zu verhängen. Diese drohenden Konsequenzen signalisieren Unternehmen im KI-Sektor, dass Selbstregulierung nicht mehr ausreicht und ein gewisses Maß an staatlicher Kontrolle zum Schutz der Gesellschaft unerlässlich ist.
Das Gesetz richtet sich vor allem an Unternehmen, deren KI-Modelle mit mehr als 100 Millionen US-Dollar an Rechenressourcen trainiert wurden – ein Hinweis darauf, dass es sich um äußerst komplexe und leistungsstarke Systeme handelt. Zudem gilt es für Modelle, die in New York genutzt oder bereitgestellt werden. Diese Einschränkung stellt sicher, dass sowohl inländische Firmen als auch internationale Tech-Giganten, die ihre Produkte in New York zugänglich machen, den neuen Auflagen folgen müssen. Die besondere Breite und Transparenz des Gesetzes macht es zum ersten amerikanischen Regelwerk dieser Art, das explizit auf Frontier-KI abzielt. Doch trotz der vielen Befürworter stößt das RAISE-Gesetz auch auf Kritik, insbesondere vonseiten der Tech-Industrie.
So warnen einige Organisationen, darunter bekannte Venture-Capital-Firmen wie Andreessen Horowitz, dass das Gesetz Innovationen behindern und die Wettbewerbsfähigkeit der USA im internationalen Vergleich schwächen könnte. Ein weiteres Argument der Gegner ist, dass KI-Unternehmen ihre fortschrittlichsten Modelle einfach nicht in New York anbieten könnten, um den Regulierungen zu entgehen – insbesondere wenn sie strengere Auflagen fürchten als in anderen Bundesstaaten oder Ländern. Es stellt sich daher die Frage, ob das Gesetz nicht unbeabsichtigte Konsequenzen innerhalb des dynamischen AI-Marktes erzeugt, der auf Schnelligkeit und Fortschritt ausgerichtet ist. Auf der anderen Seite haben führende KI-Sicherheitsforscher und namhafte Wissenschaftler, unter ihnen Nobelpreisträger Geoffrey Hinton und KI-Pionier Yoshua Bengio, das RAISE-Gesetz ausdrücklich unterstützt. Sie warnen davor, dass die Risiken von Fehlanwendungen und unvorhersehbaren Reaktionen von KI-Systemen real und sehr wahrscheinlich sind.
In einer Phase, in der sich KI-Modelle stetig weiterentwickeln und immer tiefere Eingriffe in die Gesellschaft ermöglichen, sehen sie das Gesetz als notwendigen Schritt, um gefährliche Fehlentwicklungen zu verhindern und langfristig eine sichere und verantwortungsvolle Anwendung der Technologie zu gewährleisten. Ein großer Vorteil des RAISE-Gesetzes besteht darin, dass es versucht, eine Balance zwischen Regulierungsdruck und Innovationsfreiheit zu schaffen. Der Gesetzgeber hat bewusst darauf verzichtet, bestimmte Vorgaben wie beispielsweise „Kill Switches“ für KI-Modelle zu erzwingen, die in anderen Gesetzesvorlagen für einschneidender gehalten wurden. Ebenso zielt das Gesetz nicht darauf ab, kleinere Start-ups oder akademische Forscher zu belasten, sondern konzentriert sich streng auf die größten KI-Entwickler der Welt. Diese Zielgruppenorientierung soll verhindern, dass innovative Forschung unterdrückt und weg vom Parlament verlagert wird.
Die Verabschiedung des Gesetzes war ein intensiver Prozess, der auch die Diskussion über den richtigen Rahmen für KI-Regulierungen in den USA neu entfacht hat. Während Kalifornien einen ähnlichen Ansatz mit dem SB 1047 verfolgte, scheiterte dort das Gesetz an der Ablehnung des Gouverneurs. New York setzt nun mit dem RAISE-Gesetz neuerlich Maßstäbe und könnte Vorbildfunktion für andere Bundesstaaten oder sogar die Bundesregierung haben, um einheitliche Regeln für KI-Sicherheit zu schaffen. Das RAISE-Gesetz verdeutlicht auch, wie wichtig eine öffentliche Debatte über die Rolle von KI in der Gesellschaft und deren Regulierung geworden ist. Es unterstreicht die steigende Verantwortung, die Tech-Unternehmen tragen müssen, wenn es darum geht, Risiken im Zusammenhang mit hochentwickelten KI-Systemen zu erkennen und proaktiv zu minimieren.
Durch die geforderte Berichtspflicht und die Sicherstellung von Rechenschaftspflicht bei sicherheitsrelevanten Vorfällen wird die Transparenz erhöht und das Vertrauen in KI-Systeme gestärkt. Aus wirtschaftlicher Perspektive bleibt abzuwarten, wie die beteiligten Unternehmen auf das Gesetz reagieren werden. Die Tatsache, dass New York den drittgrößten US-Bundesstaat nach Bruttoinlandsprodukt darstellt, wirkt sich als starker Anreiz aus, die Regulierung zu akzeptieren und sich an die neuen Standards anzupassen. Ein Rückzug aus dem Markt New Yorks wäre für viele Unternehmen mit hohen Kosten verbunden und könnte zu einem Wettbewerbsnachteil führen. Gleichzeitig signalisiert die breite Unterstützung von Wirtschaftsakteuren, dass Sicherheit und nachhaltige Entwicklung von KI künftig zwingend Teil der Unternehmensstrategie sein müssen.
Die weltweite Aufmerksamkeit, die das RAISE-Gesetz auf sich zieht, zeigt, dass das Thema KI-Sicherheit und ethische Standards immer höher auf der politischen Agenda steht. Länder wie die Europäische Union haben bereits mit weitreichenden Digital- und KI-Gesetzen begonnen, strenge Vorschriften einzuführen. New Yorks Vorgehen könnte dazu dienen, nationale Standards in den USA zu setzen und somit einen Beitrag zur internationalen Harmonisierung von KI-Regulierung zu leisten. Zusammenfassend markiert das RAISE-Gesetz einen Meilenstein im Umgang mit der rasanten technologischen Entwicklung im KI-Bereich. Es ist eine Antwort auf die klare Forderung nach mehr Transparenz, Sicherheit und Verantwortung bei der Anwendung von besonders leistungsstarken KI-Systemen.
Während Diskussionen über die richtige Balance zwischen Innovation und Regulierung weitergehen, sendet New York ein starkes Signal, dass der Schutz von Menschenleben und hohen wirtschaftlichen Interessen oberste Priorität genießen muss. Diese Regulierung könnte ein Modell für zukünftige Gesetze sein, um die Risiken der KI-Technologie beherrschbar zu machen und gleichzeitig deren Potenziale für Gesellschaft und Wirtschaft verantwortungsvoll zu nutzen.
