Die Entwicklung und Nutzung von Künstlicher Intelligenz (KI) hat in den letzten Jahren einen gewaltigen Aufschwung erlebt. Unternehmen unterschiedlichster Branchen integrieren KI, um Prozesse zu optimieren, neue Erkenntnisse zu gewinnen und innovative Produkte zu schaffen. Doch die Anwendung von KI in Umgebungen mit hohen Sicherheitsanforderungen stellt eine besondere Herausforderung dar. In solchen Settings ist der Schutz sensibler Daten oberste Priorität, und es dürfen keine Kompromisse eingegangen werden, um die Integrität, Vertraulichkeit und Verfügbarkeit der Informationen zu gewährleisten. Die Diskussion um den Einsatz von KI in hochsicheren Umgebungen gewinnt zunehmend an Bedeutung, da viele Organisationen – darunter Banken, Regierungsstellen und Unternehmen mit besonders schützenswerten Daten – nach Wegen suchen, die Vorteile von KI zu nutzen, ohne Sicherheitsrisiken einzugehen.
Die zentrale Frage ist, wie KI effektiv entwickelt und betrieben werden kann, wenn das Versenden von Quellcode oder sensiblen Daten an entfernte Modelle oder Cloud-Dienste ausgeschlossen ist. Ein wichtiger Aspekt sind die Modelle selbst. Viele große KI-Anbieter ermöglichen es inzwischen, die Nutzung ihrer Modelle so einzustellen, dass keine Trainings- oder Nutzungsdaten langfristig gespeichert oder für weitere Trainingszyklen verwendet werden. Einige stellen dies als Standard ein, andere bieten es per Umschaltoption oder auf Anfrage an. Für viele Hochsicherheitsumgebungen reicht das allerdings nicht aus, da hier häufig verlangt wird, dass alle Daten auf firmeneigenen oder zumindest vollständig kontrollierten Systemen verbleiben.
Das führt zu einem Trend, der den kompletten Betrieb von KI-Lösungen auf On-Premises-Servern vorsieht. Diese On-Premises-Lösungen erfordern eine erhebliche Infrastruktur und Expertenwissen im Bereich Modellmanagement, Sicherheit und Compliance. Zugleich sind sie für den Eigenbetrieb optimiert, um keine sensiblen Informationen außerhalb der geschlossenen Umgebung preiszugeben. Dabei kommt es auch auf die Auswahl der passenden Modelle an. Viele Unternehmen nutzen vorkonfigurierte Modelle, die auf Open-Source-Frameworks und Foundation Models basieren, welche lokal betrieben werden können.
Der Vorteil hierbei liegt in der vollständigen Kontrolle über die Daten und die Modellprozesse sowie darin, dass keine Risiken durch externe Zugangspunkte entstehen. Eine weitere Herausforderung bildet die Einhaltung von rechtlichen und vertraglichen Vorgaben. In Branchen mit hohen Anforderungen, wie etwa dem Finanzsektor, gibt es zum Beispiel oft strenge Compliance-Regeln, die regeln, wie Daten verarbeitet und wo sie gespeichert werden dürfen. So verbietet es beispielsweise der Einsatz bestimmter cloud-basierter oder externer AI-Code-Generierungstools, Quellcode an fremde Systeme zu übermitteln, da dadurch geistige Eigentumsrechte verletzt werden könnten. Aus diesem Grund legen viele Unternehmen fest, dass solche Tools in sicherheitskritischen Bereichen gar nicht eingesetzt werden dürfen.
Obwohl viele Unternehmen öffentliche Cloud-Dienste meiden, setzen einige dennoch auf Cloud-Infrastrukturen mit hohen Sicherheitszertifizierungen. Anbieter wie AWS, Microsoft Azure oder Google Cloud haben speziell zugeschnittene Angebote für sensible Daten, darunter auch sogenannte GovCloud- oder Secret-Cloud-Varianten, die beispielsweise spezielle Anforderungen an die Datenhoheit erfüllen. Diese Systeme sind meistens in geografisch beschränkten Zonen betrieben, etwa ausschließlich innerhalb der USA, um rechtlichen Vorgaben von Staatsbehörden zu genügen. Allerdings liegt das Vertrauen in diese Cloud-Umgebungen stark bei den jeweiligen Kunden und der jeweiligen Sicherheitsarchitektur. Der Trend geht jedoch klar in Richtung der Entwicklung und des Trainings von KI-Modellen innerhalb der Unternehmensgrenzen.
Gerade mit den Fortschritten bei speziell auf KI optimierten Hardwarelösungen, etwa von Intel und anderen Herstellern, wird es zunehmend möglich, leistungsfähige KI-Modelle lokal und kosteneffizient zu betreiben. Das schließt sowohl das Training als auch die Inferenz mit ein, was für sensible Anwendungen essenziell ist. Es zeigt sich ebenfalls, dass Unternehmen zunehmend hybride Konzepte prüfen. Dabei werden nicht alle KI-Dienste isoliert betrieben, sondern Datenklassifizierungen helfen zu steuern, welche Informationen innerhalb der sicheren Zonen bleiben müssen und welche eventuell in besonders gesicherten Cloud-Instanzen verarbeitet werden dürfen. Eine klare Abgrenzung und strikte Protokolle sorgen dafür, dass die Datensicherheit auch beim Einsatz von KI nicht vernachlässigt wird.
Ein weiterer Lösungsansatz beschäftigt sich mit sogenannten datenschutzfreundlichen AI-Technologien, wie zum Beispiel der Differential Privacy oder dem Federated Learning. Diese Methoden erlauben es, KI-Modelle zu trainieren, ohne dass die einzelnen Datenpunkte an zentralen Orten zusammengeführt werden müssen. Besonders das Federated Learning bietet spannende Möglichkeiten, da Unternehmen und Organisationen damit ihre Daten lokal behalten und nur Modelle oder Modellupdates austauschen. Solche Techniken können insbesondere in hochregulierten Umgebungen ein großer Vorteil sein. Auch die Frage nach der Anonymisierung und Pseudonymisierung sensibler Daten ist in diesem Kontext nicht zu vernachlässigen.
Während der KI-Entwicklung dürfen personenbezogene oder sicherheitskritische Informationen nicht ungeschützt verarbeitet werden. Entsprechende Datenschutztechniken müssen daher integraler Bestandteil der KI-Pipeline sein, um Compliance-Verstöße zu vermeiden und die Privatsphäre von Individuen zu schützen. Nicht zu unterschätzen sind zudem organisatorische und prozessuale Sicherheiten. Eine erfolgreiche KI-Entwicklung in kritischen Umgebungen erfordert ein enges Zusammenspiel von IT-Sicherheitsexperten, Datenschutzbeauftragten, Datenwissenschaftlern und Fachabteilungen. Die Einrichtung klar definierter Rollen, Verantwortlichkeiten und Zugriffsrechte ist zwingend, um Sicherheitslücken durch menschliches Versagen oder Fehlkonfigurationen zu vermeiden.
Weiterhin sind regelmäßige Audits, Penetrationstests und Schulungen ein wichtiger Bestandteil der Sicherheitsstrategie. Zusammenfassend lässt sich festhalten, dass der Einsatz von KI in hochsicheren Umgebungen kein reines Technologieproblem ist, sondern eine ganzheitliche Herausforderung darstellt. Nur durch eine Kombination aus geeigneter Infrastruktur, modernen datenschutzkonformen Technologien, organisatorischen Maßnahmen und juristischen Kenntnissen lässt sich KI vertrauenswürdig und sicher implementieren. Dabei ist es unerlässlich, dass sich Unternehmen und Institutionen bewusst mit der Frage auseinandersetzen, welche Daten sie für welche Ziele einsetzen und welche „Data Governance“-Regelungen sie dafür benötigen. Die Zukunft der KI in sicherheitskritischen Bereichen sieht vielversprechend aus, da Innovationen in Hardware, Software und Datenschutz neue Wege eröffnen.
Unternehmen sind heute in der Lage, KI-Lösungen zu entwickeln, die den wachsenden Sicherheitsanforderungen gerecht werden und gleichzeitig die Vorteile von KI komplett entfalten. Besonders vielversprechend sind Entwicklungen, bei denen KI-Modelle vor Ort trainiert und eingesetzt werden, um die vollständige Kontrolle über Daten und Modelle zu behalten. Letztlich wird es entscheidend sein, dass Anbieter und Nutzer gemeinsam Standards und Best Practices entwickeln, um die KI-Sicherheit kontinuierlich zu verbessern. Nur dann kann das Potenzial von KI in hochsensiblen Umgebungen voll ausgeschöpft werden, ohne Kompromisse bei Datenschutz und IT-Sicherheit einzugehen.
![How Virtual Banking Made Saving Risky Again [Yotta, Y Combinator]](/images/9C728AA1-289C-41D3-8F7A-2150E58D9246)
