Künstliche Intelligenz (KI) ist zweifellos eine der bahnbrechendsten technologischen Entwicklungen der letzten Jahre. Von der Medizin bis zur Automobilindustrie verändert sie Prozesse und schafft neue Möglichkeiten. Doch wie bei jeder mächtigen Technologie gibt es auch eine Schattenseite. Cyberkriminelle nutzen KI zunehmend für Angriffe, die raffinierter, schneller und schwerer zu durchschauen sind als je zuvor. Für viele Chief Information Security Officers (CISOs) ist diese neue Realität längst eingetroffen: Laut einer aktuellen Umfrage von Darktrace sehen bereits 78 Prozent der CISOs weltweit KI-basierte Angriffe auf ihre Organisationen.
Was bedeutet das für die Zukunft der IT-Sicherheit und wie sollten Unternehmen reagieren? Der Wandel in der Cyberbedrohungslandschaft ist rasant und wirkt auf viele Sicherheitsverantwortliche beunruhigend. Künstliche Intelligenz wird von Angreifern genutzt, um automatisierte Phishing-Kampagnen zu erstellen, Schadsoftware intelligenter zu machen oder sogar gezielte Attacken über fortschrittliche Modelle zu orchestrieren. Die Ergebnisse zeigen deutlich, dass KI nicht länger nur ein theoretisches Risiko ist, sondern bereits in der Praxis Schaden anrichtet. Besonders erschreckend ist der Anstieg von Social-Engineering-Angriffen, die durch generative KI-Modelle befeuert werden. Während des Jahres 2023, parallel zum Aufstieg von ChatGPT, hat Darktrace einen Zuwachs von 135 Prozent bei solchen KI-getriebenen Phishing-Versuchen registriert.
Die Fähigkeit von KI, täuschend echte Nachrichten zu erstellen, macht es für Nutzer immer schwieriger, betrügerische Nachrichten von legitimen Anfragen zu unterscheiden. Dies erhöht nicht nur die Erfolgschancen von Angreifern, sondern erhöht auch den Druck auf Unternehmen, ihre Mitarbeiter und Sicherheitsstrukturen besser vorzubereiten. Ein Problem bei der Erkennung von KI-Angriffen liegt in ihrer Tarnung. Im Gegensatz zu bekannten Schadprogrammen verkünden KI-Algorithmen nicht ihre Präsenz. Sie agieren unsichtbar im Hintergrund, verändern Angriffsstrategien subtil und erhöhen die Komplexität der Bedrohung.
Experten vergleichen das Erkennen solcher Angriffe mit dem Blick auf Schwarze Löcher – man kann sie nicht direkt sehen, aber man kann ihre Auswirkungen auf das Umfeld beobachten. Die Unsicherheit bezüglich der KI-Angriffe sorgt auch für eine psychologische Belastung der Sicherheitsteams. Die Einsätze in der Branche sind hoch, denn Cybersecurity ist ein Nullsummenspiel: Entweder gelingt es dem Angreifer, das System zu kompromittieren, oder der Verteidiger hält die Angriffe erfolgreich ab. „Wenn man nicht gerade einen Angriff abwehrt, sucht man nach dem nächsten“, erläutert Hanah-Marie Darley, Direktorin für Sicherheit und KI-Strategie bei Darktrace. Dieser Zustand permanenter Vorsicht und Alarmbereitschaft führt zu einem stressigen Arbeitsumfeld, das Mitarbeiter langfristig erschöpft und zu hohen Fluktuationsraten führt.
Das Fehlen qualifizierter Fachkräfte verschärft die Lage zusätzlich. Laut der aktuellen Darktrace-Studie ist der größte Engpass beim Kampf gegen KI-Angriffe die mangelnde Personaldecke. Über 70 Prozent der befragten Organisationen berichten von mindestens einer unbesetzten Position im Cybersecurity-Bereich. Trotz vorhandener Bedrohungen nehmen nur 11 Prozent der Firmen die Anstellung neuer Mitarbeiter überhaupt als Priorität wahr. Dies lässt darauf schließen, dass viele Unternehmen die Herausforderungen zwar erkennen, aber im Personalmanagement nicht ausreichend handeln.
Die fehlende Vorbereitung der Sicherheitsexperten spiegelt sich in den Umfrageergebnissen wider. Während 45 Prozent der Fachkräfte das Gefühl haben, unzureichend auf zukünftige KI-Bedrohungen vorbereitet zu sein, fühlen sich nur 17 Prozent wirklich sehr gut gerüstet. Dieser Mangel an Zuversicht unterstreicht die Dringlichkeit, nicht nur in Technologie, sondern auch in Schulung und Vorbereitung zu investieren. Angesichts der immer komplexer werdenden Angriffsformen setzen viele Unternehmen auf KI-gestützte Sicherheitslösungen, um ihre Verteidigung zu stärken. Der Großteil der Befragten (95 Prozent) glaubt, dass KI ihre Abwehrmaßnahmen beschleunigt und effizienter macht.
88 Prozent bestätigen bereits eine signifikante Zeitersparnis durch den Einsatz von KI-Technologien. Diese modernen Systeme helfen dabei, eine Flut von Warnmeldungen zu filtern, potenzielle Angriffe frühzeitig zu erkennen und damit schneller zu reagieren. Doch die Nutzung von KI in der Cybersecurity bringt auch eigene Herausforderungen mit sich. Sensible Daten, die für Trainingsprozesse genutzt werden, müssen sicher verarbeitet werden, um Risiken wie Datenlecks zu vermeiden. Aus diesem Grund legen 82 Prozent der Befragten Wert darauf, KI-Lösungen einzusetzen, die ohne externe Datenübertragung funktionieren.
Datenschutz und Compliance mit strengen Regelwerken wie der Datenschutz-Grundverordnung (DSGVO) und dem EU-KI-Gesetz haben höchste Priorität für Unternehmen. Trotz der wachsenden Bedeutung von KI gibt es eine Lücke im Verständnis der Technologien. Nur 42 Prozent der Umfrageteilnehmer wissen genau, welche Arten von KI in ihrer Sicherheitsinfrastruktur eingebunden sind. Die Unsicherheit bei der Einordnung der unterschiedlichen KI-Typen und Anwendungsfälle erschwert es, die eigenen Systeme optimal zu steuern und weiterzuentwickeln. Die Gefahr liegt darin, dass Unternehmen sich zu sehr auf generative KI verlassen, obwohl klassische maschinelle Lernverfahren in vielen Bereichen der Cyberabwehr besser geeignet sind.
Interessanterweise bevorzugen die meisten CISOs eine vorbeugende Verteidigungsstrategie, die KI nutzt, um Angriffe frühzeitig zu erkennen und zu verhindern, anstatt nur reaktiv zu handeln. 88 Prozent der Befragten sehen in der KI eine Möglichkeit, eine stärkere Präventionshaltung zu erreichen. Dies bedeutet, potenzielle Schwachstellen zu identifizieren und proaktiv zu beheben, bevor sie ausgespielt werden können. Ein weiterer wichtiger Trend ist die Konsolidierung von Sicherheitslösungen. 89 Prozent der Sicherheitsverantwortlichen bevorzugen integrierte Plattformen, die verschiedene Schutzebenen und Funktionen vereinen, statt fragmentierte Einzellösungen, die meist nicht nahtlos zusammenarbeiten.
Diese Integration erleichtert den Alltag in Security Operations Centern (SoCs), da sie Prozesse automatisiert, die Informationsflüsse vereinheitlicht und menschliche Fehler reduziert. Die Komplexität moderner Cyberangriffe sowie die schnelle Evolution der Bedrohungslage verlangen vollständig automatisierte, aber gleichzeitig anpassbare Systeme. Advanced AI-Plattformen, wie sie von Darktrace angeboten werden, kombinieren verschiedene KI-Modelle – überwacht, unüberwacht und statistisch – miteinander. So können nicht nur bekannte Angriffsmuster erkannt, sondern auch ungewöhnliche Verhaltensmuster aufgedeckt werden, die auf bisher unbekannte Bedrohungen hinweisen. Die Vielschichtigkeit dieser Systeme zeigt sich auch in Funktionen wie automatischer Quarantäne, die Angriffe direkt isolieren können, oder Cyber AI Analysten, welche die riesige Zahl an Warnmeldungen filtern und nur relevante Informationen an Sicherheitsexperten weitergeben.
Dadurch wird das menschliche Sicherheitsteam entlastet und kann sich auf strategisch wichtige Aufgaben konzentrieren. Doch trotz der Fortschritte steht der Markt vor einer Herausforderung: Sicherheitsteams wissen oft nicht genau, wie die eingesetzten KI-Systeme funktionieren. Für viele ist es wichtiger, dass die Technologie verlässlich schützt, als dass sie das Innenleben versteht. Allerdings ist ein gewisses technisches Basiswissen unerlässlich, um die richtige Lösung auszuwählen und KI nicht als Blackbox zu behandeln. Nur so kann sichergestellt werden, dass die eingesetzten Technologien in der jeweiligen Unternehmensumgebung auch optimal funktionieren und Risiken minimieren.
Die Situation gleicht einem Spiel, bei dem Verteidiger blind sind und kaum erkennen können, wann und wie ein KI-gestützter Angriff erfolgt. Die Angreifer bewegen sich unsichtbar, entwickeln ihre Methoden kontinuierlich weiter und nutzen die Macht der KI, um ihre Chancen zu verbessern. Für Sicherheitsverantwortliche bedeutet das, flexibel, vorausschauend und schnell reagieren zu müssen. Wer es versäumt, seine Systeme und Teams entsprechend auszurüsten, erzeugt gefährliche Lücken, die Kriminelle gnadenlos ausnutzen. In der Praxis heißt das, dass Unternehmen umfassende Strategien entwickeln müssen, welche die Integration von KI-Technologie, die Schulung von Fachkräften und eine robuste Personalplanung miteinander verbinden.
