Dass KI Code schreiben kann, ist inzwischen Allgemeingut. Für die IT-Sicherheit folgenreicher ist die umgekehrte Frage: Was passiert, wenn KI Code liest und dabei gezielt nach Schwachstellen sucht? Ein großer Cloud- und Sicherheitsanbieter hat dazu ein ungewöhnlich offenes Experiment publiziert. Das Unternehmen erhielt frühen Zugriff auf ein spezialisiertes, sicherheitsfokussiertes KI-Modell und ließ es mehr als fünfzig eigene Code-Repositories analysieren. Kein Spielprojekt also, sondern produktive, kritische Infrastruktur.
Die Resultate verdienen Aufmerksamkeit, allerdings nicht auf die Art, die man von Marketing-Ankündigungen kennt. Sie zeigen, wo automatisierte Sicherheitsforschung mit KI heute steht und was um das Modell herum nötig ist, damit belastbare Ergebnisse entstehen. Relevant ist das weit über dieses Unternehmen hinaus, denn dieselbe Technologie steht bald allgemein zur Verfügung: Verteidigern wie Angreifern.
Was die neue Modellgeneration anders macht
Klassische Schwachstellen-Scanner arbeiten mit Signaturen und Mustern: Sie kennen bekannte Fehlerklassen und suchen danach. Die neue Generation von KI-Modellen geht grundlegend anders vor. Der Bericht beschreibt, dass die Modelle beim Durchgehen des Codes eine Argumentationskette entwickeln, die eher an einen erfahrenen Sicherheitsforscher erinnert als an die Ausgabe eines automatisierten Werkzeugs. Sie erfassen Zusammenhänge über Dateigrenzen hinweg und verfolgen, wie Daten durch ein System fließen. Daraus leiten sie ab, wo sich etwas ausnutzen ließe.
Das ist ein qualitativer Sprung. Herkömmliche Tools entdecken nur, was ihnen zuvor jemand beigebracht hat. Diese Modelle erschließen sich neue Schwachstellen aus dem Verständnis des Codes heraus, ähnlich wie ein Mensch, nur in einem Tempo und einer Breite, die kein Mensch erreicht.
Eine Fähigkeit, zwei Vorzeichen
Der Bericht spricht offen aus, was sich nicht wegdiskutieren lässt: Dieselben Modelle, die beim Absichern der eigenen Systeme helfen, führen zugleich vor, wozu Angreifer mit der jeweils aktuellen KI-Generation in der Lage sind. Wer Schwachstellen schneller findet, kann sie schneller schließen oder schneller ausnutzen. Die Fähigkeit selbst ist neutral; den Unterschied macht, wer sie zuerst und konsequenter einsetzt.
Für die Verteidigung heißt das: Das Zeitfenster zwischen „Schwachstelle existiert“ und „Schwachstelle wird ausgenutzt“ schrumpft. Die Annahme, man könne in Ruhe patchen, sobald irgendwann ein Advisory erscheint, trägt immer weniger. Sicherheit wandelt sich von der punktuellen Prüfung zum kontinuierlichen Betrieb.
Signal und Rauschen: der eigentliche Engpass
So beachtlich die Trefferquote ist: Die härteste Arbeit beginnt danach. Zu den schwierigsten Aufgaben der Schwachstellen-Analyse gehört die Bewertung. Welche Funde sind echt, welche tatsächlich ausnutzbar, welche müssen mit Priorität behoben werden? Denn die Modelle erzeugen auch Rauschen: Meldungen, die plausibel wirken, sich bei näherer Prüfung aber als harmlos oder als Fehlalarm herausstellen.
Einen Treiber der Fehlalarmquote benennt der Bericht konkret: die Programmiersprache. In speicherunsicheren Sprachen wie C und C++, in denen Fehlerklassen wie Pufferüberläufe überhaupt erst möglich sind, lag die Zahl der Fehlalarme deutlich höher als in speichersicheren Sprachen wie Rust, die solche Fehler bereits zur Übersetzungszeit ausschließen. Die KI liefert also keine fertige Mängelliste, sondern viele Hinweise, die erst noch bewertet werden müssen.
Ein starkes Modell allein genügt nicht
Die vielleicht wichtigste Lehre aus dem Bericht: Es reicht nicht, ein leistungsfähiges Modell auf ein Repository zu richten und auf das Beste zu hoffen. Das Unternehmen musste eine komplette Architektur darum herum errichten, ein Rahmenwerk, das dem Modell den passenden Kontext liefert, seine Funde strukturiert verifiziert, Duplikate und Fehlalarme aussortiert und die verbleibenden Ergebnisse für menschliche Fachleute aufbereitet. Erst dieses Zusammenspiel aus Modell, Prozess und menschlicher Triage macht den Ansatz im großen Maßstab tragfähig.
Das deckt sich mit Erfahrungen aus dem Sicherheitsbetrieb generell: Werkzeuge, wie fortschrittlich auch immer, entfalten ihren Wert erst in einem sauberen Prozess mit klaren Zuständigkeiten und geschulten Menschen, die die Ergebnisse einordnen. Ein Alarm, den niemand bewertet und beantwortet, ist kein Schutz, sondern Lärm.
Was das für Sicherheitsteams und den Mittelstand bedeutet
Ein solches Rahmenwerk zu bauen ist für große Anbieter Tagesgeschäft. Für mittelständische Unternehmen ist das in der Regel weder leistbar noch nötig. Die Schlussfolgerung daraus aber schon: Wenn KI Angriffe schneller und breiter macht, verschieben sich die Prioritäten, weg von der Illusion, jede einzelne Lücke rechtzeitig zu schließen, hin zu Architekturen, die einen Treffer verkraften.
Praktisch heißt das zunächst: die im Internet exponierte Angriffsfläche aktiv und automatisiert schützen. Cloud-native Plattformen für Application Security mit WAF, Bot- und API-Schutz passen sich laufend an neue Bedrohungen an und sind auch als Managed Service verfügbar.
Dazu kommt die Annahme, dass irgendwann trotzdem etwas durchkommt, und die Vorsorge, den Schaden von vornherein zu begrenzen. Genau das leistet Zero-Trust-Segmentierung: Ein kompromittierter Punkt wird nicht zum Einfallstor für das gesamte Netzwerk. „Assume Breach“ ist keine Kapitulation, sondern die realistische Grundhaltung in einer Welt, in der Angreifer KI-Werkzeuge nutzen.
Schließlich gehört dazu, KI selbst kontrolliert und datenschutzkonform einzusetzen, statt sie zu meiden, etwa über Plattformen für serverloses Compute und KI-Inferenz, die Anwendungen, Daten und Modelle nah am Nutzer betreiben.
Nüchtern und trotzdem ein Weckruf
Der Bericht ist gerade deshalb wertvoll, weil er nicht übertreibt. KI findet reale Schwachstellen, in einer Qualität, die vor Kurzem nicht denkbar war. Sie ersetzt aber weder den Prozess noch die Fachleute, und sie produziert Rauschen, das eingeordnet werden muss. Für Verteidiger ist das eine gute Nachricht, solange sie zuerst handeln. Für alle, die Sicherheit noch als einmaliges Projekt begreifen, ist es ein Weckruf. Der ausführliche Originalbericht steht im Cloudflare-Blog.
Passende Managed Services
- Application Security – WAF, DDoS-Schutz, Bot- und API-Management für exponierte Anwendungen und Schnittstellen.
- Mikrosegmentierung – laterale Ausbreitung nach einem Erstzugriff stoppen, mit Sichtbarkeit bis auf Workload-Ebene.
- Compute & AI – serverloses Compute, Storage und KI-Inferenz im globalen Edge-Netz.