Auch auf Englisch: Englischer Artikel · Englisches Whitepaper lesen
Ein KI-Agent untersucht den Quellcode eines Kundenportals und meldet: Ein angemeldeter Kunde könnte fremde Dokumente lesen. Das klingt nach einem erheblichen Sicherheitsfehler. Bevor das Team ihn behebt, muss es klären, ob der beschriebene Weg tatsächlich erreichbar ist und welche Schutzprüfungen dazwischenliegen.
Genau diesen Weg entwickelt mein Whitepaper „Sicherheitsprüfungen mit KI-Agenten“: vom ersten Verdacht über eine gesonderte Gegenprüfung bis zu Behebung und erneutem Test. Es richtet sich an Menschen, die Entwicklung, Architektur oder Anwendungssicherheit verantworten und Agenten sinnvoll in ihre bestehenden Prüfabläufe aufnehmen wollen.
Was der Agent zum Prüfweg beiträgt
Ein Skill beschreibt einen Arbeitsablauf für einen Coding-Agenten. Die eigentliche Prüfung braucht weiterhin Quellcode, passenden Kontext und ausführbare Analysewerkzeuge. Trail of Bits liefert dafür strukturierte Anleitungen; CodeQL und Semgrep übernehmen wiederholbare Quellcodeanalysen. Eine gesonderte Gegenprüfung untersucht, ob ein gemeldeter Fehler den belegten Bedingungen standhält. Aktive Werkzeuge wie Strix kommen als gezielt zu erprobende Ergänzung infrage.
Meine Empfehlung ist, mit einem Repository und einer klar begrenzten Sicherheitsfrage zu beginnen. Das Team hält den untersuchten Codestand fest, bestätigt den Betriebskontext und verfolgt einen geeigneten Fall bis zur Korrektur und zum Retest. So lässt sich beurteilen, ob zusätzliche bestätigte Erkenntnisse entstehen und ob sie mit vertretbarem Aufwand bearbeitet werden können.
Das Whitepaper verbindet diesen Prüfprozess mit Diagrammen und deutlich markierten Praxisanleitungen. Bei jedem Verfahren stehen die benötigten Eingaben, erwarteten Ergebnisdateien sowie die tatsächlich beobachteten Resultate und ihre Grenzen. Auch die Rechte und Datenwege des prüfenden Agenten gehören dazu.
Was die eigenen Versuche zeigen
Die Versuche verwenden künstlichen Testcode mit bekannten Fehlern. Sie zeigen unter anderem, dass bestehende Tests trotz entfernter Berechtigungsprüfungen grün bleiben können und dass die Gesamtbewertung eines Skill-Scanners seine Einzelbefunde nicht ersetzt.
Nicht alle 18 behandelten Abläufe wurden vollständig getestet. Zwölf wurden im jeweils beschriebenen Umfang ausgeführt, drei teilweise; zwei blieben blockiert und ein begonnener Lauf scheiterte technisch. Strix und Shannon wurden nicht aktiv ausgeführt. Eine vollständige Installation und Ausführung aller nativen Plugins ist ebenfalls nicht nachgewiesen. Diese Unterschiede sind bei den jeweiligen Verfahren dokumentiert. Eine Erkennungsleistung für unbekannte Produktionsfehler lässt sich aus dem Versuch nicht ableiten.
Whitepaper und Praxisunterlagen
Whitepaper online lesen · PDF herunterladen · Newsletter abonnieren
Die überarbeitete Fassung 3.10 umfasst 39 Seiten mit drei Diagrammen, 18 Methodenanleitungen und vier ergänzenden Praxiskästen. Die Titel wurden lektoriert und die fiktiven Illustrationen ergänzt; Teststatus und Aussagegrenzen bleiben erhalten. Die vollständige Praxisanleitung und der Testbericht erläutern Aufrufe, Artefakte und Ausführungsgrenzen. Das begleitende Artefaktpaket als ZIP enthält die dokumentierten Testquellen, Berichte und gespeicherten Laufartefakte. Es stellt keine fertig eingerichtete Testumgebung bereit.
Grundlagenstand: 28. Oktober 2026. Dokumentierte Werkzeugläufe: 29. Oktober 2026. Redaktioneller Abschluss: 30. Oktober 2026.