Menschliche Penetrationstester – jene ethischen Hacker , die beauftragt werden, Cyberangriffe zu simulieren und die Cyberabwehr eines Unternehmens zu testen – blicken zunehmend besorgt auf eine Welle neuer KI-basierter Penetrationstest-Tools. Aus gutem Grund.
Mit nichts weiter als einer Internetadresse als Anhaltspunkt können diese KI-Tools schnell (und schneller als Menschen) die Sicherheitslage des Computernetzwerks und der Webanwendungen eines Unternehmens erfassen und bewerten, Schwachstellen aufdecken sowie Befehle ausführen oder sogar Social-Engineering-Angriffe durchführen, um diese Schwachstellen zu testen – und dabei jeden Aspekt des Tests aufzeichnen und innerhalb von Sekunden einen Bericht erstellen.
Das ist natürlich noch nicht alles. Genau diese Werkzeuge versagen oft dort, wo Menschen stets Erfolg haben. Die Rate der Fehlalarme (die Identifizierung nicht vorhandener Bedrohungen) und der versäumten Erkennung (das völlige Übersehen tatsächlicher Bedrohungen) nimmt zwar ab, ist jedoch nach wie vor erheblich, was für jedes Unternehmen kostspielige Folgen haben kann. Zudem verstehen diese Tools den Kontext der von ihnen ausgeführten Aufgaben noch nicht vollständig – was bedeutet, dass es schwierig ist, KI-Penetrationstester dazu zu bringen, innerhalb ethischer und rechtlicher Grenzen zu agieren oder unbeabsichtigte Ausfallzeiten oder Systemschäden zu vermeiden.
Zweifellos wird sich die KI in den kommenden Monaten weiterentwickeln, und diese Einschränkungen werden wahrscheinlich an Bedeutung verlieren oder ganz verschwinden. Im modernen Sicherheitsbetrieb (SecOps) unterstützt KI derzeit zahlreiche Aufgaben, die von menschlichen Analysten ausgeführt werden, wie beispielsweise die Einstufung von Warnmeldungen und deren erste Analyse, um potenzielle böswillige Aktivitäten zu erkennen. Moderne KI-Systeme sind in der Lage, immer größere Datensätze zu analysieren, um Angriffsmuster zu erkennen, die menschlichen Beobachtern möglicherweise entgehen – insbesondere solchen in Abteilungen, die überlastet und unterbesetzt sind. Darüber hinaus können KI-Tools wesentliche und zeitaufwändige Aufgaben (Protokollanalyse, Datenkorrelation, Erst , Reaktion auf Sicherheitsvorfälle) automatisieren, Berichte zur Bedrohungslage erstellen und potenzielle Angriffe vorhersagen.
Erste Anzeichen deuten darauf hin, dass KI eine kluge Investition ist. Laut einem Bericht von IBM unter dem Titel „ “ ( ) über Datenschutzverletzungen – abrufbar unter März 2022 bis März 2023 – konnten Unternehmen, die Sicherheits-KI und Automatisierung in großem Umfang einsetzten, im Vergleich zu Gruppen ohne KI und Automatisierung Kosten in Höhe von 1,76 Millionen US-Dollar im Zusammenhang mit Datenschutzverletzungen einsparen.
Da KI eine immer zentralere Rolle im Sicherheitsbetrieb einnimmt, lohnt es sich, folgende Frage zu stellen: Welchen Platz werden Menschen dabei einnehmen? Zum Glück für Sicherheitsexperten gehen KI- und Branchenexperten davon aus, dass Menschen noch für einige Zeit Teil des Ganzen bleiben werden.
„Die Technologie wird stark auf KI ausgerichtet sein, doch der Mensch wird weiterhin im Mittelpunkt stehen“, sagt Anton Chuvakin, Sicherheitsberater im Büro des CISO bei Google Cloud. Zwar könne die KI die Art und Weise verändern, wie Sicherheitsexperten ihre tägliche Arbeit verrichten, räumt er ein, doch „das Gesamtbild bleibt dasselbe wie immer: Menschen, Prozesse und Technologie.“
Im Bereich der Sicherheitsabläufe – ganz gleich, ob Ihr Unternehmen generell mit SecOps-Fachkräften zusammenarbeitet oder ein spezialisiertes „ “-Sicherheitsoperationszentrum (SOC) aufgebaut hat, in dem Sicherheitsteams Informationen austauschen und zusammenarbeiten – sehen Experten fünf Hauptbereiche, in denen Menschen auch weiterhin die zentrale Ressource bleiben werden oder in denen Mitarbeiter auf absehbare Zeit wahrscheinlich mit KI zusammenarbeiten werden:
1. Die Analyse von Bedrohungsinformationen
Teams für Bedrohungsinformationen leiden seit langem unter einer Überflutung mit Sicherheitsdaten aus verschiedenen Quellen ( ), und das heute stetig wachsende Volumen sowie die sich ständig weiterentwickelnde Natur von Cyberbedrohungen verschärfen diese Situation nur noch weiter. Randy Lariar, Praxisleiter für die Technologie von Sicherheitsoperationszentren beim Sicherheitsdienstleister Optiv, erklärt, dass Sicherheitsteams seiner Beobachtung nach KI einsetzen, um „die Bedrohungsforschung gründlich zu durchforsten und die relevanten Informationen schneller aus der Flut an Daten herauszufiltern“.
„Die Technologie wird sehr stark auf KI ausgerichtet sein, doch der Mensch wird weiterhin im Mittelpunkt stehen.“Anton Chuvakin, Sicherheitsberater im Büro des CISO bei Google Cloud
KI kann bestimmte mühsame und zeitaufwändige Prozesse der Datenanalyse automatisieren; KI-gestützte Tools zur Verhaltensanalyse ( ) können schnell Referenzwerte ermitteln und Abweichungen in der Nutzer- oder Systemaktivität erkennen; und die Verarbeitung natürlicher Sprache, die es KI-Tools ermöglicht, menschliche Kommunikation zu verstehen, kann Teams dabei unterstützen, das Dark Web nach Cyber-Komplotten und Nutzerprofilen zu durchsuchen. Lariar fügt hinzu, dass Teams für Bedrohungsanalyse ebenfalls KI einsetzen, um erste Entwürfe ihrer Berichte zu erstellen und ihre Kommunikation zu verbessern.
Zwar wird die KI in Zukunft umfangreiche Datenverarbeitungsaufgaben übernehmen, doch werden die Menschen weiterhin die entscheidenden Interpreten der Daten bleiben. Lariar und andere Experten gehen davon aus, dass menschliche Analysten weiterhin Teil des Bedrohungsinformationszyklus bleiben werden, um komplexe Informationen mit entscheidendem Kontext zu versehen und auf der Grundlage der von der KI gewonnenen Erkenntnisse strategische Entscheidungen zu treffen. Es werden zudem Mitarbeiter sein, die die KI-Modelle erstellen und verfeinern.
2. Erkennung und Analyse von Bedrohungen
Zum Schutz interner Systeme vor potenziellen Bedrohungen können KI-Systeme ununterbrochen große Mengen an Anwendungs- und Netzwerkaktivitätsdaten überwachen, die zur Erkennung böswilliger Muster erforderlich sind. Und die KI kann dies konsequent und ohne Ermüdung leisten.
„ [KI kann SecOps-Teams dabei helfen], Bedrohungsanalysen zu durchforsten und die relevanten Informationen schneller aus der Flut an Daten herauszufiltern.“Randy Lariar, Bereichsleiter für Technologie im Sicherheitsoperationszentrum bei Optiv
Dennoch kann man sich trotz dieser Vorteile nicht vollständig darauf verlassen, dass KI-Systeme ohne menschliche Aufsicht funktionieren, sagt Andrew Storms, Vizepräsident für Sicherheit beim Anbieter der Software-Vertriebsplattform Replicated. KI, die nach wie vor anfällig für sogenannte „Halluzinationen“ (d. h. Fehler) ist und durch fehlerhafte oder voreingenommene Trainingsdaten verfälscht werden kann, muss streng kontrolliert werden, und Menschen müssen weiterhin entscheiden, welche Warnmeldungen eine eingehendere Untersuchung und möglicherweise eine sofortige Reaktion erfordern.
„Man muss der KI bis zu einem gewissen Grad vertrauen und ein Gespür für [ihre] Zuverlässigkeit haben, doch es bedarf nach wie vor einer menschlichen Note, um die Ergebnisse der KI zu überprüfen und die endgültigen Entscheidungen zu treffen“, sagt Storms.
3. Penetrationstests
KI-Penetrationstester werden eher wie menschliche Partner wirken als wie Ersatz für Menschen. KI-Tools können Netzwerke, Anwendungen und Systeme scannen, um Schwachstellen und Sicherheitslücken zu erkennen, die Angreifer ausnutzen könnten. Solche KI-basierten Penetrationstester werden zudem komplexe Angriffsmodelle entwickeln, die ausgenutzt werden könnten, und mit hoher Präzision vorhersagen, wie sich Angreifer an Veränderungen in den Abwehrmaßnahmen anpassen könnten.
So hilfreich dies auch sein mag, ist Storms der Ansicht, dass KI-basierte Penetrationstester weiterhin eine Ergänzung zu menschlichen Testern darstellen werden, die nun mehr Zeit haben werden, diese Ergebnisse durch kreative Abhilfemaßnahmen und ausgleichende Kontrollmechanismen zu optimieren. Und Menschen werden nach wie vor unverzichtbar sein, wenn es darum geht, die Ergebnisse an die Führungskräfte weiterzuleiten.
4. Berichterstattung zur Einhaltung gesetzlicher Vorschriften
Genauso wie KI Unternehmensnetzwerke und -anwendungen auf Anzeichen von Bedrohungsakteuren scannen und bewerten kann, ist sie in der Lage, den Status der Einhaltung von Vorschriften im Bereich „ “ zu ermitteln und kontinuierlich nach potenziellen Situationen zu überwachen, in denen Anwendungen, Daten oder der Zugriff nicht mehr den Grundsätzen von neuen und sich weiterentwickelnden Vorschriften entsprechen.
„“ Man muss der KI bis zu einem gewissen Grad vertrauen. Dennoch bedarf es nach wie vor menschlicher Einsicht, um die Ergebnisse der KI zu überprüfen und die endgültigen Entscheidungen zu treffen.”Andrew Storms, Vizepräsident für Sicherheit bei Replicated
Durch die Analyse von Unternehmenspraktiken, Lieferkettenaktivitäten und Umweltauswirkungen kann KI beispielsweise einem multinationalen Unternehmen dabei helfen, „effektive Strategien zur Förderung der Nachhaltigkeit zu entwickeln und gleichzeitig Compliance-Risiken zu reduzieren“, schreibt CISSP Mathura Prasad in einem Blogbeitrag für die gemeinnützige Organisation ISC2, die Schulungen im Bereich Cybersicherheit anbietet. KI-gestützte Chatbots wie ChatGPT können bei entsprechenden Eingabeaufforderungen zudem rasch Risikohinweise und Vertragsentwürfe erstellen, Gesetze und Vorschriften in leicht verständlichem Englisch zusammenfassen oder diese Inhalte in andere Sprachen übersetzen.
Experten weisen darauf hin, dass Menschen nach wie vor dringend benötigt werden und dies auch noch für einige Zeit so bleiben wird. Die Mitarbeiter des Teams für Sicherheitsmaßnahmen und Einhaltung gesetzlicher Vorschriften werden weiterhin umfassende Berichte erstellen, in denen Trends hinsichtlich der Einhaltung gesetzlicher Vorschriften im Zeitverlauf aufgezeigt und möglicherweise Bereiche benannt werden, in denen kompensierende Kontrollmaßnahmen verbessert werden können. Diese Berichte erfordern eine differenzierte und vorausschauende Bewertung, die künstliche Intelligenz nicht nachbilden kann (und möglicherweise niemals nachbilden wird).
5. SOC-Management
Sicherheitsverantwortliche in SOCs, die durch KI unterstützt werden, werden feststellen, dass ihre Sicherheitsorganisationen in der Lage sind, größere Mengen an Sicherheitsdaten zu verarbeiten, die Alarmflut bei den menschlichen Sicherheitsanalysten zu verringern und ein durchgehend hohes Sicherheitsniveau aufrechtzuerhalten.
Dennoch ist es unwahrscheinlich, dass die Gesamtleitung des SOC in absehbarer Zeit von einer KI übernommen wird, da die menschlichen kreativen und strategischen Fähigkeiten, die für jedes agile Cybersicherheitsprogramm von entscheidender Bedeutung sind, nicht ersetzt werden können. „Ich glaube, der Trend wird dahin gehen, die Menschen auf dem Laufenden zu halten“, sagt Lariar. „Ein Teil der durch KI-Entscheidungsprozesse gesteuerten Automatisierung auf unterer Ebene wird zunehmend Vertrauen genießen, doch selbst dann werden die Sicherheitsteams auf höchster Ebene die KI-Entscheidungsprozesse sehr genau unter die Lupe nehmen.“ „Ich habe noch nie von einem vollständig automatisierten SOC gehört“, sagt er.
Ein vollständig automatisiertes SOC oder Sicherheitsteam ist auf absehbare Zeit – wenn überhaupt – kaum vorstellbar.
„Wenn Sie Aufgaben des SOC-Betriebs an Maschinen auslagern, woher kommen diese Maschinen dann?“ fragt Chuvakin. „Wer hat die Maschinen gebaut? „Heutzutage bauen Menschen zu einem erheblichen Teil Maschinen.“
Und selbst wenn Sie über ein weitgehend autonomes SOC verfügen, fügt er hinzu, wer würde die KI entwickeln und verwalten, sie richtig vernetzen und dafür sorgen, dass sie die Umgebung richtig einschätzt und steuert? „Das werden die Menschen sein.“
