Human Penetration Tester, die ethischen Hacker , die beauftragt wurden, Cyberangriffe zu simulieren und die Cyberdefense eines Unternehmens zu testen, sehen sich zunehmend eine Welle neuer KI-Pen-Testing-Tools an und machen sich Sorgen. Aus gutem Grund.
Ohne mehr Anleitung als eine Internetadresse können diese KI-Tools schnell (und schneller als Menschen) die Sicherheitslage des Computernetzwerks und der Webanwendungen eines Unternehmens abbilden und bewerten, Schwachstellen erkennen und Befehle oder sogar Social-Engineering-Angriffe ausführen, um diese Schwachstellen zu testen, während sie jeden Aspekt des Tests aufzeichnen und einen Bericht in Sekundenschnelle erstellen.
Das ist natürlich nicht die ganze Geschichte. Dieselben Tools scheitern oft dort, wo Menschen konsequent erfolgreich sind. Die Rate falscher Positiver (Identifizierung nicht vorhandener Bedrohungen) und falscher Negativer (vollständig fehlender tatsächlicher Bedrohungen) ist rückläufig, aber immer noch signifikant, was für jedes Unternehmen kostspielig sein kann. Und diese Tools verstehen den Kontext der Aufgaben, die sie ausführen, noch nicht vollständig – was bedeutet, dass es schwierig ist, KI-Pen-Tester dazu zu bringen, innerhalb ethischer und gesetzlicher Grenzen zu arbeiten oder unbeabsichtigte Ausfallzeiten oder Systemschäden zu verursachen.
Um sicher zu sein, wird sich die KI in den kommenden Monaten verbessern, und diese Einschränkungen werden wahrscheinlich weniger ausgeprägt oder vollständig ausbleichen. In modernen Sicherheitsoperationen (SecOps) verbessert KI derzeit viele Funktionen, die von menschlichen Analysten ausgeführt werden, wie z. B. Alert Triage und anfängliche Alert-Analyse, um potenzielle bösartige Aktivitäten zu erkennen. Moderne KI-Systeme können zunehmend große Datensätze analysieren, um Angriffsmuster zu identifizieren, die an menschlichen Beobachtern vorbeirutschen können, insbesondere diejenigen in Abteilungen, die überbesetzt und unterbesetzt sind. Darüber hinaus können KI-Tools wichtige und zeitaufwändige Aufgaben automatisieren (Protokollanalyse, Datenkorrelation, erste Reaktion auf Vorfälle), Threat Intelligence-Berichte erstellen und potenzielle Angriffe vorhersagen.
Frühe Indikatoren zeigen, dass KI eine intelligente Investition ist. Laut einem IBM-Bericht über Datenschutzverletzungen von März 2022 bis sparten Unternehmen März 2023, die Sicherheits-KI und Automatisierung umfassend nutzten, 1,76 Millionen US-Dollar an Kosten für Datenschutzverletzungen im Vergleich zu Gruppen ohne KI und Automatisierung.
Wenn also KI eine immer zentrale Rolle im Sicherheitsbetrieb einnimmt, lohnt es sich zu fragen: Wo werden Menschen hinpassen? Zum Glück glauben KI- und Branchenexperten, dass Menschen für einige Zeit im Mix bleiben werden .
„Die Technologie wird sehr KI-lastig sein, aber die Zentralität der Menschen bleibt erhalten“, sagt Anton Chuvakin, Sicherheitsberater im Büro des CISO für Google Cloud. Während KI die Art und Weise verändern kann, wie Sicherheitsexperten ihre tägliche Arbeit erledigen, erkennt er an: „Das Makrobild ist wie immer das gleiche: Menschen, Prozesse und Technologie.“
Innerhalb des Bereichs der Sicherheitsoperationen – unabhängig davon, ob Ihre Organisation im Allgemeinen mit SecOps-Experten zusammenarbeitet oder ein spezialisiertes Security Operations Center (SOC) erweitert hat, in dem Sicherheitsteams Informationen austauschen und zusammenarbeiten – sehen Experten fünf primäre Bereiche, in denen Menschen das zentrale Asset bleiben oder in denen Mitarbeiter wahrscheinlich in absehbarer Zukunft mit KI koexistieren werden:
1. Die Analyse von Threat Intelligence
Threat-Intel -Teams haben schon lange unter einer Überlastung von Sicherheitsdaten gelitten, und das ständig wachsende Volumen und die sich entwickelnde Natur von Cyberbedrohungen von heute macht die Dinge nur noch schlimmer. Randy Lariar, Praxisleiter für Security Operations Center Technology bei dem Sicherheitsdienstleister Optiv, sagt, dass er Sicherheitsteams sieht, die KI verwenden, um „durch Bedrohungsforschung zu poren und die Informationen schneller aus dem Lärm zu erhalten“.
„Die Technologie wird sehr KI-lastig sein, aber die Zentralität der Menschen bleibt erhalten.“Anton Chuvakin, Sicherheitsberater im Büro des CISO, Google Cloud
KI kann bestimmte mühsame, zeitaufwändige Prozesse der Datenanalyse automatisieren; KI-fähige Verhaltensanalysetools können schnell Baselines erstellen und Abweichungen in der Benutzer- oder Systemaktivität erkennen; und natürliche Sprachverarbeitung, die KI-Tools ermöglicht, die menschliche Kommunikation zu verstehen, kann Teams dabei helfen, das dunkle Web nach Cyber-Plots und Benutzerprofilen zu scannen. Lariar fügt hinzu, dass Threat Intelligence-Teams auch KI verwenden, um ihre ersten Berichtsentwürfe zu erstellen und ihre Kommunikation zu verbessern.
Während KI in Zukunft hochbelastbare Daten-Crunchings liefern wird, bleiben die Menschen die ultimativen Dolmetscher der Daten. Lariar und andere Experten sehen menschliche Analysten, die im Bedrohungsintelligenzzyklus verbleiben, um einen kritischen Kontext für komplexe Intelligenz bereitzustellen und strategische Entscheidungen basierend auf den Erkenntnissen der KI zur Bedrohungsintelligenz zu treffen. Es werden auch Mitarbeiter sein, die die KI-Modelle erstellen und verfeinern.
2. Erkennung und Analyse von Bedrohungen
Zum Schutz interner Systeme vor potenziellen Bedrohungen können KI-Systeme unermüdlich große Mengen an Anwendungs- und Netzwerkaktivitätsdaten überwachen, die zur Identifizierung bösartiger Muster erforderlich sind. Und KI kann dies konsistent und ohne Ermüdung tun.
„[KI kann SecOps-Teams] helfen, durch Bedrohungsforschung zu poren und die Informationen schneller aus dem Rauschen zu erhalten.“Randy Lariar, Praxisdirektor für Technologie des Sicherheitsbetriebszentrums, Optiv
Trotz dieser Vorteile können KI-Systeme jedoch nicht vollständig ohne menschliche Aufsicht betrieben werden, sagt Andrew Storms, vp of Security beim Anbieter von Software-Verteilungsplattformen Replicated. KI, die weiterhin anfällig für sogenannte „Halluzinationen“ (d. h. Fehler) ist und durch fehlerhafte oder verzerrte Schulungsdaten beschädigt werden kann, muss auf einer kurzen Leine gehalten werden, und Menschen müssen weiterhin Entscheidungen darüber treffen, welche Warnungen eine fundiertere Forschung und möglicherweise eine sofortige Reaktion rechtfertigen..
„Sie müssen KI auf einen Punkt vertrauen und ein Gefühl der [seiner] Validität haben, aber es braucht immer noch eine menschliche Note, um die Ergebnisse von KI zu bestätigen und die endgültigen Entscheidungen zu treffen“, sagt Storms.
3. Penetrationstest
KI-Pen-Tester sehen mehr wie menschliche Partner aus als menschliche Ersatzgeräte. KI-Tools können Netzwerke, Anwendungen und Systeme scannen, um Schwachstellen und Sicherheitslücken zu erkennen , die Angreifer ausnutzen könnten. Solche KI-Pen-Tester entwickeln auch komplizierte Angriffsmodelle, die ausgenutzt werden könnten und mit hoher Präzision vorhersagen, wie sich Angreifer an Veränderungen der Verteidigung anpassen können.
So hilfreich das auch sein wird, Storms behauptet, dass KI-Pen-Tester Erweiterungen menschlicher Tester bleiben werden, die jetzt mehr Zeit haben werden, diese Ergebnisse mit kreativen Mitteln und Kompensationskontrollen zu verbessern. Und Menschen sind immer noch unerlässlich, wenn es darum geht, die Ergebnisse an Führungskräfte zu kommunizieren.
4. Berichterstattung zur Einhaltung gesetzlicher Vorschriften
So wie KI Unternehmensnetzwerke und Anwendungen auf Anzeichen von Bedrohungsakteuren scannen und bewerten kann, kann sie den regulatorischen Compliance-Status einer Organisation bestimmen und kontinuierlich auf potenzielle Situationen überwachen, in denen Anwendungen, Daten oder Zugriff außerhalb der Grundsätze neuer und sich entwickelnder Vorschriften gefallen sind..
„Man muss KI auf einen Punkt vertrauen. Aber es braucht immer noch einen menschlichen Touch, um die Ergebnisse der KI zu bestätigen und die endgültigen Entscheidungen zu treffen.“Andrew Storms, Vp der Sicherheit, Replikiert
Zum Beispiel kann KI durch die Analyse von Unternehmenspraktiken, Lieferkettenaktivität und Umweltauswirkungen einem multinationalen Unternehmen helfen, „effektive Strategien zur Förderung der Nachhaltigkeit zu entwickeln und gleichzeitig Compliance-Risiken zu reduzieren“, schreibt CISSP Mathura Prasad in einem Blog-Beitrag für die Cybersicherheitsschulungs-Nonprofit ISC2. KI-gestützte Chatbots wie ChatGPT können angesichts der entsprechenden Aufforderungen auch schnell Risikoaussagen und Richtlinienentwürfe erstellen, Gesetze und Vorschriften in einfacher Englisch zusammenfassen oder dieses Material in andere Sprachen übersetzen.
Menschen sind immer noch sehr gefragt und werden es für einige Zeit sein, merken Experten an. Sicherheitsoperationen und Mitglieder des Teams für die Einhaltung gesetzlicher Vorschriften werden weiterhin umfassende Berichte bereitstellen, die regulatorische Haltungstrends im Laufe der Zeit hervorheben und möglicherweise Bereiche aufzeigen, in denen die Kompensationskontrollen verbessert werden können. Diese Berichte erfordern die Art von Nuance und zukunftsorientierte Bewertung, die KI nicht replizieren kann (und möglicherweise niemals replizieren kann).
5. SOC-Verwaltung
Human Security Manager, die mit KI innerhalb von SOCs erweitert werden, werden feststellen, dass ihre Sicherheitsorganisationen in der Lage sind, größere Mengen an Sicherheitsdaten zu verarbeiten, die Alarmermüdung bei Human Security Analysten zu reduzieren und eine konstant starke Sicherheitslage aufrechtzuerhalten.
Und dennoch ist es unwahrscheinlich, dass das gesamte Management des SOC bald von der KI übernommen wird, da die menschlichen kreativen und strategischen Fähigkeiten, die für jedes agile Cybersicherheitsabwehrprogramm entscheidend sind, nicht ersetzt werden können. „Ich denke, der Trend wird darin bestehen, die Menschen auf dem Laufenden zu halten“, sagt Lariar. „Einige der Low-Level-Automatisierung, die durch KI-Entscheidungsfindung angetrieben wird, wird zunehmend vertrauenswürdig sein, aber selbst dann werden erstklassige Sicherheitsteams die KI-Entscheidungsfindung sehr sorgfältig überprüfen. Ich habe noch nicht von einem vollständig automatisierten SOC gehört“, sagt er.
Ein vollautomatisches SOC- oder Sicherheitsteam ist für einige Zeit wahrscheinlich, wenn überhaupt.
„Wenn Sie SOC-Betriebsaufgaben an Maschinen auslagern, woher kommen die Maschinen?“ fragt Chuvakin. „Wer hat die Maschinen gebaut? Heute bauen Menschen in erheblichem Umfang Maschinen.“
Und selbst wenn Sie einen hauptsächlich autonomen SOC haben, fügt er hinzu, wer die KI erstellen und verwalten und die KI auf die richtige Weise verbinden würde und sie die Umgebung auf die richtige Weise bewerten und verwalten lassen würde? „Das werden die Menschen sein.“
