Ein Cyberangriff auf ein in Großbritannien ansässiges Energieunternehmen nutzte KI, um die Stimme des CEO nachzuahmen, und verleitete einen Mitarbeiter dazu, 243 000 USD im Jahr 2019 auf ein gefälschtes Konto zu überweisen. Eine Cyberspionage-Kampagne in 2021 internationalen Telekommunikationsunternehmen mit KI-generierten Phishing-E-Mails. Und letztes Jahr haben Hacker, die KI verwenden, gefälschte Videostreams in den biometrischen Verifizierungsprozess des Kryptoaustauschs Bitfinex eingespeist und sich letztendlich digitale Assets im Wert von 150 Millionen US-Dollar verdient .
Cyberangriffe, die mit KI bereitgestellt werden, werden mit jedem laufenden Tag immer raffinierter und ausweichender.
Die gute Nachricht? Die Leistungsfähigkeit von KI verringert beide Wege, und eine wachsende Anzahl von Unternehmen untersucht Möglichkeiten, KI (und sein Unterfeld, maschinelles Lernen) in ihren eigenen Cyberdefensen einzusetzen – und Feuer mit Feuer zu bekämpfen, sagen Sie vielleicht.
Heute sind mehr als zwei Drittel (69 %) der Unternehmen der Meinung, dass KI für die Cybersicherheit erforderlich ist, da Bedrohungen auf ein Niveau steigen, das über die Kapazität von Cyberanalysten hinausgeht, findet Deloitte.
Während sich die Prävalenz von KI in Cybersicherheitsprogrammen noch in ihrem relativen Kleinkindalter befindet, sind die potenziellen Vorteile klar: KI hat die Fähigkeit, große Datenmengen zu verarbeiten, Muster schnell zu erkennen und fundierte Entscheidungen zu treffen, Organisationen dabei zu helfen, Schwachstellen und Bedrohungen zu identifizieren, Bedrohungen zu minimieren oder zu eliminieren und schneller zu reagieren, sagt Maria Schwenger, Co-Vorsitzende von AI Governance and Compliance Initiatives bei der Cloud Security Alliance (CSA). „KI – und GenAI – helfen uns nicht nur, die Cybersicherheit zu schützen“, sagt sie. „Sie helfen uns, eine neue, belastbare Welt mit neuen, belastbaren Systemen aufzubauen.“
Wenn Unternehmen damit beginnen, Anwendungen von KI in Cybersicherheitsprogrammen zu untersuchen, sagen Experten, dass die folgenden Bereiche ein großes Versprechen halten.
1. Wie KI-Cybersicherheitstools Schwachstellentests verbessern
Software-Ingenieure streben danach, sicheren Code zu schreiben, aber manchmal passieren Fehler. Sie können unbeabsichtigt Schwachstellen einführen , indem sie unsachgemäße Fehlerbehandlung verwenden oder Benutzereingaben nicht validieren; komplexe Systeme können es ihnen erschweren, alle potenziellen Sicherheitsschwachstellen zu antizipieren; oder Softwareingenieure können mit engen Fristen konfrontiert werden, um neue Funktionen schnell bereitzustellen, was zu Abkürzungen oder Kompromissen bei der Codequalität und -sicherheit führt.
„KI – und GenAI – helfen uns nicht nur, die Cybersicherheit zu schützen. Sie helfen uns, eine neue, belastbare Welt mit neuen, belastbaren Systemen aufzubauen.“Maria Schwenger, Co-Vorsitzende von AI Governance and Compliance Initiatives, Cloud Security Alliance
„Plus“, sagt Nick Merrill, Forschungswissenschaftler und Direktor des Daylight Lab am UC Berkeley Center for Long-Term Cybersecurity, „wissen Software-Ingenieure überraschend wenig über Sicherheit und wie sie nach Schwachstellen in der Software suchen können, die sie schreiben.“
Traditionell sind Entwickler dafür verantwortlich, die Fehler zu finden und zu patchen , wenn Schwachstellen in freier Wildbahn gemeldet werden. Dies kann herausfordernd und mühsam sein, sodass sie durch viele Dateien und Module navigieren müssen, um die Grundursache eines Fehlers zu identifizieren, oder die spezifischen Bedingungen oder Szenarien replizieren müssen, um den Fehler zu verstehen und eine Lösung zu erstellen. Durch den Einsatz von KI könnten Unternehmen jedoch die Geschwindigkeit und Effizienz verbessern, mit der sie potenzielle Schwachstellen im Code erkennen und beheben können, wodurch eine sicherere Umgebung geschaffen wird, sagt Merrill.
[Lesen Sie auch: Ultimativer Leitfaden zur KI-Cybersicherheit – Vorteile, Risiken und Vorteile]
KI-gestützte Tools könnten beispielsweise Codebases scannen, um potenzielle Schwachstellen zu identifizieren, indem sie Muster analysieren, um häufige Risiken wie SQL-Injektionen und Cross-Site-Scripting zu erkennen. KIs könnten auch auf großen Datensätzen bekannter Schwachstellen trainiert werden, um ähnliche Muster in neuem Code zu identifizieren, wodurch zuvor unbekannte Schwachstellen oder Zero-Day-Exploits aufgedeckt werden.
„Dies spart Zeit und Aufwand, da Sicherheitsteams keine Zeit rückwirkend verbringen müssen, sobald etwas in der Wildnis gemeldet wurde, um dann den Fehler zu finden und zu beheben“, sagt er. „Die Befähigung von Entwicklern, Sicherheitsprobleme zu lösen, wäre heutzutage ein großer Gewinn.“
2. Wie KI-Cybersicherheitstools die Erkennung von Bedrohungen ermöglichen
Die frühzeitige Identifizierung potenzieller Sicherheitsbedrohungen hilft dabei, den unbefugten Zugriff auf sensible Daten, geistiges Eigentum und andere wertvolle Vermögenswerte zu verhindern, die die „Kronjuwelen“ einer Organisation ausmachen. Dies hilft Unternehmen, kostspielige Datenschutzverletzungen, finanzielle Verluste und Reputationsschäden zu vermeiden.
„Die Befähigung von Entwicklern, Sicherheitsprobleme [mit KI] zu lösen, wäre heutzutage ein großer Gewinn.“Nick Merrill, Forschungswissenschaftler und Direktor, Daylight Lab, UC Berkeley Center for Long-Term Cybersecurity
In vielen Organisationen sind Sicherheitsanalysten für die manuelle Überwachung von Systemprotokollen, Netzwerkverkehrsprotokollen und Anwendungsprotokollen auf verdächtige Aktivitäten verantwortlich, die auf eine Sicherheitsverletzung hinweisen können. Dieser Prozess kann zeitaufwändig sein und Einzelpersonen belasten, sagt Schwenger von CSA. „Es kann schwierig sein, Bedrohungen schnell zu identifizieren, insbesondere wenn es sich um eine sehr komplexe Bedrohung handelt, die ein menschliches Auge verpassen kann“, sagt sie. „Mit menschlichen Analysten kann eine Person nur so viele Daten verarbeiten, und es ist leicht, bestimmte Muster zu übersehen. Aber KI ist wirklich gut darin, Muster zu entdecken, die wir möglicherweise verpassen.“
Da KI große Datenmengen analysieren kann, kann sie verwendet werden, um eine Baseline des normalen Verhaltens für Systeme, Netzwerke und Benutzer festzulegen. Durch die Erkennung von Abweichungen oder Anomalien kann KI helfen, potenzielle Sicherheitsbedrohungen zu identifizieren, wie z. B. unbefugte Zugriffsversuche, ungewöhnlicher Netzwerkverkehr oder abnormales Benutzerverhalten, sagt Schwenger.
„Dies ist eine massive Verbesserung bei der Bedrohungsanalyse, da sie diese versteckten Parameter und versteckten Anomalien in den Daten schneller entdecken kann, was sonst möglicherweise übersehen worden wäre“, sagt sie. „Dies gibt Ihnen Skalierbarkeit, da Sie mühsame Aufgaben automatisieren und Echtzeitinformationen erhalten, die Sie an Ihre Sicherheitsingenieure weitergeben können, was Ihnen hilft, schneller zu arbeiten und agiler zu sein.“
3. Wie KI-Cybersicherheitstools die Eindämmung und Reaktion von Bedrohungen beschleunigen
Wenn eine Bedrohung erkannt wurde oder ein Sicherheitsvorfall aufgetreten ist, ist es von entscheidender Bedeutung, sich schnell zu bewegen, um die Situation zu beheben. „Bei Bedrohungen, Kompromittierungen, Sicherheitsverletzungen und Ransomware -Angriffen dreht sich alles um Geschwindigkeit“, sagt Adam Levin, Autor von Swiped: Wie Sie sich in einer Welt schützen können, die mit Betrügern, Phishern und Identitätsdieben gefüllt ist, und Co-Host des What the Hack -Podcasts. „Sie müssen in der Lage sein, sich so schnell wie möglich zu bewegen, um das Loch zu verschließen und das Problem zu stoppen, damit Sie mit der Arbeit an der Lösung beginnen können. Je schneller Sie die Bedrohung eindämmen können, desto schneller können Sie sich dagegen verteidigen.“
„Sie müssen in der Lage sein, sich so schnell wie möglich zu bewegen, um das Loch zu verschließen und das Problem zu stoppen, damit Sie mit der Arbeit an der Lösung beginnen können.“Adam Levin, Autor und What the Hack Podcast-Co-Host
Herkömmliche Methoden der Bedrohungseindämmung und -reaktion sind stark auf manuelle Intervention angewiesen. Wenn beispielsweise ein Sicherheitsvorfall auftritt, müssen Analysten die betroffenen Systeme manuell identifizieren, kompromittierte Assets isolieren und Eindämmungsmaßnahmen implementieren. Sicherheitsanalysten überprüfen Sicherheitswarnungen, Protokolle und forensische Daten manuell, um den Umfang des Vorfalls zu verstehen, und arbeiten dann an Patch-Systemen oder dem Zurücksetzen kompromittierter Anmeldedaten. Diese Prozesse nehmen Zeit in Anspruch und bieten Möglichkeiten für menschliche Fehler, die die Lösungen weiter verzögern können.
[Lesen Sie auch: 3 Überlegungen, um sicherzustellen, dass Ihre KI tatsächlich intelligent ist]
Mit KI können Algorithmen jedoch automatisch den Schweregrad und die Auswirkungen der Bedrohung bewerten, identifizieren, welche Assets betroffen sind, und sogar Reaktionsmaßnahmen orchestrieren, sagt Schwenger. Dies kann die automatische Isolierung infizierter Endpunkte, die Blockierung bösartigen Datenverkehrs oder die Deaktivierung kompromittierter Dienste umfassen.
„Dies hilft wirklich dabei, Ihre Sicherheitsteams dabei zu unterstützen, fundierte Entscheidungen zu treffen und auf einen Vorfall zu reagieren, da KI Ihnen diese Erkenntnisse geben und Empfehlungen geben kann – es macht all das blinde Raten aus“, sagt sie. „Und in Zukunft gibt es auch großes Potenzial für GenAI, das verwendet werden könnte, um Berichte und Zusammenfassungen nach einem Vorfall zu erstellen, Antworten vorzubereiten und Stakeholder auf dem Laufenden zu halten.“
Während das Potenzial von KI in der Sicherheit erheblich ist, erkennt Schwenger schnell den dauerhaften Bedarf und Wert von Menschen in jedem Sicherheitsprogramm. „KI ist nur so gut wie die Daten, auf denen sie basiert, auf denen sie geschult und analysiert wird. Nichts kann das menschliche Fachwissen und die Aufsicht ersetzen, was immer erforderlich ist“, sagt sie.
