A cyberattack on a UK-based energy firm used AI to mimic the CEO’s voice and tricked a staffer into transferring $243 000 to a fake account in 2019. Eine Cyberspionagekampagne von „ “ richtete sich gegen 2021 ausgewählte internationale Telekommunikationsunternehmen und nutzte dabei KI-generierte Phishing-E-Mails. Und im vergangenen Jahr schleusten Hacker mithilfe von KI gefälschte Videostreams in den biometrischen Verifizierungsprozess der Kryptobörse Bitfinex ein, was ihnen letztendlich digitale Vermögenswerte im Wert von 150 Millionen Dollar einbrachte.
Cyberangriffe, bei denen künstliche Intelligenz zum Einsatz kommt, werden von Tag zu Tag ausgefeilter und schwerer zu erkennen.
Die gute Nachricht? Die Leistungsfähigkeit der KI ist ein zweischneidiges Schwert, und immer mehr Unternehmen loten Möglichkeiten der „ “ aus, um KI- (sowie deren Teilgebiet, das „ “ im Bereich des maschinellen Lernens) in ihre eigene Cyberabwehr zu integrieren – man könnte sagen: Feuer mit Feuer bekämpfen.
Heute sind mehr als zwei Drittel (69 %) der Unternehmen der Ansicht, dass KI für die Cybersicherheit unverzichtbar ist, da die Bedrohungen ein Ausmaß erreichen, das die Kapazitäten von Cyberanalysten übersteigt, wie aus dem Bericht „ “ von Deloitte hervorgeht ().
Zwar steckt der Einsatz von KI in Cybersicherheitsprogrammen noch relativ in den Kinderschuhen, doch die potenziellen Vorteile liegen auf der Hand: KI ist in der Lage, riesige Datenmengen zu verarbeiten, Muster schnell zu erkennen und fundierte Entscheidungen zu treffen. Dies hilft Unternehmen dabei, Schwachstellen und Bedrohungen zu identifizieren, diese zu minimieren oder zu beseitigen und schneller zu reagieren, so Maria Schwenger, Co-Vorsitzende der „AI Governance and Compliance Initiatives“ bei der Cloud Security Alliance (CSA). „KI – und GenAI – helfen uns nicht nur dabei, die Cybersicherheit zu gewährleisten“, sagt sie. „Sie helfen uns dabei, eine neue, widerstandsfähige Welt mit neuen, widerstandsfähigen Systemen aufzubauen.“
Da Unternehmen beginnen, Anwendungsmöglichkeiten von KI in Cybersicherheitsprogrammen zu untersuchen, halten Experten die folgenden Bereiche für besonders vielversprechend.
1. Wie KI-basierte Cybersicherheits-Tools das Testen von Sicherheitslücken verbessern werden
Softwareentwickler bemühen sich, sicheren Code zu schreiben, doch manchmal unterlaufen ihnen Fehler. Möglicherweise führen sie unbeabsichtigt Sicherheitslücken ein , indem sie Fehler nicht ordnungsgemäß behandeln oder Benutzereingaben nicht validieren; komplexe Systeme könnten es ihnen erschweren, alle potenziellen Sicherheitslücken vorherzusehen; oder Softwareentwickler könnten unter hohem Zeitdruck stehen, neue Funktionen schnell bereitzustellen, was zu Abkürzungen oder Abstriche bei der Codequalität und -sicherheit führen kann.
“KI – und GenAI – helfen uns nicht nur dabei, die Cybersicherheit zu gewährleisten. „Sie helfen uns dabei, eine neue, widerstandsfähige Welt mit neuen, widerstandsfähigen Systemen aufzubauen.“Maria Schwenger, Co-Vorsitzende der Initiativen für KI-Governance und Compliance bei der Cloud Security Alliance
„Außerdem“, so Nick Merrill, wissenschaftlicher Mitarbeiter und Leiter des Daylight Lab am Center for Long-Term Cybersecurity der UC Berkeley, „wissen Softwareentwickler überraschend wenig über Sicherheit und darüber, wie sie nach Schwachstellen in der von ihnen geschriebenen Software suchen können.“
Wenn Sicherheitslücken in der Praxis gemeldet werden, sind traditionell die Entwickler dafür verantwortlich, die Fehler zu finden und diese zu beheben. Dies kann eine Herausforderung darstellen und mühsam sein, da sie sich durch zahlreiche Dateien und Module arbeiten müssen, um die Ursache eines Fehlers zu ermitteln, oder die spezifischen Bedingungen bzw. Szenarien nachstellen müssen, um den Fehler zu verstehen und eine Lösung zu entwickeln. Durch den Einsatz von KI könnten Unternehmen jedoch die Geschwindigkeit und Effizienz verbessern, mit der sie potenzielle Schwachstellen im Code erkennen und beheben können, und so eine sicherere Umgebung schaffen, so Merrill.
KI-gestützte Tools könnten beispielsweise Codebasen durchsuchen, um potenzielle Schwachstellen zu identifizieren, indem sie Muster analysieren und so häufige Risiken wie SQL-Injektionen und Cross-Site-Scripting aufdecken. KI-Systeme könnten zudem anhand umfangreicher Datensätze bekannter Sicherheitslücken trainiert werden, um ähnliche Muster in neuem Code zu erkennen und so bisher unbekannte Sicherheitslücken oder Zero-Day-Exploits aufzudecken.
„Das spart Zeit und Aufwand, da die Sicherheitsteams dann keine Zeit damit verbringen müssen, nachträglich – nachdem ein Problem in der Praxis gemeldet wurde – den Fehler aufzuspüren und zu beheben“, sagt er. „Entwicklern die Möglichkeit zu geben, Sicherheitsprobleme zu lösen, wäre heutzutage ein großer Gewinn.“
2. Wie KI-basierte Cybersicherheits-Tools die Erkennung von Bedrohungen verbessern werden
Die frühzeitige Erkennung potenzieller Sicherheitsbedrohungen trägt dazu bei, unbefugten Zugriff auf sensible Daten, geistiges Eigentum und andere wertvolle Vermögenswerte zu verhindern, die die „Kronjuwelen“ eines Unternehmens ausmachen. Dies hilft Unternehmen dabei, kostspielige Datenschutzverletzungen, finanzielle Verluste und Reputationsschäden zu vermeiden.
„Entwicklern die Möglichkeit zu “geben, Sicherheitsprobleme [mithilfe von KI] zu lösen, wäre heutzutage ein großer Gewinn.“Nick Merrill, wissenschaftlicher Mitarbeiter und Leiter des Daylight Lab am Zentrum für langfristige Cybersicherheit der UC Berkeley
In vielen Unternehmen sind Sicherheitsanalysten dafür zuständig, Systemprotokolle, Netzwerkverkehrsprotokolle und Anwendungsprotokolle manuell auf verdächtige Aktivitäten zu überprüfen, die auf eine Sicherheitsverletzung hindeuten könnten. Dieser Prozess kann zeitaufwendig und für die Betroffenen belastend sein, sagt Schwenger von der CSA. „Es kann schwierig sein, Bedrohungen schnell zu erkennen, insbesondere wenn es sich um eine sehr raffinierte Bedrohung handelt, die dem menschlichen Auge entgehen kann“, sagt sie. „Bei menschlichen Analysten kann eine Person nur eine begrenzte Datenmenge verarbeiten, und es kann leicht vorkommen, dass bestimmte Muster übersehen werden. „Aber die KI ist wirklich gut darin, Muster zu erkennen, die uns möglicherweise entgehen.“
Da KI riesige Datenmengen analysieren kann, lässt sie sich dazu nutzen, eine Referenzlinie für normales Verhalten von Systemen, Netzwerken und Benutzern zu erstellen. Durch das Erkennen von Abweichungen oder Anomalien kann KI dabei helfen, potenzielle Sicherheitsbedrohungen zu identifizieren, wie beispielsweise unbefugte Zugriffsversuche, ungewöhnlichen Netzwerkverkehr oder abnormales Nutzerverhalten, so Schwenger.
„Dies stellt eine enorme Verbesserung bei der Bedrohungsanalyse dar, da dadurch verborgene Parameter und Anomalien in den Daten schneller aufgedeckt werden können, die andernfalls möglicherweise übersehen worden wären“, sagt sie. „Dies bietet Ihnen Skalierbarkeit, da Sie mühsame Aufgaben automatisieren und Echtzeitinformationen erhalten, die Sie an Ihre Sicherheitsingenieure weiterleiten können, was Ihnen hilft, schneller zu arbeiten und agiler zu sein.“
3. Wie KI-basierte Cybersicherheits-Tools die Eindämmung von Bedrohungen und die Reaktion darauf beschleunigen werden
Wurde eine Bedrohung erkannt oder ist ein Sicherheitsvorfall eingetreten, ist es von entscheidender Bedeutung, unverzüglich Maßnahmen zur Behebung der Situation zu ergreifen. „Bei Bedrohungen, Kompromittierungen, Datenlecks und Ransomware-Angriffen kommt es vor allem auf Schnelligkeit an“, sagt Adam Levin, Autor von „ “ „Swiped“: Wie Sie sich in einer Welt voller Betrüger, Phisher und Identitätsdiebe schützen können sowie Co-Moderator des Podcasts „ “ „What the Hack“ . „Sie müssen in der Lage sein, so schnell wie möglich zu handeln, um die Lücke zu schließen und das Problem zu beheben, damit Sie mit der Arbeit an der Lösung beginnen können. „Je schneller Sie die Bedrohung eindämmen können, desto schneller können Sie sich dagegen verteidigen.“
“„Sie müssen in der Lage sein, so schnell wie möglich zu handeln, um die Lücke zu schließen und das Problem zu beheben, damit Sie mit der Suche nach einer Lösung beginnen können.“Adam Levin, Autor und Co-Moderator des Podcasts „What the Hack“
Herkömmliche Methoden zur Eindämmung von Bedrohungen und zur Reaktion darauf stützen sich in hohem Maße auf manuelle Eingriffe. Tritt beispielsweise ein Sicherheitsvorfall auf, müssen Analysten die betroffenen Systeme manuell identifizieren, kompromittierte Ressourcen isolieren und Eindämmungsmaßnahmen ergreifen. Sicherheitsanalysten werden Sicherheitswarnungen, Protokolle und forensische Daten manuell überprüfen, um das Ausmaß des Vorfalls zu erfassen, und anschließend daran arbeiten, die Systeme zu patchen oder kompromittierte Zugangsdaten zurückzusetzen. Diese Prozesse sind zeitaufwendig und bergen die Gefahr menschlicher Fehler, was die Lösung der Probleme weiter verzögern kann.
[Lesen Sie auch: 3 Überlegungen, um sicherzustellen, dass Ihre KI tatsächlich intelligent ist]
Mithilfe von KI können Algorithmen jedoch automatisch den Schweregrad und die Auswirkungen der Bedrohung bewerten, ermitteln, welche Ressourcen betroffen sind, und sogar Gegenmaßnahmen koordinieren, so Schwenger. Dazu können beispielsweise die automatische Isolierung infizierter Endgeräte, die Blockierung böswilligen Datenverkehrs oder die Deaktivierung kompromittierter Dienste gehören.
„Dies unterstützt Ihre Sicherheitsteams wirklich dabei, fundierte Entscheidungen zu treffen und auf einen Vorfall zu reagieren, da KI Ihnen diese Erkenntnisse liefern und Empfehlungen aussprechen kann – dadurch entfällt jegliches blinde Rätselraten“, sagt sie. „Und auch in Zukunft birgt ein großes Potenzial für GenAI, das genutzt werden könnte, um nach einem Vorfall Berichte und Zusammenfassungen zu erstellen, Antworten vorzubereiten und dazu beizutragen, die Beteiligten auf dem Laufenden zu halten.“
Zwar ist das Potenzial der KI im Sicherheitsbereich beträchtlich, doch weist Schwenger nachdrücklich auf die anhaltende Notwendigkeit und den Wert von Menschen in jedem Sicherheitsprogramm hin. „KI ist nur so gut wie die Daten, auf denen sie basiert, mit denen sie trainiert wurde und die sie analysiert.“ „Nichts kann das menschliche Fachwissen und die menschliche Aufsicht ersetzen – das wird immer notwendig sein“, sagt sie.
