Trotz der zunehmenden Bedrohung durch Hacker, die generative KI-Tools ( , KI) nach dem „ “-Prinzip einsetzen, um in Unternehmensnetzwerke einzudringen, sind mittlerweile immer mehr Sicherheitsexperten der Ansicht, dass diese Technologie solche Bedrohungen auch abwehren kann.
Tatsächlich nutzen mehr als ein Drittel (34 %) der Unternehmen laut einer Gartner-Umfrage „ “ , die Ende letzten Jahres durchgeführt wurde, bereits KI-Sicherheitstools oder sind dabei, diese einzuführen, um die mit generativer KI einhergehenden Risiken zu mindern. Und in diesem Monat hat Microsoft, ein wichtiger Akteur im Wettlauf um KI-Tools, „ “ vorgestellt: Microsoft Copilot for Security – einen KI-Assistenten, der nach Angaben des Unternehmens dazu beitragen soll, Cyberkriminalität wesentlich schneller und präziser zu bekämpfen.
Da sowohl White-Hat- als auch Black-Hat-Hacker in einem fast unvorstellbaren Tempo auf KI zurückgreifen, hielt es Focal Point für sinnvoll, einen der scharfsinnigsten Köpfe im Bereich Cybersicherheit zu fragen, wohin die Entwicklung führen wird.
Wir stellen Ihnen Mike Wilkes vor (siehe Foto oben). Als CISO bei Marvel Entertainment von 2016 bis 2018 war Wilkes für den Schutz der Netzwerke der Superhelden-Franchises des Filmriesen verantwortlich, darunter „ “, „The Avengers“, „Spider-Man“, „She-Hulk“, „ “, „“, „X-Men“ und „“.
Heute hält Herr Wilkes – der zuvor auch als CISO bei SecurityScorecard, Lark Health und ASCAP tätig war – Vorlesungen zu Cybersicherheit und technologischer Innovation an der NYU, leitet ein Unternehmen namens „The Security Agency“, das freigestellte und in Teilzeit tätige CISOs bei der Stellensuche unterstützt, und ist Mitglied einer Arbeitsgruppe des Weltwirtschaftsforums zu den Themen „ “ und „Quantum Computing“ security. Er verfügt zudem über einen Master-Abschluss in Philosophie der Stanford University, was ihn nach eigenen Angaben im Herzen zu einem Theoretiker macht – trotz seiner 30 -jährigen praktischen Erfahrung im Aufbau von kritischer Infrastruktur.
In einem kürzlich geführten, umfassenden Interview haben wir Wilkes zu einer Vielzahl von Themen rund um KI und Cybersicherheit befragt. Das hatte er zu sagen:
(Das folgende Interview wurde aus Gründen der Übersichtlichkeit und der Länge redaktionell bearbeitet.)
Was bereitet Ihnen die größten Sorgen im Zusammenhang mit Hackern, die KI einsetzen, um immer umfangreichere Angriffe zu starten?
Die Tatsache, dass heutzutage jeder zum Cyberkriminellen werden kann. Es sind nicht mehr nur Nationalstaaten und die organisierte Kriminalität, die über diese Fähigkeiten verfügen. Jeder hat mittlerweile Zugang zu leistungsstarken Instrumenten, wie sie sonst nur Nationalstaaten zur Verfügung stehen. Es handelt sich um die Demokratisierung der Kriminalität, und die künstliche Intelligenz ermöglicht diese Demokratisierung.
“„Meine Großmutter könnte möglicherweise zu einer Elite-Hackerin werden, wenn sie nur über die richtigen Werkzeuge und Zugang zu den Netzwerken der AARP und der örtlichen Seniorenwohnanlagen verfügen würde.“
Meine Großmutter könnte möglicherweise zu einer Elite-Hackerin werden, wenn sie nur über die richtigen Werkzeuge und Zugang zu den Netzwerken der AARP und der örtlichen Seniorenwohnanlagen verfügen würde. Und wir als Verteidiger beobachten derzeit die Rückkehr von gelangweilten Teenagern , die Angriffe starten – manche aus eigenem Antrieb, andere, weil sie dazu genötigt werden. -Teams für die Reaktion auf Sicherheitsvorfälle beziehen derzeit sogar Schulberater in die Verhandlungen mit der Ransomware „“ ein, um Lösungen zu erarbeiten.
Stört es Sie, dass Unternehmen sensible Daten in KI-Assistenten wie ChatGPT hochladen?
Nicht wirklich.
Wirklich.
Ein wenig Aufklärung und klare Rahmenbedingungen tragen wesentlich dazu bei, dieses Risiko zu mindern.
Aber wir haben gesehen, wie es passiert ist.
Die Menschen haben sich nicht über die Auswirkungen auf die Sicherheit und die Offenlegung von Informationen aufgeregt, die damit verbunden sind, dass Grammarly oder Google Dokumente in Echtzeit überprüfen dürfen. Wenn Sie E-Mails verfassen, wissen die Systeme genau, welche Wörter Sie geschrieben haben, und nutzen sogar Token-Berechnungen, um herauszufinden, welches Wort als Nächstes folgen könnte.
Seit Jahren verlassen Daten die Unternehmen. Ich sage oft, dass Daten wie Wasser sind, das bergab fließt: Sie finden immer einen Weg, dorthin zu gelangen, wo sie gebraucht werden. Nun scheint es jedoch so, als hätten die Allgegenwärtigkeit und der Hype um ChatGPT zu dieser übertriebenen Besorgnis geführt, obwohl es solche Vorfälle bereits seit langem auch bei anderen Tools gibt.
Sind KI-Tools wie „Copilot“ von Microsoft lediglich die Spitze des Eisbergs bei der Bekämpfung von Cyberbedrohungen?
Das glaube ich auch. Microsoft Copilot wird Analysten dabei unterstützen, weniger Zeit mit den schwer verständlichen Details der Windows-Ereignisprotokolle zu verschwenden, sodass sie mehr Zeit darauf verwenden können, einen Mehrwert für ihre Sicherheitsoperationszentren (SOCs) von „ “ zu schaffen.
“Unternehmen können KI nutzen, um effektivere Penetrationstests durchzuführen, indem sie die Möglichkeit für ressourcenschonende, kontinuierliche Tests mit Automatisierung einführen und die interessanteren Aufgaben den Menschen überlassen.“
Solche Assistenten werden auch weiterhin auf den Markt kommen, da Maschinen wirklich gut darin sind, große Datenmengen schnell auszuwerten und dabei zu helfen, festzustellen, wann eine Anomalie vorliegt und was ein wichtiges Detail sein könnte – und gleichzeitig den Sicherheitsanalysten eine Menge mühsamer Arbeit abnehmen.
Inwiefern verringert dies das Risiko? Nun, dies verringert das Risiko, indem es Unternehmen ermöglicht, sinnvollere Richtlinien und Verfahren im Rahmen von Crowdsourcing zu entwickeln und umzusetzen. Die Ermittlung bewährter Verfahren und die Erstellung einheitlicherer Runbooks und SOPs (Standard Operating Procedures) ist plötzlich wesentlich einfacher geworden. Sie können wirksamere Prüfungen und Überprüfungen der Zugriffsrechte durchführen. Sie können Abweichungen zwischen ihren Richtlinien und der tatsächlichen Praxis aufdecken und aufzeigen und diese anschließend beheben. Zudem können sie mithilfe von KI effektivere Penetrationstests durchführen, indem sie die Möglichkeit für ressourcenschonende, kontinuierliche Tests mit der Automatisierung von „ “ () einführen, wodurch die interessanteren Aufgaben den Menschen überlassen bleiben.
Was kann man über KI-Tools hinaus tun, um Bedrohungen entgegenzuwirken?
Die Kriminellen haben weniger Hindernisse zu überwinden, da sie sich nicht wie der Rest von uns mit staatlicher Aufsicht oder den regulatorischen Anforderungen der „ “ auseinandersetzen müssen. Daher können sie schneller innovativ sein und sich schneller neu ausrichten als wir.
Unsere kollektive Cyberresilienz beruht daher nicht auf einem einzelnen neuen Tool, einer neuen Technologie oder einem neuen Algorithmus; sie beruht vielmehr auf Gemeinschaften zum Informationsaustausch wie ISACs (Information Sharing and Analysis Centers) und Infragard. Ich bin der Ansicht, dass wir uns verstärkt um die Mitgliedschaft und die aktive Beteiligung an diesen Gruppen zum Austausch von Bedrohungsinformationen bemühen müssen.
Damit wir als Wirtschaft und als digital abhängige Gesellschaft widerstandsfähig sind, müssen wir den privaten Sektor als Motor unserer Wirtschaft betrachten und anerkennen, dass all dies anfällig ist und systemischen Risiken ausgesetzt ist. Das systemische Risiko ist eine emergente Eigenschaft komplexer Systeme, die in hohem Maße miteinander vernetzt und voneinander abhängig sind. Um dieses systemische Risiko zu verringern, verhalten wir uns wie eine Gruppe von Erdmännchen aus „ “ , die vor ihren Höhlen stehen, wobei jedes in eine andere Richtung zum Horizont blickt, nach Gefahren und Anzeichen von Raubtieren Ausschau hält und sofort Alarm schlägt, sobald wir etwas entdecken, das es wert ist, mit den anderen geteilt zu werden.
Dies mindert die Auswirkungen von Cyberangriffen insgesamt und verringert das Risiko für die gesamte Gemeinschaft.
Sehen Sie irgendwelche Parallelen zwischen dem Marvel-Universum und der Welt der Cybersicherheit?
Oh, auf jeden Fall. Vielleicht liegt es an dem Philosophen in mir, aber unsere Zukunft birgt sowohl Dystopien als auch Utopien. Technologien wie die künstliche Intelligenz sind an sich weder gut noch böse; sie sind lediglich Mittel, die die Absichten und Zukunftsvisionen der Menschen für die Menschheit verstärken.
“„Im Marvel Cinematic Universe gibt es vielleicht 5 000 Charaktere mit festen Prinzipien, wie Captain America, und einige …, deren technologische Entscheidungen zu Katastrophen geführt haben.“
Aber sie sind natürlich wie das sprichwörtliche zweischneidige Schwert. Mit ihnen können wir ein zukünftiges Leben für die Menschheit gestalten und ein Glück schaffen, das durch Freiheit und Wohlstand für alle immer utopischer wird – oder, falls wir uns für den anderen Weg entscheiden, als egoistische Arschlöcher handeln und alle möglichen Dystopien herbeiführen. Die Entscheidung liegt bei uns – ein Thema, das in vielen Geschichten aus Comics und Filmen auftaucht.
Im Marvel Cinematic Universe gibt es etwa 5 000 Charaktere mit festen Prinzipien, wie beispielsweise Captain America, sowie einige komplexere Figuren, deren technologische Entscheidungen (die Unendlichkeitssteine) zu Katastrophen führten, wie in 2018’s„Avengers: Infinity War“ und 2019’s„Avengers: Endgame“. Viele Figuren sind nicht unbedingt Bösewichte, sondern eher Antihelden; sie sind einfach nur Menschen. Selbst Thanos (ein von Josh Brolin gespielter Bösewicht, dessen Figur bestrebt war, dem Universum Stabilität zu verleihen, indem er die Macht der sechs Unendlichkeitssteine nutzte, um die Hälfte seiner Bevölkerung auszulöschen) verfügt über eine Anhängerschaft, die seine auf dem Utilitarismus basierende Ethik teilt.
Ebenso ist nicht jeder, der KI auf fragwürdige Weise einsetzt, zwangsläufig böswillig. Manche verhalten sich genau wie Thanos und reagieren auf etwas, das sie als Ungleichgewicht oder als Gefahr für die Gesellschaft im weiteren Sinne empfinden. Möglicherweise nutzen sie Technologie für etwas, von dem sie glauben, dass es das Universum zu einem besseren und nachhaltigeren Ort macht, auch wenn der Rest von uns ihre Ziele oder Methoden nicht teilt.
Wir müssen dafür sorgen, dass alle Stimmen Gehör finden und dass wir unseren Weg in die Zukunft mit Empathie, gegenseitigem Respekt und einem Gefühl der gemeinsamen Verantwortung beschreiten. Es gibt nur eine Erde, um die wir uns kümmern müssen, und anders als bei Videospielen gibt es keine zweite Chance.
WEITERE INFORMATIONEN
Lesen Sie weitere exklusive Interviews mit Sicherheitsverantwortlichen in unserer Reihe „Erfolgsgeschichten".
- Joseph Karpenko von Stratascale zum Thema …
– VON DATENVERLETZUNGEN ZUR UNTERNEHMENSSTRATEGIE - Ken Fishkin, der „Datenschutz-Evangelist“ von Lowenstein Sandler, über …
LANGWEILIGE SCHULUNGEN ZUR CYBERSICHERHEIT - „Ash Hunt“ der Apex Group auf…
CYBERRISIKEN (GENAU) MIT DIESER FORMEL VORAUSSAGEN - LA Countys Jeff Aguilar über…
WIE ER MITARBEITER IM KAMPF GEGEN PHISHING SCHULT (UND NACHSCHULT) - Honest Medical Groups Dennis Leber über…
WARUM ER (KAUM) ÜBER CYBERSICHERHEIT MIT DEM VORSTAND SPRICHT - Leo A Dalys Stephen Held über…
DIE KEHRSEITE DES DRITTANBIETER-RISIKOS - Zooms Michael Adams über…
CYBERSICHERHEIT ERREICHEN 2,0 MIT CYBER-RISIKO-SCORING
