Tief im Sicherheitskontrollzentrum eines Fortune- 500 -Unternehmens identifiziert eine agentenbasierte KI-, die als „Sentinel“ bezeichnet wird und auf fortschrittlichen Algorithmen basiert ( ), einen Endpunkt, der kompromittiert wurde, als ein Mitarbeiter auf einen Link in einer Phishing-E-Mail von klickte (). Sentinel erkennt zudem sofort ungewöhnliche Anmeldungen aus Osteuropa sowie Anzeichen dafür, dass gerade Datenentzug stattfindet. Sentinel entsendet Hunter, um den Eindringling aufzuspüren und zu isolieren.
Unterdessen erkennt der Defender-Agent die Malware als eine Ransomware-Variante namens „ “ der Cyberbande LockBit und schließt die Sicherheitslücken, über die sich die Angreifer Zugang verschafft haben. Innerhalb weniger Minuten erhalten menschliche Analysten einen Nachbericht zur Überprüfung, und eine Sicherheitsverletzung, die durch Ausfallzeiten und Datenverluste Kosten in Millionenhöhe hätte verursachen können, wird durch drei KI-Systeme abgewehrt, die auf leistungsstarken Analyse-Engines sowie Sicherheitsereignis- und Angriffsdaten aus einem ganzen Jahrzehnt basieren.
Zur Klarstellung: Diese KI-Agenten (Sentinel, Hunter, Defender) sind fiktiv, und der Vorfall ist hypothetisch. Doch das Versprechen dieser neuen, agentenbasierten Welt der Cybersicherheit ist real und steht – laut Branchenexperten schon sehr bald – in einem Security Operations Center (SOC) in Ihrer Nähe bevor. Und es wird erwartet, dass sie in großem Stil Einzug halten werden: Bis zum nächsten Jahr rechnen rund 86 % der Unternehmen damit, KI-Agenten einzusetzen, wie aus der aktuellen „ “ von PagerDuty Agentic AI Survey hervorgeht.
Im Gegensatz zu den regelbasierten Tools, die bislang in Form von Robotic-Process- -Automatisierung oder sowie Security-Orchestration-Automation-and-Response (SOAR) zur Verfügung standen, versprechen KI-Agenten im Sinne von Sentinel, Hunter und Defender, aus ihrer Umgebung zu lernen, Vorhersagen zu treffen, Entscheidungen zu treffen und Maßnahmen im Rahmen festgelegter Aufgaben auszuführen – wie beispielsweise die Isolierung kompromittierter Geräte , das Schließen von Sicherheitslücken, das Offline-Schalten kompromittierter Systeme sowie das Einholen von Unterstützung durch weitere Agenten und menschliche Sicherheitsexperten, falls erforderlich.
Einige sind der Ansicht, dass diese Systeme den Sicherheitsbetrieb grundlegend verändern werden; andere stehen dem Ausmaß der Veränderungen, die angesichts des aktuellen Stands der Technik in naher Zukunft möglich sind, weiterhin skeptisch gegenüber.
For security managers, the benefits are compelling: According to vendor reports, 7.12. threat monitoring slashes response times by up to 90%, reduces alert fatigue, and addresses talent shortages by automating repetitive and mundane tasks. Agentische KI ermöglicht zudem eine proaktive Verteidigung nach dem Prinzip „ “ () unter Verwendung von Verhaltensanalysen ( ) ( ), um Sicherheitslücken zu verhindern und Sicherheitsrichtlinien durchzusetzen.
„Anfangs stand ich der agentenbasierten KI skeptisch gegenüber, doch als ich sah, wie sie in Geschäftsanwendungen und anschließend im Sicherheitsbetrieb eingesetzt wurde, änderte sich meine Sichtweise“, sagte Wim Remes, leitender Berater bei der Sicherheitsberatungsfirma Toreon mit Sitz in Antwerpen, Belgien. „Agentische KI eignet sich hervorragend für die Erfassung und Kontextualisierung von Informationen für SOC-Analysten sowie für die Automatisierung der Reaktion auf Vorfälle.“
Das sind zweifellos vielversprechende Einschätzungen. Bevor Sie jedoch diese autonomen Arbeitsabläufe aufbauen, von schnelleren Patch-Zyklen profitieren und insgesamt geschäftlichen Mehrwert schaffen können, müssen Sie die Vorteile und Fallstricke der agentenbasierten KI verstehen.
Im Folgenden finden Sie eine wertvolle Einführung mit fachkundigen Ratschlägen dazu, was Sie für das kommende Jahr wissen sollten – und wie Sie am besten damit beginnen können, agentische KI in Ihr Geschäftsmodell und Ihre Unternehmensarchitektur zu integrieren.
Der Aufstieg der agentenbasierten KI: Ihr (halb-)autonomer Verteidiger
Die herkömmliche KI liefert Ihnen Antworten. Agentische KI setzt Entscheidungen um, ohne – sofern Sie dies wünschen – auf Ihre Zustimmung zu warten.
“Zunächst stand ich der agentenbasierten KI skeptisch gegenüber, doch als ich sah, wie sie in Geschäftsanwendungen und anschließend im Sicherheitsbetrieb eingesetzt wurde, änderte sich meine Sichtweise.”Wim Remes, leitender Berater bei der Sicherheitsberatungsfirma Toreon
Es handelt sich um die natürliche Weiterentwicklung der robotergestützten Prozessautomatisierung, der herkömmlichen KI und anderer deterministischer Prozesse, die ein gewisses Maß an Urteilsvermögen und Entscheidungsfindung erfordern, anstatt strengen Anleitungen zu folgen, die aus vorgefertigten, durch vordefinierte Szenarien ausgelösten Arbeitsabläufen bestehen. „Agentische KI verspricht, letztendlich die Lücken zu schließen, die mit der derzeitigen Automatisierung nicht geschlossen werden können“, sagte Scott Crawford, Leiter der Forschung im Bereich Informationssicherheit bei S&P Global Market Intelligence.
Was ist hier das Schlüsselwort? „Irgendwann.“
Während sich Analysten darin einig sind, dass agentische KI diesen Systemen mehr „Handlungsfähigkeit“ verleihen wird, gibt es zahlreiche Diskussionen darüber, wie schnell sich agentische KI im Bereich SecOps als bahnbrechende Neuerung erweisen wird.
Die Motivation, auf agentische KI umzusteigen, ist groß. Seit Jahren führen Cybersicherheitsteams einen aussichtslosen Kampf gegen eine Flut von Systemwarnmeldungen, und ihre Gegner – die immer schneller, automatisierter und kreativer werden – zwingen die Verteidiger dazu, sich ständig anzupassen. Und bekämpfen Sie die Alarmmüdigkeit. Und „ “ befasst sich mit dem Thema beruflicher Burnout. Herkömmliche, regelbasierte Tools mit ihren statischen Vorgehensanleitungen und ihrer anfälligen Logik konnten einfach nicht mithalten. „Das ist der eigentliche Wert“, fügte Remes hinzu. „Die Verringerung der kognitiven Belastung für Analysten, beispielsweise durch das Zusammenführen von Informationen zu einer Warnmeldung, zugehörigen Ressourcen, vergangenen Vorfällen und Schwachstellenscans von – anstatt lediglich Maßnahmen wie Kontosperrungen und Ähnliches zu automatisieren“, sagte er.
[Lesen Sie auch: 4 kritische Führungsprioritäten für CISOs im KI-Zeitalter]
So könnte eine agentenbasierte KI dazu beitragen, diese Situation zu ändern:
- Von der Alarmmüdigkeit zum autonomen Handeln –Das durchschnittliche Sicherheitsteam eines Unternehmens muss täglich Tausende von Warnmeldungen bearbeiten, wobei es sich bei den meisten um Fehlalarme oder um Ereignisse mit geringem Risiko handelt. Menschliche Analysten, die aufgrund von Personalmangel ohnehin schon überlastet sind, sind gezwungen, eine Triage durchzuführen, Untersuchungen anzustellen und zu reagieren – wobei ihnen häufig die subtilen Anzeichen eines tatsächlichen Sicherheitsvorfalls entgehen. Die Analysefähigkeiten und die autonome Reaktionsfähigkeit der agentenbasierten KI versprechen einen neuen Ansatz.
- Automatisierte Erkennung und Reaktion auf Bedrohungen –Agentebasierte KI-Systeme erfassen Daten aus Cloud-, Netzwerk- und Endpunktquellen und identifizieren dabei ungewöhnliche Muster, die auf potenzielle Bedrohungen hindeuten. Sobald eine Bedrohung erkannt wird, können sie kompromittierte Geräte eigenständig isolieren, bösartigen Datenverkehr blockieren oder Zugangsdaten widerrufen – Maßnahmen, die früher Stunden dauerten, erfolgen nun innerhalb von Sekunden.
- Dynamische Playbooks –Statische Pläne zur Reaktion auf Vorfälle versagen häufig, weshalb viele Sicherheitsexperten hoffen, dass diese bald der Vergangenheit angehören werden. Agentic AI erstellt dynamische, kontextbezogene Vorgehensanleitungen, die die Reaktionen an die sich wandelnde Bedrohungslage anpassen. Es kann Vorfälle priorisieren, Anomalien untersuchen und sogar mehrstufige Eindämmungsstrategien koordinieren – möglicherweise, ohne auf eine Genehmigung durch den Menschen zu warten.
- Kontinuierliches Lernen, ein Gedächtnis wie ein Elefant –Jede Interaktion, jedes Ereignis wird zu Trainingsdaten – und genau wie das Gedächtnis des Internets vergisst die KI niemals. Agentische KI verfeinert ihre Modelle mit jeder Begegnung, wodurch sich die Erkennungsraten im Laufe der Zeit verbessern und die Anzahl der Fehlalarme sinkt. Je intelligenter der SOC wird, desto schneller wird er.
- Proaktive Verteidigung und Zero-Trust-Durchsetzung –„Agentic AI“ nutzt Verhaltensanalysen, um Abweichungen vom Normalverlauf zu erkennen und so Zero-Day-Exploits sowie Insider-Bedrohungen zu identifizieren, bevor diese eskalieren. Durch die kontinuierliche Überwachung des Nutzerverhaltens und der Kritikalität von Ressourcen setzt das System „ “-Zero-Trust-Richtlinien durch und stellt so sicher, dass der Zugriff stets kontextbezogen gerechtfertigt und dynamisch angepasst wird.
[Lesen Sie auch: Was Sie über das neue KI-Gesetz in Südkorea wissen müssen]
Fallstricke und Gefahren der agentenbasierten KI
Befürworter der agentenbasierten KI räumen ein, dass es trotz dieses Potenzials kein uneingeschränktes Sicherheitsparadies geben wird und dass der Weg zu SOCs, die auf agentenbasierter KI basieren, nicht so einfach sein wird, wie einen Schalter umzulegen.
“Diese Technologie lässt sich nicht unbedingt einfach umsetzen.“David Marcus, leitender Sicherheitsexperte auf Bundesebene und leitender Ingenieur bei Intel
„Diese Technologie ist nicht unbedingt einfach zu implementieren und wird zudem eine Reihe neuer Herausforderungen mit sich bringen“, sagte David Marcus, leitender Sicherheitsexperte auf Bundesebene und Chefingenieur beim Chiphersteller Intel.
Zu diesen Herausforderungen zählen die Integration in Altsysteme aufgrund ihrer proprietären Formate und veralteten Programmiersprachen sowie die mangelnde Unterstützung moderner KI-Frameworks, die Anwendungsprogrammierschnittstellen (APIs) für den Datenaustausch in Echtzeit erfordern. Ohne diese Fähigkeiten verfügt die agentische KI im SOC nicht über die erforderlichen Daten, um fundierte und zeitnahe Maßnahmen zu ergreifen.
Diese Herausforderungen kommen zu den üblichen datenbezogenen Hürden hinzu, wie beispielsweise Problemen hinsichtlich der Datenqualität und -aufbereitung, darunter die Normalisierung von Datenformaten, die Bereinigung veralteter Protokolle sowie die Entfernung ungenauer Daten oder von Daten, denen die erforderlichen Metadaten fehlen.
Darüber hinaus gelten alle Herausforderungen, die mit Menschen verbunden sind, auch für KI-Agenten, da diese über einen erweiterten Zugang zu Werkzeugen und Daten sowie die Fähigkeit zur autonomen Funktionsweise verfügen. Dadurch sind sie anfällig für den Missbrauch von Zugriffsrechten und den Diebstahl von Zugangsdaten. Dies gilt ebenso für menschliche Mitarbeiter, bei denen Angreifer sich als Mitarbeiter ausgeben und unbefugte Aufgaben ausführen können, die Schaden anrichten, den Betrieb stören und sensible Daten offenlegen.
In großem Maßstab verstärken sich diese Risiken, da Unternehmen immer mehr Agenten in verschiedenen Teams und Arbeitsabläufen einsetzen, was häufig zu einer „ “ führt – einer unkontrollierten Ausbreitung agentenbasierter KI –, bei der sich autonome Systeme schneller vermehren, als sich Mechanismen zur Steuerung, Transparenz und Rechenschaftspflicht anpassen können.
[Lesen Sie auch: Wie KI den Schutz vor Datenverlust neu definiert]
Zudem besteht die Gefahr einer übermäßigen Abhängigkeit von KI, was zu einer „Warnungsblindheit“ führen könnte, wenn die menschliche Aufsicht nachlässt, weil das Vertrauen zu stark zunimmt und die menschlichen Kontrollen vernachlässigt werden. „Eine vollständige Automatisierung ohne entsprechende Prozessreife ist riskant“, fügte Remes hinzu. „Sie sollten mit manuellen Prozessen beginnen, dann zu einer vom Menschen gesteuerten Automatisierung übergehen, anschließend zu einer vom Menschen überwachten Automatisierung und erst schließlich zur vollständigen Automatisierung.“ „Unternehmen sollten agentische KI einführen, sobald die entsprechenden Prozesse ausgereift sind.“
5 Schritte zu einer sichereren agentenbasierten KI
Sicherheitsverantwortliche lernen, wie sie das richtige Maß an Autonomie bei gleichzeitiger Kontrolle über diese Agenten erreichen können, während sie die Schnelligkeit der agentenbasierten KI nutzen, ohne dabei entscheidende Ermessensentscheidungen aus der Hand zu geben.
“Dies ist eines der Probleme, die wir bei jeder dieser großen technologischen Umwälzungen beobachten. „Wir sprechen über die positiven Aspekte, widmen den negativen Aspekten jedoch nicht genügend Zeit.“”Scott Crawford, Leiter der Forschung im Bereich Informationssicherheit bei S&P Global Market Intelligence
„Hier ist ein Gleichgewicht erforderlich“, sagte Crawford. „Dies ist eines der Probleme, die wir bei jeder dieser großen technologischen Umwälzungen beobachten.“ Wir sprechen oft über die positiven Aspekte, widmen den negativen Aspekten jedoch nicht genügend Zeit, um ein ausgewogenes Verhältnis in der Diskussion herzustellen. „Leider führt dies dazu, dass die Menschen von den Möglichkeiten unglaublich begeistert sind, aber dann nicht über die Konsequenzen nachdenken, die sich aus dem ergeben könnten, worauf sie sich da einlassen.“
Es gibt mehrere Maßnahmen, die Unternehmen ergreifen können, um sicherzustellen, dass sie dieses Gleichgewicht wahren:
1. Schaffung solider Rahmenbedingungen für die Steuerung agentischer KI
Erstellen Sie zunächst klare Richtlinien und Leitlinien, in denen dargelegt wird, wie agentenbasierte KI in Ihren Sicherheitsabläufen eingesetzt werden soll, einschließlich Entscheidungsregeln und der Einhaltung der Vorschriften des „ “ gemäß den Branchenstandards. Dadurch wird sichergestellt, dass alle Mitarbeiter des Unternehmens die Grenzen und Verantwortlichkeiten verstehen, einschließlich der ordnungsgemäßen Registrierung der eingesetzten Agenten, wodurch das Risiko von Missbrauch oder rechtlichen Problemen verringert wird. Überprüfen und aktualisieren Sie diese Rahmenwerke regelmäßig, um sie an neue Bedrohungen oder Vorschriften anzupassen, und fördern Sie so eine Kultur der Verantwortlichkeit.
“Wir haben zahlreiche Mitarbeiter, die ihre eigenen agentenbasierten Agenten entwickeln – was einfach großartig ist. „Wir müssen jedoch … sicherstellen, dass sie unter Einhaltung angemessener Sicherheitsvorkehrungen geschrieben und entwickelt werden.“Jeffrey DiMuro, stellvertretender CISO bei ServiceNow
Dies ist einer der Gründe, warum Jeffrey DiMuro, stellvertretender CISO bei ServiceNow, der zuvor im Unternehmen die Bereiche Daten-Governance, Sicherheitsrisiken sowie Risiken durch Drittanbieter leitete, vor einer unkontrollierten Verbreitung agentischer KI ohne eine solche Governance warnt.
„Wir haben zahlreiche Mitarbeiter, die ihre eigenen agentenartigen Agenten entwickeln – was einfach großartig ist“, sagte er. „Wir müssen jedoch … sicherstellen, dass sie unter Einhaltung angemessener Sicherheitsvorkehrungen geschrieben und entwickelt werden, und wir müssen diese [Agenten] registrieren; außerdem müssen wir darauf achten, dass es nicht zu Doppelarbeit kommt, damit alle in unserer Umgebung Zugang zu validierten Tools haben.“
2. Legen Sie Grenzen für agentenbasierte KI durch eine detaillierte Zugriffskontrolle fest
Führen Sie detaillierte Kontrollen darüber durch, auf welche Ressourcen KI-Agenten zugreifen und welche Aktionen sie ausführen dürfen, und nutzen Sie dabei Modelle wie rollenbasierte Berechtigungen und Zero-Trust-Prinzipien, um das Risiko zu minimieren. Dadurch werden unbefugte Handlungen verhindert, und schützt wichtige Ressourcen vor potenziellen Bedrohungen. Solche Kontrollmechanismen sorgen für Sicherheit und gewährleisten, dass KI die Sicherheit verbessert, ohne neue Schwachstellen zu schaffen.
Beispielsweise könnte ein Sicherheitsmitarbeiter über einen Lesezugriff verfügen, um Warnmeldungen zu untersuchen und Protokolle abzufragen, ist jedoch nicht befugt, Abhilfemaßnahmen durchzuführen – er kennzeichnet ein verdächtiges Konto zur Überprüfung durch einen Mitarbeiter, anstatt es zu deaktivieren. Ein anderer Agent würde einen kompromittierten Endpunkt zwar automatisch isolieren, kann jedoch nicht auf das Identitätsmanagementsystem „ “ unter zugreifen, um die Anmeldedaten zurückzusetzen. Eine dritte Option ermöglicht es, anfällige Anwendungen zu patchen, jedoch keine Firewall-Regeln zu ändern.
3. Fördern Sie die Zusammenarbeit agentischer KI durch mehrschichtige Verteidigung
Schaffen Sie mehrere Schutzebenen rund um KI-Systeme, damit im Falle eines Ausfalls einer dieser Ebenen andere einspringen können, um den Schutz aufrechtzuerhalten.
Ein SOC-Mitarbeiter kann zwar einen kompromittierten Endpunkt erkennen und isolieren, doch eine separate Netzwerksegmentierungsebene verhindert, dass dieser Endpunkt sich lateral ausbreitet. Ein automatisierter Patch-Management-Agent von führt Updates durch; ein separates Rollback-System kann Änderungen jedoch rückgängig machen, falls die Patches kritische Anwendungen beeinträchtigen sollten. Dieser mehrschichtige Ansatz mindert die Auswirkungen einzelner Sicherheitsverletzungen und gewährleistet so einen stabilen Betrieb. Es fördert eine widerstandsfähige Sicherheitsstrategie, die mit den Zielen der Geschäftskontinuität im Einklang steht.
4. Kombinieren Sie agentische KI mit menschlicher Aufsicht
Stellen Sie sicher, dass erfahrene Mitarbeiter weiterhin an der Überwachung und Genehmigung wichtiger KI-Entscheidungen beteiligt sind, insbesondere in Situationen mit hohem Risiko. Dieses Hybridmodell nutzt menschliches Urteilsvermögen, um die Stärken der KI zu ergänzen, wodurch Fehler reduziert und die Zuverlässigkeit erhöht werden. Die Aufsicht gewährleistet die Einhaltung ethischer Grundsätze und ermöglicht bei Bedarf rasches Eingreifen.
“Es ist nach wie vor die Einbeziehung eines Menschen erforderlich. Und das ist Ihr „Vertrauen ist gut, Kontrolle ist besser“.”DiMuro
„Wenn Sie einem Assistenten – ich bezeichne die agentische KI als einen Assistenten, der Zugang zu mehr Informationen hat, als ich je zuvor hatte – gestatten, diese Informationen miteinander zu verknüpfen und mir dabei zu helfen, schneller voranzukommen, ist dennoch ein Mensch im Entscheidungsprozess erforderlich.“ „Und das ist Ihr ‚Vertrauen ist gut, Kontrolle ist besser‘“, riet DiMuro.
5. Führen Sie kontinuierliche Tests und Validierungen der agentenbasierten KI durch
Simulieren Sie regelmäßig Angriffe und Szenarien, um die Leistung der KI zu testen und Schwachstellen aufzudecken, bevor diese den tatsächlichen Betrieb beeinträchtigen. Dieser fortlaufende Prozess sorgt dafür, dass das System gegenüber sich ständig weiterentwickelnden Bedrohungen widerstandsfähig bleibt.
Selbstverständlich gilt auch hier die goldene Regel der Informatik: „Garbage in, garbage out“. Unternehmen müssen darauf achten, dass die Daten, die sie in KI-Systeme einspeisen, korrekt und sicher sind.
Die drei Säulen der agentenbasierten KI: Transparenz, Vertrauen und Teambildung
Es ist zudem von entscheidender Bedeutung, die Entscheidungsprozesse der KI verständlicher zu gestalten, indem Werkzeuge eingesetzt werden, die erläutern, wie die Ergebnisse zustande kommen, und alle Aktionen zur einfachen Nachverfolgung protokolliert werden.
“Zwar kann agentische KI bereits heute effektiv sein, doch sind ein angemessenes Maß an Transparenz und Erklärbarkeit entscheidend für Vertrauen und eine gute Governance.”Michael Farnum, Geschäftsführer von Cybr.SEC.Community
Dies stärkt das Vertrauen zwischen den Teams und den Beteiligten und ermöglicht die schnelle Erkennung etwaiger Probleme oder Unregelmäßigkeiten. Transparente Systeme erleichtern zudem eine bessere Prüfung und tragen dazu bei, den Aufsichtsbehörden und Partnern den ethischen Einsatz von KI nachzuweisen.
„Auch wenn agentische KI bereits heute effektiv sein kann, sind ein angemessenes Maß an Transparenz und Erklärbarkeit entscheidend für Vertrauen und eine gute Unternehmensführung“, sagte Michael Farnum, ehemaliger beratender CISO bei der Technologieberatung Trace3 und nun CEO von Cybr.SEC.Community, einem in Houston ansässigen Veranstalter von Cyber-Veranstaltungen.
[Lesen Sie auch: Wann man KI-Agenten und automatisierten Arbeitsabläufen endlich vertrauen kann]
Schließlich muss das SOC-Team auf KI vorbereitet sein, und die Mitarbeiter der Abteilung „ “ müssen eine angemessene Schulung erhalten. Führungskräfte sollten die aktuelle Infrastruktur, die Datenbereitschaft, die Kompetenzen der Teams und die Unternehmenskultur ihrer Organisation bewerten, um vor der Einführung von KI etwaige Lücken zu identifizieren und so eine reibungslose Umsetzung zu gewährleisten. Durch die Bereitstellung von Schulungsprogrammen werden die Mitarbeiter in die Lage versetzt, effektiv mit KI-Tools zusammenzuarbeiten, wodurch sie sich auf wertschöpfendere Aufgaben konzentrieren können. Diese Vorbereitung zielt darauf ab, Widerstände zu minimieren und die Produktivitätsgewinne durch die Integration künstlicher Intelligenz zu maximieren.
Ob Agenten wie unsere fiktiven Figuren „Sentinel“, „Hunter“ und „Defender“ einen festen Platz als Teammitglieder in modernen Sicherheitsteams finden werden, bleibt abzuwarten. Doch da sie vorerst einmal da sind und offenbar einen Beitrag leisten, müssen die Sicherheitsverantwortlichen sich mit ihnen vertraut machen, ihre Stärken und Schwächen erkennen und das Beste aus ihnen herausholen.
Ihre überlasteten Sicherheitsteams könnten diese Hilfe sicherlich gut gebrauchen.
