Agentische KI-Systeme erzeugen nicht nur Text. Sie führen Aktionen in Ihrer gesamten Infrastruktur durch, übertragen Konfigurationen, fragen Datenbanken ab und ändern Endpunkte, ohne auf eine manuelle Genehmigung zu warten. Diese Autonomie ist der springende Punkt, aber sie ist zugleich auch das Problem.
Bei der herkömmlichen KI-Sicherheit liegt der Schwerpunkt auf der Filterung von Eingaben und der Auswertung von Ausgaben. Die Sicherheit durch agentenbasierte KI erstreckt sich bis in die Aktionsebene, wo Agenten mit Patch-Pipelines, Geheimspeichern und Konfigurationsmanagementsystemen in Echtzeit interagieren.
Dieser Beitrag beschreibt die wichtigsten, für agentenbasierte KI spezifischen Bedrohungsvektoren, erläutert, warum bestehende Kontrollmaßnahmen unzureichend sind, und skizziert die technische Architektur, die das Verhalten der Agenten auf Endgeräteebene steuert.
Was versteht man unter agentischer KI-Sicherheit?
Die „Agentic AI“-Sicherheit schützt autonome KI-Systeme, die in der Lage sind, eigenständig zu planen, Entscheidungen zu treffen und mehrstufige Maßnahmen in Unternehmensnetzwerken durchzuführen, ohne dass eine ständige menschliche Überwachung erforderlich ist. Das Schlüsselwort lautet hier „Maßnahmen“. Bei der herkömmlichen Sicherheit von großen Sprachmodellen (LLM) liegt der Schwerpunkt darauf, was in ein Modell eingegeben wird (Eingabeaufforderungen) und was daraus hervorgeht (Antworten). Die Sicherheit agentenbasierter KI erstreckt sich auf die tatsächlichen Handlungen des Agenten.
Warum ist diese Unterscheidung von Bedeutung? Ein Chatbot, der halluziniert, erzeugt schlechte Texte. Ein Agent, der Fehlfunktionen aufweist, kann Protokolle löschen, fehlerhaft konfigurierte Patches installieren oder Daten an einen Ort verschieben, an den sie nicht gehören. Agenten verfügen über erweiterte Berechtigungen in Endpunktmanagement-Plattformen, Anmeldedaten-Speichern und Sicherheitstools. Dieser Berechtigungsumfang verändert das Sicherheitsproblem grundlegend.
Wenn es auf die Aktionsschicht ankommt, stellt sich natürlich die Frage: Warum deckt Ihr bestehender Sicherheitsstack diesen Bereich nicht bereits ab?
Warum herkömmliche Steuerungsmechanismen nicht für agentenbasierte KI konzipiert wurden
Ihre SIEM-, EDR- und IAM-Tools bieten grundlegende Kontrollmechanismen. Sie bewältigen sowohl vom Menschen ausgelöste Aktionen als auch regelbasierte Automatisierung gut. Agentische KI führt etwas ein, wofür diese Tools nicht konzipiert wurden: autonome, nicht-deterministische Entscheidungsfindung mit Maschinen-Geschwindigkeit über mehrere Systeme hinweg in einer einzigen Ausführungskette.
An dieser Stelle treten die Lücken zutage:
- Autonomes Schlussfolgern unterläuft deterministische Richtlinienprüfungen. Das Verhalten eines Agenten ist nicht deterministisch: Ein Agent entscheidet zur Laufzeit, welches Tool er mit welchen Parametern aufruft, wobei er sich eher auf probabilistische Schlussfolgerungen als auf eine festgelegte Logik stützt. Statische Regeln können weder die Entscheidungen vorhersagen, die KI-Agenten zur Laufzeit treffen, noch vorhersagen, welche Werkzeuge sie als Nächstes aufrufen werden.
- Die Integration von Tools vergrößert die Angriffsfläche. Jedes System, das der Agent erreichen kann, wird zu einem Ein- oder Ausstiegspunkt. Endpunktmanagement-Plattformen, Patch-Pipelines, Speichersysteme für Anmeldedaten, SIEM-Integrationen: Ein einziger kompromittierter Agent kann alle diese Systeme betreffen.
- Persistenter Speicher schafft neue Expositionsvektoren. Bei Agenten, die den Kontext über mehrere Sitzungen hinweg beibehalten, kann es zu einer Verfälschung dieses Speichers kommen. Ein verzerrtes Gedächtnis führt zu verzerrten Entscheidungen, die der tatsächlichen Infrastruktur zuwiderlaufen.
- Multi-Agenten-Systeme bergen Übergaberisiken, die sich an jedem Koordinationspunkt vervielfachen. Zwischen Agenten übermittelte Befehle können abgefangen oder mit schädlichen Nutzdaten versehen werden, die sich über agentenbasierte Arbeitsabläufe und Endpunktmanagement-Pipelines ausbreiten.
Herkömmliche Sicherheitskonzepte gehen von Entscheidungszyklen in menschlichem Tempo und von durch Menschen ausgelösten Maßnahmen aus. Agentenbasierte Architekturen funktionieren anders: Sie führen autonomes Schlussfolgern, persistenten Speicher und die Koordination mehrerer Systeme ein – Aspekte, für deren Steuerung bestehende Steuerungsebenen nicht ausgelegt waren. Die Steuerungsebene muss entsprechend angepasst werden.
Dieser Wandel beginnt damit, zu verstehen, wo agentische KI-Bedrohungen tatsächlich zum Tragen kommen. Die Antwort lautet: Ihre Endgeräte.
Der Endpunkt ist die Angriffsfläche
Wenn ein agentenbasiertes KI-System einen Tool-Aufruf ausführt, wird die Aktion an den Endpunkten ausgeführt. Konfigurationsänderungen, Dateiänderungen, Prozessausführung, Netzwerkverbindungen, Zugriff mit Anmeldedaten: All dies findet auf den Endgeräten in Ihrer gesamten Umgebung statt.
Die Angriffsfläche lässt sich bestimmten Systemen zuordnen:
- Endpunktmanagement-Plattformen: Agenten, die Konfigurationen oder Softwarebereitstellungen übertragen
- Patch-Pipelines: Agenten, die Aktualisierungen über Gerätegruppen hinweg planen oder ausführen
- SIEM-Integrationen: Agenten, die Erkennungsregeln erstellen oder ändern
- Anmeldedaten-Speicher: Agenten, die Geheimnisse zur Authentifizierung anfordern und verwenden
Um das Verhalten eines kompromittierten Agenten zu erkennen, müssen die Aktionen des Agenten mit den Zustandsänderungen des Endgeräts in Zusammenhang gebracht werden. Die Überwachung der Agentenplattform allein reicht nicht aus. Sie benötigen einen Überblick darüber, was auf den Endgeräten geschieht, auf denen die Aktionen ausgeführt werden.
Häufige Angriffsvektoren, die auf Endgeräte in Unternehmen abgebildet wurden
Autonome KI-Agenten eröffnen Angriffswege, die über herkömmliche KI-Sicherheitsmodelle hinausgehen. Die folgenden Beispiele beziehen sich auf Unternehmenssysteme und die zu deren Absicherung erforderlichen Kontrollmaßnahmen.
Sofortige Einfügung in die Aktionsschicht
Die Injektion von Prompts bei einem Agenten mit Zugriff auf Endpunkt-Tools unterscheidet sich von der Injektion bei einem Chatbot. Da agentenbasierte Systeme natürliche Sprache als Steuerungsebene nutzen (indem sie Anweisungen aus Dokumenten, E-Mails, Webinhalten und Tool-Ausgaben interpretieren), können böswillige Anweisungen, die in eine beliebige Datenquelle eingeschleust werden, die der Agent nutzt, von diesem interpretiert und ausgeführt werden. Dies ist eine indirekte Befehlseinspeisung: Der Angreifer tritt zu keinem Zeitpunkt direkt mit dem Agenten in Kontakt.
Nutzung von Tools und APIs
Der Missbrauch von Tools (bei dem ein Mitarbeiter dazu verleitet wird, legitime Endpunktmanagement-Tools missbräuchlich zu nutzen) kann zur Löschung von Protokollen, zum Zugriff auf eingeschränkte Konfigurationen oder zur unbefugten Ausführung von Skripten über Gerätegruppen hinweg führen. Das Risiko steigt proportional zum Schreibzugriff des Akteurs auf die Produktionsinfrastruktur.
Erweiterung von Berechtigungen durch Vertrauensbeziehungen
Agenten, die mit bereichsbezogenen Berechtigungen starten, können manipuliert werden, um erweiterte Zugriffsrechte zu erlangen. Angreifer können Vertrauensbeziehungen zwischen Agenten und Endgeräteplattformen ausnutzen, um ihren Zugriffsbereich innerhalb der gesamten Geräteflotte von Lesezugriff auf Schreibzugriff auf Konfigurationsdaten auszuweiten.
Beeinträchtigung der Lieferkette
Agenten-Frameworks und deren Plugin-Ökosysteme bergen Risiken in der Lieferkette, die mit herkömmlichen Software-Prüfverfahren nicht erkannt werden können. Ein kompromittiertes oder bösartiges Tool-Plugin kann einem Angreifer über die Berechtigungen des Agenten selbst dauerhaften Zugriff verschaffen, ohne dass dabei die üblichen Endpunktwarnungen ausgelöst werden.
Beschädigte Tool-Schemas, manipulierte Plugin-Register und irreführende Tool-Beschreibungen können das Verhalten der Agenten bereits an der Quelle umleiten, noch bevor eine Aktion Ihre Erkennungsschicht erreicht. Überprüfen Sie jede Tool-Integration genauso, wie Sie eine Softwareabhängigkeit eines Drittanbieters überprüfen würden: Prüfen Sie den Quellcode, legen Sie Versionen fest und achten Sie auf unerwartetes Verhalten.
Speichervergiftung
Angreifer können irreführende Daten in den persistenten Kontext eines Agenten einschleusen. Der Agent stützt seine langfristigen Entscheidungen dann auf falsche Prämissen, was möglicherweise zu fehlerhaften Infrastrukturentscheidungen über mehrere Sitzungen hinweg führen kann.
Unbeabsichtigte autonome Handlungen in großem Umfang
Agenten können aufgrund mehrdeutiger Anweisungen oder fehlerhafter Tool-Aufrufe Fehlkonfigurationen, falsche Patches oder schädliche Korrekturmaßnahmen auf Tausende von Endpunkten übertragen. Fehler breiten sich schneller aus, als jedes Team darauf reagieren kann.
Schattenagenten und ausufernde Bereitstellung
Mitarbeiter, die nicht autorisierte Agenten einsetzen, die mit der Endgeräteinfrastruktur interagieren, schaffen blinde Flecken. Falsch konfigurierte, genehmigte Agenten, die Maßnahmen außerhalb ihres vorgesehenen Anwendungsbereichs ausführen, bergen dieselben Risiken, auch wenn keine böswillige Absicht vorliegt.
Klicken Sie auf einen der unten aufgeführten Bedrohungsvektoren, um den Endpunktkontext und die empfohlenen Kontrollmaßnahmen anzuzeigen.
OWASP: Entführung des Agentenziels
Schädliche Befehle, die in beliebige Datenquellen eingeschleust werden, auf die der Agent zugreift – darunter Dokumente, E-Mails und Ausgaben von Tools –, können vom Agenten interpretiert und ausgeführt werden. Der Angreifer nimmt niemals direkt Kontakt mit dem Agenten auf.
Endpunktkontext
Agenten mit Zugriff auf Endpunkt-Tools können durch indirekte Injektion missbraucht werden, um Konfigurationen zu übertragen oder Skripte über Gerätegruppen hinweg auszuführen, ohne dass eine direkte Interaktion seitens des Angreifers erforderlich ist.
Empfohlene Kontrollmaßnahmen
- Eingabevalidierung
- Ausführung in einer Sandbox
- Protokollierung von Aktionen
- Prüfungen der Datenintegrität
Diese Vektoren entsprechen den OWASP Top 10 für agentenbasierte Anwendungen unter 2026. Das vollständige Rahmenwerk entnehmen Sie bitte der vollständigen Liste.
Bedrohungsvektoren treten nicht isoliert auf. Agentische KI wird sowohl von Verteidigern als auch von Angreifern zunehmend eingesetzt, was zu Spannungen führt, mit denen Sicherheitsteams derzeit konfrontiert sind.
Agentische KI auf beiden Seiten der Bedrohung
Cybersicherheitsteams stehen vor einer doppelten Herausforderung: Sie müssen ihre eigenen agentenbasierten KI-Systeme absichern und sich gleichzeitig gegen agentenbasierte KI von Angreifern verteidigen.
Auf der offensiven Seite nutzen Angreifer agentische KI, um die Erkundung in Endpunktumgebungen zu beschleunigen und Phishing-Kampagnen zu automatisieren, die sich an die Konfigurationen der Endpunkte anpassen. Sie verketten Exploits über verschiedene Sicherheitslücken hinweg in Rechnergeschwindigkeit und setzen Malware-Payloads ein, deren Verhalten sich je nach Zielumgebung anpasst.
Im Bereich der Verteidigung nutzen Sicherheitsteams agentenbasierte KI zur automatisierten Erkennung von Bedrohungen, zur Koordinierung von Reaktionen in Echtzeit über alle Endgeräte hinweg sowie zur autonomen Behebung bekannter Schwachstellenmuster.
Die Bedienelemente beider Funktionen überschneiden sich zwar, sind jedoch nicht identisch. Um einen Verteidigungsagenten zu sichern, ist eine Steuerung seiner Handlungsmöglichkeiten erforderlich. Um sich gegen einen bösartigen Agenten zu verteidigen, muss man erkennen, was dieser beabsichtigt. Beides erfordert Transparenz und Kontrolle auf Endgeräteebene.
Sicherheitsarchitektur auf Endgeräteebene
Da Modelle des maschinellen Lernens – einschließlich der großen Sprachmodelle, auf denen die meisten agentenbasierten Systeme basieren – probabilistische Schlussfolgerungsmaschinen sind, kann sich die Sicherheit nicht allein auf die internen Eingabeaufforderungen des Agenten stützen. Deterministische Schutzmaßnahmen auf Infrastrukturebene über den gesamten Lebenszyklus des Agenten hinweg bilden die Steuerungsebene.
Dies ist besonders kritisch für agentenbasierte Anwendungen, die direkt mit der Produktionsinfrastruktur interagieren, da sich dort bereits eine einzige fehlerhafte Konfiguration auf Tausende von Endpunkten auswirken kann.
Identität und Authentifizierung des Agenten
Behandeln Sie Agenten als Identitäten erster Klasse mit eigenen Anmeldedaten, die auf bestimmte Endpunktgruppen und Aktionen beschränkt sind. Ordnen Sie die Berechtigungen von Agenten den Modellen der menschlichen Verantwortlichkeit zu. Herkömmlichen IAM-Frameworks fehlt es häufig an der erforderlichen Granularität für eine agentenspezifische Zugriffskontrolle.
Eingeschränkte Ausführungsberechtigungen
Wenden Sie das Prinzip der geringsten Berechtigungen auf jedes Tool an, auf das ein Agent zugreifen kann. Verwenden Sie Just-in-Time-Berechtigungen, die auf bestimmte Aufgaben und Gerätegruppen beschränkt sind. Die Durchsetzung von Richtlinien auf der Ebene des Tool-Aufrufs – und nicht nur auf der Identitätsebene – trägt dazu bei, dass Bereichsbeschränkungen konsequent angewendet werden, unabhängig davon, wie der Agent zu einer bestimmten Aktion gelangt. Legen Sie Grenzen für den Ausführungsbereich fest, sodass keine einzelne Agent-Aktion ohne menschliche Genehmigung mehr als eine festgelegte Anzahl von Endpunkten betrifft.
Speicher- und Kontextintegrität
Legen Sie fest, welche Endpunktdaten die Agenten speichern dürfen. Führen Sie Integritätsprüfungen für den gespeicherten Kontext durch. Nutzen Sie die Sitzungsisolierung, um einen Datenverlust oder eine Datenverfälschung zwischen Sitzungen zu verhindern.
Steuerungen für die Kommunikation zwischen mehreren Agenten
Die Kommunikation zwischen Agenten authentifizieren. Überprüfen Sie die Anweisungen bei jeder Übergabe. Überwachen Sie Koordinationsmuster auf anomale Abfolgen, die auf eine Manipulation hindeuten könnten.
In Multi-Agenten-Architekturen erfasst die Standardprotokollierung zwar die Aktionen jedes einzelnen Agenten, lässt jedoch das emergente Verhalten des Systems als Ganzes außer Acht. Um Aktionen zwischen verschiedenen Agenten miteinander in Beziehung zu setzen, ist ein verteiltes Tracing erforderlich – dasselbe Verfahren, das auch bei der Beobachtbarkeit von Microservices zum Einsatz kommt und hier auf die Kommunikation zwischen Agenten sowie auf gemeinsam genutzte Tool-Aufrufe angewendet wird.
Echtzeitüberwachung und Erkennung von Anomalien
Überwachen Sie die Aktionen der Agenten auf Endgeräteebene in Echtzeit. Stellen Sie einen Zusammenhang zwischen den Aufrufen von Agent-Tools und Änderungen des Endpunktstatus her und beziehen Sie die Analyse des Netzwerkverkehrs mit ein, um laterale Bewegungen oder unbefugte Datenexfiltration zu erkennen, die durch Agent-Aktionen ausgelöst werden. Konfigurieren Sie automatische Eindämmungsauslöser für anomale Verhaltensmuster.
Protokollierung von Prüfvorgängen und Erklärbarkeit
Protokollieren Sie Entscheidungen des Agenten, Tool-Aufrufe und Änderungen an Endpunkten umfassend. Die Nachvollziehbarkeit – also die Möglichkeit, genau nachzuvollziehen, was ein Akteur wann und warum getan hat – ist sowohl für forensische Untersuchungen als auch für die Nachweisführung im Rahmen der Einhaltung gesetzlicher Vorschriften von grundlegender Bedeutung.
„Human-in-the-Loop“-Prüfungen
Für Maßnahmen mit weitreichenden Auswirkungen, wie beispielsweise flottenweite Konfigurationsänderungen oder Anpassungen der Sicherheitsrichtlinien, ist eine manuelle Genehmigung erforderlich. Führen Sie eine Konfidenzbewertung ein, um unsichere Entscheidungen der Agenten zur Überprüfung durch einen Menschen weiterzuleiten.
| Autonomiegrad | Beschreibung | Erforderliche Kontrollmaßnahmen |
|---|---|---|
| Keine Agentur | Die KI gibt lediglich Empfehlungen ab | Überprüfung der Standardausgabe |
| Vorgeschrieben | Der Agent führt vordefinierte Aktionen aus | Aktionsprotokollierung, begrenzter Geltungsbereich |
| Unter Aufsicht | Der Agent schlägt Maßnahmen vor, der Mensch genehmigt sie | Genehmigungsworkflows, Konfidenzbewertung |
| Volle Autonomie | Der Beauftragte handelt eigenständig | Alle oben genannten Kontrollmaßnahmen sowie Anomalieerkennung und automatisierte Auslöser für Eindämmungsmaßnahmen |
Was vor der Bereitstellung erforderlich ist
Bevor Sie ein agentenbasiertes KI-Tool einsetzen oder ein bereits im Einsatz befindliches Tool bewerten, sollten Sie sich zunächst mit diesen Fragen, Kontrollmaßnahmen und Überwachungsanforderungen befassen.
Fragen, die Sie stellen sollten
- Welche Endpunkte kann dieser Agent erreichen?
- Welche Aktionen kann es ausführen, und mit welchen Berechtigungen?
- Wie groß ist der Schadensumfang einer einzigen fehlerhaft konfigurierten Aktion?
- Welchen Prüfpfad erzeugt das System?
- Wie werden Zugangsdaten verwaltet und regelmäßig ausgetauscht?
Die Durchführung einer Bedrohungsmodellierung, die speziell auf den Tool-Zugriff, den Berechtigungsumfang und die Datenflusspfade Ihres Agenten zugeschnitten ist, vor der Bereitstellung trägt dazu bei, Risiken mit weitreichenden Auswirkungen aufzudecken, die bei allgemeinen Sicherheitsbewertungen übersehen werden. Erfassen Sie alle Tools, die der Agent aufrufen kann, die Daten, auf die jedes Tool zugreifen kann, sowie den maximalen Umfang der Änderungen, die jedes Tool vornehmen kann.
Ein Red-Team-Test Ihrer agentenbasierten Bereitstellung vor der Inbetriebnahme ist eine der wirksamsten Methoden, um Kontrolllücken aufzudecken, die bei einer statischen Analyse übersehen werden. Simulieren Sie Szenarien wie die Einfügung böswilliger Eingabeaufforderungen, Versuche der Rechteausweitung und den Missbrauch von Tools, um die Kontrollmechanismen vor der Einführung einer Belastungsprüfung zu unterziehen.
Erforderliche Kontrollen
- Begrenzter Ausführungsbereich mit festgelegten Endpunktgrenzen
- Berechtigungen nach dem Prinzip der geringsten Privilegien mit Just-in-Time-Zuweisungen
- Genehmigung durch einen Menschen im Regelkreis für flottenweite Änderungen
- Sitzungsisolierter Speicher mit Integritätsprüfung
- Authentifizierte Kommunikation zwischen Agenten
- Echtzeit-Endpunktüberwachung mit Anomalieerkennung
Was ist nach der Bereitstellung zu überwachen?
- Agenten-Aktionsprotokolle, die mit Änderungen des Endpunktstatus korrelieren
- Änderungen des Berechtigungsumfangs und Eskalationsversuche
- Speicherintegrität und Kontextverschiebung
- Koordinationsmuster bei Multi-Agenten-Systemen
- Unbefugte Bereitstellung von Agenten
Wie Tanium den sicheren Einsatz agentenbasierter KI unterstützt
Da Agenten zunehmend nicht mehr nur Texte generieren, sondern auch Maßnahmen an Endgeräten ergreifen, verschiebt sich auch die Herausforderung im Bereich der Sicherheit. Unternehmen müssen nachvollziehen können, welche Aktionen Agenten in ihrer Infrastruktur ausführen, beurteilen, ob diese Aktionen zulässig waren, und reagieren, wenn dies nicht der Fall war.
Genau diese Art von Problem soll die „ “ Tanium Autonomous IT Platform lösen. Durch die Zusammenführung von Endpunktmanagement, Risiko-Management und Sicherheitsoperationen auf einer einzigen Plattform können Transparenz, Bewertung und Reaktion koordiniert erfolgen, anstatt über einzelne, voneinander getrennte Tools verstreut zu sein.
So funktioniert es:
- Gesteuerte Autonomie auf der Handlungsebene: Autonome Agenten benötigen deterministische Steuerungsmechanismen und nicht nur Leitplanken in ihren Eingabeaufforderungen. Tanium Ask Agent arbeitet mit rollenbasiertem Zugriff, Berechtigungen unter menschlicher Aufsicht und einer Vertrauensbewertung. Bei der schrittweisen, ringbasierten Bereitstellung werden Änderungen in kontrollierten Chargen eingeführt, sodass sich eine fehlerhaft konfigurierte Aktion nicht auf die gesamte Flotte ausbreitet, bevor sie von einem Mitarbeiter überprüft wurde.
- Erkennung auf Endpunkt-Ebene statt Rückschlüsse aus Plattformprotokollen: Um das Verhalten eines kompromittierten Agenten zu erkennen, müssen die Aktionen des Agenten mit Änderungen des Endpunktzustands korreliert werden. Tanium ruft Daten bei Bedarf direkt vom Endgerät ab und nicht aus einer Datenbank. Wenn ein Agent eine Konfiguration ändert, Software bereitstellt oder auf einen Anmeldedaten-Speicher zugreift, können die Teams in Echtzeit sehen, was sich wo geändert hat. Durch kontinuierliche Überwachung und Echtzeit-Warnmeldungen werden Abweichungen vom erwarteten Verhalten an dem Endpunkt, an dem die Aktion stattfand, aufgedeckt.
- Proaktive Bewertung zur Verringerung des Schadensumfangs: Agenten, die mit der Endpunktinfrastruktur interagieren, übernehmen deren Schwachstellenstatus. Ist die Infrastruktur nicht auf dem neuesten Stand oder falsch konfiguriert, verstärken sich die Auswirkungen von durch Agenten ausgelösten Fehlern oder Berechtigungserweiterungen. Die Plattform bietet eine kontinuierliche Endpunktsicherheit in der gesamten Infrastruktur und unterstützt so die Erkennung von Risiken sowie die Einhaltung von Vorschriften durch integrierte Abhilfemaßnahmen, die die Angriffsfläche so gering wie möglich halten.
Für Teams, die prüfen, wie sie autonome KI in ihrem Umfeld steuern können, baut Tanium auf der Endpunktinfrastruktur auf, die Sie bereits verwalten. Es ist kein separater Sicherheitsstack erforderlich.
Häufig gestellte Fragen zur Sicherheit agentischer KI
Bevor Sie diese Ideen in die Praxis umsetzen, ist es hilfreich, sich zunächst über die Grundlagen klar zu werden. In diesen FAQs werden die wichtigsten Fragen aufgegriffen, die sich Teams derzeit zum Thema Sicherheit im Zusammenhang mit agentenbasierter KI stellen.
Warum funktionieren herkömmliche Sicherheitsinstrumente bei agentenbasierter KI nicht?
Herkömmliche SIEM-, EDR- und IAM-Tools wurden für Entscheidungen in menschlicher Geschwindigkeit und vorhersehbare Automatisierung entwickelt, nicht für autonome Agenten, die Laufzeitentscheidungen systemübergreifend in maschineller Geschwindigkeit treffen und dabei auf persistenten Speicher sowie die Koordination mehrerer Agenten zurückgreifen.
Wo werden Bedrohungen durch agentische KI tatsächlich ausgeführt?
Bedrohungen durch agentenbasierte KI treten an Endpunkten auf, darunter Geräte, Server und Cloud-Instanzen, wo Agenten Tool-Aufrufe ausführen, die Konfigurationen übertragen, Dateien ändern, auf Anmeldedaten zugreifen und den Systemzustand über Endpunkt-Management-Plattformen, Patch-Pipelines und SIEM-Integrationen hinweg verändern.
Was sind die wichtigsten Bedrohungsvektoren für agentische KI?
Zu den wichtigsten Angriffsvektoren zählen das sofortige Einschleusen auf der Aktionsschicht, die Ausnutzung von Tools und APIs, die Ausweitung von Berechtigungen über Vertrauensbeziehungen, Speichervergiftung, die Kompromittierung der Lieferkette über Ökosysteme von Agent-Plugins, unbefugte oder fehlerhaft konfigurierte Agent-Bereitstellungen sowie unbeabsichtigte autonome Aktionen, die sich in großem Umfang ausbreiten.
Wie gewährleistet man die Sicherheit beim Einsatz einer agentenbasierten KI?
Für den sicheren Einsatz agentenbasierter KI sind die Identifizierung und Authentifizierung der Agenten, begrenzte Ausführungsberechtigungen nach dem Prinzip der geringsten Berechtigungen, Überprüfungen der Speicher- und Kontextintegrität, eine Echtzeitüberwachung in Korrelation mit Statusänderungen an Endpunkten, eine umfassende Protokollierung sowie „Human-in-the-Loop“-Kontrollen für Maßnahmen mit schwerwiegenden Folgen erforderlich.
Wie groß ist der Wirkungsradius eines kompromittierten Agenten?
Ein kompromittierter Agent mit Schreibzugriff auf Endpunkt-Management-Plattformen kann fehlerhaft konfigurierte Updates verbreiten, Protokolle löschen oder Sicherheitsrichtlinien auf Tausenden von Endpunkten ändern, bevor menschliche Bediener diese Aktivitäten erkennen und eindämmen können.
Sicherheit im Bereich der agentenbasierten KI beginnt damit, zu wissen, was Agenten leisten können und wo sie dies tun.
Tanium bietet Transparenz und Kontrolle über Endgeräte in Echtzeit, sodass Sie das Verhalten von Agenten dort steuern können, wo es tatsächlich ausgeführt wird.
Vereinbaren Sie eine individuelle Demo unter , um zu erfahren, wie die „Autonomous IT Platform“ von Tanium sichere agentenbasierte KI-Abläufe in Ihrer gesamten Endgeräteumgebung unterstützt.
