Überall in den IT-Sicherheitsabteilungen schlagen die Alarmglocken, und diesmal ist der Übeltäter weder ein Hacker noch eine ausgeklügelte Malware – es handelt sich um etwas weitaus Beunruhigenderes: „Shadow AI“.
Falls Sie den Begriff „“ oder „Shadow-IT“ bereits gehört haben – wobei Mitarbeiter offizielle Kanäle umgehen, um ihre eigenen Geräte oder Software zu nutzen –, dann ist Ihnen das Konzept der „Shadow-KI“ wahrscheinlich bereits bekannt. Der Begriff bezieht sich auf die nicht genehmigte, unbefugte Nutzung von Tools der generativen KI (GenAI) – wie ChatGPT, Googles Gemini und andere große Sprachmodelle (LLMs) – durch Mitarbeiter innerhalb von Unternehmen ohne Genehmigung der IT-Abteilung. Und dies stellt eine zunehmende Bedrohung für Unternehmensdaten dar.
Tatsächlich prognostiziert Gartner, dass bis zum Jahr 2027, 75 % der Mitarbeiter Technologien außerhalb des Sichtfelds der IT-Abteilung erworben, angepasst oder entwickelt haben werden – ein Anstieg gegenüber 41 % im Jahr 2022. Unterdessen gaben mehr als die Hälfte (55 %) der weltweit von Salesforce im Jahr 2023 befragten Mitarbeiter an, nicht genehmigte GenAI-Tools bei der Arbeit zu nutzen. Das sind eine Menge vertraulicher oder sensibler Unternehmenscodes, Dokumente und Präsentationen, die außerhalb der Unternehmens-Firewalls entwickelt und in Modelle eingespeist werden.
Wenn Sie das an jene aufregenden Zeiten erinnert, als Mitarbeiter erstmals begannen, Unternehmensrichtlinien zu missachten und ihre privaten Geräte für den Zugriff auf Unternehmensnetzwerke zu nutzen, dann zu Recht. Dieser Trend, eigene Geräte („Bring Your Own Device“, BYOD) mit zur Arbeit zu bringen, warf für die IT-Mitarbeiter ähnliche Fragen auf: Sollen wir diese Technologie gänzlich verbieten und vom Unternehmen geprüfte Alternativen bereitstellen, oder sollen wir Wege finden, sie sicher zu integrieren?
Obwohl die meisten Unternehmen schnell erkannten, dass sie diesen rasanten BYOD-Zug nicht aufhalten konnten, neigt die Geschichte dazu, sich zu wiederholen. Unternehmen wie Accenture, Amazon, Apple, BofA, Calix, Citigroup, Goldman Sachs, Microsoft, Northrop Grumman, Samsung, Spotify, Verizon und Wells Fargo versuchen Berichten zufolge alle, ihren Mitarbeitern die Nutzung externer KI-Tools wie ChatGPT zu untersagen. Zwei Drittel der 20 führenden Pharmaunternehmen sowie zahlreiche öffentliche Schulen verfahren ebenfalls so.
Das zunehmende Problem der „Schatten-KI“
Warum diese drakonischen Maßnahmen? Denn während GenAI-Tools den Zeitgeist erobern, befürchten Arbeitgeber, dass ihre privaten Daten an externe KI-Systeme weitergegeben werden, die manipuliert oder gehackt werden könnten, was Wettbewerbs-, finanzielle oder rechtliche Risiken mit sich bringen würde.
„“ Es ist zwar nicht bösartig, aber dennoch gefährlich. Und dies sind keine Einzelfälle.“Bernard Marr, Technologie-Futurist, Autor und Berater
Stellen Sie sich beispielsweise ein Marketingteam vor, das mithilfe von KI-gestützten Social-Media-Analysen das Kundenverhalten entschlüsselt, Werbekampagnen optimiert und den nächsten großen Trend vorhersagt. Das ist effizient. Ohne die Genehmigung der IT-Abteilung könnten solche Tools jedoch dazu führen, dass sensible Kundendaten oder vertrauliche Unternehmensinformationen offengelegt werden, was möglicherweise zu Datenlecks und schwerwiegenden Verstößen gegen Vorschriften wie HIPAA oder DSGVO führen könnte.
„Ich habe in letzter Zeit bei meinen Kunden mehrere besorgniserregende Vorfälle beobachtet, bei denen Mitarbeiter versehentlich sensible Informationen an öffentliche KI-Systeme weitergegeben haben – von Produkt-Roadmaps bis hin zu Finanzdaten“, sagt Bernard Marr, Technologie-Futurist, Autor und Berater. „Es ist nicht böswillig, aber es ist gefährlich. „Und dies sind keine Einzelfälle; sie treten häufiger auf, als den Unternehmen bewusst ist oder als sie zugeben möchten.“
Tim Morris, Chef-Sicherheitsberater bei Tanium für den amerikanischen Raum, warnt vor einem weiteren, weniger bekannten „Schatten“-Trend im Bereich der KI: Abteilungen, die GenAI-Tools zur Bewältigung spezifischer Aufgaben benötigen, finden in den vorhandenen Tools nicht das, was sie benötigen, und entwickeln daher ihre eigenen Lösungen unter Verwendung handelsüblicher LLMs. Das Problem bei diesem Ansatz: Die IT-Abteilung hat die Modelle nicht für den internen Gebrauch geprüft.
„Niemand versteht, woher das Modell stammt, was darin enthalten ist, wozu es ursprünglich gedacht war und welche Rolle es in Ihrem Unternehmen spielt“, sagt er. „Es lässt sich unmöglich einschätzen, wie sicher das System ist und ob es Ihre Daten – und Ihr Unternehmen – externen Bedrohungen und Risiken aussetzt.“
[Lesen Sie auch: 4 kritische Führungsprioritäten für CISOs im KI-Zeitalter]
Marr und Morris haben Verständnis für das Bestreben von Unternehmen, solche Probleme durch ein Verbot externer Chatbots zu unterbinden. Marr erklärt, dass die Entwicklung und Bereitstellung sicherer Alternativen für die Mitarbeiter eine praktikable Lösung sein kann – sofern diese den Funktionen von ChatGPT, Bard und anderen Tools nahekommen.
„Eigene Lösungen können funktionieren, wenn sie robust genug sind“, sagt Marr. „Entscheidend ist, die Leistungsfähigkeit und Benutzerfreundlichkeit der KI für Endverbraucher zu erreichen.“
Sollten Unternehmen dazu jedoch nicht in der Lage sein, so sagt er, würden die Mitarbeiter Wege finden, öffentliche Tools zu nutzen – ungeachtet der Unternehmensrichtlinien.
1 überraschende Tatsache über „Shadow AI“ – und 4 Maßnahmen, um ihr entgegenzuwirken
Der Grund für solche Regelverstöße mag manche Führungskräfte in Unternehmen überraschen.
„Ihre Mitarbeiter, die Schatten-KI nutzen, haben wirklich gute Absichten – in den meisten Fällen versuchen sie lediglich herauszufinden, wie sie ihre Arbeit besser und schneller erledigen können.“Candy Alexander, CISO und Leiterin der Cyber-Praxis, NeuEon Inc.
„Ihre Mitarbeiter, die ‚Shadow-KI‘ nutzen, haben wirklich gute Absichten – in den meisten Fällen versuchen sie lediglich herauszufinden, wie sie ihre Arbeit besser und schneller erledigen können“, sagte Candy Alexander, CISO und Leiterin des Bereichs Cybersicherheit bei NeuEon Inc. In einer kürzlich ausgestrahlten Folge von „ “, dem Begleit-Podcast zu „Focal Point“, „ “ , „Let’s Converge“ sowie „ “ erläuterte Alexander den Drang, sich jenseits der Grenzen von unternehmenskonformer Software zu bewegen. „Viele Nutzer stellen fest, dass die Beantragung der Nutzung von Software in amerikanischen Unternehmen oft ein langwieriger und schwieriger Prozess sein kann.“ „Also probieren sie kostenlose Versionen von ‚Lückentexten‘ aus.“
In diesem Fall gleicht der Versuch, die KI-Tools der Mitarbeiter zu kontrollieren, dem Versuch, Katzen zu hüten, da die Technologie zu allgegenwärtig und nützlich ist, als dass man sie ihnen vorenthalten könnte. Tatsächlich geben 40 % der Beschäftigten zu, verbotene GenAI-Tools am Arbeitsplatz zu nutzen, wie die Salesforce-Umfrage ergab.
„Ein vollständiges Verbot von ChatGPT dürfte nach hinten losgehen“, sagt Marr. „Die Mitarbeiter werden Ausweichlösungen finden, und die Unternehmen laufen Gefahr, bei entscheidenden KI-Fähigkeiten ins Hintertreffen zu geraten.“
Wenn Unternehmen also einsehen, dass sie GenAI-Anwendungen von Drittanbietern nicht auf Dauer verbieten können, wie können sie dann die Situation in den Griff bekommen und „Schatten-KI“ einschränken? Hier sind vier Strategien, die Sie in Betracht ziehen sollten:
1. Klären Sie Ihre Mitarbeiter über die Risiken von „Shadow-KI“ auf
Die erste Verteidigungslinie ist die Aufklärung. Viele Mitarbeiter sind sich nicht bewusst, dass öffentlich zugängliche KI-Tools möglicherweise vertrauliche Daten offenlegen könnten . Weltweit gaben 70 % der Beschäftigten gegenüber Salesforce an, dass sie noch nie eine Schulung zum sicheren und ethischen Umgang mit generativer KI erhalten oder absolviert haben. Selbst die Fachleute – IT-Sicherheitsteams – geben zu, dass dies für sie Neuland ist: 65 % der Fachleute gaben in einer kürzlich von Splunk durchgeführten Umfrage „ “ ( ) an, dass es ihnen an Wissen über GenAI mangelt.
Experten wie Morris empfehlen, dass Unternehmen ihre Teams über die Risiken aufklären, die mit der Offenlegung firmeneigener Informationen durch externe LLMs verbunden sind, und ihnen Ratschläge geben, wie sie dies verhindern können. Diese bewährten Vorgehensweisen sollten grundlegende Informationen darüber enthalten, wie KI-Chatbots Daten speichern und verarbeiten, welche Informationen an diese Tools weitergegeben werden dürfen und welche nicht, welche Tools die Organisation zur Nutzung genehmigt hat sowie etwaige Maßnahmen zur Meldung einer unbefugten Nutzung dieser Tools.
„Unternehmen müssen umfassende Schulungsprogramme entwickeln, um alle ihre Mitarbeiter über die Risiken von Schatten-KI aufzuklären – ähnlich wie bei der Cybersicherheitsschulung ‚ ‘ , die sie bereits absolviert haben“, sagt Morris.
2. Richtlinien zur künstlichen Intelligenz entwickeln und durchsetzen
Sechzig Prozent der Fachkräfte im Bereich „Digital Trust“ bei „ “ befürchten, dass böswillige Akteure GenAI ausnutzen werden. Dennoch verfügen laut einer ISACA-Blitzumfrage nur 15 % der Unternehmen über KI-Richtlinien, um dem entgegenzuwirken.
„Sie müssen ein Gleichgewicht zwischen Innovation und Kontrolle finden, sonst werden Ihre Mitarbeiter Ihre Einschränkungen einfach umgehen.“Tim Morris, Chef-Sicherheitsberater für Nord- und Südamerika bei Tanium
„Sie müssen ein Gleichgewicht zwischen Innovation und Kontrolle finden, sonst werden die Mitarbeiter Ihre Einschränkungen einfach umgehen, so wie sie es bereits beim BYOD getan haben“, sagt Morris.
Konkret empfiehlt Morris Unternehmen, „ “ KI-Governance-Rahmenwerke einzuführen, die klare Standards für den Einsatz von KI-Tools festlegen. Eine Verzögerung könnte die Mitarbeiter dazu veranlassen, eigene KI-Projekte zu entwickeln und dabei Sicherheitsprotokolle zu umgehen, sagt er. Entscheidend ist es, Innovation und Kontrolle in Einklang zu bringen und dabei Flexibilität innerhalb sicherer Grenzen zu ermöglichen.
Morris fügt jedoch eine Einschränkung hinzu: Jede KI-Richtlinie muss ein Verfahren für den Umgang mit Ausnahmen enthalten. Die Mitarbeiter sollten über die Richtlinie, deren Gründe sowie darüber informiert werden, wie sie Ausnahmen oder zusätzliche Hilfsmittel beantragen können. Er erklärt, dass eine klare Kommunikation Frustration verhindert und das Risiko verringert, dass Mitarbeiter eigenmächtig nach nicht genehmigten KI-Tools suchen.
3. Überwachen Sie die Nutzung von KI mithilfe von Endpunktsicherheit
Die Überwachung der Nutzung von Schatten-KI ist nicht mehr nur eine Option – sie ist unverzichtbar, denn selbst wenn ein Unternehmen angemessene GenAI-Tools anbietet, wird es immer einen unzufriedenen Einzelgänger geben, der seine eigene Variante entwickelt.
Endpoint-Sicherheitslösungen wie Tanium (der Herausgeber dieses Magazins) bieten Einblick in die nicht genehmigte Nutzung von KI, indem sie LLMs und zugehörige Skripte auf den Geräten der Mitarbeiter erkennen. Diese Tools können IT-Abteilungen dabei unterstützen, unbefugte Downloads zu verfolgen, verdächtige Aktivitäten zu kennzeichnen und die Einhaltung der Unternehmensrichtlinien sicherzustellen. Kontrollmaßnahmen auf Netzwerkebene, wie beispielsweise die Blockierung von Inhalten über einen Proxy, können ebenfalls den Zugriff auf nicht genehmigte KI-Tools verhindern.
4. Führen Sie regelmäßige Prüfungen und Überprüfungen durch
Die KI-Landschaft entwickelt sich zu schnell, als dass man sie nach dem Motto „Einmal einrichten und dann vergessen“ behandeln könnte. IT-Abteilungen müssen den Einsatz von KI im gesamten Unternehmen kontinuierlich überprüfen und bewerten. Dazu gehören die Überwachung der Einhaltung von KI-Richtlinien, die Analyse neu auftretender Bedrohungen sowie die Aktualisierung von Sicherheitsprotokollen, sobald neue Tools und Anwendungsfälle aufkommen.
Die Entwicklung der KI schreitet mit rasender Geschwindigkeit voran, und die Sicherheitsrisiken nehmen ebenso schnell zu. Kontinuierliche Audits und Risikobewertungen sind von entscheidender Bedeutung, um potenziellen Sicherheitsverletzungen zuvorzukommen.
Der Weg in die Zukunft
„Shadow AI“ ist, ebenso wie zuvor „Shadow IT“ und „BYOD“, eine natürliche Folge der rasanten Konsumerisierung der Technologie. Mitarbeiter möchten KI nutzen, da sie dadurch produktiver arbeiten können, und IT-Abteilungen können diesen Produktivitätsschub nicht ignorieren. Ohne angemessene Steuerung, Überwachung und Sicherheitsmaßnahmen könnte „Shadow-KI“ jedoch zu einer tickenden Zeitbombe für Unternehmen weltweit werden.
„Die Lösung besteht nicht darin, diese Tools zu verbieten, sondern darin, klare Richtlinien festzulegen, die Mitarbeiter zu schulen und sichere Alternativen einzusetzen, die den Anforderungen des Unternehmens entsprechen“, sagt Morris. „Wie jede Technologie stellt auch die Schatten-KI sowohl eine Herausforderung als auch eine Chance dar. „Die Unternehmen, denen es gelingt, das richtige Gleichgewicht zwischen Innovation und Sicherheit zu finden, werden in der von KI geprägten Zukunft erfolgreich sein.“
