Alarmglocken klingen überall in IT-Sicherheitsabteilungen, und diesmal ist der Täter kein Hacker oder eine ausgeklügelte Malware – es ist etwas viel beunruhigender: Schatten-KI.
Wenn Sie den Begriff „Shadow IT“ gehört haben, bei dem Mitarbeiter offizielle Kanäle umgehen, um ihre eigenen Geräte oder Software zu verwenden, dann kennen Sie wahrscheinlich das Konzept von Shadow AI. Der Begriff bezieht sich auf die nicht genehmigte, unbefugte Nutzung generativer KI-Tools (GenAI) – wie ChatGPT, Googles Gemini und andere große Sprachmodelle (LLMs) – durch Mitarbeiter innerhalb von Organisationen ohne IT-Genehmigung. Und es ist eine wachsende Bedrohung für Unternehmensdaten.
Tatsächlich prognostiziert Gartner, dass bis zu 2027, 75 % der Mitarbeiter Technologie außerhalb der IT-Visibilität erworben, modifiziert oder erstellt haben werden, gegenüber 41 % in 2022. Zwischenzeitlich gab mehr als die Hälfte (55 %) der globalen Mitarbeiter, die 2023 von Salesforce befragt wurden, zu, bei der Arbeit nicht genehmigte GenAI-Tools zu verwenden. Das ist eine Menge privater oder sensibler Unternehmenscodes, Dokumente und Präsentationen, die entwickelt und in Modelle außerhalb von Unternehmens-Firewalls eingespeist werden.
Wenn es Sie an die heiklen Tage erinnert, an denen Mitarbeiter zum ersten Mal damit begannen, Unternehmensrichtlinien zu ignorieren und ihre persönlichen Geräte zu verwenden, um sich mit Unternehmensnetzwerken zu verbinden, sollte es sein. Dass „Bring Your Own Device (BYOD)“ für den Arbeitstrend ähnliche Fragen für IT-Mitarbeiter aufwirft: Verbieten wir diese Technologie insgesamt und bieten wir unternehmensgeprüfte Alternativen an oder finden wir Wege, sie sicher unterzubringen?
Obwohl die meisten Unternehmen schnell erkannten, dass sie diesen schnelllebigen BYOD-Zug nicht stoppen konnten, wiederholt sich die Geschichte tendenziell. Unternehmen wie Accenture, Amazon, Apple, BofA, Calix, Citigroup, Goldman Sachs, Microsoft, Northrop Grumman, Samsung, Spotify, Verizon und Wells Fargo versuchen Berichten zufolge alle, die Nutzung externer KI-Tools wie ChatGPT durch Mitarbeiter zu verbieten. Zwei Drittel der 20 führenden Pharmaunternehmen und viele öffentliche Schulen tun dies ebenfalls.
Das wachsende Problem mit Schatten-KI
Warum die drakonischen Maßnahmen? Da GenAI-Tools den Zeitgeist nutzen, machen sich Arbeitgeber Sorgen darüber, dass ihre privaten Daten mit externen KI-Systemen geteilt werden, die beschädigt oder durchbrochen werden könnten, was Wettbewerbs-, monetäre oder rechtliche Risiken schafft.
„Es ist nicht bösartig, aber gefährlich. Und das sind keine isolierten Ereignisse.“Bernard Marr, Technologiefuturist, Autor und Berater
Stellen Sie sich beispielsweise ein Marketingteam vor, das KI-gestützte Social-Media-Analysen verwendet, um das Kundenverhalten zu dekodieren, Werbekampagnen zu optimieren und den nächsten großen Trend vorherzusagen. Sie ist effizient. Aber ohne die Genehmigung der IT könnten solche Tools die Tür zu sensiblen Kundendaten oder vertraulichen Unternehmensinformationen öffnen, die offengelegt werden, was potenziell zu Datenschutzverletzungen und schwerwiegenden Verstößen gegen Vorschriften wie HIPAA oder DSGVO führen kann.
„Ich habe in letzter Zeit mehrere alarmierende Vorfälle bei meinen Kunden erlebt, bei denen Mitarbeiter versehentlich sensible Informationen an öffentliche KI-Systeme weitergegeben haben, von Produkt-Roadmaps bis hin zu Finanzdaten“, sagt Bernard Marr, Technologiefuturist, Autor und Berater. „Es ist nicht bösartig, aber gefährlich. Und dies sind keine isolierten Ereignisse; sie finden häufiger statt, als Unternehmen erkennen oder zugeben möchten.“
Tim Morris, Chief Security Advisor für Tanium in Nord- und Südamerika, warnt vor einem weiteren, weniger bekannten Schatten-KI-Trend, bei dem Abteilungen, die GenAI-Tools benötigen, um bestimmte Aufgaben zu bewältigen, nicht das erhalten, was sie von bestehenden Tools benötigen, sodass sie ihre eigenen mithilfe kommerziell verfügbarer LLMs erstellen. Das Problem mit diesem Ansatz: Die IT hat die Modelle nicht für den internen Gebrauch bewertet.
„Niemand versteht, woher das Modell kam, was darin enthalten ist, was es tun sollte und was es in Ihrem Unternehmen tut“, sagt er. „Es ist unmöglich zu wissen, wie sicher es ist und ob es Ihre Daten – und Ihr Unternehmen – vor externen Bedrohungen und Expositionen öffnet.“
[Lesen Sie auch: 4 kritische Führungsprioritäten für CISOs im KI-Zeitalter]
Marr und Morris verstehen die Unternehmensimpulse, um solche Probleme zu beseitigen, indem sie externe Chatbots verbieten. Marr sagt, dass der Aufbau und die Bereitstellung sicherer Alternativen für Mitarbeiter eine umsetzbare Lösung sein kann – solange sie sich den Fähigkeiten von ChatGPT, Bard und anderen Tools annähern.
„Inhouse-Lösungen können funktionieren, wenn sie robust genug sind“, sagt Marr. „Der Schlüssel ist, die Leistung und Benutzerfreundlichkeit der Verbraucher-KI anzupassen.“
Aber wenn Unternehmen dies nicht tun können, werden Mitarbeiter Wege finden, öffentliche Tools zu verwenden, unabhängig von den Unternehmensrichtlinien.
Eine überraschende Tatsache über Schatten-KI – und 4 Schritte, um sie zu bekämpfen
Der Grund für einen solchen Regelbruch kann einige Unternehmensleiter überraschen.
„Ihre Mitarbeiter, die Schatten [KI] verwenden, haben wirklich gute Absichten – oft versuchen sie nur herauszufinden, wie sie ihre Arbeit besser und schneller erledigen können.“Candy Alexander, CISO und Leiterin der Cyber-Praxis, NeuEon Inc.
„Ihre Mitarbeiter, die Schatten [KI] verwenden, haben wirklich gute Absichten – oft versuchen sie nur herauszufinden, wie sie ihre Arbeit besser und schneller erledigen können“, sagte Candy Alexander, CISO und Cyber Practice Lead bei NeuEon Inc. Während Alexander über eine kürzliche Folge des Begleitpodcasts von Focal Point, Let’s Converge, sprach, erklärte er den Drang, über die Grenzen der vom Unternehmen genehmigten Software hinauszuwandern. „Viele Benutzer finden, dass die Anforderung der Verwendung von Software eine lange und schwierige Reise in den amerikanischen Unternehmen oder Unternehmen sein kann. Also gehen sie raus und probieren kostenlose Versionen von Fill-in-the-Bleank aus.“
In diesem Fall ist der Versuch, die KI-Tools von Mitarbeitern zu kontrollieren, wie Herdenkatzen, da die Technologie zu allgegenwärtig und hilfreich ist, um sie aus den Händen zu halten. Tatsächlich geben 40 % der Mitarbeiter zu, verbotene GenAI-Tools bei der Arbeit zu verwenden, ergab die Salesforce-Umfrage.
„Banning ChatGPT wird wahrscheinlich im Endeffekt fehlschlagen“, sagt Marr. „Mitarbeiter werden Workarounds finden, und Unternehmen riskieren, bei wichtigen KI-Funktionen in Verzug zu geraten.“
Wenn Unternehmen also akzeptieren, dass sie GenAI-Apps von Drittanbietern nicht für immer verbieten können, wie können sie sich darauf konzentrieren und Schatten-KI einschränken? Hier sind vier Strategien, die berücksichtigt werden sollten:
1. Informieren Sie die Mitarbeiter über die Risiken von Schatten-KI
Die erste Verteidigungslinie ist die Bildung. Viele Mitarbeiter verstehen nicht, dass öffentliche KI-Tools vertrauliche Daten offenlegen könnten, wobei 70 % der Mitarbeiter weltweit Salesforce sagen, dass sie nie Schulungen zur sicheren oder ethischen Verwendung von generativer KI erhalten oder abgeschlossen haben. Selbst die Fachleute – IT-Sicherheitsteams – geben zu, dass dies ein neues Gebiet für sie ist, wobei 65 % der Fachleute in einer kürzlich durchgeführten Umfrage von Splunk zugeben, dass sie keine Ausbildung zu GenAI haben.
Experten wie Morris empfehlen Unternehmen, Teams über die Risiken der Offenlegung proprietärer Unternehmensinformationen durch externe LLMs aufzuklären und sie zu beraten, um dies zu verhindern. Diese Best Practices sollten grundlegende Informationen darüber enthalten, wie KI-Chatbots Daten speichern und verarbeiten, was für diese Tools in Ordnung ist und was nicht, welche Tools die Organisation zur Verwendung autorisiert hat und alle Schritte zur Meldung unbefugter Nutzung von Tools.
„Unternehmen müssen umfassende Schulungsprogramme erstellen, um alle ihre Mitarbeiter über die Risiken von Schatten-KI zu informieren, ähnlich der Cybersicherheitsbewusstseinsschulung , die sie bereits erhalten haben“, sagt Morris.
2. KI-Richtlinien entwickeln und durchsetzen
Sechzig Prozent der Digital-Trust -Profis machen sich Sorgen, dass Angreifer GenAI nutzen werden. Dennoch haben laut einer ISACA-Pulsumfrage nur 15 % der Organisationen KI-Richtlinien, um alles dagegen zu tun.
„Sie müssen ein Gleichgewicht zwischen Innovation und Kontrolle finden, oder die Mitarbeiter werden nur Ihre Einschränkungen umgehen.“Tim Morris, Chief Security Advisor für Nord- und Südamerika, Tanium
„Man muss ein Gleichgewicht zwischen Innovation und Kontrolle finden, oder die Mitarbeiter werden einfach Ihre Einschränkungen wie bei BYOD umgehen“, sagt Morris.
Insbesondere empfiehlt Morris Organisationen, KI -Governance-Frameworks einzurichten, die klare Standards für die Verwendung von KI-Tools setzen. Eine Verzögerung könnte die Mitarbeiter dazu veranlassen, ihre eigenen KI-Projekte zu entwickeln und Sicherheitsprotokolle zu umgehen, sagt er. Der Schlüssel liegt im Ausgleich von Innovation und Kontrolle, was Flexibilität innerhalb sicherer Grenzen ermöglicht.
Ein Vorbehalt, fügt Morris hinzu: Jede KI-Richtlinie muss einen Prozess für die Handhabung von Ausnahmen enthalten. Mitarbeiter sollten über die Richtlinie, ihre Gründe und darüber informiert werden, wie Ausnahmen oder zusätzliche Tools beantragt werden können. Er sagt, dass eine klare Kommunikation Frustration verhindert und die Chancen begrenzt, dass Mitarbeiter unabhängig voneinander nicht autorisierte KI-Tools suchen.
3. Überwachen Sie die KI-Nutzung mit Endpunktsicherheit
Die Überwachung der Schatten-KI-Nutzung ist nicht mehr optional – sie ist unerlässlich, denn selbst wenn ein Unternehmen vernünftige GenAI-Tools anbietet, produzieren einige unzufriedene Unzufriedene immer ihre Variante.
Endpunktsicherheitslösungen wie Tanium (das dieses Magazin veröffentlicht) bieten Visibilität in die nicht genehmigte KI-Nutzung, indem sie LLMs und zugehörige Skripte auf Mitarbeitergeräten erkennen. Diese Tools können IT-Abteilungen dabei helfen, unbefugte Downloads zu verfolgen, verdächtige Aktivitäten zu kennzeichnen und die Einhaltung der Unternehmensrichtlinien sicherzustellen. Kontrollen auf Netzwerkebene, wie z. B. Proxy-Inhaltsblockierung, können auch den Zugriff auf nicht genehmigte KI-Tools verhindern.
4. Führen Sie regelmäßige Audits und Überprüfungen durch
Die KI-Landschaft entwickelt sich zu schnell für einen Ansatz „Set it and forget it“. IT-Abteilungen müssen die KI-Nutzung im gesamten Unternehmen kontinuierlich prüfen und überprüfen. Dies umfasst die Überwachung der Einhaltung von KI-Richtlinien, die Analyse aufkommender Bedrohungen und die Aktualisierung von Sicherheitsprotokollen, sobald neue Tools und Anwendungsfälle erscheinen.
[Lesen Sie auch: Chief AI Officer sind schwer zu finden – hier finden Sie Ihren]
KI entwickelt sich mit unerschütterlicher Geschwindigkeit und die Sicherheitsrisiken vervielfachen sich genauso schnell. Kontinuierliche Audits und Risikobewertungen sind entscheidend, um potenziellen Verstößen einen Schritt voraus zu sein.
Der Weg nach vorn
Schatten-KI, wie Schatten-IT und BYOD davor, ist eine natürliche Folge der schnellen Konsumerisierung von Technologie. Mitarbeiter möchten KI nutzen, da sie dadurch produktiver werden und IT-Abteilungen diesen Produktivitätsschub nicht ignorieren können. Ohne die richtigen Governance-, Überwachungs- und Sicherheitskontrollen könnte Shadow AI jedoch zu einer rasanten Zeitbombe für Unternehmen weltweit werden.
„Die Lösung besteht nicht darin, diese Tools zu verbieten, sondern klare Richtlinien zu erstellen, Mitarbeiter zu schulen und sichere Alternativen bereitzustellen, die die Bedürfnisse des Unternehmens erfüllen“, sagt Morris. „Wie alle Technologien ist Shadow AI sowohl eine Herausforderung als auch eine Chance. Die Unternehmen, die das richtige Gleichgewicht zwischen Innovation und Sicherheit finden können, werden in der KI-gestützten Zukunft erfolgreich sein.“
