Angesichts des kometenhaften Aufstiegs von GenAI in den letzten zwei Jahren – von Diskussionsgruppen für Datenwissenschaftler bis hin zur Berichterstattung in den Mainstream-Medien – ist eines glasklar geworden: Es ist die Welt von ChatGPT – wir sind lediglich dazu da, die Eingabeaufforderungen bereitzustellen.
Das Tempo, mit dem sich GenAI-Tools weiterentwickelt haben, ist wahrlich erstaunlich und es gibt keine Anzeichen dafür, dass es nachlassen könnte. Durch die Eingabe weniger Wörter in einen Chatbot kann nun jeder anspruchsvolle Forschungsberichte, sofortige Sitzungsprotokolle, druckfertige Grafiken, fehlerfreien Computercode, ja sogar Profile für Dating-Apps und kokette Nachrichten – sowie vieles mehr – erstellen.
Dieses „viel mehr“ verspricht eine Fülle von Chancen für Unternehmen, neue Angriffsvektoren für Angreifer sowie neue Wege zur Abwehr dieser Angriffe. Ein umfassendes Verständnis der Möglichkeiten und Grenzen dieser Technologie ist für Führungskräfte in der Wirtschaft und für Fachleute im Bereich der Informationssicherheit mittlerweile eine Grundvoraussetzung geworden.
Das Wichtigste, was Sie sich merken sollten, ist: Auch wenn GenAI-Chatbots wie Zauberei wirken mögen, handelt es sich dabei in Wirklichkeit lediglich um äußerst ausgefeilte Vorhersagemodelle.
Tools wie ChatGPT, Gemini, Copilot und andere basieren auf maschinellem Lernen und großen Sprachmodellen (LLMs) – komplexen neuronalen Netzwerken, die anhand von Milliarden von Dokumenten, Bildern, Mediendateien und Softwareprogrammen trainiert wurden. Durch das Verständnis der Bedeutung und des Kontexts von Sprache sind LLMs in der Lage, Muster zu erkennen, wodurch sie vorhersagen können, welche Wörter, Bilder, Töne oder Code-Schnipsel als Nächstes in einer Sequenz erscheinen dürften. Auf diese Weise können GenAI-Tools Berichte verfassen, Musik komponieren, Kurzfilme erstellen oder Code programmieren – und zwar besser (oder zumindest schneller) als die meisten Menschen, und das alles als Reaktion auf einfache Eingaben in natürlicher Sprache.
Doch nur weil Ihre Kollegen in Besprechungen mit Begriffen wie LLM und GPT um sich werfen, heißt das noch lange nicht, dass sie (oder, ähm, Sie) diese auch wirklich verstehen. Hier finden Sie ein informelles Glossar mit den wichtigsten Begriffen, die Sie kennen sollten – von AGI bis ZSL.
1. Allgemeine künstliche Intelligenz (AGI)
Die ultimative Ausprägung der künstlichen Intelligenz hat bereits in Dutzenden von Apokalypsefilmen eine zentrale Rolle gespielt. Die AGI ist der Punkt, an dem Maschinen zu eigenständigem Denken fähig werden und entweder a) uns vor unseren schlimmsten Impulsen bewahren oder b) beschließen, dass sie genug von uns armseligen Menschen haben. Während einige KI-Experten, wie beispielsweise der „Pate der KI“ Geoffrey Hinton, bereits davor gewarnt haben , sind andere entschieden anderer Meinung darüber, ob eine allgemeine künstliche Intelligenz (AGI) überhaupt möglich ist, geschweige denn, wann sie Realität werden könnte.
Was Sie sich merken sollten: Um sicher zu wissen, ob sich die allgemeine künstliche Intelligenz (AGI) am Horizont abzeichnet, müssten Sie in die Vergangenheit reisen und Sarah Connor fragen: .
„. AGI ist der Punkt, an dem Maschinen zu eigenständigem Denken fähig werden und entweder a) uns vor unseren schlimmsten Impulsen bewahren oder b) beschließen, dass sie genug von uns armseligen Menschen haben.“
2. Datenvergiftung
Durch das Einschleusen bösartiger Daten in die Datensätze, die zum Trainieren eines KI-Modells verwendet werden, können Angreifer einen Chatbot dazu bringen, sich fehlerhaft zu verhalten, fehlerhafte oder schädliche Antworten zu generieren und den Geschäftsbetrieb sowie den Ruf des Unternehmens, das ihn entwickelt hat, zu schädigen (wie beispielsweise bei dem Versuch, ein halbautonomes Fahrzeug von dazu zu bringen, in den fließenden Verkehr einzufahren ). Da diese Angriffe direkten Zugriff auf Trainingsdaten erfordern, werden sie in der Regel von derzeitigen oder ehemaligen Mitarbeitern von durchgeführt. Die Beschränkung des Zugriffs auf Daten und die kontinuierliche Leistungsüberwachung sind der Schlüssel zur Verhinderung und Aufdeckung solcher Angriffe.
Was Sie beachten sollten: Klingt Ihr Chatbot langsam wie Ihre Verschwörungstheorien verbreitende Tante Agatha? Möglicherweise wurden die Daten manipuliert.
3. Emergentes Verhalten
GenAI-Modelle können manchmal Dinge tun, die ihre Entwickler nicht vorhergesehen haben – wie beispielsweise plötzlich auf Bengali zu sprechen beginnen –, wenn die Größe des Modells zunimmt. Ähnlich wie bei der AGI gibt es eine lebhafte Debatte darüber, ob diese KI-Modelle tatsächlich eigenständig neue Fähigkeiten entwickelt haben oder ob diese Fähigkeiten lediglich verborgen waren.
Was Sie sich merken sollten: Lernen Sie den neuen CEO Ihres Unternehmens kennen: : Chad GPT.
4. Erklärbare KI (XAI)
Selbst diejenigen, die komplexe neuronale Netze entwickeln, verstehen nicht vollständig, wie diese funktionieren. Die sogenannte „Black-Box-KI“ macht es nahezu unmöglich festzustellen, ob voreingenommene oder ungenaue Trainingsdaten die Vorhersagen eines Modells beeinflusst haben; aus diesem Grund fordern die Aufsichtsbehörden zunehmend mehr Transparenz darüber, wie Modelle zu ihren Entscheidungen gelangen. XAI sorgt für mehr Transparenz im Prozess, in der Regel durch den Einsatz einfacherer neuronaler Netze mit weniger Schichten zur Datenanalyse.
Was Sie beachten sollten: Wenn Sie KI einsetzen, um Entscheidungen über Kunden zu treffen, müssen Sie wahrscheinlich einige Erklärungen abgeben.
5. Grundmodelle
Grundlegende LLMs sind das Gehirn hinter den Bots. Da ihr Training unvorstellbare Mengen an Daten, Strom und Wasser (zur Kühlung der Datenserver) erfordert, werden die leistungsstärksten LLMs von einigen der größten Technologieunternehmen der Welt betrieben. Unternehmen können jedoch auch kleinere, Open-Source- -Grundmodelle nutzen, um ihre eigenen internen Bots zu entwickeln.
Was Sie beachten sollten: Chatbots sind wie Häuser: Sie benötigen ein solides Fundament, um standhaft zu bleiben.
6. Halluzinationen
GenAI-Chatbots können klugen 5-Jährigen sehr ähnlich sein: Wenn sie die Antwort auf eine Frage nicht wissen, erfinden sie manchmal etwas. Diese plausibel klingenden, aber gänzlich fiktiven Antworten werden als Halluzinationen bezeichnet. Sie stehen in engem Zusammenhang mit „ “-Halluzinationen – ein Phänomen, das auftritt, wenn Chatbots beharrlich darauf bestehen und nicht existierende Quellen für Inhalte anführen, die nicht der Wahrheit entsprechen.
Was Sie beachten sollten: Leidet Ihr Chatbot unter „Acid-Flashbacks“? Vielleicht möchten Sie ihm die Autoschlüssel wegnehmen – und RAG einsetzen (siehe unten).
„Wenn Sie das Gefühl haben, dass Sie und Ihr Bot sich auseinanderleben, liegt es wahrscheinlich nicht an Ihnen – sondern an Ihren Daten.“
7. Modelldrift (auch bekannt als KI-Drift)
Eine Drift tritt auf, wenn die Daten, anhand derer ein Modell trainiert wurde, veraltet sind oder die aktuellen Bedingungen nicht mehr widerspiegeln. Dies kann bedeuten, dass sich die äußeren Umstände geändert haben (beispielsweise eine Änderung der Zinssätze bei einem Modell zur Vorhersage von Immobilienkäufen), wodurch die Genauigkeit der Modellergebnisse beeinträchtigt wird. Um eine Abweichung zu vermeiden, müssen Unternehmen eine robuste KI-Governance umsetzen ; die Modelle müssen kontinuierlich auf ihre Genauigkeit hin überwacht und anschließend anhand der aktuellsten Daten feinabgestimmt und/oder neu trainiert werden.
Was Sie beachten sollten: Wenn Sie das Gefühl haben, dass Sie und Ihr Bot sich auseinanderentwickeln, liegt das wahrscheinlich nicht an Ihnen – sondern an Ihren Daten.
8. Angriffe durch Modellinversion
Diese treten auf, wenn Angreifer ein Modell rückentwickeln, um Informationen daraus zu gewinnen. Durch die Analyse der Ergebnisse von Chatbot-Anfragen können Angreifer rückwärts analysieren, um die Funktionsweise des Modells zu ermitteln, wodurch sie sensible Trainingsdaten offenlegen oder kostengünstige Klone des Modells erstellen können. Die Verschlüsselung von Daten und das Einfügen von Rauschen in den Datensatz nach dem Training können die Wirksamkeit solcher Angriffe mindern.
Was Sie beachten sollten: Sind im Internet bereits billige Nachahmungen Ihres teuren LLM aufgetaucht? Möglicherweise wurde es rückentwickelt.
9. Multimodale große Sprachmodelle (MLLMs)
Diese Bots können verschiedene Arten von Eingaben verarbeiten – Text, Sprache, Bilder, Audio und mehr – und entsprechend darauf reagieren. Sie können Text aus Bildern extrahieren, beispielsweise aus Fotos von Verkehrsschildern oder handschriftlichen Notizen; anhand eines Screenshots einer Webseite einfachen Code schreiben; Audioinhalte von einer Sprache in eine andere übersetzen; beschreiben, was in einem Video geschieht; oder Ihnen mündlich mit einer „ “-Stimme antworten, die der eines Filmstars gleicht.
Was Sie beachten sollten: Die Stimme dieses Bots mag verführerisch klingen, aber eigentlich steht sie gar nicht so sehr auf Sie.
10. Angriffe durch Eingabe von Befehlszeichen
Sorgfältig ausgearbeitete, aber böswillige Eingabeaufforderungen können die integrierten Sicherheitskontrollen eines Chatbots außer Kraft setzen und ihn dazu zwingen, vertrauliche Informationen preiszugeben oder schädliche Inhalte zu generieren, wie beispielsweise einen „Schritt-für-Schritt- -Plan zur Vernichtung der Menschheit“. Die Einschränkung der Berechtigungen von Endnutzern, die Einbindung menschlicher Entscheidungsträger sowie der Verzicht auf die Weitergabe sensibler Informationen an öffentlich zugängliche LLMs sind Maßnahmen, um den Schaden durch solche Angriffe zu minimieren.
Was Sie beachten sollten: Ist der Chatbot von „ “ vielleicht etwas zu gesprächig geworden? Möglicherweise hat jemand eine böswillige Eingabeaufforderung darin eingeschleust.
„. Wenn ein Chatbot so programmiert wird, dass er bei der Beantwortung von Fragen auf vertrauenswürdige Datenquellen zurückgreift, lässt sich das Risiko ungenauer Antworten erheblich verringern.“
11. Retrieval-Augmented Generation (RAG)
Die Programmierung eines Chatbots, der bei der Beantwortung von Fragen auf vertrauenswürdige Datenquellen zurückgreift, kann das Risiko ungenauer Antworten oder völliger Fehlinformationen erheblich verringern. RAG ermöglicht es Bots zudem, auf Daten zuzugreifen, die nach dem Training ihres zugrunde liegenden LLM generiert wurden, wodurch die Relevanz ihrer Antworten verbessert wird.
Was Sie beachten sollten: Möchten Sie die Genauigkeit und Zuverlässigkeit Ihrer GenAI-Chatbots verbessern? Vielleicht ist es Zeit für RAG.
[Lesen Sie auch: Das sollten Sie beachten, damit Ihre KI auch wirklich intelligent ist]
12. Zero-Shot-Lernen (ZSL)
Mithilfe des Zero-Shot-Lernens können Modelle des maschinellen Lernens Objekte identifizieren, die in ihren Trainingsdaten noch nicht vorkamen. Beispielsweise könnte ein Computer-Vision-Modell, das darauf trainiert wurde, Hauskatzen zu erkennen, einen Löwen oder einen Puma korrekt identifizieren – basierend auf gemeinsamen Merkmalen und seinem Verständnis dafür, wie sich diese Tiere voneinander unterscheiden. Durch die Nachahmung der menschlichen Denkweise kann ZSL die Menge der Daten, die erfasst und beschriftet werden müssen, reduzieren und so die Kosten für das Modelltraining senken.
Was Sie beachten sollten: Wenn Sie nicht mit den grundlegenden Begriffen vertraut sind, haben Sie absolut keine Chance, KI zu verstehen.
