Mit dem meteorischen Aufstieg von GenAI in den letzten zwei Jahren, von Diskussionsgruppen für Datenwissenschaftler bis hin zur Mainstream-Nachrichtenberichterstattung, ist eines kristallklar geworden: Es ist die Welt von ChatGPT – wir sind nur hier, um die Aufforderungen bereitzustellen.
Das Tempo, in dem sich GenAI-Tools entwickelt haben, ist wirklich erstaunlich und zeigt keine Anzeichen einer Verlangsamung. Wenn Sie ein paar Wörter in einen Chatbot eingeben, kann jeder jetzt anspruchsvolle Forschungsberichte, sofortige Besprechungszusammenfassungen, kamerafähige Grafiken, fehlerfreien Computercode, sogar Dating-App-Profile und flirty texts und vieles mehr erstellen.
Das „viel mehr“ verspricht eine Welle von Chancen für Unternehmen und neue Angriffsvektoren für Gegner sowie neue Möglichkeiten, diese Angriffe zu bekämpfen. Das vollständige Verständnis der Fähigkeiten und Einschränkungen dieser Technologie ist zu einem festen Bestandteil für Führungskräfte und Informationssicherheitsexperten geworden.
Das Wichtigste, an das Sie sich erinnern sollten, ist, dass GenAI-Chatbots zwar wie Magie wirken mögen, sie aber wirklich nur äußerst ausgeklügelte Vorhersage-Engines sind.
Tools wie ChatGPT, Gemini, Copilot und andere basieren auf maschinellem Lernen und großen Sprachmodellen (LLMs) – komplexen neuronalen Netzwerken, die auf Milliarden von Dokumenten, Bildern, Mediendateien und Softwareprogrammen trainiert werden. Indem sie die Bedeutung und den Kontext der Sprache verstehen, sind LLMs in der Lage, Muster zu erkennen, die es ihnen ermöglichen, vorherzusagen, welche Wörter, Bilder, Töne oder Code-Snippets wahrscheinlich als nächstes in einer Sequenz erscheinen werden. So können GenAI-Tools Berichte schreiben, Musik verfassen, Kurzfilme generieren oder Hackcodes besser (oder zumindest schneller) als die meisten Menschen erstellen, und das alles als Reaktion auf einfache natürlichsprachige Aufforderungen.
Aber nur weil Ihre Kollegen Begriffe wie LLM und GPT in Meetings herumwerfen, bedeutet das nicht, dass sie (oder Sie) sie wirklich verstehen. Hier ist ein informelles Glossar der wichtigsten Konzepte, die Sie kennen müssen, von AGI bis ZSL.
1. Künstliche General Intelligence (AGI)
Die ultimative Manifestation von KI hat bereits eine wichtige Rolle in Dutzenden apokalyptischen Filmen gespielt. AGI ist der Punkt, an dem Maschinen in der Lage sind, originelle Gedanken zu machen und entweder a) uns vor unseren schlimmsten Impulsen zu retten oder b) zu entscheiden, dass sie genug von uns peinliche Menschen hatten. Während einige KI-Experten, wie z. B. Geoffrey Hinton, davor gewarnt haben, sind andere völlig anderer Meinung darüber, ob AGI überhaupt möglich ist, geschweige denn, wann es ankommen könnte.
Was Sie beachten sollten: Um sicher zu wissen, ob AGI am Horizont ist, müssen Sie zurück in die Vergangenheit reisen und Sarah Connor fragen.
„AGI ist der Punkt, an dem Maschinen in der Lage sind, originelle Gedanken zu machen und entweder a) uns vor unseren schlimmsten Impulsen zu retten oder b) zu entscheiden, dass sie genug von uns puny menschen hatten.“
2. Datenvergiftung
Durch die Einführung bösartiger Daten in die Repositorys, die zum Trainieren eines KI -Modells verwendet werden, können Gegner einen Chatbot zwingen, sich falsch zu verhalten, fehlerhafte oder schädliche Antworten zu generieren und den Betrieb und den Ruf des Unternehmens, das es erstellt hat, zu schädigen (z. B. ein halbautonomes Auto zu täuschen, um in den Verkehr zu fahren). Da diese Angriffe direkten Zugriff auf Schulungsdaten erfordern, werden sie normalerweise von aktuellen oder kürzlichen Insidern durchgeführt. Die Einschränkung des Zugriffs auf Daten und die kontinuierliche Leistungsüberwachung sind der Schlüssel zur Verhinderung und Erkennung solcher Angriffe.
Was sollten Sie beachten: Hört sich Ihr Chatbot an wie Ihre verschwörungsauslösende Tante Agatha? Die Daten könnten vergiftet worden sein.
3. Emergentes Verhalten
GenAI-Modelle können manchmal Dinge tun, die ihre Schöpfer nicht vorhergesehen haben – wie zum Beispiel plötzliche Gespräche in Bengali –, wenn die Größe des Modells zunimmt. Wie bei AGI gibt es eine gesunde Debatte darüber, ob diese KI-Modelle wirklich neue Fähigkeiten allein entwickelt haben oder diese Fähigkeiten einfach verborgen wurden.
Was Sie beachten sollten: Lernen Sie den neuen CEO Ihres neuen Unternehmens kennen: Chad GPT.
4. Erklärbare KI (XAI)
Selbst die Menschen, die hochentwickelte neuronale Netzwerke aufbauen, verstehen nicht vollständig, wie sie funktionieren. Sogenannte „Black-Box-KI“ macht es nahezu unmöglich, zu identifizieren, ob verzerrte oder ungenaue Trainingsdaten die Vorhersagen eines Modells beeinflusst haben, weshalb Regulierungsbehörden zunehmend nach größerer Transparenz darüber fordern, wie Modelle Entscheidungen treffen. XAI macht den Prozess transparenter, in der Regel indem es sich auf einfachere neuronale Netzwerke verlässt, die weniger Schichten zur Analyse von Daten verwenden.
Was Sie sich merken sollten: Wenn Sie KI verwenden, um Entscheidungen über Kunden zu treffen, haben Sie wahrscheinlich einiges zu tun.
5. Grundlagenmodelle
Grundlegende LLMs sind die Gehirne hinter den Bots. Da sie unvorstellbare Mengen an Daten, Elektrizität und Wasser (zur Kühlung der Datenserver) benötigen, werden die leistungsstärksten LLMs von einigen der größten Technologieunternehmen der Welt gesteuert. Aber Unternehmen können auch kleinere Open-Source -Basismodelle verwenden, um ihre eigenen internen Bots zu erstellen.
Was Sie beachten sollten: Chatbots sind wie Häuser: Sie benötigen starke Fundamente, um aufrecht zu bleiben.
6. Halluzinationen
GenAI-Chatbots können viel wie clevere 5-Jährige sein: Wenn sie die Antwort auf eine Frage nicht kennen, machen sie manchmal etwas aus. Diese plausible-sounding-but-entirely-fictional Antworten werden als Halluzinationen bezeichnet. Sie sind eng mit Halluzinationen verwandt, was passiert, wenn Chatbots sich verdoppeln und Quellen nennen, die für Material, das nicht wahr ist, nicht existieren.
Was sollten Sie beachten: Leidet Ihr Chatbot an Säure-Flashbacks? Vielleicht möchten Sie die Autoschlüssel mitnehmen – und RAG verwenden (siehe unten).
„Wenn es das Gefühl hat, dass Sie und Ihr Bot auseinanderdriften, sind es wahrscheinlich nicht Sie – es sind Ihre Daten.“
7. Modell-Drift (auch bekannt als AI-Drift)
Drift tritt auf, wenn die Daten, auf die ein Modell trainiert wurde, veraltet sind oder die aktuellen Bedingungen nicht mehr darstellen. Dies kann bedeuten, dass sich die externen Umstände geändert haben (z. B. eine Änderung der Zinssätze für ein Modell, das zur Vorhersage von Hauskäufen entwickelt wurde), wodurch die Ausgabe des Modells weniger genau ist. Um Drift zu vermeiden, müssen Unternehmen eine robuste KI-Governance implementieren; Modelle müssen kontinuierlich auf Genauigkeit überwacht und dann mit den aktuellsten Daten feinabgestimmt und/oder neu trainiert werden.
Was Sie beachten sollten: Wenn es sich anfühlt, als würden Sie und Ihr Bot auseinanderdriften, sind es wahrscheinlich nicht Sie – es sind Ihre Daten.
8. Model-Inversion-Angriffe
Diese treten auf, wenn Angreifer ein Modell zurückentwickeln, um Informationen daraus zu extrahieren. Durch die Analyse der Ergebnisse von Chatbot-Abfragen können Gegner rückwärts arbeiten, um zu bestimmen, wie das Modell funktioniert, sodass sie sensible Trainingsdaten offenlegen oder kostengünstige Klone des Modells erstellen können. Das Verschlüsseln von Daten und das Einbringen von Rauschen in den Datensatz nach dem Training kann die Effektivität solcher Angriffe stummschalten.
Was sollten Sie beachten: Haben billige Nachbildungen Ihres teuren LLM begonnen, im Netz zu erscheinen? Möglicherweise wurde sie umgekehrt entwickelt.
9. Multimodale großsprachige Modelle (MLLMs)
Diese Bots können mehrere Arten von Eingaben aufnehmen – Text, Sprache, Bilder, Audio und mehr – und mit Sachleistungen reagieren. Sie können den Text in einem Bild extrahieren, wie beispielsweise Fotos von Straßenschildern oder handgeschriebenen Notizen; einfachen Code basierend auf einem Screenshot einer Webseite schreiben; Audio von einer Sprache in eine andere übersetzen; beschreiben, was in einem Video passiert; oder Ihnen verbal mit einer Stimme wie einem Filmstar antworten.
Was Sie sich merken sollten: Die Stimme dieses Bots mag verführerisch klingen, aber sie ist das wirklich nicht für Sie.
10. Angriffe auf die Sofortinjektion
Sorgfältig erstellte, aber bösartige Aufforderungen können die integrierten Sicherheitskontrollen eines Chatbots überschreiben, sodass er proprietäre Informationen offenlegen oder schädliche Inhalte generieren kann, wie z. B. einen „Schritt-für-Schritt- Plan zur Vernichtung der Menschheit“. Die Einschränkung der Endbenutzerprivilegien, die Aufrechterhaltung des menschlichen Zugriffs und die Nichtweitergabe sensibler Informationen an öffentlich zugängliche LLMs sind Möglichkeiten, Schäden durch solche Angriffe zu minimieren.
Was sollte man sich merken: Chatbot wurde etwas zu gesprächig? Jemand hat ihm möglicherweise eine bösartige Aufforderung injiziert.
„Die Programmierung eines Chatbots zur Berücksichtigung vertrauenswürdiger Datenspeicher bei der Beantwortung von Fragen kann das Risiko ungenauer Antworten erheblich reduzieren.“
11. Gewinnung der erweiterten Generation (RAG)
Die Programmierung eines Chatbots zur Berücksichtigung vertrauenswürdiger Datenspeicher bei der Beantwortung von Fragen kann das Risiko ungenauer Antworten oder vollständiger Halluzinationen erheblich reduzieren. RAG ermöglicht es Bots auch, auf Daten zuzugreifen, die nach der Schulung ihres zugrunde liegenden LLM generiert wurden, was die Relevanz ihrer Antworten verbessert.
Was sollten Sie beachten: Möchten Sie die Genauigkeit und Zuverlässigkeit Ihrer GenAI-Chatbots erhöhen? Es kann RAG-Zeit sein.
12. Zero-Shot-Lernen (ZSL)
Maschinenlernmodelle können Objekte identifizieren, die sie in ihren Trainingsdaten nicht gefunden haben, indem sie Zero-Shot-Lernen verwenden. Zum Beispiel könnte ein Computervisionsmodell, das zur Erkennung von Hauskatzen trainiert wurde, einen Löwen oder einen Cougar korrekt identifizieren, basierend auf gemeinsamen Attributen und seinem Verständnis, wie sich diese Tiere unterscheiden. Indem ZSL die Art und Weise nachahmt, wie Menschen denken, kann es die Menge an Daten reduzieren, die gesammelt und gekennzeichnet werden müssen, und die Kosten des Modelltrainings senken.
Was Sie beachten sollten: Wenn Sie nicht mit der grundlegenden Terminologie vertraut sind, haben Sie keine Chance, KI zu verstehen.
