Elon Musk und Steve Wozniak wurden in den gestrigen Schlagzeilen zum offenen Brief „ “ ( ) namentlich erwähnt, in dem ein sechsmonatiges Moratorium für die Entwicklung von Technologien der künstlichen Intelligenz (KI) gefordert wird. Doch auch 1 100 weitere Personen – fleißige Informatiker, Technikbegeisterte und andere sachkundige Experten – schlossen sich an, um vor der KI zu warnen, und eine weitere bedeutende KI-Forschungsgruppe legte am Donnerstag mit einem eigenen formellen Einspruch unter dem Titel „ “ () gegen die GPT-4-Technologie nach.
Es lohnt sich also auf jeden Fall, genau hinzuschauen – ganz gleich, was Sie von Musk, dem Eigentümer von Twitter, Tesla und SpaceX, oder von Apple-Mitbegründer Wozniak halten.
In dem Schreiben, das von der gemeinnützigen Organisation „Future of Life Institute“ veröffentlicht wurde, wurden KI-Forschungslabore aufgefordert, „das Training von KI-Systemen, die leistungsfähiger sind als GPT-4 (einschließlich des derzeit im Training befindlichen GPT-5), unverzüglich für mindestens sechs Monate auszusetzen“.
Das GPT-4- -Modell wurde Anfang dieses Monats unter vorgestellt. Es handelt sich um die neueste Version der Sprachtechnologie innerhalb des KI-Chatbots ChatGPT, den OpenAI im November auf den Markt gebracht hat und der eine Flut von Begeisterung, Schlagzeilen und Beiträgen in den sozialen Medien ausgelöst hat. Innerhalb weniger Wochen hatten sich mehr als 100 Millionen Menschen für die Nutzung des kostenlosen, automatisierten Tools registriert – eines generativen KI-Programms von unter dem Namen „“, das es Nutzern ermöglicht, schriftliche Inhalte zu erstellen, die sowohl umfassend sind – zusammengestellt aus unzähligen Online-Quellen – als auch so umgangssprachlich, dass sie so aussehen und klingen, als wären sie von einem Menschen verfasst worden.
Andere Unternehmen haben ähnliche Chatbots in rascher Folge auf den Markt gebracht, und Unternehmen sowie Branchen aller Art suchen fieberhaft nach Möglichkeiten, diese Tools in bestehende Netzwerke und Geschäftsmodelle zu integrieren, und beschäftigen sich sogar mit KI im Bereich der Cybersicherheit.
„In den letzten Monaten haben sich KI-Forschungslabore in einem außer Kontrolle geratenen Wettlauf um die Entwicklung und den Einsatz immer leistungsfähigerer digitaler Intelligenzen verstrickt, die niemand – nicht einmal ihre Schöpfer – verstehen, vorhersagen oder zuverlässig kontrollieren kann.“Future of Life Institute
„Das Letzte, was wir wollen, ist, uns so stark auf die Technologie und den Hype zu verlassen, dass wir [die Realität] aus den Augen verlieren“, sagt Krystal Jackson, Junior-AI-Fellow am Center for Security and Emerging Technology (CSET) der Georgetown University. Jackson, der gestern für „Let’s Converge“ interviewt wurde – einen neuen Podcast, der vom Cybersicherheits-Softwarehersteller Tanium produziert wird und in diesem Frühjahr starten soll –, wies darauf hin, dass solche Chatbots mit Informationen aus dem Internet gefüttert und darauf trainiert werden.
„Einige der Informationen im Internet sind gut“, sagt sie. „Manches davon ist wirklich schlecht, und wir müssen weiterhin großen Wert auf kritisches Denken legen.“
Was genau ist GPT-4, und sollte ich mir Sorgen machen?
Seit ihrer kürzlichen Einführung wurden Chatbots wie ChatGPT auf vielfältige Weise getestet. Bislang sind sie in der Lage, die Prüfungen auf Master-Niveau der „ “ zu bestehen, Code für Websites zu erstellen und sogar den perfekten Anmachspruch auf der Grundlage von Profilen in einer Dating-App zu formulieren. Sie könnten zudem zu einer Zunahme von Cyberangriffen führen: Da es durch diese neue Technologie für nahezu jeden wesentlich einfacher wird, eigene Malware, Phishing- -E-Mails und andere gefährliche Inhalte zu erstellen, werden Unternehmen einem erhöhten Risiko durch Ransomware- -Angriffe, Insider-Bedrohungen sowie Cyberkrieg ausgesetzt sein.
„“ Einige der Informationen im Internet sind gut. Manches davon ist wirklich schlecht, und wir müssen weiterhin großen Wert auf kritisches Denken legen.”Krystal Jackson, Junior-Forschungsstipendiatin im Bereich KI am Center for Security and Emerging Technology der Georgetown University
Erst vor wenigen Monaten hat GPT-3,5 eine simulierte Anwaltsprüfung an der juristischen Fakultät bestanden und dabei zu den untersten 10 % des Jahrgangs gehört. GPT-4 hat die Prüfung ebenfalls bestanden, wie OpenAI mitteilte, und erzielte dabei ein Ergebnis, das zu den besten 10 % gehörte.
Diese Bots sind intelligent. Und immer klüger. Und wir sind nicht auf das vorbereitet, was als Nächstes kommt, warnen die Unterzeichner dieses offenen Briefes.
„In den letzten Monaten haben sich KI-Forschungslabore in einen außer Kontrolle geratenen Wettlauf um die Entwicklung und den Einsatz immer leistungsfähigerer digitaler Intelligenzen verstrickt, die niemand – nicht einmal ihre Schöpfer – verstehen, vorhersagen oder zuverlässig kontrollieren kann“, warnt der Brief.
Aus diesem Grund, so sagen sie, müssen wir innehalten. Das sollte uns allen zu denken geben.
Ist eine Pause realistisch?
Der Wettlauf um die Entwicklung leistungsfähigerer KI-Systeme schreitet in beispiellosem Tempo voran. Und viele mögen vielleicht der Meinung sein, dass man nichts tun kann, um den Fortschritt von Wissenschaft und Technik aufzuhalten, doch die Vorstellung, dass wissenschaftliche Fortschritte nicht verlangsamt oder reguliert werden können, steht im krassen Widerspruch zur Realität.
„Dies bedeutet keine allgemeine Pause bei der KI-Entwicklung, sondern lediglich einen Schritt zurück vom gefährlichen Wettlauf um immer größere, unvorhersehbare Black-Box-Modelle mit emergenten Fähigkeiten.“Future of Life Institute
Aufsichtsbehörden wie die US-amerikanische Food and Drug Administration (FDA), die den Verkauf und die Vermarktung neuer Arzneimittel genehmigt, und das US-Landwirtschaftsministerium (USDA), das die Sicherheit der kommerziellen Lebensmittelversorgung überwacht, wurden unter anderem gegründet, um den Herstellern Richtlinien an die Hand zu geben. Wir alle müssen die grundlegenden Verkehrsregeln kennen und uns darauf einigen, bevor wir auf einer Autobahn fahren.
Was die KI betrifft, rasen wir alle die Autobahn hinunter. Und selbst auf dieser berühmten Autobahn gelten zeitweise Geschwindigkeitsbegrenzungen.
Es sei nicht allzu abwegig, so die Unterzeichner, dass Unternehmen wie Microsoft, Google und andere neue Technologien auf der Grundlage eines gemeinsamen Verständnisses ethischer Leitlinien und Sicherheitsvorkehrungen entwickeln – ähnlich wie sich Forscher, die sich mit dem Klonen befassen, darauf geeinigt haben, zumindest vorerst keine menschlichen Babys zu klonen, ganz gleich, wie profitabel oder unvermeidlich dieser Fortschritt auch erscheinen mag.
„KI-Forschungslabore und unabhängige Experten sollten diese Pause nutzen, um gemeinsam eine Reihe gemeinsamer Sicherheitsprotokolle für die Konzeption und Entwicklung fortschrittlicher KI zu erarbeiten und umzusetzen, die von unabhängigen externen Experten streng geprüft und überwacht werden“, heißt es in dem Schreiben weiter. „Dies bedeutet keine allgemeine Unterbrechung der KI-Entwicklung, sondern lediglich einen Schritt zurück von dem gefährlichen Wettlauf um immer größere, unvorhersehbare Black-Box-Modelle mit emergenten Fähigkeiten.“
Betrachten Sie dies als Gelegenheit, einige Geschwindigkeitsbegrenzungen festzulegen und ein paar Schilder mit der Aufschrift „Bei Nässe rutschig“ aufzustellen.
Ob KI-Entwickler wie Musk – der vor dem uneingeschränkten und umfassenden Einsatz von KI gewarnt hat – sich tatsächlich an die Regeln halten oder mit ihren Teslas an diesen Schildern vorbeirasen, bleibt abzuwarten. Das bedeutet jedoch nicht, dass es sich nicht lohnt, die Schilder und Begrenzungen aufzustellen.
