Elon Musk und Steve Wozniak erhielten die Namensüberprüfungen in den gestrigen Schlagzeilen über den offenen Brief , der ein sechsmonatiges Moratorium zur Entwicklung von KI-Technologie (künstliche Intelligenz) forderte. Aber 1 100 andere – hart arbeitende Computerwissenschaftler, Tech-Geeks und andere sachkundige Experten – haben sich ebenfalls angemeldet, um den Alarm über KI auszulösen, und eine andere große KI-Forschungsgruppe verfolgte den Donnerstag mit ihrem eigenen formellen Einwand gegen die GPT-4-Technologie.
Daher lohnt es sich, genau darauf zu achten, egal was Sie von Twitter/Tesla/SpaceX-Eigentümer Musk oder Apple-Mitbegründer Wozniak halten.
Das Schreiben, das vom gemeinnützigen Future of Life Institute veröffentlicht wurde, forderte KI-Labore auf, „das Training von KI-Systemen, die leistungsstärker sind als GPT-4 (einschließlich des derzeit trainierten GPT-5), sofort für mindestens sechs Monate zu pausieren.“
GPT-4 wurde Anfang des Monats eingeführt . Dies ist die neueste Iteration der Sprachtechnologie innerhalb des KI-Chatbots ChatGPT, den OpenAI im November gestartet hat und ein Feuersturm von Summ, Schlagzeilen und Social-Media-Beiträgen generiert. Innerhalb weniger Wochen hatten sich mehr als 100 Millionen Menschen für das kostenlose, automatisierte Tool angemeldet, ein generatives KI -Programm, mit dem Nutzer schriftliche Inhalte erstellen können, die sowohl umfassend sind, aus unzähligen Online-Quellen stammen und so dialogorientiert aussehen und klingen, als ob sie von einem Menschen erstellt wurden.
Andere Unternehmen haben ähnliche Chatbots auf den Markt gebracht, und Unternehmen und Branchen aller Streifen suchen fieberhaft nach Möglichkeiten, diese Tools in bestehende Netzwerke und Geschäftsmodelle zu integrieren und sogar KI in der Cybersicherheit zu untersuchen.
„In den letzten Monaten haben sich KI-Labore in einem außer Kontrolle geratenen Wettlauf versperrt, um immer leistungsfähigere digitale Köpfe zu entwickeln und einzusetzen, die niemand – nicht einmal ihre Schöpfer – verstehen, vorhersagen oder zuverlässig kontrollieren kann.“Future of Life Institute
„Das Letzte, was wir wollen, ist, uns so stark auf die Technologie und den Hype zu stützen, dass wir [die Realität] vergessen“, sagt Krystal Jackson, ein Junior-KI-Stipendiat am Center for Security and Emerging Technology (CSET) der Georgetown University. Jackson hat gestern für „Let’s Converge“ interviewt, einen neuen Podcast, der vom Cybersicherheitssoftwarehersteller Tanium erstellt wurde und in diesem Frühjahr gestartet werden soll, und bemerkte, dass solche Chatbots zu Informationen geführt und geschult werden, die online gefunden werden.
[Hören Sie sich den Podcast an: Besessen von ChatGPT? Hier ist der Hype und die Hoffnung]
„Einige der Informationen im Internet sind gut“, sagt sie. „Einige davon sind wirklich schlecht und wir müssen einen Aufschlag auf kritisches Denken behalten.“
Was genau ist GPT-4 und sollte ich mir Sorgen machen?
Seit ihrem letzten Debüt wurden Chatbots wie ChatGPT auf verschiedene Weise getestet. Bisher können sie Prüfungen auf Abschlussebene bestehen, Code für Websites erstellen und sogar die perfekte Abhollinie basierend auf Profilen in einer Dating-App erstellen. Sie können auch Cyberangriffe erhöhen: Indem sie es so viel einfacher für so gut wie jeden machen, ihre eigene Malware, Phishing -E-Mails und andere gefährliche Inhalte zu erstellen, wird diese neue Technologie Unternehmen einem erhöhten Risiko für Ransomware- Angriffe, Insider-Bedrohungen und Cyber-Warfare aussetzen.
„Einige der Informationen im Internet sind gut. Einige davon sind wirklich schlimm und wir müssen einen Beitrag zu kritischem Denken leisten.“Krystal Jackson, Junior-KI-Stipendiat am Center for Security and Emerging Technology der Georgetown University
Vor wenigen Monaten bestanden GPT-3,5 eine simulierte Prüfung in der Rechtsschulleiste und erzielten die unteren 10 % der Klasse. GPT-4 hat auch die Prüfung bestanden, berichtete OpenAI, ,Scoring in den Top 10 %.
Diese Bots sind intelligent. Und intelligenter werden. Und wir sind nicht auf das vorbereitet, was als nächstes kommt, warnen die Unterzeichner dieses öffentlichen Schreibens.
[Lesen Sie auch: Ja, ChatGPT wird Hacking beschleunigen und auch helfen, es zu bekämpfen]
„In den letzten Monaten haben sich KI-Labore in einem außer Kontrolle geratenen Rennen versperrt, um immer leistungsfähigere digitale Köpfe zu entwickeln und einzusetzen, die niemand – auch nicht ihre Ersteller – verstehen, vorhersagen oder zuverlässig kontrollieren kann“, warnt der Brief.
Aus diesem Grund sagen sie, wir müssen pausieren. Das sollte uns alle innehalten.
Ist eine Pause realistisch?
Das Rennen um die Entwicklung leistungsfähigerer KI-Modi beschleunigt sich mit einer beispiellosen Geschwindigkeit. Und viele haben vielleicht das Gefühl, dass es nichts gibt, was getan werden kann, um den Fortschritt von Wissenschaft und Technologie zu stoppen, aber die Idee, dass wissenschaftliche Fortschritte angesichts der Realität nicht verlangsamt oder reguliert werden können, fliegt.
„Dies bedeutet nicht eine Pause bei der KI-Entwicklung im Allgemeinen, sondern lediglich einen Schritt zurück vom gefährlichen Rennen zu immer größeren unvorhersehbaren Black-Box-Modellen mit neuen Fähigkeiten.“Future of Life Institute
Aufsichtsbehörden wie die U.S. Food and Drug Administration (FDA), die den Verkauf und die Vermarktung neuer Medikamente genehmigt, und das U.S. Department of Agriculture (USDA), das die Sicherheit von kommerziellen Lebensmitteln überwacht, wurden teilweise eingerichtet, um Richtlinien für Hersteller bereitzustellen. Wir alle müssen die grundlegenden Regeln der Straße kennen und vereinbaren, bevor wir auf einer Autobahn fahren.
Wenn es um KI geht, fliegen wir alle die Autobahn hinunter. Und selbst diese berühmte Autobahn enthält manchmal einige Geschwindigkeitsbegrenzungen.
Es ist nicht so unangemessen, beachten Sie, dass die Unterzeichner, für Unternehmen wie Microsoft, Google und andere, neue Technologien mit einem gemeinsamen Verständnis ethischer Richtlinien und Sicherheitsbestimmungen entwerfen, ganz so, wie Forscher, die Klonen studieren, sich bereit erklärt haben, – im Moment zumindest – menschliche Babys nicht zu klonen, unabhängig davon, wie profitabel oder unvermeidlich dieser Fortschritt erscheinen mag.
„KI-Labore und unabhängige Experten sollten diese Pause nutzen, um gemeinsam eine Reihe gemeinsamer Sicherheitsprotokolle für fortschrittliche KI-Designs und -Entwicklung zu entwickeln und zu implementieren, die von unabhängigen externen Experten streng geprüft und überwacht werden“, fährt das Schreiben fort. „Dies bedeutet nicht eine Pause bei der KI-Entwicklung im Allgemeinen, sondern lediglich einen Schritt zurück vom gefährlichen Rennen zu immer größeren unvorhersehbaren Black-Box-Modellen mit sich entwickelnden Fähigkeiten.“
Betrachten Sie dies als Chance, einige Geschwindigkeitsbegrenzungen festzulegen und einige Zeichen zu errichten, die „Rutschen, wenn sie nass sind“.
Ob KI-Hersteller wie Musk, die vor der uneingeschränkten und umfassenden Nutzung von KI gewarnt haben, tatsächlich die Regeln befolgen oder diese Zeichen in ihren Teslas überstehen, bleibt abzuwarten. Aber das bedeutet nicht, dass die Anzeichen und Grenzen nicht wert sind.
