Christopher Nolan, der Oscar-nominierte Regisseur, dessen Blockbuster-Biopic „ “ über die Legende der Quantenphysik , J. Robert Oppenheimer, am vergangenen Wochenende in die Kinos kam, erklärte, er habe sich von dem inspirieren lassen, was man als das „Roter-Knopf-Dilemma“ bezeichnen könnte. Es ist die Frage, die sich in jenen qualvollen wenigen Sekunden stellt – denen in diesem dreistündigen Film beträchtliche Leinwandzeit eingeräumt wird –, wenn eine Hand wenige Zoll über einem großen roten Knopf zittert, einem Knopf, der, sobald er gedrückt wird, der Menschheit Größe und neue Möglichkeiten bescheren wird – oder vielleicht, juuuuuust vielleicht, uns von der Erde tilgen wird.
Presse? Oder doch nicht drücken?
Das ist eine rhetorische Frage. Natürlich drücken Sie darauf. Der Mensch treibt die Dinge stets voran, sei es Oppenheimer (der das als „Manhattan-Projekt“ bekannte US-Atomprogramm leitete) und seine Wissenschaftlerkollegen, die sich während des 1945 . Trinity-Atomtests in der Wüste von New Mexico buchstäblich niederwarfen, oder der jüngste „Big Bang“ von „Big Tech“ – – nämlich die Freisetzung künstlicher Intelligenz auf eine technologiebegeisterte Öffentlichkeit.
Die KI-Analogie ist das Thema, über das viele Menschen nach dem Kinobesuch sprechen werden – und das aus gutem Grund. Es bestehen erhebliche Parallelen zwischen dem Abwurf der Atombombe und der künstlichen Intelligenz. Nolan selbst hat in „ “ vor den „erschreckenden“ Möglichkeiten der KI gewarnt und davon gesprochen, dass die Wissenschaftler von heute ihren „Oppenheimer-Moment“ erleben. Er habe KI-Forscher getroffen, so sagt er, die „sich der Geschichte zuwenden, um zu fragen: ‚Welche Verantwortung tragen Wissenschaftler, die neue Technologien entwickeln, die unbeabsichtigte Folgen haben könnten?‘“
Das ist eine weitaus bessere Frage als „Drücken oder nicht drücken“ – und sie richtet sich nicht nur an Wissenschaftler. Heutzutage müssen sich Unternehmensleiter, Führungskräfte der obersten Ebene, Sicherheitsverantwortliche, Regierungsvertreter und sogar Verbraucher dieselbe Frage stellen. Denn das eigentliche moralische Dilemma und die praktische Frage, mit der man sich auseinandersetzen muss, haben nichts damit zu tun, ob man diesen großen roten Knopf drückt (oder nicht drückt).
Oppenheimer selbst war trotz aller Risiken fest entschlossen, den Knopf zu drücken, und Historiker berichten, dass er dies nicht bereut habe. Nein, entscheidend ist, was danach geschieht. Und hier, Oppenheimer, kann uns der Film viel darüber lehren, was heute geschieht (oder was geschehen sollte).
Oppenheimers „Warum?“ Augenblick
Nolans Film ist von epischem Ausmaß und wirkt durch sein dröhnendes Sounddesign fast schon opernhaft, während wir Oppenheimer (gespielt von Cillian Murphy, dem Star aus „ “ und „Peaky Blinders“ sowie „ “) in quälenden Nahaufnahmen sehen, überwältigt von der Sorge um die Macht, mit der er spielte. Feuerwolken wabern, Funken sprühen, und Sternenmassen wogen über den Bildschirm. Der Film basiert auf der mit dem Pulitzer-Preis ausgezeichneten Biografie „ 2005 “ von Kai Bird und Martin J. Sherwin, , „American Prometheus“ – eine Anspielung auf den Mann, der den griechischen Göttern das Feuer stahl und es den Sterblichen schenkte –, und Nolan geizt sicherlich nicht mit Feuerbildern.
“„Welche Verantwortung tragen Wissenschaftler, die neue Technologien entwickeln, die unbeabsichtigte Folgen haben könnten?“Christopher Nolan, Filmregisseur und Drehbuchautor
Und doch ist einer der eindringlichsten Momente des Films zugleich einer der stillsten. Nach dem Abwurf der Bombe fragt Oppenheimer einen militärischen Aufseher des Manhattan-Projekts (gespielt von Matt Damon), ob es nun notwendig sei, dass er nach Washington reise.
„Ich schaue ihn an und frage: ‚Warum?‘“ Damon erinnerte sich kürzlich in einem Interview mit „ “ daran. „Und dann wird einem plötzlich klar: Oh mein Gott, sie haben genug von ihm.“ „Nun ist diese Sache Realität und existiert in der Welt, und er hat keinerlei Kontrolle darüber.“ Damon räumte ein, dass dies einer seiner Lieblingsmomente in dem Film war.
Genau das ist im wirklichen Leben im Wesentlichen geschehen. Obwohl die Bombe Oppenheimer zu einer Berühmtheit machte (er zierte die Titelseiten der Zeitschriften „ “, „Time“ , „“ und „Life“ ), verlor er in Regierungskreisen rasch an Bedeutung. Er begann, sich gegen die Verbreitung von Atomwaffen und die Entwicklung der Wasserstoffbombe auszusprechen. Als Leiter der Atomenergiekommission setzte er sich für eine internationale Organisation nach dem Vorbild der Vereinten Nationen ein, die die Kernwaffen und deren Entwicklung regulieren sollte. Es würde Jahrzehnte dauern, bis die Entscheidungsträger diese Einsicht erkennen (oder zugeben) würden.
[Lesen Sie auch: 5 Möglichkeiten, wie Vorstände ihre Cybersicherheits-Governance verbessern können]
Stattdessen warfen ihm McCarthy-Anhänger und Verschwörungstheoretiker vor, ein Spion zu sein, was zu einer hinterhältigen Regierungsanhörung im Jahr 1954 führte, die Nolan in nervenaufreibenden Details schildert. (Keine Spoiler, doch wer es unbedingt wissen möchte, kann hier auf „ “ klicken:.) Einst als „Vater der Atombombe“ gepriesen, starb er im Alter von 1967 Jahren als eine gewissermaßen gedemütigte historische Fußnote.
Nun ist Geoffrey Hinton an der Reihe
Ein Sprung in die Gegenwart: Als Pionier des Deep Learning setzte sich Geoffrey Hinton – der als „Pate der KI“ bezeichnet wird – für den Einsatz künstlicher neuronaler Netze ein, und seine Arbeit trug maßgeblich zum Fortschritt der generativen KI und von Chatbots wie ChatGPT bei. Im Mai folgten dann die Schlagzeilen, in denen bekannt gegeben wurde, dass Hinton von seinem Posten bei Google zurücktreten würde, um freier über seine Befürchtungen hinsichtlich der KI und ihrer rasanten Entwicklung sprechen zu können. In Interviews hat er erklärt, dass KI zu einer superintelligenten werden, eigene Ziele entwickeln und so viele Deepfakes erzeugen könnte, dass wir nicht mehr wissen werden, was wahr ist. Was die Auslöschung der Menschheit betrifft? „ ist es nicht undenkbar, dass“, antwortete er.
“„Unternehmen haben die Pflicht, das Vertrauen der Menschen zu gewinnen und die Nutzer in die Lage zu versetzen, fundierte Entscheidungen zu treffen.“Präsident Joe Biden
Er erlebte gerade, wie Nolan es nennen würde, seinen „Oppenheimer-Moment“. Ebenso haben es Tausende weiterer Forscher aus Wissenschaft und Technik getan, die im März einen offenen Brief unter unter der Überschrift „“ unterzeichnet haben, in dem sie Regierungs- und Wirtschaftsvertreter eindringlich auffordern, der ungebremsten Verbreitung von KI Einhalt zu gebieten, da sie zutiefst besorgt sind, dass wir noch nicht genug über KI wissen, um sie in so großem Umfang zugänglich zu machen.
Hört eigentlich jemand wirklich zu? Die Tatsache, dass einige Wissenschaftler Befürchtungen hinsichtlich einer Machtübernahme durch Roboter äußern, die wie aus einem Film klingen – etwa „ “, „“, „“, „Terminator“, „“, „“ oder „ “ –, trägt nicht gerade zur Glaubwürdigkeit bei. Leider müssen alle Szenarien, selbst die (vielleicht) unwahrscheinlichen, berücksichtigt und untersucht werden, und dies wird weder effizient noch effektiv geschehen, solange Wissenschaftler nicht in die Diskussionen einbezogen werden.
Einige Amtsträger nehmen die Appelle der Wissenschaftler ernst. Jenn Easterly, Leiterin der Behörde für Cybersicherheit und Infrastruktursicherheit, kritisierte die Technologiebranche scharf dafür, dass sie die Öffentlichkeit im Grunde genommen als „-Crashtest-Dummys“ benutze. Die Europäische Union hat im Juni ihr Gesetz zur künstlichen Intelligenz „ “ verabschiedet, und am vergangenen Freitag traf sich Präsident Biden mit den Leitern von sieben führenden Technologieunternehmen – Amazon, Anthropic, Google, Inflection, Meta, Microsoft und OpenAI –, um ein neues Regelwerk zur Regelung der Entwicklung und Veröffentlichung von KI bekannt zu geben.
[Lesen Sie auch: Was Unternehmen über Bidens nationale Cybersicherheitsstrategie wissen müssen]
„Unternehmen haben die Pflicht, das Vertrauen der Menschen zu gewinnen und die Nutzer in die Lage zu versetzen, fundierte Entscheidungen zu treffen – indem sie veränderte oder KI-generierte Inhalte kennzeichnen, Voreingenommenheit und Diskriminierung beseitigen, den Datenschutz stärken und Kinder vor Schaden bewahren“, sagte Biden in einer Rede im Weißen Haus, in der er die Vereinbarung vorstellte.
Leider ist die Vereinbarung unverbindlich und freiwillig. Aber es ist ein Anfang.
Verbindungen zu Oppenheimer – von Biden bis Barbie
Zu Lebzeiten setzte sich Oppenheimer für eine Zusammenführung der einzelnen Fachbereiche ein, damit Forscher und Regierungen wichtige Informationen austauschen könnten – ein Prozess, von dem er glaubte, dass er die Kernindustrie und deren Sicherheit nur verbessern würde. Diese Ideen wurden zunächst von Regierungsvertretern verworfen, die sich stattdessen für die Verbreitung von Atomwaffen und eine Aufteilung der Zuständigkeiten entschieden, da sie der Ansicht waren, ein Wettrüsten mit der Sowjetunion sei zu gewinnen.
“Sie können zu Ihrem gewohnten Leben zurückkehren oder die Wahrheit über das Universum erfahren. Die Entscheidung liegt nun bei Ihnen.”Die seltsame Barbie
Eine ähnliche Denkweise herrscht heute auch in der Wirtschaft vor (man denke nur an den Wettlauf darum, wer den größeren und besseren Chatbot entwickeln kann). Deshalb ist es wichtiger denn je, aus diesem neuen „Oppenheimer-Moment“ zu lernen und die Wissenschaftler und Forscher wieder in die Diskussion einzubeziehen. Biden hat Schritte in diese Richtung unternommen, indem er die Finanzierung von sieben neuen KI-Forschungsinstituten bewilligte und sich im vergangenen Monat mit Forschern traf. Schließlich sind sie es, die am besten verstehen, wie diese Technologie wirklich funktioniert und welche Möglichkeiten sie bieten könnte. Wie Oppenheimer uns zu verstehen geben wollte, ist es besser, etwas zu wissen, als es nicht zu wissen.
Seltsamerweise vermittelt „ “ – „Barbie“ – der noch größere Kassenschlager, der am vergangenen „Barbenheimer“-Wochenende in die Kinos kam – eine ähnliche Botschaft.
Nachdem eine „Stereotypische Barbie“ (die Mattel-Puppe, gespielt von Margot Robbie) entdeckt, dass sie in einer beschönigenden rosa Blase gelebt hat, wird ihr von einer zynischen Puppe namens „Weird Barbie“ (Kate McKinnon, bekannt aus „“ und „Saturday Night Live“ sowie als „ “) eine Herausforderung gestellt, die an eine gute Fee erinnert.
„Sie können zu Ihrem gewohnten Leben zurückkehren“, verkündet Weird Barbie feierlich und hält dabei einen glitzernden rosa Pumps hoch, „oder Sie können die Wahrheit über das Universum erfahren“, die sie mit einem flachen, langweiligen Birkenstock veranschaulicht. „Die Entscheidung liegt nun bei Ihnen.“
„Das Erste – der High Heel“, platzt es aus Barbie heraus, die die glitzernde Fantasiewelt vorzieht.
Die zynische gute Fee runzelt die Stirn. „Sie müssen unbedingt darüber informieren, in Ordnung? „Machen Sie es noch einmal.“
Wir haben einen „Paten der KI“ (und eine dreistündige Filmbiografie), der uns im Grunde dasselbe sagt. Barbie erhielt in dieser Zwickmühle eine zweite Chance, doch wir haben vielleicht nicht so viel Glück.
