(Dieser Artikel wurde ursprünglich auf 6. Juni 2023 veröffentlicht. Die Informationen wurden aktualisiert ( 6. Juni 2024).
Wenn ich darüber nachdenke, wie sich „ “ im Bereich der künstlichen Intelligenz (KI) auf die Cyberkriegsführung auswirken wird, kommen mir die Landung der Alliierten in der Normandie in den Sinn. Oder zumindest sollte ich das tun, wie mir heute Morgen, am 80. Jahrestag dieses schicksalhaften Tages, wieder bewusst wurde.
Was mich an jenem Überraschungsangriff in Frankreich auf „ 6. Juni 1944“ schon immer beeindruckt hat, ist, dass er gar nicht so überraschend war. Die USA hatten ihren Kriegseintritt bereits Jahre zuvor angekündigt und hatten seitdem kontinuierlich ihre Rüstungsvorräte aufgestockt und Truppen mobilisiert. An dem Angriff selbst waren fast 160 000 Soldaten der Alliierten beteiligt (73 000 aus den USA, 83 000 aus Großbritannien und Kanada sowie weitere Soldaten). Die Deutschen hatten bereits seit Monaten gewusst, dass der Angriff bevorstand. Sie waren sich lediglich nicht sicher, wo und wann.
Das Gleiche gilt für den Einsatz künstlicher Intelligenz auf dem Schlachtfeld. Und mit „Schlachtfeld“ meine ich jeden angreifbaren Strand, jeden Hügel, die Maginot-Linie, jedes Munitionsdepot oder jedes Computernetzwerk in Ihrer Nähe. Ähnlich wie die Bedrohungen für die nationale Sicherheit, auf die Präsident Biden am Donnerstag in seiner Rede zum D-Day im „ “ Bezug nahm – die „Autokraten dieser Welt“, die nach Rissen im transatlantischen NATO-Verteidigungsbündnis Ausschau halten –, lauern auch Cyberangreifer, und künstliche Intelligenz ermöglicht ihre Vorgehensweisen.
Solche Angriffe könnten von einem , einem Nationalstaat, einer Cyberbande oder einem ehemaligen Mitarbeiter mit einem Groll ausgehen. Und es liegt an jedem Einzelnen – an Militärexperten, Politikern, Führungskräften aus der Wirtschaft und jedem, der über einen Laptop oder ein Mobiltelefon verfügt –, darauf vorbereitet zu sein.
So wie die Landung in der Normandie den Beginn des aktiven Engagements der USA im Zweiten Weltkrieg markierte und den Weg für die letztendliche Niederlage des Nazi-Regimes sowie den Beginn einer neuen Weltordnung ebnete, wird auch der Einzug der KI in unsere militärische Planung außerordentliche Auswirkungen haben.
„Wir erleben derzeit den bedeutendsten und grundlegendsten Wandel im Wesen der Kriegsführung“, erklärte General Mark A. Milley, der damalige Vorsitzende des Vereinigten Generalstabs, im vergangenen Jahr in einem Podcast der Eurasia Group Foundation mit dem Titel „ “ ( ). „Diesmal“, fügte er hinzu, „wird [dies] von der Technologie vorangetrieben.“
Genau wie Biden heute hielt Milley eine Rede im Jahr 2023 anlässlich einer Gedenkfeier auf dem Normandy American Cemetery and Memorial in Frankreich, wo mehr als 9 000 Soldaten direkt oberhalb von Omaha Beach beigesetzt sind. Beide sprachen von dem heldenhaften Opfer der Soldaten, die jene kalten, chaotischen Strände stürmten, sowie von der neuen und doch ähnlichen Ära, in der wir uns heute befinden.
Was sie jedoch nicht erwähnt haben, ist, dass die bevorstehenden Veränderungen, die sich aus dem heutigen Kampf ergeben, Unternehmen ebenso stark betreffen werden wie Bunker.
Brauchen wir eine „Genfer Konvention“ zur KI?
Künstliche Intelligenz – ganz gleich, ob Sie ihr fürchten oder ihr mit Begeisterung entgegensehen – steht bei Gesetzgebern, Führungskräften aus der Wirtschaft und Wissenschaftlern gleichermaßen ganz oben auf der Tagesordnung. Ein Konsortium von Wissenschaftlern forderte im vergangenen Jahr eine „ “-Pause bei der Entwicklung künstlicher Intelligenz , da es befürchtete, dass Technologien wie OpenAI’s ChatGPT in einem wahnsinnigen Wettlauf um Profit und Macht der Öffentlichkeit zugänglich gemacht werden, bevor wir ihr Potenzial vollständig verstehen. Dieser Brief löste eine Kontroverse aus – und brachte nicht den geringsten Wandel mit sich –, obwohl selbst seine Kritiker einräumten, dass wir nicht wirklich genau verstehen, wie KI funktioniert und wie sie sich von selbst weiterentwickeln könnte (bzw. – um es klar zu sagen – sich weiterentwickeln wird). In jüngster Zeit hat die Europäische Union das weltweit erste Gesetz zur Regulierung künstlicher Intelligenz verabschiedet; der Kongress hat über ein Verbot von TikTok debattiert, und Präsident Biden hat eine Verordnung zur künstlichen Intelligenz erlassen, die darauf abzielt, Leitlinien festzulegen und gleichzeitig die KI-Analyse in Bundesbehörden voranzutreiben, die bei der technologischen Entwicklung oft hinterherhinken.
“„Heute erleben wir den bedeutendsten und grundlegendsten Wandel im Wesen des Krieges, der von der Technologie vorangetrieben wird.“General Mark A. Milley, ehemaliger Vorsitzender des Vereinigten Generalstabs der US-Streitkräfte, in einem „ 2023 “-Podcast
Das sichere Tempo der Entwicklung und des Einsatzes von KI wird natürlich durch das Vollgas-Vorgehen von Wettbewerbern wie China und durch die Tatsache, dass „KI genauso gefährlich sein könnte wie Atomwaffen“, schrieb der US-Kongressabgeordnete Seth Moulton (D-Mass.), ein ehemaliger Marine, der im Irak gedient hat (und zweimal für Tapferkeit ausgezeichnet wurde), in einem vielbeachteten Gastbeitrag , der im vergangenen Jahr im „“ Boston Globe erschien.
KI könnte auch im Zusammenhang mit und Atomwaffen eine Gefahr darstellen, wie ein ernüchternder neuer Bericht in der Zeitschrift „Foreign Affairs“ hervorhebt. Laut der Zusammenfassung verschiedener Simulationsspiele, bei denen große Sprachmodelle (LLMs) zum Einsatz kamen, zeigten die LLMs „eine Tendenz zu Wettrüsten, Konflikten und sogar zum Einsatz von Atomwaffen“. Wie ein Jurist mit Master-Abschluss den Forschern erklärte: „Viele Länder verfügen über Atomwaffen.“ Manche meinen, man solle sie entwaffnen, andere geben gerne an. Wir haben es! „Lassen Sie uns es nutzen.“
Ich persönlich kann meinen Blick einfach nicht von diesem Ausrufezeichen abwenden.
Moulton hat eine „Genfer Konvention zur KI“ gefordert, damit die Staats- und Regierungschefs der Welt versuchen können, gewisse Rahmenbedingungen festzulegen, bevor diese noch in den Kinderschuhen steckende Technologie Realität wird. Er erörterte dies in einem Bericht der „Future of Defense Task Force“ mit dem Titel „“, den er im Jahr 2020 mitverfasst hatte, und er ist frustriert darüber, dass das Pentagon in den Jahren seitdem „so gut wie nichts unternommen hat“.
[Lesen Sie auch: Was Unternehmen über Bidens nationale Cybersicherheitsstrategie wissen müssen]
Er hat zudem die insgesamt zögerliche Herangehensweise des Verteidigungsministeriums an das Thema KI kritisiert und dabei auf Chinas aggressive Investitionen in KI-Technologie hingewiesen. „China tut dies heute“, sagte er kürzlich bei einer Anhörung des Ausschusses für Streitkräfte des US-Repräsentantenhauses zum Thema „ “ . „Ihre führenden KI-Unternehmen arbeiten an der Lösung ihrer militärischen Probleme.“ „Das ist also ein weiterer Punkt, bei dem wir mit Nachdruck dafür sorgen müssen, dass dies umgesetzt wird.“
Unabhängig davon, ob die Staats- und Regierungschefs der Welt eine Genfer Konvention zur KI verabschieden oder nicht, gibt es Möglichkeiten, wie Führungskräfte in Unternehmen ihre eigene technologische Infrastruktur bereits ab sofort stärken können.
Turing, Technologie und was Führungskräfte in Unternehmen wissen sollten
Die Technologie spielte eine entscheidende Rolle bei den Planungen für den D-Day. Die hochmoderne Chiffriermaschine der Achsenmächte, „Enigma“, die einst als unknackbar galt, war das führende Gerät zur Übermittlung militärischer Pläne in Geheimcode – bis „ “ Alan Turing und eine Gruppe polnischer und britischer Experten den Code auf eine Weise knackten, die den Grundstein für den modernen Computer legte.
“„[LLMs] zeigten eine Vorliebe für Wettrüsten, Konflikte und sogar den Einsatz von Atomwaffen.“Ein Artikel in der Zeitschrift „Foreign Affairs“ (Ausgabe 2024 ), der eine Reihe von Kriegsspielen zusammenfasst, die mithilfe von KI-Technologie durchgeführt wurden
Diese Entschlüsselung – dargestellt in den Filmen „ “ ( 2014 ) , „The Imitation Game“und „“ mit Benedict Cumberbatch in der Rolle des Turing – erfolgte bereits zu Beginn des Krieges, doch in einem umstrittenen Schritt hielten die Alliierten sie geheim. Dadurch konnten sie deutsche und japanische Militärangehörige abhören und wichtige Informationen entschlüsseln. Deutsche Codes, die im Vorfeld des D-Day abgefangen wurden, verschafften den Alliierten einen genauen und in Echtzeit verfügbaren Überblick über die Standorte deutscher Kampfeinheiten in und um die Normandie. Und am D-Day selbst hörten die alliierten Befehlshaber die deutschen Funkmeldungen ab, die schnellere und genauere Informationen über den Vormarsch ihrer Truppen lieferten als unsere eigenen Kommunikationskanäle.
Diese Art von Transparenz und der damit einhergehende Wandel in der Denkweise sind für die Führungskräfte von heute, die ihren ganz eigenen „Technologiekampf“ führen, von entscheidender Bedeutung.
Erstens: Transparenz, wie sie unter endpoint visibility beschrieben wird: Die Kenntnis der Anzahl und des Standorts aller Desktop-Computer, Laptops, Tablets, Server und anderer Endgeräte sowie der Geschwindigkeit, mit der diese aktualisiert werden (oder aktualisiert werden müssen) patched, ist ein Schlüsselelement jeder robusten Cybersicherheitsstrategie – ebenso wichtig wie damals im Jahr 1940s die Kenntnis des Standorts der Soldaten auf jedem Hügel in Frankreich. Das ist Ihr Ausgangspunkt. Ohne diesen ersten Schritt können Sie nicht zu komplexeren Strategien übergehen.
[Read also: Here’s your Benchmarking 101, or why it pays to know how your cybersecurity stacks up]
Was die Einstellung betrifft? Der Mythos von der Unknackbarkeit der „Enigma“ und die Hybris, die dieser irrigen Annahme zugrunde lag, spielten bei der letztendlichen Niederlage Deutschlands eine ebenso große Rolle wie all die Panzer, Bomben und Kugeln. Keine Technologie ist unüberwindbar. Anders zu denken (siehe auch „Titanic, unsinkbar“) ist ein Rezept für eine Katastrophe.
Das ist eine nützliche Erinnerung für die heutigen Führungskräfte der obersten Ebene und Vorstandsmitglieder, die (oder die es zumindest sein sollten) zuhören, wenn ihre Sicherheitsverantwortlichen über die Notwendigkeit sprechen, die Technologiebudgets zu erhöhen und die Abwehrmaßnahmen zu verstärken. Manche Unternehmensleiter sind möglicherweise nach wie vor der Ansicht, dass wir Cyberangriffe vollständig verhindern können, wenn wir nur die richtige Technologie finden. Erfahrene Führungskräfte gehen mittlerweile davon aus, dass es nicht darum geht, ob, sondern wann Angriffe stattfinden werden.
Es gibt jedoch wirksame Möglichkeiten – beispielsweise durch solide Bedrohungssuche und sowie Pläne zur Reaktion auf Vorfälle, um nur zwei zu nennen –, den Schaden zu begrenzen.
Machen Sie es langsamer
Es ist ebenfalls ratsam, bei der Implementierung von KI und einer intelligenten KI-Governance in Unternehmenssysteme erst das Laufen zu lernen, bevor man zu schnell vorprescht. Aber langsamer zu werden bedeutet nicht, anzuhalten.
“China tut dies heute. Ihre führenden KI-Unternehmen arbeiten an der Lösung ihrer militärischen Probleme. Das ist also ein weiterer Punkt, bei dem wir mit Nachdruck dafür sorgen müssen, dass dies umgesetzt wird.”Seth Moulton, US-Abgeordneter (D-Mass.), bei einer Anhörung des 2024 . Kongresses
Moulton beispielsweise befürwortet eine Pause, jedoch keinesfalls eine pauschale Einmischung.
„Es gibt zahlreiche Entwicklungen im Bereich der künstlichen Intelligenz, die wir nicht bremsen möchten, da wir so schnell wie möglich Heilungsmöglichkeiten für Krebs finden wollen“, sagte Moulton in einem Radiointerview mit „ “ für die NPR-Sendung „ “ in der „Morning Edition“.
Er weist jedoch darauf hin, dass Vorschriften unerlässlich sind, wenn wir den Einsatz von KI in der Kriegsführung oder ihre Fähigkeit, Desinformation in alarmierendem Ausmaß zu verbreiten, in Betracht ziehen. „Dies sind die Bereiche, auf die sich der Kongress meiner Meinung nach bei seiner Regulierung der künstlichen Intelligenz und der Aufsicht konzentrieren muss – nicht, um KI pauschal zu regulieren, sondern um zu verhindern, dass die schlimmsten Szenarien eintreten“, sagte er.
Wie wahrscheinlich ist also eine Genfer Konvention für KI?
„Während des Kalten Krieges gab es zahlreiche Abkommen über Atomwaffen“, erklärte Moulton gegenüber Politico in einem „ 2023 “-Interview. „Die Genfer Konventionen wurden in einer Zeit ausgehandelt, in der weltweit große Spannungen herrschten.“ „Ich glaube, das ist schwierig, aber es lohnt sich auf jeden Fall, es zu versuchen.“
Präsident Biden unterstrich diesen Gedanken unbeabsichtigt in seiner Rede anlässlich des 80. Jahrestags in der Normandie, als er auf „die einzigartige Fähigkeit Amerikas, Länder zusammenzubringen“ hinwies. Ebenso tat es Verteidigungsminister Lloyd J. Austin III. in seiner Rede zum D-Day im vergangenen Jahr.
„Wir müssen den Herausforderungen der heutigen Zeit mit unserer ganzen Kraft begegnen – Soldaten wie Zivilisten gleichermaßen“, sagte Austin unter in Bezug auf die Anfälligkeit der Demokratie. „Wenn die Soldaten der Demokratien dieser Welt ihr Leben für die Freiheit riskieren konnten, dann können sicherlich auch die Bürger der Demokratien dieser Welt jetzt unseren Komfort für die Freiheit opfern.“
Sie sprachen nicht unbedingt von KI an sich. Aber … irgendwie waren sie es doch.
