Südkorea nimmt eine große Rolle in seinem Streben ein, ein internationaler Marktführer im Bereich KI zu werden, indem es Geld und Ressourcen in KI-Projekte eingießt, um das Wirtschaftswachstum voranzutreiben, herausragende KI-Richtlinien zu erstellen und eine hohe Wattleistungstransparenz auf der Weltstufe zu erhalten.
Letzten Monat hat sie das National AI Strategy Committee ins Leben gerufen, das oberste Gremium, das die KI-Richtlinien von SK überwacht, im Einklang mit dem Versprechen von Präsident Lee Jae Myung, das Land zu einem der drei wichtigsten globalen KI-Kraftwerke zu machen. Letzte Woche leitete Lee, in einer historischen Premiere für einen koreanischen Führer, eine hochrangige Debatte beim UN Security Council, die sich auf die Auswirkungen von KI auf den internationalen Frieden und die Sicherheit konzentrierte. Und diesen Monat wird sich Lee erneut auf KI konzentrieren, wenn er die Jahrestagung des Asia-Pacific Economic Cooperation Forum leitet.
„Um die Veränderungen der KI-Ära, in der Licht und Schatten koexistieren, in Chancen zu verwandeln, ist es für die internationale Gemeinschaft unerlässlich, das Prinzip der „verantwortlichen Nutzung von KI“ zu vereinen und aufrechtzuerhalten“, sagte Lee auf dem UNSC-Treffen in New York.
Dieses Prinzip des verantwortungsvollen Gebrauchs, insbesondere der Betonung von Sicherheit und Vertrauen, durchdringt Südkoreas neuen AI Basic Act, der Anfang des Jahres verabschiedet wurde und im Januar in Kraft treten wird. Es handelt sich um einen umfassenden Rechtsrahmen für KI und unterscheidet sich in einigen wichtigen Aspekten von früheren Vorschriften, die weltweit verabschiedet wurden, insbesondere dem präskriptiveren KI-Gesetz der EU (verabschiedet im Jahr 2024) und Japans leichterer Touch, mehr Werbegesetzgebung (im Juni eingeführt). Während Experten die Vor- und Nachteile des AI Basic Act bewerten, glauben einige, dass seine Flexibilität es zu einem Modell für andere Nationen machen könnte.
Balancing Act – ein Grundpfeiler des neuen KI-Gesetzes Südkoreas
Der AI Basic Act gilt im Geltungsbereich für Organisationen mit Sitz in und außerhalb Südkoreas, die einen KI-Dienst oder ein KI-Produkt bereitstellen, das im Land verwendet wird. Sie umfasst Bereiche wie rechtliche, institutionelle und kulturelle Maßnahmen zur Implementierung einer soliden KI-Gesellschaft, da sie danach strebt, KI-Innovationen mit Menschenrechten, Sicherheit und anderen Anliegen in Einklang zu bringen.
„Es ist für die internationale Gemeinschaft unerlässlich, das Prinzip der „verantwortlichen Nutzung von KI“ zu vereinen und aufrechtzuerhalten.“Südkoreanischer Präsident Lee Jae Myung
Ziel ist es, die Entwicklung von KI-Technologie zu fördern und öffentliches Vertrauen aufzubauen. Laut einer Bewertung des Center for Strategic International Studies, einer gemeinnützigen Forschungsorganisation für Richtlinien, „deckt sie Richtlinien auf nationaler Ebene für die KI-Entwicklung, die Unterstützung des Branchenwachstums, Rechenzentrumsinitiativen, ethische Prinzipien, Verpflichtungen zur Gewährleistung von Transparenz und Sicherheit und Vorschriften für hochriskante und generative KI-Systeme ab.“ Als ob dies nicht groß genug wäre, versucht es auch, ein Risikomanagementsystem zu implementieren, um die allgemeine Sicherheit von KI-Systemen zu gewährleisten, und wendet einen zertifizierungsbasierten Vertrauensmechanismus an, um die Authentizität von Benutzern, Geräten und Websites in einem Netzwerk zu überprüfen.
Die Verabschiedung des Gesetzes hat mehrere andere Schritte in Bezug auf die KI-Governance befolgt:
- Südkorea hat die UN-Lösung für sichere und vertrauenswürdige KI. März 2024angenommen. Die Lösung zielt darauf ab, die Nutzung von KI auf globales Wohl auszurichten.
- Im Jahr gab Mai 2024das Land die Seoul-Erklärung für sichere, innovative und integrative KI bekannt, die ein gemeinsames Verständnis der Chancen und Risiken bestätigt, die sich aus KI ergeben, und von 10 Ländern und der Europäischen Union unterzeichnet wurde..
- Zuletzt hat März 2025Südkorea eine neue Interagency-Organisation gegründet, die National AI Security Consultative Group.
[Lesen Sie auch: Racing zur Bereitstellung von KI? Sicherheit beginnt mit guter Governance]
Obwohl sie derzeit in Arbeit sind, haben diese Schritte Südkorea weltweit in eine Führungsposition versetzt, wenn es um die Bewältigung von KI-Herausforderungen wie Sicherheits- und Datenschutzrisiken geht. Und sie sind in der Tat große Herausforderungen.
„Die wachsende Anerkennung des Potenzials von KI, direkte Auswirkungen auf die harte Sicherheit und den sozialen Zusammenhalt zu haben, nicht nur auf die Cybersicherheit, war wichtig“, sagt Jenny Town, Senior Fellow und Director des Korea Program am Stimson Center, einem Think Tank in Washington, D.C... „Die Tatsache, dass es nationale und multinationale Bemühungen gibt, die Herausforderungen zu charakterisieren und Gesetze, Vorschriften und Standards in einer Reihe von Problemen zu entwickeln, ist ermutigend und muss fortgesetzt werden.“
Wie das KI-Gesetz Südkoreas einen Anreiz für eine verantwortungsvolle Nutzung bietet
Die genannten Ziele des südkoreanischen AI Basic Act sind die Förderung der Sicherheit und Zuverlässigkeit der KI-Technologie und die Verbesserung der Lebensqualität von Einzelpersonen. „Betroffene Personen müssen eine klare und aussagekräftige Erklärung der wichtigsten Kriterien und Prinzipien erhalten, die verwendet werden, um die endgültigen KI-Ergebnisse abzuleiten, soweit dies technisch und vernünftigerweise möglich ist“, besagt eine Übersetzung , die vom Center for Security and Emerging Technology, einer politischen Forschungsorganisation innerhalb der Walsh School of Foreign Service der Georgetown University, bereitgestellt wird.
„[Der] sehr detaillierte und breite Umfang des EU-KI-Gesetzes erschwert es den einzelnen Ländern, sich zu übernehmen oder anzupassen.“Kwang Bae Park, Senior Partner, Lee & Ko
Das Gesetz hat auch das AI Safety Research Institute geschaffen, um Aufgaben auszuführen, die das Leben, das körperliche Wohlbefinden und das Eigentum von Menschen vor Risiken im Zusammenhang mit KI schützen und eine Vertrauensgrundlage in einer KI-Gesellschaft aufrechterhalten sollen. Das Institut wird sich zum Ziel setzen, sicherheitsbezogene Risiken zu definieren und zu analysieren sowie Kriterien und Methoden zur Bewertung der KI-Sicherheit sowie KI-Sicherheitstechnologien und Standardisierung zu erforschen.
„Ein herausragendes Merkmal ist die Nutzung der öffentlichen Beschaffung durch die Akte zur Förderung einer verantwortungsvollen KI-Entwicklung“, sagt Sakshi Shivhare, Policy Associate für Asien/Pazifik beim Future of Privacy Forum, einer gemeinnützigen Organisation, die sich auf die Gewährleistung des Datenschutzes und der ethischen Nutzung neuer Technologien konzentriert..
Unternehmen, die KI einsetzen, werden im Rahmen der Aktion ermutigt, Folgenabschätzungen für KI-Systeme mit hoher Auswirkung durchzuführen, um ihre potenziellen Auswirkungen auf die Grundrechte zu bewerten, sagt Shivhare. „Während die Handlung freiwillig ist, schafft sie einen echten Anreiz: Regierungsbehörden sollen KI-Produkte oder Dienstleistungen priorisieren, die bei Beschaffungsentscheidungen solchen Bewertungen unterzogen wurden“, sagt sie.
Die öffentliche Beschaffung ist nur ein Beispiel für eine breitere Reihe von Maßnahmen, die darauf abzielen, Innovation mit Risikominderung in Einklang zu bringen, sagt Shivhare.
Als der AI Basic Act im Januar verabschiedete, wurde Südkorea nach der EU nur der zweite der Welt, der ein so weitreichendes regulatorisches Gesetz über KI verabschiedete. (Japan würde einige Monate später seine eigene Gesetzgebung verabschieden und einführen.) Das bedeutete, dass der Künstliche-Intelligence-Gesetz der EU der einzige wesentliche Bezugspunkt war, „aber sein sehr detaillierter und breiter Umfang erschwert es den einzelnen Ländern, sich zu übernehmen oder anzupassen“, behauptet Kwang Bae Park, Senior Partner bei Lee & Ko in Seoul, der die Technologie-, Medien- und Telekommunikationsgruppe der Anwaltskanzlei leitet und als Leiter der Datenschutz- und Cybersicherheitspraxis fungiert. Der südkoreanische AI Basic Act „bietet einen einfacheren, optimierteren Rechtsrahmen, der flexibel genug bleibt, um zukünftigen technologischen und Ökosystemveränderungen Rechnung zu tragen.“
Diese Anpassungsfähigkeit wird, seiner Meinung nach, anderen Nationen gefallen, die ihre eigenen KI-Regulierungsregime entwickeln, und als Schlüsselelement in jedem „Basic“-inspirierten Blueprint dienen.
Das südkoreanische KI-Gesetz ist ein regulatorisches, in Bearbeitung befindliches Gesetz
Der südkoreanische AI Basic Act ist jedoch nicht perfekt. „Der AI Basic Act wurde in Kraft gesetzt, um die Position der Regierung widerzuspiegeln, minimale regulatorische Störungen in dieser frühen Phase der Entwicklung der KI-Branche aufrechtzuerhalten“, sagt Park. „Allerdings scheint es einen starken Kontrast zwischen den Perspektiven der Stakeholder der Branche und der Zivilgesellschaft hinsichtlich des angemessenen Umfangs und der Intensität der Regulierung zu geben.“
„Südkoreas Modell liegt zwischen dem strengen Rahmen der EU und der Werbehaltung Japans und zielt darauf ab, die regulatorische Aufsicht mit der Unterstützung für Innovation in Einklang zu bringen.“Sakshi Shivhare, Policy Associate für Asien/Pazifik, Future of Privacy Forum
Im Laufe der Zeit, wenn das KI-Ökosystem reift, wird erwartet, dass der regulatorische Rahmen anspruchsvoller wird, sagt Park. „Eine zentrale Herausforderung vor Inkrafttreten des Gesetzes im nächsten Januar ist die Definition des Umfangs von „High-Impact-KI-Systemen“ – ein grundlegendes Konzept – innerhalb untergeordneter Vorschriften ... Viele Kernelemente des Gesetzes bleiben unspezifiziert und werden voraussichtlich in der bevorstehenden untergeordneten Gesetzgebung detailliert, die noch veröffentlicht werden muss.“
Jedes Land weiß letztendlich am besten, was für seinen Kontext funktioniert, sagt Shivhare. „Sie kann Erkenntnisse von globalen Kollegen ziehen, muss sie aber an ihre einzigartigen Bedürfnisse und Prioritäten anpassen“, sagt sie. „Dann gibt es potenzielle Bereiche, in denen der [AI Basic Act] gestärkt werden könnte.“
Zum Beispiel stützt sich die Handlung stark auf zukünftige Präsidentschaftsverordnungen für wichtige operative Details und verzögert die Klarheit und Vorhersehbarkeit für Stakeholder, sagt Shivhare. „Angesichts der Tatsache, dass viele KI-Systeme in oder neben kritischer Infrastruktur betrieben werden, sind ihre begrenzten Bestimmungen zur Cybersicherheit ein weiterer Bereich, in dem stärkere Schutzmaßnahmen Mehrwert schaffen könnten“, sagt sie.
Südkorea vs. EU vs. Japan – wie sich die KI-Gesetze entwickeln
Der südkoreanische AI Basic Act, der AI Act der EU und der AI Promotion Act Japan fördern alle vertrauenswürdige KI, verfolgen aber unterschiedliche Ansätze.
„Ein First Mover hat seine Vorteile, aber es bedeutet auch, dass seine Richtlinien im Laufe der Zeit ständig überprüft und überarbeitet werden müssen.“Jenny Town, Senior Fellow und Director des Korea-Programms, Stimson Center
Der EU AI Act ist ein hochpräskriptiver, risikobasierter Rahmen mit detaillierten Anforderungen und expliziten Verboten für bestimmte KI-Verwendungen. Südkorea scheint sich etwas aus dem EU-Playbook in Bezug auf die Regulierung von KI auf Risikobasis zu leihen und eine klare Aufzeichnung zu betonen. Es verfolgt einen mehrschichtigen, transparenten Ansatz, der die meisten Verpflichtungen auf hocheffektive KI-Systeme überträgt und gleichzeitig viele operative Details zukünftigen Vorschriften überlässt. Japan hat dagegen einen entschiedenen Werbeansatz gewählt, der breite Prinzipien festlegt, um die KI-Forschung, -Entwicklung und -Nutzung zu fördern.
„Insgesamt liegt das südkoreanische Modell zwischen dem strengen Rahmen der EU und der Werbehaltung Japans und zielt darauf ab, die regulatorische Aufsicht mit der Unterstützung für Innovationen in Einklang zu bringen“, so Shivhare.
[Lesen Sie auch: Wie Sie den KI-Gesetz der EU einhalten – beginnen Sie mit Ihrem Risikoniveau]
Wie der EU AI Act schließt die koreanische Gesetzgebung den Verteidigungssektor aus, wahrscheinlich aufgrund der separaten regulatorischen Rahmenbedingungen, die die nationale Sicherheit regeln.
„In Bezug auf die Durchsetzung gewährt das Gesetz Aufsichtsbehörden lediglich Ermittlungsbefugnisse, ohne robustere Durchsetzungsmechanismen einzurichten – obwohl dies mit seiner Absicht als Basisrahmen übereinstimmt“, sagt Park.
Angesichts der bevorstehenden Phase der KI-Entwicklung könnte ein umfassendes und starres Rahmenwerk wie der EU AI Act für viele Gerichtsbarkeiten unpraktisch sein, fügt Park hinzu. „Der Korean AI Basic Act mit seiner prägnanten Sprache und dem Schwerpunkt auf minimaler, aber flexibler Regulierung kann einen pragmatischeren und anpassungsfähigeren Bezugspunkt für Länder bieten, die KI-Gesetzgebung erstellen möchten, die für eine schnelle technologische Entwicklung geeignet ist“, sagt er.
Die Regulierung der KI-Entwicklung ist nach wie vor ein aufkommender Trend, sagt Town, und einer, der von Natur aus iterativ sein wird, wenn man bedenkt, wie schnell die Technologie voranschreitet. „Südkorea ist eines der Länder, das an der Spitze dieses Trends steht“, sagt sie. „Ein First Mover hat seine Vorteile, aber es bedeutet auch, dass seine Richtlinien im Laufe der Zeit ständig überprüft und überarbeitet werden müssen. [seine] Erfahrungen werden auch anderen Ländern helfen, ihre eigenen Bedürfnisse und Optionen zu berücksichtigen.“
