Südkorea ist auf einem guten Weg, eine internationale Führungsrolle im Bereich der KI einzunehmen: Das Land investiert Geld und Ressourcen in KI-Projekte, um das Wirtschaftswachstum anzukurbeln, erarbeitet herausragende KI-Richtlinien unter und erlangt auf der internationalen Bühne große Aufmerksamkeit.
Im vergangenen Monat hat die „ “ unter den Nationalen KI-Strategieausschuss ins Leben gerufen, das oberste Gremium zur Überwachung der KI-Politik Südkoreas, ganz im Sinne des Versprechens von Präsident Lee Jae Myung, das Land zu einer der drei weltweit führenden KI-Großmächte zu machen. In der vergangenen Woche leitete Lee – als erster koreanischer Staatschef überhaupt – eine hochrangige Debatte im Rahmen der „ “ im UN-Sicherheitsrat, bei der es um die Auswirkungen künstlicher Intelligenz auf den internationalen Frieden und die internationale Sicherheit ging. Und in diesem Monat wird sich Lee erneut mit dem Thema KI befassen, wenn er den Vorsitz bei der Jahrestagung des Forums für asiatisch-pazifische wirtschaftliche Zusammenarbeit (APEC) übernimmt.
„Um die Veränderungen des KI-Zeitalters – in dem Licht und Schatten nebeneinander bestehen – in Chancen zu verwandeln, ist es unerlässlich, dass die internationale Gemeinschaft zusammenhält und den Grundsatz des ‚verantwortungsvollen Umgangs mit KI‘ hochhält“, erklärte Lee auf der Sitzung des UN-Sicherheitsrates in New York.
Dieser Grundsatz der verantwortungsvollen Nutzung, insbesondere , der Sicherheit und Vertrauen in den Vordergrund stellt, zieht sich wie ein roter Faden durch Südkoreas neues KI-Grundgesetz, das Anfang dieses Jahres verabschiedet wurde und im Januar in Kraft treten soll. Es handelt sich um einen umfassenden Rechtsrahmen für künstliche Intelligenz, der sich in einigen wesentlichen Punkten von früheren, weltweit verabschiedeten Vorschriften unterscheidet, insbesondere vom eher präskriptiven KI-Gesetz der EU (in Kraft getreten im Jahr 2024) und von Japans weniger strengem, eher förderndem Gesetz (in Kraft getreten im Juni). Während Experten die Vor- und Nachteile des KI-Grundgesetzes abwägen, sind einige der Ansicht, dass dessen Flexibilität es zu einem Vorbild für andere Länder machen könnte.
Ein Balanceakt – Ein Leitfaden zum neuen KI-Gesetz Südkoreas
Das „AI-Grundgesetz“ ist in seinem Anwendungsbereich sehr weit gefasst und gilt für Organisationen mit Sitz innerhalb und außerhalb Südkoreas, die KI-Dienste oder -Produkte anbieten, die in diesem Land genutzt werden. Es umfasst Bereiche wie rechtliche, institutionelle und kulturelle Maßnahmen zur Verwirklichung einer soliden KI-Gesellschaft, da es darauf abzielt, ein Gleichgewicht zwischen KI-Innovation und Menschenrechten, Sicherheit sowie anderen Belangen herzustellen.
“„Es ist von entscheidender Bedeutung, dass die internationale Gemeinschaft zusammensteht und den Grundsatz des ‚verantwortungsvollen Einsatzes von KI‘ hochhält.“Der südkoreanische Präsident Lee Jae Myung
Ziel ist es, die Entwicklung der KI-Technologie zu fördern und das Vertrauen der Öffentlichkeit zu stärken. Laut einer Bewertung des „ “ durch das Center for Strategic International Studies, einer gemeinnützigen Organisation für Politikforschung, „umfasst dies politische Maßnahmen auf nationaler Ebene zur Entwicklung künstlicher Intelligenz, zur Förderung des Branchenwachstums, Initiativen im Bereich Rechenzentren, ethische Grundsätze, Verpflichtungen zur Gewährleistung von Transparenz und Sicherheit sowie Vorschriften für risikoreiche und generative KI-Systeme.“ Als ob dies nicht schon eine ausreichend große Herausforderung wäre, zielt der Vorschlag zudem darauf ab, ein Risikomanagementsystem nach dem Prinzip „ “ einzuführen, um die allgemeine Sicherheit von KI-Systemen zu gewährleisten, und einen zertifizierungsbasierten Vertrauensmechanismus für einzuführen, mit dem die Authentizität von Nutzern, Geräten und Websites in einem Netzwerk überprüft wird.
Der Verabschiedung des Gesetzes gingen mehrere weitere Schritte im Zusammenhang mit der Regulierung künstlicher Intelligenz voraus:
- Im Rahmen der „ März 2024“ hat Südkorea die UN-Resolution zu sicherer, geschützter und vertrauenswürdiger KI verabschiedet. Die Entschließung zielt darauf ab, den Einsatz von KI zum Wohle der Welt zu lenken.
- Im Rahmen der „ Mai 2024“ verkündete das Land die „Seoul-Erklärung für sichere, innovative und inklusive KI“ ( ), die ein gemeinsames Verständnis der Chancen und Risiken der KI bekräftigt und von 10 Ländern sowie der Europäischen Union ( ) unterzeichnet wurde ().
- Zuletzt hat Südkorea im Rahmen des Gesetzes „ März 2025“ eine neue behördenübergreifende Organisation ins Leben gerufen, die Nationale Beratungsgruppe für KI-Sicherheit.
Auch wenn es sich hierbei noch um laufende Projekte handelt, verschaffen diese Maßnahmen Südkorea weltweit eine Vorreiterrolle bei der Bewältigung von Herausforderungen im Bereich der künstlichen Intelligenz, wie beispielsweise Sicherheits- und Datenschutzrisiken. Und das sind in der Tat große Herausforderungen.
„Die zunehmende Erkenntnis, dass KI nicht nur im Bereich der Cybersicherheit, sondern auch direkte Auswirkungen auf die physische Sicherheit und den sozialen Zusammenhalt haben kann, ist von großer Bedeutung“, sagt Jenny Town, Senior Fellow und Leiterin des Korea-Programms am Stimson Center, einem Thinktank in Washington, D.C. „Die Tatsache, dass es nationale und multinationale Bemühungen gibt, die Herausforderungen zu erfassen und Gesetze, Vorschriften und Standards für eine Vielzahl von Themenbereichen zu erarbeiten, ist ermutigend und muss fortgesetzt werden.“
Wie das südkoreanische KI-Gesetz Anreize für einen verantwortungsvollen Umgang schafft
Die erklärten Ziele des südkoreanischen KI-Grundgesetzes bestehen darin, die Sicherheit und Zuverlässigkeit der KI-Technologie zu fördern und die Lebensqualität der Menschen zu verbessern. „Den betroffenen Personen ist, soweit dies technisch und zumutbar möglich ist, eine klare und aussagekräftige Erläuterung der wesentlichen Kriterien und Grundsätze zu geben, auf deren Grundlage die endgültigen KI-Ergebnisse abgeleitet wurden“, heißt es in einer Übersetzung von „ “ ( ), die vom Center for Security and Emerging Technology, einer Organisation für Politikforschung an der Walsh School of Foreign Service der Georgetown University, bereitgestellt wurde.
“„[Das] äußerst detaillierte und weitreichende Geltungsgebiet des EU-KI-Gesetzes erschwert es den einzelnen Ländern, dieses zu übernehmen oder anzupassen.“Kwang Bae Park, Seniorpartner bei Lee & Ko
Mit dem Gesetz wurde zudem das Forschungsinstitut für KI-Sicherheit ins Leben gerufen, dessen Aufgabe es ist, das Leben, die körperliche Unversehrtheit und das Eigentum der Menschen vor den mit KI verbundenen Risiken zu schützen und die Vertrauensbasis in einer KI-Gesellschaft zu wahren. Das Institut wird sich zum Ziel setzen, sicherheitsrelevante Risiken zu definieren und zu analysieren sowie Bewertungskriterien und -methoden für die Sicherheit von KI sowie Technologien und Standardisierungsmaßnahmen im Bereich der KI-Sicherheit zu erforschen.
„Ein herausragendes Merkmal ist der Einsatz des Gesetzes im Bereich des öffentlichen Beschaffungswesens zur Förderung einer verantwortungsvollen KI-Entwicklung“, sagt Sakshi Shivhare, politische Referentin für den asiatisch-pazifischen Raum beim Future of Privacy Forum, einer gemeinnützigen Organisation, die sich für den Schutz der Privatsphäre im Internet ( ) und den ethischen Umgang mit neuen Technologien einsetzt.
Gemäß dem Gesetz werden Unternehmen, die KI einsetzen, dazu angehalten, Folgenabschätzungen für KI-Systeme mit erheblichen Auswirkungen durchzuführen, um deren potenzielle Auswirkungen auf die Grundrechte zu bewerten, so Shivhare. „Obwohl es sich um eine freiwillige Maßnahme handelt, schafft das Gesetz einen echten Anreiz: Regierungsbehörden sollen bei ihren Beschaffungsentscheidungen KI-Produkten oder -Dienstleistungen den Vorzug geben, die einer solchen Bewertung unterzogen wurden“, sagt sie.
Das öffentliche Beschaffungswesen sei nur ein Beispiel für ein umfassenderes Maßnahmenpaket, das darauf abziele, Innovation und Risikominderung in Einklang zu bringen, so Shivhare.
Mit der Verabschiedung des KI-Grundgesetzes im Januar wurde Südkorea nach der EU zum weltweit zweiten Land, das ein derart weitreichendes Regulierungsgesetz zur künstlichen Intelligenz verabschiedete. (Japan würde darauf verzichten und einige Monate später eigene Rechtsvorschriften erlassen.) Das bedeutete, dass das EU-Gesetz über künstliche Intelligenz der einzige wesentliche Anhaltspunkt war, „doch sein äußerst detaillierter und weitreichender Geltungsbereich erschwert es den einzelnen Ländern, es zu übernehmen oder anzupassen“, erklärt Kwang Bae Park, Senior Partner bei Lee & Ko in Seoul, der die Praxisgruppe für Technologie, Medien und Telekommunikation der Kanzlei leitet und als Leiter der Praxisbereiche Datenschutz und Cybersicherheit fungiert. Das südkoreanische KI-Rahmengesetz „bietet einen einfacheren, strafferen Rechtsrahmen, der dennoch flexibel genug ist, um künftigen technologischen und ökologischen Veränderungen Rechnung zu tragen.“
Diese Anpassungsfähigkeit, so ist er der Ansicht, wird andere Länder ansprechen, die ihre eigenen Regulierungsrahmen für künstliche Intelligenz entwickeln, und als Schlüsselelement in jedem von „Basic“ inspirierten Konzept dienen.
Das KI-Gesetz Südkoreas befindet sich noch in der Ausarbeitungsphase
Das südkoreanische KI-Rahmengesetz ist jedoch nicht perfekt. „Das KI-Grundgesetz wurde verabschiedet, um der Haltung der Regierung Rechnung zu tragen, in dieser frühen Phase der Entwicklung der KI-Branche nur minimale regulatorische Eingriffe vorzunehmen“, erklärt Park. „Allerdings scheint es hinsichtlich des angemessenen Umfangs und der Intensität der Regulierung einen deutlichen Gegensatz zwischen den Standpunkten der Akteure aus der Wirtschaft und denen der Zivilgesellschaft zu geben.“
„Das “südkoreanische Modell liegt zwischen den strengen Rahmenbedingungen der EU und der fördernden Haltung Japans und zielt darauf ab, ein Gleichgewicht zwischen regulatorischer Aufsicht und der Förderung von Innovationen herzustellen.“Sakshi Shivhare, Referentin für den asiatisch-pazifischen Raum beim Future of Privacy Forum
Mit der Zeit, wenn das KI-Ökosystem reifer wird, wird sich der regulatorische Rahmen voraussichtlich weiter verfeinern, so Park. „Eine zentrale Herausforderung vor Inkrafttreten des Gesetzes im kommenden Januar besteht darin, den Geltungsbereich des Begriffs ‚KI-Systeme mit erheblichen Auswirkungen‘ – ein grundlegendes Konzept – in den Durchführungsbestimmungen zu definieren … Viele Kernelemente des Gesetzes sind noch nicht konkretisiert und werden voraussichtlich in den noch zu veröffentlichenden Durchführungsbestimmungen näher ausgeführt.“
„Letztendlich weiß jedes Land am besten, was in seinem jeweiligen Kontext funktioniert“, so Shivhare. „Es kann Lehren aus den Erfahrungen seiner internationalen Partner ziehen, muss diese jedoch an seine spezifischen Bedürfnisse und Prioritäten anpassen“, sagt sie. „Dennoch gibt es Bereiche, in denen das [KI-Grundgesetz] potenziell gestärkt werden könnte.“
So stützt sich das Gesetz beispielsweise in Bezug auf wichtige operative Einzelheiten stark auf künftige Präsidialverordnungen, was laut Shivhare die Klarheit und Vorhersehbarkeit für die Beteiligten verzögert. „Angesichts der Tatsache, dass viele KI-Systeme in oder im Umfeld von kritischen Infrastrukturen zum Einsatz kommen, stellen die begrenzten Bestimmungen zu Cybersicherheit einen weiteren Bereich dar, in dem strengere Schutzmaßnahmen einen Mehrwert schaffen könnten“, sagt sie.
Südkorea, die EU und Japan – ein Vergleich der KI-Gesetze
Sowohl das südkoreanische KI-Rahmengesetz als auch das KI-Gesetz der EU und das japanische Gesetz zur Förderung der KI fördern vertrauenswürdige KI, verfolgen dabei jedoch unterschiedliche Ansätze.
“„Als Vorreiter hat man zwar gewisse Vorteile, doch bedeutet dies auch, dass die eigenen Richtlinien im Laufe der Zeit ständig überprüft und überarbeitet werden müssen.“Jenny Town, Senior Fellow und Leiterin des Korea-Programms am Stimson Center
Das EU-KI-Gesetz ist ein äußerst präskriptiver, risikobasierter Rechtsrahmen mit detaillierten Anforderungen und ausdrücklichen Verboten für bestimmte KI-Anwendungen. Südkorea scheint sich bei der risikobasierten Regulierung von KI und der Betonung einer lückenlosen Dokumentation in gewisser Weise am Vorbild der EU zu orientieren. Es verfolgt einen mehrstufigen, auf Transparenz ausgerichteten Ansatz, bei dem die meisten Verpflichtungen den KI-Systemen mit erheblichen Auswirkungen auferlegt werden, während viele operative Einzelheiten künftigen Vorschriften überlassen bleiben. Japan hingegen verfolgt einen ausgesprochen fördernden Ansatz und hat allgemeine Grundsätze festgelegt, um die Forschung, Entwicklung und Nutzung von KI zu fördern.
„Insgesamt liegt das südkoreanische Modell zwischen dem strengen Rahmenwerk der EU und der fördernden Haltung Japans und zielt darauf ab, ein Gleichgewicht zwischen regulatorischer Aufsicht und der Förderung von Innovationen herzustellen“, so Shivhare.
Ähnlich wie das EU-KI-Gesetz schließt auch die koreanische Gesetzgebung den Verteidigungssektor aus, was wahrscheinlich auf die gesonderten Rechtsrahmen zurückzuführen ist, die für die nationale Sicherheit gelten.
„Was die Durchsetzung betrifft, so räumt das Gesetz den Aufsichtsbehörden lediglich Ermittlungsbefugnisse ein, ohne strengere Durchsetzungsmechanismen zu schaffen – was allerdings mit seiner Absicht als grundlegender Rahmen im Einklang steht“, sagt Park.
Angesichts des noch frühen Entwicklungsstands der KI könnte ein umfassender und starrer Rechtsrahmen wie das EU-KI-Gesetz für viele Rechtsordnungen unpraktikabel sein, fügt Park hinzu. „Das koreanische KI-Rahmengesetz mit seiner prägnanten Formulierung und seinem Schwerpunkt auf einer minimalen, aber flexiblen Regulierung könnte für Länder, die eine an die rasante technologische Entwicklung angepasste KI-Gesetzgebung ausarbeiten möchten, einen pragmatischeren und anpassungsfähigeren Bezugspunkt darstellen“, sagt er.
Die Regulierung der KI-Entwicklung sei nach wie vor ein sich abzeichnender Trend, so Town, und angesichts des rasanten technologischen Fortschritts werde dieser von Natur aus iterativ verlaufen. „Südkorea gehört zu den Ländern, die bei diesem Trend eine Vorreiterrolle einnehmen“, sagt sie. „Als Vorreiter hat man zwar gewisse Vorteile, doch bedeutet dies auch, dass die entsprechenden Richtlinien im Laufe der Zeit ständig überprüft und überarbeitet werden müssen.“ „[Die] Erfahrungen werden auch anderen Ländern dabei helfen, ihre eigenen Bedürfnisse und Möglichkeiten zu prüfen.“
