La Corée du Sud connaît actuellement un essor considérable dans sa volonté de devenir un leader international dans le domaine de l'IA : elle consacre des fonds et des ressources considérables à des projets d'IA afin de stimuler la croissance économique, élabore des lignes directrices exemplaires en matière d' s de l'IA et bénéficie d'une visibilité de premier plan sur la scène internationale.
Le mois dernier, l’ a mis en place le Comité national de stratégie en matière d’IA, l’instance suprême chargée de superviser les politiques de la Corée du Sud dans ce domaine, conformément à l’engagement pris par le président Lee Jae Myung de faire du pays l’une des trois premières puissances mondiales en matière d’IA. La semaine dernière, dans le cadre d’une première historique pour un dirigeant coréen, M. Lee a présidé un débat de haut niveau intitulé « » ( ) au Conseil de sécurité des Nations unies, consacré aux implications de l’intelligence artificielle pour la paix et la sécurité internationales. Ce mois-ci, M. Lee mettra à nouveau l'accent sur l'intelligence artificielle lorsqu'il présidera la réunion annuelle du Forum de coopération économique Asie-Pacifique.
« Pour transformer les changements liés à l’ère de l’IA — où coexistent lumière et ombre — en opportunités, il est essentiel que la communauté internationale s’unisse et défende le principe d’une « utilisation responsable de l’IA », a déclaré M. Lee lors de la réunion du Conseil de sécurité des Nations unies à New York.
Ce principe d’utilisation responsable, notamment qui met l’accent sur la sécurité et la confiance, imprègne la nouvelle loi-cadre sud-coréenne sur l’IA , adoptée en début d’année et dont l’entrée en vigueur est prévue en janvier. Il s'agit d'un cadre juridique complet en matière d'IA qui se distingue à plusieurs égards essentiels des réglementations adoptées précédemment à travers le monde, notamment de la loi européenne sur l'IA (adoptée en 2024), plus normative, et de la législation japonaise (lancée en juin), plus souple et davantage axée sur la promotion. Alors que les experts évaluent les avantages et les inconvénients de la loi-cadre sur l'IA, certains estiment que sa souplesse pourrait en faire un modèle pour d'autres pays.
Un exercice d'équilibre : introduction à la nouvelle loi sud-coréenne sur l'IA
D'une portée ambitieuse, la loi-cadre sur l'IA s'applique aux organisations, qu'elles soient établies en Corée du Sud ou à l'étranger, qui fournissent un service ou un produit d'IA utilisé dans ce pays. Elle englobe des domaines tels que les mesures juridiques, institutionnelles et culturelles visant à mettre en place une société de l'IA équilibrée, tout en s'efforçant de concilier l'innovation en matière d'IA avec les droits de l'homme, la sécurité et d'autres préoccupations.
«Il est essentiel que la communauté internationale s’unisse et défende le principe d’une « utilisation responsable de l’IA ». »Le président sud-coréen Lee Jae Myung
Son objectif est de favoriser le développement des technologies d'intelligence artificielle et de renforcer la confiance du public. Selon une analyse intitulée « L’ » ( ), réalisée par le Center for Strategic International Studies, un organisme de recherche politique à but non lucratif, « ce document couvre les politiques nationales relatives au développement de l’IA, le soutien à la croissance du secteur, les initiatives concernant les centres de données, les principes éthiques, les obligations visant à garantir la transparence et la sécurité, ainsi que les réglementations applicables aux systèmes d’IA générative à haut risque et aux systèmes d’IA générative de type « » (). » Comme si cela ne suffisait pas, elle vise également à mettre en place un système de gestion des risques « » afin de garantir la sécurité globale des systèmes d’IA, et adopte un mécanisme de confiance fondé sur la certification permettant de vérifier l’authenticité des utilisateurs, des appareils et des sites web au sein d’un réseau.
L'adoption de cette loi a fait suite à plusieurs autres mesures concernant la gouvernance de l'IA :
- Dans le cadre de l’initiative « mars 2024 », la Corée du Sud a adopté la résolution des Nations unies relative à une IA sûre, sécurisée et digne de confiance . Cette résolution vise à orienter l'utilisation de l'IA au service du bien commun mondial.
- Lors de la conférence « mai 2024 », le pays a annoncé la « Déclaration de Séoul pour une IA sûre, innovante et inclusive », , qui confirme une vision commune des opportunités et des risques liés à l’IA et qui a été signée par 10 pays ainsi que par l’ l’Union européenne.
- Tout récemment, dans le cadre de l’initiative « mars 2025 », la Corée du Sud a créé une nouvelle structure interinstitutionnelle, le Groupe consultatif national sur la sécurité en matière d’IA.
Bien qu’il s’agisse de projets en cours, ces mesures placent la Corée du Sud en position de leader au niveau mondial en matière de réponse aux défis liés à l’IA, tels que les risques liés à la sécurité et à la protection des données. Et ce sont en effet des défis de taille.
« La prise de conscience croissante du potentiel de l’IA à avoir des répercussions directes sur la sécurité matérielle et la cohésion sociale, et pas seulement sur la cybersécurité, a joué un rôle important », déclare Jenny Town, chercheuse senior et directrice du programme coréen au Stimson Center, un groupe de réflexion basé à Washington, D.C. « Le fait qu’il existe des initiatives nationales et multinationales visant à cerner ces défis et à élaborer des lois, des réglementations et des normes dans divers domaines est encourageant et doit se poursuivre. »
Comment la loi sud-coréenne sur l'IA encourage une utilisation responsable
Les objectifs déclarés de la loi-cadre sud-coréenne sur l'intelligence artificielle sont de promouvoir la sécurité et la fiabilité des technologies d'intelligence artificielle et d'améliorer la qualité de vie des individus. « Les personnes concernées doivent recevoir une explication claire et pertinente des principaux critères et principes utilisés pour aboutir aux résultats finaux de l’IA, dans la mesure où cela est techniquement et raisonnablement possible », selon une traduction de l’ fournie par le Center for Security and Emerging Technology, un organisme de recherche en politiques publiques rattaché à la Walsh School of Foreign Service de l’université de Georgetown.
«[La loi européenne sur l’IA] est si détaillée et son champ d’application si vaste qu’il est difficile pour les différents pays de l’adopter ou de l’adapter. »Kwang Bae Park, associé principal chez Lee & Ko
Cette loi a également créé l'Institut de recherche sur la sécurité de l'IA, chargé de mener des actions visant à protéger la vie, l'intégrité physique et les biens des personnes contre les risques liés à l'IA, ainsi qu'à préserver les fondements de la confiance dans une société fondée sur l'IA. Cet institut aura pour objectif de définir et d'analyser les risques liés à la sécurité, ainsi que d'étudier les critères et les méthodes d'évaluation de la sécurité de l'IA, les technologies de sécurité de l'IA et la normalisation dans ce domaine.
« L’une des caractéristiques marquantes de cette loi réside dans le recours aux marchés publics pour promouvoir un développement responsable de l’IA », explique Sakshi Shivhare, chargée de mission pour la région Asie-Pacifique au Future of Privacy Forum, une organisation à but non lucratif qui œuvre à la protection de la vie privée d s et à l’utilisation éthique des technologies émergentes.
En vertu de cette loi, les entreprises qui utilisent l'IA sont encouragées à réaliser des analyses d'impact pour les systèmes d'IA à fort impact, afin d'évaluer leurs effets potentiels sur les droits fondamentaux, explique M. Shivhare. « Bien qu’il s’agisse d’une mesure volontaire, cette loi crée une véritable incitation : Les organismes publics doivent privilégier les produits ou services d’IA ayant fait l’objet de ces évaluations lorsqu’ils prennent des décisions d’achat », explique-t-elle.
Les marchés publics ne constituent qu'un exemple parmi d'autres d'un ensemble plus large de mesures visant à trouver un équilibre entre innovation et réduction des risques, explique M. Shivhare.
Lorsque la loi-cadre sur l'IA a été adoptée en janvier, la Corée du Sud est devenue le deuxième pays au monde, après l'Union européenne, à adopter une loi réglementaire d'une telle portée en matière d'IA. (Le Japon allait adopter et mettre en œuvre sa propre législation quelques mois plus tard.) Cela signifiait que la loi sur l’intelligence artificielle de l’ UE constituait le seul point de référence significatif, « mais son caractère extrêmement détaillé et son champ d’application très large rendent son adoption ou son adaptation difficile pour les différents pays », affirme Kwang Bae Park, associé principal chez Lee & Ko à Séoul, qui dirige le pôle Technologie, médias et télécommunications du cabinet d’avocats et occupe le poste de responsable des pratiques en matière de protection des données et de cybersécurité. La loi-cadre sud-coréenne sur l’intelligence artificielle « offre un cadre juridique plus simple et plus rationnel, tout en restant suffisamment souple pour s’adapter aux évolutions futures des technologies et de l’écosystème ».
Selon lui, cette adaptabilité séduira d'autres pays qui élaborent leurs propres cadres réglementaires en matière d'IA et constituera un élément clé de tout projet inspiré de la loi « Basic ».
La loi sud-coréenne sur l'IA est un projet de réglementation en cours d'élaboration
La loi-cadre sud-coréenne sur l'IA n'est toutefois pas parfaite. « La loi-cadre sur l’IA a été promulguée afin de refléter la position du gouvernement, qui consiste à limiter au minimum l’intervention réglementaire à ce stade précoce du développement du secteur de l’IA », explique M. Park. « Il semble toutefois exister un contraste marqué entre les points de vue des acteurs du secteur et ceux de la société civile quant à la portée et à l'intensité appropriées de la réglementation. »
«Le modèle sud-coréen se situe à mi-chemin entre le cadre strict de l’UE et l’approche favorable à l’innovation du Japon, visant à trouver un équilibre entre la surveillance réglementaire et le soutien à l’innovation. »Sakshi Shivhare, chargée des politiques pour l'Asie-Pacifique au Future of Privacy Forum
Au fil du temps, à mesure que l'écosystème de l'IA gagnera en maturité, le cadre réglementaire devrait se complexifier, explique M. Park. « L’un des principaux défis à relever avant l’entrée en vigueur de la loi en janvier prochain consiste à définir la portée des « systèmes d’IA à fort impact » — un concept fondamental — dans les textes réglementaires d’application… De nombreux éléments essentiels de la loi restent à préciser et devraient être détaillés dans les textes réglementaires d’application à venir, qui n’ont pas encore été publiés. »
« Chaque pays sait mieux que quiconque ce qui fonctionne dans son contexte », affirme Shivhare. « Elle peut s'inspirer de ses homologues internationaux, mais doit adapter ces expériences à ses besoins et à ses priorités spécifiques », déclare-t-elle. « Cela dit, il existe des domaines dans lesquels la [loi-cadre sur l'IA] pourrait être renforcée. »
Par exemple, selon M. Shivhare, cette loi s'appuie largement sur de futurs décrets présidentiels pour définir des détails opérationnels essentiels, ce qui retarde la clarification et la prévisibilité pour les parties prenantes. « Étant donné que de nombreux systèmes d’IA fonctionnent au sein ou en parallèle d’infrastructures critiques , ses dispositions limitées en matière de cybersécurité constituent un autre domaine dans lequel des mesures de protection plus strictes pourraient apporter une valeur ajoutée », déclare-t-elle.
Corée du Sud, Union européenne et Japon : comparaison des législations en matière d'IA
La loi-cadre sud-coréenne sur l'IA, la loi européenne sur l'IA et la loi japonaise sur la promotion de l'IA visent toutes à promouvoir une IA digne de confiance, mais adoptent des approches distinctes.
«Être un pionnier présente des avantages, mais cela implique également que ses politiques devront faire l’objet d’un examen et d’une révision constants au fil du temps. »Jenny Town, chercheuse principale et directrice du programme sur la Corée au Stimson Center
La loi européenne sur l'IA constitue un cadre très normatif, fondé sur l'évaluation des risques, qui prévoit des exigences détaillées et des interdictions explicites concernant certaines utilisations de l'IA. La Corée du Sud semble s'inspirer quelque peu du modèle de l'Union européenne en matière de réglementation de l'IA, en se fondant sur l'évaluation des risques et en mettant l'accent sur la tenue de registres clairs. Elle adopte une approche à plusieurs niveaux, axée sur la transparence, qui impose la plupart des obligations aux systèmes d'IA à fort impact tout en laissant de nombreux détails opérationnels à l'appréciation de futures réglementations. Le Japon, en revanche, a adopté une approche résolument favorable, en définissant des principes généraux visant à encourager la recherche, le développement et l'utilisation de l'IA.
« Dans l’ensemble, le modèle sud-coréen se situe à mi-chemin entre le cadre rigoureux de l’Union européenne et l’approche favorable à l’innovation du Japon, et vise à trouver un équilibre entre la surveillance réglementaire et le soutien à l’innovation », explique M. Shivhare.
À l'instar de la loi européenne sur l'IA, la législation coréenne exclut le secteur de la défense, probablement en raison des cadres réglementaires distincts qui régissent la sécurité nationale.
« En ce qui concerne l’application de la loi, celle-ci se contente d’accorder des pouvoirs d’enquête aux autorités de régulation sans mettre en place de mécanismes d’application plus solides — même si cela correspond à son objectif en tant que cadre de référence », explique M. Park.
Compte tenu du stade naissant du développement de l'IA, un cadre complet et rigide tel que la loi européenne sur l'IA pourrait s'avérer peu adapté à de nombreuses juridictions, ajoute M. Park. « La loi-cadre coréenne sur l’IA, avec son libellé concis et l’accent mis sur une réglementation minimale mais souple, pourrait constituer un point de référence plus pragmatique et plus adaptable pour les pays qui cherchent à élaborer une législation en matière d’IA adaptée à l’évolution rapide des technologies », déclare-t-il.
La réglementation du développement de l'IA reste une tendance émergente, affirme M. Town, et celle-ci sera, par nature, itérative compte tenu de la rapidité avec laquelle la technologie évolue. « La Corée du Sud est l’un des pays à l’avant-garde de cette tendance », déclare-t-elle. « Être un pionnier présente des avantages, mais cela implique également que ses politiques devront faire l'objet d'un examen et d'une révision constants au fil du temps. » « [Son] expérience aidera également d’autres pays à réfléchir à leurs propres besoins et possibilités. »
