rapport établi au nom de l'office, sur les nouveaux développements de l'intelligence artificielle

2. L’espace des positions face à l’intelligence artificielle générale et au risque existentiel

Les risques créés par l’intelligence artificielle sont multiformes. Les risques politiques et de cybersécurité ont été bien analysés, y compris les risques de détournement des outils d’IA et d’attaques malveillantes, mais les menaces que fait courir l’IA ne sont pas uniquement d’ordre politique ou technique, elles prennent une dimension plus globale, parfois qualifiée de systémique voire d’existentielle. Avec la notion de risque systémique, c’est l’ampleur du risque qui est évoquée alors qu’avec le concept de risque existentiel, c’est la menace pour l’existence humaine voire pour l’humanité entière elle-même qui se trouve alléguée. Pour les techno-pessimistes, l’IA représenterait un risque existentiel certain alors que pour les techno-optimistes, cette vision relève de la science-fiction ou de la croyance métaphysique.

Et de fait, aujourd’hui, certains acteurs du débat public, y compris des scientifiques et des spécialistes de l’IA, demandent un moratoire sur la recherche en IA en raison d’un risque existentiel.

a) Les techno-pessimistes : l’IA est un risque existentiel et l’alternative un moratoire ou le transhumanisme

Indépendamment des intentions des développeurs, les systèmes d’IA pourraient devenir des catastrophes s’ils développent de leur propre chef des comportements portant atteinte à la vie humaine. Comme l’expliquent Stuart Russell et Peter Norvig dans le manuel de référence de la discipline paru en 1995, « presque toutes les technologies ont le potentiel de causer du tort si elles sont entre de mauvaises mains, mais avec la superintelligence on a le problème inédit que les mauvaises mains pourraient appartenir à la technologie elle-même ».

Le débat sur la superintelligence, après les romans de science-fiction de Samuel Butler, d’Arthur C. Clarke ou d’Isaac Asimov, a surtout été introduit dans les années 1990 en écho aux craintes présentes dans de nombreuses œuvres de fiction. La question est posée en lien avec l’agenda transhumaniste.

La figure de ce mouvement, Nick Bostrom, que les rapporteurs de l’OPECST avaient rencontré en 2017, a fondé avec David Pearce la World Transhumanist Association en 1998. Il a ensuite défini en 2002 le concept de risque existentiel comme étant le « risque de destruction de la vie sur Terre ou de perte drastique et irréversible de son potentiel ». En 2014, son livre Superintelligence : chemins, dangers, stratégies, qui a rencontré un grand succès, se consacre au risque de l’IAG et de dépassement de l’homme par l’IA, ce qui induirait précisément selon lui un risque existentiel. Cet ouvrage résume assez bien la vision des techno-pessimistes.

Nick Bostrom a bénéficié en tant que directeur du Future of Humanity Institute d’un hébergement par l’Université d’Oxford et de financements par l’entrepreneur milliardaire Elon Musk. Ce dernier, figure du monde des techno-pessimistes[222] et partisan du transhumanisme, a également depuis les années 2010 subventionné plusieurs structures abritant des chercheurs et des futurologues spécialistes des risques existentiels. Outre le Future of Humanity Institute, fermé à la fin de l’année universitaire 2023-2024, on peut citer le Centre for the Study of Existential Risks (CSER) à l’Université de Cambridge, le Leverhulme Centre for the Future of Intelligence et, surtout, le Future of Life Institute dirigé depuis dix ans par le professeur au MIT Max Tegmark, devenu une ONG disposant de plusieurs bureaux dans le monde, dont un à Bruxelles. L’institut cherche à sensibiliser et à éduquer aux risques existentiels, y compris à travers un lobbying actif auprès des Nations unies, du gouvernement des États-Unis et des institutions de l’Union européenne. Stephen Hawking, Stuart Russell ou, encore, Jaan Tallinn en ont été des membres importants.

D’autres structures similaires existent comme la Singularity University (basée à Mountain View au cœur de la Silicon Valley) ou le Machine Intelligence Research Institute (anciennement Singularity Institute for Artificial Intelligence) à l’Université de Berkeley, chacune ayant été successivement dirigée par Ray Kurzweil.

La lettre d’avertissement sur les dangers potentiels de l’intelligence artificielle, publiée en janvier 2015 et signée par 700 personnalités, le plus souvent des scientifiques et des chefs d’entreprises, rejoints par plus de 5 000 signataires en un an, a été lancée par ces réseaux, en particulier le Future of Life Institute et Max Tegmark, avec les signatures mises en avant de Stephen Hawking et d’Elon Musk pour alerter l’opinion publique et insister sur l’urgence de définir des règles pour encadrer la recherche en IA. Selon la formule utilisée par Stuart Russell lors de sa rencontre avec les rapporteurs de l’Office en 2017, « nous avons bien utilisé Stephen Hawking et l’opération a été un succès ».

Face au risque existentiel qui résulterait de l’intelligence artificielle, les solutions proposées sont surtout de deux types. Ce réseau a d’abord demandé à plusieurs reprises un moratoire sur la recherche en IA, le premier à l’avoir fait ayant été Stephen Hawking dès 2014, avant les différentes pétitions qui ont pu circuler ensuite. La dernière en date, assez médiatisée, est de mars 2023, à l’initiative du Future of Life Institute qui a abrité la pétition sur son site[223]. Elle a recueilli initialement plus de 1 000 signatures, dont celles d’Elon Musk, mais aussi de Steve Wozniak, Yuval Noah Harari ou Yoshua Bengio pour atteindre le cap des 33 707 signataires en 2024.

L’autre réponse consiste en la promotion d’un projet transhumaniste qui permettrait d’améliorer les capacités de l’espèce humaine pour qu’elle puisse, par hybridation, se mettre au niveau d’une IA plus compétente que l’homme. On retrouve dans cette position les mêmes personnes que dans le premier réseau évoqué, à commencer par Elon Musk et Ray Kurzweil, ancien responsable de la recherche chez Google et directeur de la Singularity University puis du Machine Intelligence Research Institute[224].

L’alternative du moratoire ou du transhumanisme représente en réalité un faux débat, il s’agit d’un couple qui fait système et enferme dans la perspective de solutions transhumanistes. Le professeur Jean-Gabriel Ganascia, entendu par vos rapporteurs, propose une explication à ce « double discours » des géants du Web, dans ce qu’il appelle une « charité ensorcelée », leur permettant de vendre d’autres technologies complémentaires à l’IA et d’inspiration transhumaniste, comme Neuralink dans le cas d’Elon Musk, censé rendre l’humain compétitif face à l’IA grâce à des implants neuronaux.

Il a également pris l’exemple du cynisme hypocrite d’IBM, qui, après le mouvement Black Lives Matter aux États-Unis, a annoncé renoncer à la recherche en reconnaissance faciale pour des raisons éthiques, avant de s’empresser de vendre la technologie en signant un contrat avec le Royaume-Uni y pour développer la reconnaissance faciale.

Cette tactique de dissimulation commerciale s’articule très bien avec un agenda transhumaniste, qui, lui, est presque totalement avoué. Le 28 octobre 2024 lors du congrès mondial des neurochirurgiens, Elon Musk a encore expliqué « qu’à un rythme de production élevé, son système Neuralink devrait approcher le coût d’une montre connectée ou d’un téléphone IPhone d’Apple et pourra être implanté par un robot dans le cadre d’une intervention chirurgicale de dix minutes, afin d’obtenir la symbiose homme-IA, nous devrons finalement remplacer nos crânes afin que nous puissions implanter suffisamment d’électrodes pour pouvoir interfacer nos cerveaux avec les ordinateurs »[225].

De nombreux transhumanistes nient la nature humaine et sont dans l’hubris, surtout les transhumanistes les plus radicaux comme les extropiens libertariens[226], qui jugent nécessaire d’aller vers l’immortalité et tracent la voie d’un avenir extraterrestre. Cette tendance extropianiste du transhumanisme a suscité un engouement particulier en Californie, par exemple autour de l’idée du mind uploading conjugué à l’intelligence artificielle.

Parmi les personnes entendues par vos rapporteurs, deux peuvent être apparentées à ce courant « techno-pessimiste » : Laurent Alexandre, entrepreneur et essayiste, et Siméon Campos, représentant de SaferAI. Ce dernier, qui reste toutefois optimiste sur les bénéfices de l’IA à court terme, a même confié avoir des craintes que sa vie soit menacée par l’IA dans les années à venir et a expliqué que l’IA serait probablement la cause de sa mort. Laurent Alexandre, lui, a alerté sur les risques que fera courir l’arrivée potentielle d’une intelligence artificielle forte dans nos sociétés, avec selon sa vision personnelle, une augmentation de la part des personnes inutiles dans l’économie, conduisant à des violences et une crise de civilisation.

Lors de son audition, il a expliqué plus précisément qu’en cas d’arrivée de l’IAG, soit l’humanité accepte son dépassement et s’y résigne, solution favorisée par Larry Page, fondateur de Google, soit l’IA est interdite, ce qui n’est pas une perspective très réaliste, soit un apartheid numérique se met en place, laissant l’IA se développer dans une noosphère sans possibilité d’agir sur le monde physique, soit, enfin et cela semble le plus probable parmi ces quatre scenarii, l’humanité se convertit au transhumanisme et accepte enfin le neuro-enhancement, c’est-à-dire l’amélioration de ses capacités cognitives par les technologies.

Laurent Alexandre a d’ailleurs attiré l’attention de vos rapporteurs sur le fait que dans la biographie d’Elon Musk par Walter Isaacson, président de l’Aspen Institute, ancien PDG de CNN et directeur de la rédaction du magazine Time, parue en 2023, les motivations du moratoire sur l’IA sont transparentes : les modèles d’xAI comme Grok doivent pouvoir rattraper leur retard, une IA surpuissante doit être créée et pour éviter qu’elle extermine l’humanité il faut trouver des moyens d’améliorer les capacités humaines en hybridant les hommes avec les machines. L’approche des techno-pessimistes serait donc parfois, en réalité, un faux nez du transhumanisme.

Le transhumanisme

Le transhumanisme est un mouvement philosophique prédisant et travaillant à une amélioration de la nature humaine grâce aux sciences et aux évolutions technologiques. Le terme renvoie d’abord à ce mouvement, secondairement à sa doctrine et à son imaginaire. Un livre du chercheur Stanislas Deprez, paru en août 2024, sur le transhumanisme (éd. La Découverte) mentionne cette triple dimension.

Le concept de transhumanisme a une histoire qui vient de loin : il apparaît simultanément en 1951 dans une conférence de Julian Huxley[227] et un article du chercheur et prêtre jésuite Pierre Teilhard de Chardin[228]. Avant cela, Dante dans la Divine Comédie parlait de trasumanar comme idée de transcender l’homme pour se rapprocher de Dieu, les philosophies de Francis Bacon, de Condorcet ou de Trotski (qui appelait à une humanité libérée de la biologie) s’en rapprochent, l’ingénieur Jean Coutrot, ami d’Aldous Huxley, avait utilisé le mot dans un sens différent en 1939 et un théologien avait écrit en 1940 sur le transhumanisme de Saint-Paul[229]. Bien que le terme soit un label recouvrant des définitions différentes, il renvoie surtout à l’idée d’un dépassement des capacités ou des souffrances humaines grâce aux découvertes scientifiques et technologiques, voire à l’immortalité.

En 1962, Robert Ettinger lance ainsi le mouvement cryonique, soutenu par le théoricien « FM-2030 », auteur en 1989 du livre Are you a Transhuman ? L’initiateur du psychédélisme et de la cyberculture Timothy Leary théorise, dans les années 1960 et 1970, huit niveaux de conscience dont les quatre derniers sont post-humains[230] (état biologique ;émotionnel ; symbolique et logique ; social et culturel ; neuro-somatique, capable de percevoir plus de trois dimensions ; neuro-électrique, capable de maîtriser des flux électriques et de communiquer par télépathie par exemple ; neuro-génétique, connecté au passé et à l’espèce ; neuro-atomique, connecté à l’unité cosmique de l’univers). Steward Brand opère, lui, la conversion de ces utopies du mouvement hippie vers l’informatique et crée le célèbre magazine Wired en 1993. Une solution technique à l’immortalité, plus moderne que la cryonie, serait le téléchargement de l’esprit dans des programmes informatiques (Mind Uploading). À défaut d’être immortel, l’homme peut s’hybrider avec la machine en vue de son amélioration (Cyborg). En 1998, le professeur Kevin Warwick s’implante ainsi des puces pour pouvoir contrôler le monde physique (ouvrir une porte, actionner des robots). Cette démarche inspirera Neuralink, société créée en 2016 par Elon Musk.

Le mouvement transhumaniste américain naît dans les années 1990 avec l’Extropy Institute, porté par Max More et sa femme Natasha Vita-More[231], qui réunit des spécialistes de l’IA comme Marvin Minsky, Hans Moravec ou Vernor Vinge. En Europe, ce mouvement s’appuie sur la World Transhumanist Association, créée à Londres par Nick Bostrom en 1998, année de la Déclaration transhumaniste. Cette dernière réunit les transhumanistes de plusieurs continents. Une myriade d’associations sont créées dans le monde entier. Différents think tanks sont aussi créés dans les années 2000 et 2010, souvent avec une dimension universitaire.

L’amélioration des capacités humaines par les sciences et les technologies est au cœur de ce mouvement. Pour les transhumanistes, le progrès scientifique doit être orienté vers cet objectif : l’homme « augmenté » pourrait devenir immortel.

L’imaginaire transhumaniste renvoie en réalité à des systèmes de croyances. Le transhumanisme peut en cela parfois se rapprocher d’une religion fondée sur la négation de la nature humaine. Le projet transhumaniste, surtout dans certaines de ses variantes les plus radicales, suscite la méfiance de la part de vos rapporteurs. L’homme augmenté est un humain diminué : il perd par son augmentation une part de son humanité. À cet égard, on peut affirmer que le transhumanisme est un posthumanisme. L’intelligence artificielle n’est pas un acte de foi et ne doit pas le devenir. Rien ne justifie rationnellement de prendre parti pour le transhumanisme sur le fondement d’un très hypothétique risque existentiel que ferait courir l’IA.

Les discours techno-pessimistes relèvent pour l’essentiel d’une vision de l’IA non démystifiée. Cette approche a tendance à anthropomorphiser les intelligences artificielles en les voyant capables de dépasser l’homme et de le menacer. À cet égard, vos rapporteurs rappellent la troisième préconisation du rapport de l’OPECST de 2017 : l’IA doit être démystifiée. Cette démystification doit permettre aux citoyens d’acquérir une connaissance de base sur les systèmes d’IA mais aussi les protéger du transhumanisme et d’un techno-pessimisme ne reposant pas sur des bases scientifiques mais sur des croyances transhumanistes.

b) Les pessimistes modérés : l’IA est une menace, les mesures de prévention une solution

À côté de ces discours catastrophistes, on trouve un discours plus modéré sur les possibilités d’évolution de l’intelligence artificielle. Il s’agit de pointer du doigt l’incertitude dans laquelle nous nous trouvons actuellement vis-à-vis du développement des technologies d’intelligence artificielle. Cette situation résulte du fait que les innovations et le progrès technologique qui en découle n’ont pas été prévus par les chercheurs. Au moment de la création de l’architecture Transformer en 2017, personne n’imaginait par exemple les capacités de ChatGPT en 2024. C’est pourquoi les pessimistes modérés disent qu’on ne sait pas si l’intelligence artificielle générale adviendra dans le futur mais les conséquences de ces technologies seraient si grandes pour l’économie et la société qu’il faut anticiper et maîtriser ces risques.

Yoshua Bengio, chercheur le plus cité dans le monde dans le domaine de l’intelligence artificielle et pionnier de l’apprentissage profond, est certainement la figure la plus emblématique de cette position. Lors de son audition par vos rapporteurs, il a décrit sa position modérée comme « agnostique » par rapport à l’IAG et proposé des solutions que l’on retrouve dans son rapport sur les risques potentiels de l’IA[232], écrit en 2024 avec d’autres chercheurs dans le cadre de la seconde édition des sommets internationaux sur la sécurité de l’IA. Cette approche met l’accent sur les mesures à prendre pour éviter ces risques et bien qu’elle constitue une position plus scientifiquement fondée que celle des techno-pessimistes, elle repose tout de même sur le postulat d’un risque existentiel.

Certains reprochent à cette vision d’être « trop prudente » vis-à-vis de l’IA, car elle surévalue des risques qui auraient en pratique peu de chances de se réaliser.

c) Les techno-optimistes : l’absence de menace, la poursuite du développement tranquille de l’IA avec un encadrement pragmatique

Face à ces deux visions plus ou moins pessimistes de la technologie, d’autres experts ont une approche plus optimiste de l’intelligence artificielle et pensent que l’intelligence artificielle forte restera hors de portée à ce stade, compte-tenu de l’état actuel de la technologie. C’est notamment le cas du professeur Yann LeCun directeur de l’IA chez Meta, que vos rapporteurs ont eu l’occasion de rencontrer à l’Université de New York. Il considère que l’IA est encore très loin d’avoir des notions de sens commun, de compréhension du temps et du monde physique, de maîtriser des tâches complexes de planification ou des actions en autonomie avec ses propres objectifs, etc. Or, ces dimensions sont des préalables au développement d’une IA forte. Même si Yann LeCun ne voit pas d’obstacles au développement de l’IAG dans un futur de long terme, il considère que l’architecture Transformer ne nous rapproche pas beaucoup de cette perspective. Il ne croit d’ailleurs pas dans la « révolution de l’IA générative » et tend à relativiser les prouesses des LLM de type ChatGPT. Pour certains, ces systèmes ne seraient même que des perroquets stochastiques[233], vis-à-vis desquels la course à la taille serait une impasse, en raison du coût financier et de l’impact environnemental d’une telle montée à l’échelle.

Les techno-optimistes reconnaissent l’existence de risques liés à l’IA mais pour eux les risques à anticiper sont plus des difficultés tangibles qui se posent actuellement dans les actes de la recherche que des hypothèses de long terme sur l’IAG, la singularité et les risques existentiels pour l’humanité. Cette approche se prête donc mieux à des mesures pragmatiques d’encadrement des technologies et redonne tout son sens à l’action politique réaliste.

II. Des effets globalement positifs pour la société malgré des impacts économiques contrastés

Le présent rapport ne recense pas tous les usages bénéfiques de l’IA. Il préfère problématiser ces opportunités en montrant que les effets de l’IA sont globalement positifs pour la société malgré des impacts économiques contrastés. D’autres travaux et rapports ont pu s’intéresser aux utilisations possibles de l’IA.

Une série de rapports récents de la délégation à la prospective du Sénat propose ainsi des analyses thématiques de cas d’usage de l’intelligence artificielle dans les services publics. Trois rapports ont déjà été publiés : sur « Impôts, prestations sociales et lutte contre la fraude[234] », sur « IA et santé[235] » et sur « IA et éducation[236] ». Deux autres rapports sont prévus sur « IA et environnement » et « IA, territoires et proximité ». Ces rapports constituent un complément à la lecture du présent rapport, rentrant plus spécifiquement dans le détail de l’utilisation de l’IA dans certains secteurs spécifiques et dans les évolutions potentiellement apportées par ces cas d’usage. Nous renvoyons donc à ces rapports s’agissant de ces impacts précis.

Nous passerons toutefois ici en revue rapidement quelques enjeux de l’intelligence artificielle dans certains domaines économiques et sociaux afin d’analyser les effets prévisibles à court et long termes des nouveaux développements de l’intelligence artificielle sur la société. Il peut être affirmé de manière synthétique que l’IA générative au sens strict va, de manière plus spécifique que les autres systèmes d’IA, révolutionner de nombreux secteurs comme l’éducation, le divertissement, la santé, la recherche scientifique, l’analyse des données et le codage informatique en permettant la création de contenus personnalisés et évolutifs, en automatisant les processus, en simulant des expériences, en générant des hypothèses et en augmentant globalement l’efficacité.

A. Des améliorations pour le Bien-être et la santé grâce à l’intelligence artificielle

1. De nombreux outils pour la vie quotidienne

Sans tomber dans un techno-optimisme utopique, selon lequel l’IA va libérer l’homme, son âme et son esprit[237], il est réaliste d’affirmer que l’IA va tout d’abord être très utile dans la vie quotidienne. Elle est d’ailleurs d’ores et déjà autour de nous et contribue à notre bien-être mais nous n’en sommes pas toujours conscients.

Les applications de bien-être et de monitoring se concentraient par exemple sur le suivi du nombre de pas, des calories consommées, du rythme cardiaque ou des exercices physiques réalisés, sans véritable intelligence artificielle.

Aujourd’hui, des applications comme Noom utilisent l’IA pour fournir des conseils personnalisés pour la santé, la nutrition et la gestion du poids, des outils comme Fitbit et Apple Health combinent des capteurs intelligents avec des algorithmes d’IA pour identifier des anomalies (rythmes cardiaques anormaux ou troubles du sommeil). à l’avenir, les systèmes d’IA seront combinés à des dispositifs intégrés, éventuellement invasifs comme des capteurs sous-cutanés, qui pourront conseiller leur porteur et surveilleront en permanence son état de santé, anticipant les crises cardiaques, les accidents vasculaires cérébraux ou d’autres urgences médicales.

En termes d’interactions, les futures intelligences artificielles iront bien plus loin que les assistants vocaux de type Siri ou Alexa, qui pouvaient déjà aider à organiser les tâches quotidiennes, réduisant le stress lié à la planification. Les systèmes bénéficieront d’une meilleure compréhension du langage naturel et seront plus fluides, plus intuitifs, plus compétents, plus empathiques, simuleront des capacités émotionnelles en interagissant de manière plus naturelle et feront office d’outils précis pour la gestion du temps, permettant par exemple d’établir des plannings, de diminuer la charge mentale et d’améliorer l’équilibre entre vie professionnelle et vie personnelle. Dans les interactions avec les administrations ou les services clients des entreprises, le public bénéficiera de l’assistance de chatbots avancés boostés par l’IA générative. Ces assistants virtuels, qu’ils soient personnels ou professionnels, seront de plus en plus capables de gérer des demandes complexes.

Pour gérer les espaces personnels, on ira vers des systèmes domestiques intelligents complets sachant gérer l’ensemble de la maison, du rangement automatisé à la préparation de repas équilibrés, en anticipant les besoins de chaque occupant. Ces systèmes iront plus loin que les robots domestiques actuels comme Roomba ou que les assistants domotiques de type Google Nest ou Amazon Alexa, qui optimisent déjà la consommation d’énergie, améliorent la sécurité et ajustent les paramètres domestiques pour maximiser le confort. Les cuisines intelligentes équipées de robots et d’intelligence artificielle prépareront des repas personnalisés, optimisés en fonction des goûts et besoins nutritionnels (les assistants culinaires, comme Cookidoo de Thermomix, proposent déjà des recettes personnalisées en fonction des ingrédients disponibles). Ces évolutions seront des contributions importantes au bien-être domestique, comme ont pu l’être les premiers thermostats programmables qui ont simplifié la régulation de la température domestique.

Il s’agira aussi d’améliorer les systèmes collectifs de gestion des ressources. Les compteurs électriques « intelligents » offraient des fonctionnalités limitées, des algorithmes d’IA surveilleront et optimiseront efficacement en temps réel la consommation énergétique à l’échelle domestique, industrielle et collective. L’IA pourra orchestrer des Smart Cities – villes intelligentes – où la gestion de l’eau, de l’énergie, et des déchets sera largement automatisée et optimisée, contribuant à un cadre de vie sain et durable.

En termes de bien-être au travail, l’intelligence artificielle optimisera en temps réel les environnements de travail (éclairage, température, bruit, etc.) maximisant les capacités de concentration et le confort. Des algorithmes pourront parfois même aider à ajuster les horaires et les charges de travail pour prévenir l’épuisement professionnel, en identifiant aussi les pics de stress. L’intelligence artificielle aide déjà à améliorer la communication écrite (exemple de Grammarly) et à gérer les réunions avec des outils qui transcrivent et/ou résument automatiquement les discussions, libérant du temps pour des activités plus productives.

Dans les transports, les systèmes d’IA permettront d’optimiser les parcours et de réduire le stress lié aux déplacements. Des systèmes de mobilité intégrée pilotés par IA coordonneront les différents moyens de transport dans une logique multimodale (vélo, voiture, train, marche, etc.) pour offrir des déplacements plus fluides et totalement personnalisés tout en réduisant les impacts environnementaux. Il faut se rappeler les bénéfices du GPS qui utilisait des données statiques pour proposer des itinéraires, parfois inefficaces en cas de trafic, qui, avec l’IA des applications comme Waze ou Google Maps, ont pu proposer des itinéraires optimisés en temps réel, réduisant le temps et le stress liés aux trajets. Sous réserve d’une acceptation sociale et de progrès logistiques, les véhicules autonomes, comme ceux déjà développés par Tesla ou Waymo, offriront des trajets plus sûrs et plus confortables en utilisant des algorithmes d’IA.

Pour les loisirs, les systèmes d’IA permettront de créer des expériences immersives sur mesure dans des environnements de réalité virtuelle ou pas. Les loisirs seront entièrement adaptés à l’état émotionnel et aux préférences de chaque utilisateur. Les premières recommandations personnalisées, comme celles de YouTube ou des plateformes de streaming (Netflix, Disney+ ou Spotify), ont commencé grâce à des algorithmes d’IA à offrir la possibilité de personnaliser les expériences de divertissement dans les années 2010, réduisant le temps passé à chercher quoi regarder. Avec l’IA générative, on pourra de plus en plus créer des contenus de qualité, qu’il s’agisse d’images, de musique ou de textes, permettant aux artistes et aux écrivains, mais aussi à chaque personne d’expérimenter sa créativité. Les jeux vidéo intègreront de plus en plus d’IA adaptatives, qui ajusteront la difficulté et les interactions en fonction des profils et des préférences des joueurs. Des applications musicales ou de relaxation (comme Calm ou Headspace) utiliseront des algorithmes de plus en plus performants et personnalisés pour proposer des sons relaxants et des exercices de méditation adaptés à l’humeur et aux besoins de chacun.

En conclusion, en allégeant les contraintes quotidiennes, en enrichissant les expériences personnelles et en créant un environnement plus durable, l’IA pourrait apporter des bénéfices importants et offrir globalement une meilleure qualité de vie. Ces avancées non médicales s’ajoutent à celles, nombreuses, promises dans le domaine de la santé.

2. De meilleurs systèmes de soins

Dans le domaine de la santé, l’intelligence artificielle va apporter des solutions innovantes pour améliorer les diagnostics, les traitements, la prévention, et la gestion des soins.

En termes de diagnostic et de dépistage précoce, l’IA permet d’analyser rapidement et précisément des données médicales complexes, améliorant la détection des maladies. Dès les années 2010, les algorithmes d’apprentissage profond ont été utilisés pour analyser des images médicales comme les mammographies, les scanners pulmonaires ou des images de rétine pour détecter les maladies oculaires. Ainsi, l’IA est aujourd’hui de plus en plus utilisée pour détecter le cancer, la tuberculose et les maladies cardiovasculaires. Par exemple, PathAI utilise des algorithmes pour améliorer la précision des diagnostics pathologiques en détectant les cellules cancéreuses dans des échantillons de tissus. Combinés à la génomique, qui progresse très vite, elle aussi grâce à l’IA, les systèmes d’IA permettront de détecter les prédispositions génétiques aux maladies avec une précision accrue, facilitant les traitements personnalisés avant même l’apparition des symptômes.

L’IA d’IBM Watson a, par exemple, été utilisée, avec un succès très relatif il est vrai, pour analyser les données médicales et recommander des traitements personnalisés contre le cancer dès 2011. Les algorithmes d’IA aident de plus en plus à adapter les traitements médicaux en fonction des caractéristiques spécifiques des patients. Des systèmes comme Tempus utilisent l’IA pour analyser les données génétiques des patients et identifier les traitements les plus efficaces, notamment en oncologie. Dans le futur, l’IA combinera des données en temps réel issues de dispositifs connectés, d’analyses biologiques, et de dossiers médicaux pour proposer des traitements adaptés à l’évolution de la santé du patient.

L’IA améliorera par ailleurs la précision des interventions chirurgicales et réduira les risques associés. Le robot chirurgical Da Vinci, lancé dans les années 2000, a ouvert la voie à la chirurgie assistée par ordinateur, en dépit d’algorithmes alors limités. Les systèmes modernes, comme ceux développés par Intuitive Surgical, utilisent des algorithmes avancés pour guider les chirurgiens en temps réel. Les robots chirurgicaux autonomes équipés d’IA pourront exécuter des interventions complexes avec une supervision humaine minimale, ce qui est très efficace dans des zones éloignées ou en cas d’urgence.

Sur ce plan, l’IA améliore l’accessibilité aux soins pour des populations éloignées ou défavorisées. Si les plateformes de télémédecine ont été développées dès les années 1990, leur adoption restait limitée par la technologie. Aujourd’hui, des plateformes comme Ada Health ou Babylon Health permettent des diagnostics grâce à l’IA, y compris dans des zones sans offre de soins médicaux.

L’utopie de cliniques mobiles basées sur l’IA, combinant robots et diagnostics automatisés, pouvant fournir des soins de haute qualité dans des zones rurales ou difficiles d’accès ou encore lors de crises humanitaires ou de conflits armés pourrait devenir une réalité à moyen terme.

S’agissant de la santé mentale, l’IA propose des solutions innovantes pour la gestion et le traitement des troubles psychologiques. Dans les années 1960, les chatbots de première génération, y compris le premier d’entre eux Eliza, simulaient des interactions psychothérapeutiques mais l’efficacité clinique n’était pas au rendez-vous. Désormais des outils comme Woebot ou Wysa utilisent des algorithmes pour offrir un soutien psychologique personnalisé, en détectant des schémas de pensée négatifs à partir de conversations. Dans l’avenir, l’IA pourra détecter les signes précoces de troubles mentaux à partir d’interactions numériques ordinaires (e-mails, réseaux sociaux…) ou de données biométriques (voix, expressions faciales), permettant une prise en charge médicale précoce.

Enfin et surtout, l’IA révolutionne la recherche médicale et le développement de nouveaux traitements et aide à la production de médicaments, notamment en simulant des processus biologiques complexes. En 2007, les chercheurs ont commencé à utiliser des modèles prédictifs pour analyser les interactions moléculaires et accélérer la recherche sur les médicaments. L’IA a également été cruciale dans la mise au point rapide des vaccins contre la covid-19. Plus récemment, Google DeepMind a utilisé son modèle AlphaFold pour analyser le repliement des protéines et prédire la structure de différents virus. L’IA pourra à l’avenir simuler des essais cliniques en utilisant des données synthétiques, réduisant considérablement le temps et les coûts nécessaires au développement de nouveaux médicaments.

En conclusion, l’IA transforme profondément le domaine de la santé et du bien-être en rendant les soins plus précis, plus accessibles et plus personnalisés. Les progrès rapides laissent entrevoir un avenir où la prévention et les traitements seront largement optimisés par des technologies intelligentes. Des défis se posent néanmoins, en termes d’éthique, notamment le respect de la vie privée, la protection des données personnelles et les risques de biais dans les algorithmes. L’adoption de ces technologies reste, en outre, soumise à des contraintes assez fortes d’acceptabilité sociale. L’IA peut rencontrer une résistance chez les patients comme chez les professionnels de santé.

3. Des effets cognitifs à surveiller dans une économie de l’attention

En dépit de tous ces avantages pour la santé, l’utilisation massive de l’IA pourrait aussi avoir des conséquences négatives sur notre santé psychologique.

Sur ce plan, l’un des points de vigilance concerne les effets cognitifs de l’économie de l’attention. L’usage de l’IA conjugué aux données massives construit en effet une économie de l’attention, au sein de laquelle les entreprises profitent des systèmes d’IA et de la croissance exponentielle des données pour capter de plus en plus finement l’attention des utilisateurs, les exposer à des informations ciblées et à plus de publicité et, de façon circulaire, collecter encore plus d’informations. Ce « nouveau modèle capitaliste »[238], que certains qualifient de « capitalisme cognitif »[239], pousse les entreprises du numérique à enfermer, d’une part, l’utilisateur dans des bulles de filtres[240], qui confirment ses points de vue, confortent ses croyances et les seuls sujets qui « semblent » l’intéresser, et à inciter, d’autre part, le consommateur à toujours consommer davantage sous l’effet de cette « industrie de l’influence », ce qui par rétroaction aggrave la consommation de technologies et la problématique environnementale déjà présentée. Il s’agit d’une question à laquelle l’OPESCT a consacré une note scientifique, sous l’angle de la surcharge informationnelle ou infobésité[241].

Il sera vu plus tard que ces bulles de filtres peuvent devenir de véritables prisons mentales et que, sous l’effet d’usages massifs des systèmes d’IA (a fortiori si ces systèmes reposent peu ou prou sur les mêmes modèles), ces prisons mentales peuvent engendrer non seulement une uniformisation culturelle (conjuguée en apparence paradoxalement à une polarisation identitaire et émotionnelle) mais surtout une uniformisation cognitive.

B. Un impact sur la croissance incertain

1. Des études divergentes, très optimistes ou très mesurées

Les travaux qui tentent de prédire l’impact de l’intelligence artificielle sur la croissance ou son potentiel théorique en termes de gains de productivité divergent.

Selon la banque d’investissement Goldman Sachs, les technologies d’intelligence artificielle pourraient augmenter le produit intérieur brut (PIB) mondial de 7 %[242]. Dans un rapport publié en janvier 2024, le Fonds monétaire international (FMI) prévoit même une hausse allant jusqu’à 16 % du PIB. Selon l’institution, l’augmentation de la richesse se fera de façon inégale entre les travailleurs à bas revenu et les travailleurs à haut revenu, augmentant plus rapidement les revenus de ces derniers, ce qui aurait pour résultat une augmentation des inégalités de revenu du travail. Le cabinet de conseil Mc Kinsey anticipe 1,5 % à 3,4 % de croissance supplémentaire par an dans une étude de juin 2023 et avance qu’avec des gains de productivité touchant tous les secteurs économiques, en particulier la distribution, les services, la santé, l’immobilier, la finance, l’industrie et les transports, l’IA pourrait conduire à un PIB accru de 575 milliards de dollars supplémentaires rien qu’en Europe d’ici 2030[243]. Le rapport de la commission sur l’intelligence artificielle, remis au Président de la République le 13 mars 2024, relève, quant à lui, que « la croissance économique annuelle de la France pourrait doubler grâce à l’automatisation de certaines tâches »[244].

La direction générale du Trésor (DGT) du ministère de l’économie estime qu’il est encore trop tôt pour pouvoir estimer, au sujet de l’avenir, des prévisions chiffrées ou même pour pouvoir observer empiriquement des effets de l’IA sur la croissance. La DGT reconnaît certes que certaines études suggèrent des effets positifs significatifs sur la productivité des travailleurs[245], mais elle retient surtout que les gains de productivité sont encore peu observables au niveau macroéconomique du fait d’une adoption encore limitée de l’IA par les entreprises et les salariés. Elle souligne que les effets sur l’emploi sont encore plus incertains, même si l’IA pourrait toucher davantage les professions les plus qualifiées que les précédentes révolutions technologiques, qui les avaient plutôt épargnées.

2. Le retour du « paradoxe de Solow » ?

Lorsque l’on aborde le sujet de l’impact des technologies numériques sur la croissance, un paradoxe est rencontré. Si l’introduction de nouvelles technologies permet généralement la transformation des processus de production, optimisant et fluidifiant les tâches de traitement de l’information au profit des gains de productivité, ce constat peut en pratique se heurter au « paradoxe de Solow », prix Nobel d’économie selon lequel « on voit des ordinateurs partout sauf dans les statistiques de productivité ». Cette phrase prononcée en 1987 s’applique aussi à Internet et à l’IA. Les conséquences des nouvelles technologies de l’information et de l’IA sur la croissance seraient donc à relativiser car elles ne conduiraient pas automatiquement à des gains de productivité et des surplus de croissance.

Dans le cas de l’intelligence artificielle, cette règle semble même se vérifier empiriquement, comme le montrent, entre autres, les travaux de Robert Gordon, y compris pour le gouvernement fédéral américain[246].

Il est vrai que la diffusion de l’innovation est toujours difficile à observer et encore plus à quantifier. Car, à cet égard, il est toujours indispensable de se placer sur le temps long. Une telle perspective de long terme permet de constater tout de même des gains de productivité grâce à l’informatique et à Internet. Dès 1990, Paul David relativise le paradoxe de Solow sur le long terme, dans un article où il explique que la diffusion de l’innovation passe par un temps de latence important, en relevant le cas historique de l’impact de l’électricité sur la croissance et la productivité[247]. Une enquête empirique de 2008 portant sur les années 1990 montre qu’en dépit du paradoxe de Solow observé à l’époque les investissements américains dans l’informatique et Internet auraient conduit à une hausse de 37 % de la productivité[248].

Il faut, en conclusion, ajouter à ces différentes observations le fait que le degré d’adoption et de diffusion des systèmes d’IA dans nos économies reste faible, comme l’explique une étude britannique d’octobre 2024 qui montre une certaine stagnation de l’IA[249]. Les effets de l’IA en sont d’autant plus délicats à anticiper.

Bien que les chiffres avancés par les différentes institutions varient fortement, les facteurs identifiés comme susceptibles d’influencer le plus fortement la croissance du PIB sont souvent identiques. Ainsi, les travaux de prospective semblent identifier un déplacement du travail de l’humain à l’intelligence artificielle sur certaines tâches, permettant une complémentarité entre le travailleur et l’IA qui lui servirait donc d’outil pour augmenter sa productivité. L’augmentation de la productivité par l’intelligence artificielle impliquera donc une transformation du monde du travail.

3. Des besoins d’énergie considérables et croissants laissant planer la menace de risques environnementaux

Si le pionnier du Machine Learning, Andrew Ng, professeur d’informatique à Stanford et directeur scientifique de Baidu, décrit l’IA comme « la nouvelle électricité », il n’en fait évidemment pas une source d’énergie mais plutôt une technologie engendrant une révolution de l’ordre de celle produite par la maîtrise et la diffusion de l’électricité. Son expression peut d’ailleurs sembler bien ironique compte tenu de l’importante consommation d’énergie liée à l’IA.

Le recours à des puces de plus en plus consommatrices d’énergie, tant pour leur production que pour leur utilisation, les besoins croissants d’infrastructures de stockage, de calcul et d’entraînement des modèles, enfin, la multiplication des applications et des utilisateurs finaux : à tous les niveaux de la chaîne de valeur de l’IA, ces éléments concourent à ce que les besoins en énergie explosent.

Le terme, qui peut paraître hyperbolique, est d’ailleurs utilisé par la revue le Grand Continent en juillet 2024[250]. Le constat est sans appel, l’IA nécessite des apports considérables d’énergie tout au long de son cycle de vie. Les outils d’IA, notamment ceux d’IA générative qui utilisent des modèles de langage volumineux (LLM), tels que ChatGPT ou Copilot, IA déclinée dans les logiciels de Microsoft, nécessitent beaucoup de puissance de calcul pour l’entraînement de leurs algorithmes et donc d’électricité. Les superordinateurs des géants de l’IA font appel à des dizaines de milliers de puces Nvidia, et ce en amont même de leurs usages, juste pour entraîner les modèles.

S’il est estimé que les seuls data centers consomment aujourd’hui moins de 2 % de l’énergie électrique mondiale[251], Goldman Sachs a estimé dans un rapport d’avril 2024 que ce chiffre pourrait s’élever à 4 % d’ici la fin de la décennie sous l’effet de l’IA, dont les installations nécessitent 3 à 5 fois plus d’électricité que les data centers traditionnels[252]. D’ores et déjà, les centres de données utilisent plus d’énergie que 92 % des pays du monde[253] (seuls 16 états consomment chacun plus d’énergie qu’eux).

La consommation d’énergie pour les seuls centres de données

Source : Bloomberg

Il convient d’observer que l’IA n’est pas que gourmande en énergie, elle a une empreinte carbone et un impact sur la ressource en eau élevés, qui ne font que croître[254]. Au-delà de la tension que fait peser cette hausse de la consommation d’énergie sur les réseaux électriques, le développement de l’IA menace donc également nos objectifs climatiques. À cet égard, l’objectif d’une IA frugale est un impératif.

C. Une transformation considérable du marché du travail

L’introduction de l’intelligence artificielle dans le monde du travail est très récente en dépit de quelques cas d’utilisation assez rares au cours des décennies précédentes. Quant à l’intelligence artificielle générative, elle est encore largement en cours de déploiement dans beaucoup d’entreprises.

Aussi, il est difficile d’évaluer précisément l’impact de telles technologies sur le marché du travail. Un consensus semble cependant se dégager : plus qu’un remplacement des emplois par l’IA, on va assister à une transformation des métiers par ces technologies. L’ampleur et les modalités de cette transformation ne sont cependant pas mesurées de la même façon par toutes les études : il existe aujourd’hui diverses méthodologies employées par les économistes et les sociologues pour mesurer cet impact potentiel.

Dans certaines professions, comme celles des journalistes, des doubleurs, des interprètes ou traducteurs, voire des juristes et des scénaristes, les technologies d’intelligence artificielle, surtout génératives, sont perçues comme une menace directe sur les emplois. La période d’incertitude qui s’est ouverte s’accompagne d’un cortège de réactions passionnées, d’angoisses existentielles et de mouvements sociaux, ainsi que l’illustrent la longue grève de la Writers Guild of America aux États-Unis en 2023[255] qui a réuni plus de 11 500 scénaristes et de nombreux acteurs, ou encore la mise en demeure du barreau de Paris en janvier 2024 demandant au créateur de l’application « I.Avocat » de retirer son programme du marché, dans le contexte d’une mobilisation des avocats contre la commercialisation d’applications d’IA générative proposant des conseils juridiques[256].

1. Les études quantitatives sur la base des tâches et des compétences

L’une des études qui a le plus frappé les chercheurs et l’opinion publique concernant l’impact de l’usage de l’IA sur l’emploi est l’article catastrophiste de Carl Benedikt Frey et Michael A. Osborne, réalisé au sein de la Oxford Martin School de l’Université d’Oxford et paru en 2013[257], déjà analysé, critiqué et relativisé dans le rapport de l’OPECST de 2017[258], article d’ailleurs suivi par une mise à jour en 2017[259]. Leurs enquêtes, plutôt alarmantes, les conduisent à affirmer que l’automatisation (ils parlent de computerisation, dont le champ est plus large que la seule intelligence artificielle) va induire un niveau élevé de risques en termes de disparition des emplois existants, avançant même le nombre de 47 % d’emplois directement menacés. Pour arriver à ce nombre, Frey et Osborne ont utilisé une méthode centrée sur l’emploi. Ils ont réalisé un état de l’art de la technologie, et identifié les technologies aux niveaux quatre, cinq et six de l’échelle technology readiness level[260] (TRL), correspondant aux technologies pour lesquelles il existe au moins un prototype. Puis, ils ont projeté les technologies sur une nomenclature de compétences, la nomenclature O*Net[261], et ils ont observé quelles compétences étaient menacées d’être remplacées par les technologies. Ils concluent à un impact très alarmant mais qui est trop théorique et mécanique pour être accepté en tant que tel.

Une autre méthodologie pouvant être utilisée pour les enquêtes quantitatives est la méthode centrée sur les tâches, utilisée par exemple par le Conseil d’orientation pour l’emploi (COE). Les membres de ce Conseil ont créé des « filtres » déterminant quel travail peut être plus facilement automatisé. Ils ont déterminé quatre filtres : la flexibilité, la capacité de résolution de problèmes, les relations sociales et la capacité d’adaptation. En croisant les réponses à des questionnaires soumis à des travailleurs pour déterminer les tâches qu’ils réalisent avec les quatre filtres, il devient possible de déterminer quelles tâches sont plus ou moins remplaçables par l’IA.

Cette méthodologie donne des résultats beaucoup plus optimistes puisque le rapport du COE paru en 2017[262] considère que moins de 10 % des emplois pourraient être entièrement automatisables tout en reconnaissant que la moitié des emplois sont dans une probabilité haute de connaître des transformations. Cet ordre de grandeur rejoint l’évaluation de Frey et Osborne mais on voit que la moitié des emplois ne sont pas menacés de disparition mais soumis à une forte probabilité d’évolution de leurs contenus en tâches.

D’autres études, plus récentes, sont également beaucoup plus optimistes que Frey et Osborne au sujet de l’automatisation des tâches sous l’effet de l’intelligence artificielle. Par exemple, pour l’OCDE, ce n’est qu’un tiers des emplois qui seront profondément transformés par le développement de l’intelligence artificielle au cours des 20 prochaines années. Et selon l’économiste du Massachussets Institute of Technology (MIT) Daron Acemoglu, qui a publié en mai 2024 une étude approfondie, seulement 4 ou 5 % des tâches pourraient être entièrement automatisées[263].

L’exposition potentielle à l’IA en fonction du salaire et du niveau de diplôme

Légende :

- Abscisse : Salaire horaire entre 2018 et 2022 (échelle logarithmique, en dollar de 2020)

- Ordonnée : Plausibilité de l’exposition à l’IA (en %)

Source : Acemoglu, 2024

Daron Acemoglu montre aussi que tous les groupes sociaux ne sont pas concernés de la même manière : le niveau de diplôme a un impact notable, mais pas de manière linéaire. L’exposition potentielle à l’IA serait en moyenne plus faible chez les personnes sans qualifications ayant un niveau inférieur au lycée de même que pour les personnes diplômées de l’enseignement supérieur au moins au niveau master (postgraduate). Et la variabilité de l’exposition au risque de l’IA décroît globalement avec le niveau de rémunération, lui-même directement corrélé au niveau de diplôme (on voit que les écarts entre les bulles se resserrent de gauche à droite). Selon la note précitée de la direction générale du Trésor (DGT), les effets sur l’emploi ont beau rester très incertains du fait d’une adoption encore limitée de l’IA par les entreprises et les salariés, la diffusion de l’IA pourrait toucher davantage les professions les plus qualifiées que les précédentes révolutions technologiques, qui les avaient plutôt épargnées.

Au total, les effets de l’intelligence artificielle sur l’emploi sont encore difficiles à évaluer quantitativement avec précision en raison de la persistance de nombreuses incertitudes ; les résultats obtenus dépendent de la méthodologie employée pour mesurer l’ampleur de la future automatisation des tâches ; et en tout état de cause, les études disponibles ne confirment pas le chiffre inquiétant de 47 % d’emplois destinés à disparaître de l’évaluation initiale de Frey et Osborne de 2013.

2. Les études qualitatives sur la base d’observations et d’entretiens

En parallèle des études quantitatives principalement établies par des économistes, il existe également des études qualitatives, réalisées notamment par des sociologues. Ces enquêtes qualitatives, plutôt que de chercher à produire une estimation du nombre d’emplois menacés, cherchent à savoir comment et dans quelle mesure l’IA peut modifier la manière dont les personnes travaillent.

Il s’agit de s’intéresser à l’impact de l’IA au travail plutôt qu’à l’impact de l’IA sur le travail. Ces enquêtes observent donc le quotidien des personnes au travail ou les interrogent sur leurs conditions de travail, puis analysent l’effet concret ou possible de l’intelligence artificielle sur leur quotidien au travail. C’est au demeurant l’approche privilégiée par les pouvoirs publics français.

Parmi les sociologues réalisant ces analyses, vos rapporteurs ont entendu Yann Ferguson, directeur scientifique du LaborIA, projet pluridisciplinaire créé en 2021 par le ministère du Travail et porté par Inria, qui a pour mission officielle de devenir le centre national de ressources sur l’IA au travail[264]. Il s’agit d’analyser les enjeux de l’appropriation de l’IA dans le monde du travail et de formuler des recommandations.

Les observations issues de ces études qualitatives permettent une analyse diachronique plus approfondie que les analyses quantitatives et permettent également de suivre l’évolution de la situation des travailleurs en fonction du stade de déploiement de l’IA dans les organisations et les entreprises.

Ces recherches qualitatives ont ainsi permis de mettre en avant des phénomènes qui semblent propres à l’implémentation de l’intelligence artificielle plutôt que d’autres technologies numériques ou d’automatisation.

Elles ont observé qu’au moment de l’arrivée de ChatGPT, dans les premiers temps de la diffusion de l’IA générative, ce sont plutôt les employés qui ont pris l’initiative, de leur propre chef, de commencer à utiliser l’intelligence artificielle dans les entreprises pour les aider à accomplir leurs missions. Cela a donné lieu à des utilisations « cachées » de l’intelligence artificielle au travail, sans supervision ni même souvent connaissance des supérieurs.

Or, cette relation a désormais tendance à s’inverser puisque l’on voit apparaître des cadrages (frameworks) pour l’utilisation de l’IA au travail, diffusés de façon verticale au sein des entreprises. Cet encadrement peut parfois s’accompagner d’un encouragement des directions à voir les salariés utiliser les outils d’intelligence artificielle dès lors que les procédures définies sont respectées.

Yann Ferguson constate également que l’intelligence artificielle n’est pas un outil d’automatisation au travail comme les autres, surtout dans le cas des systèmes génératifs. Là où les autres outils d’automatisation effectuent des actions, souvent répétitives, les intelligences artificielles peuvent fonctionner en interaction avec l’humain qui les utilise. En effet, pour réaliser une tâche grâce à l’IA générative, il faut une interaction entre un humain qui conçoit une ou des instruction(s) et le modèle qui répond à cette demande. Cela ne correspond pas du tout à l’utilisation habituelle de machines au travail. En lieu et place d’un machinisme mécanique, parfois aliénant pour les salariés, l’IA peut fournir des outils interactifs à même de stimuler la créativité. Le sociologue Simon Borel, membre du LaborIA, travaille ainsi sur les nouvelles formes de production, d’échange, de travail et de consommation à l’œuvre dans nos sociétés, à la frontière des mutations numériques et post-industrielles. Responsable de la recherche terrain, il est l’auteur des rapports d’analyse du LaborIA Explorer et a contribué à une enquête de deux ans qui a conduit le laboratoire à publier un rapport sur l’impact de l’IA sur le travail en mai 2024[265].

3. Des effets encore incertains mais qui appellent un dialogue social

Les résultats du déploiement de l’intelligence artificielle seront largement et avant tout fonction du degré d’adoption et de diffusion des systèmes d’IA. Or il a été vu que cette dimension reste très difficile à anticiper, surtout à court et moyen terme. À l’occasion d’un numéro spécial IA de la revue de questions sociales Liaisons sociales paru en octobre 2024, le directeur général du travail (DGT), Pierre Ramain, a expliqué que l’IA n’était rien de moins qu’un « enjeu de politique publique majeur non seulement en ce qui concerne les relations entre l’humain et la machine, mais aussi pour tout ce qui se rapporte à l’organisation et aux relations de travail collectives et individuelles »[266]. C’est pourquoi il appelle les partenaires sociaux à procéder à l’inscription de cette question à leur agenda social, ce qui pourrait participer à la sensibilisation des acteurs au niveau des branches professionnelles et des entreprises.

Il incombera aux autorités publiques d’accompagner et de soutenir ce mouvement à tous les échelons de la négociation collective. Mais il ne faudra pas oublier les actifs qui travaillent au sein des PME.

Vos rapporteurs encouragent eux aussi l’idée de renouveler le dialogue social par l’introduction de cycles de discussions tripartites autour de l’IA et de ses nombreuses problématiques. C’est une occasion historique de favoriser l’appropriation concrète et réaliste de la technologie et de ses enjeux, en se débarrassant des mythes entourant l’IA. Ce dialogue social au niveau de la négociation collective nationale devrait aussi se décliner dans les entreprises, dans des échanges entre les salariés, les responsables des systèmes d’information et les DRH pour permettre une meilleure diffusion des outils technologiques et un rapport moins passionné à leurs conséquences dans le monde du travail comme, plus largement, dans la société.

III. Des défis sans précédent pour la sphère culturelle et le monde scientifique

A. De la domination culturelle anglo-saxonne à l’uniformisation cognitive

1. L’IA est américaine et pas que sur un plan économique

a) Une domination par les données

On estime à environ 45 téraoctets le nombre de données utilisées pour entraîner le modèle GPT-3. Le volume mobilisé pour GPT-3.5 ou encore pour GPT-4 serait du même ordre, même si OpenAI garde confidentielles ces informations relatives à l’entraînement des modèles qui sont le moteur du système d’IA ChatGPT. Quoiqu’il en soit, les origines des données utilisées pour entraîner les modèles d’intelligence artificielle ne sont pas uniformément réparties dans le monde.

La moitié des jeux de données utilisés sont issus de seulement douze structures. La sur-représentation des données américaines y est frappante.

L’origine géographique biaisée des jeux de données

Source : Mozilla Internet Health Report 2022 (dernier rapport à ce jour) disponible sur le site de la Fondation Mozilla https://foundation.mozilla.org/en/insights/internet-health-report/

Les spécialistes du sujet comme un collectif de chercheurs[267] ou comme la chercheuse suédoise Virginia Dignum parlent ainsi de « WEIRD AI » (pour Western, educated, industrialised, rich, democratic AI). Les stéréotypes véhiculés par l’IA seraient donc à l’image des sociétés dont sont issues les données ayant permis d’entraîner les modèles.

Ces biais peuvent faire courir, au-delà de l’aspect culturel, des risques élevés ayant potentiellement de graves conséquences par exemple pour la santé : les biais nationaux, ethniques et génétiques peuvent induire – dans le cas de protocoles médicaux mobilisant l’IA, y compris via des systèmes à la pointe des technologies – des diagnostics et des traitements totalement inadaptés à telle ou telle population spécifique.

b) Une domination par la culture et la langue

Puisque les données utilisées pour l’entraînement des modèles d’intelligence artificielle proviennent très majoritairement du monde anglo-saxon, et principalement des États-Unis, cela signifie que la langue anglaise est la principale langue utilisée pour entraîner les LLM. Ce constat est confirmé par les tests d’évaluation (benchmarks) des différents grands modèles de langage où l’on peut observer que ces modèles performent toujours mieux lorsque leurs instructions sont écrites en langue anglaise. Selon l’AI Index de l’Université de Stanford et l’institut Epoch, toutes les données textuelles en anglais de bonne qualité existantes ont été utilisées pour entraîner les LLM.

Il n’est pas acceptable qu’un prompt écrit par un anglophone aux États-Unis donne de meilleurs résultats que le même prompt écrit en français par un Français à Paris, ou en espagnol par un Espagnol à Madrid. De même qu’il n’est pas acceptable que ce prompt en français ou en espagnol donne lui-même en moyenne de meilleurs résultats que le même prompt écrit dans l’une des langues rares prises en charge par les systèmes d’IA génératives.

Cette domination linguistique pose, de plus, d’autres problèmes, sur un plan davantage culturel, et ce à plusieurs égards. La langue étant le vecteur de cadres culturels, entraîner un modèle de langage principalement en langue anglaise, c’est le conduire à effectuer des associations de mots qui sont plus spécifiques à la culture anglo-saxonne et, plus spécialement encore, la culture américaine. L’IA conduit donc assurément vers une uniformisation culturelle.

Cela pourrait poser relativement moins de problèmes pour les autres cultures occidentales, assez proches de la culture américaine, car bien qu’elles soient moins représentées dans les jeux de données d’entraînement, des langues comme l’espagnol ou le français sont également parfois présentes parmi les langues des données d’entraînement. En revanche pour des cultures minoritaires éloignées de la culture américaine et dont les langues sont plus rares ou plus difficiles, et donc beaucoup moins présentes sur Internet, le danger est plus grand. La place de ces langues sera réduite voire nulle au sein des jeux de données et ce sont les cultures minoritaires derrière ces langues qui se retrouvent effacées.

L’IA, à cause des LLM surtout mais cela vaudra bientôt pour toutes les IA génératives multimodales produisant des contenus visuels ou audiovisuels, contribue à une lente dissolution de la majorité des cultures existantes qui s’effectue au profit d’une hégémonie de la culture anglo-saxonne, en particulier américaine. Cette uniformisation culturelle et sans doute aussi idéologique n’est pas souhaitable selon vos rapporteurs.

c) Ne pas donner notre langue à ChatGPT ! Pour la diversité linguistique et culturelle

Face à ce constat, nous invitons à ne pas donner notre langue à ChatGPT. Au-delà du jeu de mots, cette invite devient un impératif si l’on souhaite conserver la diversité linguistique et culturelle de l’humanité.

Certes, 50 langues peuvent d’ores et déjà être gérées par le système GPT-4o d’OpenAI, soit 97 % des locuteurs mondiaux[268], ce qui peut donner l’illusion d’un multilinguisme respectueux des différences entre les langues et les cultures, mais en réalité l’IA générative uniformise ces dernières dans un grand mixeur statistique qui produit peu ou prou les mêmes résultats quelle que soit la langue de l’utilisateur, ce qui porte gravement atteinte à la perspective du maintien de la diversité linguistique et culturelle.

Il faut saluer les objectifs poursuivis par le projet Bloom, qui, dans une démarche de science ouverte et participative, avait permis en 2022 et 2023 de construire un modèle à 176 milliards de paramètres sur la base de données équilibrées en 46 langues, en particulier des langues rares dans le monde de l’IA comme une vingtaine de langues d’Afrique. Ces données étaient équilibrées car la variété linguistique était en permanence garantie pendant l’entraînement et car elles étaient issues de sources variées (littérature, articles scientifiques, presse, codes informatiques, etc.). Ce projet était piloté par Hugging Face, start-up initialement française mais devenue américaine et désormais installée à New York, dont l’un des chercheurs, Yacin Jernite, a été rencontré par vos rapporteurs à Washington. Bloom a été entraîné sur le supercalculateur français Jean-Zay et l’entreprise LightOn, dont le président Igor Carron a été lui aussi rencontré par vos rapporteurs, a apporté son concours à ce projet.

étroitement associée au développement de Bloom, LightOn se singularise au sein des entreprises développant des solutions d’IA par son intérêt pour une offre de systèmes génératifs performants et reposant sur des langues autres que l’anglais, souvent en open source. En partenariat avec Amazon pour l’infrastructure cloud d’AWS, l’entreprise française a développé plusieurs versions de son modèle open source Alfred. Avec les Émirats arabes unis, elle a contribué à développer et améliorer le modèle open source Falcon 40B, prisé dans le monde arabe, qui permet de construire des LLM agiles en arabe et ne reflétant pas de manière biaisée la culture anglo-saxonne et, plus spécialement, la culture américaine. C’est bien plus qu’un marché de niche, il s’agit aussi d’un enjeu de diversité linguistique et culturelle.

Avec le cofondateur de l’entreprise, Laurent Daudet, Igor Carron se singularise aussi par sa préoccupation pour la souveraineté des données et la commercialisation de systèmes d’IA installés sur site et pas sur des serveurs américains, ce qui garantit aux organisations et aux entreprises un contrôle total de leurs données. C’est par exemple le cas de sa plateforme Paradigm. Compte tenu de ses importants besoins de financement, LightOn a fait le choix de ne pas recourir qu’à des levées de fonds classiques et a procédé en novembre 2024 à son introduction en Bourse sur Euronext Growth Paris.

Nous avons, en conclusion, besoin de modèles et de systèmes d’IA les plus souverains possibles, reflétant notre culture, entraînés avec des données qui la reflètent le plus fidèlement possible et qui mobilisent des sources issues de notre riche patrimoine linguistique.

Dans Civilisation. Comment nous sommes devenus américains[269], Régis Debray décrit l’américanisation de l’Europe et de la France en particulier, les Français devenant des Gallo-ricains. Dans une interview où il présente son ouvrage, il relève que cette « grande poussée californienne s’est faite, comme d’habitude, sous le drapeau rouge : pour tourner à droite, il faut mettre le clignotant à gauche »[270].

Si l’on refuse l’accélération de cette américanisation sous l’effet de l’IA, il faudra développer et utiliser des modèles dont les modalités d’entraînement, avec une vigilance autour des sources mobilisées, garantissent le rayonnement de la langue et de la culture française au sein du système d’IA final.

2. Le danger de l’uniformisation cognitive plus encore que culturelle

a) De nouvelles structures mentales

Comme il a été vu, le capitalisme cognitif qui repose sur la conjugaison des écrans et de l’IA avec la croissance exponentielle de données massives conduit à une économie de l’attention préoccupante, notamment car elle enferme l’utilisateur des technologies dans des bulles de filtres. Cet enfermement informationnel polarise les visions de chacun dans des croyances subjectives. Ce sont autant de prisons mentales qui se déclinent à l’échelle individuelle, mais surtout ces prisons mentales peuvent engendrer, sous l’effet d’usages massifs des systèmes d’IA (a fortiori si ces systèmes reposent peu ou prou sur les mêmes modèles), à côté et en plus des phénomènes d’uniformisation culturelle, une uniformisation cognitive.

Cette tendance n’est que d’apparence paradoxale : on a, dans le même temps, une polarisation marquée des opinions et des identités (selon les variables de la culture américaine, avec une forte dimension émotionnelle) et une uniformisation culturelle doublée d’une uniformisation cognitive.

Une vigilance est donc nécessaire face aux raisonnements probabilistes et aux dérives dans l’usage des superstatistiques qui sont au fondement de l’IA : la capacité de traiter des volumes de plus en plus massifs de données n’écarte pas le risque d’obtenir parfois des résultats qui peuvent ne pas correspondre au monde réel et/ou à la vérité. Sans penser comme le disaient deux chercheurs que « les chiffres sont comme les gens, si on les torture assez, on peut leur faire dire n’importe quoi »[271], vos rapporteurs rappellent que les données sont toujours construites et n’ont pas de signification en elles-mêmes, elles ne décrivent qu’une partie de ce qui se passe dans la réalité et s’accompagnent de très nombreux biais. Ainsi que l’écrivait dans une sorte de mise en garde Alain Desrosières, « les données ne sont pas données »[272].

Une autre difficulté provient du mode de raisonnement utilisé pour traiter les données. Comme le rappelle l’académicien Daniel Andler, spécialiste des sciences cognitives, entendu par vos rapporteurs, l’intelligence ne se réduit pas à une capacité à résoudre des problèmes, la cognition humaine est bien plus complexe que cela. Il développe sa thèse dans son ouvrage Intelligence artificielle, intelligence humaine : la double énigme et assure que l’IA ne connaît que des problèmes que nous lui demandons de résoudre, elle ne connaît pas le monde et ses situations. Elle reste un outil, appelé à rester très éloigné de notre intelligence en dépit de ses avancées spectaculaires.

Il faut aller plus loin que cette remarque de bon sens et analyser sur quelles formes de mécanismes de résolution des problèmes repose l’intelligence artificielle. Les raisonnements par induction, probabilistes, sont prometteurs et, donnent souvent des résultats impressionnants, mais temporairement du moins, ils tendent à nous faire oublier le grand intérêt des raisonnements déductifs.

Prenons un parfait exemple de syllogisme déductif : les hommes sont mortels, or les Athéniens sont des hommes, donc les Athéniens sont mortels. Ce type de raisonnement qui part d’une affirmation générale pour aboutir à une application à un cas particulier est toujours vrai car, dès lors que ses prémisses sont vraies, il infère un résultat juste.

Les IA connexionnistes, elles, prennent la forme inverse, et ce comme tous les syllogismes statistiques, de raisonnements inductifs, c’est-à-dire basés sur la généralisation de cas particuliers.

Or l’induction, contrairement à la déduction, est un raisonnement « inexact » du point de vue de la logique pure car il n’est appuyé que sur la vérification de sa répétition : en effet, les syllogismes inductifs sont « valides » mais pas nécessairement vrais. Ils peuvent de manière caricaturale prendre la forme suivante : les hommes sont mortels, or les ânes sont mortels, donc les hommes sont des ânes.

La généralisation de cas particuliers sous l’effet des données massives traitées par l’IA connexionniste est devenue la règle, or le résultat d’une inférence suivant un raisonnement inductif, même basé sur des milliards d’exemples, peut toujours être démenti par un contre-exemple ou par plusieurs contre-exemples.

Puisque, dans le monde du numérique, le plus souvent, code is law[273] (autrement dit les programmes informatiques eux-mêmes tendent à devenir la règle) et que ces raisonnements inductifs, souvent vrais mais parfois faux, prédominent, il ne faut jamais perdre de vue que les IA connexionnistes qui fonctionnent en très grande partie indépendamment des contextes (en particulier du monde réel et de ses contraintes physiques et temporelles par exemple) vont progressivement modifier nos manières de penser, et ce à mesure qu’elles deviendront de plus en plus nos outils au quotidien, y compris, et surtout, pour raisonner à notre place.

Le fait que le raisonnement par déduction décline déjà et que l’on finisse à l’avenir par ne plus recourir qu’à des modèles statistiques qui raisonnent par induction risque, selon certains chercheurs, de conduire à la remise en cause de nos progrès scientifiques en raison de la « mort de la théorie et la mort de la théorie scientifique », car la science s’est principalement construite grâce des raisonnements déductifs[274].

Les deux formes de raisonnement doivent continuer à cohabiter de manière plus équilibrée[275] sans quoi cette ère de l’IA et du Big Data va conduire les habitants de la planète entière à penser selon le même mode, non seulement, sans le savoir, avec les mêmes cadres en termes de références culturelles, mais aussi selon les mêmes structures cognitives tournées vers l’induction.

De plus, à côté d’une attraction de l’attention, dont on a vu qu’elle était déjà un danger, nous courons le risque plus général en nous en remettant aux algorithmes, à l’IA et aux interfaces numériques d’une dissolution durable de nos capacités à nous souvenir, à nous concentrer et à traiter l’information, les plus jeunes, notamment les petits enfants, étant particulièrement exposés à ces évolutions.

Outre la surexposition des enfants aux écrans qui les rend dépendants aux outils numériques dès leur plus jeune âge et les effets – spécifiques sur eux – de la surcharge informationnelle qu’ils subissent, les impacts cognitifs et physiques existent, surtout quand les plus petits sont privés d’interactions avec leurs parents, ceux-ci étant eux-mêmes de plus en plus absorbés par les écrans. Ces problèmes ont déjà été soulevés depuis une dizaine d’années par le psychiatre Serge Tisseron, le philosophe Bernard Stiegler ou, encore, l’anthropologue Pascal Plantard, ces enjeux conduisant l’Académie des sciences, puis l’Académie nationale de médecine et l’Académie des technologies à se saisir directement du sujet en 2019[276].

Cette évolution vers de nouvelles structures mentales de plus en plus dégradées chez les enfants sous l’effet des écrans et des outils numériques fait l’objet d’enquêtes empiriques approfondies très préoccupantes, à l’instar des travaux de Marie-Claude Bossière par exemple[277].

Cette problématique est plus large que celle de l’intelligence artificielle mais les technologies d’IA accélèrent et renforcent de manière décisive ces évolutions vers une uniformisation cognitive, qui pourrait selon Bruno Patino nous emmener vers « une civilisation de poissons rouges ». La formule peut choquer mais elle est démontrable empiriquement. Des chercheurs de Google ont ainsi identifié des similitudes entre les durées moyennes d’attention des poissons rouges et celles des jeunes générations.

b) Vers une civilisation de poissons rouges ?

Nos structures cognitives sont modifiées par les outils numériques que sont l’IA, les écrans et l’économie de l’attention qui les structure, pire, nous serions les victimes d’une civilisation dans laquelle la santé mentale est menacée à partir de plus de 30 minutes consécutives d’exposition aux réseaux sociaux et aux contenus actuels d’Internet comme le montrent les chercheurs[278], une civilisation dans laquelle la durée d’attention sur n’importe quel sujet serait réduite à quelques secondes, faisant de chacun de nous un poisson rouge enfermé dans le bocal de son écran, ainsi que l’affirme sans provocation Bruno Patino dans un livre important[279] paru en 2019, d’où la question sur l’impact d’Internet et du numérique que posait Nicholas Carr il y a déjà 16 ans, « Google nous rend-il tous idiots ? »[280].

Bruno Patino rappelle dans son ouvrage que les ingénieurs de Google ont réussi à calculer la durée maximale de l’attention du poisson rouge qui tourne dans son bocal et semble redécouvrir le monde à chaque tour, soit huit secondes ; or ces mêmes ingénieurs ont aussi évalué la durée moyenne d’attention de la génération des millenials, celle qui a grandi avec les écrans connectés, soit neuf secondes.

C’est pourquoi nous sommes, selon Bruno Patino, en train de devenir des « poissons rouges, enfermés dans le bocal de nos écrans, soumis au manège de nos alertes et de nos messages instantanés, totalement dépendants de technologies dangereuses car favorisant la solitude et la dépression ».

L’étude fameuse, qui évalue à 30 minutes le temps maximum d’exposition aux réseaux sociaux et aux écrans d’Internet au-delà duquel apparaît un risque pour la santé mentale, est justement citée par Bruno Patino dans son ouvrage. Les travaux du chercheur en neurosciences Michel Desmurget apportent également un éclairage sur les effets cognitifs délétères des écrans, dont le premier serait la fabrique de « crétins digitaux »[281].

Dans ce contexte une éducation au numérique en général et une éducation à l’IA en particulier apparaissent comme des accompagnements indispensables à ces évolutions et des urgences impérieuses pour la cohésion de nos sociétés et la santé de chacun.

c) Éduquer à l’IA, éduquer par l’IA

Face à toutes ces analyses plutôt pessimistes qui viennent relativiser l’enthousiasme généralisé autour de l’IA, il existe un espoir de bénéficier des opportunités de ces technologies en limitant leurs risques pour nos cultures et nos structures cognitives : il faut éduquer à l’intelligence artificielle.

Pour démystifier l’IA mais surtout pour permettre l’appropriation de ces technologies et donc maximiser ses bénéfices pour l’économie, il est indispensable de disposer de programmes de formation initiale mais aussi de formation continue, avec l’idée de toucher les publics les plus larges possibles. En effet, la formation à l’IA ne doit pas se faire seulement à destination du monde des étudiants et des actifs. Il faut la décliner pour les scolaires, les collégiens, les lycéens, les ruraux, les inactifs, en bref, le grand public. De ce point de vue, les politiques conduites par la Finlande pour des apprentissages accessibles à tous – qui seront présentées de manière détaillée dans la troisième partie du rapport – sont des modèles à suivre. Il n’est pas sûr que les « Cafés IA », proposition de la commission de l’intelligence artificielle et du Conseil national du numérique, reprise par le Président de la République, réponde à l’objectif. En dépit de son ouverture affichée, ce dispositif risque de se révéler élitiste, en ne réunissant dans des zones urbaines denses que des personnes déjà intéressées par l’IA : vos rapporteurs pensent qu’il aurait été préférable d’élargir celui des conseillers numériques.

Lancé en 2021[282], ce dispositif, qui a permis de déployer 4 000 conseillers dans les territoires, devait avoir un coût de 250 millions d’euros sur trois ans. Ces conseillers pourraient se voir confier une mission d’acculturation à l’IA. Malheureusement, au lieu d’étendre le champ d’interventions de leurs interventions, le gouvernement prévoit plutôt de le restreindre. Le projet de loi de finances pour 2025 ne prévoit ainsi que 28 millions d’euros pour le financement de ce dispositif, soit une baisse de plus de 50 % du budget qui lui était alloué auparavant.

En plus d’éduquer à l’intelligence artificielle, nous allons pouvoir éduquer par l’IA. Ces technologies d’IA vont jouer un rôle crucial dans les apprentissages, l’éducation et le développement personnel, en créant des expériences et des supports d’apprentissage sur mesure, en s’adaptant aux besoins de chaque élève[283]. Les premiers logiciels éducatifs, comme Duolingo, utilisaient des méthodes basiques pour enseigner les langues pas à pas sans véritable personnalisation. Aujourd’hui, des plateformes comme Coursera ou Khan Academy utilisent l’IA pour personnaliser les parcours d’apprentissage, s’adaptant au niveau et au rythme de chaque utilisateur. Les assistants basés sur des modèles performants d’IA générative, comme ChatGPT, aident à répondre à des questions de plus en plus complexes, favorisant l’apprentissage autonome et demain il sera facile de créer des enseignants virtuels capables de simuler des interactions riches et réalistes, adaptées aux besoins uniques de chaque apprenant, facilitant un apprentissage immersif dans des domaines variés.

Dans un rapport, la délégation à la prospective du Sénat s’est intéressée à ce sujet[284] en mettant toutefois davantage en avant les bénéfices potentiels que les nombreux risques de l’IA dans le secteur éducatif (pour mémoire les effets cognitifs, l’impact sur le développement psycho-émotionnel des enfants, les biais, l’anthropomorphisme, la dépendance, l’absence d’usages différenciés selon l’âge).

Sa lecture doit être complétée des travaux de l’Unesco sur les relations entre IA et éducation (ils seront évoqués plus loin) notamment son « Guide pour l’IA générative dans l’éducation et la recherche »[285], et du travail critique des chercheurs sur le sujet, ainsi que de l’expertise précise apportée sur ces enjeux par la Fondation Everyone.AI dont vos rapporteurs ont rencontré les responsables à San Francisco[286].

B. La création au défi de l’impact de l’Intelligence Artificielle sur la propriété intellectuelle et les droits d’auteur

La diffusion de l’intelligence artificielle, surtout de l’IA générative, permet de rendre automatisables nos tâches intellectuelles, et certaines de nos compétences dans le domaine de la création sont directement concurrencées. Alors que l’on considérait auparavant la créativité artistique comme étant un talent propre à l’homme, elle est désormais devenue, dans une certaine mesure, accessible à l’intelligence artificielle. Cela est possible grâce à l’utilisation massive de données d’entraînement (images, œuvres d’art, etc.) dont l’origine est souvent assez floue, la mobilisation d’œuvres protégées étant fréquente. Cela soulève plusieurs questions sur l’évolution de nos sociétés en général et de notre droit en particulier pour s’adapter à ces changements.

Les régimes juridiques de propriété intellectuelle existants font face à des défis qu’ils n’ont jamais rencontrés auparavant. Ils sont incapables, d’une part, de permettre la rémunération ou l’indemnisation des titulaires de droit sur les œuvres ayant servi de sources aux modèles d’IA, d’autre part, de déterminer, pour l’heure, les règles applicables aux œuvres créées par intelligence artificielle, dont le statut reste incertain.

En outre, l’automatisation des processus de création artistique est susceptible de modifier en profondeur l’ensemble des industries culturelles, en permettant aux studios de créer des contenus rapidement et à moindre coût.

1. Des régimes de propriété intellectuelle fragilisés

L’intelligence artificielle a d’ores et déjà un impact sur les régimes de propriété intellectuelle, aussi bien sur le droit d’auteur français que sur le copyright anglo-saxon, qui bien que convergents sur la forme depuis la convention de Berne de 1886 restent différents. En effet, il n’existe toujours pas de droit d’auteur au niveau international.

Pour mémoire, le droit d’auteur français considère une œuvre comme une extension de la personnalité de son créateur, conférant un droit de propriété incorporel fort, qui englobe des attributs d’ordre intellectuel, moral et patrimonial[287]. Le droit moral est ainsi perpétuel, inaliénable et imprescriptible même si le droit patrimonial, d’une durée variable, a fait tomber l’œuvre dans le domaine public.

En revanche, le copyright relève d’une logique strictement économique et accorde un droit moral restreint, qui se concentre principalement sur le support matériel de l’œuvre et les intérêts financiers du titulaire du copyright (qui peut être l’auteur ou pas)[288]. Des modalités de régime juridique différentes peuvent également exister d’un pays à un autre.

Entraîner un modèle d’intelligence artificielle nécessite de grandes quantités de données, collectées de manière automatique à travers de vastes jeux de données, qui contiennent donc parfois tout ou partie d’œuvres soumises au copyright ou au droit d’auteur.

Sans transparence de la part des développeurs de modèles de fondation, il est difficile de savoir exactement quelles œuvres sont présentes au sein des données d’entraînement du modèle. Il est donc difficile pour un ayant droit de faire valoir ses droits pour atteinte au copyright ou au droit d’auteur.

Cela est d’autant plus problématique que la directive 2019/790 du 17 avril 2019 de l’Union européenne[289] prévoit paradoxalement une possibilité pour les ayants droit de refuser (« opt-out ») que leurs œuvres soient utilisées dans les bases de données d’IA. Un droit de retrait qui ne peut donc rester que formel. Alexandra Bensamoun, professeure de droit à l’Université Paris-Saclay et spécialiste du droit d’auteur et de l’intelligence artificielle, a affirmé lors de son audition devant la commission de la culture, de l’éducation et de la communication du Sénat[290] que l’on sait aujourd’hui que des modèles d’IA ont utilisé dans leurs données d’entraînement des données d’auteurs qui avaient pourtant d’ores et déjà fait valoir leur droit de retrait des bases de données.

L’absence de respect des règles relatives à la propriété intellectuelle est également reconnue par les représentants des grandes entreprises américaines de l’intelligence artificielle eux-mêmes. Ils ne se cachent pas de violer le droit d’auteur ou le copyright, dès lors que les œuvres sont sur Internet. Ainsi, le directeur technique d’OpenAI, Mustafa Suleyman, a pu avouer : « Je pense qu’en ce qui concerne le contenu qui se trouve déjà sur le Web ouvert, le contrat social de ce contenu depuis les années 1990 est l’utilisation équitable. Tout le monde peut le copier, le recréer, le reproduire. C’est ce que l’on appelle le “freeware” si l’on veut, et c’est ce que l’on a compris » [291].

Cette question relevant principalement du sujet des données utilisées, la Commission nationale de l’informatique et des libertés (Cnil) est directement concernée par ces questions. Lors de son audition par vos rapporteurs, Bertrand Pailhès, directeur des technologies et de l’innovation à la Cnil et ancien coordinateur national pour l’intelligence artificielle, a rappelé que le règlement général pour la protection des données (RGPD)[292] doit s’appliquer à l’entraînement des modèles d’intelligence artificielle. Aussi, en théorie, la collecte de contenus ne peut se faire en provenance de sources manifestement illégales. La collecte de données doit en outre répondre à une finalité explicitement définie et s’appuyer sur une base légale, souvent l’intérêt légitime. La Cnil a constitué des « fiches pratiques » qui permettent d’assurer le respect de la protection des données lors de leur traitement par des systèmes d’IA, ce qui inclut donc, sans s’y limiter, la protection de la propriété intellectuelle.

Les législations françaises et européennes déterminent ainsi un cadre théorique assez clair pour le respect de la propriété intellectuelle et fixent des limites aux cas d’entraînement des modèles d’intelligence artificielle. Elles permettent de définir ce qui constitue des pratiques acceptables ou pas. Cela est d’autant plus important qu’il semble que beaucoup d’entreprises développant des solutions d’intelligence artificielle semblent tentées de contourner ces principes. Ces discours se retrouvent en effet souvent dans le secteur du numérique, y compris du côté de figures emblématiques de la French Tech, comme Oussama Ammar, cofondateur de l’incubateur The Family avec Alice Zagury et Nicolas Colin, qui a souvent fait de la transgression des règles le cœur de ses conseils aux start-up en vue d’une innovation disruptive[293].

Néanmoins, fixer des règles définissant ce cadre légal n’est pas en soi suffisant, il faut également s’assurer de disposer des moyens permettant de contraindre les entreprises de respecter ce cadre. Or, les sociétés font elles-mêmes valoir des principes de confidentialité qui contreviennent à cet objectif, ce qui pose un problème de transparence de l’information. Il est quasi impossible pour les autorités ou pour un juge d’obtenir des informations sur les bases de données d’entraînement utilisées sans y avoir directement accès[294] et il est donc très difficile de prouver, sur la seule base des résultats d’un modèle, que ce dernier contient dans sa base de données d’entraînement du contenu illicite. Et quand bien même le régulateur ou un juge aurait accès aux milliards de données utilisées, le tri pour identifier les œuvres protégées resterait lui aussi très ardu.

Les entreprises développant des modèles de fondation considèrent, de plus, que les données collectées et leur traitement avant même l’entraînement (nettoyage/curation) constituent une source de valeur pour elles. Ouvrir ces données constituerait pour elles une perte d’avantages comparatifs vis-à-vis de leurs concurrents. C’est cette position qu’ont tenue les responsables de MistralAI lors de leur audition devant vos rapporteurs. Il y a donc un équilibre à trouver entre, d’une part, l’intérêt général et la préservation des intérêts des ayants droit, le régulateur ou les titulaires des droits devant pouvoir avoir accéder aux bases de données d’entraînement des modèles d’IA, et, d’autre part, les intérêts des entreprises développant les modèles d’IA pour qui ces données d’entraînement sont un élément de valeur en soi et une ressource indispensable pour l’entraînement des modèles.

2. Des risques contentieux

Dans ce contexte d’incertitudes, les risques contentieux sont de plus en plus grands, qu’il s’agisse de l’utilisation d’œuvres protégées pour entraîner les modèles, de la protection des œuvres générées par des systèmes d’IA ou, encore, de tout autre litige qui pourrait émerger. En l’absence de règles claires, il reviendra aux juges de trancher les litiges. Le rôle de la jurisprudence sera donc central et laisse les artistes, les entreprises et les utilisateurs dans un flou juridique anxiogène, avec des risques financiers qui ne sont pas négligeables.

C’est pourquoi une clarification de ces enjeux et des régimes juridiques applicables est indispensable. Le rapport d’information de la commission des lois de l’Assemblée nationale déposé en conclusion des travaux de sa mission d’information sur les défis de l’intelligence artificielle générative en matière de protection des données personnelles et d’utilisation du contenu généré fournit des pistes utiles à la réflexion[295]. Vos rapporteurs y renvoient et souhaitent qu’un débat ait lieu à ce sujet.

3. Le modèle économique de la création artistique par l’IA

Par définition, le système de droit d’auteur se retrouve davantage fragilisé par l’apparition d’œuvres générées par l’IA que le système de copyright. En effet, le premier rattache l’œuvre à son auteur avant de poser la question du titulaire du droit patrimonial. Or, la définition de l’auteur dans le cas d’une œuvre créée par un modèle d’IA est difficile. Qui est l’auteur d’une œuvre générée par IA ? L’auteur est-il le développeur du modèle de fondation, le distributeur de l’application d’IA générative, l’utilisateur qui a formulé une instruction ou, de manière plus complexe, l’ensemble des auteurs qui ont vu leurs œuvres être utilisées pour l’entraînement du modèle et parvenir à l’œuvre finale ? Ces questions appellent à réfléchir à la notion même de droit d’auteur qui, s’il apparaît de moins en moins adapté, doit tout de même être sanctuarisé à l’heure de l’IA générative, fusse au prix d’importantes adaptations.

Vos rapporteurs ont rencontré des artistes créateurs d’œuvres utilisant l’IA : le collectif d’artistes Obvious, représenté par Pierre Fautrel, ainsi que Christophe Labarde, organisateur de l’exposition « Irruption – Quand l’intelligence artificielle bouleverse la création » au Château de Turenne. Pour mémoire, le collectif Obvious est notamment à l’origine de l’œuvre générée par IA « La famille de Belamy », vendue aux enchères pour un prix de 432 000 dollars, ce qui a constitué un record.

Ces deux experts ont admis qu’il était trop difficile de déterminer si une œuvre réalisée par l’IA était inspirée d’une œuvre déjà existante, sauf à tomber dans la pure et simple copie, la contrefaçon étant déjà un délit puni par la loi[296].

Une solution minimale pour réguler les créations par l’intelligence artificielle pourrait être l’application d’un filigrane sur les médias créés par des modèles d’intelligence artificielle (watermarking). Ainsi, il serait possible de distinguer les œuvres générées par des modèles d’IA et celles d’origine humaine. Une telle solution se heurte néanmoins à des problèmes pratiques : il faudrait que le filigrane ne soit pas trop visible afin de ne pas dénaturer l’œuvre ; la modification de l’œuvre ne devrait plus être possible après l’application du filigrane pour ne pas altérer ce dernier ou le faire disparaître ; il faudrait que le filigrane puisse être détecté sur différents supports, numériques et physiques. Restera en outre la question de savoir comment appliquer de tels filigranes à différents types d’œuvres : textes, images, sons, musiques, vidéos en tout genre générés par intelligence artificielle. Autant de défis qui feront l’identification concrète des œuvres créées par des systèmes d’intelligence artificielle un sujet complexe et multidimensionnel, au moins à ce stade de l’état des connaissances et des techniques.

4. L’avenir de la création artistique

L’arrivée d’outils d’intelligence artificielle capables de générer du contenu artistique sur la base de données numériques, couplée à l’avènement du Big Data, sont des facteurs de transformation profonde de la création artistique et de l’ensemble des industries culturelles qui pourront créer du contenu plus rapidement, plus efficacement et à moindre coût grâce à l’IA générative, avec une offre plus personnalisée par l’analyse des données des utilisateurs.

Aux États-Unis, vos rapporteurs ont rencontré Matthieu Lorrain et Surya Tubach, représentants de Google Creativ, la filiale de Google en charge des industries culturelles, qui leur ont parlé des initiatives prises par le géant du numérique en matière de création artistique. Ils affirment que le futur consistera par exemple à produire des « contenus liquides » (liquid content), à savoir des contenus adaptables aux préférences des utilisateurs grâce à des intelligences artificielles capables d’analyser toutes les données produites par les utilisateurs.

Face à un tel modèle économique et technique, il pourrait devenir difficile aux productions traditionnelles de rivaliser avec ces types de contenu spécifiquement conçus pour répondre aux attentes de chaque utilisateur. Il s’agirait alors d’un pas supplémentaire vers la marchandisation des industries culturelles, notamment audiovisuelles, en faisant notamment disparaître la vision d’auteur des films et des séries. La perspective unique et très personnelle que peut apporter un réalisateur talentueux pourrait ne plus exister par exemple. Il ne s’agirait plus que de créer des contenus audiovisuels sur mesure, basés sur les « préférences » supposées des utilisateurs.

En plus de brider la créativité artistique, ce type de contenu conduirait paradoxalement à renforcer les bulles de filtres et mènerait à une plus grande uniformisation des films et des séries, limitées à une déclinaison de tropes narratifs populaires moyens ajustés à l’aide d’artefacts superficiels de personnalisation basés sur les préférences supposées du spectateur. Une telle évolution cloisonnerait encore davantage chacun dans un univers culturel aux perspectives restreintes et aux contenus appauvris. Avant même le recours généralisé à l’IA, les contenus et les recommandations de plateformes audiovisuelles telles que Netflix vont déjà en partie dans ce sens. Cette société du spectacle par individualisation des contenus inquiète vos rapporteurs.

De telles transformations profondes de la création artistique et des industries culturelles entraîneront de manière très probable une forte conflictualité sociale, comme l’ont montré les longues grèves de syndicats de scénaristes aux États-Unis, soutenues par différentes corporations d’artistes, dont celle des acteurs. La grève de la Writers Guild of America en 2023 avec ses 11 500 scénaristes face à l’Alliance of Motion Picture and Television Producers a ainsi duré du 2 mai au 27 septembre 2023, ce qui est historique.

C. Des bénéfices considérables pour la recherche

1. La fertilisation des autres disciplines scientifiques par l’IA

Bien qu’elle constitue une discipline scientifique en soi, l’intelligence artificielle ne saurait être traitée isolément des autres disciplines scientifiques, selon une approche « en silo ». Par les possibilités qu’elle offre, l’intelligence artificielle est en effet un outil pour toutes les disciplines scientifiques, c’est d’ailleurs pourquoi en 2024 les prix Nobel de Physique et de Chimie sont l’un et l’autre revenus à des chercheurs en IA[297]. C’est aussi le sens de l’expression « IA plus X », développée par l’exécutif dans la seconde phase du programme d’investissement pour l’IA.

En France, nos instituts de recherches, à l’image de l’Institut national de recherche en sciences et technologies du numérique (Inria) ou du Commissariat à l’énergie atomique et aux énergies alternatives (CEA), rencontrés par vos rapporteurs, mènent des projets transversaux visant à développer l’intelligence artificielle autour de projets liant recherche en IA et autres domaines de recherche. Ainsi, le CEA conduit des projets visant à développer des systèmes d’intelligence artificielle suffisamment fiables pour être déployés dans des chaînes de production industrielle, ce qui nécessite de croiser les compétences de chercheurs en intelligence artificielle et de chercheurs spécialisés dans différents domaines industriels.

L’intelligence artificielle est un outil qui peut être utilisé dans un ensemble de disciplines scientifiques, ce qui implique une réflexion sur l’usage des intelligences artificielles dans des contextes divers. L’utilisation d’une IA comme agent conversationnel diffère par exemple de l’utilisation d’une IA dans un contexte d’industrie lourde ou médicale.

Le fait que GPT-4 ait été capable de résoudre en 2023 un problème complexe de physique du concours d’entrée à Polytechnique[298] prouve que les IA peuvent être des ressources très utiles pour des projets de recherche scientifique, y compris dans des domaines avancés. Il est souvent dit que les LLM ont actuellement, malgré leurs défauts (comme les hallucinations ou leur absence de logique), les capacités de bons doctorants[299].

Les modèles d’IA permettent d’accélérer les progrès scientifiques. En 2022, ils ont par exemple été utilisés pour aider à la fusion de l’hydrogène, améliorer l’efficacité de la manipulation de matrices ou, encore, générer de nouveaux anticorps. En matière de santé, la recherche peut bénéficier de gains de temps, du criblage des médicaments et de nouvelles opportunités vers la médecine personnalisée. Pour analyser des problèmes de géométrie, DeepMind a créé Alphageometry qui donne d’excellents résultats et se base sur une architecture hybride (IA symbolique avec des systèmes à base de règles conjuguée à une IA connexionniste basée sur des réseaux de neurones).

En décembre 2023, un autre modèle d’IA de DeepMind – FunSearch (appelé ainsi car il recherche des fonctions mathématiques, pas parce qu’il serait drôle) – est parvenu à résoudre un problème mathématique jusqu’alors non résolu. Cette réussite est d’autant plus marquante que la solution n’était absolument pas présente dans les données d’entraînement[300].

Selon plusieurs chercheurs, cette expérience s’apparente au premier cas où un grand modèle de langage utilisé pour résoudre un problème mathématique et son succès plaide en faveur de l’IA[301].

Avant cette résolution d’un problème mathématique, un autre modèle d’IA de DeepMind – AlphaFold – s’est illustré avec sa capacité à produire une analyse décisive du repliement des protéines.

2. Les cas emblématiques de l’analyse du repliement des protéines en 2018 et de la génomique en 2024

L’un des premiers domaines scientifiques dans lequel l’intelligence artificielle s’est révélée au grand public est celui de l’analyse du repliement des protéines. Les protéines sont des molécules de grande taille composées de polypeptides, eux-mêmes composés d’acides aminés. Il existe vingt acides aminés différents qui peuvent constituer des polypeptides lorsqu’ils s’assemblent en chaîne. En connaissant les acides aminés composant les chaînes polypeptidiques, il est possible de déterminer la « séquence primaire » d’une protéine.

La forme d’une protéine est complexe à déterminer puisqu’elle dépend d’interactions entre les différents éléments des chaînes polypeptidiques de la protéine. Le repliement des protéines est le résultat d’interactions chimiques au sein de la molécule (liaisons hydrogène, interactions hydrophobes, forces de van der Waals, etc.). Pour connaître la forme d’une protéine, il faut déterminer la configuration dans laquelle l’énergie libre de la molécule est la plus basse afin d’atteindre une conformation stable, fonctionnelle et thermodynamiquement favorable. Trouver une telle configuration n’est pas chose aisée alors que ce sont des centaines voire des milliers d’atomes qui sont en interaction en son sein. Par exemple la formule chimique de l’insuline humaine est soit 788 atomes.

Utiliser des moyens computationnels d’IA pour parvenir à connaître la forme d’une protéine à partir de sa structure primaire permet de mieux comprendre les propriétés d’une protéine, ce qui revêt une importance capitale en médecine et en biologie. Le Critical Assessment of protein Structure Prediction (CASP) est un concours biannuel organisé depuis 1994 par le Protein Structure Prediction Center (PSPC)[302], faisant se confronter des modèles sur des tâches de prédiction de structure protéique. Dans ce concours, les organisateurs collectent la structure en trois dimensions de séquences de protéines qui ont été déterminées mais qui n’ont pas fait l’objet d’une publication scientifique. On communique au participant la structure de séquences cibles et ils doivent alors trouver la structure en trois dimensions de la protéine associée à cette structure.

En 2018, la société DeepMind participe au CASP13 avec son logiciel d’intelligence artificielle AlphaFold et remporte le concours. Ils participent au concours deux ans plus tard avec AlphaFold2 et arrivent à nouveau en tête, encore plus largement[303]. C’est cette large domination du CASP14 en 2020 qui va mettre en lumière les performances des modèles d’apprentissage profond pour le cas de la prédiction de la structure des protéines.

Mesure de la performance d’Alphafold par rapport aux autres modèles

N.B. : La mesure de la performance d’AlphaFold2 est la barre bleue la plus à gauche, dominant largement tous les autres modèles participant au concours CASP14 en 2020.

Source : PSPC

Ce sont ces travaux qui ont conduit David Baker, John Jumper et Demis Hassabis, fondateur et directeur du laboratoire d’IA Google DeepMind, à se voir décerner en 2024 le prix Nobel de chimie.

Dans le rapport de l’Office de 2017, la perspective d’une prédiction optimisée du repliement des protéines par l’IA avait été dessinée en soulignant l’enjeu qu’un tel progrès représenterait pour la médecine[304]. Le rapport précisait que « le processus physique, par lequel un polypeptide se replie dans sa structure tridimensionnelle caractéristique dans laquelle il est fonctionnel, est important en ce que de nombreuses maladies, en particulier les maladies neurodégénératives, sont considérées comme résultant d’une accumulation de protéines mal repliées ».

En novembre 2024, l’analyse génomique connaît un progrès important avec le lancement du premier modèle d’IA dédié, nommé Evo. Formé par des données de 2,7 millions de génomes de procaryotes et de phages diversifiés sur le plan de l’évolution, sur le modèle des LLM, ce modèle est capable d’interpréter et de générer de longues séquences génomiques à grande échelle. Cela représente un grand potentiel pour interpréter les données de séquences biologiques (l’ADN, l’ARN, les protéines…) et réaliser des prédictions (comment de petits changements d’ADN affectent la forme physique d’un organisme, générer des séquences réalistes de la longueur du génome), voire concevoir de nouveaux systèmes biologiques, y compris avec la validation en laboratoire des technologies synthétiques CRISPR et des éléments transposables de type IS200/IS605.

La revue Science a consacré sa couverture à ce nouveau modèle dans un numéro spécial du 15 novembre 2024 contenant l’article scientifique qui présente cette révolution de la compréhension complète du code génétique jusqu’aux génomes entiers, une avancée majeure dans la capacité à concevoir la biologie et les sciences du vivant selon des modalités et des échelles multiples et complexes jusqu’alors impossibles[305].

3. Les jumeaux numériques et le perfectionnement des simulations

Un jumeau numérique (parfois désigné par son terme anglais « digital twin ») est une représentation virtuelle d’un objet, bâtiment, processus ou système[306]. Il s’agit d’un perfectionnement des simulations.

Cette pratique est utilisée depuis le début des années 2000 et se développe particulièrement depuis les années 2010. Elle permet d’avoir un modèle informatique d’objets ou de processus existants, qui donne ainsi la possibilité de l’étudier dans un environnement numérique et de réaliser des simulations en agrégeant des données concernant l’objet.

Ces jumeaux numériques peuvent être créés et animés par de l’intelligence artificielle, les données récoltées sur le système réel servent alors à entraîner le jumeau pour qu’il parvienne à imiter au mieux son comportement. De tels jumeaux numériques sont développés par des entreprises comme Dassault Systèmes ou des laboratoires comme le CEA-List (Laboratoire d’intégration des systèmes), spécialisé dans les systèmes numériques intelligents. Les applications sont innombrables.

4. Adapter nos politiques de recherche aux perspectives ouvertes par l’IA

Ces progrès grâce à l’IA nécessitent d’adapter nos politiques de recherche qui doivent tirer le meilleur parti de ces technologies. Non seulement il faut chercher à déployer des outils d’IA dans tous les champs de recherche, mais il faut que la recherche fondamentale en IA elle-même se nourrisse des autres disciplines.

Il faut donc envisager un nouveau paradigme dans le rapport au savoir et une politique de recherche plus que jamais pluridisciplinaire voire, mieux, transdisciplinaire. Cet objectif global pourra se décliner dans des dispositifs plus précis.

Troisième partie La gouvernance et la régulation de l’intelligence artificielle

Dès le début de l’année 2017, le rapport de l’Office affirmait que « ces technologies doivent être maîtrisées, utiles et faire l’objet d’usages conformes à nos valeurs humanistes »[307]. Sa réflexion avait largement porté sur les questions éthiques, de l’amont avec l’éthique de la recherche en intelligence artificielle jusqu’à l’aval avec l’éthique pratique des robots intelligents, en passant par la revue de l’ensemble des démarches engagées en la matière. Le rapport appelait à « ne pas céder à la tentation de définir un cadre juridique trop contraignant, qui aurait pour inconvénient de figer des règles codifiant des préceptes moraux et, partant, de gêner et de ralentir l’innovation ». Les rapporteurs, au terme de leurs investigations, n’avaient pas été convaincus de l’urgence d’une intervention législative ou réglementaire en matière d’intelligence artificielle, surtout en raison de son caractère très évolutif. Une proposition de loi leur paraissait inopportune.

Cependant, le rapport affirmait également qu’un « régime du type de celui qui est applicable aux médicaments avant autorisation de mise sur le marché, avec une période de tests et d’observations, pourrait devenir obligatoire pour les systèmes autonomes d’intelligences artificielles, au stade où leur commercialisation massive sera envisagée »[308]. Cette approche semble bien être celle retenue par l’Union européenne en 2024, à l’heure du déploiement massif de l’IA générative.

Qu’il s’agisse de dispositions contraignantes ou de simples guides éthiques, l’objectif reste le plus souvent le même : maîtriser l’IA pour que se déploient les technologies les plus sûres et responsables possibles, dans la confiance et le respect du droit et des libertés individuelles.

Selon Bertrand Braunschweig, coordinateur scientifique du programme Confiance.ai et ancien coordinateur pour la recherche du programme national dʼintelligence artificielle, entendu par vos rapporteurs, le sujet de la confiance dans lʼIA est un aspect fondamental pour les développeurs comme pour les pouvoirs publics ainsi qu’une condition essentielle à un déploiement fluide et efficace des technologies.

Le dernier rapport de la Cnil énonçant ses recommandations pour le déploiement des systèmes d’IA a été publié en avril 2024 à la suite d’une vaste consultation publique[309]. Il s’intéresse directement à ce sujet. Vos rapporteurs y renvoient donc pour les réponses concrètes à apporter aux questions à la fois juridiques et techniques posées par le déploiement des systèmes d’IA. Il s’agit d’évolutions importantes pour aller vers une IA de confiance.

Le fait d’adopter des dispositifs juridiques encadrant l’IA ne va pas de soi. Beaucoup, notamment dans le monde économique, croient d’abord à l’autorégulation. Le Partnership on AI créé en 2016[310] ou, plus récemment, le Frontier Model Forum, partenariat créé en 2023 par Microsoft, OpenAI, Google et Anthropic, se proposent de définir les conditions du développement d’IA sûres et responsables. Une telle option pose néanmoins le problème des pratiques réelles des entreprises qui, en l’absence de contrôles, risquent fort de se concentrer sur leurs objectifs fondamentaux, à savoir enregistrer des profits et gagner des parts de marché.

Certains prônent un encadrement vertical par la législation, ce qui fait courir le risque de politiques publiques lourdes et mal ciblées, sans pour autant éviter les problèmes de « capture du régulateur » par les entreprises en raison de leur quasi-monopole d’expertise technique ou en tout cas de leur meilleure connaissance des modèles d’IA qu’elles développent et/ou déploient.

Cette régulation peut en pratique prendre des formes multiples :

- se baser sur des principes ou sur des niveaux de risque ;

- être tournée vers les technologies, les applications ou les usages ;

- laisser un accès libre au marché avec de simples déclarations et des autoévaluations ou obliger à communiquer des descriptions techniques (au régulateur voire au grand public) ou, encore, fixer un régime d’autorisation préalable, avec le cas échéant la création d’une agence de régulation.

Entre ces deux pôles, se situent les solutions de corégulation, qui associent les entreprises à la définition des normes, à leur mise en œuvre, voire à leur contrôle.

Ce sont, de fait, les perspectives qui se dessinent dans le monde occidental, même si l’Union européenne va un peu plus loin et se rapproche d’une régulation verticale avec son règlement de 2024 sur l’IA, dit AI Act, dont les dispositions complexes seront présentées plus loin.

I. Les dispositifs nationaux ou régionaux

A. Une politique française de l’intelligence artificielle en demi-teinte

1. La stratégie nationale en faveur de l’IA depuis 2017 : un retard à l’allumage

Des stratégies nationales ambitieuses pour le secteur numérique ont déjà été définies par le passé. Le « Plan Calcul », lancé en 1966, le rapport sur l’informatisation de la société publié en 1978, qui a inventé le concept de télématique et proposé le lancement du réseau Minitel[311], le plan « Informatique pour tous » impulsé en 1985, le rapport sur les autoroutes de l’information en 1994 ou encore le programme d’action gouvernemental pour la société de l’information (PAGSI) et les espaces publics numériques (EPN) en 2000[312], en sont différents exemples qui ont souvent laissé des souvenirs doux-amers en raison de leurs résultats qui n’étaient pas à la hauteur des espoirs suscités.

En France, le pouvoir exécutif a depuis 2017, sans directement réguler l’intelligence artificielle, annoncé des stratégies nationales pour l’IA et mis en place une série de mesures concernant la gouvernance de l’IA. Refaire l’histoire de cette succession d’annonces ou de mesures dans le domaine des technologies d’intelligence artificielle est indispensable avant de pouvoir dessiner des perspectives pour le futur.

Une première stratégie nationale pour l’IA a été voulue par le Président de la République, alors François Hollande, dès janvier 2017, en écho à la stratégie américaine dévoilée en octobre 2016 par le président américain Barack Obama.

La secrétaire d’État chargée du numérique et de l’innovation, Axelle Lemaire, avait ainsi été missionnée pour préparer les détails de ce plan baptisé « France IA », lancé dans l’incubateur Agoranov le 20 janvier 2017 et ayant conduit à la remise d’un rapport au Président de la République à la Cité des Sciences et de l’industrie le 21 mars 2017.

Ce plan visait notamment à mettre en place un comité de pilotage « France IA », à financer de nouveaux projets de recherche en IA à travers le programme pour les investissements d’avenir (PIA), à créer un centre interdisciplinaire sur l’IA, à réaliser une cartographie de l’écosystème de l’intelligence artificielle en France en vue de mobiliser les acteurs publics et privés, à réfléchir à des normes et des standards, et à suivre l’impact de l’IA sur l’économie et la société.

En parallèle de ce plan gouvernemental, dès le printemps 2016, la sénatrice Dominique Gillot et le député Claude de Ganay ont préparé le premier rapport de l’OPECST sur l’intelligence artificielle. Publié le 15 mars 2017, ce rapport présentait 15 propositions au nom de l’Office. Ses auteurs y regrettaient qu’en raison de l’actualité, le plan France IA arrive trop tard pour pouvoir être réellement pris en compte dans les politiques publiques[313].

Le plan France IA du Gouvernement a ensuite été suspendu puis a été purement et simplement enterré : il n’a pu en effet être mis en œuvre dans le contexte des élections présidentielles de 2017 et de l’élection d’Emmanuel Macron à la tête de l’État.

Ce dernier a préféré retravailler une nouvelle stratégie pour l’intelligence artificielle durant son premier mandat, qu’il annoncerait lui-même : un an plus tard c’est avec la remise d’un autre rapport[314] émanant du président de l’Office, notre ancien collègue député Cédric Villani, alors en mission pour l’exécutif, que le Président de la République a pu proposer au Collège de France, le 29 mars 2018, en présence de la ministre allemande de la recherche et du commissaire européen à l’innovation, une « Stratégie nationale et européenne pour l’intelligence artificielle », lors d’un événement baptisé « AI for Humanity »[315].

Rétrospectivement, cette approche semblait se préoccuper insuffisamment de l’innovation technique en IA, le rapport de notre ancien collègue était d’ailleurs exclusivement tourné vers les technologies de Deep Learning en vogue à l’époque et appelait essentiellement à centrer les efforts de notre stratégie en matière d’intelligence artificielle sur leur déploiement dans certains domaines d’application comme les transports, la santé, la sécurité, l’environnement et la défense. En matière de santé, il proposait par exemple d’interconnecter les fichiers déjà existants pour développer ce qui est devenu le Health Data Hub.

Avec un financement pluriannuel d’1,5 milliard d’euros annoncé, la stratégie nationale pour l’IA ambitionnait de faire de la France un des leaders mondiaux de l’intelligence artificielle. Or, elle a surtout consisté dans la labellisation de quatre instituts interdisciplinaires d’intelligence artificielle (3IA), le financement de chaires et de doctorats ou encore l’investissement indispensable dans des infrastructures de calcul à travers des supercalculateurs gérés par le GENCI (pour Grand équipement national de calcul intensif) comme Jean Zay, inauguré en 2019, ou Adastra, inauguré en 2023, et dont les performances atteignent respectivement 36,85 pétaflops et 74 pétaflops (Jean Zay devrait toutefois atteindre 125,9 pétaflops cette année). Pour mémoire un pétaflop représente un million de milliards de calculs d’opérations en virgule flottante par seconde.

Il faut noter que ces deux supercalculateurs n’étant plus au niveau exascale des standards internationaux, c’est-à-dire dépassant un exaflop par seconde (un milliard de milliards de calculs par seconde), la France va héberger un supercalculateur européen (qui devait s’appeler Jules Verne mais portera finalement le nom de la chercheuse oubliée Alice Recoque) dont elle devra partager l’usage avec l’Union européenne[316]. À titre de comparaison, l’entreprise d’Elon Musk spécialisée en IA, appelée « xAI » et qui développe le système Grok, s’est engagée à acheter entre 3 et 4 milliards de dollars de GPU à Nvidia et s’est dotée d’un supercalculateur de 150 MW du nom de Colossus, construit en 19 jours[317], développant théoriquement 3,4 exaflops par seconde, car composé de 100 000 processeurs Nvidia Hopper 100[318]. Sa taille devrait doubler d’ici quelques mois pour atteindre 200 000 processeurs[319]. Pour mémoire, Google, OpenAI, Microsoft, Meta et Nvidia étaient les seules entreprises au monde à dépasser les 50 000 GPU et xAI vient de repousser la frontière du concevable avec la perspective de cette structure de 200 000 processeurs GPU. Les puces utilisées, les Nvidia Hopper H100, ont un coût unitaire qui varie de 30 000 à 70 000 dollars, un coût du même ordre que la nouvelle génération de puces Nvidia, les Blackwell B200, dont vos rapporteurs ont pu voir le format réduit au siège de Nvidia, et qui seront commercialisées prochainement[320]. Les 200 000 processeurs de xAI ont une valeur comprise entre 6 et 14 milliards de dollars environ. Le supercalculateur Jean Zay, après son extension prévue d’ici la fin de l’année 2024, sera quant à lui doté de 1 456 GPU Nvidia H100[321].

La stratégie nationale pour l’intelligence artificielle, divisée en deux phases[322], a également conduit à une coordination qui n’a d’interministérielle que le nom avec un coordinateur rattaché initialement à la direction interministérielle du numérique et du système d’information et de communication (DINSIC), puis à la direction générale des entreprises (DGE) du ministère de l’économie, sans autorité réelle sur les conditions de mise en œuvre de la stratégie.

L’instabilité du titulaire de cette fonction et les vacances répétées du poste sont également frappantes : Bertrand Pailhès nommé en juillet 2018, quitte ses fonctions un an plus tard en novembre 2019, il n’est remplacé par Renaud Vedel qu’en mars 2020, qui ne reste chargé de cette mission que jusqu’à l’été 2022, Guillaume Avrin ne rejoint la structure qu’en janvier 2023, à nouveau après une vacance de six mois. Cette instabilité et ces vacances révèlent une fonction problématique et mal définie.

Au total, le pilotage de la stratégie nationale en IA reste toujours défaillant : elle demeure d’ailleurs en réalité toujours sans pilote, évoluant au gré des annonces du Président de la République, à l’instar de son courrier du 25 mars 2024 faisant d’Anne Bouverot « l’envoyée spéciale du Président de la République » pour le futur sommet sur l’IA ou de son discours lors du rassemblement des plus grands talents français de l’IA à l’Élysée le 21 mai 2024, qui présentait les nouveaux cinq grands domaines de la stratégie nationale pour l’IA.

2. Le bilan critique de la stratégie et son évaluation par la Cour des comptes

La première étape de la stratégie nationale pour l’IA mise en place par l’exécutif à partir de 2018 a déjà pu être évaluée et les effets produits par les mesures prises ont pu être comparés à leurs effets escomptés.

La Cour des comptes a ainsi publié, en avril 2023, un rapport[323] qui dresse le bilan de la stratégie mise en place par l’exécutif concernant l’intelligence artificielle. Elle évalue en particulier les mesures prises et leurs effets par rapport aux objectifs fixés par le Président de la République lors de la mise en place de ce plan : positionner la France parmi les cinq meilleurs pays en termes d’IA, et devenir les chefs de file européens dans le domaine.

L’évaluation est plutôt mitigée. En effet, loin d’atteindre les objectifs affichés, comme celui de devenir un leader mondial, il semble que la stratégie nationale pour l’IA ait surtout permis à la France de ne pas décrocher davantage dans la compétition au niveau mondial, au moins dans les quelques domaines investis par le plan.

La Cour des comptes affirme ainsi que la priorité donnée à la recherche en IA a permis à la France de maintenir un niveau honorable en termes de publication d’articles scientifiques et d’efficience de la recherche.

Ce résultat est cependant à relativiser puisque lorsque ces classements sont rapportés au PIB, la position de la France chute au 44e rang : « Si la France apparaît assez performante en matière de recherche en IA (10e rang mondial et 2e rang européen en 2021 en nombre de publications en IA sur un total de 47 pays comparés), sa recherche dans ce domaine apparaît peu efficiente au regard du produit intérieur brut de la France (44e rang mondial et 25e européen en 2021 pour le même critère rapporté au PIB). »[324]

La mise en place des Instituts 3IA est jugée plutôt efficace par le rapport, qui constate que ces instituts contribuent à l’augmentation du nombre de publications scientifiques et de coopérations internationales en matière d’IA. Ceci est permis grâce à des collaborations interdisciplinaires et à l’acquisition de ressources technologiques avancées. Un exemple est l’acquisition de nœud de clusters GPU par le 3IA de Nice Sophia-Antipolis pour renforcer ses capacités de calcul ; il est mis à disposition en priorité pour les chaires 3IA.

Le rapport note toutefois que les résultats des Instituts 3IA ne sont pas à la hauteur des attentes initiales. D’après la Cour des comptes, la cartographie des formations en IA, loin d’être homogène, est complexe et peu lisible. De plus, les instituts 3IA ne sont pas autonomes et apparaissent précaires : la pérennité des financements de l’État est cruciale pour maintenir la dynamique de ces instituts, or la visibilité des perspectives financières est très réduite.

En raison de ce contexte global, le rapport juge que la formation des talents en IA, même si elle a progressé, reste encore très insuffisante pour combler le déficit de compétences en intelligence artificielle dans le pays. Vos rapporteurs ajoutent que rien n’a non plus été fait pour lutter contre la fuite des cerveaux.

S’agissant de la gouvernance et des investissements en IA, la complexité de l’écosystème d’acteurs et des outils de financement public constitue un frein à l’efficacité des mesures voulues par l’exécutif, et ce, malgré la présence du coordinateur national à l’intelligence artificielle (aujourd’hui Guillaume Avrin). Cette coordination ne joue pas un rôle assez important et n’est pas assez financée selon la Cour.

Ce déficit de cohérence dans la gouvernance française de sa stratégie en IA crée des difficultés pour attirer et concentrer les investissements. Aussi, bien que les sommes investies représentent des montants importants, la dispersion des moyens dans un saupoudrage peu rationnel empêche ces investissements d’être pleinement efficaces.

Aussi, la Cour des comptes préconise l’élaboration d’une nouvelle politique publique globale en matière d’IA, au moins pour assurer une bonne gouvernance et une coordination de l’ensemble des dispositifs de financement.

3. Les perspectives de relance de la politique nationale de l’IA

La dernière étape concernant la gouvernance française de l’intelligence artificielle a été la remise au Gouvernement du rapport « IA : notre ambition pour la France » le 13 mars 2024[325].

Ce rapport a été rédigé par la Commission de l’intelligence artificielle dont les présidents étaient Anne Bouverot et Philippe Aghion, rencontrés par vos rapporteurs, tout comme l’ont été les deux rapporteurs généraux du rapport, Cyprien Canivenc et Arno Amabile.

Ce rapport important contient 25 recommandations pour une politique ambitieuse de la France en matière d’IA, avec un investissement d’un peu plus de cinq milliards d’euros par an sur cinq ans. Ces dépenses évaluées à 27 milliards d’euros au total sont récapitulées ci-après.

Tableau récapitulatif des recommandations

de la Commission de l’intelligence artificielle

Les principaux leviers d’action actuels de l’exécutif sont ceux de la deuxième phase de la stratégie nationale pour l’intelligence artificielle (2021-2025), ainsi que les compléments apportés à cette stratégie par les mesures annoncées par le Président de la République lors du « rassemblement des plus grands talents français de l’IA » à l’Élysée le 21 mai 2024.

Lors de son audition par vos rapporteurs, Guillaume Avrin, coordinateur national pour l’IA, a détaillé la structure du dispositif mis en place pour favoriser l’IA dans notre pays. Il a précisé que le plan de l’exécutif se découpait en plusieurs phases. La première phrase, aujourd’hui terminée consistait d’abord à promouvoir une IA d’excellence notamment grâce à la création des Instituts 3IA. Le second volet, en cours de déploiement, censé couvrir la période 2021-2025, consiste à diffuser l’IA dans l’économie et la société à l’aide de trois moyens d’investissement : la commande publique, les subventions et l’investissement en capital.

Le développement de cette deuxième phase vise spécifiquement quatre domaines : l’IA frugale, soit l’IA compétitive tout en étant écologiquement responsable, l’IA embarquée, c’est-à-dire des systèmes pouvant être exécutés localement, l’IA de confiance et l’IA générative, des aspects thématiques bien plus mis en avant que lors de la première phase. Le souhait de l’exécutif est de développer l’interdisciplinarité pour l’IA en promouvant l’initiative « l’IA plus X », c’est-à-dire l’utilisation de l’IA comme outil dans divers secteurs. L’approche applicative semble donc très privilégiée par le gouvernement, ce qui a été confirmé par l’audition de la DGE par vos rapporteurs.

Lors du rassemblement des plus grands talents français de l’IA à l’Élysée le 21 mai 2024, le Président de la République, Emmanuel Macron, a indiqué qu’il souhaitait voir la stratégie en matière d’IA se déployer autour de cinq grands domaines : les talents, les infrastructures, les usages, l’investissement et la gouvernance. Une telle approche est plus satisfaisante qu’une concentration sur les seules applications.

Il a annoncé un plan d’investissement de 400 millions d’euros pour financer neuf pôles d’excellence en IA, comprenant les quatre anciens Instituts 3IA lancés en 2019 (MIAI@Grenoble-Alpes, 3IA Côte d’Azur, PRAIRIE et ANITI) auxquels s’ajoutent désormais SequoIA à Rennes, un projet de l’université de Lorraine, Hi Paris! de l’Institut polytechnique de Paris, PostGenAI@Paris de la Sorbonne et DATA IA de l’Université Paris-Saclay, l’objectif étant de passer de 40 000 à 100 000 personnes formées à l’IA par an.

Un autre projet annoncé par le chef de l’État est « Scribe » d’une durée prévue de deux ans, inclus dans le plan France 2030 et visant à soutenir l’IA sectorielle. Ce plan vise à encourager le développement de modèles de fondation et des applications sectorielles de l’IA, la création de jeux de données d’alignement sectoriels et le développement d’outils d’évaluation et de sécurité.

Un nouveau fonds d’investissement devrait être mis en place, dont un quart sera financé par l’État afin de financer des domaines aujourd’hui moins en vue, voire oubliés, bien que pourtant indispensables à l’IA, comme la filière des semi-conducteurs et des puces ainsi que l’informatique en nuage. Cet aspect est à suivre de près.

Le Président de la République a dans le même temps annoncé vouloir créer des fonds d’investissement similaires au niveau européen avec le même objectif de financement de ces secteurs stratégiques. Il faut espérer qu’une telle démarche ne conduise pas à prendre encore davantage de retard dans la mise en œuvre d’un financement urgent et ciblé en direction de la filière française des semi-conducteurs et des puces ainsi que de l’informatique en nuage.

Le Président de la République a également prévu de doter le Conseil national du numérique de 10 millions d’euros supplémentaires pour lui permettre de réaliser sa mission d’acculturation des citoyens à l’IA, notamment à travers les « Cafés IA », proposés par la commission de l’intelligence artificielle.

Enfin, l’ouverture du centre d’évaluation en IA au sein du Laboratoire national de métrologie et d’essai (LNE) confirme le rôle important joué par cette structure dans le suivi et l’évaluation des modèles d’IA, en lien avec les exigences posées par l’AI Act de l’UE en 2024. Ce texte prévoit en effet un cadre assez précis en la matière.

B. D’autres dispositifs nationaux dans l’Union Européenne

Pour établir une comparaison internationale des dispositifs et des situations nationales en matière d’intelligence artificielle, vos rapporteurs ont envoyé des questionnaires aux services scientifiques de diverses ambassades présentant un intérêt particulier pour leur travail. Les réponses à ces questionnaires ont permis d’appréhender différents dispositifs nationaux mis en place en Europe. Vos rapporteurs ont enrichi leur réflexion par des déplacements en Belgique et aux Pays-Bas. Enfin, d’autres sources, dont l’étude comparée réalisée par Florence G’sell, auditionnée par vos rapporteurs à l’Université de Stanford[326], ont été mobilisées.

1. L’Allemagne : le pays le plus proche du nôtre

En termes de stratégie pour l’intelligence artificielle, l’Allemagne est le pays dont le profil se rapproche le plus de celui de la France. Ainsi, l’Allemagne comme la France font toutes les deux partie, au niveau mondial, certes loin derrière des États-Unis et de la Chine, du club restreint des pays leaders dans les technologies d’intelligence artificielle, avec des entreprises de pointe en IA comme Mistral et Aleph-Alpha. Les deux pays se sont d’ailleurs positionnés de façon similaire contre la régulation des technologies d’IA en elles-mêmes lors des discussions de l’AI Act européen (le texte initial n’envisageait que les risques liés aux usages, et comme il sera vu, des modifications lors de la procédure législative ont conduit à élargir le cadre aux modèles en eux-mêmes, en fonction de leur puissance).

L’Allemagne a mis en place en 2018 une stratégie nommée « AI made in Germany » visant au développement d’un réseau fédéral de centres de compétences et de hubs de transferts des connaissances des laboratoires aux industries, la création de cent chaires d’IA, le lancement d’un programme de financement pour les universités, les instituts de recherche et les entreprises. Ce plan a également mis en place les trois « Konrad Zuse school of excellence in AI », écoles d’excellence dans le domaine de l’IA, et créé un cursus IA dans 81 universités du pays. Le gouvernement fédéral a promis d’augmenter les dépenses en IA de trois à cinq milliards d’euros pour la période 2019-2025 dans le cadre du plan de relance contre la crise liée à la covid-19 (en France, les ordres de grandeur pourraient être du même ordre bien que la commission sur l’IA ait proposé un budget renforcé, de 27 milliards d’euros sur cinq ans). En plus de ce plan, des ministères ont également mis en place des dispositifs plus sectoriels pour le développement de l’IA au niveau fédéral.

Le ministère de l’éducation et de la recherche (Bundesministerium für Bildung und Forschung ou BMBF) a mis au point l’initiative IA pour les PME ou « AI for SMEs » qui a créé huit centres de compétences nommés « Mittelstand 4.0 » (PME 4.0 en français). Le ministère est également à l’origine d’un plan d’action pour l’IA comportant 70 mesures visant, entre autres, à développer l’IA générative pour le système éducatif, créer 50 chaires en IA, développer les infrastructures de supercalcul et mettre en place des centres de services IA pour les PME, pour un budget total de 483,3 millions d’euros pour 2024. Ce ministère est à l’origine de la loi Forschungsdatengesetz (FDG) sur les données de la recherche, qui permet aux chercheurs publics et privés d’accéder aux données publiques, de créer un centre de données allemand avec une obligation de cataloguer les données de recherche grâce à des métadonnées pour améliorer leur accessibilité.

Le ministère de l’économie et du climat (Bundesministerium für Wirtschaft und Klimaschutz, BMWK, ex-BMWi) a lancé plusieurs programmes pour le développement de l’IA dans l’économie. C’est le cas du programme EXIST qui vise à créer des incubateurs de start-up en IA comme le Künstliche Intelligez Entrepreneurship Zentrum (KIEZ) de Berlin ou l’AI+MUNICH. Un second projet mis au point par le BMWK est le programme WIPANO de gestion de la propriété intellectuelle, doté d’un budget de 23 millions d’euros de 2016 à 2019 et regroupant les agences de brevet et de valorisation en une alliance technologique nommée Technologieallianz e.V.

Le ministère du travail et des affaires sociales (Bundesministerium für Arbeit und Soziales ou BMAS) est à l’origine d’espaces d’expérimentations de l’IA en entreprise.

L’Allemagne étant un état fédéral, il faut souligner l’importance des actions régionales qui sont conduites. En effet, les Länder mettent également en place des mesures sur leurs territoires respectifs. La Bavière a, par exemple, publié un plan dénommé « High-tech agenda plus », investissant la somme considérable de 360 millions d’euros dans l’IA, pour financer en particulier 112 chaires dédiées à la recherche et à l’enseignement de l’IA.

2. L’Italie : une stratégie de soutien et de vigilance

L’Italie a adopté une stratégie nationale sur l’IA en 2021 autour de six objectifs : renforcer la recherche fondamentale en IA ; réduire la fragmentation de la recherche en IA ; développer et adopter une IA anthropocentrique et fiable ; augmenter le développement des technologies basées sur l’IA ; développer des services basés sur l’IA dans le secteur public ; former, retenir et attirer des chercheurs en IA. Le 12 mars 2024, la présidente du Conseil des ministres Giorgia Meloni a annoncé un plan de financement d’un milliard d’euros pour le développement de l’intelligence artificielle en Italie.

La stratégie italienne pour l’IA est en cours d’actualisation : le département pour la transformation numérique de la Présidence du Conseil des ministres et l’AGID (Agence pour l’Italie Numérique) ont publié en mai 2024 les grandes lignes de la nouvelle stratégie. Sur le volet recherche, le document prévoit :

- de consolider de l’écosystème italien de la recherche ;

- retenir et attirer les talents ;

- développer des LLM italiens ;

- mettre en œuvre des projets interdisciplinaires pour le bien-être social ;

- financer la recherche fondamentale pour l’IA de prochaine génération ;

- renforcer les collaborations internationales.

La recherche autour de l’IA en Italie est donc devenue une priorité politique et la recherche publique y est plus développée que la recherche privée. Elle est encadrée par divers organismes, universitaires et ministériels. La gouvernance se partage entre le secrétaire d’État à l’innovation technologique rattaché à la présidence du Conseil des ministres et auprès duquel est placé le département pour la transformation numérique, le ministère de l’université et de la recherche, qui encadre les activités de recherche à travers le Programme national de Recherche et le ministère de l’industrie et du « Made in Italy » (MIMIT). L’IA est l’un des domaines de recherche couverts par le PNR 2021-2027 et est articulé en six sous-domaines : l’IA pour l’IA, l’IA humano-centrée, l’IA pour la santé, l’IA pour la société, l’IA pour l’environnement et les infrastructures critiques et l’IA pour la production industrielle.

Le blocage temporaire de ChatGPT de mars à avril 2023 souligne la vigilance des institutions italiennes face aux risques de fuites de données. Cette décision a été prise par la Cnil italienne (le Garant pour la protection des données personnelles), afin de respecter le RGPD (règlement européen sur la protection des données) : ce n’est pas une initiative du gouvernement à proprement parler. Le manque de transparence de la part d’OpenAI était l’élément mis en cause, ainsi que le risque élevé de fuite de données sensibles, l’absence de base légale de stockage des données, l’existence de fausses informations sur des personnes physiques et morales, et la non-vérification de l’âge des utilisateurs. À la suite de ce blocage s’est tenue une rencontre entre l’entreprise (en présence du PDG Sam Altman) et le Garant italien. L’autorité italienne a formulé des conditions pour la remise en marche de ChatGPT en Italie, auxquelles OpenAI a répondu en mettant en place diverses nouvelles mesures. Le Garant a fait savoir qu’il poursuivrait ses « activités d’enquête sur OpenAI également sous l’égide de la task force ad hoc mise en place par le Comité européen pour la protection des données personnelles ».

En ce qui concerne la réaction de l’opinion publique à ce blocage, les milieux technologiques ont parlé d’une décision inutile (les moyens de la contourner sont simples) et anachronique, mais la communauté scientifique italienne de l’IA, qui aurait influencé la décision, revendique un contrôle majeur de l’application de ces technologies dans le sens d’une éthique centrée sur le respect de l’être humain.

Barbara Caputo, professeur d’IA au Politecnico de Turin, souligne l’impact environnemental considérable de ces IA qui utilisent d’énormes quantités de données, donc de puissance de calcul et par conséquent d’énergie, alors qu’il est possible de développer une IA frugale – comme celle utilisée dans les satellites, sur lesquelles les équipes de recherche italiennes se sont fortement spécialisées. Cette décision italienne peut donc aussi être lue comme une forme d’affirmation des compétences nationales, qui va à rebours de l’accord de coopération bilatérale que le précédent gouvernement avait signé avec les États-Unis sur l’IA. L’Italie témoigne d’une volonté de compter sur la scène européenne et internationale en matière de déploiement de l’IA.

En dépit de ce contexte de vigilance marquée des autorités italiennes vis-à-vis des IA américaines, Nvidia, leader mondial de la conception des puces, a choisi l’Italie pour installer sa recherche européenne en IA.

3. L’Espagne : un cadre complet avec un riche volet culturel

La présidence espagnole de l’UE en 2023 a conduit l’Espagne à traiter au plus haut niveau de nombreux sujets numériques, en particulier les négociations autour de l’AI Act. Mais l’Espagne avait commencé à s’investir sur le sujet de l’IA avant cela. Le gouvernement espagnol a présenté une stratégie nationale pour l’IA en mars 2019, initialement sans budget alloué, en raison de la paralysie budgétaire du pays. Par la suite, la 16e composante du Plan national de relance et de résilience (PNRR) espagnol a été dédiée en 2021 à cette stratégie nationale pour l’intelligence artificielle, en tant qu’investissement principal, mobilisant au total 500 millions d’euros (soit 0,7 % du plan de relance). Le manque d’investissements publics et privés en IA en Espagne est souvent souligné. Par ailleurs, l’harmonisation des données entre communautés autonomes est rendue difficile par le très fort degré de décentralisation : c’est par exemple le cas pour la santé, compétence des gouvernements régionaux (données non uniformisées entre les régions).

Une autre mesure du PNRR vise le renforcement des capacités de supercalcul, et plus particulièrement la facilitation de l’accès des PME et des entreprises à ces capacités. Le cadre organisationnel de cet accès n’étant pas détaillé, la mesure risque d’avoir un impact réduit.

Une dernière mesure du plan concernant l’influence linguistique de la langue espagnole touche aussi l’IA.

La stratégie espagnole en matière d’IA poursuit les objectifs suivants :

- positionner l’Espagne comme pays d’excellence scientifique et d’innovation en IA interdisciplinaire ;

- devenir leader en développement d’outils, technologies et applications pour l’utilisation de la langue espagnole dans l’IA ;

- promouvoir la création d’emploi qualifié, en favorisant la formation et l’éducation et stimulant le talent espagnol et attirant le talent global ;

- intégrer l’IA comme facteur pour améliorer la productivité des entreprises espagnoles et l’efficacité de l’administration, ainsi qu’en tant que moteur de croissance économique durable et inclusive ;

- instaurer un environnement de confiance par rapport à l’IA, tant en ce qui concerne son développement technologique que son cadre réglementaire et son impact social ;

- promouvoir le débat global sur l’humanisme technologique, en créant et en participant à des forums et activités de divulgation pour le développement d’un cadre éthique qui puisse garantir les droits individuels et collectifs des citoyens ;

- renforcer l’IA comme vecteur transversal pour faire face aux défis sociaux, dont l’égalité femme-homme, la fracture numérique, la transition écologique et la structuration territoriale.

Le Président du gouvernement Pedro Sánchez a présenté en juillet 2020 l’Agenda Digital 2025, qui prévoit l’instauration d’un conseil consultatif de l’IA et la création d’un Bureau de l’État des Données (Oficina del Dato) avec à sa tête un Chief Data Officer. Le conseil consultatif sur l’intelligence artificielle est composé d’experts espagnols de renommée internationale, y compris de représentants des domaines scientifique, économique et éducatif. Il fournit des conseils et des recommandations indépendants sur les mesures à adopter pour garantir l’utilisation sûre et éthique de l’intelligence artificielle. La ministre des affaires économiques et de la transformation numérique préside le Conseil et la secrétaire d’État à la numérisation et à l’intelligence artificielle en est la vice-présidente.

Plus récemment, l’Espagne a annoncé en juin 2022 un projet pilote pour la mise en place avec la Commission européenne du premier bac à sable réglementaire de l’UE sur l’intelligence artificielle (sandbox). Huit secteurs d’application qualifiés « à haut risque » ont été retenus pour les projets : (I) biométrie, (II) gestion, exploitation et fonctionnement de la circulation routière, de l’approvisionnement en eau, en gaz, en chauffage et en électricité, ainsi que gestion et exploitation des infrastructures numériques critiques, (III) éducation et formation professionnelle, (IV) recrutement, (V) accès aux services publics et privés, (VI) poursuite des crimes, (VII) migration (VIII) justice. Le budget total du projet pilote, financé par des fonds du PNRR, s’élève à environ 4,3 millions d’euros.

L’objectif de cette collaboration est de mettre en relation les autorités publiques avec les entreprises qui développent des intelligences artificielles afin de définir conjointement, à travers des tests techniques du banc d’essai de l’AI Act, les meilleures pratiques en vue de la mise en œuvre de la réglementation européenne sur l’IA. Le lancement du projet en présence du commissaire européen chargé du marché intérieur et des services, Thierry Breton, a conduit ce dernier à « féliciter l’Espagne d’être le premier pays à avoir décidé d’investir une partie de son Plan de relance et de résilience pour lancer cet ambitieux premier projet pilote de sphère de sécurité en matière d’IA en Europe ». Les résultats des premiers tests ont été compilés dans un guide de bonnes pratiques au deuxième semestre 2023 sous présidence espagnole de l’UE.

Le gouvernement espagnol a surtout décidé en août 2023 de créer une agence nationale de supervision de l’IA (AESIA), dont le siège est à La Corogne en Galice. L’Espagne est alors devenue, avec les Pays-Bas, le premier pays européen à se doter d’un tel organisme, avant même l’entrée en vigueur de l’AI Act. Le règlement européen sur l’IA prévoit en effet l’obligation pour les États membres de se doter d’une autorité de supervision dans ce domaine. Ses missions comprennent le contrôle du respect de la réglementation européenne ; la sensibilisation, la diffusion et la promotion du développement et de l’utilisation responsable, durable et fiable de l’IA ; la définition de mécanismes de conseil et d’assistance ; la collaboration et la coordination avec d’autres autorités (nationales et supranationales) de supervision de l’IA ; et la promotion d’environnements de test de systèmes d’IA en conditions réelles pour renforcer la protection de l’utilisateur.

Par ailleurs, la Première vice-présidente et ministre des affaires économiques et de la transformation numérique a suggéré la création d’une agence internationale de l’IA dans le cadre des Nations unies, proposant l’Espagne comme pays d’accueil du siège de cette institution.

Le gouvernement espagnol a lancé en 2022 un plan national autour de la « nouvelle économie de la langue », lié à l’enjeu de l’influence linguistique de la langue espagnole dans le domaine technologique, dominé par l’anglais. La ministre des affaires économiques et de la transformation numérique a rappelé au cours du IXe congrès international de la langue espagnole l’objectif de « préservation de notre patrimoine linguistique dans la sphère numérique ». Elle a souligné que « nous devons faire en sorte que les nouvelles technologies ne pensent pas seulement en chinois ou en anglais, mais aussi en espagnol. Notre langue doit monter dans le train de la révolution numérique ».

Sur un total d’un milliard d’euros consacré à la nouvelle économie de la langue (un second milliard d’euros d’investissements privés est attendu), une partie sera consacrée à des investissements liés à l’IA. En effet, ce projet a notamment pour objectif de placer l’espagnol (591 millions d’hispanophones, soit 7,5 % de la population mondiale) et les autres « langues co-officielles » de l’Espagne (catalan, basque, galicien), au cœur de la transformation numérique et de la promotion de la chaîne de valeur de la nouvelle économie de la connaissance et de l’intelligence artificielle.

Le projet « nouvelle économie de la langue » s’articule autour de cinq axes, concernant principalement l’IA, autour de la constitution de bases de données textuelles dans les langues espagnoles, de la construction d’un LLM en espagnol et d’investissements pour améliorer la compréhension et l’expression en langues espagnoles pour les intelligences artificielles. L’encadré ci-après détaille ce plan.

Un projet stratégique autour de la nouvelle économie de la langue

I. Présence et action d’organisations internationales de prestige autour de la langue espagnole

L’Espagne dispose de trois grandes institutions spécialisées autour de la langue espagnole. L’Académie royale espagnole (RAE) est une institution culturelle privée financée avec des fonds publics dont le rôle est de normaliser la langue espagnole. L’Institut Cervantes (IC) est une institution culturelle dépendant du ministère des affaires étrangères ayant un important réseau international (87 centres dans 44 pays) pour l’apprentissage de l’espagnol. La Bibliothèque nationale d’Espagne (BNE) produit des données textuelles de haute qualité, normalisées et interopérables selon le cadre européen pour la réutilisation des informations du secteur public. Ces institutions participent à des projets importants, au croisement de la langue et des industries innovantes.

II. Centres d’excellence de recherche, universités et centres d’apprentissage de l’espagnol

Le Plan national de technologies du langage pour 2022-2025 prévoit de renforcer l’écosystème de centres d’excellence spécialisés en traitement de langage naturel et linguistique informatique. La société espagnole pour le traitement du langage naturel (SEPLN) a près de 40 ans d’existence et rassemble plusieurs organismes publics, centres scientifiques et technologiques autour du sujet. En complément, le réseau universitaire et de centres d’apprentissage de l’espagnol assure la promotion de l’attractivité du talent et du tourisme linguistique (900 000 étudiants par an uniquement à travers l’Université de Salamanque et d’Alcalá de Henares ; par ailleurs, l’espagnol est dès à présent inclus comme 2e langue d’épreuve de fin d’études en Chine, offrant ainsi des opportunités de développement exponentiel dans ce secteur).

Plus largement, la langue s’inscrit dans la Stratégie espagnole pour la science, la technologie et l’innovation (2021-2027). Ce domaine apparaît dans 2 des 6 grands axes : d’une part, dans les enjeux liés à la culture, la créativité et l’inclusion ; d’autre part, dans les défis de l’intelligence artificielle et de la robotique. La stratégie cible ainsi respectivement les domaines de l’acquisition du langage, l’impact des nouveaux moyens de communication sur l’évolution de la langue, ainsi que les technologies du langage et la compréhension profonde de la langue.

III. Administration publique numérique et entreprises espagnoles contribuant à la NEL

L’administration publique espagnole est l’une des plus avancées en termes de numérisation, avec de nombreuses applications pour l’accès aux services publics et démarches administratives. Le secteur privé espagnol comprend des entreprises et groupes de référence dans l’édition (Planeta, Penguin Random House, Santillana…), les plateformes de production audiovisuelle (Mediaset, Atresmedia, Prisa…) et les télécommunications (Telefónica), parmi d’autres secteurs stratégiques pour la nouvelle économie de la langue.

IV. Les actions regroupées en cinq axes

1- Création de corpus larges en espagnol et langues co-officielles (97 millions d’euros)

Le corpus, constitué de données orales, écrites, chantées et en langue des signes, a pour objectif d’atteindre un volume suffisamment important de données en espagnol pour générer un modèle et permettre des applications d’IA. Les collaborations avec des pays ibéro-américains seront développées pour sa constitution. Des projets seront financés (10 millions d’euros) pour la constitution de corpus spécifiques pour les langues co-officielles (catalan, basque et galicien). Cette base de connaissances sera mise à disposition des entreprises, des chercheurs et des administrations publiques. Par ailleurs, est créé sur ces crédits, un Observatoire de l’espagnol, organisme public spécialisé dans la promotion universelle de l’enseignement, l’étude, la certification et l’usage de l’espagnol. Enfin, l’Académie royale espagnole poursuit son projet Corpus del Español del siglo XXI (CORPES XXI) avec la constitution d’une base de connaissances de plus de 327 000 documents et 350 millions de formes orthographiques, provenant de textes écrits et de transcriptions orales. Ce projet fonctionne selon une série de paramètres avec des données traitées avec une codification conçue pour ce corpus pour la récupération des données à partir de chaque paramètre.

2- Des LLM en espagnol (334 millions d’euros)

La promotion de l’IA en espagnol passe par la création de modèles de langage de haute valeur pour l’industrie, une des principales actions constituant l’évolution du modèle de langage MarIA, tout en créant des tests de référence d’évaluation de compréhension de langage pour les tâches de traitement (équivalent des tests GLUE/SUPERGLUE pour l’anglais) et des certifications du bon usage de l’espagnol dans les outils technologiques et l’IA. Des appels d’offres pour le financement de projets d’innovation pour intégrer l’IA dans les chaînes de valeurs industrielles, ainsi que des aides aux entreprises ayant un modèle économique basé sur la langue espagnole, sont prévus. Le projet MarIA mené par le Barcelona Supercomputing Center avec la BNE depuis 2021 est un système massif d’IA expert en compréhension et écriture en espagnol, avec un entraînement de plus de 135 000 milliards de mots. En raison du volume et de la capacité de MarIA, la langue espagnole est la troisième langue ayant des systèmes massifs d’accès ouvert, après l’anglais et le mandarin. Le système est en accès ouvert pour l’utilisation libre de développeurs d’applications.

3- La Science en espagnol (128 millions d’euros)

Face à une sous-représentation de l’espagnol dans la science (2 % de la production scientifique mondiale est en espagnol, dont 60 % en provenance d’Espagne), diverses institutions, dont la Fondation espagnole pour la science et la technologie, contribueront à la divulgation nationale et internationale de la science en espagnol auprès du grand public. De plus, des actions seront menées pour le maintien et la conservation du patrimoine technique et scientifique hispanophone (dictionnaires et textes biomédicaux entre autres).

4- Apprentissage de l’espagnol et en espagnol dans le monde (474 millions d’euros)

L’apprentissage de l’espagnol et en langue espagnole dans le monde sera notamment soutenu à travers une plateforme technologique de certification de l’espagnol comme langue étrangère (80 millions d’euros). Le développement de l’apprentissage de la langue à l’international passera aussi par l’Amérique latine dans un écosystème d’apprentissage numérique de l’espagnol, par la digitalisation de l’Institut Cervantes et par des accords éducatifs bilatéraux.

5- Industries culturelles (67 millions d’euros)

Ce dernier axe intègre notamment des mesures déjà prises dans le cadre du plan « Espagne hub audiovisuel », avec la mise en place d’appels d’offres d’aides à la production audiovisuelle et du secteur des jeux vidéo, secteurs en essor en Espagne, accompagnée de la promotion du secteur à l’international, parmi d’autres actions.

Source : Service économique régional et Service de coopération et d’action culturelle

Il peut être souligné, en conclusion, qu’au-delà de l’économie, l’Espagne se préoccupe des enjeux culturels de l’IA et souhaite son développement éthique et ordonné, comme en témoigne son conseil consultatif de l’IA, son observatoire de l’IA, son label IA, sa déclaration de droits numériques, son plan de protection pour les collectifs vulnérables, etc. La défense de la langue et de la culture espagnoles est au cœur de la politique conduite par le gouvernement espagnol.

4. Les Pays-Bas : une coalition public-privé efficace et une régulation précoce

L’intelligence artificielle bénéficie de la volonté du gouvernement néerlandais de reprendre la main sur le développement de l’économie. Des dispositifs publics ciblés ont ainsi été mis en place depuis 2018-2019 : un plan d’action national pour l’IA (feuille de route pour l’État et l’industrie), une instance de dialogue NL AI Coalition et des dotations budgétaires dont celle du fonds national de croissance (plus de 276 millions d’euros par an). Une des forces de ces outils réside dans la responsabilisation des acteurs, leurs recommandations étant décisives dans la mise en œuvre des politiques nationales (axes de recherche à financer, programmes de subvention, soutiens à l’export, etc.). Mais si l’État néerlandais soutient fortement l’IA, il a été contraint d’instaurer en 2022 un cadre strict de contrôle des risques associés à ces technologies.

Le gouvernement néerlandais a d’abord déployé un cadre propice au développement de l’IA. Demandé par l’organisation patronale VNO-NCW et le secteur de la R&D depuis 2018, le plan d’action national pour l’IA (Strategisch Actieplan voor Artificiële Intelligentie – SAPAI) a été publié en octobre 2019. Ce plan a alloué 45 millions d’euros de financements publics annuels à la R&D en IA et promeut l’application et la commercialisation des avancées technologiques en matière d’IA.

Conscient de la valeur stratégique de l’IA, le gouvernement soutient son développement par des partenariats avec le secteur privé visant plusieurs objectifs : intensification de la recherche, financement de la capacité d’innovation, accélération des applications industrielles. Les instances de dialogue public-privé permettent d’identifier des marchés de niche dans lesquels l’écosystème néerlandais présente un potentiel d’excellence.

En octobre 2019, en même temps que la publication de la stratégie nationale sur l’intelligence artificielle réclamée depuis 2018 par divers secteurs économiques, le ministère de l’économie et du climat (EZK) et le patronat (VNO-NCW, MKB-Nederland), avec l’aide de l’association fédératrice du secteur numérique Dutch Digital Delta, d’entreprises (Seedlink, Philips, Ahold Delhaize et IBM), de centres de R&D comme l’institut de recherche appliquée TNO, ont créé l’association NL AI Coalition, rencontrée par vos rapporteurs à La Haye.

Organisée en 18 groupes de travail thématiques et 7 centres régionaux d’IA, l’association compte aujourd’hui 475 organisations membres et vise à favoriser le développement de l’IA et son appropriation par les acteurs économiques. Les groupes de travail, composés de chercheurs, d’entrepreneurs et de fonctionnaires, formulent des recommandations pour le gouvernement ainsi que pour des secteurs spécifiques : agriculture et nutrition ; environnement bâti ; culture et médias ; défense ; éducation ; énergie et développement durable ; services financiers ; santé ; mobilité, transport et logistique ; portuaire et maritime ; services publics ; sécurité, paix et justice ; industrie technique. Les centres régionaux d’IA jouent un rôle dans la mise en relation et l’implication des entreprises locales, des institutions de connaissance et des autres organisations travaillant avec cette technologie. Il s’agit d’accélérer les développements technologiques, l’innovation, l’intégration sociale et le développement économique.

En s’appuyant sur la « triple hélice » (gouvernement, entreprises, recherche), NL AI Coalition formule des recommandations à l’adresse de l’industrie et de l’État. La qualité du dialogue au sein de l’écosystème de l’IA stimule la contribution des entreprises à la recherche : 15 % des publications scientifiques associent au moins un auteur issu du secteur privé (seuls les États-Unis devancent ce taux à 19 %). La NL AIC a également pour objectif de favoriser le développement d’une expertise dans des marchés de niche pour renforcer l’avantage concurrentiel des Pays-Bas à l’international. L’Institut Rathenau met en évidence que 26,3 % des publications scientifiques néerlandaises en IA portent sur la prise de décision (gestion, planification, etc.) notamment pour la conduite autonome et la robotique, spécialité dans laquelle l’écosystème veut se démarquer.

En outre, à travers son Fonds national de croissance, lancé en 2021 et doté de 20 milliards d’euros pour renforcer le potentiel de croissance de l’économie, l’État a réservé 276 millions d’euros au programme AiNed, une initiative de l’association NL AI Coalition pour accélérer l’innovation et renforcer la compétitivité du secteur à l’international.

Cet ensemble de mesures a eu pour effet de faire passer les Pays-Bas de la 14e à la 5e place de l’index AI Governement Readiness de l’Institut de recherche Oxford Insights entre 2019 et 2021, devant la France (11e).

À la suite d’un mésusage des algorithmes, le gouvernement a par ailleurs aménagé des garde-fous réglementaires pour l’IA : les mésaventures liées à un recours fréquent à l’IA par les services publics ont en effet conduit à un scandale rendant nécessaire le renforcement du cadre d’utilisation de l’IA.

L’affaire des allocations familiales (cf. l’encadré), qui a contraint le gouvernement Rutte III à la démission fin 2020, illustre la sensibilité de l’utilisation d’algorithmes par les pouvoirs publics. Dans cette affaire, les autorités publiques ont été mises en cause pour l’utilisation d’algorithmes visant à identifier les ménages les plus susceptibles de frauder en se fondant sur des critères ethniques.

L’affaire des fraudes aux allocations familiales

En 2004, à la demande du parlement néerlandais, le gouvernement Balkenende II (2003-2006) a mis en place une politique plus stricte de contrôle et de recouvrement des allocations familiales. Cette politique a été poursuivie par les gouvernements Rutte II (2012-2017) et Rutte III (2017-2022). Afin de renforcer les contrôles anti-fraude, des algorithmes ont été utilisés pour cibler des individus et des ménages à risque. Le ciblage était parfois fondé sur les origines ou la nationalité, à la suite de révélations de la presse sur des fraudeurs originaires d’Europe de l’Est. Plus de 26 000 parents ont été accusés à tort de fraude et tenus de rembourser en moyenne plus de 30 000 euros à l’administration fiscale. Certaines de ces personnes ont vu leur vie bouleversée : pertes d’emploi, expropriations de leur logement, divorces, placements de leurs enfants, surendettements, problèmes psychologiques… Cela a notamment poussé le gouvernement Rutte III à remettre sa démission en janvier 2021.

Le scandale des allocations (toeslagenaffaire) a été mis au grand jour par un parlementaire en 2017. Outre le fait que des parlementaires de la coalition, qui auraient eu connaissance des faits (ces ménages injustement pénalisés), auraient choisi, pour des raisons politiques, de ne pas mettre en difficulté le gouvernement, les commissions d’enquête parlementaires ont révélé que les méthodes de travail de l’administration fiscale étaient illégales, discriminatoires et inappropriées. Dans certains cas, il y avait un parti pris institutionnel et une violation des principes fondamentaux de l’État de droit. La Cour des comptes néerlandaise a par ailleurs montré (étude de mai 2022) que les algorithmes mis en œuvre par l’administration présentaient des risques en matière d’atteinte à la vie privée, de discrimination ou de fuite de données personnelles.

Source : Service économique régional

En réaction, l’accord de coalition du gouvernement Rutte IV (janvier 2022), a conduit à la création en janvier 2023 d’une instance de supervision des algorithmes et de l’IA rattachée à l’Autorité de Protection des Données (APD). Elle est dotée d’un budget annuel d’un million d’euros, qui atteindra 3,6 millions d’euros d’ici 2026. Cette nouvelle instance de supervision est intervenue pour la première fois fin avril 2023 auprès du ministère néerlandais des affaires étrangères. Ce dernier doit justifier l’utilisation d’algorithmes de présélection des demandes de visas nécessitant une instruction « approfondie » en se fondant sur des critères possiblement ethniques.

Ce souci du gouvernement d’encadrer les risques de l’IA suite au traumatisme de l’affaire des allocations familiales a conduit les Pays-Bas à mettre en place, à peu près en même temps que l’Espagne, le premier cadre réglementaire en Europe comprenant la création d’une instance de supervision. Cette initiative a devancé l’AI Act de l’Union européenne et a pu l’influencer dans son approche.

5. L’Estonie : un état numérique préoccupé par la sécurité de l’IA

En termes de technologies, l’Estonie est un pays particulièrement avancé. Son administration est déjà utilisatrice de la technologie des blockchains ou chaînes de blocs[327]. Les citoyens estoniens sont habitués aux technologies numériques avec lesquelles ils sont en contact pour de nombreuses démarches administratives. De ce fait, l’intelligence artificielle n’y est pas perçue comme un risque majeur. La protection des données y est également une problématique moins sensible : les citoyens considèrent que la croissance économique doit primer la stricte protection des données personnelles. Cela se répercute dans les choix réalisés par les décideurs politiques dont le principal objectif est d’utiliser l’IA pour faire en sorte que les services administratifs soient assurés de la façon la plus fluide et aisée possible.

Ces objectifs sont détaillés dans un livre blanc pour l’IA qui détermine des recommandations pour le pays en matière de développement de l’IA et de gestion des données. La volonté des pouvoirs publics est de former 80 % de la population à la bonne gouvernance des données. Ils souhaitent parallèlement créer un corpus de ressources en langue estonienne, langue rare et difficile à apprendre, ce qui permettrait d’entraîner des LLM dans cette langue.

Pour réaliser ces objectifs, le gouvernement estonien a défini une stratégie nationale pour l’IA en 2022. Ce plan prévoit un investissement de 85 millions d’euros dans les secteurs porteurs pour le développement du numérique comme l’e-santé, les technologies vertes, les technologies éducatives, etc. La stratégie est également tournée vers la coopération entre la recherche et les entreprises privées, dans des centres de recherche comme Cybernetica, développeur du système administratif numérique estonien (X-Road).

L’Estonie a été victime de la première cyberattaque d’envergure nationale de la part de la Russie, ayant paralysé l’entièreté du pays en 2007. De ce fait, les Estoniens sont particulièrement attentifs aux questions de cybersécurité, y compris la sécurité des systèmes d’IA. Des ambassades de données (data embassies) ont été mises en place au Luxembourg pour sauvegarder les données estoniennes en cas d’attaques. Il est aussi à noter que l’Estonie organise tous les ans le Tallin digital summit, sommet dédié à la gouvernance du numérique.

6. La Finlande : une stratégie tournée vers l’appropriation de l’IA et l’éducation

La stratégie finlandaise pour l’IA est lancée dès 2017 avec la nomination d’un comité de pilotage chargé de préparer une proposition de programme, avec notamment l’idée de stimuler la recherche et l’éducation dans le domaine. Comme le montre un article paru en août 2024[328], la Finlande vise l’excellence en matière de formation et de coopération active entre les acteurs afin de créer un environnement de recherche et d’innovation dynamique et attractif. Pour atteindre ces objectifs, le gouvernement finlandais a mis en place un plan d’action en trois volets :

- la mise en place d’une communauté d’experts, d’acteurs et de personnalités académiques, scientifiques et économiques, sous l’égide du ministère de l’économie et de l’emploi, chargé de proposer des recommandations pour le développement de l’IA en Finlande ;

- un programme de recherche en IA ;

- une enveloppe de 200 millions d’euros sur la période 2018-2021, inscrite au budget de Business Finland[329].

Le rapport du comité de pilotage paru en 2019[330] identifie trois piliers (un secteur public efficace, une société proactive et un secteur des affaires compétitif) et préconise onze actions pour faire entrer la Finlande dans l’ère de l’IA et en faire un leader mondial dans l’intelligence artificielle :

Améliorer la compétitivité des entreprises par l’utilisation de l’IA ;

Utiliser efficacement les données dans tous les secteurs ;

Faire en sorte que l’IA puisse être adoptée plus rapidement et plus facilement ;

Garantir une expertise de haut niveau et attirer les meilleurs experts ;

Prendre des décisions et des investissements audacieux ;

Mettre en place les meilleurs services publics du monde ;

Établir de nouveaux modèles de collaboration ;

Faire de la Finlande un précurseur à l’ère de l’intelligence artificielle ;

Se préparer à ce que l’intelligence artificielle change la nature du travail ;

Orienter le développement de l’intelligence artificielle dans une direction fondée sur la confiance et centrée sur l’homme ;

Se préparer aux défis de la sécurité.

Pionnière en matière de technologies numériques et cherchant à se situer à la pointe de l’innovation, notamment grâce à des initiatives publiques et des politiques ambitieuses, la Finlande a su mobiliser sa population, son administration[331] et ses entreprises[332] autour du développement et de la diffusion des technologies d’IA, via l’accès aux données publiques ou l’attention particulière portée au système éducatif.

Cette stratégie avant-gardiste s’inscrit dans l’intérêt déjà ancien de la Finlande pour les nouvelles technologies : Nokia a été durant de nombreuses années l’image de marque du pays, sans compter son tissu dynamique d’experts à la croisée du monde académique et de la sphère entrepreneuriale. L’article d’ActuIA donne l’exemple de Teuvo Kohonen, académicien, chercheur et professeur émérite à l’Université technologique d’Helsinki. Spécialiste des réseaux neuronaux artificiels, il a travaillé sur l’algorithme du Learning Vector Quantization, basé sur la quantification vectorielle, ou encore sur la théorie fondamentale sur la mémoire. Il a également présenté la carte autoadaptative dite « carte de Kohonen » dès les années 1980, qui a marqué l’histoire de la recherche sur les réseaux de neurones et la reconnaissance de formes.

Depuis 2018, le secteur public et le secteur privé finlandais se sont mis d’accord sur un cadre éthique pour l’intelligence artificielle, au terme d’un partenariat mixte auquel ont participé plus de 200 experts du gouvernement, des entreprises et des universités ou instituts de recherche. Le rapport intitulé « Politique d’information éthique à l’ère de l’intelligence artificielle » représente une base à l’aune de laquelle sont jugées les nouvelles lois et réglementations.

Il plaide notamment en faveur du principe d’égalité afin d’éviter tout biais ou discrimination, d’une meilleure protection des données, de la fiabilité de leur traitement, des pratiques plus transparentes et des lignes directrices dans le développement des algorithmes et des architectures. Il réaffirme le fait que l’utilisation des systèmes d’intelligence artificielle ne dédouane pas les individus de leurs responsabilités. Il montre aussi la volonté du gouvernement finlandais de nourrir un débat national continu sur ces questions et de participer aux discussions internationales sur la régulation de l’IA.

En 2020, Business Finland a lancé un projet pour une intelligence artificielle responsable appelé AIGA (pour Artificial Intelligence Governance and Auditing). Le projet traite à la fois des dimensions juridiques, éthiques et techniques de la prise de décision algorithmique et est financé à hauteur de 4,25 millions d’euros au sein d’un consortium public-privé.

La transformation numérique et le développement des technologies d’IA ont permis la mise en place d’initiatives et de programmes destinés aux services publics comme AuroraAI, lancé par le ministère finlandais des finances, et qui vise à aider les citoyens et les entreprises en leur proposant des services axés sur leurs besoins. Cet intérêt pour l’IA répond au potentiel économique important du domaine. Le pays serait la deuxième économie mondiale ayant le plus à gagner du développement de l’IA, derrière les États-Unis. Plusieurs études indiquaient en effet, dès 2017, que l’IA pourrait permettre à la Finlande de doubler son taux de croissance économique d’ici 2035 (études d’Accenture et de Frontier Economics par exemple). En 2020, les municipalités d’Helsinki et d’Amsterdam ont lancé une initiative pour des IA ouvertes, afin de savoir comment les algorithmes sont utilisés dans les services publics afin de s’assurer que l’IA fonctionne selon les principes de responsabilité, de transparence et de sécurité et d’améliorer le service rendu et l’expérience des citoyens.

L’Académie de Finlande a créé en 2019 le Centre finlandais pour l’intelligence artificielle (FCAI) qui rassemble des experts académiques, industriels et venant du secteur public, travaillant sur l’IA. Avec un budget de 250 millions d’euros pour 2019-2026, ce flagship programme de la Finlande est devenu l’un des pôles d’innovation numérique de la Commission européenne (AI DIH). Le FCAI s’est associé avec le centre finlandais d’expertise en technologie de l’information (Center for Science-IT) et Nvidia pour créer le centre technologique Nvidia AI (NVAITC), qui contribue à accélérer la recherche et l’adoption de l’intelligence artificielle en Finlande en faisant bénéficier les chercheurs de l’expertise de Nvidia dans l’utilisation des processeurs graphiques (GPU) et de logiciels d’IA de pointe. Le NVAITC propose une puissance de calcul considérable aux chercheurs et a entrepris neuf projets dont les sujets sont, par exemple, les processus gaussiens, la vision par ordinateur, la modélisation générative ou le traitement du langage naturel.

Le pays cherche depuis plus de 50 ans à faciliter l’accès aux supercalculateurs et dispose ainsi depuis 1971 de son Center for Science-IT, basé à Aspoo et à Kajaani, qui se présente comme l’un des plus grands acteurs mondiaux dans le domaine du calcul haute performance. Cette entreprise publique à but non lucratif abrite le système national de calcul et de gestion des données de la Finlande. Elle a été choisie pour accueillir le supercalculateur LUMI, l’un des trois supercalculateurs pré-exascale de l’initiative EuroHPC. Ce projet de 200 millions d’euros est financé à 50 % par la Commission européenne et à 50 % par les dix pays participants. Le supercalculateur installé en 2021 dispose d’une puissance de calcul de 552 pétaflops (millions de milliards d’opérations en virgule flottante par seconde). Le CSC, qui fournit déjà aux start-up finlandaises des ressources informatiques gratuites pour leurs projets de recherche grâce à la subvention informatique de Business Finland, réserve 20 % de la capacité de calcul de LUMI aux industriels et aux PME-PMI.

En plus du FCAI, le Tampere AI Hub et l’Académie de l’IA de l’université de Turku, ainsi que des initiatives régionales et d’autres accélérateurs ont également pour objectif de transférer efficacement les compétences aux start-up et aux autres entreprises afin de stimuler la commercialisation de l’IA et d’accélérer son déploiement.

La Finlande compte d’ores et déjà plus de 300 start-up en IA dans différents domaines commerciaux, ce qui fait d’Helsinki l’un des écosystèmes d’IA les plus importants d’Europe avec Londres, Paris et Berlin. Un rapport sur l’écosystème mondial des start-up publié en 2020 classe même le Grand Helsinki au quatrième rang mondial[333]. Les liens avec la recherche académique, les organismes de recherche et les acteurs publics sont particulièrement renforcés pour que les jeunes pousses puissent accéder à toutes les clés pour s’inscrire dans les marchés et créer de nouveaux secteurs porteurs. La région d’Helsinki a notamment été reconnue comme l’un des plus importants écosystèmes pour le démarrage en IA en Europe. De larges bases de données sont mises à disposition des entreprises afin de susciter une plus grande et plus rapide adoption de l’IA dans le pays. Elles peuvent capitaliser sur les traditions de recherche, en reconnaissance des formes, en traitement automatique du langage (TAL) ou en vision industrielle par exemple, et sur les coopérations entre secteurs. La société de radiodiffusion nationale finlandaise (YLE) a lancé l’an dernier une campagne de collecte du finnois parlé dans tout le pays afin que les algorithmes puissent apprendre à comprendre et à reconnaître les spécificités de ce langage.

En parallèle de ces enjeux strictement économiques, il s’agit aussi de diffuser la connaissance des technologies et de permettre une appropriation de l’IA par les citoyens finlandais, voire par les citoyens d’autres pays. Plusieurs universités finlandaises proposent un enseignement de haut niveau sur l’IA. La Finlande est déjà « à la pointe de l’enseignement de l’IA » au niveau mondial, selon un rapport réalisé sur les compétences par Coursera en 2021[334].

Bien entendu, sensibiliser la population aux enjeux de l’intelligence artificielle répond aussi à l’objectif de la Finlande pour développer la recherche et le développement ainsi que le déploiement d’activités et de solutions sur un secteur économique en plein essor et au potentiel élevé.

C’est un sujet auquel l’Académie de Finlande s’intéresse à travers son programme ICT 2023 pour la R&D et l’innovation, en vue tout particulièrement de renforcer les connaissances et les applications en Machine Learning, Internet industriel, technologies et services de santé innovants centrés sur l’utilisateur. Des centres de recherches, comme l’Institut d’informatique d’Helsinki (HIIT), se sont rapidement développés pour accueillir les chercheurs et les entreprises.

Ces dernières années, plus de 6 300 étudiants suivaient chaque année au moins un cours d’IA dans le cadre de leur formation. Les grandes universités finlandaises proposent près de 250 cours d’IA et plus de 40 formations de niveau master, 19 programmes de niveau licence et trois programmes de doctorat, auxquels s’ajoutent les 26 programmes de formation dispensés par les grandes écoles spécialisées et le Centre de recherche technique VTT de Finlande. Le pays se place logiquement en deuxième position au regard du nombre d’experts en IA par habitant, parmi tous les pays européens (LinkedIn Economic Graph 2019).

Selon l’OCDE, les principales universités en nombre de publications de recherche portant sur l’IA, sont l’Université de Helsinki, Aalto Université, l’Université de Tampere, Tampere University of Technology, Helsinki University of Technology, l’Université de Oulu, l’Université de Turku, l’Université de Finlande orientale et l’Université de Jyväskylä.

Les universités finlandaises misent notamment sur des opportunités d’apprentissage accessibles à tous et sur l’attrait des citoyens pour le numérique, notamment grâce à des cours publics gratuits en ligne, comme le plus fameux d’entre eux, Elements of AI.

Le programme Elements of AI

Lancé début 2018 par l’université d’Helsinki, Elements of AI est une série de MOOC conçue en collaboration avec la société Reaktor. Elle a été classée n° 1 mondial des MOOC en IA par le portail de cours en ligne Class Central et par Forbes et a remporté le grand prix Inclusive Innovation Challenge du MIT. Ces cours en ligne gratuits sont disponibles dans la plupart des langues de l’UE. Ils peuvent être suivis au rythme de chacun et combinent théorie et exercices pratiques.

Son objectif était de démystifier l’IA et d’éduquer un pour cent de la population finlandaise (environ cinquante mille personnes) afin qu’elle se familiarise avec les concepts fondamentaux et les logiques sous-jacentes de ces technologies. L’objectif a été dépassé puisqu’outre les 100 000 personnes qui se sont inscrites aux cours en Finlande, Elements of AI aurait au total formé, depuis son lancement, plus de 750 000 personnes dans le monde et permis de diplômer des étudiants de plus de 170 pays.

Le premier volet, Introduction to AI, permet de se familiariser avec le Machine Learning, les réseaux de neurones, la résolution de problèmes grâce à l’IA ou encore les aspects philosophiques de l’IA. Plus de 1 % de la population finlandaise a déjà été formée aux bases de l’IA grâce à ce cours en ligne gratuit. À l’occasion de la présidence finlandaise de l’Union européenne en 2019, le MOOC a été traduit dans de nombreuses langues pour permettre aux citoyens européens de se former eux aussi aux bases de l’IA. Pour sa version française, le partenaire de cette initiative a été Sorbonne-Université.

En 2023, Elements of AI a mis en ligne son nouveau MOOC, Building AI, qui permet de découvrir les algorithmes servant à créer des méthodes d’IA. Certaines compétences de base en programmation Python sont recommandées pour tirer le meilleur parti du cours.

La moitié des étudiants étant des femmes, soit plus du double de la moyenne des cours d’informatique, ces cours permettent de réduire la disparité entre les sexes qui prévaut dans ce secteur.

Le MOOC Ethics of AI lancé par l’université d’Helsinki fin 2020 s’intéresse à l’éthique de l’intelligence artificielle et propose des textes, des exercices et un grand nombre de cas réels illustrant différentes problématiques d’un point de vue éthique.

Source : Focus pays de la revue ActuIA op. cit.

C. La gouvernance européenne de l’intelligence artificielle

Les réflexions menées au sein de l’UE en termes de régulation de l’IA depuis quatre ans sont très proches de celles conduites par l’OCDE. Mais l’encadrement européen des systèmes d’IA ne se limite pas au régime spécifique les concernant. Le droit de l’Union européenne prévoit en effet différentes dispositions concernant les outils numériques qui peuvent impacter les systèmes d’intelligence artificielle. Depuis le 13 juin 2024, un règlement est totalement consacré à l’encadrement de l’IA ; il s’ajoute à de nombreuses autres dispositions.

Les textes sont très nombreux, parfois d’application sectorielle, il est donc difficile de tous les récapituler ici. Pour mémoire, les plus récents et les plus transversaux viennent compléter le règlement général sur la protection des données (RGPD) du 27 avril 2016 et s’insèrent dans la « Stratégie numérique pour l’Europe pour la décennie 2020-2030 » : à l’instar du règlement sur les marchés numériques du 14 septembre 2022 (dit « DMA », pour Digital Markets Act, empêchant notamment les géants du numérique de privilégier leurs services sur leurs plateformes en laissant chacun choisir librement son moteur de recherche, son navigateur ou sa messagerie) ; du règlement sur les services numériques du 19 octobre 2022 (dit « DSA », pour Digital Services Act, qui responsabilise les plateformes en rendant illégal en ligne ce qui est illégal hors ligne, comme les contenus illicites, et dont l’esprit se retrouve dans la loi du 21 mai 2024 visant à sécuriser et à réguler l’espace numérique (dite loi « SREN ») en interdisant – en ligne – les arnaques, la haine, la désinformation et la publicité ciblée sur les mineurs ou encore en protégeant les mineurs de la pornographie ; du règlement sur la gouvernance des données du 30 mai 2022 ; du règlement sur la cybersécurité du 17 avril 2019, de la directive sur la cybersécurité du 14 décembre 2022 et du règlement sur la cybersécurité du 13 décembre 2023 ; du règlement du 12 mars 2024 sur la cyberrésilience, etc.

Dans ce contexte foisonnant, il est important de noter qu’en 2024, au terme de plusieurs années de travail préparatoire, un cadre visant spécifiquement les systèmes d’intelligence artificielle a été adopté à travers le règlement du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle[335], communément dénommé AI Act. Il fait l’objet d’une application progressive d’ici à 2026 avec des règles harmonisées applicables à la mise sur le marché, à la mise en service et à l’utilisation de systèmes d’IA.

Présenté par l’Union européenne comme « premier texte législatif de ce type au monde », cette réglementation, qui se veut pionnière, a donc vocation à devenir un standard mondial concernant la mise sur le marché, la mise en service et l’utilisation de ces systèmes dans le but de garantir que l’IA soit une technologie « axée sur l’humain » et que les systèmes d’IA soient « sûrs, éthiques et dignes de confiance ».

Comme l’assure l’exposé des motifs du projet de règlement, l’AI Act vient compléter le droit de l’Union et ne le remplace pas, en particulier en ce qui concerne les droits fondamentaux ; la protection de la vie privée, des données, des consommateurs et des travailleurs ; l’emploi ; la sécurité des produits. Les droits et les recours existants pour les personnes sur lesquelles les systèmes d’IA sont susceptibles d’avoir des incidences négatives demeurent inchangés et pleinement applicables. L’intelligence artificielle ne suspend pas le droit en vigueur.

1. Le travail préparatoire conduit par les institutions européennes entre 2018 et 2020

La construction des bases de la gouvernance européenne en matière d’intelligence artificielle s’est d’abord appuyée sur trois principales contributions : une communication de la Commission européenne en avril 2018, les différentes recommandations d’un groupe d’experts placé auprès de la Commission européenne en 2019 puis un Livre blanc de la Commission en 2020.

a) La communication de la Commission européenne d’avril 2018

La Commission européenne a tout d’abord publié en avril 2018 une communication pour l’intelligence artificielle en Europe[336]. Elle appelait à la mise en place d’un cadre éthique et juridique conforme aux valeurs de l’Union européenne et à la Charte des droits fondamentaux, mais sans préconiser la création d’une législation contraignante spécifique à l’intelligence artificielle. Au lieu de cela, la communication attirait l’attention sur les cadres juridiques existants (la protection des données personnelles avec le RGPD de 2016, les règles relatives à la sécurité des produits et les régimes de responsabilité civile ordinaires).

Sur la base de cette première communication, un travail de coordination a été conduit avec les États membres et la Norvège en vue d’aboutir rapidement à un plan coordonné pour l’IA en Europe. Le 7 décembre 2018, la Commission européenne a publié une communication sur les objectifs et les initiatives d’un plan coordonné dans le domaine de l’intelligence artificielle, plan actualisé en 2021[337].

b) Le groupe d’experts de haut niveau sur l’IA

Dans la perspective de ses futurs travaux sur l’IA, la Commission européenne avait entretemps nommé en juin 2018 un groupe d’experts de haut niveau sur l’IA (high-level experts group on artificial intelligence ou HLEG AI en anglais). Ce groupe était composé d’experts des milieux industriels et scientifiques et présidé par Pekka Ala-Pietilä, président du conseil d’administration de Huhtamaki, Sanoma et Netcompany et ex-président de Nokia ainsi que docteur honoraire en technologie à l’université de Tampere en Finlande. Le groupe devait élaborer des conclusions permettant de guider l’action de la Commission ainsi que des colégislateurs en matière d’IA. Pour ce faire, il a d’abord publié en décembre 2018 une définition de la notion d’IA, qui lui a permis de circonscrire le périmètre de ses travaux.

Cette définition reprend et étend la définition de la précédente communication de la Commission[338] :

« L’intelligence artificielle (IA) désigne les systèmes qui font preuve d’un comportement intelligent en analysant leur environnement et en prenant des mesures – avec un certain degré d’autonomie – pour atteindre des objectifs spécifiques. Les systèmes dotés d’IA peuvent être purement logiciels, agissant dans le monde virtuel (assistants vocaux, logiciels d’analyse d’images, moteurs de recherche ou systèmes de reconnaissance vocale et faciale, par exemple) mais l’IA peut aussi être intégrée dans des dispositifs matériels (robots évolués, voitures autonomes, drones ou applications de l’internet des objets, par exemple). »

Sur la base de cette définition, le HLEG AI a mis au point plusieurs livrables thématiques pour permettre à la Commission européenne de travailler sur la base de définitions et d’objectifs clairement établis.

Le premier livrable, publié en avril 2019[339], fixe les lignes directrices en matière d’éthique de l’IA qui permettraient d’arriver à une « IA digne de confiance »[340]. Le groupe considère que pour qu’une technologie d’IA soit considérée comme « digne de confiance », il lui faut réunir au moins trois de ces éléments :

- être licite (respecter les législations et réglementations existantes) ;

- être éthique, et assurer l’adhésion à des principes et valeurs éthiques ;

- être équitable, diverse et non discriminatoire ;

- être transparente ;

- permettre un contrôle humain ;

- être robuste techniquement et socialement et sécurisée ;

- être robuste pour ne pas causer de préjudices involontaires ;

- respecter la vie privée et la gouvernance des données ;

- participer au bien-être social et environnemental ;

- savoir qui est responsable sur toute la chaîne de valeur.

Ces exigences sont proches de celles préconisées par l’OCDE pour la mise en place d’une IA éthique.

Le second livrable du HLEG AI est une liste de recommandations en matière de politiques publiques et d’investissements, avec le même objectif de garantir une « IA de confiance ». Le document formule 33 recommandations pour orienter l’IA vers la durabilité, la croissance, la compétitivité et l’action[341]. Les investissements doivent s’appuyer sur quatre bases : le secteur privé, le secteur public, la société civile et la recherche. Le groupe identifie huit leviers que les pouvoirs publics peuvent utiliser pour développer le potentiel de l’IA : l’éducation et la formation, la gouvernance et la régulation, le financement et l’investissement, le secteur privé, la société civile, le secteur public, la recherche ainsi que les données et l’infrastructure. Ce document fait apparaître l’approche pluridisciplinaire que retient l’Union européenne : plutôt que de réguler un secteur en particulier, le HLEG AI estime que l’investissement doit être transversal et intégré.

Après la publication de ces deux premiers livrables, le groupe a mis en place un outil pratique d’évaluation[342] qui permet de traduire les lignes directrices en techniques d’autoévaluation.

Enfin, le HLEG AI a réalisé un dernier livrable concernant une approche sectorielle de politiques publiques et d’investissement pour l’IA[343]. Ce dernier livrable était particulièrement destiné à l’Alliance européenne pour l’IA (European AI Alliance), une coalition créée par la Commission européenne en 2018 dans le but « d’ouvrir le dialogue sur l’intelligence artificielle ». Cette alliance est composée de 6 000 parties prenantes de la société civile européenne (citoyens, représentants des consommateurs et des entreprises, syndicats, établissements de recherche, autorités et experts).

Après la publication de ce dernier livrable, le mandat de l’AI HLEG est arrivé à son terme en juillet 2020 et seule l’Alliance a continué ses activités.

c) Le Livre blanc de la Commission européenne sur l’IA

La phase de consultation des experts et de la société civile organisée par les institutions européennes a été conclue par la publication par la Commission européenne d’un Livre blanc sur l’IA de 30 pages sous-titré « Une approche européenne axée sur l’excellence et la confiance »[344] en février 2020. Il a été soumis à consultation publique jusqu’au 19 mai 2020 et discuté lors de la deuxième assemblée de l’Alliance européenne pour l’IA en octobre 2020.

Ce rapport souligne les bénéfices apportés par l’IA, mais aussi les risques de ces technologies. Il appelle donc à un cadre juridique spécifique pour l’IA en Europe, en vue de créer un « écosystème de confiance » unique en son genre, garantissant le respect des principes du droit de l’UE, notamment ceux qui protègent les droits fondamentaux et les droits des consommateurs, en particulier vis-à-vis des systèmes d’IA à haut risque. Avec ce cadre juridique, qui vise aussi à harmoniser les efforts aux niveaux européen, national et régional, par un partenariat entre les secteurs privé et public, l’UE pourra construire un « écosystème d’excellence » tout au long de la chaîne de valeur de l’IA.

Le livre blanc mentionne aussi quelques futures obligations pour les structures développant des systèmes d’IA à haut risque : s’assurer que les jeux de données limitent les risques et évitent les discriminations ; documenter les données utilisées pour entraîner les algorithmes, dont les techniques et méthodologies de conception et d’entraînement ; développer des systèmes robustes dès le stade de la conception puis pendant leur cycle de vie ; une supervision humaine permettant une intervention en temps réel et laissant la possibilité de désactiver le système.

Le Comité économique et social européen (CESE) a rendu un rapport sur ce livre blanc[345], dont la rapporteure était Catelijne Muller, membre du Comité mais aussi présidente de l’ONG ALL AI et membre de l’AI HLEG de la Commission européenne. Il regrettait la focalisation du document sur la seule intelligence artificielle axée sur les données (l’IA connexionniste) et réclamait une nouvelle génération de systèmes d’IA fondés sur la connaissance et le raisonnement. Cette réflexion fait écho aux préoccupations de vos rapporteurs. Le CESE demandait notamment, outre un renforcement des investissements, une pluridisciplinarité dans la recherche, une approche socio-technique des technologies, une association de toutes les parties prenantes à la discussion et une éducation du grand public.

2. De la proposition de règlement du 21 avril 2021 à la juxtaposition de deux dispositifs à la suite des amendements adoptés

La législation européenne sur l’intelligence artificielle (ou AI Act) a pour origine une proposition de règlement du Parlement européen et du Conseil transmis par la Commission européenne le 21 avril 2021[346]. Après un dialogue entre les deux législateurs de l’Union et la Commission (appelé trilogue), un consensus autour d’un texte est trouvé le 9 décembre 2023.

Ce compromis est adopté par le Parlement européen le 13 mars 2024, puis par le Conseil de l’Union européenne le 21 mai 2024[347]. Ce projet est devenu le règlement du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle.

Une évolution importante doit être notée entre le texte initial et la version finale du règlement à la suite des amendements adoptés lors de la discussion du projet de la Commission européenne par le Conseil et le Parlement européen. Le dialogue entre les institutions européennes est un processus habituel au sein du processus législatif de l’Union européenne où des compromis doivent être trouvés pour obtenir une position acceptable par la Commission, le Conseil et le Parlement.

Toutefois, le dialogue entre les institutions européennes a dans ce cas précis mené à un texte final assez différent du texte initialement proposé par la Commission européenne. Alors que le premier texte visait une régulation de l’IA orientée vers les usages de la technologie plutôt que vers la technologie elle-même, selon des niveaux de risques, le Conseil et le Parlement européen ont ajouté des dispositions différentes de cette approche initiale : en effet, il a été décidé que certains « modèles à usage général », en l’occurrence surtout les modèles de fondation les plus puissants, fassent l’objet d’un encadrement plus strict par l’AI Act, parfois du simple fait de la puissance de calcul nécessaire à l’entraînement du modèle. Ainsi, il est possible de séparer au sein des dispositions du texte final les dispositions initialement prévues par la Commission européenne et les ajouts du Parlement européen et du Conseil.

a) Le volet issu du projet initial d’AI Act en 2021 : une régulation des usages selon leurs risques plutôt qu’une régulation de la technologie elle-même

La première partie du texte présente le projet initial de règlement, à savoir une régulation de l’IA basée sur le niveau de risque engendré par son utilisation et non par la technologie elle-même. Ainsi, la technologie n’est pas considérée comme dangereuse ou risquée en elle-même, mais pourrait l’être dans certains contextes d’utilisation. Les obligations pèsent sur les fournisseurs, les déployeurs, les fabricants et les mandataires de fournisseurs de systèmes d’IA[348].

L’article 5 liste un certain nombre de pratiques totalement interdites en matière d’intelligence artificielle car estimées causer un « risque inacceptable ». Il s’agit notamment de l’évaluation des personnes physiques associée à un système de crédit social ou social ranking, de la reconnaissance faciale, ou encore de la reconnaissance des émotions sur le lieu de travail.

Pour les autres usages des systèmes d’IA, il existe une gradation du niveau de risque lié à leur utilisation, qui implique des règles plus contraignantes à mesure que le niveau de risque augmente.

Les usages licites présentant niveau de « risque élevé » font l’objet des dispositions les plus rigoureuses et sont décrits à l’article 6 du texte. Il s’agit des IA utilisées dans les domaines de biométrie, d’infrastructures critiques, d’éducation et formation professionnelle, d’emploi, de gestion des travailleurs et d’accès à l’emploi indépendant, d’accès et jouissance de services privés essentiels et de services et prestations publiques essentiels, des services répressifs, de gestion de la migration, de l’asile et des contrôles aux frontières ainsi que d’administration de la justice et de processus démocratiques. L’article 7 du règlement donne le droit à la Commission de modifier la liste de ces critères.

Les systèmes d’IA dont les usages ne présentent qu’un « risque limité » sont soumis à des obligations de transparence plus légères : les développeurs et les déployeurs doivent s’assurer que les utilisateurs finaux sont conscients qu’ils interagissent avec une IA (article 50)[349].

Il est intéressant de noter que le centre de recherche sur les modèles de fondation (Center for Research on Foundation Models ou CRFM) de l’Université de Stanford a publié une analyse évaluant la conformité des différents modèles de fondation existants avec ce premier volet du projet de règlement[350].

b) Le volet ajouté par les co-législateurs : la régulation des modèles de fondation assortie d’un régime spécifique pour les modèles les plus puissants, dits « à risque systémique »

Le Parlement européen a décidé d’ajouter au texte initial de la Commission une réglementation qui ne vise pas seulement les risques liés aux usages de l’IA mais la technologie et ses modèles en eux-mêmes, ce qui se rapproche de la réflexion conduite au sein de l’université de Stanford ainsi que de la réglementation américaine de 2023. Le Conseil et le Parlement européen ont ainsi introduit la notion de « modèle d’IA à usage général » (general-purpose artificial intelligence model ou GPAIM).

Cette notion est définie au point (63) de l’article 3 du texte :

« Modèle d’IA, y compris lorsqu’il est entraîné à l’aide d’une grande quantité de données en utilisant l’autosupervision à l’échelle, qui présente une grande généralité et est capable d’exécuter avec compétence un large éventail de tâches distinctes, quelle que soit la manière dont le modèle est mis sur le marché, et qui peut être intégré dans divers systèmes ou applications en aval, à l’exception des modèles d’IA utilisés pour des activités de recherche, de développement ou de prototypage avant d’être mis sur le marché ».

Dès lors qu’un modèle d’intelligence artificielle est considéré comme étant à usage général, il doit suivre les règles minimales visées à l’article 50 du règlement.

Au-delà, le régime juridique applicable dépend de son éventuelle catégorisation en « IA à usage général présentant un risque systémique ». L’article 51 prévoit en effet qu’un GPAIM est ainsi catégorisé si l’une des deux conditions suivantes est remplie :

- il a « des capacités d’impact élevées, évaluées sur la base d’outils et de méthodologies techniques appropriés, y compris des indicateurs et des critères de référence », ce qui implique pour le fournisseur du GPAIM de procéder aux évaluations nécessaires et de le notifier à la Commission ;

- sur la base d’une décision de la Commission, d’office ou à la suite d’une alerte qualifiée du groupe scientifique, il a des capacités ou un impact équivalents à ceux visés au point [précédent], compte tenu des critères énoncés à l’annexe XIII ».

Les sept critères de l’annexe XIII[351] permettant d’évaluer l’impact des modèles d’intelligence artificielle sont les suivants :

- le nombre de paramètres du modèle ;

- la qualité et la taille des données d’entraînement ;

- la quantité de calcul utilisée pour l’apprentissage ;

- les modalités d’entrée et de sortie du modèle ;

- l’évaluation des capacités du modèle ;

- l’impact du modèle sur le marché intérieur ;

- le nombre d’utilisateurs finaux.

L’article 51 établit également une présomption d’impact élevé, donc de risque systémique, lorsque le volume cumulé de calcul utilisé pour l’apprentissage du modèle est supérieur à 1025 opérations à virgule flottante par seconde (FLOPS).

Le droit américain avec l’Executive Order de 2023 a quant à lui prévu des obligations de déclaration plus souples, avec un seuil de puissance de calcul dix fois plus grand, soit 1026.

Calculer les FLOPS utilisés pour l’entraînement d’un modèle

Le site Medium[352] présente une heuristique pour calculer approximativement le nombre de FLOPS utilisés pour l’entraînement d’un modèle sur la base d’une publication scientifique d’OpenAI[353].

La formule utilisée est la suivante :

FLOPS = 6ND

avec N correspondant au nombre de paramètres et D au nombre de tokens utilisés pour l’entraînement.

Par exemple, le modèle Llama 3 8B de Meta a huit milliards de paramètres et a été entraîné avec quinze milliards de tokens. En appliquant cette formule, une approximation du nombre de FLOPS utilisés pour l’entraînement du modèle peut faire l’objet d’un calcul :

FLOPS environ

Sur la base de cette heuristique, le modèle LLama 3 8B se situe juste au-dessous du seuil et ne correspond donc apparemment pas à une IA à usage général présentant un risque systémique au sens de l’AI Act et encore moins au sens de l’Executive order américain. Pour mémoire, les modèles de pointe d’OpenAI ou de Google dépassent depuis 2023 le seuil de FLOPS, avec GPT-4 d’une part et Gemini d’autre part.

Sur la base de cette condition automatique et des sept critères permettant de juger du niveau d’impact d’un modèle, la Commission européenne peut, d’office ou à la suite d’une alerte qualifiée du groupe scientifique, faire entrer un modèle d’IA dans la catégorie des IA à usage général présentant un risque systémique.

Les modèles à usage général présentant des risques systémiques sont soumis à des obligations particulières. Ces obligations sont au nombre de quatre et sont définies à l’article 55 du règlement. Ainsi, les fournisseurs de GPAIM présentant un risque systémique doivent :

- procéder à l’évaluation du modèle conformément à des protocoles et à des outils normalisés reflétant l’état de l’art, y compris effectuer et documenter des tests contradictoires du modèle en vue d’identifier et d’atténuer les risques systémiques ;

- évaluer et atténuer les éventuels risques systémiques au niveau de l’Union, y compris leurs sources, qui peuvent résulter du développement, de la mise sur le marché ou de l’utilisation de modèles d’IA à usage général présentant un risque systémique ;

- garder trace, documenter et rapporter, sans délai injustifié, au bureau de l’IA et, le cas échéant, aux autorités nationales compétentes, les informations pertinentes concernant les incidents graves et les mesures correctives possibles pour y remédier ;

- assurer un niveau adéquat de protection de cybersécurité pour les modèles d’IA à usage général présentant un risque systémique et pour l’infrastructure physique du modèle.

Dans la pratique, ces obligations seront assurées par l’élaboration et le respect de « codes de conduite » définis à l’article 56 du règlement. Le respect de ces obligations sera également assuré par des normes auxquelles les fournisseurs d’IA présentant des risques systémiques devront se conformer.

Les critiques concernant l’AI Act portent principalement sur cette seconde partie du texte relative aux IA à usage général, qui a provoqué un blocage de la part de la France et de l’Allemagne[354].

En effet, la France et l’Allemagne, qui accueillent des entreprises créant des modèles de fondation comme MistralAI en France ou Aleph Alpha en Allemagne, craignaient que cette nouvelle portée de la réglementation freine l’innovation et donc la compétitivité de leurs entreprises.

Lors de leurs auditions, vos rapporteurs ont pu remarquer que les critiques de l’AI Act se maintiennent autour de cette partie du texte. Gilles Babinet, coprésident du Conseil national du numérique (CNNum) a par exemple pointé le caractère ex ante de la réglementation, alors qu’à l’heure actuelle on prédit mal les effets des systèmes d’IA sur le marché économique. Il considère qu’une telle réglementation précoce a tendance à favoriser les « gros » acteurs américains face aux entreprises européennes naissantes. Joëlle Tolédano, coprésidente du CNNum et économiste, a rejoint l’avis de Gilles Babinet en pointant du doigt le déséquilibre entre les coûts nécessaires au respect des normes visant à réguler les modèles d’IA à risque systémique et le chiffre d’affaires des nouvelles entreprises de l’IA comme Mistral, moindre que celui des géants américains.

Yoshua Bengio a dénoncé la référence aux FLOPS utilisés pour l’entraînement du modèle comme mesure de calcul alors que les modèles deviendront de plus en plus performants, et de ce fait pourront utiliser beaucoup moins de puissance de calcul pour leur entraînement tout en parvenant à des résultats bien plus impressionnants.

Cette partie du règlement sur l’intelligence artificielle ne soulève toutefois pas que des critiques. Plusieurs personnes auditionnées ont souligné l’intérêt de soumettre les entreprises d’intelligence artificielle à des normes, y compris en termes de régulation des modèles, comme les chercheurs en informatique, IA et robotique Laurence Devillers, Serge Abiteboul ou Raja Chatila.

Florence G’sell, rencontrée à l’Université de Stanford, a résumé l’AI Act dans un graphique qui représente bien la dualité de son dispositif – une dualité non exclusive qui conduit donc à des chevauchements possibles en pratique – rendant encore plus complexe la mise en œuvre du règlement.

Le double dispositif de l’AI Act : systèmes vs modèles d’IA

Source : Rapport de Florence G’sell, Université de Stanford, op. cit.

c) Les autres aspects de l’AI Act : une polysynodie institutionnelle, une portée extraterritoriale, un calendrier très complexe et une normalisation désinvestie

La polysynodie caractérise le dispositif institutionnel qui accompagne l’AI Act. Ce dernier confie la mise en œuvre des diverses dispositions du règlement à plusieurs structures dont la majorité aura une fonction de conseil plutôt qu’à la seule Commission européenne, qui aurait pu s’en acquitter elle-même en s’appuyant sur sa DG Connect.

La première sera une structure exécutive, par autonomisation au sein de la Commission européenne d’une de ses directions qui devient le Bureau européen de l’IA ou EU AI Office, composé de cinq unités et de deux conseillers. Ce nouveau centre d’expertise, dont la moitié des agents correspond à de nouveaux recrutements, a la capacité de procéder à des évaluations des modèles d’IA à usage général, de demander des informations et des mesures aux fournisseurs de modèles (y compris les codes sources des modèles et les API, mais le dialogue en amont sera privilégié) et d’appliquer le cas échéant des sanctions. La Commission européenne doit également mettre en place :

- un Conseil européen de l’IA ou European Artificial Intelligence Board, composé de représentants des États membres, qui doit conseiller la Commission européenne ainsi que le Bureau européen de l’IA et les autorités de régulation des États membres ;

- un Forum européen consultatif sur l’IA ou European Artificial Intelligence Advisory Forum qui doit conseiller le Conseil européen de l’IA, la Commission européenne et le Bureau européen de l’IA ;

- un Panel scientifique européen d’experts en IA ou European Artificial Intelligence Scientific Panel of Independent Experts qui doit conseiller le Bureau européen de l’IA spécialement sur les modèles d’IA à usage général et les risques systémiques afin de pouvoir classifier les différents modèles et systèmes d’IA. C’est lui qui aidera à définir les outils, les méthodologies et les tests pertinents. Il pourra aussi éclairer les autorités de surveillance des marchés et les autorités de régulation des États membres. Enfin, il alertera le Bureau européen de l’IA en cas de modèles d’IA à usage général à risque systémique selon la réglementation de l’UE.

S’agissant de la portée extraterritoriale du règlement, il faut souligner que l’AI Act s’applique non seulement à tout acteur qui fournit, distribue ou déploie des systèmes d’IA utilisés dans l’UE, qu’ils soient conçus dans l’UE ou dans un pays tiers, mais couvre aussi le champ des systèmes d’IA conçus et utilisés hors UE si les résultats générés par le système sont destinés à être utilisés dans l’UE.

Le calendrier de mise en œuvre des dispositions du règlement frappe par sa très grande complexité : de 2024 à 2031, différentes étapes de déploiement de l’AI Act rythment chaque année. Parler d’usine à gaz est à cet égard un euphémisme.

Le calendrier très complexe de mise en œuvre de l’AI Act

Le règlement du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle est publié au Journal officiel de l’Union européenne le 12 juillet 2024. Il s’agit de sa notification officielle. Le 1er août 2024 est la date de son entrée en vigueur, donc de son application mais en fait, ses dispositions ne s’appliqueront que plus tard et progressivement. Le 2 novembre 2024 est la date théorique d’expiration du délai au terme duquel les États membres identifient et rendent publique la liste des autorités nationales responsables de la protection des droits fondamentaux et en informent la Commission et les autres États membres.

Les interdictions relatives à certains systèmes d’IA (prévues aux chapitres I et II) commencent à s’appliquer le 2 février 2025. Le 2 mai 2025 les codes de bonnes pratiques de la Commission doivent être prêts. Les règles relatives aux organismes notifiés (chapitre III, section 4), aux modèles d’IA à usage général (chapitre V), à la gouvernance (chapitre VII), à la confidentialité (article 78) et aux sanctions (articles 99 et 100) commencent à s’appliquer le 2 août 2025. À la même date, si le code de pratique ne peut être finalisé ou si l’AI Office le juge inadéquat, la Commission peut fournir des règles communes pour la mise en œuvre des obligations des fournisseurs de modèles d’IA à usage général par le biais d’actes d’exécution. Toujours le 2 août 2025, les États membres désignent les autorités nationales compétentes (autorités de notification et autorités de surveillance du marché), les communiquent à la Commission et mettent leurs coordonnées à la disposition du public ; fixent les règles relatives aux sanctions et aux amendes, les notifient à la Commission et veillent à ce qu’elles soient correctement mises en œuvre ; et font rapport à la Commission sur l’état des ressources financières et humaines des autorités nationales compétentes. Les fournisseurs de modèles d’IA à usage général mis sur le marché ou mis en service avant cette date doivent à partir du 2 août 2025 commencer à se conformer aux exigences du règlement, avec l’horizon d’une conformité d’ici le 2 août 2027.

Avant le 2 février 2026, la Commission doit fournir des lignes directrices précisant la mise en œuvre pratique de l’article 6, y compris le plan de surveillance après la mise sur le marché. Le 2 août 2026, les autres dispositions du règlement sont applicables, à l’exception de l’article 6, paragraphe 1. Le règlement s’applique aux exploitants de systèmes d’IA à haut risque (autres que les systèmes visés à l’article 111, paragraphe 1), mis sur le marché ou mis en service avant cette date. Toutefois, il ne s’applique qu’aux systèmes dont la conception est modifiée de manière significative à partir de cette date. À la même date, les États membres veillent à ce que leurs autorités compétentes aient mis en place au moins un bac à sable réglementaire opérationnel en matière d’IA au niveau national.

Le 2 août 2027, les fournisseurs de modèles d’IA à usage général mis sur le marché avant le 2 août 2025 doivent avoir pris les mesures nécessaires pour se conformer aux obligations prévues par le règlement avant cette date. Les systèmes d’IA composants de systèmes d’information à grande échelle qui ont été mis sur le marché ou mis en service avant cette date doivent être mis en conformité avec le règlement d’ici au 31 décembre 2030.

Le 2 août 2028, la Commission évalue le fonctionnement de l’AI Office et l’impact et l’efficacité des codes de conduite volontaires (puis tous les trois ans). La Commission évalue et fait rapport au Parlement européen et au Conseil sur la nécessité de modifier les rubriques de l’annexe III, le système de supervision et de gouvernance et la liste des systèmes d’IA nécessitant des mesures de transparence supplémentaires à l’article 50. La Commission présente enfin un rapport sur l’état d’avancement des « résultats de la normalisation » qui couvrent le thème du développement économe en énergie de modèles d’IA à usage général. Ce rapport doit être soumis au Parlement européen et au Conseil, et rendu public.

Le 1er décembre 2028 (soit 9 mois avant le 1er août 2029), la Commission doit établir un rapport sur la délégation de pouvoir décrite à l’article 97.

Le 1er août 2029, le pouvoir de la Commission d’adopter les actes délégués prévus par huit articles expire, à moins que cette période ne soit prolongée : la délégation de pouvoir sera alors, par défaut, prolongée pour des périodes récurrentes de 5 ans, à moins que le Parlement européen ou le Conseil ne s’oppose à cette prolongation trois mois ou plus avant la fin de chaque période.

Le 2 août 2029 (puis tous les quatre ans), la Commission présente au Parlement européen et au Conseil un rapport sur l’évaluation et le réexamen du règlement.

Les fournisseurs et déployeurs de systèmes d’IA à haut risque destinés à être utilisés par les autorités publiques doivent avoir pris avant le 2 août 2030 les mesures nécessaires pour se conformer aux exigences et aux obligations du règlement.

Le 31 décembre 2030 est la date limite pour la mise en conformité avec le règlement des systèmes d’IA composants de systèmes d’information à grande échelle qui ont été mis sur le marché ou mis en service avant le 2 août 2027.

Enfin, le 2 août 2031, la Commission procède à une évaluation de l’application du règlement et fait rapport au Parlement européen, au Conseil et au Comité économique et social européen.

Source : d’après le site https://artificialintelligenceact.eu/fr/implementation-timeline/

Le texte du règlement donne une place importante à la normalisation technique des produits utilisant l’IA. Cette normalisation doit garantir des standards de qualité et donc d’assurer une confiance envers ces produits pour lesquels les citoyens semblent, pour l’heure, relativement méfiants. Ces dix normes harmonisées auront aussi pour rôle de vérifier si un système d’IA correspond a priori aux obligations prévues au règlement : un système qui respecte ces normes sera en effet supposé conforme à l’AI Act.

Plusieurs spécialistes entendus par vos rapporteurs ont exprimé leur intérêt pour le processus de normalisation technique introduit par la seconde partie de l’AI Act. Yann Ferguson, sociologue directeur scientifique du LaborIA d’Inria ainsi que Patrick Bezombes, conseiller pour la stratégie et la gouvernance de l’IA à l’Association française de normalisation (Afnor) et représentant de la France au CEN-CENELEC ont défendu ce point de vue.

Selon eux, il faut considérer deux catégories d’entreprises : d’une part, les entreprises industrielles « classiques », Patrick Bezombes parle d’entreprises de la « safety », d’autre part, les nouvelles entreprises du numérique. Ces deux types d’entreprises ne voient pas de la même façon le développement de leurs produits. Les entreprises classiques de l’industrie comme Airbus, Alstom ou Framatome sont habituées à une normalisation stricte de leurs process de production, normalisation nécessaire dans leur propre intérêt pour garantir la sécurité essentielle de leurs produits et leur réputation. Ainsi, lorsque leurs produits arrivent sur le marché, le risque de défaillance est minime : la moindre panne d’un avion, d’un train ou d’un réacteur nucléaire serait catastrophique pour leur image et la confiance des consommateurs.

À l’inverse, les nouvelles entreprises du numérique, notamment les MAAAM, sont moins confrontées à ce type de problèmes, et s’autorisent des marges d’erreur élevées, d’autant plus qu’elles peuvent se permettre la mise sur le marché de produits présentant des défauts qui pourront être corrigés par la suite, grâce à une mise à jour logicielle. Dans ces entreprises, la culture de respect des normes est moins développée que dans les entreprises classiques, surtout celles du secteur industriel, où elle est présente dans toutes les étapes de la conception à la fabrication des produits.

De ce point de vue, le règlement sur l’intelligence artificielle peut être perçu comme un moyen d’encourager les entreprises du numérique à changer de culture et à respecter des normes strictes lorsqu’elles commercialisent un produit. Patrick Bezombes a particulièrement rappelé l’importance de ces normes qui permettent de créer de la confiance envers un produit, ce qui est essentiel pour la présence sur un marché.

Il relativise l’idée selon laquelle cette normalisation pénaliserait les petites entreprises par rapport aux géants du numérique. En effet, une défaillance majeure d’un produit sur le marché provoque une crise de la confiance sur l’ensemble du marché, tant à l’égard des grandes entreprises que des plus petites. Le cas des véhicules autonomes l’illustre. Aussi, en limitant le risque de défaillances sur les produits utilisant de l’intelligence artificielle, la normalisation permet d’éviter ces crises de confiance. La confiance générée par cette normalisation, créatrice de stabilité, bénéficie à l’ensemble des acteurs du marché.

Pour mieux comprendre comment les normes relatives à l’IA sont en train d’être définies, il faut comprendre qui est chargé de cette normalisation.

En Europe, le Comité européen de normalisation (CEN) et le Comité européen de normalisation en électronique et en électrotechnique (CENELEC) sont chargés de préparer les normes relatives à l’IA prévues par l’AI Act. Un comité commun ou Joint Technical Committee (JTC CEN-CENELEC) a été mis en place pour l’IA, le JTC 21.

Il doit produire des livrables normatifs et des lignes directrices à destination des autres comités techniques concernés par l’intelligence artificielle. Ce JTC doit également examiner l’adoption éventuelle de normes internationales pertinentes ainsi que les normes d’autres organisations compétentes, comme celles du JTC ISO-IEC 1 et ses sous-comités, tels que le SC 42.

Patrick Bezombes, responsable IA à l’Afnor représente la France au JTC 21 du CEN-CENELEC, dont il est le vice-président. L’architecture complexe des organismes de normalisation est résumée dans le tableau suivant.

Tableau des agences de normalisation dans le monde, en Europe et en France

Légende : Les cases grisées sont des instances de normalisation communes, des JTC ISO-IEC ou CEN-CENELEC

La normalisation réalisée dans le cadre du CEN-CENELEC, notamment dans le JTC 21, loin d’être purement technique, reflète aussi des choix politiques et économiques. L’implication de la France et la qualité de sa participation au processus de normalisation dépendent des acteurs qui prennent part à ce processus pour notre pays ainsi que de l’investissement des pouvoirs publics dans ce travail.

Patrick Bezombes de l’Afnor déplore par exemple que le Comité français d’accréditation (Cofrac), chargé de certifier les entreprises respectant les normes, ne s’implique pas davantage dans les discussions relatives à la normalisation prévue par l’AI Act.

Il invite également à se méfier des positions tenues par des pays qui n’ont pas fait le choix d’envoyer des représentants « indépendants » au sein du JTC, soit parce qu’ils n’ont pas d’entreprises nationales de taille importante dans le domaine de l’IA, soit parce que les entreprises étrangères, souvent américaines ou parfois chinoises, ont investi ce champ de la normalisation.

En effet, derrière la représentation des 26 autres États membres dans les comités de normalisation, Patrick Bezombes déplore qu’on retrouve souvent des représentants de grands groupes du numérique extra-européens qui défendent leurs intérêts et tentent d’influencer les discussions en faveur d’une standardisation plus légère, de moins bonne qualité et plus conforme à leurs intérêts et à leurs attentes envers l’UE.

Il a fourni à vos rapporteurs une liste éclairante des liens d’intérêt qui unissent plusieurs des membres du JTC 21 du CEN-CENELEC sur la normalisation de l’intelligence artificielle à des grandes entreprises étrangères du secteur du numérique.

Au total, le chantier stratégique de la normalisation est désinvesti par les gouvernements des États membres et par la Commission européenne alors qu’il devrait être surveillé de très près par les pouvoirs publics, les administrations nationales et les institutions européennes.

3. Une gouvernance européenne de l’IA à compléter

a) Mobiliser les entreprises et élaborer de la Soft Law : l’AI Pact et les bonnes pratiques

En amont de l’opposabilité des dispositions de l’AI Act, la Commission européenne a proposé en septembre 2024 un Pacte pour l’IA ou AI Pact reposant sur les engagements volontaires des entreprises afin de créer une communauté collaborative qui facilite la mise en œuvre proactive de certaines mesures ainsi que la communication[355].

Selon la page d’un site officiel du gouvernement, ce « pacte européen sur l’IA ressemble à une vaste blague »[356]. L’UE qui chercherait « par tous les moyens à rallier les entreprises à sa grande cause, à savoir l’application de son règlement sur l’intelligence artificielle » utiliserait ce pacte d’engagements volontaires « dont personne ne vérifiera s’ils sont respectés pour brosser ses signataires dans le sens du poil ». OpenAI serait même un « parfait exemple de l’hypocrisie » des grandes entreprises du numérique puisque « la société la plus en vogue du marché se targue de soutenir les priorités fondamentales du pacte » alors que son propre comité d’éthique, de sûreté et de sécurité est composé de membres de son conseil d’administration[357].

Vos rapporteurs soulignent que plusieurs entreprises ont tout de même refusé de rejoindre ce pacte pourtant proposé sous la forme de simples engagements volontaires, marquant par-là leur opposition à la démarche de la Commission européenne, à l’instar d’Apple et de Meta[358].

Parallèlement à ce Pacte pour l’IA, l’UE débute ses travaux sur la rédaction de codes de bonnes pratiques qui doivent aboutir au plus tard le 2 mai 2025. La Commission européenne et son Bureau de l’IA ont ainsi lancé le 30 septembre 2024 ces travaux, qui devraient s’appuyer sur un panel scientifique d’experts indépendants, avec notamment pour objectif de préciser les règles de classification et le cadre applicable aux modèles d’IA à usage général en distinguant parmi eux ceux présentant un risque systémique ; de proposer des outils d’évaluation des risques et des mesures d’atténuation ; d’établir des modalités de transparence et de respect des droits d’auteur.

b) Deux projets de directive complémentaires à l’AI Act : l’intelligence artificielle comme produit sur le marché unique

En parallèle de l’adoption de l’AI Act, les institutions européennes discutent de deux projets de directives pour définir des règles en matière de responsabilité civile extracontractuelle pour l’IA. Ces textes, qui ont pour objet de protéger les utilisateurs, sont complémentaires de l’AI Act – surtout axé sur la prévention des risques – et y renvoient directement[359].

Alors que les règles nationales en matière de responsabilité pour faute obligent la victime à prouver l’existence d’un acte préjudiciable ou d’une omission de la part de la personne qui a causé le dommage, le fonctionnement des systèmes d’IA rend difficile une telle identification.

Ceci est particulièrement préoccupant pour les TPE et PME qui ne peuvent pas se permettre d’avancer des frais dans une procédure pour obtenir des réparations. Ainsi, il est proposé d’adapter la politique de responsabilité du producteur du fait des produits défectueux en visant une harmonisation des régimes de responsabilité pour l’IA au sein de tous les pays de l’UE.

La directive 2022/0302[360] est une révision de la directive 85/374/CEE. Elle considère les systèmes d’IA et les biens dotés d’IA comme des « produits » sur le marché. De ce fait, les personnes lésées par un système d’IA défectueux peuvent obtenir des réparations sans qu’elles n’aient à prouver la faute du fabricant. Le demandeur doit prouver la défectuosité du produit, le dommage subi et le lien de causalité entre la défectuosité et le dommage.

La directive 2022/0303[361] introduit de nouveaux concepts dans le cas de responsabilité civile en réparation de dommages causés par une faute extracontractuelle. La logique de cette directive est proche de celle citée ci-dessus, elle vise aussi à faciliter l’obtention de réparations. D’une part, un demandeur lésé peut demander la divulgation d’éléments de preuve de la part du défendeur qui opère un système d’IA, d’autre part, si cette demande n’est pas satisfaite, il y a présomption de non-respect du devoir de vigilance pour le défendeur.

Le demandeur qui a été lésé peut en effet saisir les juridictions nationales pour qu’elles ordonnent la divulgation d’éléments de preuve pertinents concernant un système d’IA à haut risque soupçonné d’avoir causé un dommage. Pour cela, le demandeur doit présenter des éléments de preuve suffisants pour étayer la plausibilité d’une action en réparation. Un défendeur qui ne divulguerait pas ces informations aux instances compétentes serait présumé avoir manqué à son devoir de vigilance pertinent, ce qui constitue une faute, à moins qu’il ne parvienne à renverser cette présomption.

Par cette présomption réfragable, les juridictions nationales présument le lien de causalité entre la faute du défendeur et le résultat produit par un système d’IA ou son incapacité à produire un résultat. Pour cela, les trois conditions prévues à l’article 4 de la directive doivent être remplies :

- le demandeur ou la juridiction a présumé la faute du défendeur de manquement à son devoir de vigilance ;

- l’influence de la faute sur le résultat du système d’IA ou son incapacité à produire un résultat est « raisonnablement probable » ;

- le demandeur a pu prouver que le dommage a pour origine le résultat du système d’IA ou son incapacité à produire un résultat.

Dans le cas des IA à risque élevé, le manquement du défendeur à son devoir de vigilance est encore plus facile à démontrer pour le demandeur : il suffit que ces systèmes ne respectent pas les obligations fixées par la réglementation sur l’IA. Ces systèmes doivent être transparents, pouvoir être contrôlés, avoir un niveau approprié d’exactitude et pouvoir être rappelés ou retirés.

c) Le soutien européen à la recherche et à l’innovation en IA au-delà du dispositif EuroHPC

EuroHPC est l’entreprise commune pour le calcul à haute performance européen (European high-performance computing joint undertaking ou EuroHPC). Cette entreprise est un partenariat public-privé créé par un règlement de l’Union européenne du 28 septembre 2018[362], permettant la mise en commun de ressources à l’échelle européenne. L’objectif de l’entreprise est défini à l’article 3 du règlement : « La mission de l’entreprise commune est de créer, de déployer, d’étendre et de conserver dans l’Union une infrastructure intégrée de supercalcul et de données de classe mondiale, ainsi que de mettre en place et de soutenir un écosystème hautement compétitif et innovant en matière de calcul à haute performance ».

Pour financer ces infrastructures, l’Union européenne investit 486 millions d’euros et les États membres s’engagent à contribuer chacun à hauteur de 10 millions d’euros au minimum. Les entreprises privées, quant à elles, doivent financer à due proportion l’EuroHPC. Le texte distingue deux types de supercalculateurs selon leur puissance de calcul : les pétaflopique (de 1 pétaflop, soit 1015 FLOPS, à 100 pétaflops soit 1017 FLOPS), d’une part, et les pré-exaflopique (de 100 pétaflops à un exaflop, soit 1018 FLOPS), d’autre part. L’entreprise permet aux pays de financer 50 % des coûts d’acquisition et 50 % des coûts d’exploitation des supercalculateurs pré-exaflopiques et 35 % des coûts d’acquisition des supercalculateurs pétaflopiques.

En contrepartie de ces financements, l’Union européenne dispose de 50 % du temps d’accès aux supercalculateurs, proportionnellement à sa contribution financière, qu’elle distribue entre chaque État membre participant au consortium européen.

Le soutien européen à la recherche et à l’innovation en IA s’étend également à d’autres initiatives. Le 10 septembre 2024, la Commission européenne a lancé un appel à propositions pour la mise en place de fabriques d’IA ou AI Factories. Un réseau européen d’écosystèmes d’IA conjuguant puissance de calcul, accès aux données et talents des développeurs devrait ainsi éclore en 2026. La Commission européenne compte sur l’accélération du développement d’espaces européens communs des données, mis à la disposition de la communauté de l’IA.

L’Union européenne a également annoncé au début de l’année 2024 un soutien financier à l’IA générative, accordé par la Commission dans le cadre d’Horizon Europe et du programme pour une Europe numérique. Ce paquet mobiliserait environ 4 milliards d’euros d’investissements publics et privés d’ici à 2027.

Dans la continuité du consortium « AI4EU » lancé en 2019, l’initiative « GenAI4EU » devrait soutenir le développement de nouveaux cas d’utilisation et d’applications émergentes liés à l’IA générative dans 14 écosystèmes industriels européens, ainsi que dans le secteur public. Les domaines d’application comprennent la robotique, la santé, les biotechnologies, l’industrie manufacturière, la mobilité, le climat et les mondes virtuels.

L’Union européenne poursuivra par ailleurs la promotion des investissements publics et privés dans les start-up dans le domaine de l’IA, à l’aide de soutien en capital-risque ou en fonds propres, y compris au moyen de nouvelles initiatives dans le cadre du programme d’accélération du CEI et d’InvestEU.

En outre, deux consortiums pour une infrastructure numérique européenne (EDIC) sont mis en place : d’une part, une Alliance pour les technologies du langage (ALT-EDIC qui doit promouvoir la diversité linguistique et la richesse culturelle de l’Europe et soutenir l’élaboration de grands modèles de langage européens par une infrastructure commune remédiant à la pénurie de données langagières européennes pour l’entraînement des IA), d’autre part l’EDIC «CitiVERSE», qui utilisera des outils d’IA de pointe pour les Smart Cities afin de mettre au point des jumeaux numériques, aidant les villes à simuler et à optimiser certaines de leurs politiques, notamment la gestion des transports et des déchets.

D. Panorama d’autres régulations nationales dans le reste du monde

1. Aux États-Unis, une régulation inachevée

a) Au niveau fédéral : de la stratégie de 2016 à l’Executive Order présidentiel d’octobre 2023

Depuis la stratégie fédérale américaine pour l’IA et sa vingtaine de recommandations dévoilée en octobre 2016 par le Président Barack Obama[363], aucune loi encadrant l’IA n’a été votée aux États-Unis. Il est vrai qu’en octobre 2016, le Président américain n’était pas favorable à l’adoption d’un cadre législatif contraignant : « si vous parlez à Larry Page, le cofondateur de Google ou aux autres, leur réaction en général, et on peut les comprendre, c’est “la dernière chose que nous voulons c’est que des bureaucrates viennent nous ralentir pendant que nous chassons la licorne” ».

En dépit de ce discours, plusieurs projets de « bills » ont été déposés au cours de ces dernières années, comme l’ont expliqué les sénateurs et les représentants américains rencontrés par vos rapporteurs au Congrès à Washington : la sénatrice Marsha Blackburn du Tennessee, le sénateur Mike Rounds du Dakota du Sud, co-président du groupe sénatorial sur l’IA, le sénateur Todd Young de l’Indiana et la représentante Anna Eshoo de Californie.

Tous ne sont pas convaincus de l’intérêt de légiférer au niveau fédéral. Seule Anna Eshoo se prononce pour une législation bipartisane fédérale complète en matière d’IA. Marsha Blackburn, bien qu’opposée à une régulation verticale de l’IA et aux dispositions de l’AI Act de l’UE, souhaite des législations fédérales sectorielles, notamment un cadre américain en faveur de la protection des données personnelles. Elle a par exemple déposé un projet de texte bipartisan avec Chris Coons, Amy Klobuchar et Thom Tillis en faveur d’un No Fake Act, protégeant notamment les artistes. De même Mike Rounds souhaite que le Congrès identifie une solution législative fédérale pour protéger et rémunérer les titulaires de droits de propriété intellectuelle, comme les détenteurs de droits d’auteur (copyrights) et de brevets.

De manière plus large, Todd Young travaille conjointement avec les sénateurs Schumer, Heinrich et Rounds à une feuille de route pour orienter, dans une logique bipartisane, les travaux du Sénat américain en matière d’IA. En 2023, Todd Young a introduit une proposition de loi pour l’Algorithmic Accountability afin d’encadrer l’utilisation de prises de décision automatisées dans des situations à incidence forte pour les secteurs du logement, des finances, de l’emploi et de l’éducation. Ce texte prévoit aussi la création d’un bureau de la technologie au sein de la Federal Trade Commission qui serait chargé de veiller à l’application et à la mise en œuvre de la loi.

Il n’existe donc pas encore de lois encadrant l’IA aux États-Unis mais le 30 octobre 2023, le Président des États-Unis a cependant signé un Executive order, décret présidentiel à portée générale, dénommé « Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence[364] ». Le texte vise le développement et l’utilisation de systèmes d’intelligence artificielle sûrs et fiables. Il s’agit d’un document assez long (le plus long de tous les décrets présidentiels jamais publiés) qui a principalement pour objet d’encadrer les modèles de fondation présentant des risques pour la sécurité, l’économie ou la santé. Il est surtout contraignant pour les administrations et agences fédérales.

Il demande aux entreprises développant ces modèles de les notifier au gouvernement fédéral et de partager les résultats de leurs tests. Ce premier axe conforte la dynamique d’engagements volontaires en faveur d’une IA « sûre, sécurisée et digne de confiance » obtenus en amont de l’adoption du décret par l’exécutif américain de la part de 15 entreprises (sept entreprises en juillet 2023, soit Amazon, Anthropic, Google, Inflection, Meta, Microsoft et OpenAI rejointes par huit autres en septembre 2023, soit Adobe, Cohere, IBM, Nvidia, Palantir, Salesforce, Scale AI et Stability).

Le texte prévoit aussi des obligations de déclaration pour les modèles dont les entraînements sont jugés à risque « systémique », en retenant un seuil plus élevé que l’AI Act européen (et donc plus souple en termes de contraintes pour les entreprises que le règlement européen) puisque le seuil de puissance de calcul est fixé à 1026 flop/s au lieu de 1025 flop/s pour le seuil européen.

Le décret confie, par ailleurs, au ministère du commerce la responsabilité de préparer des lignes directrices sur l’authentification des contenus et les filigranes ou watermarking afin de reconnaître les contenus générés par une IA.

Ce ministère abrite désormais, au sein de son National Institute of Standards and Technology (NIST), l’Institut américain pour la sécurité de l’IA (US AI Safety Institute ou AISI), dont les responsables ont été entendus, chargé d’« élaborer des lignes directrices, évaluer les modèles et poursuivre des recherches fondamentales (…) pour faire face aux risques et saisir les opportunités de l’IA ».

L’AISI a été fondé en novembre 2023, dès le lendemain de la signature du décret présidentiel sur le développement et l’utilisation d’une intelligence artificielle sûre et fiable. En février 2024, la conseillère à la politique économique de Joe Biden, Elizabeth Kelly, a été nommée à la tête de l’Institut.

En février 2024, le gouvernement américain a aussi créé de façon complémentaire le US AI Safety Institute Consortium (AISIC), regroupant plus de 200 organisations telles que les géants du secteur, Google, Anthropic ou Microsoft. En mars 2024, un budget de 10 millions de dollars lui a été alloué. Les observateurs ont noté la faiblesse de ce financement, surtout si l’on considère la puissance des grandes sociétés de la Tech et de l’IA aux États-Unis. Le NIST lui-même, qui accueille l’AISI, est également connu pour son manque chronique de financement.

D’autres aspects de l’Executive order peuvent être mentionnés. Il appelle à une plus grande protection des données personnelles et des droits des consommateurs et exige de toute l’administration fédérale et des agences gouvernementales d’être exemplaires dans leur utilisation de l’IA.

La dernière partie du décret appelle à « des actions supplémentaires » et affirme la volonté de l’exécutif de travailler avec le Congrès « en vue d’une législation bipartisane ».

Le NIST, dans le cadre duquel travaille l’AISI, largement à l’origine du texte de l’Executive order, avait déjà publié en 2023, avant le décret, un ensemble de lignes directrices non contraignantes intitulé US AI Risk Management Framework, afin de gérer les risques liés à l’IA et à accroître la confiance dans les systèmes d’IA en formalisant une série de bonnes pratiques au stade de leur conception, de leur développement, de leur entraînement et de leur utilisation. Il peut également être relevé qu’en octobre 2022, l’Office of Science and Technology Policy de la Maison-Blanche a publié un « Blueprint for an AI bill of rights » qui fait figure de projet de déclaration des droits pour la protection des citoyens américains vis-à-vis de l’IA[365]. Il contient ainsi cinq principes : « des systèmes sûrs et efficaces », « une protection contre la discrimination algorithmique », « la confidentialité des données », « la notification et l’explication des décisions », « les alternatives humaines, la considération et le retour en arrière ».

Pour conclure, en dehors de ces dispositifs réglementaires et de ces lignes directrices, les États-Unis n’ont pas encore de législation fédérale sur l’IA, en dépit de plusieurs propositions en ce sens. Pour autant, différents États cherchent, à une échelle plus locale, à aller plus vite et plus loin que les initiatives fédérales, notamment pour lutter contre les deepfakes pendant les élections.

b) Au niveau des États : plusieurs projets à commencer par celui de la Californie

Le Colorado, l’Utah, l’Illinois, le Massachusetts, l’Ohio et la Californie ont élaboré des textes pour réglementer le développement et l’utilisation de l’IA, notamment l’IA générative et les systèmes à risque élevé.

Le projet le plus intéressant est celui de la Californie sur la régulation des modèles d’IA générative, connu sous le nom de California AI Bill adopté par le Sénat et l’Assemblée de l’État, mais auquel le gouverneur Gavin Newsom a opposé son véto le 29 septembre 2024. Le texte, qui s’appliquait à tous les développeurs de systèmes d’IA offrant des services en Californie, indépendamment du lieu de leur siège social, n’a donc pas pu être promulgué.

Contrairement à l’AI Act de l’UE et aux lois chinoises, canadiennes et brésiliennes, ses dispositions visaient uniquement les modèles d’IA à risque systémique, définis selon un coût d’entraînement ou un seuil de puissance de calcul et non par les risques dans l’utilisation des systèmes. Le champ concernait ainsi les modèles d’IA ayant nécessité un coût de plus de 100 millions de dollars d’entraînement de leur seul modèle de fondation ou de plus de 10 millions de dollars de réglage fin (fine-tuning) ou encore une puissance de calcul supérieure à 1026 FLOPS.

Les développeurs de tels modèles auraient alors eu à respecter de nombreuses exigences en termes de transparence et de tests de sécurité. En cas de non-conformité, ils se seraient exposés à des sanctions financières élevées, pouvant aller jusqu’à 10 % du coût de la puissance de calcul utilisée pour entraîner le modèle. Un modèle ayant nécessité un milliard de dollars aurait par exemple pu exposer son développeur à une amende de 100 millions de dollars. Le projet prévoyait aussi un dispositif de Kill Switch pour désactiver une IA en cas de problèmes.

Le véto du gouverneur le 29 septembre 2024 fait suite à une lettre des grands groupes de l’IA, à commencer par Microsoft, Google ou Meta, qui dénonçaient des exigences de sécurité trop vagues quant aux tests obligatoires à réaliser pour les développeurs de modèles. Les risques financiers encourus par ces entreprises en raison de l’engagement de leur responsabilité en cas de dommages causés par leurs systèmes d’IA faisaient aussi partie des motifs de leurs réserves.

Malgré ce véto qui marque la fin de l’année 2024, l’État de Californie a d’ores et déjà adopté pas moins de 17 autres nouvelles lois spécifiques ou sectorielles dans la période récente, encadrant divers aspects des technologies d’IA, comme la désinformation, la lutte contre les deepfakes, la protection des données personnelles, la protection des consommateurs, la protection des enfants ou la lutte contre la pédophilie.

2. En Chine, un développement rapide et centralisé de l’IA et de sa régulation

a) La politique chinoise en faveur d’une IA maîtrisée depuis 2017

La Chine a identifié l’intelligence artificielle comme un domaine stratégique dès 2015, avec des plans tels que « Internet+ » et « Made in China 2025 ». Après le plan d’action pour l’Internet Plus dans lequel l’IA occupe une place (2016-2018), un plan ambitieux de développement pour l’IA de nouvelle génération est adopté en juillet 2017 visant à faire de la Chine le leader mondial de l’IA d’ici 2030. Les investissements publics sont fixés entre 10 et 15 milliards de dollars par an, et un cadre juridique se construit peu à peu. En 2019, une Commission nationale pour la gouvernance de l’intelligence artificielle est mise en place et a proposé huit principes de gouvernance en faveur du développement d’une IA responsable, concernant tant la protection de la vie privée ou la sécurité que le contrôle et la transparence des algorithmes[366]. La même année, le Consensus de Pékin a établi des principes éthiques pour l’IA, visant surtout l’éducation.

En 2021, la Commission nationale pour la gouvernance de l’intelligence artificielle a publié des normes éthiques pour l’intelligence artificielle de nouvelle génération[367]. Ces principes ont été suivis d’un cadre établi en 2021 par la Cyberspace Administration of China (CAC)[368] ainsi que d’une liste de normes définies par le National Information Security Standardization Technical Committee (dite « TC260 »)[369].

Un décret interministériel sur les algorithmes et leurs recommandations a été publié en décembre 2021, dans la continuité des travaux du CAC, avec une entrée en vigueur le 1er mars 2022[370]. Outre l’enregistrement des systèmes, la fourniture d’informations et l’évaluation de ceux-ci, le décret prévoit l’interdiction de certains usages[371] et, plus largement, un cadre de classification des algorithmes basé sur des facteurs tels que l’influence sur l’opinion publique et les mobilisations sociales ou leur impact sur les comportements des utilisateurs. Une loi sur la protection des informations personnelles a parallèlement été promulguée le 20 août 2021[372].

Parmi les plans d’orientation existants, il faut aussi mentionner le cadre global du plan quinquennal 2021-2025. Ce dernier reconnaît l’IA comme essentielle pour la sécurité nationale et le développement du pays, avec des applications dans la cybersécurité, la défense, et des secteurs civils comme les villes intelligentes et l’agriculture intelligente. Les subventions du ministère de la science et des technologies (MOST) et de la Commission nationale du développement et de la réforme (NDRC) soutiennent notamment ces initiatives.

En 2023 et 2024, la jurisprudence chinoise a prévu que les contenus originaux générés par l’IA pouvaient conduire à reconnaître l’existence de droits d’auteur et à protéger, par exemple, les images créées (les prompts sont retenus comme créateurs d’une œuvre originale)[373], en revanche les œuvres élaborées avec l’assistance d’IA générative qui ressemblent trop à des œuvres existantes ou, pire, qui les copient purement et simplement font l’objet d’une répression, les fournisseurs des services d’IA pouvant même voir leur responsabilité engagée[374].

b) Un encadrement strict et assez exhaustif des IA génératives

En novembre 2022, un décret interministériel sur l’encadrement des technologies de synthèse profondes, également pris dans la continuité des travaux du CAC[375], vise les contenus engendrés par l’IA générative même si son champ d’application est plus large. Il s’agit notamment de lutter contre les fausses informations et les deepfakes en prévoyant un régime de sanctions. Le décret prévoit notamment l’obligation d’ajouter des filigranes ou watermarking pour les contenus générés par l’IA. Il peut être noté que ce décret a été publié cinq jours avant le lancement de ChatGPT.

En juillet 2023, la Cyberspace administration of China (CAC) a publié en coopération avec plusieurs ministères et administrations des mesures administratives provisoires pour la gestion des services d’IA générative[376], prévoyant, au terme de vastes consultations, des réglementations spécifiques sur les algorithmes, les deepfakes et la standardisation des bases de données. Les dispositions de ce cadre récent – et postérieur à la diffusion des IA génératives auprès du grand public – sont dans la continuité des textes précédents tout en étant plus détaillées.

Les entreprises proposant des services d’intelligence artificielle sont ainsi soumises à des obligations strictes en termes de transparence, de précision, d’efficacité et de respect de normes éthiques de leurs modèles, ces entreprises pouvant même faire l’objet de contrôles et d’inspections périodiques les conduisant à expliquer le détail des sources, des mécanismes de fonctionnement et des modalités d’entraînement de leurs modèles. Sont également énumérées les attentes lors de la phase d’entraînement des algorithmes, en termes de gestion des données et d’annotation des données d’entraînement.

La lutte contre les activités illégales est renforcée, notamment l’interdiction de la création de contenus illégaux ou immoraux ou encore portant atteinte aux droits de la propriété intellectuelle, et, au-delà, les services d’IA générative doivent enfin respecter les valeurs socialistes. Les utilisateurs et leurs données sont davantage protégés.

Il est réaffirmé que les contenus générés par l’IA doivent clairement indiquer via des filigranes ou watermarking qu’ils ont été générés par ce biais. Le National Information Security Standardization Technical Committee (dite « TC260 ») a été mandaté pour préciser les modalités de déploiement de ces techniques de marquage. Les normes proposées en août 2023 distinguent désormais deux types de techniques de filigrane, l’une explicite, l’autre implicite, c’est-à-dire imperceptible à l’œil humain mais pouvant être extraite comme une métadonnée à travers des méthodes techniques[377]. Il est prévu que ce marquage implicite inclut au moins le nom du système ayant offert le service et peut contenir des détails additionnels tels qu’un identifiant unique. En cas de téléchargement du contenu sous la forme d’un fichier, les métadonnées doivent obligatoirement prévoir des informations complémentaires, telles que des détails sur le système ayant offert le service, l’heure et la date de production, ou encore un identifiant unique.

En septembre 2023, le ministère chinois de la science et de la technologie a adopté avec le concours de neuf agences gouvernementales des « Mesures pour la revue éthique des activités scientifiques et technologiques »[378], qui mentionnent notamment les évaluations éthiques rigoureuses des activités recourant à l’IA, à travers par exemple la mise en place de comités d’éthique.

Plus récemment, le TC260 a rendu public le 29 février 2024 des « Exigences fondamentales de sécurité pour les services d’IA générative »[379]. Dans ce document, 31 risques sont identifiés à travers cinq catégories : les contenus violant les valeurs socialistes, les contenus discriminatoires, les contenus portant atteinte au droit commercial, les contenus portant atteinte aux droits individuels et les contenus ne respectant pas les obligations réglementaires en termes de sécurité. Ce texte oblige les fournisseurs de services d’IA à prendre plusieurs mesures en ce sens et à mettre en œuvre différents mécanismes d’évaluation.

En complément des règles nationales, les provinces et municipalités chinoises édictent également des règles locales. Ainsi, Shenzhen, Shanghai, Guangdong, Jiangsu et Zhejiang ont adopté des mesures pour encadrer l’IA[380].

c) Un rival sérieux des États-Unis intéressé par l’AI Act

La Chine est leader dans des domaines clés d’application de l’IA tels que la santé, les voitures autonomes, l’automatisation industrielle, les villes intelligentes ou surtout les technologies de reconnaissance faciale. La Chine fait la course en tête avec les États-Unis en apprentissage automatique et les devance même en nombre de publications, en analyse de données avancée et en algorithmes et logiciels d’accélération. Les États-Unis sont toujours en avance dans la conception des circuits intégrés et dans le traitement du langage naturel. La Chine vise donc à développer des modèles de LLM rivalisant avec ChatGPT, comme WuDao 2.0 et ErnieBot.

Elle cherche aussi à s’affranchir de sa dépendance aux GPU américaines, surtout que les États-Unis interdisent depuis trois ans l’exportation vers la Chine des puces les plus avancées[381] et même des outils de gravure. La Chine recommande donc depuis 2024, à travers des instructions de son ministère de l’industrie et des technologies de l’information, de privilégier ses alternatives nationales, comme les puces conçues par Huawei[382].

Les géants de l’IA chinois, les BATXH – pour Baidu, Alibaba, Tencent, Xiaomi, et Huawei – dominent la chaîne de valeur de l’IA dans le pays et possèdent leurs propres centres de recherche. Huawei, par exemple, développe des puces pour pallier les restrictions à l’exportation de technologies de lithographie avancée, bien que l’accès à des fonderies avancées reste un défi.

La production scientifique en IA en Chine est en croissance, avec des recherches axées sur les algorithmes, la vision par ordinateur, les systèmes de recommandation, et les robots. Les chercheurs chinois publient plus que les chercheurs américains en apprentissage automatique. La France y est reconnue pour son haut niveau académique en IA, avec des accords de formation entre les deux pays et un intérêt des entreprises pour nos chercheurs.

Il faut, enfin, relever que la Chine a mis en place une stratégie à long terme pour non seulement attirer et retenir ses talents mais même favoriser leurs retours. Il s’agit essentiellement, d’une part, du plan « Made in China 2025 » dont le but est de faire de la Chine le leader mondial des technologies de pointe, créant ainsi de nombreuses opportunités pour les ingénieurs et les chercheurs et, d’autre part, du concept de « rêve chinois », un concept nationaliste visant à renforcer le sentiment d’appartenance et à encourager les Chinois de la diaspora à revenir contribuer au développement de leur pays.

Le gouvernement chinois a, de plus, mis en place des programmes pour « les Chinois de retour » en vue de faciliter le retour de chercheurs et d’entrepreneurs chinois. En outre, tout comme en Inde, les zones économiques spéciales (ZES) chinoises jouent un rôle crucial dans l’attraction des investissements étrangers et la création d’emplois qualifiés.

L’IA est, en conclusion, perçue en Chine comme un moteur de croissance et un outil stratégique. La rivalité avec les États-Unis est souvent mise en avant par les médias, tandis que la protection des données et de la vie privée n’est pas une préoccupation majeure pour le public. Les régulations européennes, comme le RGPD et l’AI Act, intéressent les régulateurs chinois pour leurs approches ambitieuses. Ils suivront donc avec intérêt la mise en œuvre du règlement.

3. Quelques autres initiatives intéressantes

Comme l’indique Florence G’Sell, auditionnée par vos rapporteurs à l’Université de Stanford, les initiatives prises en matière de régulation de l’IA permettent de distinguer trois groupes de pays :

- ceux qui font le choix d’adopter un cadre strict de régulation de l’IA, comme l’UE, la Chine, le Canada ou le Brésil ;

- ceux qui font le choix d’avancer progressivement dans la voie de la régulation, comme les États-Unis, le Japon, la Corée du Sud et l’Inde ;

- et ceux qui, pour le moment, excluent la perspective de régulations contraignantes, comme le Royaume-Uni, Israël, l’Arabie Saoudite et les Émirats arabes unis.

Ces trois cas de figure seront présentés successivement (sans l’UE, les États-Unis et la Chine vus précédemment), en mobilisant notamment les réponses aux questionnaires de vos rapporteurs et leurs déplacements ainsi que les travaux de Florence G’Sell déjà mentionnés, à travers la présentation du Canada et du Brésil, puis du Japon, de la Corée du Sud et de l’Inde et, enfin, du Royaume-Uni, d’Israël, de l’Arabie Saoudite et des Émirats arabes unis.

a) Le Canada

Le Canada, pays doté d’une recherche fondamentale en IA d’excellent niveau, est toujours en train de mettre au point sa première législation complète en matière d’IA. Le vote du projet de loi sur l’intelligence artificielle et les données (Artificial Intelligence and Data Act – AIDA) a pris du retard puisque, déposé en 2022, il a seulement passé le stade de la deuxième lecture fin 2023. Il s’agit d’assurer le développement et l’utilisation de systèmes d’IA responsables au Canada.

Ce projet de loi devrait se traduire in fine par un cadre assez proche du règlement de l’Union européenne du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle. Les systèmes d’IA y seront distingués des modèles de Machine Learning. Et un encadrement spécifique sera élaboré pour les systèmes d’IA à usage général (modèles d’IA à usage général dans l’Union européenne). On y retrouvera aussi une approche basée sur les niveaux de risque. Un système d’IA pourra être à usage général ou pas et à haut niveau de risque ou pas. Les systèmes conjuguant usage général et haut niveau de risque seront particulièrement encadrés.

Le projet de loi prévoit également la création d’un commissaire à l’intelligence artificielle et aux données, qui aura pour mission d’aider le ministre de l’innovation, des sciences et de l’industrie et sa tutelle le ministère de l’innovation, des sciences et du développement économique, à mettre en œuvre les dispositions du texte. Ce commissaire pourra prononcer des injonctions et même infliger des amendes.

Avant l’adoption définitive du projet de loi sur l’intelligence artificielle et les données, présenté il y a déjà deux ans, le Canada a adopté pour l’heure, en septembre 2023, un code de conduite pour le développement et la gestion responsables des systèmes d’IA générative avancés.

Ce code, qui repose sur la participation volontaire des entreprises, sert depuis un an de dispositif provisoire en attendant que le Canada finalise son cadre législatif. Il est d’une nature similaire à l’AI Pact de l’Union européenne.

Le Québec, de son côté, a avancé plus vite que le gouvernement fédéral avec une réforme des lois sur la protection des renseignements personnels, obligeant à informer les utilisateurs de l’utilisation de processus de prise de décision automatisés ou qui recueillent de l’information à l’aide d’outils technologiques permettant de les identifier, de les localiser ou d’effectuer leur profilage. De plus, en janvier 2024, le Conseil de l’innovation du Québec a remis au ministère de l’économie un rapport pour un encadrement réglementaire de l’IA.

b) Le Brésil

L’action du gouvernement fédéral brésilien débute en 2019 avec le lancement de la stratégie brésilienne d’intelligence artificielle (dite « EBIA »). Cette stratégie consiste notamment en un travail de préparation de lois fédérales brésiliennes pour promouvoir une utilisation responsable et éthique de l’IA au Brésil. Dès 2020, le Congrès national brésilien a commencé à examiner un projet de loi visant à établir le « cadre juridique de l’intelligence artificielle ». Ce projet de loi a été le premier d’une série de quatre projets proposés au Congrès. Des exceptions à cet encadrement sont prévues pour le data mining.

Le choix du Brésil d’établir un véritable cadre juridique pour l’intelligence artificielle a été directement influencé par la réflexion conduite au sein de l’Union européenne depuis 2018 puis par le contenu du projet de règlement sur l’intelligence artificielle de la Commission européenne d’avril 2021, devenu le règlement de l’Union européenne du 13 juin 2024.

En avril 2024, le Sénat brésilien a annoncé que sa commission temporaire interne sur l’intelligence artificielle avait publié un nouveau rapport préliminaire avec une proposition mise à jour pour l’un des quatre projets de loi. Une innovation clé de cette version alternative du projet de loi était la proposition d’un système de surveillance, autour d’un système national de régulation et de gouvernance de l’IA (SIA), coordonné par une autorité compétente nommée par le pouvoir exécutif.

Le 8 mai 2024, l’autorité brésilienne de protection des données (Autoridade Nacional de Proteção de Dados, ANPD) a publié une proposition d’amendement au projet de loi prévoyant la notion de « système d’IA à usage général », proche de la notion de modèle d’IA à usage général retenue par l’AI Act. Elle a en effet défini ces systèmes comme un « système d’IA basé sur un modèle formé avec des bases de données à grande échelle, capable d’effectuer une grande variété de tâches différentes et de servir à différentes fins, y compris celles pour lesquelles il n’a pas été spécifiquement conçu ou formé, et qui peut être utilisé dans différents systèmes ou applications ».

Le cadre juridique choisi par le Brésil pour réguler l’intelligence artificielle reprend aussi l’approche selon les niveaux de risque, dans le même esprit que les dispositions contenues dans le règlement de l’Union européenne du 13 juin 2024.

c) Le Japon

Le Japon ne dispose pas actuellement d’une loi globale réglementant le développement ou l’utilisation des systèmes d’IA. Toutefois, le gouvernement japonais a établi plusieurs séries de lignes directrices non contraignantes qui sont généralement applicables à des activités précises et a encouragé les efforts volontaires des parties prenantes de l’IA.

Il aborde au fond les risques associés à l’IA de deux manières : par les lignes directrices non contraignantes précitées et par l’application des lois sectorielles existantes. Le Japon a par exemple élaboré des lignes directrices sur la protection des données et des lois sur le droit d’auteur afin de faciliter la conformité au droit des parties prenantes de l’IA. La loi japonaise sur le droit d’auteur autorise en principe l’utilisation d’œuvres protégées par le droit d’auteur pour la formation de modèles d’IA sans l’autorisation du titulaire du droit d’auteur.

En juillet 2021, le ministère de l’économie, du commerce et de l’industrie (METI) a publié un rapport indiquant que « du point de vue de l’équilibre entre le respect des principes de l’IA et la promotion de l’innovation, et du moins à l’heure actuelle, à l’exception de certains domaines spécifiques, la gouvernance de l’IA devrait être conçue principalement avec de la soft law, favorable aux entreprises qui respectent les principes de l’IA ». Le document précise que « les exigences horizontales juridiquement contraignantes pour les systèmes d’IA sont jugées inutiles pour le moment ».

Cette approche, reposant sur des lignes directrices non contraignantes, découle de la conviction que les lois contraignantes ne peuvent pas suivre le rythme rapide et la complexité du développement de l’IA et pourraient même étouffer l’innovation en matière d’IA.

En février 2024, les autorités japonaises ont toutefois lancé des discussions sur l’élaboration d’une législation contraignante, un cadre qui imposerait différentes obligations aux développeurs de modèles fondamentaux à grande échelle.

d) La Corée du Sud

La Corée du Sud a annoncé des objectifs ambitieux pour devenir un leader mondial de la technologie de l’IA. Elle ne dispose actuellement d’aucune loi ou politique spécifique pour encadrer l’intelligence artificielle. Pour parvenir à être un leader mondial, son approche de la régulation de l’IA est en effet animée par un principe qui peut être résumé par la formule « Autoriser d’abord, réglementer ensuite ».

Une législation pourrait néanmoins se dessiner puisque son Assemblée nationale se prépare à discuter d’un projet de loi nationale sur l’IA. En attendant, la Corée du Sud veille à la mise en œuvre de ses normes éthiques en matière d’IA et prend des mesures pour mettre en œuvre sa stratégie pour une IA digne de confiance. Les agences coréennes ont pris des mesures proactives pour établir des lignes directrices sur l’IA et appliquer des mesures de protection des données personnelles aux principaux acteurs de l’IA.

e) L’Inde

L’Inde est l’un des pays asiatiques où l’économie numérique est la plus développée. Ce secteur a connu une croissance rapide au cours des dernières années, notamment à travers une forte augmentation des services numériques. L’Inde a également fait du développement et de l’adoption de l’intelligence artificielle une priorité dans ses initiatives politiques pour l’avenir.

En mars 2024, le gouvernement indien a annoncé une dotation budgétaire de plus de 1,25 milliard de dollars pour la « India AI Mission », qui recouvrira divers aspects de l’IA, notamment les capacités du pays en termes d’infrastructures informatiques, la formation, l’innovation, les jeux de données et le développement d’une IA sûre et fiable.

Les organismes gouvernementaux indiens ont entrepris diverses actions, telles que la publication de rapports ou la promotion d’initiatives visant à favoriser des pratiques et principes responsables en matière d’IA. Ces initiatives peuvent relever de soutiens au niveau fédéral comme au niveau des États et d’autres organismes de réglementation.

L’Inde a accueilli le Sommet du Partenariat mondial sur l’IA, Global Partnership on AI ou GPAI, à New Delhi en décembre 2023 et préside le Sommet en 2024. L’un des résultats du Sommet de 2023 a été la « Déclaration 2023 des ministres », dans laquelle les membres se sont engagés à continuer à œuvrer à la promotion d’une IA sûre, sécurisée et digne de confiance dans leurs pays.

Le gouvernement indien est également conscient des éventuels risques liés à ces technologies. Après plusieurs années de délibération, il a récemment promulgué une loi nationale sur la protection des données. Des cadres réglementaires pour répondre aux risques de l’IA devraient être prochainement élaborés. Des avis ont d’ores et déjà été émis en 2023 par le ministère indien de l’électronique et des technologies de l’information (MEITY) concernant l’IA générative et les deepfakes. Bien qu’il existe une incertitude quant à la nature juridiquement contraignante ou pas de ces avis, ils donnent une idée du sérieux avec lequel le gouvernement indien se préoccupe de l’IA générative et de la manière dont ces préoccupations pourraient être traitées dans les futures législations et réglementations.

Ces avis, réitérant les obligations déjà existantes en vertu de la loi indienne concernant les mesures que les plateformes doivent prendre pour identifier et prévenir la désinformation, exigent ainsi des plateformes en ligne qu’elles prennent des mesures pour lutter contre les deepfakes et autres contenus de désinformation. Outre l’identification des contenus de désinformation, la loi interdit de mettre en ligne tout contenu de désinformation et oblige les plateformes à agir sur ces contenus dans les 36 heures. Il s’agit donc en réalité essentiellement d’étendre les obligations existantes aux deepfakes. Le MEITY a publié un message sur Twitter (rebaptisé X en juillet 2023) indiquant que ses avis de décembre 2023 ont été publiés après la tenue de deux consultations avec les parties prenantes concernées, connues sous le nom de « Dialogues numériques sur l’Inde», portant notamment sur la question de la lutte contre les deepfakes. Un des avis du MEITY conseille par ailleurs aux plateformes de se conformer à diverses exigences de modération du contenu en ligne afin de continuer à bénéficier d’une immunité de responsabilité (protection de la sphère de sécurité) en vertu de la loi indienne.

Enfin, un avis a été émis par le MEITY le 1er mars 2024, exigeant que « tout modèle d’intelligence artificielle/LLM/IA générative, logiciel ou algorithme non fiable » demande préalablement à son déploiement en Inde « l’autorisation explicite » du gouvernement indien. Les entreprises ont également été invitées à soumettre des rapports sur l’état de conformité de leurs systèmes avant le 15 mars 2024.

Cet avis a fait l’objet de nombreuses critiques. Outre une mise en question de sa base juridique et de sa portée précise, diverses parties prenantes ont fait valoir que ses exigences étaient anti-innovation et avaient un impact négatif sur la croissance de l’écosystème indien de l’IA. Cela a incité le ministre indien des technologies de l’information à publier à nouveau un message sur X/Twitter, pour clarifier la portée de l’avis du MEITY puis à publier le 15 mars 2024 un nouvel avis de deux pages, remplaçant le précédent. Le nouvel avis a supprimé l’obligation de demander l’approbation du gouvernement pour les modèles d’IA générative mais impose aux entreprises de soumettre un rapport sur l’état de conformité des systèmes. Le caractère juridiquement contraignant du nouvel avis reste toujours aussi incertain. Il s’agirait en fait pour les plateformes de plus de 500 000 utilisateurs enregistrés de :

- ne pas afficher ou permettre aux utilisateurs de partager des contenus illégaux ;

- ne pas autoriser de parti pris ou de discrimination ;

- ne pas menacer l’intégrité du processus électoral ;

- d’étiqueter les contenus générés par l’IA qui peuvent inclure de la désinformation ou des deepfakes ;

- d’utiliser des métadonnées pour identifier tout utilisateur qui modifie les informations.

L’Inde cherche, par ailleurs, à faire revenir les talents sur son sol[383]. Longtemps confrontée à un exode de ses meilleurs cerveaux, elle a entrepris des actions significatives pour inverser cette tendance :

- le programme gouvernemental « Start up India, Stand up India » qui vise à promouvoir l’esprit d’entreprise et à créer un écosystème favorable aux start-up. L’objectif est de fournir un environnement propice à l’innovation et de retenir les talents sur le territoire indien ;

- le programme « Diaspora connect » qui cherche à renforcer les liens entre la diaspora indienne et son pays d’origine, en encourageant le retour des talents et les investissements ;

- l’initiative « Make in India » qui encourage les entreprises manufacturières à investir en Inde, créant ainsi de nouveaux emplois qualifiés et des opportunités pour les ingénieurs et les chercheurs indiens ;

- les zones économiques spéciales (ZES), qui bénéficient d’avantages fiscaux et réglementaires pour attirer les investissements étrangers et créer des pôles d’excellence.

f) Le Royaume-Uni

L’écosystème du Royaume-Uni en matière d’IA est le troisième au monde derrière ceux des États-Unis et de la Chine. Depuis 2022, le secteur technologique britannique est le troisième à atteindre une valorisation de plus de 1 000 milliards de dollars, après les États-Unis et la Chine. Une fiscalité avantageuse encourage ce dynamisme (EIS, SEIS, Business Asset, Disposal Relief…) tout comme la présence de plus de 400 incubateurs. Le secteur de l’IA compte 3 170 entreprises (60 % spécialisées dans l’IA et 40 % diversifiées) dont environ 50 start-up dans la seule IA générative. Il générerait 3,7 milliards de livres de valeur ajoutée pour l’économie britannique dont 71 % de revenus réalisés par les très grandes entreprises (Microsoft, Google, DeepMind, IBM, etc.). Le Royaume-Uni cherche à garder ses talents et à attirer les talents étrangers.

Le monde de la recherche y est performant et reconnu, bien intégré au secteur privé, notamment autour d’un arc de pointe Londres–Oxford–Cambridge. Certains secteurs à fort potentiel pour l’IA comme les services financiers et les services professionnels sont puissants à Londres. 55 % des entreprises de l’IA se situent donc à Londres même. Un quart environ se trouve en périphérie de Londres.

L’approche du Royaume-Uni en matière de régulation de l’IA est plutôt pro-innovation que pro-réglementation. Les autorités ne souhaitent pas perturber leur riche écosystème. Le Royaume-Uni a annoncé en 2021 un plan sur dix ans pour devenir une superpuissance mondiale de l’IA. Ce plan met l’accent sur un investissement solide dans la recherche et le développement ainsi que sur un cadre de gouvernance qui donnera la priorité à l’innovation et à la gestion des risques.

La stratégie du gouvernement britannique se concentre principalement sur la promotion de l’innovation. Au lieu de mettre en œuvre une réglementation générale, le gouvernement britannique privilégie une approche souple, contextuelle et intersectorielle fondée sur des principes. Le Royaume-Uni a ainsi pris des mesures spécifiques pour soutenir la sécurité des produits, la cybersécurité et d’autres domaines et a demandé aux agences publiques de soumettre des orientations conformes à l’approche pro-innovation de la réglementation pour traiter les risques liés à l’IA. Le gouvernement britannique reconnaît que des exigences contraignantes pourraient éventuellement être nécessaires pour atténuer les dommages potentiels liés à l’IA, mais il a également déclaré qu’il n’introduira une législation que lorsqu’une telle mesure lui semblera pleinement justifiée.

L’ancien Premier ministre Rishi Sunak, dans son discours d’octobre 2023 devant la Royal Society, a résumé l’approche du Royaume-Uni par une question : « Comment pouvons-nous rédiger des lois qui aient du sens pour quelque chose que nous ne comprenons pas encore pleinement ? » Il a fait valoir qu’il ne se précipiterait pas pour réglementer l’IA à ce stade.

Le Royaume-Uni continue de publier des conseils et des précautions en termes de sécurité pour les développeurs de l’IA, inspirés par les principes de l’OCDE. Des rapports parus en avril 2024 pourraient inciter le gouvernement britannique à prendre des mesures minimales pour adopter sa propre législation ou réglementation sur l’IA, malgré les propos antérieurs du Premier ministre.

Les étapes de construction de la politique du Royaume-Uni en matière d’IA peuvent être rappelées brièvement. Dès 2015, le pays se dote d’un institut national pour la science des données et l’IA, le Alan Turing Institute, une entité de droit privé indépendante mais financée par le gouvernement[384]. En 2017, l’IA est identifiée comme l’un des secteurs prioritaires de la stratégie industrielle nationale (UK Industrial Strategy). En 2016, est mis en place l’Institut pour une IA responsable (Responsible AI Institute ou RAI Institute) avec un partenariat public-privé efficace[385], qui s’est depuis déployé dans un grand réseau conduisant plusieurs initiatives dédiées à la promotion de l’IA, dans une approche multidisciplinaire et multisectorielle. En 2018, un Bureau national de l’IA est créé au sein du ministère de la science, de l’innovation et de la technologie (UK Office for AI).

Avec le AI Sector Deal de 2019, un paquet d’investissements de 1,3 milliard de livres est prévu. La même année, le gouvernement se dote d’un Conseil de l’IA (UK AI Council).

En 2020 est créé le Digital Regulation Cooperation Forum, un forum de coopération volontaire entre les régulateurs du secteur numérique. Son rôle est de coordonner sans fournir de directives à ses membres. Dans un rapport, le Communications and Digital Committee de la House of Lords estime que la création du forum va dans le bon sens mais qu’il ne dispose pas des pouvoirs et moyens suffisants pour répondre aux défis de la régulation de l’IA et du numérique.

En 2021 est adoptée une stratégie nationale pour l’IA, un plan sur dix ans pour faire du Royaume-Uni une « superpuissance de l’IA ». Les soutiens à cet objectif s’accélèrent depuis lors. L’IA est ainsi identifiée en 2023 comme priorité pour la stratégie de croissance du pays. Elle est, de plus, l’une des cinq technologies prioritaires du Science and Technology Framework.

En 2022 est lancée une initiative, appelée AI Standards Hub, dirigée par le Alan Turing Institute et soutenue par la British Standards Institution et le National Physical Laboratory. Elle vise à orienter les débats sur la normalisation et à développer des standards nationaux mais aussi internationaux en rassemblant les différents acteurs de la normalisation (gouvernement, régulateurs, industrie, consommateurs, société civile, etc.).

Elle repose sur quatre piliers : un observatoire qui se dote d’une base de données compilant les normes existantes ou en cours d’élaboration partout dans le monde ; une plateforme communautaire pour faciliter les connexions, la coordination, l’échange d’idées et la résolution collaborative de problèmes entre les parties prenantes ; la constitution d’un matériel d’apprentissage en ligne ainsi que des formations en présentiel afin de familiariser les acteurs avec les normes ; la construction d’une base de recherches et d’études sur les grands enjeux liés au développement de normes dans l’IA.

Le UK AI White Paper sur l’encadrement de l’IA

Les principes clés du AI White Paper pour encadrer de manière souple et pro-innovation les usages de l’IA sont les suivants :

- l’encadrement ne doit pas porter sur les technologies elles-mêmes ou les modèles mais sur les usages de ces modèles et des systèmes d’IA ;

- la régulation de ces usages est confiée à des régulateurs sectoriels et pas à un régulateur unique ;

- cinq principes horizontaux centralisés et non contraignants doivent guider l’action des régulateurs, à savoir 1. la sûreté, la sécurité et la robustesse ; 2. la transparence et l’explicabilité du processus décisionnel ; 3. la compatibilité des systèmes d’IA avec les lois britanniques existantes ; 4. l’existence d’une chaîne de responsabilités clairement établie et d’une gouvernance permettant le contrôle des systèmes d’IA ; 5. la contestabilité et l’existence de voies claires de recours.

En juin 2023, dans un rapport intitulé « Generative AI Framework for HMG », le Central Digital and Data Office du Royaume-Uni a publié des directives spécifiques sur l’IA générative pour la fonction publique britannique. Le rapport énumère 10 principes pour guider l’utilisation responsable de l’IA générative au sein du gouvernement. Ces principes vont de recommandations éthiques (utiliser l’IA générative de manière légale, éthique et responsable) à des recommandations plus pratiques (comprendre comment gérer l’intégralité du cycle de vie de l’IA générative ou avoir les compétences et l’expertise nécessaires pour créer et utiliser l’IA générative).

Le 26 octobre 2023, le roi a donné son assentiment à la promulgation de la loi sur la sécurité en ligne, qui vise surtout la modération de contenu. La loi impose une obligation légale de diligence à deux catégories de services en ligne pour limiter les contenus préjudiciables : les services qui partagent du contenu généré par l’utilisateur (Facebook par exemple) et les services de recherche (comme Google).

En mars 2023, un AI White Paper réitère et précise l’option d’une régulation souple et pro-innovation de l’IA.

À la fin de l’année 2023, dans le cadre du nouveau programme britannique pour une IA responsable (Responsible AI Programme appelé RAI UK) a été lancé un appel à projets pour financer des projets de recherche autour de l’IA responsable[386]. RAI UK cherche aussi à diffuser à l’échelle mondiale les bonnes pratiques applicables aux systèmes d’IA.

En novembre 2023, lors du sommet de Bletchley Park, a été lancé le UK AI Safety Institute, dont des responsables ont été rencontrés par vos rapporteurs. Ian Hogarth en est le directeur général et une centaine de chercheurs y sont rémunérés pour effectuer des tests sur les modèles des principales entreprises d’IA, sur la base de leur participation volontaire.

Le UK AI Safety Institute poursuit trois objectifs :

- mener des recherches sur la sécurité des systèmes d’IA ;

- effectuer des tests de sécurité sur les modèles d’IA, avant et après leur mise sur le marché ;

- promouvoir le développement d’un écosystème d’entreprises tournées vers des IA responsables et sécurisées.

Sur la base du volontariat, les entreprises participent à ces tests. Un bac à sable réglementaire a également été mis en place.

Plus récemment, en février 2024, 80 millions de livres ont été alloués au lancement de neuf centres de recherche sur l’IA à travers le pays (recherche mathématique et informatique et IA appliquée à la science, à l’ingénierie et aux données), 9 millions de livres pour un partenariat avec les États-Unis sur la recherche en IA responsable et 2 millions de livres pour le Arts and Humanities Research Council (AHRC) afin de financer la recherche en sciences sociales sur l’IA.

Par ailleurs, avec les AI Safety Summits, dont la première édition s’est tenue à Bletchley Park en novembre 2023, le Royaume-Uni cherche à se placer au centre de la régulation internationale. Rishi Sunak a ainsi déclaré vouloir faire de son pays « le foyer de la réglementation mondiale en matière de sécurité de l’IA ». Ses objectifs étaient à la fois d’installer les institutions britanniques au cœur des dispositifs de régulation internationale de l’IA ; d’attirer les regards de l’ensemble des investisseurs internationaux vers l’écosystème britannique de l’IA ; et de consacrer pour la première fois un sommet international à la question des risques extrêmes posés par les systèmes d’IA de pointe, qu’il s’agisse de mauvais usages de la technologie par des acteurs malveillants (attaques et biosécurité notamment), de futures avancées technologiques vers l’IA générale ou de perte de contrôle humain sur les machines.

Plusieurs institutions internationales ainsi que 30 pays, dont les États-Unis et la Chine, y étaient représentés. Les participants au sommet avaient pour principales préoccupations : la nécessité d’agir en vue d’une compréhension commune de l’IA de pointe (la rareté des travaux scientifiques évaluant les risques existentiels est soulignée), le fait de traiter des risques actuels et des risques extrêmes futurs, de progresser vers la normalisation et l’interopérabilité en IA, d’associer les entreprises à la mise en place de tests de sécurité.

Ce premier sommet a débouché sur une déclaration commune, la Bletchley Declaration, qui assure la description des risques potentiels de l’IA et propose de développer un réseau de chercheurs à ce sujet. Il a aussi conduit à un rapport commun sur l’état de la recherche sur les risques extrêmes posés par les modèles de fondation, dit State of Science Report et a appelé à la création de AI Safety Institutes, qui auront pour mission de renforcer la capacité du secteur public à mener des recherches sur la sécurité de l’IA et à effectuer des tests de sécurité avant et après la mise sur le marché des modèles.

La pérennisation de cette première initiative a également été actée, ce qui s’est traduit par l’organisation en 2024 d’un sommet sur la sécurité de l’IA en Corée du Sud en 2024 et la préparation d’un autre sommet en France au début de l’année 2025, sur lequel nous reviendrons.

Le soft power britannique passe par le fait de diffuser son modèle de régulation de l’IA à l’international, pour peser dans les instances multilatérales et sur l’édiction de standards internationaux.

En conclusion, l’approche britannique souple et pro-innovation doit contribuer à faire du Royaume-Uni « la place la plus attractive pour l’IA dans le monde ». Le gouvernement souhaite tirer profit du Brexit et de sa liberté réglementaire pour proposer un cadre plus souple que l’AI Act européen et attirer des capitaux étrangers.

Cette approche a des avantages (un parti pris pro-innovation, une souplesse et une adaptabilité aux évolutions des technologies, une connaissance fine de leurs secteurs par les régulateurs, etc.) mais aussi des limites (difficulté pour les régulateurs à exercer la charge qui leur sera confiée tant matériellement que techniquement, absence de cadre harmonisé entre les régulateurs et potentiels conflits d’interprétation, ce qui pourrait conduire à une sécurité et une prévisibilité moindre pour les entreprises).

De plus, pour rester une superpuissance de l’IA, le Royaume-Uni a encore des défis à relever, comme :

- une offre souveraine de GPU, avec l’annonce d’un investissement d’un milliard de livres dans le secteur des semi-conducteurs ;

- l’accès à la puissance de calcul, en 2022, le Royaume-Uni représentait 1,3 % des parts mondiales de capacités de calculs contre 2,46 % pour la France ;

- l’accès aux données, bien que les organismes publics, y compris le NHS, possèdent des données précieuses, celles-ci sont souvent mal organisées et difficiles d’accès ;

- un niveau d’investissement dans l’IA à accroître, étant actuellement largement inférieur à ceux des États-Unis et de la Chine.

Comme dans d’autres contextes nationaux, la législation britannique sur la propriété intellectuelle applicable à l’IA générative nécessitera des éclaircissements, qu’il s’agisse du régime des données utilisées pour entraîner les modèles, des droits de propriété du contenu produit à l’aide de l’IA générative ou, encore, des risques de violation d’un droit d’auteur.

g) Israël

L’industrie israélienne de l’IA générative progresse rapidement (un rapport place même l’écosystème de capital-risque de l’IA générative du pays au troisième rang mondial) en accord avec une stratégie nationale pour l’IA ambitieuse et un volet stratégique au sein de la politique de défense.

La volonté de protéger son secteur technologique (20 % du PIB israélien environ) a conduit Israël à refuser un encadrement strict de l’IA. Israël a donc choisi d’adopter une approche de régulation douce et de gouvernance de l’IA, basée sur les risques et spécifique à chaque secteur.

Il n’existe donc pas de lois ou de réglementations spécifiques qui régissent directement l’IA dans ce pays. Israël ne dispose pas non plus d’autorité de régulation de l’IA. Le ministère israélien de l’innovation, de la science et de la technologie (MIST) sert d’agence exécutive de la stratégie nationale d’IA et collabore étroitement avec le ministère israélien de la justice (MOJ). En 2022, le MIST et le MOJ ont publié un projet de document d’orientation sur l’IA. Après avoir mené des consultations publiques, les deux ministères ont publié un document d’orientation en décembre 2023 intitulé « Innovation responsable : la politique d’Israël en matière de réglementation et d’éthique de l’intelligence artificielle ». Ce document décrit l’approche du pays en matière de gouvernance et de politique de l’IA. L’innovation responsable est un terme qui reflète la volonté du pays de protéger et de favoriser son industrie technologique en pleine croissance tout en restant attaché à des principes non contraignants.

Le document d’orientation recommande aux régulateurs de formuler leurs politiques sur la base des principes de l’OCDE pour garantir la fiabilité de la technologie de l’IA. Israël a en effet officiellement approuvé les principes de l’OCDE en matière d’IA, et a fait de ces lignes directrices internationales une base pour les acteurs israéliens de l’IA. Cette approche vise à renforcer la croissance, le développement durable, l’innovation, le bien-être social et la responsabilité.

En outre, elle souligne l’importance du respect des droits fondamentaux et des intérêts publics, de la garantie de l’égalité, de la prévention des préjugés et du maintien de la transparence, de la clarté, de la fiabilité, de la résilience, de la sécurité et de la sûreté. En particulier, le document d’orientation préconise l’adoption d’une approche fondée sur les risques au moyen d’évaluations des risques menées par les régulateurs sectoriels concernés, conformément aux principes de l’OCDE.

Le document recommande également qu’Israël établisse des directives nationales pour atténuer les abus potentiels du secteur privé, tels que la discrimination, le manque de surveillance humaine, l’explicabilité insuffisante, la divulgation inadéquate, les problèmes de sécurité, les lacunes en matière de responsabilité et les violations de la vie privée.

Pour répondre à ces préoccupations, le document préconise d’éviter une législation horizontale de grande envergure et d’opérer plutôt dans le cadre de réglementations sectorielles spécifiques. Il appelle aussi à la création d’un centre de coordination des politiques d’IA sous l’égide du ministère de la justice, qui fonctionnerait comme un organe interministériel pour faciliter la coordination entre les différents départements et les agences concernées. Ce centre serait également chargé de conseiller les régulateurs, de faciliter le dialogue et le partage des connaissances avec le monde universitaire et l’industrie, et d’aider les régulateurs à identifier les applications et les défis de l’IA au sein des secteurs réglementés.

En conclusion, bien qu’aucune obligation spécifique ne soit actuellement imposée en Israël aux développeurs, aux déployeurs ou aux utilisateurs de systèmes d’IA, ces acteurs doivent se préparer à la mise en œuvre d’éventuelles normes qui seraient en harmonie avec les principes de l’OCDE.

h) L’Arabie Saoudite

Le Royaume d’Arabie saoudite n’a pas encore adopté de cadre juridique pour la gouvernance de l’IA, préférant se concentrer sur la croissance et l’investissement. Il a cependant mis à jour ses lois sur le droit d’auteur et les données personnelles pour relever les défis posés par l’IA.

Le pays a établi une autorité spécialisée et a adopté des principes éthiques pour guider le développement de l’IA.

L’Autorité saoudienne de l’intelligence artificielle (SDAIA) est ainsi chargée de superviser les ambitions du pays en matière d’IA et de préparer de nouveaux cadres législatifs et réglementaires pour l’IA.

Les Principes d’éthique de l’IA de l’Arabie saoudite tentent de régir son secteur croissant de l’IA. Cependant, la portée juridique de ces lignes directrices n’est pas claire.

i) Les Émirats arabes unis (EAU)

Parmi tous les pays arabes, les Émirats arabes unis (EAU) jouent un rôle de premier plan dans le développement des technologies d’intelligence artificielle. Dès octobre 2017, le pays a clairement exprimé son ambition de construire son écosystème d’IA dans le cadre de sa stratégie nationale pour l’intelligence artificielle. L’objectif de cette stratégie est de mettre l’accent sur les moyens d’améliorer la compétitivité des EAU en matière d’IA dans la région et dans le monde. Une priorité de second rang consiste à garantir une gouvernance et une réglementation efficaces. Un Conseil de l’intelligence artificielle et de la blockchain a notamment été mis en place.

Avec un financement du conseil de recherche sur les technologies avancées du gouvernement d’Abou Dhabi, le pays a produit le LLM en open source Falcon 180B, du nom de l’oiseau national des Émirats. Lors du lancement de Falcon par l’Institut d’innovation technologique des EAU en septembre 2023, Hugging Face a salué son arrivée comme « le plus grand LLM disponible en libre accès, avec 180 milliards de paramètres ». La création de Falcon a marqué une étape importante dans la stratégie nationale des Émirats pour intégrer le club des leaders mondiaux de l’IA.

Privilégiant l’innovation et la compétitivité, les Émirats n’ont adopté ni loi ni réglementation spécifique de l’IA. Ils privilégient des « bacs à sable réglementaires » plutôt qu’un cadre juridique contraignant : cette stratégie favorise le développement technologique avec des tests en direct des technologies dans un environnement contrôlé sous la supervision directe d’un régulateur. Il n’est pas surprenant que cette approche favorable aux développeurs reçoive le soutien marqué d’entreprises d’IA comme OpenAI.

II. Une dizaine de projets de gouvernance internationale non coordonnés

La gouvernance globale de l’IA est insuffisante en dépit des annonces répétées de nombreuses organisations internationales en la matière. Non seulement les propositions se multiplient de manière stérile car non coordonnée mais l’on assiste au creusement de la fracture numérique mondiale sous l’effet de l’IA, très inégalement distribuée sur notre planète, tant du point de vue de sa production que de son utilisation.

Outre leurs propres investigations, auditions, déplacements et questionnaires, vos rapporteurs ont pu s’appuyer pour cette partie sur les travaux comparatifs de Florence G’sell, rencontrée à l’Université de Stanford[387].

Ses recherches montrent que plusieurs catégories d’actions internationales peuvent être distinguées :

- le fait de rédiger des traités internationaux ou des lignes directrices mondiales, comme le traité contraignant du Conseil de l’Europe, l’accord non contraignant de l’ONU appelé « Pacte numérique mondial » ou les recommandations de l’Unesco ;

- le soutien aux politiques nationales et internationales par des recommandations et des travaux d’experts, comme l’illustrent les contributions de l’OCDE et du Partenariat mondial sur l’intelligence artificielle ;

- les discussions internationales dans des forums diplomatiques restreints comme le G7, le G20, les BRICS ou le Conseil du commerce et des technologies UE-États-Unis (TTC) ;

- la coordination de l’action des États membres d’organisations supranationales en matière de régulation de l’IA comme l’illustrent les initiatives de l’UE ou de l’Union africaine ;

- ou encore le fait de convoquer des représentants des États et du monde économique autour d’une question spécifique, à l’instar des sommets sur la sécurité de l’IA.

A. La réflexion technique la plus aboutie : les principes, recommandations et métriques de l’OCDE

Dès 2016, l’Organisation de coopération et de développement économiques (OCDE) a réuni un forum de prospective sur l’IA puis a organisé en 2017 une grande conférence sur l’IA (« L’IA. Machines intelligentes, politiques intelligentes »). En 2018 et 2019, elle s’est appuyée sur un groupe d’experts sur l’IA pour élaborer, en mai 2019, des principes de l’IA et des recommandations de l’OCDE pour les politiques publiques.

1. Les principes, les recommandations et la classification des systèmes

Adoptés en 2019 et amendés en 2024, les principes et les recommandations sur l’intelligence artificielle de l’OCDE[388] fournissent des lignes directrices non contraignantes aux États membres et à toutes les parties prenantes dans le cadre d’une approche responsable pour une IA digne de confiance. Certaines des recommandations concernent spécifiquement la gouvernance de l’IA et les politiques publiques de l’IA à mettre en place au niveau national. Une mise à jour des principes a été effectuée en 2024.

Prendre des décisions d’encadrement de l’IA nécessite de savoir de quoi l’on parle : il faut pouvoir décrire ce que l’on souhaite exactement réguler. Ainsi, l’OCDE propose un cadre qui permet de classer les systèmes d’IA selon différentes dimensions aux stades de leur conception et de leur utilisation[389]. Tous les pouvoirs publics devraient prendre en compte cet outil de classification ou une méthode similaire (tournée davantage vers la chaîne de valeur de l’IA par exemple) pour mettre en place des politiques publiques de régulation de l’IA.

L’OCDE fait valoir que tout modèle d’IA se décompose en quatre phases distinctes : le contexte (1), les données d’entrées (2), les modèles d’IA (3), les tâches demandées ainsi que les sorties de l’IA (4). Bien que ces phases soient distinctes, elles s’influencent mutuellement et ne peuvent pas être traitées de manière totalement indépendante.

Le contexte désigne l’environnement socio-économique dans lequel l’IA est déployée. Il désigne aussi bien l’utilisateur potentiel du modèle, que les parties prenantes à son développement, ou le secteur économique qu’il sert. De ce contexte dépendent les données et les valeurs d’entrées du modèle d’IA pour lesquelles il est important de connaître la nature mais également la façon dont elles sont collectées, ou dont elles sont amenées à évoluer, s’il s’agit de données dynamiques. De ces données récoltées dépend le modèle d’IA, qui est lui-même, un critère de classification. Le modèle peut être de type symbolique, donc basé sur une série de règles logiques, ou connexionniste et donc appuyé sur des calculs de type statistique. S’il est connexionniste, le modèle peut être soumis à un apprentissage supervisé ou semi-supervisé par exemple. Enfin, selon le type de modèle, les sorties ne sont pas les mêmes et il est évidemment important d’évaluer les modèles à la lumière de leur production et des tâches qui leur sont demandées.

Par exemple, une IA appliquée au secteur des banques et assurances peut être considérée comme particulièrement sensible car elle prend place dans un contexte (1) pouvant influencer de façon importante la vie des personnes qu’elle concerne. Elle prendrait en entrée des données personnelles, relevés de compte ou données de santé par exemple (2). Selon que le modèle utilisé est symbolique ou connexionniste (3), on n’a pas la même possibilité d’expliquer les choix réalisés en sortie par le système d’IA (4), ce qui peut représenter une injustice pour le client concerné.

L’OCDE pose cinq principes généralistes que doivent respecter les systèmes d’IA tout au long de leur cycle de vie et qui concernent l’ensemble des acteurs concernés par l’IA. Elle formule aussi cinq recommandations spécifiques à destination des décideurs politiques.

Les principes généralistes à destination de tous les acteurs de l’IA sont conçus à partir des valeurs morales nécessaires au développement d’une IA saine. Ces principes sont : « Croissance inclusive, développement durable et bien-être » (1.1), « Droits de l’homme, vie privée, équité » (1.2), « Transparence, explicabilité » (1.3), « Robustesse, sécurité, sûreté » (1.4) et « Responsabilité » (1.5). Ces principes font qu’une intelligence artificielle doit être dédiée à la prospérité et être bénéfique à l’humanité et à la planète (1.1), dans le respect des droits de l’homme, de la dignité humaine, de la vie privée et sans induire de discriminations (1.2). Ses sorties doivent être explicables au mieux et de la façon la plus transparente possible (1.3) tout en protégeant les données des utilisateurs du modèle ou des personnes dont les données ont servi d’entraînement au modèle, la sécurité et la sûreté du système doivent être garanties (1.4). Enfin, les individus et organisations qui déploient des systèmes d’IA doivent toujours être responsables du fonctionnement, donc des résultats de ces derniers et être capables d’en rendre compte (1.5).

Les cinq recommandations pour les décideurs politiques doivent permettre à ceux-ci d’anticiper les transformations liées au développement de l’IA. L’organisation recommande ainsi : un investissement dans la recherche et le développement de l’IA (2.1), l’encouragement d’un écosystème numérique pour l’IA (2.2), la fourniture d’un environnement de politiques publiques propices à l’IA (2.3), la construction et la préparation de capacités humaines pour la transformation du marché du travail (2.4) et la coopération internationale pour une IA de confiance (2.5).

Plus concrètement, cela signifie que les gouvernements devraient envisager des investissements de long terme dans la recherche et le développement d’IA mais également encourager la recherche publique comme la recherche privée, et ce, dans des domaines techniques mais également juridiques ou sociétaux, y compris à travers des investissements dans des systèmes ouverts dits open source (2.1). Les gouvernants devraient également encourager la création d’un écosystème permettant de faciliter le partage de technologies ou d’infrastructures entre les acteurs des systèmes d’IA de confiance (2.2). Un environnement de politiques publiques propices devrait également être construit, permettant de passer de la recherche et développement aux produits en passant, par exemple, par des mécanismes d’expérimentation de type bac à sable (2.3). Il faut également préparer la transition du marché du travail impliquée par l’IA en travaillant avec les parties prenantes à ce changement et en promouvant le dialogue social durant la mise en place de l’IA au travail (2.4). Enfin, plutôt qu’un travail strictement national, la gouvernance de l’IA devrait être le fruit de coopérations internationales permettant le partage d’informations ou le développement de normes internationales (2.5).

Le système de classification proposé par l’OCDE prend en compte l’ensemble du cycle de vie du modèle d’IA et permet de définir précisément ce qu’est un système d’IA et d’en donner des limites claires. Couplé à des principes éthiques également définis, il offre des ressources très utiles pour encadrer l’IA, surtout que l’OCDE y ajoute des recommandations pour le contenu des politiques publiques à mettre en place. L’organisation a aussi proposé de définir des métriques d’analyse et des outils pour corriger les problèmes pouvant subvenir. L’objectif est de maximiser, grâce à ces outils, le respect des principes éthiques par l’ensemble des parties prenantes, dont les gouvernants, tout au long du cycle de conception et d’utilisation de l’IA.

2. La méthodologie des métriques

L’OCDE a commencé par recenser un ensemble de métriques d’analyse et d’outils provenant d’organismes publics ou privés, permettant d’évaluer et de corriger d’éventuels défauts présents dans l’une des quatre phases des systèmes d’IA mentionnées ci-dessus. L’organisation a répertorié des méthodologies pour 104 métriques et 125 outils techniques de correction des systèmes d’IA.

L’utilisation d’une métrique d’évaluation dépend du type de modèle utilisé, le Word Error Rate ne peut s’appliquer qu’aux modèles de reconnaissance de discours par exemple. Elle dépend également de l’objectif évalué lors du passage du test. L’OCDE en répertorie huit, fondés sur les principes éthiques définis dans son cadre d’analyse. Certaines métriques relèvent de plusieurs principes, mais certains principes n’ont aucune métrique : responsabilité (aucune métrique disponible), équité (20 métriques), bien-être humain (aucune métrique), performance (78 métriques), gouvernance des données et de la vie privée (1 métrique), robustesse et sécurité numérique (7 métriques), sûreté (1 métrique) et transparence et explicabilité (11 métriques). On peut remarquer une répartition inégale des métriques selon les catégories, la performance des modèles possédant par exemple bien plus de métriques que les autres catégories.

En plus de ces métriques, le site de l’OCDE propose des outils d’écoute sociale relatifs à l’IA, par exemple celui concernant les tweets sur X (ex-Twitter) mentionnant l’intelligence artificielle.

Moyenne mensuelle du nombre de tweets sur X (ex-Twitter) mentionnant l’intelligence artificielle en France

Légende :

- en abscisse, la date

- en ordonnée, la moyenne mobile sur 30 jours du nombre de tweets mentionnant l’IA

Source : OECD.AI

On trouve également une mesure du nombre d’incidents concernant l’IA (AIM) qui est un outil d’écoute sociale puisqu’ il s’appuie sur le traitement automatique d’articles de presse dans le monde, et permet de voir quels sont les moments d’engouement médiatique autour de la notion d’intelligence artificielle. La mesure des incidents peut se décliner en fonction de la nature de l’incident (c’est-à-dire en fonction du principe éthique que l’IA n’a pas respecté), mais également de sa sévérité (menace non physique, danger, blessure ou mort), du type de dommage causé (physique, psychologique, etc.) et de la partie prenante victime de l’incident (gouvernement, consommateur, travailleur, minorité, etc.).

Le cadre de travail de l’IA de l’OCDE permet donc de définir l’IA au-delà de sa simple définition technique : la mise en place de politiques publiques selon ses recommandations exige par exemple de s’intéresser aux relations entre l’IA et son contexte ; le contexte influence les données et les résultats influencent l’environnement). Cette définition sociotechnique concerne un grand nombre de parties prenantes lors de la conception et l’utilisation de modèles d’IA.

Toutes les parties prenantes sont concernées par des enjeux éthiques majeurs liés à l’IA : les systèmes d’IA doivent être bénéfiques pour l’homme et son environnement, ils doivent respecter la dignité humaine et faire en sorte qu’aucun biais ne puisse nuire aux utilisateurs. Les données d’entraînement ainsi que les données des utilisateurs doivent être protégées de façon robuste et les organisations doivent toujours être responsables des produits d’un système d’IA. Pour cela, les décideurs publics doivent mettre en place des initiatives qui permettent d’encourager la recherche et développement, ainsi que de créer un écosystème sain. Les décisions doivent être prises en accord avec les multiples parties prenantes lors de la création des systèmes d’IA comme pendant leur phase de fonctionnement, qu’il s’agisse du secteur public comme du secteur privé. La gouvernance mondiale de l’IA doit être mise en place pour permettre la création de normes internationales ainsi qu’un partage plus vaste des bonnes pratiques.

Des métriques et outils sont déjà à disposition pour évaluer et corriger les défauts des systèmes d’IA, toutefois comme il a été vu, tous les principes ne disposent pas de métriques permettant leur évaluation : la performance est clairement le critère le plus évalué alors que les aspects éthiques ou la responsabilité sont difficilement voire pas du tout mesurées. En conclusion, à côté de l’évaluation des modèles eux-mêmes, l’écoute sociale peut faire partie des outils techniques qui permettent d’observer l’environnement de l’IA, notamment le rapport de la société aux technologies.

3. L’Observatoire des politiques publiques de l’IA

L’OCDE a créé un Observatoire des politiques publiques de l’IA[390] pour aider les décideurs politiques et les experts en IA à travers un centre de ressources complet sur les politiques et les normes applicables à l’IA, tout en promouvant les lignes directrices de l’OCDE puisqu’il surveille aussi la manière dont les pays respectent et mettent en œuvre les principes et les recommandations politiques de l’organisation.

L’évaluation biennale conduite par l’Observatoire, intitulée « L’état de mise en œuvre des principes de l’OCDE en matière d’IA », indique qu’en 2024 plus de 50 pays avaient mis en œuvre des stratégies nationales en matière d’IA, dont beaucoup font directement référence aux principes de l’OCDE[391]. Sur les 46 adhérents aux principes de l’OCDE en matière d’IA, 41 avaient mis en place une stratégie nationale et trois étaient en train d’en élaborer une. Le rapport indique qu’en mai 2024, plus de 1 020 programmes d’action avaient été initiés dans 70 pays membres et non membres, ce qui témoigne de l’attention accrue portée à la gouvernance de l’IA depuis 2019.

Le site de l’Observatoire des politiques de l’IA de l’OCDE propose également un référentiel en temps réel qui suit les paysages réglementaires de l’IA de 69 pays différents[392]. Il fournit également des outils pour l’audit des systèmes d’IA[393] et un Global AI Incident Monitor (AIM)[394]. Pour soutenir davantage l’AIM et les travaux de l’OCDE visant à recueillir des rapports sur les incidents liés à l’IA, l’Observatoire des politiques de l’IA a publié un rapport sur la définition des incidents liés à l’IA et des termes associés qui propose des distinctions importantes entre les incidents liés à l’IA et les dangers de l’IA[395].

B. Le cadre multilatéral en construction

1. La contribution multiforme mais encore inachevée de l’Organisation des Nations unies (ONU)

L’Organisation des Nations unies (ONU) souhaite s’associer avec l’OCDE pour avancer sur le chemin d’une régulation mondiale de l’IA[396], même si elle a semblé adopter une position prudente quant à la gouvernance globale de l’IA jusqu’ici, dans le cadre de son mandat en faveur de la paix et de la sécurité dans le monde. Il s’agit surtout pour elle de trouver des consensus au sein de la communauté internationale et de voter des résolutions qui posent un cadre non contraignant en vue du respect de ces consensus, sans aller jusqu’à une régulation réelle de l’IA par le droit international. Lors du déplacement de vos rapporteurs aux États-Unis, la représentante du bureau de liaison ONU-Unesco a confirmé que les institutions onusiennes n’en sont pas encore au stade de la construction effective d’une organisation internationale pour la gouvernance de l’IA. Une avancée importante vient cependant d’être faite très récemment avec le Pacte numérique mondial de septembre 2024.

Avant cela, l’IA n’avait pas été écartée du champ de travail de l’ONU puisque l’on dénombrait environ 300 projets en lien avec l’IA dans l’ensemble de l’ONU et de ses institutions.

La première de ces contributions est celle de l’Organe consultatif de haut niveau sur l’intelligence artificielle (High-Level Advisory Body on AI) mis en place par le Secrétaire général des Nations unies en octobre 2023.

Le rapport provisoire de ce groupe multipartite a été publié en décembre 2023 sous le titre « Interim Report : Governing AI for Humanity », suivi d’un rapport définitif en septembre 2024 : « Governing AI for Humanity »[397]. Ce dernier a été rendu public à l’occasion du Sommet sur le Futur qui s’est tenu les 22 et 23 septembre 2024 au siège de l’ONU à New York en présence de plus de 130 chefs d’État et de gouvernement et qui a surtout été l’occasion d’adopter un Pacte numérique mondial et d’annoncer le lancement d’un travail en commun entre l’ONU et l’OCDE afin de renforcer la gouvernance mondiale de l’IA.

Un autre aspect est celui de la place accordée aux droits de l’homme. En novembre 2023, le Haut-Commissaire des Nations unies aux droits de l’homme, Volker Türk, appelait ainsi à porter la plus grande attention aux risques liés à l’IA, en insistant sur son impact en matière de droits humains. Dans cette déclaration, il proposait des évaluations des modèles d’IA dans les domaines dans lesquels les technologies pourraient avoir des effets significatifs, affirmant que tout projet de gouvernance mondiale de l’IA devrait prendre en compte les droits de l’homme[398].

L’Assemblée générale des Nations unies a apporté sa contribution à la discussion internationale avec le vote de plusieurs résolutions appelant à la coopération pour garantir la sécurité des systèmes d’IA.

Le 21 mars 2024, elle a adopté une première résolution, soutenue par plus de 120 États membres, dont la France et surtout les États-Unis, à la tête de l’initiative. La résolution vise à « saisir les possibilités offertes par des systèmes d’intelligence artificielle sûrs, sécurisés et dignes de confiance pour le développement durable »[399]. Non contraignante, elle préconise une approche de régulation axée sur la sécurité, le respect des droits de la personne et des libertés fondamentales et l’inclusivité. Elle souligne l’importance de diffuser partout dans le monde les capacités de l’IA, en particulier dans les pays en développement. Elle affirme également que les droits de l’homme doivent être respectés tout au long de la chaîne de valeur de l’IA, en ligne et hors ligne, demandant à tous les États membres de s’abstenir ou de cesser d’utiliser des systèmes d’IA contraires au droit international des droits de l’homme, ou qui présentent un risque pour ces derniers. L’Assemblée générale considère que les systèmes d’IA sont des outils qui peuvent être mobilisés par les États pour répondre aux objectifs de développement durable 2030.

Dans le même temps, elle souligne les risques potentiels des technologies d’IA dans les domaines de la vie privée, des données personnelles ou encore du droit d’auteur, ainsi que les risques de biais induits par l’IA. Aussi, elle invite à prendre des mesures d’évaluation et de gouvernance des modèles, en promouvant des modèles sûrs, sécurisés et dignes de confiance.

L’Assemblée générale des Nations unies a poursuivi sa réflexion avec le vote le 1er juillet 2024 d’une autre résolution visant à « intensifier la coopération internationale en matière de renforcement des capacités dans le domaine de l’intelligence artificielle »[400]. Initiée par la Chine, cette résolution poursuit un objectif spécifique de solidarité internationale afin de permettre aux États membres de combler leurs lacunes éventuelles en termes de développement de l’IA. Elle vise à favoriser une coopération étroite en matière d’IA en encourageant davantage le partage de connaissances, les transferts de technologie, la formation et des recherches collaboratives au sein de la communauté internationale. La résolution demande aux États membres de mettre en place autant que possible des plans de renforcement de leurs capacités souveraines dans le cadre de leurs stratégies nationales relatives à l’IA.

Sur un autre aspect, en novembre 2023, la commission sur le désarmement et la sécurité internationale de l’Assemblée générale des Nations unies a adopté une résolution contre les armes létales autonomes[401].

Le Pacte numérique mondial, adopté en septembre 2024 par les participants au Sommet sur le Futur[402], vingt ans après le Sommet mondial des Nations unies sur la société de l’information, trace une feuille de route pour une coopération numérique à l’échelle mondiale poursuivant à la fois l’objectif d’exploiter l’immense potentiel des technologies numériques et celui de combler les fractures numériques existantes.

Non contraignant, ce Pacte numérique mondial propose un premier cadre global préparatoire à une gouvernance mondiale des technologies numériques et de l’intelligence artificielle. Il en définit les objectifs, les principes, les engagements et les actions permettant de développer un avenir numérique ouvert, libre et sûr pour tous, en soulignant les avantages que les technologies numériques apportent à l’humanité.

Le Pacte, qui a bénéficié de l’aide de l’UE et pour lequel la Commission européenne s’est fortement investie[403], se déclinera à travers :

- un comité scientifique international indépendant sur l’IA pour promouvoir la compréhension scientifique (la question du rôle futur de l’Organe consultatif de haut niveau sur l’intelligence artificielle au sein de l’ONU est donc posée) ;

- un dialogue mondial sur la gouvernance de l’IA impliquant les gouvernements des États membres et toutes les parties prenantes concernées, sera lancé en marge des conférences et réunions pertinentes des Nations unies ;

- l’engagement des États membres à prendre plusieurs mesures d’ici 2030, telles que le développement de mécanismes de financement et d’incitations pour connecter les 2,6 milliards de personnes ne bénéficiant pas d’Internet, l’établissement de garanties pour prévenir et traiter tout impact négatif sur les droits de l’homme découlant de l’utilisation des technologies numériques émergentes et la fourniture et la facilitation de l’accès à des informations scientifiques indépendantes pour lutter contre la désinformation.

2. Le travail spécifique de l’Organisation des Nations unies pour l’éducation, la science et la culture (Unesco)

Dans les domaines de la science, de la culture et de l’innovation, qui sont le cœur de ses compétences, l’Unesco, a initié plusieurs réflexions en matière d’intelligence artificielle[404]. Pour rester dans son champ de compétences, l’Unesco a principalement proposé la définition de règles éthiques, d’application large. Ainsi, Gabriela Ramos, sous-directrice générale pour les sciences sociales et humaines de l’Unesco affirme : « Dans aucun autre domaine, la boussole éthique n’est plus pertinente que dans celui de l’intelligence artificielle ».

Un travail préliminaire a été réalisé en 2019 par sa Commission mondiale d’éthique des connaissances scientifiques et des technologies (COMEST)[405].

Puis l’Unesco a publié le 23 novembre 2021 ses recommandations éthiques en matière d’intelligence artificielle, adoptées par 193 pays[406]. Dix principes éthiques, non contraignants, assez proches de ceux préconisés par l’ONU, ciblent les systèmes d’IA par rapport aux domaines centraux de l’Unesco : éducation, science, culture, communication et information.

Pour permettre la mise en œuvre concrète de ces recommandations éthiques, une méthodologie a été mise à la disposition des états[407] (appelée « méthode d’évaluation de l’état de préparation ») et une autre a été préparée spécifiquement pour les entreprises[408] (appelée « évaluation de l’IA éthique »). Un accord a été signé le 5 février 2024 lors du deuxième Forum mondial de l’Unesco sur l’IA par huit entreprises du secteur numérique et Audrey Azoulay, directrice générale de l’Unesco[409].

Dans le cadre de la Semaine de l’apprentissage numérique qui s’est tenue à Paris en septembre 2023, l’Unesco a publié un Guide pour l’IA générative dans l’éducation et la recherche[410], qui présente les technologies d’IA générative et les différents modèles actuellement disponibles. Il propose des recommandations pour encadrer ces technologies à la lumière de principes éthiques en promouvant l’inclusion et l’équité. Il met l’accent sur une approche centrée sur l’humain, en prônant surtout une vigilance sur les usages de l’IA dans les contextes éducatifs, ces usages devant être éthiques, sûrs, justes et dotés de sens. Il propose des mesures pour intégrer de manière responsable l’IA dans les activités d’enseignement, d’apprentissage et de recherche, notamment avec une explication pédagogique des technologies d’IA générative, une présentation de leurs enjeux éthiques et politiques et de leurs perspectives d’encadrement. Le rapport fournit des exemples d’usages de l’IA générative apportant des bénéfices pour la pensée critique ainsi que pour la créativité dans l’éducation et la recherche, tout en en atténuant les risques lors de la conception de programmes, dans l’enseignement et les activités d’apprentissage.

À la suite de ces recommandations, l’Unesco a créé en février 2024, en partenariat avec d’autres institutions comme l’Institut Alan Turing ou l’Union internationale des télécommunications (UIT), un Observatoire international de l’éthique et de la gouvernance de l’intelligence artificielle[411] (en anglais Global AI Ethics and Governance Observatory). Sur la base des recommandations de 2021, l’observatoire a pour objectif de fournir aux parties prenantes des ressources pour discuter des dilemmes éthiques liés à l’IA qui se présentent à eux, ainsi que de leurs implications sociétales.

3. Les Principes pour l’IA du G20

En relation avec l’ONU et l’Unesco, le G20 – qui représente 85 % de l’économie mondiale et 80 % de la population mondiale – a adopté, lors du sommet d’Osaka de 2019, des « Principes pour l’IA », qui reprennent les priorités fixées par l’OCDE[412]. Depuis, le G20 a mis l’intelligence artificielle à l’ordre du jour de chacune de ses rencontres.

Le sommet du G20 de Rio de Janeiro des 18 et 19 novembre 2024, est l’occasion de poursuivre la discussion sur les principes de l’IA et sur les moyens par lesquels le G20 peut contribuer à la réflexion internationale sur l’IA, en intégrant la dimension du développement, de la fracture numérique mondiale et de la justice sociale, à laquelle le Brésil est attaché[413]. Le groupe de travail sur l’économie numérique du G20 a d’ailleurs organisé en avril 2024 une conférence sur « l’intelligence artificielle pour le développement durable et la réduction des inégalités ».

C. Les forums fermés du G7, du partenariat mondial sur l’intelligence artificielle et du CONSEIL DU COMMERCE ET DES TECHNOLOGIES UE-ÉTATS-UNIS

1. Le G7 et son « processus d’Hiroshima »

Le G7 a lancé en mai 2023 un dispositif appelé « processus d’Hiroshima » qui vise à définir de grands principes pour régir l’utilisation de l’intelligence artificielle générative[414]. Il s’agit d’un cadre d’action non contraignant fondé sur les principes suivants : promouvoir une IA sûre et digne de confiance ; fournir des orientations aux organisations qui développent et utilisent les systèmes d’IA ; analyser les possibilités et les défis que représente l’IA ; et promouvoir la coopération pour le développement d’outils et de pratiques en matière d’IA.

Cinq mois plus tard, le 30 octobre 2023, éclairé par un rapport commandé à l’OCDE sur ce processus d’Hiroshima[415], le G7 a publié « Les principes directeurs internationaux du processus d’Hiroshima pour les organisations développant des systèmes d’IA avancés » et « Le code de conduite international du processus d’Hiroshima pour les organisations développant des systèmes d’IA avancés » et annoncé des projets de recherche conjoints sur l’IA générative avec le Partenariat mondial sur l’intelligence artificielle et l’OCDE.

Les principes directeurs et le code de conduite forment – avec le rapport commandé à l’OCDE et ces projets de recherche conjoints sur l’IA générative – le cadre du processus d’Hiroshima[416]. Ils abordent la « conception, le développement, le déploiement et l’utilisation de systèmes d’IA avancés » et intègrent un large éventail de principes internationaux existants, offrant un ensemble de lignes directrices plus détaillées que les principes de l’OCDE auxquels ils se réfèrent explicitement.

L’approche est fondée sur les risques tout au long du cycle de vie de l’IA, en commençant par des évaluations des risques avant le déploiement et des stratégies d’atténuation. Les développeurs et les déployeurs de modèles et de systèmes d’IA sont ainsi tenus de mettre en œuvre des procédures de gestion des risques, ainsi que des contrôles de sécurité robustes, y compris sous la forme d’exercices internes de red teaming. L’importance d’une surveillance, d’un signalement et d’une atténuation continus des abus et des incidents est soulignée. En outre, les principes et le code de conduite identifient les domaines prioritaires de la recherche et du développement de l’IA, tels que l’authentification du contenu, la protection des données personnelles et l’établissement de normes techniques.

Les deux documents se réfèrent aux mêmes principes mais ne sont pas destinés aux mêmes publics : les principes directeurs s’adressent à toutes les parties prenantes tandis que le code de conduite est d’abord destiné aux entreprises développant ou déployant des systèmes d’IA.

Le cadre du processus d’Hiroshima est non contraignant et repose sur la participation volontaire des états et des entreprises. De nombreuses entreprises ont manifesté leur intérêt mais pas encore les grandes sociétés américaines de type MAAAM, ou comme Nvidia et IBM. Parmi les entreprises développant des modèles de pointe, seul Anthropic s’est engagé à mettre en œuvre le code de conduite du processus d’Hiroshima[417].

Certains observateurs ont dénoncé un cadre trop long sur les bonnes intentions et insuffisamment détaillé, concret et opérationnel[418]. Le Président américain s’est pourtant en partie inspiré de ce cadre pour son Executive Order de 2023, rédigé avec l’appui du Nist. La présidente de la Commission européenne a, de son côté, estimé que le code de conduite était complémentaire à l’AI Act. En juin 2024, le G7 a décidé de préparer un outil de suivi de mise en œuvre du code de conduite.

Compte tenu de l’importance du sujet, à l’occasion de la réunion des ministres de l’industrie, de la technologie et du numérique du G7 les 14 et 15 mars 2024 consacrée à la future réglementation mondiale de l’IA, il a été décidé d’ouvrir les débats à différentes organisations et plusieurs autres pays : l’OCDE, le Programme des Nations unies pour le développement (PNUD), l’Unesco, l’Union internationale des télécommunications (UIT) et l’Envoyé du Secrétaire général des Nations unies pour la technologie ainsi que le Brésil, la Corée du Sud, l’Ukraine et les Émirats arabes unis ont été invités à se joindre à la conférence. Les participants sont convenus de mettre à jour les Principes directeurs et le Code de conduite du processus d’Hiroshima en fonction des nouveaux développements de l’IA.

Le 2 mai 2024, un an après le lancement du processus d’IA d’Hiroshima, le Premier ministre japonais Kishida Fumio a annoncé la création du club des amis du processus de l’IA d’Hiroshima, un groupe de 49 pays qui soutiennent l’esprit du cadre et ses lignes directrices volontaires.

En conclusion, même si la mise en œuvre de ce cadre reste incertaine, elle est néanmoins devenue un signe important de la mobilisation internationale en faveur de la gouvernance mondiale de l’IA.

2. L’expertise du Partenariat mondial sur l’intelligence artificielle (PMIA) ou Global partnership on artificial intelligence (GPAI)

Le Partenariat mondial sur l’intelligence artificielle (PMIA ou, en anglais, Global partnership on artificial intelligence ou GPAI) est une initiative internationale proposée en 2018 au sommet du G7 par la France et le Canada.

Ce partenariat, qui s’inspirait du Groupe d’experts intergouvernemental sur l’évolution du climat (GIEC ou en anglais Intergovernmental Panel on Climate Change ou IPCC), est officiellement fondé en 2020 et compte aujourd’hui vingt-neuf membres.

Il vise à promouvoir une IA responsable respectueuse des droits de l’homme et de la démocratie. Le partenariat est organisé autour de quatre thèmes : IA responsable et gouvernance de la donnée, basés à Montréal ; innovation et commercialisation, et futur du travail à Paris.

Le secrétariat du PMIA est assuré par l’OCDE, dont le siège est à Paris. Ce partenariat donne lieu à des réunions annuelles et à la publication d’un rapport annuel sous l’égide de son groupe d’experts (le GIEC du PMIA ou GPAI IPCC a ainsi pris le nom de GPAI MEG pour Multi-stakeholders Experts Group).

En 2024, le PMIA a lancé un partenariat avec l’OCDE et son prochain sommet qui se tiendra à Belgrade en Serbie en décembre 2024 devrait réunir 44 pays et l’OCDE ainsi que des entreprises, des organisations internationales et des chercheurs.

3. Le Conseil du commerce et des technologies (CCT) UE-États-Unis

Le Conseil du commerce et des technologies (CCT) UE-États-Unis a été créé en 2021 pour encourager le commerce bilatéral et réduire l’écart entre la régulation américaine souvent non contraignante et la législation européenne, souvent ambitieuse, comme l’est celle de l’AI Act par exemple. L’UE est le premier marché d’exportation des États-Unis et les États-Unis sont le 2e plus grand importateur de produits européens. Cette économie transatlantique pèse plus de 1 100 milliards de dollars et justifie la recherche de principes et de normes harmonisés, autour de valeurs partagées (comme la protection des données personnelles ou les usages éthiques de l’IA). Depuis 2021, des réunions ont lieu régulièrement (sept à ce jour) conduisant l’UE et les États-Unis à mettre en place différentes initiatives.

Après une feuille de route conjointe sur les outils d’évaluation et de mesure pour une IA et une gestion des risques dignes de confiance adoptée en 2022, le CCT a mis en place trois groupes de travail pour avancer sur la voie de trois projets de collaboration en vue de faire converger les politiques en matière de risques et de créer des outils identiques et appropriés.

L’objectif est de créer une taxonomie et une liste de termes communs, de développer des outils techniques (dont des métriques et des méthodologies de mesure), des normes et des standards internationaux et de surveiller et mesurer les risques existants et les risques émergents liés à l’IA. En avril 2024, afin d’avancer plus vite sur la sécurité de l’IA, les normes et les usages éthiques, un nouveau dialogue collaboratif est créé par le CCT entre le EU AI Office et le US AI Safety Institute.

Trois autres initiatives peuvent être mentionnées : des recherches sur les technologies améliorant la protection de la vie privée (depuis 2022) ; un rapport sur l’impact de l’IA sur l’avenir des mains-d’œuvre américaines et européennes (publié le 5 décembre 2022) suivi d’une Talent for Growth Tasfkforce chargée de l’amélioration de l’offre de formation permanente et de la diversification des pratiques de recrutement ; la préparation d’un code de conduite sur l’IA à destination des entreprises (mai 2023), abandonnée au motif que le processus d’Hiroshima du G7 poursuit le même objectif (ce travail du G7 a bien abouti le 30 octobre 2023).

D. Les initiatives non occidentales

1. La Proposition chinoise de gouvernance mondiale de l’IA

En octobre 2023, le président Xi Jinping a présenté une initiative pour la gouvernance mondiale de l’IA témoignant de l’effort stratégique de la Chine pour construire et infléchir la future gouvernance mondiale de l’intelligence artificielle[419].

Cette initiative souligne l’engagement de la Chine à favoriser une gouvernance équitable de ces technologies par la coopération internationale en préconisant une approche équilibrée qui tienne compte à la fois des opportunités et des risques de l’IA. Elle se distingue par l’importance qu’elle accorde à la collaboration internationale en soulignant la nécessité de veiller à ce que les pays en développement aient une voix significative dans la gouvernance mondiale de l’IA, permettant à toutes les nations, quels que soient leur statut économique ou leur système politique, de participer au développement et à la supervision de l’IA. L’Initiative s’oppose ainsi aux monopoles technologiques et promeut la coopération mondiale pour empêcher l’utilisation abusive des technologies de l’IA.

2. Le travail des BRICS

Les BRICS représentent plus de la moitié de la population mondiale et plus du quart de la richesse mondiale. Composé de cinq pays (Brésil, Russie, Inde et Chine en 2009, rejoints par l’Afrique du Sud en 2011), le groupe s’est étendu le 1er janvier 2024 à l’Égypte, à l’Iran, aux Émirats arabes unis et à l’Éthiopie, et une vingtaine d’autres pays ont demandé leur adhésion[420].

Depuis 2015, les BRICS ont jeté les bases de leur coopération en matière d’IA dans un « Memorandum of Understanding on Science, Technology, and Innovation », y soulignant que les technologies de l’information et des communications étaient un domaine essentiel de coopération. Dans leur déclaration commune de 2017, ces pays ont pour la première fois explicitement mentionné l’IA et en ont fait un domaine dans lequel ils devraient renforcer leurs efforts de coopération. Depuis, l’IA est régulièrement évoquée lors des sommets annuels et des rencontres ministérielles de l’organisation.

Une nouvelle étape a été franchie lors du sommet de Johannesburg en 2023, avec l’annonce par le président chinois Xi Jingping de la formation d’un Groupe d’étude sur l’IA sous l’égide de l’Institut des BRICS pour les réseaux du futur. Il s’agit à la fois de surveiller les avancées technologiques en matière d’IA, de favoriser l’innovation et d’établir un cadre international solide pour la gouvernance de l’IA. Le président Xi Jingping a annoncé que le groupe élaborerait des cadres et des normes de gouvernance de l’IA bénéficiant d’un large consensus. D’autres initiatives sur l’IA sont en cours au sein des BRICS, la Nouvelle Banque de Développement basée à Shanghai dirigée par l’ancienne présidente du Brésil Dilma Rousseff, dont l’Algérie est également membre, s’est par exemple dotée d’un groupe de travail sur l’économie numérique et les investissements dans les applications d’IA.

3. La stratégie de l’Union africaine

Les 55 États membres de l’Union africaine ont lancé, en 2013, « l’Agenda 2063 », un plan de développement de l’Afrique pour atteindre un développement socio-économique inclusif et durable en 50 ans.

L’Agence de développement de l’Union africaine dans le cadre du Nouveau Partenariat pour le développement de l’Afrique (AUDA-NEPAD), a publié le 29 février 2024, lors de la conférence « AI Dialogue » un livre blanc intitulé « Régulation et adoption responsable de l’IA en Afrique vers la réalisation de l’Agenda 2063 de l’Union africaine »[421], élaboré pendant deux ans par un groupe de haut niveau sur les technologies émergentes (African Union’s High-Level Panel on Emerging Technologies ou APET).

En s’inspirant des lignes directrices de l’Unesco, le document exhorte toute future stratégie de l’Union africaine en matière d’IA à intégrer des principes éthiques et demande aux pays africains de mettre en œuvre des stratégies nationales d’IA responsables en mettant l’accent sur des outils juridiques qui renforceront les valeurs d’équité, de sécurité, de confidentialité et de sûreté. Cependant, il n’aborde pas directement les modalités de gouvernance ni le détail des défis réglementaires et juridiques spécifiques de l’IA générative.

En février 2024, lors d’une réunion du Conseil exécutif de l’Union africaine (44e session), la Commission de l’Union africaine a appelé à une stratégie continentale pour l’IA, avec une feuille de route complète permettant aux nations africaines de développer de manière responsable les technologies d’IA. Un groupe de travail a été chargé de développer cette stratégie continentale en s’appuyant sur le livre blanc de l’AUDA-NEPAD. Le Comité technique de la communication et des technologies de l’information de l’Union africaine lors de sa réunion de juin 2024 a adopté à l’unanimité la stratégie continentale pour l’IA de l’Union africaine ainsi que le Pacte numérique africain, document distinct détaillant la stratégie de l’Afrique pour gérer son avenir numérique et promouvoir le progrès sociétal global.

Le Conseil exécutif de l’Union africaine a formellement adopté ces documents lors de sa 45e session qui s’est tenue à Accra en juillet 2024[422]. La commissaire aux infrastructures, à l’énergie et à la numérisation de l’Union africaine, Amani Abou-Zeid a déclaré qu’ils « fourniront des orientations sur l’utilisation de la technologie pour trouver des solutions aux défis de l’Afrique, aideront à accélérer de nombreux projets et programmes, et protégeront contre l’utilisation non éthique de la technologie : la technologie doit nous aider à préserver notre identité, nos langues et nos cultures, et nous être utile plutôt que de nous nuire ». Il s’agit aussi de créer plus globalement un environnement favorable au développement et à l’utilisation des technologies numériques et d’aider les gouvernements des différents États membres à élaborer leurs politiques en matière d’IA et de régulation du secteur numérique.

E. Les autres projets de gouvernance mondiale : Conseil de l’Europe, Forum économique mondial, initiatives émanant du secteur privé…

1. La Convention-cadre sur l’IA du Conseil de l’Europe

Avec ses 48 États membres et riche de ses plus de 220 conventions internationales, le Conseil de l’Europe a préparé depuis la fin de l’année 2019 à travers sa commission spéciale sur l’IA une Convention-cadre sur l’intelligence artificielle et les droits de l’homme, la démocratie et l’État de droit, qui a été adoptée le 17 mai 2024. Un rapport explicatif a été joint au texte[423].

Il s’agit du premier traité international juridiquement contraignant visant à garantir une utilisation des systèmes d’intelligence artificielle pleinement conforme aux droits humains, à la démocratie et à l’État de droit. Il nécessitera cependant d’être régulièrement ratifié par chacun des États qui auront décidé de le signer.

Ce traité international qui vise à garantir une IA respectueuse des droits fondamentaux a été ouvert à la signature le 5 septembre 2024, lors d’une conférence des ministres de la justice des États membres du Conseil de l’Europe organisée à Vilnius. à ce stade, il a été signé par Andorre, la Géorgie, l’Islande, la Norvège, la République de Moldova, Saint-Marin, le Royaume-Uni ainsi qu’Israël, les États-Unis d’Amérique et l’Union européenne.

La Convention-cadre vise à garantir que les activités menées aux différentes étapes du cycle de vie des systèmes d’intelligence artificielle sont pleinement compatibles avec les droits humains, la démocratie et l’État de droit, tout en étant favorable au progrès et aux innovations technologiques. Elle apporte des compléments aux normes internationales existantes relatives aux droits humains, à la démocratie et à l’État de droit et a surtout pour but de pallier à tout vide juridique qui pourrait résulter d’avancées technologiques rapides. Afin de résister au temps, la Convention-cadre ne régule pas la technologie et est neutre sur le plan technologique. Une conférence des parties fera office de commission exécutive du traité et facilitera la coopération entre les signataires.

La Convention-cadre du Conseil de l’Europe est critiquée par l’Assemblée parlementaire du Conseil de l’Europe, le Contrôleur européen de la protection des données et plusieurs organisations de la société civile du fait que, sous la pression de certains États membres ou observateurs (notamment les États-Unis, le Royaume-Uni, le Canada et le Japon), les obligations pesant sur les entreprises privées sont en réalité facultatives.

Les parties au traité ont en effet le choix entre appliquer la Convention-cadre aux acteurs privés ou bien traiter des risques et des impacts découlant des activités menées par les acteurs privés d’une manière conforme à l’objet et au but de la convention, en prenant « d’autres mesures pour se conformer aux dispositions du traité tout en respectant pleinement leurs obligations internationales en matière de droits de l’homme, de démocratie et d’État de droit ».

2. L’Alliance pour la gouvernance de l’IA proposée par le Forum économique mondial

Le Forum économique mondial a lancé une Alliance pour la gouvernance de l’IA[424]. Déterminée à promouvoir une IA inclusive, éthique et durable, cette Alliance de 603 membres, dont 463 organisations, se concentre sur le développement des innovations, l’intégration des technologies d’IA dans les secteurs économiques et les impacts pratiques de l’adoption de l’IA.

Elle veille à la collaboration de plusieurs groupes de travail thématiques en vue d’accélérer les progrès technologiques et sociétaux avec des systèmes d’IA sûrs et avancés et de rationaliser la gouvernance de l’IA grâce à des cadres réglementaires solides et la promotion de normes techniques.

3. Des principes et bonnes pratiques proposés par les entreprises au Partnership on AI lancé en 2016 par sept géants de l’IA

Les entreprises, notamment les MAAAM, ont non seulement publié leurs propres principes et standards en matière d’IA (par exemple Google, Microsoft, Meta et Anthropic[425]) qui prévoient des bonnes pratiques en amont du déploiement des systèmes d’IA (nettoyage des données, vigilance sur les sources et les données synthétiques ; recours à des évaluations et à des tests des modèles, y compris en red teaming ; lutte contre les biais ; alignement des modèles avec des principes éthiques) et en aval (politique de sécurité ; vigilance à la mise sur le marché et après ; transparence et accès aux sources par les RAG par exemple ; watermarking des contenus générés) mais elles ont aussi pris des initiatives en faveur de la gouvernance globale de l’IA.

Un Partnership on AI est créé en 2016. Fondée par Amazon, Facebook, Google, DeepMind, Microsoft et IBM, rejoints par Apple en 2017, cette association regroupe désormais plus d’une centaine de structures, non seulement des entreprises mais aussi des associations et des organismes du monde de la recherche, ainsi que des universitaires[426]. Selon sa propre définition, elle se présente comme un « centre de ressources pour les décideurs politiques, par exemple pour mener des recherches qui éclairent les meilleures pratiques en matière d’IA et pour explorer les conséquences sociétales de certains systèmes d’IA, ainsi que les politiques entourant le développement et l’utilisation de ces systèmes ». Il a publié de nombreux articles, rapports et recommandations depuis sa création, dont, en 2023, un rapport sur l’utilisation des données synthétiques et un guide pour le déploiement de modèles de fondation sûrs. Google, Meta, Microsoft, Apple, OpenAI, le Alan Turing Institute et le Ada Lovelace Institute, ont, avec de nombreuses autres entreprises et organisations, fait part de leur soutien à ces travaux relatifs à la sécurité des modèles d’IA.

Le Partnership on AI est membre du consortium américain de l’AI Safety Institute, a le statut de membre du conseil consultatif de la société civile au sein du réseau des experts de l’OCDE et a eu le statut d’observateur au sein du comité chargé de la rédaction du traité international sur l’IA du Conseil de l’Europe.

4. Le Forum sur les modèles de pointe ou Frontier Model Forum et les autres initiatives

Créé en 2023, le Forum sur les modèles de pointe, ou Frontier Model Forum, est un partenariat restreint entre les entreprises américaines développant les systèmes d’IA les plus avancés : Microsoft, OpenAI, Google et Anthropic, qui se proposent de définir les conditions du développement d’IA sûres et responsables[427]. Il s’agit en effet d’aider à :

- faire progresser la recherche sur la sécurité de l’IA afin de promouvoir le développement responsable des modèles de pointe et minimiser les risques potentiels ;

- identifier les meilleures pratiques de sécurité pour les modèles de pointe ;

- partager les connaissances avec les décideurs politiques, les universitaires, la société civile et d’autres pour faire progresser le développement responsable de l’IA ;

- soutenir les efforts visant à tirer parti de l’IA pour relever les plus grands défis sociétaux.

Le Forum vise aussi la divulgation responsable des vulnérabilités ou des capacités dangereuses au sein des modèles de pointe.

Le Forum a d’ores et déjà publié des notes. Les membres du Forum et leurs partenaires ont également créé un Fonds pour la sécurité de l’IA doté initialement de plus de 10 millions de dollars en vue de soutenir la recherche indépendante sur la sécurité de l’IA, comme de nouvelles évaluations des modèles et de nouvelles techniques de red teaming des modèles d’IA. Ce Fonds se veut un élément de l’accord sur les engagements volontaires en matière d’IA signé à la Maison-Blanche dans le cadre de l’Executive Order de 2023. Le 1er avril 2024, le Forum a annoncé qu’il avait accordé la première série de subventions au titre du Fonds.

De son côté, Meta a créé en décembre 2023 avec IBM et plus de 50 membres fondateurs une Alliance pour l’IA (AI Alliance). Ils ont été rejoints par 20 autres membres en avril 2024. Cette initiative se singularise par sa volonté de promouvoir la science ouverte et l’innovation ouverte en IA[428]. Elle a déjà mis en place des groupes de travail (l’un porte sur les outils de sécurité et de confiance, l’autre sur les politiques publiques).

Le consortium MLCommons lancé en 2020 est quant à lui composé de 125 membres et vise la coopération dans la communauté du Machine Learning. Il a produit un benchmarck apprécié des aspects software et hardware de l’apprentissage machine et offre des jeux de données et des outils utiles à tous les chercheurs. Il se propose également de définir les bonnes pratiques et les normes des systèmes d’IA relevant du Machine Learning. En 2023, ce consortium a lancé un groupe de travail sur la sécurité des systèmes d’IA, avec un intérêt pour l’évaluation des LLM selon le cadre proposé par le CRFM de Stanford. Anthropic, Coactive AI, Google, Inflection, Intel, Meta, Microsoft, Nvidia, OpenAI, Qualcomm Technologies sont, avec d’autres entreprises, au sein de ce groupe de travail qui a annoncé une première preuve de concept (Proof of Concept) en avril 2024.

Microsoft a initié en 2021 une association autour de l’origine des contenus, la Coalition for Content Provenance and Authenticity (C2PA), avec Adobe, Arm, BBC, Intel, and Truepic. Depuis, de nombreuses entreprises comme Google, OpenAI, xAI ou Sony, ont rejoint la C2PA.

Microsoft et OpenAI ont créé en 2024 un fonds pour la résilience sociétale, le Societal Resilience Fund, qui avec 2 millions de dollars vise à encourager l’éducation et la connaissance de l’IA auprès des électeurs et des communautés fragiles. Ce fonds sert par exemple à verser des subventions à des associations conduisant des projets éducatifs comme le Partnership on AI ou la C2PA.

Toujours en 2024 a été créée la Tech Coalition, autour d’Adobe, Amazon, Bumble, Google, Meta, Microsoft, OpenAI, Roblox, Snap Inc. et TikTok. Ce groupe finance des recherches sur la pédopornographie, l’exploitation d’enfants et les abus sexuels en ligne en lien avec l’IA générative.

Enfin, un Tech Accord to Combat Deceptive Use of AI in Elections, un accord pour lutter contre l’utilisation trompeuse de l’IA lors des élections, réunit, depuis février 2024, 20 signataires, dont Google, Meta, Microsoft, IBM, xAI, Anthropic, OpenAI et StabilityAI autour d’un ensemble de huit engagements pour lutter contre la désinformation politique par l’IA, notamment dans le cadre des élections qui doivent se tenir dans plus de 40 pays en 2024.

Au total, il faut retenir cette volonté des entreprises du secteur de l’IA de s’organiser en groupes sectoriels, soit pour servir de centre de ressources aux décideurs politiques comme le Partnership on AI, soit pour soutenir la recherche sur la sécurité de l’IA, identifier les bonnes pratiques pour les modèles de pointe et partager les connaissances avec les parties prenantes, comme le Frontier Model Forum. Certaines initiatives visent des aspects plus thématiques : éducation, science ouverte, authenticité des contenus, pédopornographie, désinformation à caractère politique, etc. Toutes ces démarches sont des exemples d’autorégulation comme l’a expliqué Florence G’sell mais l’on peut déplorer qu’elles ne conduisent pas, le plus souvent, à des normes précises et encore moins à des règles juridiquement contraignantes. Leur intérêt réside peut-être plutôt dans leur capacité volontaire ou non à fournir des informations précieuses aux législateurs et régulateurs qui envisagent des cadres juridiques contraignants pour les systèmes d’IA.

F. Le cadre en construction des sommets pour la sécurité de l’intelligence artificielle et des instituts de sécurité de l’IA

1. Un réseau international d’agences pour la sécurité de l’intelligence artificielle

Les sommets pour la sécurité de l’intelligence artificielle (en anglais, AI safety summits) sont des conférences internationales d’initiative britannique visant à anticiper et encadrer les risques potentiels liés à l’intelligence artificielle. Elles ont conduit plusieurs pays, après le Royaume-Uni et les États-Unis en novembre 2023, à mettre en place des AI Safety Institutes.

Le Canada, l’Australie, le Japon, la Corée du Sud, Singapour, le Kenya, la France et l’UE ont ainsi rejoint les États-Unis et le Royaume-Uni au sein d’une nouvelle coordination internationale, appelée « International Network of Cooperation of the National AI Safety Institutes » (AISI)[429], dont la première réunion s’est tenue à San Francisco les 21 et 22 novembre 2024, réunissant les experts de neuf pays et de l’Union européenne.

La secrétaire américaine au commerce, Gina Raimondo avait annoncé la naissance de ce réseau lors du sommet pour la sécurité de l’intelligence artificielle organisé par la Corée du Sud à Séoul en mai 2024. La réunion de San Francisco a permis le lancement effectif et les modalités de cette coopération internationale des AISI en vue d’avancer concrètement en termes de sécurité de l’IA, de normes techniques, d’échanges de bonnes pratiques et de partage de connaissances.

2. Du sommet de Bletchley Park au rapport de Yoshua Bengio

Ces sommets sont relativement récents, la première édition ayant eu lieu en novembre 2023 à Bletchley Park, situé à mi-chemin d’Oxford et de Cambridge, lieu symbolique pour l’informatique et l’IA car associé à la mémoire d’Alan Turing. Ils réunissent à la fois des chefs d’États et de gouvernements, mais également des représentants d’organisations internationales comme Antonio Guterres, secrétaire général de l’ONU, et des représentants d’entreprises privées comme Elon Musk ainsi que du monde de la recherche comme Yoshua Bengio.

Les cinq objectifs du premier sommet étaient de parvenir à un consensus sur les risques associés à l’IA de pointe ; de faire progresser la coopération internationale par le biais de cadres de travail nationaux et internationaux ; de déterminer des mesures de sécurité adaptées aux entreprises du secteur privé ; d’identifier des domaines de recherche collaborative en matière de sécurité de l’IA ; et de mettre en lumière les aspects bénéfiques de l’IA.

Le premier sommet, dont une partie des discussions a été rendue publique[430], a débouché sur la rédaction d’une déclaration commune de l’ensemble des participants appelée « la Déclaration de Bletchley ». Cette déclaration, plutôt pessimiste, a souligné le besoin urgent d’une collaboration internationale pour gérer les risques potentiels associés aux systèmes d’IA de pointe et a reconnu l’existence de risques existentiels pour l’humanité qui pourraient être induits par un développement rapide et non maîtrisé de l’intelligence artificielle. La déclaration appelle ainsi à se concentrer sur la notion de sécurité de l’intelligence artificielle tout au long de sa chaîne de valeur lors des prochains sommets, organisés de façon semestrielle.

Le sommet a également débouché sur une déclaration relative aux tests de sécurité, signée par l’Union européenne, dix pays (États-Unis, Royaume-Uni, France, Allemagne, Italie, Canada, Australie, Japon, Corée du Sud et Singapour) et des entreprises d’IA de premier plan, telles que OpenAI, Google, Anthropic, Amazon, Mistral, Microsoft et Meta, qui pourront s’engager à soumettre leurs modèles de pointe aux gouvernements pour qu’ils réalisent des tests de sécurité. Le document qui n’est pas juridiquement contraignant réitère qu’il incombe aux gouvernements de financer ces tests et d’évaluer les nouveaux modèles d’IA développés par les entreprises avant leur mise sur le marché. Il invite à se concentrer sur les évaluations des « risques liés à la sécurité nationale », plutôt que sur les dommages potentiels causés par les utilisations au quotidien.

Ces discussions ont également conduit à établir un groupe international de 75 experts de 30 pays chargé de rédiger un rapport annuel sur la politique et la régulation de l’IA, selon un format proche de celui utilisé par le Groupe d’experts intergouvernemental sur l’évolution du climat (GIEC). Le Partenariat mondial sur l’intelligence artificielle (PMIA ou, en anglais, Global partnership on artificial intelligence ou GPAI) le propose aussi et en octobre 2023, Eric Schmidt, ancien PDG de Google, avec plusieurs autres dirigeants du secteur, avait également proposé un tel groupe d’experts.

Le sommet de Bletchley Park a, enfin, demandé plus spécifiquement la préparation par ce groupe, en vue du prochain sommet, d’un rapport précis sur l’état de la science concernant l’IA de pointe (« State of the Science Report on Frontier AI »).

Le sommet suivant s’est déroulé six mois plus tard, en mai 2024, en visioconférence et en présentiel à Séoul et a donné lieu à la publication d’un rapport scientifique international sur la sécurité de l’IA dirigé par Yoshua Bengio, que ce dernier a pu présenter à vos rapporteurs lors de son audition.

Il a affirmé que la préparation de ce rapport a permis de réunir une sorte d’équivalent du GIEC mais pour l’IA et a fourni une évaluation actualisée et scientifiquement fondée de la sécurité des systèmes d’IA de pointe. Ce document est destiné aux décideurs publics et vulgarise les connaissances scientifiques dans le domaine[431].

Le rapport met en évidence plusieurs points clés concernant les modèles d’IA avancés. Il met l’accent sur la double nature de l’IA, son potentiel pour améliorer le bien-être, l’économie et la science mais aussi ses dangers : l’utilisation malveillante de l’IA peut entraîner de la désinformation à grande échelle, des opérations d’influence, des fraudes et des escroqueries, tandis que des systèmes d’IA défectueux pourraient produire des décisions biaisées affectant des groupes ou des personnes à raison de leur race, sexe, culture, âge ou handicap. Si les capacités de l’IA progressent rapidement, des défis fondamentaux demeurent pour les chercheurs comme la compréhension du fonctionnement interne des IA ou ses modes de raisonnement, son rapport à la causalité par exemple.

Le rapport souligne l’incertitude qui entoure l’avenir de l’IA, avec de nombreux scénarios possibles : une évolution lente ou des progrès extrêmement rapides entraînant des risques systémiques (perturbations du marché du travail et inégalités économiques), voire des risques existentiels (perte de contrôle de l’IA et conséquences catastrophiques sur l’humanité). Si des méthodes techniques, telles que des tests, le red teaming et l’audit des données d’entraînement, peuvent atténuer certains risques, elles ont des limites et ne permettent pas de traiter l’ensemble des risques.

Le sommet de Séoul a également été l’occasion pour 16 entreprises d’IA de s’engager à se doter d’un référentiel en matière de sécurité et de structures de contrôle et de gouvernance[432].

En clôture de la réunion, le Royaume-Uni et la Corée du Sud, hôtes du sommet, ont obtenu des participants l’engagement de poursuivre et d’approfondir la recherche sur la sécurité de l’IA et les seuils de risque pour les modèles de pointe[433].

Des pays, comme l’Italie ou l’Allemagne, signataires de la déclaration finale du sommet de Séoul en faveur de la coopération internationale en matière de sécurité d’IA, ont, en outre, fait part de leur volonté de rejoindre le réseau des AISI (International Network of Cooperation of the National AI Safety Institutes). Cependant, une annonce de septembre 2024 du secrétaire d’État américain Antony Blinken expliquait que le Kenya serait le seul nouveau membre du réseau à ce stade.

3. Un sommet en France les 10 et 11 février 2025

La France est chargée de l’organisation du prochain sommet qui se tiendra les 10 et 11 février 2025, et à ce titre, le Président de la République a nommé Anne Bouverot, coprésidente de la Commission de l’intelligence artificielle en 2024, comme son « envoyée spéciale » chargée de l’organisation du sommet. Vos rapporteurs peuvent d’ores et déjà affirmer que le sommet sera organisé par « verticales » thématiques et n’aura donc pas comme sujet exclusif la sécurité en matière d’intelligence artificielle.

Vos rapporteurs considèrent qu’il s’agit d’une bonne nouvelle dans la mesure où, même si elle pose des questions certaines, la question de la sécurité n’est pas le seul sujet digne d’intérêt en matière d’intelligence artificielle. Les pouvoirs publics à travers le monde doivent se saisir du sujet de l’IA de la façon la plus complète possible, et ce sommet international peut être une occasion d’y parvenir.

C’est pourquoi, en plus des recommandations générales concernant les nouveaux développements de l’intelligence artificielle, vos rapporteurs ont également des recommandations plus spécifiquement destinées au Président de la République et aux organisateurs du futur sommet des 10 et 11 février 2025 de l’intelligence artificielle. Ces recommandations visent à s’assurer qu’une vision française éclairée de l’intelligence artificielle pourra s’exprimer à travers ce sommet.

III. Les propositions de l’Office

Vos rapporteurs ont élaboré 18 recommandations, dont cinq sont consacrées à la préparation du prochain sommet sur l’intelligence artificielle que la France organisera les 10 et 11 février 2025. Ils ont choisi de limiter le nombre de préconisations de manière à pouvoir communiquer plus efficacement. Ils demandent au gouvernement et au Président de la République de traduire ces recommandations en mesures effectives rapidement opérationnelles.

A. Les propositions à soutenir dans le cadre du futur sommet de l’IA

1. Faire reconnaître le principe d’une approche transversale de l’IA et renoncer à l’approche exclusivement tournée vers les risques

La France doit profiter de l’organisation du prochain sommet pour contribuer à établir, selon une approche transversale, un cadre international de référence pour la future gouvernance mondiale des systèmes d’intelligence artificielle. Les sommets pour la sécurité de l’intelligence artificielle (AI safety summits) se sont tenus à la suite d’une initiative britannique visant à anticiper et encadrer les risques de l’intelligence artificielle dont les risques existentiels, il faut maintenant aller plus loin.

Le Sommet pour l’action sur l’IA des 10 et 11 février 2025 doit avoir le souci d’élargir les problématiques abordées et de poser les jalons de cette gouvernance mondiale. C’est pourquoi au-delà de la sécurité, il faut mettre à profit le fait que cinq thèmes essentiels seront l’objet du sommet[434] (l’IA au service de l’intérêt public avec la question des infrastructures ouvertes ; l’avenir du travail ; la culture ; l’IA de confiance ; la gouvernance mondiale de l’IA) pour faire accepter au plus haut niveau le principe d’une approche transversale des enjeux de l’IA, qui devra se matérialiser solennellement dans une déclaration finale des participants.

La France étant chargée de l’organisation du sommet, elle pourra non seulement élargir ponctuellement les problématiques et les perspectives du travail collectif mais surtout consacrer cette logique multidimensionnelle des problématiques de l’IA. Les interrogations sur les risques existentiels de l’IA, dont la concrétisation reste très incertaine, ne doivent pas prendre une part trop grande au sein de cet événement international et des futurs sommets : il convient plutôt de se préoccuper d’enjeux plus directs. En effet, les systèmes d’intelligence artificielle présentent d’ores et déjà des risques réels et certains.

L’Office a déjà eu l’occasion de consacrer plusieurs travaux à ce sujet, notamment son rapport pionnier de 2017, où il se prononçait en faveur d’une intelligence artificielle maîtrisée, utile et démystifiée, prônant l’usage éthique d’algorithmes sûrs, transparents et non discriminatoires. Il y réclamait une politique publique de l’intelligence artificielle permettant la diffusion de ces technologies dans l’économie et la société française, à travers une politique de formation initiale et continue ambitieuse, une vigilance à l’égard de la domination par la recherche privée et les entreprises américaines et l’organisation de grands débats publics évoluant en fonction de l’état de l’art de la recherche en la matière.

Nous estimons à cet égard que les cinq thèmes retenus pour le prochain sommet de l’IA éludent deux dimensions à prendre en compte de manière prioritaire :

- l’éducation, qui pourrait être ajoutée à la verticale « culture » avec pour intitulé « éducation et culture » ;

- la souveraineté numérique, qui pourrait être ajoutée à la verticale « l’IA au service de l’intérêt public » avec pour intitulé « souveraineté numérique et intérêt général ».

2. Proposer de placer la gouvernance mondiale de l’IA sous l’égide d’une seule organisation internationale

Ce sommet doit être l’occasion d’apporter un minimum de clarification et de rationalisation dans la dizaine de projets de gouvernance mondiale de l’IA, c’est pourquoi il est proposé de placer la gouvernance mondiale de l’IA sous l’égide d’une seule organisation internationale, à savoir l’ONU, seule organisation pleinement légitime sur le plan multilatéral.

L’importance et la spécificité du sujet invitent à créer une nouvelle institution spécialisée membre du système des Nations unies, dont les compétences s’étendraient de la coordination internationale de la régulation de l’IA à la lutte contre la fracture numérique mondiale, plutôt qu’à confier ces responsabilités à une agence internationale déjà existante.

Ce serait la suite logique du Pacte numérique mondial, du comité scientifique international sur l’IA et du dialogue mondial sur la gouvernance de l’IA que les Nations unies ont mis en place, en septembre 2024.

Il s’agit aussi de l’une des propositions formulées par plusieurs chercheurs qui ont évoqué différentes pistes de gouvernance internationale de l’IA[435]. L’approche de l’OCDE doit nourrir le travail de cette future organisation internationale de l’IA.

3. Initier le cadre d’une régulation globale et multidimensionnelle de l’IA en s’inspirant des travaux de l’OCDE et de l’UE

L’approche de la régulation mondiale de l’IA doit être multidimensionnelle, ainsi que le présent rapport dans ses développements sur la chaîne de valeur de l’IA ou, différemment, les travaux de l’OCDE le prévoient. L’OCDE ne reprend pas l’idée de chaîne de valeur telle qu’elle est développée dans le présent rapport mais elle propose de distinguer la multidimensionnalité de l’IA selon plusieurs phases.

Puisque les modèles d’IA se décomposent en au moins quatre phases distinctes et interdépendantes (l’OCDE retient : le contexte, les données d’entrées, les modèles eux-mêmes et les tâches demandées qui engendrent les sorties de l’IA), toutes les politiques publiques de régulation de ces technologies devraient prendre en compte la complexité de la chaîne de valeur de l’IA ou cette multidimensionnalité lors de la définition et de la mise en œuvre de règles relatives à l’IA. Les dimensions en jeu aux stades de la conception, de l’entraînement, des réglages ou encore de l’utilisation des modèles d’intelligence artificielle sont autant d’objets qui justifient une prise en compte spécifique par la régulation.

4. Annoncer un programme européen de coopération en IA, associant plusieurs pays dont au moins la France, l’Allemagne, les Pays-Bas, l’Italie et l’Espagne

Il faut profiter du sommet pour annoncer le lancement d’un grand programme européen de coopération en IA. Une telle démarche, envisagée depuis 2017, n’a toujours pas connu de traductions concrètes. Cette initiative n’a pas nécessairement à réunir l’ensemble des 27 États membres, mais au moins la France, l’Allemagne, les Pays-Bas, l’Italie et l’Espagne.

Ces pays partagent une vision assez proche de l’IA et de ses enjeux, y compris l’adoption de l’IA dans le monde du travail et les objectifs d’aide aux PME et aux start-up. Il y a déjà eu des discussions sur l’IA entre la France et l’Allemagne ou entre la France et l’Italie, mais il reste à construire un programme de coopération marquant l’existence d’une voie européenne de l’IA spécifique allant plus loin que le soutien à l’innovation ou la régulation prévue par l’AI Act, une approche basée sur l’éthique et la prise en compte des conséquences à court, moyen et long termes de ces technologies. Pour vos rapporteurs, l’IA ouvre un espace d’opportunités qui peut nous aider à aller vers des sociétés solidaires soucieuses d’usages des technologies conformes aux droits de l’homme et aux valeurs humanistes. C’est un choix politique qui permettra d’éviter les seuls usages capitalistes, sécuritaires et oppressifs de ces technologies.

5. Associer le Parlement à l’organisation du sommet

Afin de garantir une plus grande légitimité du futur sommet, il est nécessaire d’associer plus étroitement le Parlement à son organisation.

La nomination d’un sénateur et d’un député au sein du comité de pilotage du sommet serait à cet égard un gage important de crédibilité, marquant la volonté de l’exécutif d’accroître le fondement démocratique de la réflexion française sur l’encadrement de l’IA à l’échelle internationale.

Vos rapporteurs et l’Office se tiennent prêts à répondre à toute sollicitation en ce sens.