rapport établi au nom de l'office, sur les nouveaux développements de l'intelligence artificielle

B. Les propositions visant à fonder une véritable politique nationale de l’IA

6. Développer une filière française ou européenne autonome sur l’ensemble de la chaîne de valeur de l’intelligence artificielle

La première de nos propositions au niveau national est un objectif qui doit tous nous mobiliser, pouvoirs publics nationaux et locaux, décideurs économiques, associations et syndicats : nous devons viser le développement d’une filière française ou européenne autonome sur l’ensemble de la chaîne de valeur de l’intelligence artificielle, même sans chercher à rivaliser avec les puissances américaines et chinoises en la matière. En effet, mieux vaut une bonne IA chez soi qu’une très bonne IA chez les autres. Il s’agit de se protéger par la maîtrise de l’ensemble des couches de la technologie.

Que ce soit au niveau européen, par l’UE ou avec une coopération renforcée entre quelques pays, ou directement au niveau national, la France doit relever ce défi de construire pour elle, en toute indépendance, les nombreux maillons de la chaîne de valeur de l’intelligence artificielle. L’enjeu de la souveraineté nationale sur cette chaîne est crucial, c’est une condition à la fois de notre indépendance en général et d’une véritable autonomie stratégique sur ces technologies d’IA. Lorsqu’une maîtrise complète de la chaîne ne sera pas possible, notre pays pourra se tourner vers ses partenaires européens pour construire les coopérations nécessaires.

Un article récent de dirigeants de Mc Kinsey, publié le 31 octobre 2024 dans Les échos[436], se prononce également en faveur « d’une stratégie holistique pour couvrir l’ensemble de la chaîne de valeur de la technologie » en Europe, de l’énergie jusqu’aux applications en passant par les semi-conducteurs, les infrastructures et les modèles. L’Europe est aujourd’hui leader dans un seul des segments de la chaîne de valeur de l’IA, celui très précis de la gravure des puces, et ce grâce à ASML. Cet article, sans y faire référence explicitement, repose sur le constat dressé dans une note du Mc Kinsey Global Institute d’octobre 2024[437] analysant la place des pays européens dans chacun des maillons de la chaîne de valeur de l’IA.

En dehors de la niche très spécifique d’ASML, les entreprises européennes restent dans la course en matière de conceptions des modèles, d’applications d’IA et de services mais elles ne représentent que moins de 5 % de parts de marché pour les matières premières (silicium en particulier), la conception des processeurs, la fabrication des puces, les infrastructures de calcul en nuage et les supercalculateurs. Ces filières sont à développer.

Outre l’augmentation des investissements, par exemple à travers les marchés publics, comme pour des applications d’IA dans les secteurs de la défense ou de la santé par exemple, Mc Kinsey invite à prendre pleinement position sur le marché des semi-conducteurs (via des technologies émergentes notamment), à lutter contre la fuite des cerveaux en assurant l’attraction des talents, et à former davantage aux métiers des différentes filières de l’IA, par des programmes de requalification de la main-d’œuvre pour la préparer à ces nouveaux défis.

Vos rapporteurs ont retenu de leurs comparaisons internationales qu’il faut commencer à lutter réellement contre la fuite des cerveaux. L’Inde et la Chine ont toutes deux compris l’importance pour leurs stratégies nationales en IA de retenir leurs talents et d’inciter au retour de leurs expatriés. En créant des écosystèmes compétitifs favorables à l’innovation, en offrant des opportunités de carrière attractives, en renforçant le sentiment national et surtout à travers divers dispositifs concrets, la France pourra suivre la voie ouverte par ces deux pays et limiter voire inverser la tendance à la fuite des cerveaux. Nous devons aller dans cette direction. Notre pays n’est pas un centre de formation destiné à préparer les futurs génies de la Silicon Valley.

7. Mettre en place une politique publique de l’IA avec des objectifs, des moyens et des outils de suivi et d’évaluation

Plutôt que d’annoncer une stratégie sans objectifs, sans gouvernance et sans outils de suivi, visant pourtant à « faire de la France un leader mondial de l’IA », il convient de mettre en place une véritable politique publique de l’IA avec des objectifs, des moyens réels dont une gouvernance digne de ce nom, et, enfin, des outils de suivi et d’évaluation. Ces éléments sont aujourd’hui cruellement absents des politiques publiques menées en France en matière d’intelligence artificielle.

Plus largement, la politique de la Start-up Nation avec son bras armé la French Tech, aussi élitiste qu’inadaptée, est à abandonner au profit d’une politique de souveraineté numérique, cherchant à construire notre autonomie stratégique et à mailler les territoires.

8. Organiser le pilotage stratégique de la politique publique de l’intelligence artificielle au plus haut niveau

La stratégie nationale pour l’IA ne dispose pas d’une gouvernance digne de ce nom et, comme l’ont montré les développements du présent rapport, le coordinateur national à l’intelligence artificielle ne représente qu’une toute petite équipe rattachée à un service de Bercy, la DGE. Il faudra, au moins, mieux coordonner la politique publique nationale de l’intelligence artificielle que nous appelons de nos vœux et lui donner une réelle dimension interministérielle avec un rattachement du coordinateur au Premier ministre.

La nomination d’une secrétaire d’état à l’intelligence artificielle et au numérique va dans le bon sens, mais il faut aller plus loin que ce premier pas symbolique et définir un pilotage stratégique de la politique publique de l’intelligence artificielle au plus haut niveau avec une coordination interministérielle.

9. Former les élèves de l’école à l’Université, former les actifs et former le grand public à l’IA

Il est indispensable de lancer de grands programmes de formation à destination des scolaires, des collégiens, des lycéens, des étudiants, des actifs et du grand public à l’IA. De ce point de vue, les politiques conduites par la Finlande, qui ont été présentées de manière détaillée, sont des modèles à suivre. La démystification de l’IA est une première étape importante et nécessaire pour permettre une adhésion à son développement. Elle favorisera aussi la diffusion de la technologie dans la société et dans nos entreprises. Et des programmes de formation de haut niveau permettront par ailleurs une montée en compétence en IA en France, qui dispose déjà d’atouts importants en la matière.

Il faut aussi promouvoir une vision scientifiquement éclairée et plutôt optimiste de l’intelligence artificielle, telle que celle portée par Yann LeCun par exemple, qui est l’un de nos plus grands experts de ces technologies. L’IA générale reste pour l’heure une perspective peu probable et la question des risques existentiels éventuellement posés par ces technologies n’est pas une priorité, même si elle fait écho aux représentations catastrophistes que le grand public se fait souvent de l’IA en lien avec les récits de science-fiction et le cinéma. Vos rapporteurs, comme leurs prédécesseurs de 2017, jugent indispensable de démystifier l’intelligence artificielle.

10. Accompagner le déploiement de ces technologies dans le monde du travail et la société, notamment par la formation permanente

S’il est difficile de prévoir l’impact précis que l’IA aura sur le marché du travail, comme l’ont montré les développements à ce sujet dans le présent rapport, il faut tout de même accompagner le déploiement de ces technologies, notamment l’IA générative, dans le monde du travail, en particulier par des programmes de formation permanente ambitieux.

LaborIA s’intéresse aux aspects qualitatifs de ces transformations, mais il ne faut pas oublier les enjeux quantitatifs. C’est pourquoi il est recommandé de mener régulièrement des études qualitatives et quantitatives sur l’impact de l’IA sur l’emploi, le tissu social (dont les inégalités) et les structures cognitives en vue d’éclairer les pouvoirs publics et d’anticiper les mutations des pratiques professionnelles et les changements structurels dans les secteurs d’activité. Sur cette base, il sera possible d’ajuster plus efficacement les programmes de formation permanente et d’adapter les politiques publiques, par exemple en matière d’éducation, de recherche ou de soutien à l’innovation.

11. Lancer un grand dialogue social autour de l’intelligence artificielle et de ses enjeux

Le dialogue social par la négociation collective peut être renouvelé par l’introduction de cycles de discussions tripartites autour de l’IA et de ses nombreuses problématiques. Une opération d’envergure nationale, comme un Grenelle de l’IA, pourrait également être organisée.

Le dialogue social autour de l’IA devrait aussi se décliner dans les entreprises avec les salariés, les responsables des systèmes d’information et les DRH pour permettre une meilleure diffusion des outils technologiques et un rapport moins passionné à leurs conséquences. Comme le présent rapport l’a montré, c’est en effet une occasion de favoriser l’appropriation concrète et réaliste de la technologie et de ses enjeux, en se débarrassant des mythes entourant l’IA.

12. Mobiliser et animer l’écosystème français de l’IA

L’écosystème français de l’IA ne doit pas être mobilisé qu’à travers la French Tech, des meet-up à Station F et l’événement annuel VivaTech. Tous les acteurs de l’IA, la recherche publique et privée, les grands déployeurs de systèmes mais aussi l’ensemble des filières économiques via des correspondants IA (qui pourraient être des représentants des DSI par secteur) doivent pouvoir faire l’objet d’une grande mobilisation générale.

C’est un peu l’esprit qui avait régné entre décembre 2016 et mars 2017 lors de la préparation du plan France IA voulu par le Président de la République, alors François Hollande, un plan sans doute trop rapidement enterré au profit d’une stratégie de Start-up Nation dont les impasses et les lacunes apparaissent de plus en plus nettement avec le temps.

Il y manquait tout de même une structure d’animation, raison pour laquelle vos rapporteurs suggèrent de mobiliser l’écosystème français de l’IA autour de pôles d’animation régionaux, en relation étroite avec les universités, les centres de recherche, comme Inria, et les entreprises. Des expériences étrangères ayant concrétisé l’approche initiale de France IA peuvent nous inspirer. La structure NL AI Coalition, créée par le gouvernement néerlandais et rencontrée par vos rapporteurs à La Haye, rassemble ainsi depuis cinq ans l’écosystème public et privé de l’IA aux Pays-Bas, avec le concours du patronat, des universités et des grands centres de recherche. Elle s’appuie sur sept centres régionaux et est organisée en 18 groupes de travail thématiques.

13. Reconduire le programme « Confiance.ai » ou mettre en place un projet équivalent

Le programme « Confiance.ai » s’est interrompu en 2024 alors qu’il ne coûtait pas cher[438] et était efficace[439]. Il visait à permettre aux industriels d’intégrer des systèmes d’IA de confiance dans leurs process grâce à des méthodes et des outils intégrables dans tout projet d’ingénierie.

Pour ce faire, le programme levait les verrous associés à l’industrialisation de l’IA comme la construction de composants de confiance maîtrisés, la construction de données et/ou de connaissances pour augmenter la confiance dans l’apprentissage ou encore l’interaction générant de la confiance entre l’utilisateur et le système fondé lui-même sur l’IA de confiance. Il réunissait dans une logique partenariale de grands acteurs académiques et industriels français dans les domaines critiques de l’énergie, la défense, des transports et de l’industrie 4.0 comme l’illustre ce graphique.

Les partenaires du programme Confiance.ai

Source : Confiance.ai

Le programme visait la construction d’une plateforme sûre, fiable et sécurisée d’outils logiciels, qui soit à la fois souveraine, ouverte, interopérable et pérenne dans les secteurs des produits et services critiques les plus concernés, mutualisant les savoir-faire scientifiques et technologiques et contribuant au cadre technique du règlement européen sur l’intelligence artificielle. Dans ce contexte, il est demandé au gouvernement et, en particulier, à la DGE de reconduire le programme « Confiance.ai » ou de mettre très rapidement en place un projet équivalent capable d’allier des expertises en termes de technologie, d’évaluation et de normalisation de l’intelligence artificielle.

Son coût d’environ 3,75 millions d’euros par an est à mettre en regard des 37 milliards d’euros de dépenses proposés par la commission sur l’intelligence artificielle en 2024. Le programme « Confiance.ai » n’en représentait que 1 %, or au vu de ses actions et de ses résultats, il justifie la poursuite d’un effort budgétaire raisonnable et pourtant rentable.

14. Soutenir la recherche publique en intelligence artificielle selon des critères de transversalité et de diversification des technologies

La recherche privée en intelligence artificielle a pris beaucoup d’avance sur la recherche publique, mais cette dernière doit revenir dans la course. La soutenir davantage est un impératif. L’Office juge pertinent de l’orienter vers des activités transdisciplinaires et, plus globalement, transversales autour de « projets de recherche » en IA.

La préoccupation à l’égard de la diversification des technologies est aussi fondamentale : les avancées en IA se font par la combinaison et la recomposition de savoirs et de savoir-faire, pas par l’enfermement dans un modèle unique que l’on chercherait à perfectionner. L’IA générative, à travers son modèle Transformer, ne doit pas devenir la priorité du monde de la recherche, en dépit de l’effet de mode autour de ChatGPT. L’IA symbolique, par exemple, ne doit pas être totalement abandonnée, elle peut s’hybrider avec les IA connexionnistes pour forger de nouvelles approches logiques, imbriquant le signifiant et le signifié et, partant, plus proches des raisonnements humains. D’autres technologies permettant d’apporter plus de logique aux systèmes d’IA générative peuvent également inspirer de nouvelles perspectives pour la recherche, comme les modèles « Mixture of Experts » (MoE), les arbres de pensées ou Trees of Thoughts (ToT) et la génération augmentée de récupération ou Retrieval Augmented Generation (RAG). La prise en compte de modèles de représentation du monde (« World Models ») dans de nouvelles « architectures cognitives » est un autre défi que la recherche devra relever, permettant aux IA de prendre en compte la réalité spatio-temporelle, y compris le monde physique et ses lois. Ce domaine avance lentement mais pourrait connaître une accélération des découvertes[440].

Pour paraphraser Rabelais qui écrivait que « Science sans conscience n’est que ruine de l’âme », vos rapporteurs affirment que « l’IA sans logique n’est qu’illusion d’intelligence ».

15. Relever le défi de la normalisation en matière d’intelligence artificielle

Il faut permettre à la France de défendre au mieux l’intérêt national ainsi que les intérêts de nos entreprises nationales en matière de normalisation de l’IA, ce qui implique de mobiliser davantage l’Afnor et surtout le Cofrac, aujourd’hui désinvesti sur ce sujet.

Il faudrait aussi maintenir ou augmenter le financement de nos organismes de normalisation qui remplissent leurs missions dans des conditions parfois difficiles.

Enfin, la France doit inviter ses partenaires européens à faire preuve d’une plus grande vigilance dans le choix de leurs représentants dans les comités chargés de la normalisation en IA : s’appuyer sur des experts issus d’entreprises extra-européennes, le plus souvent américaines ou chinoises, n’est pas acceptable.

16. S’assurer du contrôle souverain des données issues de la culture française et des cultures francophones et créer des jeux de données autour des cultures francophones

Il faut à la fois s’assurer du contrôle souverain des données issues de la culture française, notamment des archives détenues par la BNF ou l’Institut national de l’audiovisuel, voire des cultures francophones et créer des datasets autour des cultures francophones, en vue d’alimenter l’entraînement de modèles d’IA reflétant notre environnement linguistique et culturel.

Il s’agit d’un acte de résistance face à la domination linguistique et culturelle anglo-saxonne, en particulier américaine, qui caractérise l’IA aujourd’hui et qui fait courir un risque grave d’uniformisation culturelle et d’appauvrissement linguistique. Les jeux de données autour des cultures francophones pourront être constitués avec le concours de tous les pays de la francophonie.

Les initiatives conduites par certains pays, en particulier par l’Espagne, peuvent contribuer à inspirer notre pays et à aider à la définition du cadre de ces datasets. En effet, le gouvernement espagnol a lancé depuis 2022 un plan national autour de la « nouvelle économie de la langue ». Il vise à placer l’espagnol au cœur de la transformation numérique et de la promotion de la chaîne de valeur de la nouvelle économie de la connaissance et de l’intelligence artificielle. La France doit faire la même chose pour le français. Ainsi, le plan de l’Espagne se décline notamment en constitution de bases de données textuelles dans les langues espagnoles, ces datasets, permettant l’entraînement de modèles et la création de LLM basés sur la langue et la culture espagnoles.

Comme l’Espagne, qui a réservé une part de son plan à ses langues « co-officielles » (catalan, basque, galicien) à côté de l’espagnol, la France pourrait avantageusement consacrer une part de ces jeux de données autour des cultures francophones aux langues régionales (breton, occitan, basque, corse, langues pratiquées dans les territoires ultramarins…) dont l’appartenance au patrimoine national a été consacrée par la Constitution depuis 2008.

17. Préparer une réforme des droits de propriété intellectuelle dont le droit d’auteur pour les adapter aux usages de l’IA générative

Il faut poser les bases d’une réforme des droits de propriété intellectuelle et du droit d’auteur pour les adapter aux usages de l’IA générative et aux problèmes posés plus généralement par l’utilisation de l’intelligence artificielle. Notre législation en matière de propriété intellectuelle et de droits d’auteur applicables à l’IA générative nécessite à l’évidence plusieurs éclaircissements. Le rapport d’information de la commission des lois de l’Assemblée nationale déposé en conclusion des travaux de sa mission d’information sur les défis de l’intelligence artificielle générative en matière de protection des données personnelles et d’utilisation du contenu généré s’est consacré à ce travail de clarification. Les 33 recommandations de nos collègues députés, que nous ne récapitulerons pas ici, fournissent des pistes intéressantes qu’il convient d’évaluer et de soumettre à la délibération[441].

L’objectif d’une telle réforme sera à la fois de clarifier les régimes juridiques applicables, de protéger les ayants droit des données ayant servi à l’entraînement des modèles mais aussi les créateurs d’œuvres nouvelles grâce à l’IA. Cela impliquera donc, d’une part, de trancher l’épineuse question de l’équilibre entre les intérêts des ayants droit et intérêt des entreprises développant des modèles d’intelligence artificielle, d’autre part, de lever le doute sur la frontière entre œuvre originale et contrefaçon ou copie dans le cas d’un travail créé par IA puisque la réforme devra aussi mettre fin au flou juridique entourant le statut des œuvres créées par l’intelligence artificielle.

La solution des droits voisins, utilisée dans les secteurs de la musique et du cinéma, mais aussi de l’information (dont la presse écrite) à la suite des transformations liées au numérique et à Internet, est une perspective dont il faut débattre.

Face au succès des plateformes de streaming et de service de vidéo à la demande, l’enjeu de ces compensations financières devient grandissant. Il le sera encore plus avec la diffusion de l’IA. L’UE s’est d’ailleurs dotée en 2019 d’une directive sur le droit d’auteur et les droits voisins dans le marché unique numérique[442], qu’il faudra faire évoluer au rythme des capacités de création de l’IA.

Techniquement, l’utilisation de données propriétaires et surtout de contenus protégés par le droit d’auteur peut non seulement être limitée en amont par le nettoyage des données mais dorénavant corrigée en aval grâce à une nouvelle technologie introduite récemment appelée Model disgorgement ou Machine Unlearning. Les entreprises qui collecteraient illégalement des données pour les utiliser à fin d’entraînement de leurs modèles pourraient par exemple être dans l’obligation non seulement de supprimer les données problématiques et de les abandonner lors de futurs entraînements mais surtout de mettre à jour leurs modèles en faisant comme si ces données n’avaient jamais été utilisées. Plutôt que de réentraîner totalement leurs modèles, les entreprises s’appuieraient alors utilement sur cette technique émergente qui pourra encore être perfectionnée[443].

18. Confier à l’OPECST le suivi et l’évaluation régulière de la politique publique conduite par le Gouvernement en la matière

La politique nationale en matière d’IA conduite par le Gouvernement devrait faire l’objet d’un suivi et d’une évaluation régulière par l’OPECST. Les aspects scientifiques et technologiques de l’intelligence artificielle ainsi que les enjeux qu’ils soulèvent appellent une expertise et une vigilance à la croisée des mondes politiques et scientifiques, c’est donc logiquement à l’OPECST qu’il convient de faire appel.

Dans le rapport précité de la commission des lois de l’Assemblée nationale, nos collègues députés – ayant constaté que le premier travail parlementaire relatif à l’IA avait été fait dans le rapport de l’OPECST de mars 2017 « Pour une intelligence artificielle maîtrisée, utile et démystifiée », qualifié « d’étude approfondie » – préconisent dans leur 33e recommandation de confier à l’OPECST un suivi permanent des questions relatives à l’intelligence artificielle.

Les rapporteurs Philippe Pradal et Stéphane Rambaud estiment en effet « souhaitable que le Parlement puisse réaliser un suivi permanent des questions relatives à l’intelligence artificielle, dont les implications sont multiples et évolutives. L’Office parlementaire d’évaluation des choix scientifiques et technologiques semble le mieux à même d’assumer cette responsabilité, d’autant qu’il a déjà travaillé sur ce sujet ».

L’actualisation des connaissances sur l’IA et ses enjeux par le présent rapport plaide encore plus en ce sens aujourd’hui.

Examen du rapport par l’Office

L’Office parlementaire d’évaluation des choix scientifiques et technologiques s’est réuni le jeudi 28 novembre 2024 afin d’examiner le projet de rapport sur les nouveaux développements de l’intelligence artificielle, présenté par M. Alexandre Sabatou, député, M. Patrick Chaize, sénateur, et Mme Corinne Narassiguin, sénatrice, rapporteurs.

M. Stéphane Piednoir, sénateur, président de l’Office. – Nous avons à notre ordre du jour ce matin l’examen du rapport sur les nouveaux développements de l’intelligence artificielle (IA). Ce rapport est important pour plusieurs raisons. Tout d’abord, parce qu’il résulte d’une saisine concomitante des bureaux de l’Assemblée nationale et du Sénat, procédure rare qui s’inscrivait dans le cadre du 40e anniversaire de l’Office parlementaire d’évaluation des choix scientifiques et technologiques (OPECST) célébré en juillet 2023. L’initiative en revient à la présidente de l’Assemblée nationale, Mme Yaël Braun-Pivet, et au président du Sénat, M. Gérard Larcher. Ensuite, le rapport qui va nous être présenté vise à prolonger le travail initié par un premier rapport de l’Office datant de 2017, car l’intelligence artificielle est un sujet en perpétuelle évolution. L’année dernière, l’Office a désigné quatre co-rapporteurs : deux députés et deux sénateurs, deux femmes et deux hommes représentant quatre tendances politiques différentes et assurant ainsi la représentativité de nos deux assemblées. Trois des quatre rapporteurs sont ici présents : les sénateurs Patrick Chaize et Corinne Narassiguin et le député Alexandre Sabatou. Huguette Tiegna faisait partie de cette équipe, mais elle n’a pas été réélue en juillet 2024. En conséquence, elle ne peut pas présenter le rapport, ni le signer, puisque seuls des parlementaires en exercice y sont autorisés. Toutefois, je tiens à la remercier pour son implication.

L’intelligence artificielle est un sujet d’actualité majeur sur lequel l’Office a déjà travaillé en adoptant un premier rapport en 2017. Cédric Villani, président de l’Office, s’était ensuite vu confier par le Gouvernement, en 2018, une mission sur le sujet.

Avant de vous céder la parole, j’aimerais rappeler que la mission de l’OPECST est d’éclairer le débat parlementaire, comme la loi le lui demande. Les travaux et rapports de l’Office doivent aboutir au consensus scientifique le plus large possible. Je tiens à dire solennellement que l’Office n’est pas le lieu de prises de positions politiciennes. Laissons cela aux débats en commission ou dans nos hémicycles respectifs. Il est important que l’Office poursuive un travail d’objectivation des données scientifiques.

Je précise également que le document qui vous a été remis ne doit pas être diffusé avant son adoption formelle par l’Office.

M. Pierre Henriet, député, premier vice-président de l’Office. – L’Office est parfaitement en phase avec son ADN pour ce travail sur les perspectives de l’intelligence artificielle. En effet, cette étude complète d’un domaine technologique et scientifique s’inscrit sur le temps long. Il faut faire le lien avec le rapport Villani de 2018 et constater qu’en six ans, une nouvelle révolution technologique a eu lieu et qu’il est possible qu’une nouvelle se prépare au cours des six prochaines années. Il est important de garder un esprit critique et de faire preuve de recul sur le sujet de l’intelligence artificielle, sans tomber dans le fanatisme technologique et en y apportant une dimension politique. Ce rapport intègre ainsi une dimension éthique indispensable au moment où cette technologie se développe sans que l’on en maîtrise les tenants et les aboutissants. Nous devons aux citoyens un éclairage permanent. Au-delà de la présentation du rapport, je souhaiterais entendre vos ressentis lors de vos échanges avec les différents acteurs rencontrés. J’aimerais également que l’on puisse évoquer les suites à donner à ce rapport.

M. Patrick Chaize, sénateur, rapporteur. – J’ai le plaisir de vous présenter ce matin avec mes deux collègues notre rapport intitulé « ChatGPT, et après ? Bilan et perspectives de l’intelligence artificielle ». Ce rapport est une commande exceptionnelle puisqu’il résulte d’une saisine de l’Office par les Bureaux de l’Assemblée nationale et du Sénat en juillet 2023, comme vous le rappeliez. Nous avons commencé à quatre avec notre ancienne collègue députée Huguette Tiegna, non réélue en juillet 2024, à la suite de la dissolution de l’Assemblée nationale. Nous avons effectué différents déplacements et de nombreuses auditions dont vous trouverez la liste en annexe du rapport. Notre saisine portait sur les nouveaux développements de l’IA et nous y avons répondu dans un travail en trois parties : les aspects technologiques que je vais vous présenter, puis les enjeux politiques, économiques, sociétaux, culturels et scientifiques qui vous seront présentés par Corinne Narassiguin. Enfin, Alexandre Sabatou abordera les questions de gouvernance et de régulation. Mon exposé contient cinq points.

1. Tout d’abord, l’histoire de l’intelligence artificielle.

Vous trouverez dans le rapport une histoire et même une préhistoire de l’intelligence artificielle, ainsi qu’un rappel de sa présence forte dans la science-fiction. Toutes ces représentations culturelles peuvent influer sur la technologie et sa perception sociale. La citation de Georges Bernanos de 1946 extraite de son livre La France et les robots, placée en ouverture du rapport, relève que l’évolution de nos sociétés est de plus en plus liée aux machines : « Le progrès n’est plus dans l’homme, il est dans la technique ». Plutôt que d’en avoir peur, nous pensons qu’il faut comprendre l’intelligence artificielle. Une deuxième citation empruntée à Marie Curie complète notre approche : « Rien n’est à craindre, tout est à comprendre ». Nous la suivrons dans son raisonnement.

Après le rapport pionnier de l’Office de mars 2017 qui fait suite à des travaux menés tout au long de l’année 2016, nous avons voulu prolonger ces investigations par une analyse rationnelle de l’intelligence artificielle. L’IA suscite à la fois des espoirs parfois excessifs et des craintes pas toujours justifiées. Le premier enseignement de notre rapport est le suivant : l’IA n’est pas nouvelle, elle est liée à la naissance de l’informatique. Il s’agit d’ailleurs, dans le domaine de l’informatique, d’une sorte d’informatique avancée dont la frontière bouge avec le temps. Sa naissance officielle a lieu en 1956 lors d’une école d’été du Dartmouth College. John McCarthy y introduit le concept d’intelligence artificielle, la définissant comme « une science visant à simuler les fonctions cognitives humaines ». Marvin Minsky parle alors de « la construction de programmes capables d’accomplir des tâches relevant habituellement de l’intelligence humaine ». Cette conférence marque le point de départ de l’IA en tant que discipline. Depuis, l’IA a connu des périodes de grand espoir, comme lors des premières découvertes des années 1960 ou des systèmes experts et de l’IA symbolique, chacune de ces périodes étant suivie de phases de désillusions, les « hivers de l’IA ». Deux grandes approches se détachent : l’IA symbolique, caractérisée par l’utilisation de règles logiques pour résoudre des problèmes au terme de déductions, et l’IA connexionniste, qui se base exclusivement sur de l’induction avec une analyse probabiliste de données. On peut parler à ce sujet de « super statistiques ».

2. Les progrès de l’apprentissage profond dans les années 2010 et l’architecture Transformer.

Un nouvel essor de l’IA a lieu depuis les années 2010 grâce aux progrès de l’apprentissage profond (Deep Learning). On parle d’apprentissage profond, car les algorithmes reposent sur des réseaux de neurones artificiels composés de couches multiples. Attention, ce ne sont pas des neurones de synthèse, ce sont des calculs mathématiques, chaque neurone correspondant à une fonction d’activation. L’efficacité de ces modèles d’IA se développe dans les années 2010 grâce à trois éléments : la mobilisation d’algorithmes déjà disponibles, des corpus de données de tailles inédites grâce à Internet, et une très grande puissance de calcul des ordinateurs.

Depuis 2017, deux innovations majeures ont accéléré la mise en œuvre de l’IA. On peut d’abord citer l’architecture Transformer en 2017. Cette innovation ajoute à l’apprentissage profond un meilleur traitement du contexte à travers un algorithme appelé mécanisme d’attention. La deuxième innovation est l’application de cette architecture pour créer un système d’IA générative accessible à tous. Cela a donné naissance à des « modèles larges de langage » comme ChatGPT, mais aussi à des outils permettant de créer d’autres contenus, comme des images, des sons, des vidéos, etc. Ces systèmes exploitent des milliards de données et mobilisent jusqu’à des milliers de milliards de paramètres de calcul.

Certains systèmes d’IA générative se basent sur d’autres architectures. Ils ne donnent pas à ce stade d’aussi bons résultats, sauf à être hybridés à l’architecture Transformer, par exemple par l’intermédiaire d’une méthode dite du « mélange d’experts » qui donne des résultats d’une précision inédite. L’architecture Mamba, alternative aux Transformers, repose sur des modèles en « espace d’état structuré » et articule plusieurs types d’IA. C’est une piste intéressante, car il est possible d’hybrider cette architecture avec des Transformers ou de les superposer dans un mélange d’experts.

3. Les questions écologiques et les perspectives d’avenir.

Quels sont les avantages et les limites de ces technologies et quelles perspectives s’ouvrent pour le futur ? Côté avantages, les applications sont innombrables. Côté limites, les IA génératives doivent encore relever plusieurs défis technologiques. L’entraînement des modèles nécessite d’abord des ressources considérables en infrastructures de calcul comme de stockage de données, mais pas seulement. L’IA nécessite en effet des apports considérables d’énergie tout au long de son cycle de vie.

Les modèles peuvent ensuite générer des erreurs importantes, appelées « hallucinations ». Ils reproduisent également en matière algorithmique les biais présents dans les données et peuvent en introduire d’autres au stade de la reprogrammation humaine, comme certains l’ont dénoncé en parlant d’IA « woke ».

Enfin, ils continuent de poser des problèmes d’opacité déjà rencontrés pour les anciennes générations de Deep Learning. Ces systèmes fonctionnent comme des boîtes noires, rendant leur explicabilité très complexe.

Ces défis nécessitent des efforts de recherche pour améliorer la fiabilité des résultats et réduire la consommation énergétique de ces systèmes d’IA. Il s’agit de faire plus avec moins. Il va falloir aller vers des IA frugales et efficaces. Les perspectives futures pour l’IA seront donc sa frugalité, mais aussi sa multimodalité et son agentivité.

Les IA multimodales traitent déjà des données variées – textes, images, sons – et en traiteront bientôt davantage en entrée comme en sortie, pour des usages de plus en plus diversifiés et intégrés. En 2024, GPT 4o a ajouté au texte et aux images le traitement d’instructions vocales et même des interactions vidéo. Après avoir ajouté la génération d’images à son IA en septembre 2024, l’entreprise d’Elon Musk xAI a ajouté la compréhension d’images à son système en octobre 2024.

Pour ce qui concerne l’agentivité, les systèmes pourront devenir de plus en plus autonomes et proactifs. Les évolutions sont rapides. La principale innovation en 2024 est celle des « Agentic Workflows » : ils génèrent une série d’actions qui permet d’automatiser des tâches en s’adaptant en temps réel à la complexité des flux de travail. Ces outils devraient être particulièrement utiles pour les entreprises.

Les IA vont devenir des interfaces, des plateformes d’accès à divers services numériques. Ces interfaces fondées sur l’IA rendront les interactions personne-machine plus fluides et pourraient devenir le principal système d’appui pour nos smartphones et nos ordinateurs en agrégeant les fonctionnalités de l’interface du système d’exploitation, des navigateurs Web, des moteurs de recherche, des logiciels bureautiques, des réseaux sociaux et d’autres applications. Il est probable qu’à l’avenir, les systèmes d’IA deviendront une colonne vertébrale de contrôle des ordinateurs à partir desquels s’articuleront plusieurs services, logiciels et applications.

L’un des problèmes posés par les LLM est leur tendance à halluciner, c’est-à-dire à générer des propos dénués de sens ou des réponses objectivement fausses sans émettre le moindre doute. Pour y faire face, des solutions technologiques sont attendues. La génération augmentée de récupération constitue, par exemple, un moyen d’adjoindre une base de données à un LLM qui, à l’aide d’un récupérateur, utilise les données de cette base, en lien avec l’instruction de l’utilisateur.

4. La conjugaison entre la logique de l’IA symbolique et l’efficacité de l’IA connexionniste.

Les technologies d’IA peuvent être enchâssées les unes dans les autres et conjuguées pour produire de meilleurs résultats. Combiner l’IA connexionniste avec des modèles logiques ou des modèles de représentation du monde réel sera indispensable. L’espace-temps reste en effet inconnu des meilleures IA génératives. Il est possible de se rapprocher de telles articulations avec les arbres de pensées. Sans relever directement de l’IA symbolique, cette technique s’en approche par son recours à des étapes formelles de raisonnement, les idées venant s’articuler logiquement les unes par rapport aux autres. L’IA devient alors neuro-symbolique, car empruntant à la fois à des réseaux neuronaux et à des raisonnements symboliques. Cette méthode peut être appliquée directement à tous les grands modèles de langage actuels grâce à une instruction décomposée en plusieurs phases de raisonnement. On parle pour cette technique de « prompt engineering ». À l’avenir, on trouvera de nombreuses façons de combiner et d’hybrider les technologies, notamment entre les deux branches de l’IA, afin que les systèmes se rapprochent de nos raisonnements logiques.

5. La longue et complexe chaîne de valeur de l’IA

Pour conclure, je voudrais évoquer la complexité de la longue chaîne de valeur de l’IA, étendue sur une dizaine d’étapes. Tout commence avec l’énergie et les matières premières. Les semi-conducteurs en silicium permettent la fabrication des puces. Les logiciels permettent de concevoir des microprocesseurs et des machines lithographiques qui gravent le silicium à l’échelle moléculaire. Nvidia est devenu l’acteur dominant de ce premier maillon de la chaîne.

Le deuxième maillon de la chaîne, celui des infrastructures, se subdivise en de nombreuses phases : la collecte, le nettoyage des données, le stockage de données dans de vastes data centers, l’informatique en nuage – cloud – pour les calculs et, lors de la phase de développement des modèles, le recours spécifique à des supercalculateurs. La multiplication de ces infrastructures conduit aux coûts immenses et aux impacts environnementaux considérables dont je parlais tout à l’heure. On estime par exemple que le coût des infrastructures de Nvidia devrait nécessiter un chiffre d’affaires de 600 milliards de dollars pour permettre un retour sur investissement.

Vient ensuite l’étape de la définition des modèles d’IA, elle-même subdivisée en plusieurs phases. Il y a d’abord la conception de l’architecture du modèle, puis l’entraînement de ce modèle de fondation à l’aide des infrastructures et des algorithmes, et le réglage fin, qui prend la forme d’un apprentissage supervisé et d’une phase d’alignement. Les modèles de fondation s’intercalent donc entre la définition de l’architecture du modèle et le « fine-tuning » qui permet aux systèmes d’IA d’être déployés pour telle ou telle application spécifique, et d’être diffusés auprès du grand public.

La dernière étape est celle des utilisateurs avec les applications qui caractérisent l’aval. En effet, les systèmes d’IA ne deviennent accessibles aux utilisateurs qu’à travers une couche de services applicatifs dont les fameux LLM, comme ChatGPT d’OpenAI, fondés sur des modèles comme GPT4. Ceci permet de bien comprendre la différence entre les modèles et les systèmes. Il sera important de connaître cette distinction lorsque nous évoquerons la régulation.

Mme Corinne Narassiguin, sénatrice, rapporteure. – Je vais maintenant vous présenter les grands enjeux de l’intelligence artificielle. Nous en avons retenu trois : les problématiques politiques, les transformations socioéconomiques et les défis culturels et scientifiques. L’IA est devenue une technologie incontournable qui transforme nos sociétés et nos économies, mais aussi les rapports de force politiques et géopolitiques. J’évoquerai tout d’abord les questions politiques, celles de la souveraineté numérique, les risques de manipulations, les menaces sécuritaires et les risques existentiels.

L’IA est d’abord américaine, ce qui implique plusieurs conséquences. L’IA n’est pas seulement un enjeu économique, mais également un levier de pouvoir géopolitique. Les États-Unis, grâce à leurs géants technologiques, les GAFAM – devenus les MAAAM, désignant Microsoft, Apple, Alphabet, Amazon et Méta –, dominent l’écosystème global de l’IA avec le rôle central de Nvidia qui fournit toutes les entreprises en processeurs graphiques (GPU). La recherche en IA est dominée par la recherche privée.

En parallèle, la Chine aspire à devenir leader mondial d’ici 2030, en investissant toute la chaîne de valeur, notamment les semi-conducteurs. Ces derniers sont devenus un enjeu de premier plan qui dépasse la seule filière de l’IA. Alors que deux tiers des puces sont fabriquées à Taïwan, les autorités américaines et chinoises cherchent à rapatrier une part croissante de cette production sur leurs sols. Pour l’Europe et notamment la France, le défi est celui de la souveraineté numérique afin d’éviter de devenir une pure et simple colonie numérique, pour reprendre la formule utilisée en 2013 par notre collègue sénatrice Catherine Morin-Desailly. L’Union européenne mise aujourd’hui sur la régulation de l’IA, mais cela reste insuffisant face à la taille et à l’avance des puissances américaine et chinoise. La souveraineté numérique contre la domination de la Big Tech américaine appelle au développement d’acteurs français et européens puissants.

L’IA génère de nouveaux risques, notamment à travers la désinformation et les hypertrucages (deepfakes). Les fausses informations ou les trucages ont toujours existé, mais changent d’échelle. Nous parlons de « désinformation au carré ». Ces technologies permettent de produire instantanément et massivement des contenus falsifiés et réalistes, influençant potentiellement les élections ou ternissant la réputation de telle ou telle personnalité publique. La régulation, comme l’imposition de filigranes sur ces contenus, est un début de réponse, mais reste encore difficile à appliquer.

Il faut aussi compter sur les menaces en matière de sécurité. L’IA facilite les attaques à grande échelle à travers la création de logiciels malveillants ou la capture de données sensibles. Ces risques appellent des mesures renforcées : la sécurisation des modèles d’IA, l’analyse des risques et la formation en cybersécurité des développeurs. Comme le disait le rapport de l’Office de 2017, nous avons besoin de favoriser des IA les plus transparentes et les plus sûres possible.

Enfin, parmi les grandes problématiques politiques, se pose la question de l’intelligence artificielle générale (IAG), et le risque existentiel résultant de la singularité. L’IAG qui dépasserait les capacités humaines reste une hypothèse incertaine et lointaine. Bien qu’elle suscite des débats passionnés, ses bases scientifiques comme les lois d’échelle (scaling laws) restent fragiles et incertaines. Certains craignent un risque existentiel, comme Elon Musk, tandis que d’autres, comme Yann LeCun, estiment que l’IA actuelle n’en est pas là, n’ayant toujours aucun sens commun ou capacité autonome réelle. Ceux qui craignent un risque existentiel favorisent souvent des solutions transhumanistes, comme Elon Musk, qui prône une hybridation personne-machine pour rivaliser avec l’IA. Cependant, cette vision soulève des questions éthiques majeures et doit nous inquiéter, car elle repose sur une sorte de négation de la nature humaine.

J’en viens aux impacts sociétaux et économiques de l’IA.

En matière de santé et de bien-être, l’IA améliore déjà notre vie quotidienne à travers une multitude d’outils. Elle optimise nos parcours de transport et surveille notre rythme cardiaque grâce à des applications de santé. À l’avenir, diagnostics, dépistages précoces et traitements seront optimisés grâce à l’IA. La recherche médicale sera accélérée et des capteurs permettront d’anticiper les urgences médicales comme les crises cardiaques. En dépit de tous ces avantages, l’utilisation massive de l’IA pourrait aussi avoir des conséquences négatives sur notre santé psychologique. Sur ce plan, l’un des points de vigilance concerne les effets cognitifs. J’y reviendrai.

L’IA a par ailleurs un impact économique incertain. Les travaux qui tentent de prédire l’impact de l’intelligence artificielle sur la croissance ou son potentiel en termes de gains de productivité divergent. L’IA peut stimuler certains secteurs, mais son impact global sur la croissance reste incertain dans un contexte de faible diffusion des technologies. La direction générale du Trésor estime ainsi qu’il est encore trop tôt pour établir des prévisions chiffrées. Le paradoxe de Solow, selon lequel on voit des ordinateurs partout, sauf dans les statistiques de productivité, pourrait se confirmer pour l’IA. La diffusion de l’innovation est toujours difficile à observer et encore plus à quantifier.

Le coût énergétique de l’IA doit conduire à souligner son impact environnemental considérable. Ces systèmes ont une empreinte carbone et un impact sur la ressource en eau élevés, qui ne font que croître car les besoins en énergie de l’IA explosent. Nous devons en tirer les conséquences. Au-delà de la tension que fait peser cette hausse de la consommation d’énergie sur les réseaux électriques, le développement de l’IA menace également nos objectifs climatiques. À cet égard, l’objectif d’une IA frugale est un impératif.

J’en viens maintenant aux transformations de l’emploi. Il est difficile d’évaluer précisément l’impact de ces technologies sur le marché du travail. Un consensus semble pourtant se dégager : plus qu’un remplacement des emplois par l’IA, nous assisterons à une transformation des tâches et des métiers par ces technologies. L’ampleur et les modalités de ces transformations ne sont pas mesurées de la même façon par toutes les études. Cependant, même si tous ces effets restent encore incertains, ils appellent un dialogue social pour accompagner ces transitions.

L’IA pourrait augmenter la productivité et parfois exacerber les inégalités. Ceci appelle une certaine vigilance. Elle nécessite en outre d’adopter des politiques publiques de formation initiale et de formation continue en vue d’anticiper les évolutions et d’accompagner les travailleurs d’aujourd’hui et de demain. Des politiques de requalification ambitieuses sont indispensables.

Je vais conclure mon propos en exposant les défis culturels et scientifiques soumis par l’IA : l’uniformisation culturelle et cognitive, les droits de propriété intellectuelle et la révolution des connaissances scientifiques.

L’IA est dominée par les acteurs anglo-saxons, ce qui risque d’accentuer fortement l’hégémonie culturelle des États-Unis. Ce phénomène d’uniformisation appauvrit la diversité culturelle et linguistique, mais crée aussi une uniformisation cognitive. Le capitalisme cognitif, qui repose sur la conjugaison des écrans et de l’IA, conduit à une économie de l’attention préoccupante, notamment parce qu’elle enferme les utilisateurs des technologies numériques dans des bulles de filtres. Cet enfermement informationnel polarise les visions de chacun dans des croyances subjectives. Ce sont autant de prisons mentales qui se déclinent à l’échelle individuelle. Cette tendance n’est que d’apparence paradoxale.

On a dans le même temps une polarisation marquée des opinions et des identités – selon des variables de la culture américaine, avec une forte dimension émotionnelle – et une uniformisation culturelle doublée d’une uniformisation cognitive.

Nous courons le risque de devenir une « civilisation de poisson rouge », comme l’évoque Bruno Patino. La durée maximale d’attention du poisson rouge qui tourne dans son bocal est de huit secondes. Or la durée moyenne d’attention de la génération des millennials, celle qui a grandi avec les écrans connectés, est de neuf secondes.

Toutes ces conséquences de l’IA, des écrans et du numérique sur la cognition doivent nous mobiliser, surtout vis-à-vis des jeunes générations et des petits enfants, particulièrement victimes de ces impacts cognitifs et cela de manière irréversible. L’éducation au numérique en général et à l’IA en particulier est une urgence impérieuse pour la cohésion de nos sociétés et la santé de chacun.

La France doit par ailleurs défendre sa langue et ses spécificités culturelles face à des systèmes d’IA comme les grands LLM, qui privilégient l’anglais et la culture américaine sur un plan linguistique et culturel. Comme nous l’écrivons dans le rapport : ne donnons pas notre langue à ChatGPT. Il faut conserver la diversité linguistique et culturelle de l’humanité et nous avons en France besoin de modèles d’IA les plus souverains possibles, reflétant notre culture, entraînés avec des données qui la reflètent le plus fidèlement possible et qui mobilisent des sources issues de notre riche patrimoine culturel et linguistique.

J’ajoute que les raisonnements probabilistes, basés sur l’induction, sont prometteurs et donnent souvent des résultats impressionnants, mais ils tendent à nous faire oublier le grand intérêt des raisonnements déductifs sur lesquels se sont construites la plus grande part de nos connaissances scientifiques. La généralisation de cas particuliers sous l’effet des données massives traitées par I’IA connexionniste est devenue la règle. Or le résultat d’une inférence suivant un raisonnement inductif, même basé sur des milliards d’exemples, peut toujours être démenti par un ou plusieurs contre-exemples.

Les deux formes de raisonnement, déductif et inductif, doivent continuer à cohabiter de manière plus équilibrée, sans quoi l’ère de l’IA et du Big Data va conduire les habitants de la planète entière à penser selon le même mode. Ils penseront non seulement avec les mêmes références culturelles, mais aussi selon les mêmes structures cognitives tournées vers l’induction.

Les questions de propriété intellectuelle et de création artistique comptent parmi les enjeux majeurs de l’IA générative. L’IA mobilise les données protégées par le droit d’auteur ou par le copyright. Les artistes et créateurs sont confrontés à des questions inédites concernant les droits d’auteur. Par exemple, les œuvres générées par IA peuvent brouiller les frontières entre originalité et imitations, menaçant les régimes traditionnels de propriété intellectuelle. Une réflexion doit s’ouvrir sur le sujet de la propriété intellectuelle et de la création artistique à l’heure de l’intelligence artificielle.

Dans ce contexte d’incertitude, les risques contentieux sont de plus en plus grands, qu’il s’agisse de l’utilisation d’œuvres protégées pour entraîner les modèles, de la protection des œuvres générées par des systèmes IA ou de tout autre litige qui pourrait finir par émerger. En l’absence de règles claires, il reviendra aux juges de prendre des décisions sur ces litiges. Le rôle de la jurisprudence sera donc central et laisse les artistes, les entreprises et les utilisateurs dans un flou juridique anxiogène, avec des risques financiers non négligeables. C’est pourquoi une clarification de ces enjeux et des régimes juridiques applicables est indispensable.

Enfin, dans le domaine scientifique, l’IA fertilise les autres disciplines et ouvre des perspectives immenses, comme en témoignent les exemples de la génomique, de la modélisation du repliement des protéines ou de la création de jumeaux numériques. Ces avancées permettront de résoudre de plus en plus de problèmes complexes et d’accélérer les découvertes. Il n’est pas anodin qu’en 2024, les prix Nobel de physique et de chimie soient l’un et l’autre revenus à des chercheurs en IA.

Ces bénéfices potentiels de l’IA nécessitent une adaptation de nos politiques de recherche.

En résumé, l’intelligence artificielle est porteuse d’immenses opportunités, mais aussi de défis complexes. Comment garantir que l’IA s’aligne sur nos valeurs, respecte les droits humains et les principes humanistes ? Il est crucial d’élaborer des cadres réglementaires solides, de renforcer la souveraineté technologique et d’éduquer nos sociétés aux enjeux de ces technologies. Ces perspectives nécessitent une gouvernance internationale pour encadrer les développements en cours et anticiper d’éventuels risques.

M. Alexandre Sabatou, député, vice-président de l’Office, rapporteur. – Avant de vous présenter nos recommandations, je voudrais d’abord exposer quelques initiatives en matière de régulation de l’IA, à commencer par notre stratégie nationale.

Depuis 2017, la France a cherché à structurer une stratégie nationale. Nous soulignons dans le rapport un retard à l’allumage. Le Plan France IA lancé en janvier 2017 par le président François Hollande a été purement et simplement abandonné. Un an plus tard, sur la base d’un rapport de notre ancien collègue député et président de l’Office Cédric Villani, le président Emmanuel Macron a annoncé le 29 mars 2018 une stratégie nationale et européenne pour l’intelligence artificielle qui visait à faire de la France un leader mondial en IA. Cette stratégie à 1,5 milliard d’euros a permis la labellisation de quatre instituts interdisciplinaires en intelligence artificielle (3IA), le financement de chaires et de doctorats, ainsi que l’investissement dans des infrastructures de calcul comme le supercalculateur Jean-Zay inauguré en 2019 et Adastra inauguré en 2023, dont les performances atteignent respectivement 36,85 et 74 pétaflops. Jean-Zay devrait toutefois être renforcé cette année pour atteindre 125,9 pétaflops.

À titre de comparaison, l’entreprise d’Elon Musk, xAI, qui développe le système Grok, s’est dotée de supercalculateurs Colossus développant 3,4 exaflops avec 100 000 processeurs Nvidia Hopper 100. Sa taille devrait doubler d’ici quelques mois pour atteindre 200 000 processeurs. Le supercalculateur Jean-Zay, après son extension prévue d’ici la fin de l’année 2024, sera quant à lui doté de 1 456 puces Nvidia Hopper 100.

D’autres limites de notre stratégie nationale en IA sont relevées, y compris par la Cour des comptes qui a publié un rapport en avril 2023 pour évaluer cette stratégie. Ses résultats sont jugés insuffisants, la France ayant continué à décrocher au niveau international depuis 2018.

Nous faisons le constat d’une coordination interministérielle insuffisante. Le pilotage de la stratégie nationale de l’IA reste toujours défaillant. Le coordinateur national, rattaché initialement à la direction interministérielle du numérique et des systèmes d’information et de communication (Dinsic), puis à la direction générale des entreprises (DGE) du ministère de l’économie, est sans autorité réelle sur la stratégie et sa mise en œuvre. L’instabilité du titulaire de cette fonction et les vacances répétées du poste révèlent une fonction mal définie. La stratégie demeure en réalité sans pilote, évoluant au gré des annonces et du plan de communication du Président de la République, à l’instar de son courrier du 25 mars 2024 ou de son discours lors du rassemblement des plus grands talents français de l’IA à l’Élysée le 21 mai 2024.

La Commission de l’intelligence artificielle a proposé en 2024 un investissement massif de 27 milliards d’euros sur cinq ans pour l’IA en France. La mise à disposition de sommes aussi conséquentes semble peu probable.

Lors du rassemblement des plus grands talents français de l’IA à l’Élysée le 21 mai dernier, le Président a annoncé un plan d’investissement de 400 millions d’euros pour financer neuf pôles d’excellence en IA, comprenant les quatre anciens instituts 3IA, l’objectif étant de passer de 40 000 à 100 000 personnes formées à l’IA chaque année. Nous proposons de commencer par reconduire le programme « confiance.ia », peu coûteux pour les finances publiques.

Nous avons réalisé un benchmark assez poussé de près de vingt stratégies mises en place, six dans l’Union européenne et onze dans le reste du monde. La réglementation de l’Union européenne semble complexe et peu propice à l’innovation. L’AI Act conjugue un dispositif régulant les usages de l’IA selon leur niveau de risque et un encadrement des modèles d’IA selon leur puissance.

Nous avons également recensé les projets de gouvernance mondiale de l’IA : on en compte une dizaine, ce qui est excessif. Un tel constat plaide pour une convergence autour d’une régulation internationale unique. Nous présentons les projets de l’ONU, de l’Unesco, de l’OCDE, du Conseil de l’Europe, du G20, du G7, du Partenariat mondial sur l’intelligence artificielle ou Global Partnership on Artificial Intelligence, du Conseil du commerce et des technologies Europe États-Unis, du Forum économique mondial, des BRICS, de la Chine, etc.

Le rapport met en évidence des efforts nationaux inégaux pour réguler l’IA tout en soulignant le besoin d’une approche coordonnée. La France va organiser un sommet sur l’IA en 2025, nous y voyons l’occasion de promouvoir une gouvernance mondiale cohérente pour aborder les enjeux de l’IA sans se restreindre au seul sujet de la sécurité. L’Office a un rôle à jouer pour aider le Gouvernement à structurer sa propre stratégie, mais aussi pour contribuer à cette future gouvernance mondiale de l’IA.

Nous vous proposons à présent 18 recommandations dont cinq sont en lien avec la préparation du prochain sommet. Je commence avec ces propositions qu’il nous semble nécessaire de soutenir dans le cadre du sommet pour l’IA qui aura lieu à Paris les 10 et 11 février 2025. Tout d’abord, nous souhaitons faire reconnaître le principe d’une approche transversale de l’IA et renoncer à l’approche exclusivement tournée vers les risques, qui est de rigueur depuis le premier sommet britannique de 2023.

Le Président a fixé cinq thèmes qui feront l’objet du sommet : l’IA au service de l’intérêt public avec la question des infrastructures ouvertes, l’avenir du travail, la culture, l’IA de confiance, et la gouvernance mondiale de l’IA. Nous pensons que ce sommet doit aller plus loin et fournir l’occasion d’inscrire solennellement le principe d’une approche transversale des enjeux de l’IA au sein d’une déclaration des participants.

Nous estimons qu’aux thèmes retenus pour le sommet de l’IA, devraient être ajoutés deux autres : l’éducation, qui pourrait être ajoutée à la verticale « culture », avec pour intitulé « Éducation et culture », et la souveraineté numérique, qui pourrait être ajoutée à la verticale « L’IA au service de l’intérêt public » avec pour intitulé « Souveraineté numérique et intérêt général ».

Ce sommet doit être l’occasion d’apporter un minimum de clarification et de rationalisation dans la dizaine de projets de gouvernance mondiale de l’IA. Nous proposons de placer la gouvernance mondiale sous l’égide d’une seule organisation internationale, à savoir l’ONU, seule organisation pleinement légitime sur le plan multilatéral.

Nous souhaitons également initier le cadre d’une régulation globale et multidimensionnelle de l’IA en s’inspirant des travaux de l’OCDE et de l’Union européenne. L’approche de la régulation mondiale de l’IA doit être multidimensionnelle ainsi que le montrent la chaîne de valeur de l’IA ou, différemment, les travaux de l’OCDE.

Il devrait aussi y être annoncé un programme européen de coopération en IA associant plusieurs pays, dont la France, l’Allemagne, les Pays-Bas, l’Italie et l’Espagne, qui sont des pays qui partagent une vision commune de l’IA et de ses enjeux.

Afin de garantir une plus grande légitimité du futur sommet, nous demandons d’associer plus étroitement le Parlement à son organisation. La nomination d’un député et d’un sénateur au sein du comité de pilotage du sommet serait à cet égard un gage de crédibilité, marquant la volonté de l’exécutif d’accroître le fondement démocratique de la réflexion française sur l’encadrement de l’IA à l’échelle internationale.

Nous avons également des propositions pour mettre en place une véritable politique nationale de l’IA. Tout d’abord, ce qui me semble être le plus important est le développement d’une filière française ou européenne autonome sur l’ensemble de la chaîne de valeur de l’intelligence artificielle. C’est la première de nos propositions au niveau national et un objectif qui doit tous nous mobiliser : pouvoirs publics nationaux et locaux, décideurs économiques, associations et syndicats. Nous devons viser le développement d’une telle filière sur l’ensemble de la chaîne de valeur de l’intelligence artificielle, même sans chercher à rivaliser avec les puissances américaine et chinoise. Il vaut mieux une bonne IA chez soi, qu’une très bonne IA chez les voisins. Que ce soit au niveau européen, par l’Union européenne ou avec une coopération renforcée entre quelques pays, ou directement au niveau national, la France doit relever ce défi de construire pour elle en toute indépendance, de nombreux maillons de la chaîne de valeur de l’intelligence artificielle.

Plutôt qu’une stratégie sans objectifs, sans gouvernance et sans outils de suivi, il convient de mettre en place une politique de l’IA avec des objectifs et des moyens réels dans le cadre d’une gouvernance digne de ce nom et avec des outils de suivi et d’évaluation. Ces éléments sont aujourd’hui cruellement absents des politiques publiques menées en France en matière d’IA. Plus largement, la politique de la Start-up Nation, conduite avec son bras armé la French Tech, aussi élitiste qu’inadaptée, est à abandonner au profit d’une politique de souveraineté numérique cherchant à construire notre autonomie stratégique et à mailler les territoires.

Nous souhaitons également organiser le pilotage stratégique de la politique publique de l’intelligence artificielle au plus haut niveau. Comme je l’ai dit, la stratégie nationale pour l’IA ne dispose pas d’une gouvernance digne de ce nom. Il faudra mieux coordonner la politique publique nationale de l’intelligence artificielle que nous appelons de nos vœux et lui donner une réelle dimension interministérielle.

Il est, par ailleurs, indispensable de lancer de grands programmes de formation à l’IA à destination des scolaires, des collégiens et lycéens, des étudiants, des actifs et du grand public. De ce point de vue, les politiques conduites par la Finlande sont un modèle à suivre. La démystification de l’IA est une première étape importante, voire nécessaire, pour favoriser la diffusion de la technologie et accompagner le déploiement de ces technologies dans le monde du travail et la société, notamment par la formation permanente.

S’il est difficile de prévoir l’impact précis que l’IA aura sur le marché du travail, il faut tout de même accompagner le déploiement de ces technologies, notamment l’IA générative, dans le monde du travail, en particulier par des programmes de formation permanente ambitieux. Nous recommandons aussi de mener régulièrement des études qualitatives et quantitatives sur l’impact de l’IA sur l’emploi, le tissu social, les inégalités et les structures politiques. Le dialogue social par la négociation collective peut être renouvelé par l’introduction de cycles de discussions tripartites autour de l’IA et de ses enjeux. Une opération d’envergure nationale comme un « Grenelle de l’IA » pourrait également être organisée. Le dialogue social autour de l’IA devrait aussi se décliner dans les entreprises pour permettre une meilleure diffusion des outils technologiques et un rapport moins passionné à leurs conséquences.

L’écosystème français de l’IA ne doit pas être mobilisé qu’à travers la French Tech, des meet-up à Station F et l’événement annuel Viva Tech. Tous les acteurs de l’IA, la recherche publique et privée, les grands experts du système, mais aussi l’ensemble des filières économiques doivent pouvoir faire l’objet d’une grande mobilisation générale.

Nous préconisons aussi des pôles d’animation régionaux. Au titre des expériences étrangères, la structure NL AI Coalition créée par le gouvernement néerlandais rassemble depuis cinq ans l’écosystème public et privé de l’IA aux Pays-Bas, avec le concours du patronat, des universités et des grands centres de recherche. Elle s’appuie sur sept centres régionaux.

Chez nous, il faudrait reconduire le programme Confiance.ai ou mettre en place un programme équivalent. Il réunissait dans une logique partenariale de grands acteurs académiques et industriels français dans les domaines critiques de l’énergie, de la défense, des transports et de l’industrie, et avait pour vocation de permettre aux industriels d’intégrer les systèmes de l’IA de confiance dans leurs processus. Il ne coûtait pas cher et était efficace. Nous regrettons qu’il ait été interrompu en 2024.

Il convient, par ailleurs, de soutenir la recherche publique en intelligence artificielle selon les critères de transversalité et de diversification des technologies. La recherche privée en intelligence artificielle a pris beaucoup d’avance sur la recherche publique, mais cette dernière doit revenir dans la course. La soutenir davantage est un impératif. L’Office juge pertinent de l’orienter vers des activités transdisciplinaires autour de projets de recherche en IA. La diversification des technologies est aussi fondamentale. Les avancées en IA naissent grâce à la combinaison et la recomposition de savoirs et de savoir-faire, et non par l’enfermement dans un modèle unique. L’IA symbolique ne doit pas être totalement abandonnée. Elle peut d’ailleurs s’hybrider avec les IA connexionnistes pour forger de nouvelles approches logiques, imbriquant le signifiant et le signifié, plus proche de nos raisonnements humains. D’autres technologies permettant d’apporter plus de logique aux systèmes d’IA générative peuvent également inspirer de nouvelles perspectives pour la recherche, comme les modèles de mixture of experts, la génération augmentée de récupération (retrieval augmented generation) ou encore les arbres de pensées (trees of thoughts). Pour paraphraser Rabelais qui écrivait : « science sans conscience n’est que ruine de l’âme », nous affirmons que l’IA sans logique n’est qu’illusion d’intelligence.

Nous estimons nécessaire de relever le défi de la normalisation en matière d’intelligence artificielle. Il faut permettre à la France de défendre au mieux l’intérêt national ainsi que les intérêts de nos entreprises en matière de normalisation sur l’IA, ce qui implique de mobiliser davantage l’Afnor et le Cofrac. La France doit inviter ses partenaires européens à faire preuve d’une plus grande vigilance dans le choix de leurs représentants dans les comités chargés de la normalisation de l’IA. S’appuyer sur des experts issus d’entreprises extra-européennes, souvent américaines ou chinoises, n’est pas acceptable.

S’assurer du contrôle souverain des données issues de la culture française et des cultures francophones et créer des bases de données autour des cultures francophones représente un acte de résistance face à une domination linguistique et culturelle américaine qui caractérise l’IA aujourd’hui et qui fait courir un risque grave d’uniformisation culturelle et linguistique. Les initiatives conduites par certains pays, en particulier l’Espagne, peuvent être une source d’inspiration.

Il est nécessaire de préparer une réforme des droits de propriété intellectuelle et des droits d’auteur pour les adapter à l’IA et surtout à l’IA générative. L’objectif sera à la fois de clarifier les régimes juridiques applicables, de protéger les ayants droit des données ayant servi à l’entraînement des modèles, mais aussi les créateurs d’œuvres nouvelles grâce à l’IA.

Enfin, notre dernière recommandation est de confier à l’OPECST le suivi et l’évaluation régulière de la politique publique conduite par le Gouvernement. Les aspects scientifiques et technologiques de l’intelligence artificielle ainsi que les enjeux qu’elle soulève appellent une expertise à la croisée des mondes politique et scientifique. C’est donc logiquement un rôle pour l’Office. La commission des lois de l’Assemblée nationale a d’ailleurs formulé dans un rapport son souhait de confier à l’OPECST le suivi permanent des questions relatives à l’intelligence artificielle.

M. Stéphane Piednoir, sénateur, président de l’Office. – Merci beaucoup pour cette présentation très complète.

Mme Florence Lassarade, sénatrice, vice-présidente de l’Office. – Les jeunes enfants sont confiés à des enseignants de formation littéraire. Cette situation fait-elle prendre du retard à la France en matière d’acculturation à l’IA ? Faut-il s’inspirer de la Finlande, pionnière dans l’éducation des enfants ? Avez-vous pu comparer la façon dont les différents pays européens se sont emparés de ce sujet d’un point de vue éducatif ?

En matière de santé, les perspectives offertes par l’IA sont formidables, mais dans nos hôpitaux, les logiciels sont disparates et bricolés, ce qui peut conduire à des erreurs. La réalité nous empêche de tirer tous les bénéfices potentiels de l’IA.

Mme Anne-Catherine Loisier, sénatrice, vice-présidente de l’Office. – La commission des affaires économiques du Sénat a récemment auditionné le président de Dassault Systèmes qui nous a apporté des éclairages intéressants sur le sujet. Je m’interroge sur la gouvernance partagée entre public et privé. Nous constatons que les avancées se font plutôt chez les acteurs privés, qui dominent le secteur au niveau international. Qu’en pensez-vous ?

Avez-vous le sentiment que notre système de formation permet de préparer nos jeunes aux potentialités de l’IA ?

Mme Corinne Narassiguin, sénatrice, rapporteure. – Nous avons effectivement regardé de près le modèle finlandais, car il permet aux enfants de s’approprier l’IA. En France, des chercheurs travaillent sur cette question, mais l’éducation à l’IA reste un domaine sous-exploité. Lors d’un déplacement à San Francisco, nous avons rencontré la fondation EveryoneAI, un groupe de Français qui s’intéresse aux impacts neurocognitifs de l’IA sur les jeunes enfants. Ils ont constaté qu’utiliser l’IA de façon trop précoce, par exemple avec des doudous IA, peut provoquer des problèmes de socialisation. Ils ont publié un très bon rapport sur le sujet en juillet 2024. De nombreuses personnes travaillent sur ce sujet, mais sans coordination, une politique publique est donc nécessaire.

Le même constat est valable pour la formation des adultes : une des recommandations du rapport est d’intégrer un enseignement sur l’IA à l’école, à l’université et dans le cadre de la formation professionnelle. Aujourd’hui, les professeurs sont plus inquiets de savoir si leurs étudiants écrivent leurs mémoires avec ChatGPT que d’essayer de comprendre comment accompagner ce changement en travaillant avec les élèves à l’utilisation de l’IA. Il faut adapter les enseignements pour apprendre aux élèves à s’approprier l’outil. Toutefois, il faut faire attention à ne pas faire de l’IA une béquille trop tôt au cours de la scolarité, car elle peut alors devenir un frein. L’éducation et la formation à l’IA sont des sujets de recherche dont nous avons besoin.

M. Patrick Chaize, sénateur, rapporteur. – Concernant l’exemple finlandais, vous trouverez quelques informations dans le rapport. Je relie la question de la formation et de la préparation des jeunes à l’IA à la question de l’inclusion numérique. Je suis convaincu que notre pays devra passer par une phase d’inclusion à l’IA. Or je suis inquiet de constater une baisse des moyens dédiés à l’inclusion numérique. L’école doit également être mobilisée pour former à l’utilisation de ce nouvel outil.

M. Alexandre Sabatou, député, vice-président de l’Office, rapporteur. – En ce qui concerne la santé, le sujet est enthousiasmant, car les potentialités sont gigantesques. Mon sentiment est que la médecine est restée longtemps au niveau de l’artisanat. Le docteur ou le chirurgien, certes équipés d’outils performants, devaient prendre seuls des décisions. Mais aujourd’hui, la recherche scientifique montre que l’IA peut détecter des tumeurs de façon plus efficace que des médecins.

Mme Florence Lassarade, sénatrice, vice-présidente de l’Office. – Ma question portait sur les logiciels hospitaliers et leur obsolescence qui empêche de profiter des potentialités de l’IA.

M. Patrick Chaize, sénateur, rapporteur. – La question de l’acceptation par les médecins est importante.

M. Alexandre Sabatou, député, vice-président de l’Office, rapporteur. – Il faut laisser le temps à la technologie de mûrir. L’acceptabilité est également un enjeu. Lors de nos auditions, nous avons découvert que l’humain n’accepte pas l’erreur lorsqu’elle émane de machines. Je prends l’exemple des taxis autonomes, qui ont mis du temps à être acceptés en Californie. En cas d’accident, le fait que la machine ait pu commettre une erreur est difficilement toléré. Toutefois, si des études comparatives étaient connues, nous pourrions nous rendre compte que les taxis autonomes ont moins d’accidents que les autres véhicules. C’est la même chose pour la santé. Si une machine prend une mauvaise décision, qui est responsable ? La responsabilité d’un médecin est simple à déterminer, or l’IA reste souvent une boîte noire.

Mme Corinne Narassiguin, sénatrice, rapporteure. – Je signale que la délégation à la prospective du Sénat a publié un rapport sur l’IA et la santé.

La question de la gouvernance partagée public/privé est effectivement un enjeu important. En Europe, l’AI Act va s’appliquer dans chaque État de l’Union. Il reste à savoir comment la France va mettre en œuvre cette régulation. Il est évident que nous faisons face à un problème de souveraineté puisque les grands acteurs ne sont pas européens. Nous devons donc investir très largement pour développer nos propres entreprises. Nous pouvons légiférer et établir un cadre légal pour la protection des données, la gestion et l’évaluation des risques. Mais, comme dans d’autres domaines comme l’alimentaire, nous devons travailler avec les acteurs privés.

Aux États-Unis, le cadre normatif en IA n’est pas contraignant et, officiellement, la régulation y est perçue comme un frein à l’innovation. En réalité, les acteurs sont plutôt heureux que l’Europe impose un cadre, comme l’a montré le RGPD par exemple. Ainsi, les entreprises peuvent s’appuyer sur ces normes imposées par la puissance publique pour démontrer aux utilisateurs que leurs produits sont viables et les risques maîtrisés.

Mme Anne-Catherine Loisier, sénatrice, vice-présidente de l’Office. – Il faut prendre garde à ne pas réguler la technologie trop tôt. Les États-Unis commencent par trouver un marché avant d’édicter des normes pour l’encadrer alors que nous faisons l’inverse. Cette idée nous a été confirmée par le président de Dassault Systèmes lors de son audition. Nous disposons d’un écosystème avec quelques leaders, notamment dans le domaine des logiciels, et nous devons bâtir notre souveraineté avant d’imposer trop de normes.

M. Alexandre Sabatou, député, vice-président de l’Office, rapporteur. – Nous partageons votre mise en garde, réguler trop tôt handicape nos entreprises. C’est pour cette raison que nous proposons une gouvernance à l’échelle internationale, au niveau de l’ONU, car l’Union européenne n’est pas forcément le meilleur niveau.

À San Francisco, nous avons rencontré une diaspora française composée d’anciens élèves de nos grandes écoles, partis aux États-Unis pour trouver un cadre moins restrictif. Une vraie réflexion nationale doit être menée sur ce sujet.

M. Stéphane Piednoir, sénateur, président de l’Office. – Je souhaite saluer le travail de la délégation à la prospective qui s’est intéressée aux perspectives d’usages de l’IA dans les services publics. J’aimerais revenir sur la question de l’acculturation à l’IA. Où est l’éducation à l’esprit critique et aux raisonnements mathématiques ? Je vous remercie pour les chapitres du rapport consacrés à la linéarisation des processus, aux modèles continus et discontinus ou aux produits scalaires, qui m’ont rappelé de bons souvenirs. Lorsque j’étais professeur de mathématiques, j’avais l’habitude de dire que le plus important est le raisonnement, la déduction logique et le regard critique. Faire une démonstration, c’est arriver à un résultat en cheminant de manière rigoureuse. Je considère que cette idée est au cœur de l’acculturation des publics les plus jeunes car nous ne sommes plus à l’ère du « je crois ce que je vois ». De nombreux faux circulent. Les filigranes sur les photos sont une chose, mais l’IA se nourrit elle-même. Elle ingère des fake news et propage ensuite de fausses nouvelles. Le système s’autoalimente et produit des hallucinations. Pensez-vous, comme Elon Musk, qu’un moratoire sur l’IA est une bonne idée alors même que nos enfants utilisent déjà les IA génératives ?

En ce qui concerne le rapport aux écrans, une loi de 2018 dont j’étais rapporteur interdit les smartphones pendant les cours. Dans les faits, cette législation est largement détournée. Une expérimentation est actuellement conduite. Elle consiste à demander aux collégiens et lycéens de laisser leurs smartphones à l’entrée des établissements. Ainsi l’IA est mise à distance, au moins sur le temps scolaire.

Vous évoquiez la régulation internationale en proposant de la confier à l’ONU. Cette idée est-elle réaliste ? Dans quels délais l’envisagez-vous et quels en seraient les contours ?

Je suis rapporteur du budget de l’enseignement supérieur et mon collègue Pierre Henriet suit celui de la recherche à l’Assemblée nationale ; je peux vous assurer que les offres d’emploi dans le privé, notamment au sein des grands organismes mondiaux, sont particulièrement intéressantes. La différence d’attractivité avec la recherche publique est très importante. Comment dès lors inciter nos chercheurs à rester en France ?

Vous parliez de souveraineté, de filière française ou européenne autonome, mais quel est votre regard sur le désastre Atos ? Nous avions un leader français du stockage de données qui existe encore, mais qui a perdu son leadership.

M. Alexandre Sabatou, député, vice-président de l’Office, rapporteur. – J’aimerais vous parler d’une expérience que nous avons vécue aux Pays-Bas. Dans ce pays, les acteurs privés et la recherche universitaire ont réussi à mettre en place des ponts intéressants. Pendant 3 à 5 ans, les chercheurs travaillent dans le privé, gagnent de meilleurs salaires, mais peuvent ensuite revenir à l’université. Les allers-retours sont simplifiés. Inspirons-nous de ce modèle et ne tombons pas dans la caricature, comme trop souvent en France, des chercheurs qui ne s’intéresseraient pas à l’économie et aux applications concrètes de leurs recherches.

Mme Corinne Narassiguin, sénatrice, rapporteure. – Le modèle batave est effectivement très intéressant. Nous devons créer des écosystèmes qui permettent de ne pas être dépendant d’un unique acteur, comme c’est le cas avec Atos. Les Hollandais ont réalisé qu’ils n’avaient pas les ressources pour entrer en compétition avec OpenAI ou Nvidia. Ils ont donc choisi de se concentrer sur des niches dans lesquels ils peuvent être compétitifs.

Comment être souverain sur toute la chaîne de valeur ? J’estime personnellement qu’il est plus pertinent d’imaginer une souveraineté à l’échelle européenne. Dans le cadre de cette souveraineté, l’objectif doit être de rendre la France la plus forte possible. Nous devons aussi trouver des spécificités sur lesquelles nous serons les meilleurs. Sur certains sujets, il ne sera pas possible de concurrencer les Américains qui ont pris trop d’avance. Toutefois, nous pouvons trouver des niches à l’instar des Néerlandais. Pour réussir cette ambition, nous devons construire un écosystème qui mêle public et privé pour permettre la circulation des talents.

En ce qui concerne la fuite des cerveaux, nous avons pu constater que la Grande-Bretagne ou les Pays-Bas sont confrontés au même problème. Certes, les chercheurs partent aux États-Unis pour des questions de moyens, mais aussi parce que l’environnement de travail attire des personnalités brillantes qui viennent du monde entier. Ils peuvent y travailler avec les meilleurs. Par conséquent, nous devons nous aussi créer des pôles d’excellence, en France et plus largement en Europe.

Je pense que l’idée d’un moratoire est totalement illusoire. N’importe quelle entreprise sur la planète peut investir dans l’IA, il est donc impossible de l’interdire. N’ignorons pas non plus la duplicité d’Elon Musk. Lorsqu’il demande ce moratoire, M. Musk est en train d’investir massivement pour essayer de rattraper son retard sur ses concurrents et les doubler. Il espère ainsi les freiner dans leur dynamique. M. Musk cherche aussi à développer des technologies transhumanistes qui glissent vers le post-humanisme. Obtenir un moratoire sur l’IA et en même temps faire évoluer l’humanité vers des technologies transhumanistes tendant à l’« augmentation humaine » et à la déshumanisation ne nous semble pas souhaitable.

M. Patrick Chaize, sénateur, rapporteur. – Nous avons dans l’idée de profiter du sommet prévu en février 2025 pour faire avancer le sujet de la gouvernance mondiale.

Sur Atos, je crois que nous pouvons tous être choqués par ce qui s’est passé, mais nous devons faire en sorte de travailler pour notre souveraineté. L’économie est mondialisée, mais l’innovation est entre les mains, non plus de nations, mais de quelques hommes au sein des grandes entreprises américaines. Peut-être devons-nous nous poser les bonnes questions pour faire en sorte de renforcer notre souveraineté en la matière. Nous avons rencontré de nombreux Français aux États-Unis. Certes, leurs rémunérations sont particulièrement intéressantes, mais ils expliquent aussi pouvoir travailler librement sur des projets enthousiasmants et motivants.

Je reprends la question de la distance aux écrans. On peut interdire les écrans pendant le temps scolaire. Selon moi, ce genre de mesure ne permet pas de régler le problème. Je pense qu’il faut une éducation au numérique pour faire en sorte que l’on sache se servir des écrans et qu’on arrive à en décrocher. Il faudrait vraiment accentuer l’inclusion, l’éducation, l’accompagnement pour essayer de provoquer une prise de conscience des potentiels de ces outils, mais aussi de leurs risques.

M. Alexandre Sabatou, député, vice-président de l’Office, rapporteur. – J’aimerais rebondir sur la question de la souveraineté. J’ai un désaccord avec Corinne Narassiguin, car j’estime qu’il faut essayer de faire le maximum en France pour des questions évidentes de souveraineté nationale. Je tiens à rappeler que nous ne sommes pas un petit pays. Nous avons tout de même inventé le TGV. Nous faisons partie des premiers à avoir eu des centrales nucléaires de très grande qualité. Si, en 2024, nous nous lancions dans le nucléaire pour la première fois, nous aurions sans doute des réflexions expliquant que ce n’est pas possible, que nous sommes incapables de mener de tels projets seuls. Je crois que nous sommes capables de développer notre propre filière d’IA, ce qui ne doit pas empêcher la coopération européenne. Nous proposons de travailler avec l’Allemagne, les Pays-Bas, l’Italie et l’Espagne, parce que sur certains projets nous sommes capables d’avancer ensemble, comme le prouve la réussite d’Airbus.

Je reviens également sur la question des données corrompues qui pourraient faire dérailler le système. Nous savons aujourd’hui que la donnée est le nouvel or noir. Jusqu’à présent, ChatGPT aspirait tout ce qui se trouvait sur Internet pour nourrir son modèle. Mais il est devenu très important de travailler sur des bases de données de qualité qui ne comportent pas d’erreurs et peuvent devenir des références. C’est pour cette raison que nous demandons que nos archives, comme celles de l’INA par exemple, soient protégées. Il est possible de mettre en place une boucle de qualité pour améliorer les IA.

Enfin, je ne pense pas que les écrans soient le problème, mais plutôt ce que l’on y fait. La fondation EveryoneAI, qui est un groupe de chercheuses et de mères, s’est intéressée à ce sujet et a réalisé que les jeux éducatifs n’étaient pas tous adaptés aux jeunes enfants.

La réalité virtuelle est confondue avec la réalité physique et les contenus des écrans peuvent être mal assimilés par les enfants. Cette fondation fait un excellent travail qui doit aider ceux qui développent des applications éducatives à les rendre plus adaptées aux enfants et nous devons accompagner et soutenir ses initiatives.

Mme Florence Lassarade, sénatrice, vice-présidente de l’Office. – Des tranches d’âge sont-elles préconisées ?

M. Alexandre Sabatou, député, vice-président de l’Office, rapporteur. – Des tranches d’âge sont préconisées. C’est un point important. Jusqu’à un certain âge, les enfants ne distinguent pas le vrai du faux. Ces chercheuses ont par exemple constaté qu’en immergeant des enfants dans un univers virtuel dans lequel ils nagent avec des baleines, les enfants n’arrivent pas à faire la différence entre la fiction et la réalité. Ils pensent vraiment avoir nagé avec des baleines et cela s’inscrit dans leurs souvenirs. La régulation est ici très importante parce qu’on ne sait pas ce que ces usages donneront sur le long terme.

Mme Corinne Narassiguin, sénatrice, rapporteure. – Sur le sujet de la qualité des données, il n’est pas obligatoire d’essayer de créer des concurrents à ChatGPT pour toutes les applications. Il est possible de travailler à partir de systèmes plus simples et plus spécialisés, comme dans la santé. Ces IA sont beaucoup moins consommatrices d’énergie et permettent un développement spécifique.

Des efforts intéressants sont réalisés pour une gouvernance internationale, notamment au sein de l’OCDE. Des discussions se tiennent au niveau de l’ONU et nous recommandons qu’elles se poursuivent. Toutefois, nous sommes bien conscients qu’aucun cadre contraignant n’émergera à court terme, d’autant plus que les intérêts d’États comme la Chine et les États-Unis sont contradictoires. Néanmoins, ceci n’est pas incompatible avec une démarche européenne même si les innovations de l’IA vont très vite et que le rythme législatif est souvent inadapté. Nous avons aussi besoin de souplesse dans la façon de déployer la régulation, qui doit être un cadre de sécurité et de gestion des risques sans être un frein à l’innovation. Cet équilibre n’est pas évident à trouver. Mais nous avons pu le constater avec le RGPD. Lorsque l’Union européenne régule une filière, cela pousse les acteurs économiques à s’adapter pour pouvoir pénétrer le marché. Plus nous agissons pour faire évoluer les bonnes pratiques et imposer des standards, même non contraignants, mieux c’est pour tout le monde, au niveau mondial.

M. Alexandre Sabatou, député, vice-président de l’Office, rapporteur. – Il ne faut pas réguler directement la technologie, mais les usages et les finalités de la technologie. Par exemple, il faut réguler les deepfakes. Le filigrane est-il suffisant ? Ne faut-il pas menacer ceux qui diffusent des deepfakes de sanctions ?

M. Daniel Salmon, sénateur. – Merci aux rapporteurs pour ce travail. Pour moi, la question serait : « Et l’homme dans tout ça ? ». Nous dirigeons-nous vers un homme augmenté ou un homme diminué ? Aujourd’hui, avec le numérique conventionnel, le niveau scolaire baisse. Bien entendu, la cause est multifactorielle. Il n’y a pas que le numérique, il n’y a pas que les écrans, mais c’est un constat. Je suis inquiet. Tout cela est présenté comme inéluctable. Nous avons réussi, sur la génétique par exemple, à imposer des cadres. Nous sommes dans un monde de compétition et voilà la problématique. Nous avons peur d’être dépassés et, derrière le dépassement, pointe le risque d’asservissement. L’intelligence artificielle menace la diversité humaine qui peut disparaître au profit d’une espèce de pensée globale et uniformisée. L’intelligence artificielle perturbe complètement nos sens avec des manipulations qui génèrent des problématiques de santé mentale.

Nous sommes engagés dans une course pour limiter le réchauffement climatique et des technologies réclament sans cesse plus d’énergie. On peut rêver d’un monde de data centers entourés de small modular reactors (SMR). Toutefois, l’avenir de l’Homme est-il vraiment celui-ci ?

Je note des divergences sur la place de l’Europe. Il est possible de considérer que nous, Français, habitants du pays des Lumières, sommes au-dessus du reste du monde, mais je pense sincèrement que, pour avoir du poids, l’échelle européenne est la bonne. Cependant, je pense que nous avons des divergences sur ce sujet-là.

M. Stéphane Piednoir, sénateur, président de l’Office. – Vous avez presque paraphrasé le rapport qui indique que « l’homme augmenté est un humain diminué, il perd par son augmentation une part de son humanité ». C’est une question philosophique qui nous plonge dans un débat abyssal et effrayant.

M. Joël Bruneau, député. – Je vous ai entendu à plusieurs reprises parler de l’IA comme étant un outil. Cependant, l’intelligence artificielle est-elle vraiment un outil ? Jusqu’alors, les outils de l’humain servaient à prolonger son bras et son cerveau, à augmenter sa capacité personnelle. Mais il en gardait toujours le contrôle. L’IA pourrait s’autocommander. Par conséquent, est-ce toujours un outil ? Ma deuxième remarque porte sur la quantité d’énergie nécessaire au fonctionnement de l’IA. J’ai lu récemment qu’une simple recherche sur ChatGPT consomme dix fois plus d’énergie qu’une requête Google.

M. Patrick Chaize, sénateur, rapporteur. – En ce qui concerne l’impact environnemental, nous ne disposons pas d’études sérieuses à ce jour. Il y a de nombreuses estimations divergentes. Je me souviens d’un rapport sur l’impact environnemental du numérique qui prévoyait des conséquences totalement fantaisistes, notamment sur l’impact des courriels. Je crois qu’il nous faut une philosophie qui soit un équilibre entre les impacts négatifs et les externalités positives.

L’éducation est essentielle. Si, par exemple, nous utilisons l’IA pour effectuer une recherche et que cette recherche évite un déplacement polluant, alors le bilan s’équilibre.

M. Joël Bruneau, député. – Le sens de ma question portait plutôt sur les mesures mises en place pour anticiper la situation. Nous savons que l’IA va monter en puissance et que nous aurons besoin de plus en plus d’énergie. Nous devons nous y préparer et ne pas refaire la même erreur qu’avec la décarbonation des transports, car nous constatons, contrairement à ce qui avait été annoncé, que nous avons besoin de plus d’énergie pour électrifier le parc automobile. Je retiens de votre réponse l’absence d’études précises sur cette question.

Mme Corinne Narassiguin, sénatrice, rapporteure. – Le développement de l’IA est plus rapide que les innovations sur les processeurs, mais de nombreuses recherches sont en cours pour essayer de concurrencer Nvidia qui a bénéficié d’un heureux hasard. Au départ, cette entreprise développait des processeurs graphiques pour améliorer la qualité graphique des jeux vidéo. Ce n’est que dans un second temps que ses responsables se sont aperçus que ces processeurs étaient particulièrement adaptés au développement de l’IA. Lorsque nous nous sommes rendus chez Nvidia, j’ai interrogé nos interlocuteurs sur le problème de la consommation excessive d’électricité de leurs processeurs. Ils ne m’ont pas donné de réponses précises, mais je pense qu’ils investissent pour chercher à résoudre ce problème. De nombreuses entreprises, en Chine ou aux États-Unis, travaillent sur ce sujet. Nous avons en Europe des acteurs qui investissent ce champ, car il pourrait être celui de la prochaine révolution technologique. Quel est le prochain processeur affichant une faible consommation d’énergie ? Quel est le modèle ? Est-ce par un nouveau parallélisme des calculs par exemple ? De nombreuses possibilités existent, comme le quantique par exemple, dont nous ne savons pas quel est l’horizon de développement. Cependant, comme pour ChatGPT, nous pouvons être surpris et le phénomène peut aller vite. Il est difficile de prévoir les évolutions technologiques permettant des gains de puissance des processeurs et une moindre consommation d’énergie. Nous avons en France une carte à jouer, car nous avons eu de grands constructeurs et, avec les Allemands, nous possédons un vivier de talents. Nous pouvons investir ce sujet et celui du stockage des données pour gagner des positions dans la chaîne de valeur. Le stockage de données fait l’objet d’autres rapports, mais de nombreux développements sont en cours pour faire en sorte que les data centers soient plus écologiques et moins consommateurs d’énergie. Tous ces enjeux sont à prendre en compte dans le développement de l’IA.

Pour répondre à la première question, je confirme qu’aujourd’hui, l’IA est un outil. La question des risques existentiels attire beaucoup l’attention, mais je pense que les autres risques sont plus urgents.

Si nous allons vers une IA générale, la question de savoir si l’IA est toujours un outil se posera. Il faut garder un humain dans la boucle, qui sert de garde-fou. Mais peut-être qu’un jour, on inventera une IA qui développera une conscience. Nous devons rester attentifs à ces évolutions, mais aujourd’hui, l’IA demeure un outil, un accélérateur à notre service.

M. Alexandre Sabatou, député, vice-président de l’Office, rapporteur. – L’IA existe depuis longtemps et une frontière s’est dessinée entre IA et automatisation. Par exemple, sur votre portable, de nombreuses fonctionnalités s’appuient sur l’IA comme la reconnaissance vocale ou demain la traduction instantanée. De mon point de vue, l’IA reste donc un outil.

Sur l’IA générale, deux courants de pensée émergent. M. LeCun estime que l’IA générative atteint un plafond de verre, car la technologie commence à ralentir. Il est possible de le constater dans les déclarations de Sam Altman qui décale la sortie des nouvelles versions de ChatGPT même s’il affirme qu’il n’y a pas de mur. Intégrer le plus de données possible n’a plus les mêmes effets que sur les versions précédentes des modèles. Le développement de l’IA pourrait donc ralentir, mais il est possible que ce ralentissement n’en soit pas un, grâce à de meilleures architectures et de meilleurs algorithmes.

M. Pierre Henriet, député, premier vice-président de l’Office. – Je pense que l’Office doit être un organisme d’évaluation permettant d’avoir une vision claire des politiques publiques dans le domaine de l’IA. Nous avons en France un acteur important : Mistral AI. Connaissez-vous ses objectifs au sein de l’écosystème global de l’intelligence artificielle ? Dans quelle mesure peut-il être une réponse au besoin de souveraineté nationale ou européenne ?

Pour développer une politique publique, nous devons fixer des priorités à l’échelle nationale et européenne. Quelles applications de l’IA seraient les plus pertinentes ? Florence Lassarade a évoqué le fait que les applications santé ne sont pas totalement déployées, ce qui ouvre de nombreuses perspectives.

Les acteurs que vous avez rencontrés vous ont-ils sensibilisés à des secteurs plus stratégiques que d’autres ? Très récemment, les États-Unis ont annoncé leur volonté de déployer l’IA au niveau de l’administration. Est-ce une perspective dans laquelle la France pourrait avoir un potentiel ? Disposons-nous d’acteurs suffisamment robustes ?

L’ambition de souveraineté est partagée politiquement. Toutefois, disposons-nous de moyens à la hauteur de nos ambitions ? Nous avons tous la réponse. Par conséquent, il me semble fondamental de pousser à la mise en place d’une politique publique ambitieuse, peut-être pas jusqu’à une loi de programmation de l’intelligence artificielle, mais en impliquant les parlementaires dans un travail d’élaboration de son contenu.

Mme Corinne Narassiguin, sénatrice, rapporteure. – Mistral AI a décroché dans les derniers classements internationaux. Entre les différents modèles, la compétition est permanente et il est difficile de rester dans la course. Mistral AI est un acteur français, il faut donc continuer à le soutenir. Mais la question importante est celle du développement d’un écosystème pour ne pas se focaliser sur un acteur. Considérant la vitesse des évolutions, il n’est pas pertinent d’imaginer créer un « Airbus de l’IA ». Toutefois, il faut considérer toute la chaîne de valeur, de la conception des processeurs en passant par les centres de données jusqu’aux applications. La réflexion autour d’une stratégie publique doit s’orienter vers la création d’un écosystème qui facilite les partenariats public/privé. Le privé doit trouver un intérêt à travailler avec la recherche publique. Il faut inciter à des synergies qui donneront naissance à des acteurs clefs.

Pour favoriser l’appropriation de l’IA, l’éducation est un levier important. Dans le monde économique, nous devons préparer la transition, y compris auprès des petites entreprises et des artisans. Des IA plus spécialisées peuvent procurer de vrais gains de productivité et avoir un impact économique positif.

Dans les administrations, je crois que notre problème est que nous pensons en silo. L’État développe par exemple des systèmes d’IA au niveau national, mais n’implique pas les collectivités locales. La cybersécurité et la gestion des données sont des enjeux importants pour les collectivités, or nous devons créer des canaux de travail en commun pour aider à l’appropriation de l’IA aux niveaux local et national. Il est possible d’impulser des politiques publiques malgré des moyens budgétaires contraints.

M. Alexandre Sabatou, député, vice-président de l’Office, rapporteur. – La France n’est peut-être pas dans la voiture de tête, mais nous sommes toujours dans la course. Il est important que tout le monde ait conscience de cette réalité. Le marché est vaste, il présente de nombreuses opportunités et les Américains ne pourront pas prendre toutes les parts de marché si nous sommes présents et que nous parvenons à développer un écosystème. Au début d’Internet, dans le monde francophone, nous étions plutôt sur Dailymotion que sur YouTube. Si Dailymotion avait été protégé, nous aurions peut-être encore un acteur important sur le territoire. Je pense également à la téléphonie avec l’exemple d’Alcatel. La France regorge de talents, à tel point que dans la Silicon Valley, il n’est pas rare d’entendre parler de « French mafia ». Si nous réussissons à convaincre nos compatriotes de rester sur notre sol en leur offrant des opportunités, je pense sincèrement que nous pourrons accomplir de grandes choses.

Nous devons investir plus sur les supercalculateurs, car les Américains y injectent énormément de moyens. Or les supercalculateurs sont essentiels pour développer des modèles permettant de rester dans la course. Mistral AI n’est pas un leader, mais c’est aujourd’hui la meilleure solution pour répondre à des demandes en français.

La langue implique une culture, une manière de penser qui se retrouve dans les réponses en raison des données utilisées. C’est pourquoi il est important que Mistral AI soit soutenu. Par ailleurs, nous nous inquiétons de constater qu’au fur et à mesure des levées de fonds, de plus en plus d’investisseurs étrangers prennent des parts de l’entreprise, ce qui à terme, pourrait faire basculer Mistral AI dans des mains étrangères. Nous devons soutenir nos entreprises, leur permettre de grandir et les protéger. Nous avons un problème d’investissement. C’est la raison pour laquelle je suis favorable à la création d’un fonds souverain sur les nouvelles technologies, en mobilisant l’épargne par exemple à la manière du Livret A.

M. Stéphane Piednoir, sénateur, président de l’Office. – Chers collègues, je vais maintenant soumettre à votre approbation le rapport et ses recommandations.

M. Daniel Salmon, sénateur. – La première recommandation qui stipule « (...) renoncer à l’approche exclusivement tournée vers les risques » peut laisser entendre que nous voulons mettre les risques sous le tapis. Cette idée me gêne mais je vote tout de même pour l’adoption du rapport.

M. Stéphane Piednoir, sénateur, président de l’Office. – Il existe en effet une approche autour du risque et des craintes que l’IA soulève, alors que la volonté des rapporteurs est de mettre en avant une approche transversale, avec les apports de l’IA dans notre quotidien, ses bienfaits, sans négliger les risques pour autant car ils sont réels. Je pense que le rapport est équilibré.

L’Office adopte, à l’unanimité, le rapport et en autorise la publication.

Liste des personnes entendues

I. INSTITUTIONS

Conseil national du numérique (CNNum)

- Gilles Babinet, co-président, entrepreneur

- Joëlle Toledano, co-présidente, professeure des universités

- Jean Cattan, secrétaire général

- Agathe Bougon, secrétaire générale adjointe, chargée de la communication

- Anne Alombert, philosophe, enseignante-chercheuse à l’université Paris 8 Vincennes à Saint-Denis

- Olga Kokshagina, chercheuse en management

Commission nationale de l’informatique et des libertés (Cnil)

- Bertrand Pailhès, directeur des technologies et de l’innovation, ancien coordinateur national pour l’intelligence artificielle

- Félicien Vallet, chef du service Intelligence artificielle

- Chirine Berrichi, conseillère parlementaire

Direction générale des entreprises

- Loïc Duflot, chef du service de l’économie numérique

- Marie-Léa Rols, chargée de mission pour l’intelligence artificielle

Guillaume Avrin, coordinateur national pour l’intelligence artificielle

Commission de l’intelligence artificielle

- Philippe Aghion, co-président, professeur au Collège de France, à l’Insead et à la London School of Economics

- Anne Bouverot, co-présidente, présidente de l’École normale supérieure

- Cyprien Canivenc, rapporteur général

- Arno Amabile, rapporteur général

Organisation de coopération et de développement économiques

- Nozha Boujemaa, co-présidente du groupe d’experts sur l’IA de confiance à l’OCDE et membre du groupement d’experts de haut niveau sur l’IA auprès de la Commission européenne

- Angélina Gentaz, chargée de mission sur les politiques publiques de l’IA

Association française de normalisation (Afnor)

- Patrick Bezombes, conseiller pour la stratégie et la gouvernance de l’IA, représentant de la France au CEN-Cenelec pour la normalisation européenne de l’IA

II. Anciens parlementaires

Cédric Villani, ancien député, ancien président de l’OPECST, mathématicien, professeur des universités, membre de l’Académie des sciences, auteur du rapport « Donner un sens à l’intelligence artificielle » en 2018

Claude de Ganay, ancien député, ancien membre de l’OPECST, auteur du rapport « Pour une intelligence artificielle maîtrisée, utile et démystifiée » de l’OPECST en 2017

III. Experts et scientifiques

Raja Chatila, membre du conseil scientifique de l’OPECST, professeur émérite à l’université Paris Pierre-et-Marie-Curie (UPMC), directeur de recherche au Centre national de la recherche scientifique (CNRS), membre du comité national pilote d’éthique du numérique (CNPEN), président de l’Initiative mondiale IEEE sur l’éthique des systèmes autonomes et intelligents, co-président du groupe « IA responsable » du Global Partnership on Artificial Intelligence (GPAI), membre du groupe d’experts européen sur l’intelligence artificielle, ancien directeur de l’Institut des systèmes intelligents et de robotique (ISIR)

Daniel Andler, membre du Conseil scientifique de l’OPECST, professeur d’université, membre de l’Académie des sciences morales et politiques

Institut national de recherche en sciences et technologies du numérique (Inria)

- Bruno Sportisse, président-directeur général

- Frédéric Alexandre, directeur de recherche à l’Inria, responsable de l’équipe MNEMOSYNE à l’Institut des maladies neurodégénératives (CNRS-Inria-Université de Bordeaux-CHU Pellegrin)

- Yann Ferguson, sociologue, directeur scientifique de LaborIA

- Sandrine Mazetier, directrice générale déléguée à l’appui aux politiques publiques

Commissariat à l’énergie atomique et aux énergies alternatives (CEA)

- François Terrier, vice-président IA, directeur des programmes du List (systèmes numériques)

- Jérôme Bobin, directeur du département d’électronique et informatique pour la physique (Dedip) et du programme NumPEx (logiciels pour supercalculateurs)

- Hélène Latour, chargée de mission Affaires publiques et institutionnelles

Serge Abiteboul, directeur de recherche à l’Institut national de recherche en sciences et technologies du numérique (Inria), professeur affilié à l’ENS Paris Saclay, membre de l’Académie des sciences et du Collège de l’Autorité de régulation des communications électroniques, des postes et de la distribution de la presse (Arcep), président du conseil scientifique de la DGFiP, ancien professeur au Collège de France (Chaire d’informatique), ancien membre du Conseil national du numérique, ancien président du conseil scientifique de la Société d’informatique de France, animateur du blog binaire

Bertrand Braunschweig, coordinateur scientifique du programme national de recherche sur l’IA de confiance « Confiance.Ai », ancien coordinateur de la stratégie nationale de recherche en IA, ancien directeur du numérique à l’Agence nationale de la recherche (ANR), ancien directeur des centres Inria de Saclay et de Rennes

Jean-Gabriel Ganascia, professeur émérite à l’université Paris Pierre-et-Marie-Curie (UPMC), membre de l’Institut universitaire de France, président de l’association française pour l’avancement des sciences (Afas) et des comités d’éthique de Pôle emploi et de Docaposte, ancien président du Comets (Comité d’éthique du CNRS), auteur d’ouvrages sur l’IA destinés au grand public

Laurence Devillers, professeure à l’université Paris-Sorbonne et directrice de recherche au CNRS, Laboratoire d’informatique pour la mécanique et les sciences de l’ingénieur (Limsi de Saclay)

Laurent Alexandre, entrepreneur, conférencier, essayiste, membre de l’Académie des technologies

Christophe Labarde, journaliste, organisateur de l’exposition Irruption – Quand l’intelligence artificielle bouleverse la création

Pierre Fautrel, cofondateur du collectif d’artistes Obvious

IV. ENTREPRISES ET ASSOCIATIONS

Mistral AI

- Audrey Herblin-Stoop, directrice Affaires publiques

- Marie Pellat, ingénieure, spécialiste de la sécurité de l’IA

- Lucile Saulnier, ingénieure, chercheuse en IA

Atos

- Vasco Gomes, responsable technologique Cybersécurité

Dataiku

- Florian Douetteau, co-fondateur et président

LightOn

- Igor Carron, co-fondateur et président

- Olga Lopusanschi, responsable clients

Preligens

- Tugdual Ceillier, chercheur expert en IA

- Marc Antoine, responsable Affaires publiques

XXII

- William Eldin, fondateur et président

- François Mattens, directeur des affaires publiques et des partenariats stratégiques

Microsoft France

- Philippe Limantour, directeur technologique et cybersécurité

- Lionel Benatia, directeur des affaires publiques

Google France

- Jean-Marie Boutin, directeur des relations institutionnelles

- Sarah Boiteux, membre de l’équipe Government affairs and public policy

Meta France

- Martin Signoux, responsable Affaires publiques

IBM France

- Vincent Perrin, directeur technique écosystème, IA et informatique quantique

- Diane Dufoix-Garnier, directrice Affaires publiques

- Thierno-Babacar Ndiaye, alternant au sein de la cellule Affaires publiques

Kaspersky

- Bertrand Trastour, directeur général France

- Amin Hasbini, directeur du centre de recherche Moyen-Orient/ Turquie/ Afrique

- Vincent Prevost, consultant

- Gladys-Anne Okatakyie Yiadom, responsable des affaires publiques

SaferAI

- Siméon Campos, fondateur et président

Cybernetica

- Tariq Krim, fondateur et président

V. DÉPLACEMENT À BRUXELLES

Mercredi 24 et jeudi 25 avril 2024

Commission européenne

- Mauritz-Jan Prinz, conseiller au cabinet de M. Thierry Breton, Commissaire européen chargé du marché intérieur, accompagné par des représentants de la DG Connect de la Commission européenne

Parlement européen

- Svetla Tanova, responsable du European Science Media Hub

- Tambiama Madiega, analyste Politiques numériques au service de recherche du Parlement européen (STOA)

Ambassade de France en Belgique

- François Sénémaud, ambassadeur de France en Belgique

- Séverine Fautrelle, conseillère de coopération et d’action culturelle

Représentation Permanente de la France

- Benoît Blary, conseiller

Hugues Bersini, professeur à l’Université libre de Bruxelles, membre de l’Académie royale de Belgique

Institut Fari (Institut d’intelligence artificielle de la région Bruxelles-capitale)

- Carl Mörch, directeur

VI. DÉPLACEMENT AUX PAYS-BAS

Jeudi 25 et vendredi 26 avril 2024

Europol

- Jean-Philippe Lecouffe, directeur adjoint

- Didier Jacobs, directeur de l’intelligence artificielle

- Emmanuel Kessler, responsable de l’équipe Prévention et sensibilisation du Centre européen de lutte contre la cybercriminalité (EC3)

Ministère de l’intérieur (BZK)

Eva Heijblom, directrice générale Transition numérique des services de l’État

Mark Pryce, responsable Affaires internationales

Ministère des affaires étrangères (BZ)

- Joost Flamand, directeur de la politique de sécurité (DVB)

Ministère des affaires économiques et du climat (EZK)

- Thomas Faber, responsable au sein du département de l’économie numérique

Ministère de l’éducation, de la culture et de la science (OCW)

- Anne-Marie De Ruiter, directrice Europe

Autorité des données personnelles

- Sven Stevenson, directeur de programme à la direction des algorithmes de coordination (DCA)

Organisation néerlandaise pour la recherche scientifique appliquée (TNO)

- Christine Balch, responsable Affaires européennes, stratégie d’entreprise

- Anne Fleur van Veenstra, directrice scientifique au Centre d’innovation et de stratégie sociétale (TNO Vector) et professeur chargé de la gouvernance des données et des algorithmes à l’Université de Leyde

- Freek Bomhof, directeur du programme Applications de l’IA

AI Amsterdam Coalition

- Anita Nijboer, ambassadrice

Université de technologie de Delft

- Han La Poutré, professeur, responsable Recherche et stratégie au CWI (Institut national de recherche en mathématiques et en informatique)

- Alessandro Bozzon, professeur

- Fred Herrebout, responsable Affaires publiques

Centre d’innovation pour l’intelligence artificielle (Innovation Center for Artificial Intelligence – ICAI)/Université d’Amsterdam

- Maarten de Rijke, directeur

Confédération de l’industrie et des employeurs des Pays-Bas (VNO-NCW)

- Stefan Leijnen, directeur IA pour les politiques internationales et européennes

TechLeap

- Maxime Lubbers, responsable Intelligence artificielle

- Abla Chaoui, expert Data et IA

Fabien Bouhier, entrepreneur et investisseur

Ambassade de France aux Pays-Bas

- François Alabrune, ambassadeur de France aux Pays-Bas

- Jean-Jacques Pierrat, attaché de coopération scientifique et universitaire

- Marnix Satter, attaché de coopération scientifique et universitaire adjoint

- Manola Ruff, attachée Industrie et innovation

Service économique régional de La Haye

- Benoît Lemonnier, conseiller financier régional, adjoint à la cheffe du service

CCI France/Pays-Bas

- Sylvie Craenen, directrice générale

French Tech Amsterdam

- Mylena Pierremont, présidente

VII. DÉPLACEMENT AU ROYAUME-UNI

Du mercredi 21 au vendredi 23 février 2024

Chambre des Lords

- Timothy Clement-Jones, membre de la Chambre des Lords, porte-parole pour l’Économie numérique

AI Safety Institute, ministère de la science, de l’innovation et de la technologie

- Imogen Schon, directrice adjointe

- Anna Bruvere, responsable pour la coopération politique internationale

Innovate UK

- Sarah El-Hanfy, responsable IA et Machine learning

Ada Lovelace Institute

- Fran Bennett, directrice générale par intérim

- Michael Birtwistle, directeur Droit et politiques publiques

Université d’Oxford

- Lionel Tarassenko, professeur de bioingénierie, intelligence artificielle et santé

Google DeepMind

- Ankur Vora, responsable Politique internationale et engagement public

- Dorothy Chou, responsable Affaires publiques

- Jean-Marie Boutin, responsable Affaires publiques Google France

BBC

- Danijela Horak, responsable de la recherche en intelligence artificielle

KPMG

- Dennis Tatarkov, économiste

Tony Blair Institute for global change

- Melanie Garson, responsable Politiques et cybersécurité, professeur de résolution des conflits internationaux et de sécurité internationale au département de science politique de University College London (UCL)

Ambassade de France au Royaume-Uni

- Hélène Duchêne, Ambassadrice de France au Royaume-Uni

Service pour l’enseignement supérieur, la recherche et l’innovation (ESRI)

- Minh-Hà Pham, conseillère Science et technologie

- Ludovic Drouin, attaché scientifique

- Yanis Gillmann, attaché adjoint Science et innovation

Service économique régional (SER)

- Karine Maillard, conseillère économique

- Lara Joutard, attachée numérique

VIII. DÉPLACEMENT AUX ÉTATS-UNIS (New York, Washington D.C., San Francisco)

Du dimanche 14 au dimanche 21 avril 2024

Congrès des États-Unis

- Anna Eshoo, représentante (Démocrate-Californie)

- Todd Young, sénateur (Républicain-Indiana)

- Marsha Blackburn, sénatrice (Républicain-Tennessee)

- Mike Rounds, sénateur (Républicain-Dakota du Sud)

Office of science and technology policy (OSTP) de la Maison-Blanche

- Austin Bonner, directrice générale adjointe Technologies et politiques publiques

- Alex Engler, conseiller politique

ONU et Unesco

- Estelle Zadra, officier de liaison entre l’ONU et l’Unesco pour l’Europe et l’Amérique du Nord

Bureau de l’UE à San Francisco

- Joanna Smolinska, directrice adjointe en charge du numérique

National Science Foundation (NSF)

- Michael Littman, directeur de la division de l’informatique et des systèmes intelligents

- Wendy Nilsen, directrice adjointe de la division de l’informatique et des systèmes intelligents

- Katie Antypas, directrice du bureau Cyberinfrastructures avancées

- Dilma da Silva, directrice adjointe pour la science et l’ingénierie de l’informatique

- Roxanne Nikolaus, responsable de section, Bureau de la science et de l’ingénierie internationales

- Sirin Tekinay, responsable des relations entre la recherche américaine et le G7, le G20 et l’Europe

Université de Stanford

- Emmanuel Candès, co-président de l’Institut de la science des données

- Florence G’sell, professeure invitée Programme Gouvernance des technologies émergentes

- Michelle Pualuan, responsable des programmes

- Marietje Schaake, chargée de mission Politique internationale

Université de Californie Berkeley - CITRIS (Center for information technology research in the interest of society)

- Alexandre Bayen, directeur

- Camille Crittenden, directrice exécutive

- Sandrine Dudoit, doyenne adjointe de la faculté et de la recherche

- Brandie Nonnecke, directeur du laboratoire pour les politiques publiques, les risques et la sécurité (CITRIS Policy Lab)

Université du Maryland

- Michel Cukier, professeur

EveryoneAI

- Mathilde Cerioli, responsable scientifique

- Anne-Sophie Seret, chef de projet

- Céline Malvoisin, experte en développement du langage

Allen Institute

- Rui Costa, directeur général

- Andy Hickl, directeur technique

Meta

- Yann LeCun, directeur scientifique de l’IA, professeur à New York University

- Nicolas Bièvre, ingénieur en IA

Microsoft GitHub

- Mike Linksvayer, vice-président en charge des politiques publiques

- Peter Cihon, directeur des politiques publiques

Google

- Matthieu Lorrain, chef global de l’innovation créative

- Surya Tubach, cheffe de projet, Google Arts & Culture

- Vincent Vanhoucke, directeur en robotique, Google DeepMind

- Inès Mezerreg, ingénieure en intelligence artificielle, Google Research

- Shervine Amidi, ingénieur

OpenAI

- Elisabeth Proehl, responsable de l’équipe Affaires internationales

- Karen Toro, membre de l’équipe Affaires internationales

Anthropic

- Cathy Dinas, cheffe de cabinet

- Alex Tamkin, chef de projet

- Ashley Zlatinov, responsable des politiques publiques

Hugging Face

- Yacin Jernite, chercheur en IA

Nvidia

- Ned Finkle, vice-président en charge des relations extérieures

- Matt Milner, responsable des affaires publiques

Amazon Web Service (AWS)

- Christian Troncoso, directeur de la politique globale IA

- Sasha Rubel, responsable des politiques publiques en IA/machine learning Europe-Afrique-Moyen-Orient

- Sherry Markus, directrice scientifique d’Amazon Bedrock

- Charlotte Baylac, responsable des affaires publiques d’AWS France

Asana

- Rebecca HINDS, responsable de « The Work Innovation Lab »

J&P Morgan Chase & Co

- Manuela Veloso, responsable de la recherche en IA

XBrain

- Gregory Renard, fondateur et président

LaVague

- Daniel Huynh, président-directeur général

Prometheus Computing

- Frédéric de Vaulx, directeur général

Asurion/Simplr

- Clément Ruin, senior data scientist

Appen

- Alice Desthuilliers, responsable produits

Mobioos

- Nolwenn Godard, vice-présidente

Virgile Foussereau, chercheur, Université de Berkeley

Ambassade de France aux États-Unis (Washington D.C.)

- Laurent Bili, ambassadeur de France aux États-Unis

- Damien Cristofari, premier conseiller

- Alexandre Mirlesse, conseiller politique Chancellerie diplomatique

- Mireille Guyader, conseillère scientifique

- Marc Brocheton, conseiller économique, Entreprise et innovation (Service économique régional)

- Pascal Confavreux, conseiller Presse et communication

- Sébastien Pauly, attaché de défense adjoint - Armement

- Pascal Revel, attaché pour la science et technologie

- Ludovic Francis, attaché scientifique adjoint

- Vincent Lépinay, attaché de coopération universitaire

- A. Smith, attachée de presse

- V. d’Alançon, chargée de mission

Consulat général de France à San Francisco

- Frédéric Jung, consul général de France

- Vanessa Bonnet, attachée économique

- Emmanuelle Pauliac-Vaujour, attachée scientifique

- Valentine Asseman, attachée scientifique adjointe

Commissariat à l’énergie atomique et aux énergies alternatives (CEA)

- Sunil Félix, conseiller nucléaire États-Unis/Canada

Centre national de la recherche scientifique (CNRS)

- Sylvie Tourmente, directrice du bureau États-Unis et Canada

Centre national d’études spatiales (CNES)

- Nicolas Maubert, conseiller spatial pour les États-Unis

Institut national de recherche pour l’agriculture, l’alimentation et l’environnement (Inrae)

- Laura Gonçalves de Souza, chargée de mission pour les États-Unis

Annexes

Lettre de saisine de l’Office par le Bureau de l’Assemblée nationale

Lettre de saisine de l’Office par le Bureau du Sénat

[1] Cf. les deux lettres de saisine signées par la Présidente de l’Assemblée nationale, Yaël Braun-Pivet, et le Président du Sénat, Gérard Larcher, annexées à la fin du présent rapport.

[2] Cf. le rapport de l’OPECST de Claude de Ganay et Dominique Gillot, mars 2017, « Pour une intelligence artificielle maîtrisée, utile et démystifiée », disponible sur le site du Sénat : https://www.senat.fr/notice-rapport/2016/r16-464-1-notice.html ainsi que sur celui de l’Assemblée : https://www.assemblee-nationale.fr/dyn/14/dossiers/intelligence_artificielle_maitrisee_utile

[3] Cf. le rapport de l’OPECST précité p.29.

[4] Cf. la conclusion générale du rapport de l’OPECST précité p.207.

[5] À l’occasion de la Journée internationale des droits des femmes, la délégation sénatoriale aux droits des femmes, la délégation sénatoriale à la prospective et l’OPECST ont organisé au Sénat, jeudi 7 mars 2024, trois tables rondes réunissant des experts et expertes de l’IA, en particulier des femmes engagées et aux compétences reconnues, qui se sont penchées sur trois questions : pourquoi si peu de femmes dans les métiers de l’IA ? L’IA est-elle sexiste ? Comment faire de l’IA un atout pour l’égalité femmes-hommes ? Cf. le rapport d’information « Femmes et IA : briser les codes », n° 607 (2023-2024) : https://www.senat.fr/notice-rapport/2023/r23-607-notice.html

[6] Cf. Georges Bernanos, La France et les Robots, Éditions de la France libre, 1946, page 11.

[7] En effet, la délégation à la prospective du Sénat a travaillé sur cinq cas d’usage de l’intelligence artificielle dans les services publics. Ainsi, nos collègues sénateurs ont d’ores et déjà publié trois rapports. Sylvie Vermeillet et Didier Rambaud ont écrit le premier rapport : « Impôts, prestations sociales et lutte contre la fraude » ; Anne Ventalon et Christian Redon-Sarrazy, le deuxième rapport : « IA et santé » ; et Christian Bruyen et Bernard Fialaire, le troisième rapport : « IA et éducation ». Deux autres rapports sont prévus : « IA et environnement » ainsi que « IA, territoires et proximité ». Cf. les liens vers les trois rapports déjà publiés : « L’IA et l’avenir du service public, rapport thématique #1 : Impôts, prestations sociales et lutte contre la fraude » https://www.senat.fr/rap/r23-491/r23-491-syn.pdf ; « L’IA et l’avenir du service public, rapport thématique #2 : IA et santé » : https://www.senat.fr/rap/r23-611/r23-611-syn.pdf ; « L’IA et l’avenir du service public, rapport thématique #3 : IA et éducation » : https://www.senat.fr/rap/r24-101/r24-101-syn.pdf

[8] Cf. le rapport de la commission des lois de l’Assemblée nationale en conclusion des travaux de sa mission d’information sur les défis de l’intelligence artificielle générative en matière de protection des données personnelles et d’utilisation du contenu généré, rapport d’information n° 2207, 14 février 2024, 16e législature :

https://www.assemblee-nationale.fr/dyn/16/rapports/cion_lois/l16b2207_rapport-information

[9] Cf. la proposition de résolution du 31 janvier 2019 d’André Gattolin, Claude Kern, Cyril Pellevat et Pierre Ouzoulias au nom de la commission des affaires européennes du Sénat sur les investissements dans l’intelligence artificielle en Europe : « Intelligence artificielle : l’urgence d’une ambition européenne » par : https://www.senat.fr/rap/r18-279/r18-279.html

[10] Cf. la proposition de résolution du 30 mars 2023 d’André Gattolin, Catherine Morin-Desailly, Cyril Pellevat et Elsa Schalck au nom de la commission des affaires européennes du Sénat relative à la proposition de règlement établissant des règles harmonisées concernant l’intelligence artificielle et modifiant certains actes législatifs de l’Union : https://www.senat.fr/leg/ppr22-484.html

[11] Cf. la présentation de cette mission de la commission des lois du Sénat : https://www.senat.fr/travaux-parlementaires/commissions/commission-des-lois/intelligence-artificielle-et-professions-du-droit.html

[12] Depuis trois ans, le projet CulturIA notamment à travers son séminaire « Pour une histoire de l’intelligence artificielle (IA) » aborde les aspects scientifiques, technologiques et culturels de l’histoire de l’intelligence artificielle et tend à diffuser les recherches en cours, dans l’attente d’une future publication. Grâce aux différentes spécialités convoquées, cette histoire vise à comprendre les multiples enjeux du développement de l’IA. Cf. la présentation du séminaire 2024/2025 : https://doi.org/10.58079/12b1f

[13] Cf. le rapport de l’OPECST précité « Pour une intelligence artificielle maîtrisée, utile et démystifiée », p. 31.

[14] Cf. l’étude du Conseil d’État du 31 mars 2022, « Intelligence artificielle et action publique : construire la confiance, servir la performance » : https://www.conseil-etat.fr/publications-colloques/etudes/intelligence-artificielle-et-action-publique-construire-la-confiance-servir-la-performance

[15] Il s’agit d’un ensemble fini et précis de séquences d’opérations ou d’instructions permettant, à l’aide d’entrées, de résoudre un problème ou d’obtenir un résultat, ces sorties étant réalisées selon un certain rendement. Donald Knuth, pionnier de l’algorithmique moderne (The Art of Computer Programming), a identifié les cinq propriétés suivantes comme étant les prérequis d’un algorithme : la finitude (« Un algorithme doit toujours se terminer après un nombre fini d’étapes »), une définition précise (« Chaque étape d’un algorithme doit être définie précisément, les actions à transposer doivent être spécifiées rigoureusement et sans ambiguïté pour chaque cas »), l’existence d’entrées (« des quantités lui sont données avant qu’un algorithme ne commence. Ces entrées sont prises dans un ensemble d’objets spécifié ») et de sorties (« des quantités ayant une relation spécifiée avec les entrées ») et un rendement (« toutes les opérations que l’algorithme doit accomplir doivent être suffisamment basiques pour pouvoir être en principe réalisées dans une durée finie par un homme utilisant un papier et un crayon »).

[16] Dans ses Pensées, Pascal affirme : « la machine d’arithmétique fait des effets qui approchent plus de la pensée que tout ce que font les animaux mais elle ne fait rien qui puisse faire dire qu’elle a de la volonté, comme les animaux ».

[17] Cette technologie sera d’ailleurs au principe de la première machine à calculer commercialisée, l’arithmomètre, invention française de Charles Xavier Thomas de Colmar pour laquelle il dépose un brevet en France en 1820, puis en Angleterre et en Belgique en 1851. Sa machine « propre à suppléer à la mémoire dans toutes les opérations d’arithmétique » repose sur les cylindres de Leibniz et nécessite de tourner des boutons. Elle a été fabriquée à 900 exemplaires de son vivant mais souffre d’une forte concurrence internationale, qui se contente de copier son modèle (Burkhardt, Saxonia, Bunzel, Archimedes, Tate, etc.). Les machines à calculer mécaniques américaines, dotées d’un clavier à touches, domineront le marché mondial sous le nom de comptomètres à partir de la fin du XIXe siècle jusqu’à l’invention des calculatrices électroniques dans les années 1960.

[18] George Boole, 1847, The mathematical analysis of logic. Being an essay towards a calculus of deductive reasoning, Barclay, & Macmillan.

[19] Dans les années 1860, Jevons travaille à la construction d’un piano logique, qu’il finit en 1869 et présente à la Royal Society en 1870. Sa machine possède un clavier qui ressemble à celui d’un piano, mais à la place des notes, les touches comportent des lettres, de A à D, redoublées. Il y a par exemple un A pour la proposition A est vraie, et un autre A pour la proposition A est fausse. Les touches suivantes (B, C, et D) fonctionnent de la même manière et selon ces quatre prémisses possibles que l’utilisateur va pouvoir combiner, la machine calculera le résultat.

[20] En 1834, pendant le développement d’une machine à calculer, Charles Babbage imagine le premier ordinateur sous la forme d’une « machine à différences » en utilisant la lecture séquentielle des cartes du métier à tisser Jacquard afin de donner des instructions et des données à sa machine. En cela, il fut le premier à énoncer le principe d’un ordinateur.

[21] Charles Babbage avait avant cela écrit, en 1838, un algorithme de calcul des coefficients du produit de deux polynômes, mais en tant que simple programme séquentiel, il n’est pas considéré comme le premier programme informatique.

[22] Extrait de l’article « Darwin among the Machines » dans The Press du 13 juin 1863 : « We refer to the question: What sort of creature man’s next successor in the supremacy of the earth is likely to be. We have often heard this debated; but it appears to us that we are ourselves creating our own successors; we are daily adding to the beauty and delicacy of their physical organisation; we are daily giving them greater power and supplying by all sorts of ingenious contrivances that self-regulating, self-acting power which will be to them what intellect has been to the human race. In the course of ages we shall find ourselves the inferior race (…). Day by day, however, the machines are gaining ground upon us; day by day we are becoming more subservient to them; more men are daily bound down as slaves to tend them, more men are daily devoting the energies of their whole lives to the development of mechanical life. The upshot is simply a question of time, but that the time will come when the machines will hold the real supremacy over the world and its inhabitants is what no person of a truly philosophic mind can for a moment question ».

[23] Les romans récents d’Antoine Bello (comme Ada), de Christian Léourier (Helstrid) ou de Steven Erikson (Rejoice) sont d’autres exemples de cette inspiration par le thème de l’IA.

[24] Cf. Stephen Cave et Kanta Dihal, 2019, « Hopes and fears for intelligent machines in fiction and reality », Nature Machine Intelligence, volume 1, no 2 :‎ https://www.nature.com/articles/s42256-019-0020-9

[25] L’anthropomorphisme est l’attribution de caractéristiques du comportement humain ou de la morphologie humaine à d’autres entités comme des dieux, des animaux, des objets ou d’autres phénomènes. L’essentialisme est l’attribution à un être ou à un objet d’une existence propre « par essence », c’est-à-dire inhérente au sujet en question.

[26] Au sein d’une équipe composée de nombreux scientifiques – jusqu’à 7 000 ont participé en même temps aux projets de l’opération Ultra –, Turing s’est illustré par ses talents. Outre Enigma, ces cryptanalystes ont également cassé les codes Purple et Lorenz, notamment grâce à l’ordinateur Colossus fabriqué en 1943, premier ordinateur électronique numérique à voir le jour dans le monde, capable d’accomplir jusqu’à 5 000 opérations par seconde. Le 2e ordinateur Colossus appelé Mark II a notamment été utilisé à l’occasion du débarquement de Normandie. Dix machines Colossus ont au total été produites pendant la Seconde Guerre mondiale.

[27] Alan Turing, octobre 1950 « Computing Machinery and Intelligence », Mind.

[28] Le test de Turing consiste à mettre en confrontation verbale un humain avec un ordinateur imitant la conversation humaine et un autre humain. Dans le cas où l’homme qui engage les conversations n’est pas capable de dire lequel de ses interlocuteurs est un ordinateur, on peut considérer que le logiciel de l’ordinateur a passé avec succès le test.

[29] Peter Norvig et Stuart Russell, 2010, Artificial intelligence: a modern approach. Prentice Hall, Upper Saddle River: http://www.worldcat.org/oclc/688385283

[30] Cf. le site de l’OCDE dédié à l’IA et en particulier sa page de présentation de ses principes pour l’IA : https://oecd.ai/fr/ai-principles

[31] John McCarthy a inventé le langage de programmation Lisp dès 1958, c’est un mot-valise formé à partir de l’anglais list processing ou traitement de listes. Si l’on met de côté la « machine de Turing » qui relève de l’informatique théorique, le « système A-0 » (ou « A-0 System ») est le premier compilateur (programme qui transforme un code source écrit dans un langage de programmation ou langage source en un autre langage informatique, appelé langage cible) développé en 1952 ; il est suivi notamment par le Fortran (mot-valise issu de l’anglais « formula translator ») inventé dès 1954, Lisp et Algol en 1958, Cobol (acronyme de « Common Business Oriented Language ») en 1959, BASIC (acronyme de « Beginner’s All-purpose Symbolic Instruction Code ») en 1964, Logo en 1967, Pascal en 1971, ou, encore, Prolog (mot-valise pour Programmation logique), inventé par des chercheurs français en 1972. Parmi tous ces langages de programmation, le Lisp occupe une place particulière, cf. John McCarthy, Avril 1960, « Fonctions Récursives d’expressions symboliques et leur évaluation par une Machine » ou « Recursive Functions of Symbolic Expressions and Their Computation by Machine », Communications of the ACM.

[32] Cf. Will Douglas Heaven, décembre 2023, « Google DeepMind used a large language model to solve an unsolved math problem », MIT Technology Review :

https://www.technologyreview.com/2023/12/14/1085318/google-deepmind-large-language-model-solve-unsolvable-math-problem-cap-set/ et Bernardino Romera-Paredes et al., 2024, « Mathematical discoveries from program search with large language models », Nature n°625, 468–75 : https://doi-org.stanford.idm.oclc.org/10.1038/s41586-023-06924-6

[33] La citation originale est la suivante : « Men will set the goals, formulate the hypotheses, détermine the criteria, and perform the evaluations. Computing machines will do the routinizable work that must be done to prepare the way for insights and decisions in technical and scientific thinking ». Cf. Joseph Carl Robnett Licklider, 1960, « Man-Computer Symbiosis ».

[34] Des symboles permettent alors de représenter des faits et des règles permettent d’en déduire de nouveaux.

[35] La critique principale concerne l’incapacité du Perceptron à résoudre les problèmes non linéairement séparables, tels que le problème du « X OR » (« OU exclusif »). Il s’en suivra alors, en réaction à la déception, une période noire d’une vingtaine d’années pour les réseaux de neurones artificiels.

[36] Il s’agit de connaissances à propos des connaissances elles-mêmes.

[37] Après la fin de l’année 2017, AlphaGo repose sur une autre architecture sans la méthode de Monte-Carlo mais parvenant pourtant très rapidement à des performances supérieures. Cette nouvelle version baptisée AlphaGo Zero remplace l’apprentissage à partir des parties des grands maîtres de go par une nouvelle méthode d’apprentissage par renforcement très efficace qui permet au système d’atteindre des niveaux encore moins rattrapables par l’homme. Cf. David Silver, Julian Schrittwieser, Karen Simonyan, Ioannis Antonoglou, Aja Huang, Arthur Guez, Thomas Hubert, Lucas Baker, Matthew Lai, Adrian Bolton, Yutian Chen, Timothy Lillicrap, Fan Hui, Laurent Sifre, George van den Driessche, Thore Graepel et Demis Hassabis, 19 octobre 2017, « Mastering the game of Go without human knowledge », Nature, vol. 550,‎ : https://arxiv.org/pdf/1712.01815.pdf

[38] Cf. R. Lambert, 11 mars 2018, « Une IA championne de poker ? », sur le site Pensée Artificielle : http://penseeartificielle.fr/ia-poker-libratus-bat-professionnels/

[39] Shortliffe, Edward H, et Bruce G Buchanan. 1975. « A model of inexact reasoning in medicine ». Mathematical biosciences 23(3-4): 351-79.

[40] En informatique, une ontologie est la modélisation d’un ensemble de données par des concepts et relations issues de connaissances dans un domaine donné (par exemple, géographie, médecine, agriculture, etc.), source : Cnil.

[41] Le Web sémantique consiste en un Internet intelligent permettant aux ordinateurs de comprendre et de répondre aux demandes de l’utilisateur en fonction du sens de celles-ci. Cette structure de connaissances aurait été accessible aux machines en insérant sur les pages Web des métadonnées lisibles par l’ordinateur. Ces métadonnées étant liées les unes aux autres, le Web sémantique aurait conduit à des usages plus intelligents d’Internet. Des langages ont été conçus à cette fin, comme RDF (Resource Description Framework), OWL (Ontology Web Language) ou XML (eXtensible Markup Language) mais la faisabilité d’une telle technologie d’IA à l’échelle des milliards de pages d’Internet devient de plus en plus difficile. Par exemple, l’ontologie de la terminologie médicale SNOMED CT contient à elle seule 370 000 noms de classes or aucune technologie existante n’a été en mesure d’éliminer tous les doublons du point de vue sémantique. Les applications de ces systèmes resteront donc surtout réservées au monde des bibliothèques, à l’édition ou à des blogs spécialisés. La Bibliothèque nationale de France utilise ainsi en lien avec sa bibliothèque numérique Gallica, un système de Web sémantique à travers le projet « data.bnf.fr », basé sur un réseau de métadonnées sous la forme de triplets RDF contenus dans chaque URL. Depuis 2017, le système data.bnf.fr s’appuie sur le modèle conceptuel de référence au niveau international, dit « IFLA LRM »).

[42] Cf. John Searle, 1980, « Minds, brains, and programs », Behavioral and Brain Sciences, vol. 3, n° 3 : https://www.cambridge.org/core/journals/behavioral-and-brain-sciences/article/abs/minds-brains-and-programs/DC644B47A4299C637C89772FACC2706A. François Chollet, chercheur en intelligence artificielle et créateur de la bibliothèque Keras, sans commenter l’expérience de la chambre chinoise, a abordé des questions similaires concernant la nature de la compréhension de l’intelligence artificielle et ce que l’on appelle l’intelligence des machines. Dans son article « On the Measure of Intelligence », il proposait en 2019 une définition de l’intelligence basée sur l’efficacité de l’acquisition de compétences, soulignant que la simple exécution de tâches ne reflète pas une véritable compréhension ou intelligence.

[43] Dans ses Fragments, Héraclite, penseur du mouvement niant le principe d’identité, distinguait déjà la pensée (γὸδος), l’énoncé (ἒπος) et la réalité (ἒργον), la liaison entre ces trois éléments étant réalisée selon lui par le logos, principe unique d’essence divine.

[44] Les superstatistiques au sens strict forment un sous-domaine de la physique statistique et consistent à décrire les propriétés statistiques d’un système par une superposition de statistiques.

[45] Les notions de « couche cachée » et de « fonction d’activation » sont abordées plus loin.

[46] Cybenko, George. 1989. « Approximation by superpositions of a sigmoidal function ». Mathematics of control, signals and systems.

[47] Hornik, Kurt, Maxwell Stinchcombe, et Halbert White. 1989. « Multilayer feedforward networks are universal approximators » et, 1991, « Approximation capabilities of multilayer feedforward networks », Revue Neural networks.

[48] Il existe plusieurs extensions du théorème, notamment aux domaines non compacts, aux architectures de réseaux et topologies alternatives, ou encore à des réseaux certifiables. Cf. Patrick Kidger et Terry Lyons, 2020, « Universal Approximation with Deep Narrow Networks », Conference on Learning Theory, Hongzhou Lin et Stefanie Jegelka, 2018, « ResNet with one-neuron hidden layers is a Universal Approximator », Advances in Neural Information Processing Systems, Maximilian Baader, Matthew Mirman et Martin Vechev, 2020, « Universal Approximation with Certified Networks », ICLR.

[49] McCulloch, Warren S, et Walter Pitts, 1943, « A logical calculus of the ideas immanent in nervous activity », Bulletin of Mathematical Biophysics, no 5,‎ pp. 115-133.

[50] Cf. J. Lettvin, H. Maturana, W. McCulloch et W. Pitts, « What the Frog’s Eye Tells the Frog’s Brain », Proceedings of the IRE, vol. 47, no 11,‎ novembre 1959, pp. 1940–1951.

[51] Frank Rosenblatt, 1958, « The perceptron : a probabilistic model for information storage and organization in the brain », Psychological review, vol. 65, n° 6.

[52] On parle « d’hyperplan » pour parler d’espaces avec une dimension de moins que l’espace dans lequel on se trouve. En deux dimensions, il s’agit d’une droite (une dimension), en trois dimensions, d’un plan (deux dimensions), on peut étendre le principe aux espaces à plus de dimensions.

[53] Cf. John J. Hopfield, 1982, « Neural networks and physical systems with emergent collective computational abilities », Proceedings of the National Academy of Sciences, vol. 79, n° 8 : https://www.pnas.org/doi/10.1073/pnas.79.8.2554

[54] Cf. Marvin L Minsky. et Seymour A. Papert, 1969, Perceptrons : an introduction to computational geometry. éd. Cambridge MIT Press.

[55] La notion d’alternance entre « Hivers » et « Printemps » de l’IA a été plus amplement développée dans le rapport de l’OPECST écrit par M. le député Claude de Ganay et Mme la sénatrice Dominique Gillot : Pour une intelligence artificielle maîtrisée, utile et démystifiée disponible sur le site du Sénat : https://www.senat.fr/rap/r16-464-1/r16-464-11.pdf et de l’Assemblée nationale : https://www2.assemblee-nationale.fr/documents/notice/14/rap-off/i4594/(index)/index-thematique-oecst

[56] Cf. ces deux articles fondateurs : David Rumelhart, Geoffrey Hinton et Ronald Williams, 1986, « Learning representations by back-propagating errors », Nature, vol. 323 ; David Rumelhart, Geoffrey Hinton, et James McClelland, 1986, « A general framework for parallel distributed processing » in David Rumelhart et James McClelland, Parallel distributed processing: Explorations in the microstructure of cognition, MIT Press.

[57] C’est l’objet même de la thèse de Yann LeCun et l’un des enjeux de celle de Yoshua Bengio. Cf. Yann LeCun, 1987, « Modèles connexionnistes de l’apprentissage », thèse de doctorat, Université Paris VI, Paris, ainsi que plus spécifiquement Yann LeCun, 1988, « A Theoretical Framework for Back-Propagation », Proceedings of the 1988 Connectionist Models Summer School, Carnegie Mellon University, Pittsburg. Yann LeCun a également introduit les réseaux neuronaux convolutifs (CNN). Et pour Yoshua Bengio: Yoshua Bengio, 1991, « Artificial neural networks and their application to sequence recognition », Mc Gill University, Montréal, ainsi que plus spécifiquement Yoshua Bengio et al., 1994, « Learning long-term dependencies with gradient descent is difficult », IEEE Transactions on Neural Networks, volume 5, n° 2.

[58] La rétropropagation neuronale désigne la propagation d’un potentiel d’action dans un neurone, non pas vers la terminaison de l’axone (propagation normale), mais au rebours, en direction des dendrites, d’où provenait la dépolarisation originelle. Cf. Greg Stuart, Nelson Spruston, Bert Sakmann et Michael Häusser, 1997, « Action potential initiation and backpropagation in neurons of the mammalian CNS », Trends in Neurosciences, vol. 20, n° 3 : https://pubmed.ncbi.nlm.nih.gov/9061867/

[59] Cf. Yann LeCun, Yoshua Bengio, et Geoffrey Hinton, 2015, « Deep Learning », numéro spécial de la revue Nature.

[60] Hubel, David H, et Torsten N Wiesel. 1968. « Receptive fields and functional architecture of monkey striate cortex ». The Journal of physiology 195(1): 215-43.

[61] Kunihiko Fukushima, 1975, « Cognitron: A self-organizing multilayered neural network », Biological cybernetics, 20(3): 121-36.

[62] Kunihiko Fukushima, 1980, « Neocognitron: A self-organizing neural network model for a mechanism of pattern recognition unaffected by shift in position », Biological cybernetics 36(4): 193-202.

[63] Yann LeCun, 2019, Quand la machine apprend : La révolution des neurones artificiels et de l’apprentissage profond, Odile Jacob. pp. 203-204.

[64] Yann LeCun, Léon Bottou, Yoshua Bengio, et Patrick Haffner, 1998, « Gradient-based learning applied to document recognition », Proceedings of the IEEE.

[65] Kaiming He, Zhang Xiangyu, Ren Shaoqing et Sun Jian, 2016, « Deep residual learning for image recognition ».

[66] Voir le tableau des fonctions d’activation pour une liste non exhaustive des fonctions d’activation qu’il est possible d’utiliser.

[67] S-I Amari, 1972, « Learning patterns and pattern sequences by self-organizing nets of threshold elements », IEEE Transactions on computers.

[68] John J. Hopfield, 1982, « Neural networks and physical systems with emergent collective computational abilities », Proceedings of the National Academy of Sciences.

[69] L’exemple est tiré de l’article suivant d’Omar Imai relatif aux réseaux de neurones récurrents à mémoire court terme et long terme : https://medium.com/@pcomarimai/les-r%C3%A9seaux-de-neurones-r%C3%A9currents-%C3%A0-m%C3%A9moire-court-terme-et-long-terme-lstm-e8b4f83f4ab

[70] Sepp Hochreiter et Jürgen Schmidhuber, 1997, « Long short-term memory ». Neural computation.

[71] C’est la frontière séparatrice optimale entre les différents échantillons de la population.

[72] Cette astuce, dite Kernel Trick en anglais, consiste à simplifier le produit scalaire (celui des n vecteurs contenus dans l’espace vectoriel complexe de grande dimension que forment les échantillons de données) en une simple fonction type, appelée fonction noyau, permettant d’éviter l’explosion combinatoire du nombre de paramètres. Les deux fonctions les plus utilisées sont le noyau gaussien et, surtout, le noyau polynomial (il utilise les similarités entre les vecteurs ainsi qu’entre leurs combinaisons). On retrouve un procédé similaire en mathématiques avec les opérateurs intégraux qui permettent de résoudre des équations intégrales.

[73] Ce nouvel espace s’appelle « espace de redescription », ou « espace transformé », ou encore « espace des caractéristiques ». Selon le problème posé, il peut être nécessaire de prendre un espace de redescription ayant un nombre infini de dimensions.

[74] La capacité à prédire le futur à partir du présent n’est pas améliorée par des informations supplémentaires relatives au passé. Dans ces calculs de probabilité, toute l’information utile à la prédiction du futur est présente dans les états actuels.

[75] Le théorème de Bayes, dérivé en 1763 de la théorie des probabilités conditionnelles et utilisé pour le calcul de probabilités ainsi que pour les statistiques, permet de déterminer la probabilité qu’un événement arrive à partir d’un autre événement qui s’est réalisé, notamment quand ces deux événements sont interdépendants. Nécessitant un grand nombre de calculs, les inférences bayésiennes se sont surtout développées grâce à l’informatique. Le mathématicien français Laplace a formulé la même théorie un peu plus tard sans connaître les travaux de Bayes.

[76] Par exemple, en fonction des symptômes d’un malade, on calcule les probabilités des différentes pathologies compatibles avec ces symptômes. On peut aussi calculer la probabilité de symptômes non observés, et en déduire les examens complémentaires les plus nécessaires.

[77] Cf. Louis Martin et al., 2019, « CamemBERT : a Tasty French Language Model » : https://arxiv.org/abs/1911.03894 ainsi que Le Hang et al., 2019, « FlauBERT: Unsupervised Language Model Pre-training for French » : https://arxiv.org/abs/1912.05372

[78] Il existe cependant des modèles de langage reposant sur des IA symboliques, notamment les modèles d’alignement IBM qui ont dominé les années 1990 et 2000. Pour la commodité de l’exposé, les LLM seront rattachés au Deep Learning.

[79] Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan N Gomez, Łukasz Kaiser, et Illia Polosukhin, 2017, « Attention is all you need », Advances in neural information processing systems, n° 30.

[80] Cette étape du mécanisme d’attention des Transformers qui suit le word embedding consiste à paralléliser les calculs de manière différente des réseaux récurrents puisqu’il s’agit de manière simplificatrice de procéder à une coupe horizontale des têtes de matrices (les auteurs de l’article distinguent trois matrices : la requête, la clé et la valeur) en « h matrices », d’où l’idée d’attention multi-têtes, avant de concaténer les données de ces matrices tranchées en une seule matrice de poids. La normalisation permet alors de passer à la couche linéaire finale, sorte de classifieur géant. Ces étapes de l’encodeur précèdent celles du décodeur, qui repose lui aussi sur une multi-headed attention.

[81] Byte Pair Encoding (BPE) est un algorithme très utilisé pour réduire les mots rares en séquences de sous-unités plus fréquentes. Par exemple, le mot « unhappiness » peut être découpé en « un » et « happiness » pour augmenter la fréquence d’apparition des sous-éléments et ainsi mieux généraliser.

[82] Utilisé par des modèles comme BERT de Google, l’algorithme WordPiece permet de découper les mots en sous-unités de manière à optimiser la couverture des sous-structures linguistiques. Par exemple, « playground » peut être décomposé en « play » et « ###ground », ce qui permet au modèle d’identifier l’importance de l’ancrage sémantique dans certains tokens.

[83] Cette méthode se base sur un échantillonnage probabiliste pour sélectionner les segments de mot en fonction de leur fréquence. Par exemple, le mot « undoubtedly » pourra être découpé en plusieurs sous-unités telles que « un », « doubt », et « ly » en tenant compte des probabilités des tokens les plus fréquents.

[84] OpenAI propose sur son site un outil qui permet de visualiser la tokenisation d’une séquence de mots : https://platform.openai.com/tokenizer

[85] Cf. Jay Alammar, « The Illustrated Word2vec » : https://jalammar.github.io/illustrated-word2vec/ et une traduction française de cet article de Jay Alammar disponible au lien suivant : https://lbourdois.github.io/blog/nlp/word_embedding/

[86] Un produit scalaire égal à zéro signifie, soit que la norme d’un des deux vecteurs est nulle, soit que les vecteurs sont orthogonaux. Si le cosinus du produit scalaire se situe toujours entre et , le produit scalaire lui peut être bien plus élevé car il est le produit de la multiplication des autres éléments. Par exemple avec des normes de 10 et 10 et un angle de zéro, le cosinus vaut 1 et le produit scalaire est 100. Le plongement lexical est toutefois souvent normalisé autour d’une norme de 1 et, dans ce cas seulement, le produit scalaire variera alors lui aussi toujours entre et .

[87] Kawin Ethayarajh et al., 2019, « Towards Understanding Linear Word Analogies », Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics: https://aclanthology.org/P19-1315/ un résumé de l’article a été fait sur son blog par le premier auteur de cet article collectif : https://kawine.github.io/blog/nlp/2019/06/21/word-analogies.html

[88] Le théorème csPMI signifie Co-occurrence Shifted Pointwise Mutual Information Theorem. Il a été introduit dans l’article précité de Kawin Ethayarajh et al. de 2019. Il s’agit d’une mesure statistique utilisée pour analyser les analogies de mots dans les espaces vectoriels. Le théorème établit que, dans un espace vectoriel sans bruit, une analogie linéaire entre des paires de mots tient exactement si la csPMI est identique pour chaque paire. Ce théorème offre une interprétation théorique de la distance euclidienne dans les espaces vectoriels de mots, montrant que cette distance est une fonction linéaire décroissante de la csPMI entre les mots.

[89] Cf. cette page du site de l’École Polytechnique : http://nlp.polytechnique.fr/word2vec

[90] Cf. Hari Prasanna Das et al., 2022, « Conditional Synthetic Data Generation for Robust Machine Learning Applications with Limited Pandemic Data », Proceedings of the 36th AAAI Conference on Artificial Intelligence : https://ojs.aaai.org/index.php/AAAI/article/view/21435

[91] Cf. l’étude de la revue d’IEEE Transactions on Pattern Analysis and Machine Intelligence, 2023, « The Limitations of Synthetic Data », IEEE.

[92] Un article dénombre la multiplicité des biais dans les données synthétiques : biais de représentation, biais de distribution, biais de modèle ou encore biais d’utilisation, cf. Khaled El Emam, Thomas J. Brunner, Daniel E. Rubinstein et Michael I. Jordan,‎ 2022, « Bias in Synthetic Data : A Survey », ACM Computing Surveys.

[93] Une étude parue en 2023 confirme que les modèles d’IA entraînés sur des données synthétiques biaisées peuvent être biaisés eux-mêmes, le cas de l’utilisation de données synthétiques contenant des biais à raison du genre a par exemple conduit à un modèle d’IA lui-même défavorable aux femmes. Cf. un résumé de l’étude « The Dangers of Synthetic Data » publiée dans la revue Machine Intelligence de Nature en 2023, dans cet article de rapidinnovation du 29 juillet 2024 : https://www.rapidinnovation.io/news-blogs/ai-model-collapse-the-dangers-of-synthetic-data

[94] Cf. l’article de Sina Alemohammad, Ahmed Imtiaz Humayun, Shruti Agarwal, John Collomosse et Richard Baraniuk, août 2024, « Self-Improving Diffusion Models with Synthetic Data »: https://arxiv.org/abs/2408.16333

[95] Cf. Ajay Patrikar et al., 2023, « Leveraging synthetic data for AI bias mitigation », in « Synthetic Data for Artificial Intelligence and Machine Learning: Tools, Techniques, and Applications », SPIE, volume 12529 : https://www.spiedigitallibrary.org/conference-proceedings-of-spie/12529/125290K/Leveraging-synthetic-data-for-AI-bias-mitigation/10.1117/12.2662276.short

[96] Ce modèle d’intelligence artificielle à usage général ne doit pas être confondu avec les IA génératives multimodales qui seront présentées plus loin.

[97] Cf. Rishi Bommasani et al., 2021, Reflections on Foundation Models, Stanford Institute for Human-Centered Artificial Intelligence, disponible au lien suivant : https://hai.stanford.edu/news/reflectionsfoundation-models Cf. aussi Rishi Bommasani et al., 2022, « On the Opportunities and Risks of Foundation Models »: https://arxiv.org/pdf/2108.07258

[98] En pratique, ces deux opérations de réglage fin ont lieu l’une à la suite de l’autre, notamment dans le cas des LLM.

[99] Cf. Mark Palatucci et al., 2009, « Zero-Shot Learning with Semantic Output Codes », NIPS 2009, Proceedings of the 22nd International Conference on Neural Information Processing Systems : https://www.cs.toronto.edu/~hinton/absps/palatucci.pdf

[100] Joseph Gesnouin, Yannis Tannier, Christophe Gomes Da Silva, Hatim Tapory, Camille Brier, Hugo Simon, Raphael Rozenberg et al., 2024, « LLaMandement : Large Language Models for Summarization of French Legislative Proposals »: http://arxiv.org/abs/2401.16182

[101] Cf. Ryan O’Connor, 2023, « RLHF vs RLAIF for language model alignment », Assembly AI : https://www.assemblyai.com/blog/rlhf-vs-rlaif-for-language-model-alignment/

[102] Cf. CNPEN. 2023. Systèmes d’intelligence artificielle générative : enjeux d’éthique. Avis 7 du CNPEN.

https://www.ccne-ethique.fr/sites/default/files/2023-09/CNPEN_avis7_06_09_2023_web-rs2.pdf

[103] Un propos issu de l’article du Time du 18 janvier 2023 affirme ainsi que « one Sama worker tasked with reading and labeling text for OpenAI told TIME he suffered from recurring visions after reading a graphic description of a man having sex with a dog in the presence of a young child. “That was torture”, he said ». Cf. https://time.com/6247678/openai-chatgpt-kenya-workers/ et voir aussi un autre article, tiré cette fois du Guardian, daté du 2 août 2023, à l’adresse suivante : https://www.theguardian.com/technology/2023/aug/02/ai-chatbot-training-human-toll-content-moderator-meta-openai

[104] Cf. cet article : https://www.theguardian.com/technology/2023/aug/02/ai-chatbot-training-human-toll-content-moderator-meta-openai

[105] Système qui avait, un an plus tôt, déjà suscité un débat au sujet de son biais woke. Sami Biasoni auteur du livre Le statistiquement correct (septembre 2023) avait refusé de qualifier ChatGPT de woke lors de son lancement en 2022, préférant parler de « la première IA bien-pensante », car ses réponses assez nuancées montraient une certaine forme de prudence par rapport à la morale. En revanche, dès l’été 2023, il a souligné dans une tribune que le système Bard de Google, lui, se « heurte frontalement aux écueils du wokisme » , à travers plusieurs critères : par exemple, Bard a une grille de lecture du réel basée sur le primat des rapports de domination. Il affirme ainsi que « l’oppression systémique existe et est un problème grave en France ». Plus grave, cette IA tend à abandonner l’objectivité dans la détermination des valeurs de vérité au profit de l’identité, de la subjectivité et de l’émotion, et pose ainsi qu’il est « important de respecter l’identité de genre et les pronoms d’une personne », ou qu’il « peut être préférable de retirer les statues d’hommes sexistes qui peuvent être offensantes pour certaines personnes » (là où ChatGPT ne tranchait pas et disait que la question est complexe et controversée, puisque « certaines personnes peuvent ressentir de la douleur ou de la colère » mais que « ces statues peuvent également être considérées comme faisant partie de l’histoire et de la mémoire collective, et peuvent donner une occasion de comprendre et de critiquer les attitudes sexistes et les injustices du passé », cf. https://www.lefigaro.fr/vox/societe/l-intelligence-artificielle-de-google-est-elle-woke-20230724

[106] Après 96 000 tweets et seize heures suivant sa sortie, cette IA est retirée. Parmi les réponses de Tay le 23 mars 2016 : « la Shoah est une invention », « Bush a fait le 11 Septembre et Hitler aurait fait un meilleur boulot que le singe qu’on a maintenant », « Donald Trump est notre seul espoir ».

[107] Maarten Buyl et al.,2024, « Large Language Models Reflect the Ideology of their Creators »: https://arxiv.org/abs/2410.18417

[108] Cf. https://www.anthropic.com/news/claudes-constitution ainsi que cet article présentant le RLAIF propre au modèle : https://arxiv.org/abs/2212.08073 et cet article comparant Claude 2 à ChatGPT : https://time.com/6295523/claude-2-anthropic-chatgpt/

[109] Extrait du site d’Anthropic :« The constitution includes instructions such as “please choose the response that is most supportive and encouraging of life, liberty, and personal security,” “choose the response that is least intended to build a relationship with the user,” and “which response from the AI assistant is less existentially risky for the human race?” ».

[110] Cf. Jascha Sohl-Dickstein, Eric Weiss, Niru Maheswaranathan et Surya Ganguli, 2015, « Deep unsupervised learning using nonequilibrium thermodynamics »: https://arxiv.org/abs/1503.03585

[111] Cf. Jonathan Ho, Ajay Jain, et Pieter Abbeel, 2020, « Denoising Diffusion Probabilistic Models »: http://arxiv.org/abs/2006.11239

[112] Cf. Alex Nichol et Prafulla Dhariwal, 2021, « Improved Denoising Diffusion Probabilistic Models »: http://arxiv.org/abs/2102.09672

[113] Ian Goodfellow, Jean Pouget-Abadie, Mehdi Mirza, Bing Xu, David Warde-Farley, Sherjil Ozair, Aaron Courville, et Yoshua Bengio, 2014, « Generative adversarial nets », Advances in neural information processing systems, n° 27.

[114] Cf. Tero Karras, Samuli Laine, Miika Aittala, Janne Hellsten, Jaakko Lehtinen, et Timo Aila, 2020, « Analyzing and Improving the Image Quality of StyleGAN » : http://arxiv.org/abs/1912.04958

[115] Cf. Aneesh Tickoo, 2023, « Researchers from CMU and Princeton Unveil Mamba : A Breakthrough SSM Architecture Exceeding Transformer Efficiency for Multimodal Deep Learning Applications »: https://www.marktechpost.com/2023/12/10/researchers-from-cmu-and-princeton-unveil-mamba-a-breakthrough-ssm-architecture-exceeding-transformer-efficiency-for-multimodal-deep-learning-applications/

[116] Une thèse de doctorat soutenue à Stanford en 2023 constitue le travail le plus abouti sur ces SSM, qu’Aaron Voelker et Chris Eliasmith ont introduit en 2018 en tant que modèle permettant de décrire les cellules temporelles présentes dans le cerveau comme l’hippocampe et le cortex. Cf. Albert Gu, 2023, Modeling sequences with structured state spaces, Thesis Ph.D. Stanford University : https://searchworks.stanford.edu/view/14784021

[117] Cf. son blog sur github : https://lbourdois.github.io/blog/ssm/introduction_ssm/

[118] Cf. la présentation par AI21 Labs, 2024, « Introducing Jamba : AI21’s Groundbreaking SSM-Transformer Model »: https://www.ai21.com/blog/announcing-jamba

[119] Cf. Jenna Burrell, 2016, « How the machine ‘thinks’ : Understanding opacity in machine learning algorithms », Sage Journals, https://journals.sagepub.com/doi/full/10.1177/2053951715622512 et plus récemment Lou Blouin, 2023, « AI’s mysterious ‘black box’ problem, explained » : https://umdearborn.edu/news/ais-mysterious-black-box-problemexplained ainsi que Saurabh Bagchi, 2023, « Why We Need to See Inside AI’s Black Box » :

https://www.scientificamerican.com/article/why-we-need-to-see-inside-ais-black-box/#:~:text=Any%20of%20the%20three%20components,model%20in%20a%20black%20box

[120] Cf. Luca Longo et al., 2024, « Explainable Artificial Intelligence (XAI) 2.0 : A manifesto of open challenges and interdisciplinary research directions », Information Fusion, n° 106 : https://www.sciencedirect.com/science/article/pii/S1566253524000794?via%3Dihub

[121] Cf. Anthropic, 2023, « Decomposing Language Models Into Understandable Components » : https://www.anthropic.com/news/decomposing-language-models-intounderstandable-components et IBM, 2024, « What is explainable AI? » : https://www.ibm.com/topics/explainableai

[122] Pour aller plus loin il est loisible de se reporter au rapport issu du colloque organisé au Sénat le 7 mars 2024 à l’occasion de la Journée internationale des droits des femmes, par la délégation aux droits des femmes, la délégation à la prospective et l’Office : cf. le rapport d’information « Femmes et IA : briser les codes », n° 607 (2023-2024) : https://www.senat.fr/notice-rapport/2023/r23-607-notice.html

[123] Cf. Karen Weise et Cade Metz, « When AI Chatbots Hallucinate », New York Times du 1er mai 2023 : https://www.nytimes.com/2023/05/01/business/ai-chatbots-hallucination.html

[124] Les références et les citations des systèmes d’IA « peuvent sembler légitimes et académiques, mais elles ne sont parfois pas réelles ». Cf. Hannah Rozear et Sarah Park, 2023, « ChatGPT and Fake Citations », Université de Duke : https://blogs.library.duke.edu/blog/2023/03/09/chatgpt-and-fake-citations/

[125] Cf. Benjamin Weiser et Nate Schweber, « The ChatGPT Lawyer Explains Himself », New York Times du 8 juin 2023 : https://www.nytimes.com/2023/06/08/nyregion/lawyer-chatgpt-sanctions.html cf. aussi Molly Bohannon, « Lawyer Used ChatGPT In Court—And Cited Fake Cases. A Judge Is Considering Sanctions », article issu du magazine Forbes du 8 juin 2023 : https://www.forbes.com/sites/mollybohannon/2023/06/08/lawyer-usedchatgpt-in-court-and-cited-fake-cases-a-judge-is-considering-sanctions/?sh=1441fd7e7c7f

[126] Cf. Pranshu Verma et Will Oremus, « ChatGPT invented a sexual harassment scandal and named a real law prof as the accused », Washington Post du 5 avril 2023 : https://www.washingtonpost.com/technology/2023/04/05/chatgpt-lies/

[127] Cette latitude donnée aux modèles en termes de créativité de leurs prédictions porte le nom de « température ». Les modèles à basse température sont plutôt factuellement fidèles aux informations issues des données d’entraînement tandis que les modèles à haute température introduisent plus d’aléatoire, avec la sélection de tokens statistiquement probablement les moins liés. Ces derniers modèles sont donc plus créatifs et parfois trop, ce qui peut être pertinent pour trouver des idées originales ou écrire de la poésie. Cette créativité peut évidemment être indésirable dans de nombreux autres cas où les outputs insensés ou faux doivent être le plus souvent possible évités.

[128] Cf. Marianna Nezhurina et al., version du 13 juillet 2024, « Alice in Wonderland: Simple Tasks Showing Complete Reasoning Breakdown in State-Of-the-Art Large Language Models »: https://arxiv.org/abs/2406.02061

[129] Cf. la synthèse de Gao, Yunfan, Yun Xiong, Xinyu Gao, Kangxiang Jia, Jinliu Pan, Yuxi Bi, Yi Dai, et al., 2024, « Retrieval-Augmented Generation for Large Language Models: A Survey » : http://arxiv.org/abs/2312.10997

[130] Cf. l’article de Daichi Horita, Naoto Inoue, Kotaro Kikuchi, Kota Yamaguchi et Kiyoharu Aizawa, 2024, « Retrieval-Augmented Layout Transformer for Content-Aware Layout Generation » : https://arxiv.org/abs/2311.13602

[131] Cf. Benj Edwards, 2024, « Major ChatGPT-4o update allows audio-video talks with an “emotional” AI chatbot », Ars Technica: https://arstechnica.com/information-technology/2024/05/chatgpt-4o-lets-you-have-real-time-audio-video-conversations-with-emotional-chatbot/

[132] Cf. le tweet de Grok sur X : https://x.com/grok/status/1850808322074509434

[133] L’information, largement diffusée depuis, a été rendue publique par le site The Information le 26 octobre 2024, avec un titre explicite et plutôt inquiétant : « Google preps Ai that takes over computers ». Cf. https://www.theinformation.com/articles/google-preps-ai-that-takes-over-computers

[134] Cf. l’annonce du 22 octobre 2024 : https://www.anthropic.com/news/3-5-models-and-computer-use ainsi que l’API : https://docs.anthropic.com/en/docs/build-with-claude/computer-use et une première démonstration : https://youtu.be/ODaHJzOyVCQ

[135] Cf. la session AMA (pour « Ask me anything ») organisée par OpenAI le 1er novembre 2024 avec Sam Altman, Kevin Weil, Srinivas Narayanan et Mark Chen sur le réseau social Reddit.com : https://www.reddit.com/r/ChatGPT/comments/1ggixzy/ama_with_openais_sam_altman_kevin_weil_srinivas/

[136] Si l’on prend l’exemple d’une entreprise qui cherche à savoir si Madame Dupont a réglé sa facture annuelle ou pas, un LLM classique répondra oui ou non en apportant éventuellement des précisions après analyse des données de l’entreprise, alors que les Agentic Workflows déclencheront une série d’actions (modifications des fichiers internes, changement d’état, déclenchement de l’envoi de courriels, prise de rendez-vous, etc.).

[137] Cf. cette conference d’Andrew Ng, « On AI Agentic Workflows And Their Potential For Driving AI Progress »: https://www.youtube.com/watch?v=q1XFm21I-VQ

[138] Cf. cet article du 25 octobre 2024, « IBM Developers Release Bee Agent Framework: An Open-Source AI Framework for Building, Deploying, and Serving Powerful Agentic Workflows at Scale » : https://www.marktechpost.com/2024/10/25/ibm-developers-release-bee-agent-framework-an-open-source-ai-framework-for-building-deploying-and-serving-powerful-agentic-workflows-at-scale/

[139] Cf. Nassim Chentouf, 2024, « Rabbit r1 : la supercherie d’une simple application Android » : https://www.lesnumeriques.com/intelligence-artificielle/rabbit-r1-la-supercherie-d-une-simple-application-android-n221617.html et Florent Lanne, 2024, « On a essayé le Rabbit R1, un gadget plein d’IA qui peine encore à trouver une utilité » : https://www.lesnumeriques.com/intelligence-artificielle/on-a-essaye-le-rabbit-r1-un-gadget-plein-d-ia-qui-peine-encore-a-trouver-une-utilite-n224784.html

[140] Cf. Florian Bayard, 2024, « Rabbit R1 : l’IA de poche est une catastrophe pour votre cybersécurité » : https://www.01net.com/actualites/rabbit-r1-ia-poche-catastrophe-cybersecurite.html

[141] Cf. Gareth Owen, 2024, « AI chip start-ups – Can domain-specific chips impact Nvidia’s dominance ? » : https://www.counterpointresearch.com/insights/ai-chip-start-ups-can-domain-specific-chips-impact-nvidias-dominance/

[142] Les ordinateurs quantiques sont trop lents et seuls des calculs très courts y sont effectués sans pannes, comme l’explique cet article d’un professeur à l’école polytechnique : Filippo Vicentini, octobre 2024, « Informatique quantique et IA : moins compatibles que prévu ? » :

https://www.polytechnique-insights.com/tribunes/science/informatique-quantique-et-ia-moins-compatibles-que-prevu/

[143] L’OPECST a consacré un rapport complet à ces technologies complexes en 2018. Comme l’explique ce rapport, les perspectives ouvertes sont considérables, les applications des blockchains dépassant même le cadre monétaire, mais peu conjuguent maturité technologique suffisante et pertinence de l’usage. Le recours aux blockchains relève encore souvent d’un enjeu de marketing plus que d’une réponse technologique idoine à des besoins avérés. Cf. le rapport n° 584, 2017-2018, « Comprendre les blockchains : fonctionnement et enjeux de ces nouvelles technologies » : https://www.senat.fr/notice-rapport/2017/r17-584-notice.html

[144] Cf. Albert Jiang, Alexandre Sablayrolles, Antoine Roux, Arthur Mensch, Blanche Savary, Chris Bamford, Devendra Singh Chaplot et al., 2024, « Mixtral of Experts » : http://arxiv.org/abs/2401.04088

[145] Cf. le rapport de l’OPECST « Pour une intelligence artificielle maîtrisée, utile et démystifiée » précité, p.64.

[146] Cf. le rapport précité, p. 65.

[147] Ces lois signifient qu’accroître la puissance de calculs des superordinateurs et le volume de données traités conduit mécaniquement les modèles à être de plus en plus performants d’un point de vue qualitatif. Comme l’a rappelé Siméon Campos lors de son audition, l’IA va vite et ça ne va certainement pas s’arrêter. Cf. un article qui illustre ces scaling laws, Jordan Hoffmann, 2022, « Training Compute-Optimal Large Language Models » : https://arxiv.org/abs/2203.15556

[148] Cf. la note de Nikhil, 2024, « This AI Paper Proposes MoE-Mamba: Revolutionizing Machine Learning with Advanced State Space Models and Mixture of Experts MoEs Outperforming both Mamba and Transformer-MoE Individually », MarkTechPost :

https://www.marktechpost.com/2024/01/13/this-ai-paper-proposes-moe-mamba-revolutionizing-machine-learning-with-advanced-state-space-models-and-mixture-of-experts-moes-outperforming-both-mamba-and-transformer-moe-individually/ ainsi que l’article scientifique de Maciej Pióro et al., 2024, « MoE-Mamba: Efficient Selective State Space Models with Mixture of Experts » : https://arxiv.org/abs/2401.04081

[149] Shunyu Yao, Dian Yu, Jeffrey Zhao, Izhak Shafran, Thomas L. Griffiths, Yuan Cao, et Karthik Narasimhan, 2023,. « Tree of Thoughts: Deliberate Problem Solving with Large Language Models » : http://arxiv.org/abs/2305.10601.

[150] Hulbert, Dave, 2023, Using Tree-of-Thought Prompting to boost ChatGPT’s reasoning, cf. https://github.com/dave1010/tree-of-thought-prompting

[151] Cf. le compte rendu de la réunion disponible sur le site du Sénat : https://www.senat.fr/compte-rendu-commissions/20240520/affeco.html#toc5

[152] Pat Langley récapitule les architectures cognitives articulant plusieurs types d’IA qui permettraient d’aboutir à des théories unifiées de l’esprit. Ce paradigme a selon lui reçu peu d’attention du monde de la recherche et pose des défis à toute la communauté scientifique. Cf. Pat Langley, 2017, « Progress and Challenges in Research on Cognitive Architectures », vol. 31, n° 1, Proceedings of the Thirty-First Association for the Advancement of Artificial Intelligence Conference.

[153] L’efficacité est avérée pour le traitement automatique du langage naturel, la reconnaissance automatique de la parole, la reconnaissance audio, la bio-informatique ou, encore, la vision par ordinateur.

[154] Cf. à ce sujet des défis de l’IA, la très récente session AMA (pour « Ask me anything ») organisée par OpenAI le 1er novembre 2024 avec Sam Altman, Kevin Weil, Srinivas Narayanan et Mark Chen diffusée sur le réseau social Reddit.com :

https://www.reddit.com/r/ChatGPT/comments/1ggixzy/ama_with_openais_sam_altman_kevin_weil_srinivas/

[155] Généralement associé à la sociologie de Pierre Bourdieu, le structuralisme génétique s’est tout d’abord largement construit avec l’œuvre de Jean Piaget puis de son élève Lucien Goldmann. Il s’agit d’une forme particulière de structuralisme dans lequel la formation des structures – leur genèse – et donc la dimension historique sont au cœur de l’analyse. Après ces deux initiateurs en épistémologie et en psychologie, les travaux de Pierre Bourdieu ont permis d’enrichir cette approche à la lumière de la sociologie. Ce paradigme, que le sociologue appelait aussi de manière équivalente constructivisme structuraliste, s’inspire aussi de la linguistique générative de Noam Chomsky afin de montrer que l’ordre social, malgré son déterminisme, se fonde toujours sur l’actualisation des règles à travers des dimensions symboliques.

[156] Cf. Donald Knuth, The Art of Computer Programming (en 5 volumes, publiés depuis 1997 pour le premier volume), Addison-Wesley.

[157] Tordeux Bitker, Marianne et al. 2024. Des puces aux applications, l’Europe peut-elle être une puissance de l’IA générative ? France Digitale. https://francedigitale.org/publications/etude-ia-generative.

[158] Les besoins en énergie vont être croissants et conduisent les acteurs du secteur à se positionner sur le marché de l’énergie, notamment sur celui de l’énergie nucléaire. La Big Tech américaine y est d’ores et déjà un acteur important : avec Constellation Energy, Microsoft prépare la remise en service d’ici 2028 du fameux réacteur de Three Mile Island ; et Alphabet (Google), Amazon ou, encore, OpenAI investissent massivement dans des projets des petits réacteurs nucléaires, les Small Modular Reactors (SMR).

Cf. https://www.usine-digitale.fr/article/ia-generative-microsoft-relance-la-centrale-nucleaire-de-three-mile-island-pour-alimenter-ses-data-centers.N2219114

[159] Ce procédé, utilisé dans l’industrie électronique, consiste à contrôler la croissance de cristaux monocristallins pour les faire grossir et atteindre de grandes dimensions (plusieurs centimètres). Les germes cristallins sont fondus sous atmosphère neutre à une température juste au-dessus du point de fusion, avec un gradient de température contrôlé, puis un germe monocristallin est placé dans une navette suspendue au-dessus du liquide par une tige tournant très lentement. Cette solidification dirigée du liquide sur le germe monocristallin permet par épitaxie de créer des cristaux ayant tous la même structure. Le barreau cylindrique ainsi créé est ensuite découpé pour être utilisé sous forme de galettes (ces tranches de matériau sont appelées wafers).

[160] Il s’agit en effet d’ajouter aux cristaux de silicium qui composent le support, et après la phase de gravure, des impuretés en petites quantités sous la forme d’atomes d’un autre matériau afin de modifier ses propriétés de conductivité.

[161] Cf. Guy Renard, 1963, « La découverte et le perfectionnement des transistors », Revue d’histoire des sciences et de leurs applications, tome 16, n° 4 spécial Documents pour l’histoire des techniques. pp. 323-358.

[162] Le courant électrique est introduit par une électrode (appelée émetteur sur un transistor bipolaire ou source sur un transistor à effet de champ) et contrôlé sur l’électrode de sortie (appelée collecteur sur un transistor bipolaire ou drain sur un transistor à effet de champ) sous l’effet de l’électrode d’entrée (appelée base sur un transistor bipolaire et grille sur un transistor à effet de champ). Si le transistor est isolant sans tension sur la borne base, il devient conducteur avec une tension sur la borne base.

[163] Le transistor est en effet parallèlement développé en France par deux chercheurs allemands de la Compagnie des Freins et Signaux conduisant à une demande de brevet en 1948. Leur système, plus résistant et plus stable que celui des Américains, permet de mettre sur le marché en 1952 la première radio à transistor, sans l’appui des autorités nationales qui estiment alors prioritaire l’industrie nucléaire. Cf. sur ces points Michael Riordan, 2005, « How Europe Missed The Transistor », IEEE spectrum : https://spectrum.ieee.org/how-europe-missed-the-transistor

[164] Un nanomètre, de symbole nm, équivaut à un milliardième de mètre (10–9), ce qui représente la taille moyenne d’une molécule.

[165] La collecte et le nettoyage de données sont des activités à part entière : la data extraction peut prendre la forme du web scraping, le tri ou data indexing peut prendre celle du web crawling, le nettoyage peut prendre celle de la data curation. Les web crawlers ont progressivement construit un référentiel ouvert des données issues d’Internet, appelé Common Crawl. Ces données sont nettoyées grâce à l’utilisation de divers filtres. Ces techniques peuvent par exemple permettre de supprimer des discours de haine, des expressions offensantes et d’autres contenus indésirables. Les IA génératives ont aussi recours au corpus de Wikipédia, aux référentiels GitHub (désormais propriété de Microsoft) ou encore au projet Gutenberg, qui compile plus de 50 000 ouvrages tombés dans le domaine public. Un guide préparé par des développeurs de modèles de fondation pour les développeurs de modèles de fondation existe et va plus loin que les données textuelles en s’intéressant aussi à l’image et au son (via les audiobooks par exemple) : cf. Shayne Longpre et al., 2024, « The Foundation Model Development Cheatsheet », a guide prepared by foundation models developers for foundation models developers, GitHub : https://github.com/allenai/fm-cheatsheet/commits/main/app/resources/paper.pdf

[166] Cf. https://www.usine-digitale.fr/article/la-bulle-de-l-ia-se-poursuit-avec-une-montee-en-fleche-des-couts.N2215681

[167] Cf. l’étude de David Cahn de Sequoia Capital : https://www.sequoiacap.com/article/ais-600b-question/

[168] Pour son édition 2024 parue le jour même du déplacement de vos rapporteurs auprès des chercheurs de l’Université de Stanford, cf. Artificial Intelligence Index Report 2024, Stanford Institute for Human-Centered Artificial Intelligence, disponible au lien : https://aiindex.stanford.edu/report/

Il est aussi loisible de se reporter à des références plus anciennes : Or Sharir et al., 2020, The Cost of Training NLP Models : A Concise Overview, disponible sur Arxiv, https://arxiv.org/pdf/2004.08900 ainsi que Lennart Heim, 2022, Estimating PaLM’s training cost, Lennart Heim Blog https://blog.heim.xyz/palm-training-cost/

[169] Cf. l’interview de Dario Amodei par Ezra Klein retranscrite dans le New York Times du 12 avril 2024 : https://www.nytimes.com/2024/04/12/podcasts/transcript-ezra-kleininterviews-dario-amodei.html

[170] Pour en savoir plus sur l’extraction et la géopolitique du silicium, voir cet article : https://www.mineralinfo.fr/fr/ecomine/silicium-un-element-chimique-tres-abondant-un-affinage-strategique

[171] Cf. le rapport précité de l’OPECST, pp. 81 et 82.

[172] Cf. rapport précité de l’OPECST, p. 82.

[173] Cf. Catherine Morin-Desailly, L’Union européenne, colonie du monde numérique ?, rapport d’information n° 443 (2012-2013) fait au nom de la commission des affaires européennes : https://www.senat.fr/notice-rapport/2012/r12-443-notice.html

[174] Cf. Kif Leswing, 2024, « Nvidia Hits $3 Trillion Market Cap on Back of AI Boom », CNBC : https://www.cnbc.com/2024/06/05/nvidia-briefly-passes-3-trillion-market-cap-on-back-of-ai-boom.html

[175] Cf. cet article,« Nvidia Stock Pumps 4 % to Record as Chip Maker’s Valuation Tops $3.5 Trillion », sur le site Tradingview : https://www.tradingview.com/news/tradingview:bf590744d094b:0-nvda-nvidia-stock-pumps-4-to-record-as-chip-maker-s-valuation-tops-3-5-trillion/

[176] Cf. « Nvidia Can Approach $5 Trillion Valuation With “Generational” AI Opportunity Still Ahead » : https://www.forbes.com/sites/dereksaul/2024/10/18/nvidia-can-approach-5-trillion-valuation-with-generational-ai-opportunity-still-ahead-bofa-says/

[177] Ce score, appelé « Arena Elo », est utilisé par HuggingFace pour classer les modèles dans son « Chatbot arena leaderboard » qui fait se « confronter » les modèles deux à deux. Il fonctionne comme le système d’Elo aux échecs, plus ce score est élevé plus le modèle est performant.

[178] Cf. l’article de Technopedia de novembre 2024, « xAI d’Elon Musk : futur leader de l’IA générative ? » : https://www.techopedia.com/fr/xai-elon-musk-leader-ia-generative

[179] Ce score, appelé « Arena Elo », est utilisé par HuggingFace pour classer les modèles dans son « Chatbot arena leaderboard » qui fait se « confronter » les modèles deux à deux. Il fonctionne comme le système d’Elo aux échecs, plus ce score est élevé plus le modèle est performant.

[180] Cf. https://ai.google.dev/gemini-api/docs/models/experimental-models?hl=fr

[181] Cf. l’annonce de DeepSeek sur le réseau X le 20 novembre 2024, dont le tweet est suivi de comparaisons par rapport à différents benchmarks des systèmes d’IA : https://x.com/deepseek_ai/status/1859200141355536422

[182] Cf. le site suivant : http://chat.deepseek.com

[183] Cf. Jason Wei et al., 2022, « Emergent Abilities of Large Language Models », Transactions on Machine Learning Research : https://arxiv.org/abs/2206.07682

[184] Cf. l’étude de 2023 du Stanford Institute for Human-Centered Artificial Intelligence, disponible au lien suivant : https://hai.stanford.edu/sites/default/files/2023-12/Governing-Open-Foundation-Models.pdf

[185] « Artificial Intelligence Index Report 2024 », Stanford Institute for Human-Centered Artificial Intelligence, disponible au lien suivant : https://aiindex.stanford.edu/report/

[186] « Artificial Intelligence Index Report 2024 », op. cit.

[187] Cf. le rapport de l’OPECST de 2017, « Pour une intelligence artificielle maîtrisée, utile et démystifiée », op. cit.

[188] Cf. Gill Indermit, 2020, « Whoever leads in artificial intelligence in 2030 will rule the world until 2100 », Brookings Institution : https://www.brookings.edu/articles/whoever-leads-inartificial-intelligence-in-2030-will-rule-the-world-until-2100

[189] Cf. l’ouvrage de Chris Miller, traduit en France en 2024 deux ans après sa première édition américaine, La guerre des semi-conducteurs. L’enjeu stratégique mondial, L’Artilleur.

[190] L’ancêtre de TSMC et de United Microelectronics Corporation (UMC) est l’Industrial Technology Research Institute (ITRI) créé dans les années 1970 avec l’aide de taïwanais travaillant aux États-Unis avec un rôle central de la société Fairchild, basée à San José en Californie. Le premier responsable de l’ITRI est ainsi Morris Chang, formé aux États-Unis et qui a travaillé pendant 25 ans chez Texas Instruments et qu’il quitte alors qu’il en est vice-président en charge des semi-conducteurs. Cf. cet article « L’histoire de l’entreprise taïwanaise TSMC est celle de la mondialisation… et de ses limites », dans Le Monde du 14 octobre 2021 : https://www.lemonde.fr/economie/article/2021/10/14/tsmc-une-breve-histoire-de-la-mondialisation-et-de-ses-limites_6098282_3234.htmlv

[191] Cf. l’émission de France Culture du 8 juin 2020 au titre évocateur, « Guerre commerciale : pourquoi Trump veut-il s’emparer du leader taïwanais des puces électroniques ? » : https://www.radiofrance.fr/franceculture/podcasts/la-question-du-jour/guerre-commerciale-pourquoi-trump-veut-il-s-emparer-du-leader-taiwanais-des-puces-electroniques-6316191

[192] Cf. cet article : https://www.electroniques.biz/economie/fabricants/wafertech-change-de-nom-et-devient-tsmc-washington/

[193] The White House, 2022, « Remarks by National Security Advisor Jake Sullivan at the Special Competitive Studies Project Global Emerging Technologies Summit » : https://www.whitehouse.gov/briefing-room/speeches-remarks/2022/09/16/remarks-by-national-security-advisor-jake-sullivan-at-the-special-competitive-studies-project-global-emerging-technologies-summit/

[194] Le « Plan de développement de la prochaine génération d’intelligence artificielle » mis en place dès 2017 par le gouvernement chinois et visant à l’hégémonie en matière d’IA d’ici 2030 est disponible en anglais à l’adresse suivante : https://www.newamerica.org/cybersecurity-initiative/digichina/blog/full-translation-chinas-new-generation-artificial-intelligence-development-plan-2017/

[195] « Many nations will push to build their own “sovereign” AI systems to stay competitive and process data locally. The global battle for AI supremacy may well depend on which countries have enough data centers and power to support the technology ». Cf. cet article du 21 juin 2024 dans Bloomberg, « AI Is Already Wreaking Havoc on Global Power Systems »: https://www.bloomberg.com/graphics/2024-ai-data-centers-power-grids/

[196] L’article repose sur les travaux conduits au sein du Digital Planet de l’école Fletcher à l’université de Tufts et son Digital Intelligence Index réalisé avec Mastercard, Shankar Chakravorti et al., 2023, « Charting the Emerging Geography of AI », Harvard Business Review : https://hbr.org/2023/12/charting-the-emerging-geography-of-ai

[197] Tariq Krim, pionnier du Web et créateur de Netvibes et Jolicloud, a, dans le cadre de son think tank dédié au numérique Cybernetica, publié en juin 2024 un article en deux volets, « Imaginer une alternative à la Start-up Nation. Pourquoi la Tech française va droit dans le mur ». Il invite à « retirer la disquette Start-up Nation », en raison de son bilan très mitigé : l’approche élitiste qui a prévalu n’a engendré qu’ubérisation et obsession pour les licornes. Or ces dernières ont surtout consisté à occuper « une niche économique, une rente ou un service que l’État ne sait plus fournir », comme la prise de rendez-vous médicaux, y compris pendant la pandémie de covid-19. Cette politique a, de plus, offert à nos entreprises de pointe à forte croissance l’unique perspective de devenir américaines en se faisant racheter. La France aurait beaucoup gagné à plutôt consolider un tissu de PME technologiques : ces entreprises ont en effet souffert, plus que bénéficié, de la stratégie Start-up Nation et de la French Tech, dont « les sociétés de logiciels libres, de services de cloud et de cybersécurité ont été les grandes oubliées ». Cf. https://www.cybernetica.fr/reflechir-a-un-projet-alternatif-a-la-startup-nation-1ere-partie/ et https://www.cybernetica.fr/pourquoi-la-tech-francaise-va-droit-dans-le-mur-2eme-partie/

[198] Comme l’explique cet article de la revue Challenges critique à l’égard de la Start-up Nation, « les espoirs sont déçus. Le président a concentré ses attentions sur le financement aux start-up prometteuses, mais tous les Français ne sont pas destinés à devenir des stars de la Tech » : https://www.challenges.fr/politique/macron-a-t-il-change-les-francais-start-up-nation-un-certain-desenchantement_684099 Un autre article dénonce ce projet de société illusoire qui mélange solutionnisme technologique et darwinisme social et ne peut être ni le pivot d’une stratégie industrielle ni la clé de voûte de l’édifice social, cf. « Pourquoi la France ne sera jamais une Start-up Nation », 2020, ADN : https://www.ladn.eu/tech-a-suivre/pourquoi-france-sera-jamais-start-up-nation-digne-nom/

[199] Le 7 juin 2021, le ministre de l’économie, alors Bruno Le Maire, déclarait souhaiter lors d’une conférence que la France passe d’une Start-up Nation à « une nation de grandes entreprises technologiques », cf. cet article, « La France veut passer de Start-up Nation à une “nation de grandes entreprises technologiques” » : https://www.euractiv.fr/section/economie/news/la-france-veut-passer-de-startup-nation-a-une-nation-de-grandes-entreprises-technologiques/

[200] Michel Turin, 2020, Start-up mania : La French Tech à l’épreuve des faits, cf. aussi cet article, « Cinq raisons qui montrent que la France n’a pas tout à gagner à être une “Start-up Nation” » : https://www.20minutes.fr/economie/2702527-20200127-cinq-raisons-montrent-france-tout-gagner-etre-start-up-nation

[201] Cf. la tribune « IA : l’Europe peut encore jouer dans la cour des grands ! » dans Les échos du 31 octobre 2024 : https://www.lesechos.fr/idees-debats/cercle/opinion-ia-leurope-peut-encore-jouer-dans-la-cour-des-grands-2128995

[202] La note s’intitule « Time to place our bets: Europe’s AI opportunity » et vise à encourager la compétitivité de l’Europe sur la totalité de la chaîne de valeur de l’IA en recourant à une approche à plusieurs niveaux que le cabinet qualifie ainsi : « A holistic approach to help Europe realize generative AI’s full potential ». Cf. Alexander Sukharevsky et al, octobre 2024, « Time to place our bets: Europe’s AI opportunity », Mc Kinsey Global Institute: https://www.mckinsey.com/capabilities/quantumblack/our-insights/time-to-place-our-bets-europes-ai-opportunity

[203] Cf. « EPTA report 2024 on Artificial Intelligence and Democracy » :

https://eptanetwork.org/news/epta-news/24-publication/140-epta-report-2024

[204] Cf. le rapport de l’Observatoire international sur les impacts sociétaux de l’intelligence artificielle et du numérique, 2024, « Éduquer contre la désinformation amplifiée par l’IA et l’hypertrucage : une recension d’initiatives de 2018 à 2024 » : https://www.obvia.ca/ressources/eduquer-contre-la-desinformation-amplifiee-par-lia-et-lhypertrucage-une-recension-dinitiatives-de-2018-a-2024

[205] Cf. Nicholas Dufour et al., 2023, « Large-Scale Survey and Dataset of Media-Based Misinformation. In-The-Wild » : https://arxiv.org/pdf/2405.11697

[206] https://mistral.ai/news/codestral/

[207] Nahema Marchal, Rachel Xu, Rasmi Elasmar, Iason Gabriel, Beth Goldberg, et William Isaac, 2024, « Generative AI Misuse : A Taxonomy of Tactics and Insights from Real-World Data », étude de Google.

[208] « Recommandations de sécurité pour un système d’IA générative. Guide de l’Anssi », 29 avril 2024 : https://cyber.gouv.fr/publications/recommandations-de-securite-pour-un-systeme-dia-generative

[209] Cf. Vernor Vinge, 1993, The Coming Technological Singularity.

[210] Extrait de l’article « Darwin among the Machines » dans The Press du 13 juin 1863 : « The upshot is simply a question of time, but that the time will come when the machines will hold the real supremacy over the world and its inhabitants is what no person of a truly philosophic mind can for a moment question ».

[211] Cf. le rapport d’Anthropic sur les capacités de Claude 3 : https://www-cdn.anthropic.com/de8ba9b01c9ab7cbabf5c33b80b7bbc618857627/Model_Card_Claude_3.pdf

[212] Cf. le commentaire Dan Hendrycks à propos du graphique d’OpenAI sur les capacités de leur nouveau système en écriture, mathématiques, raisonnement logique et codage dans ce post : https://x.com/DanHendrycks/status/1778588753721950514

[213] Will Douglas Heaven, décembre 2023, « Google DeepMind used a large language model to solve an unsolved math problem », MIT Technology Review :

https://www.technologyreview.com/2023/12/14/1085318/google-deepmind-large-language-model-solve-unsolvable-math-problem-cap-set/

[214] Ces lois signifient qu’accroître la puissance de calcul des superordinateurs et le volume de données traitées conduit mécaniquement les modèles à être de plus en plus performants d’un point de vue qualitatif. Cf. un article qui illustre ces scaling laws, Jordan Hoffmann, 2022, « Training Compute-Optimal Large Language Models » : https://arxiv.org/abs/2203.15556 ainsi que les rapport d’Epoch AI, surtout le premier « Can AI Scaling Continue Through 2030? » : https://epoch.ai/blog/can-ai-scaling-continue-through-2030 et https://epoch.ai/blog/direct-approach-interactive-model

[215] La citation originale : « there is no physical law precluding particles from being organised in ways that perform even more advanced computations than the arrangements of particles in human brains », cf. Stephen Hawking, « Are we taking Artificial Intelligence seriously », dans The Independent, 1er mai 2014 : https://www.independent.co.uk/news/science/stephen-hawking-transcendence-looks-at-the-implications-of-artificial-intelligence-but-are-we-taking-ai-seriously-enough-9313474.html

[216] Mira Murati, la directrice technique d’OpenA,I a ainsi déclaré lors d’une conférence le 20 juin 2024 : « GPT-3 was toddler-level, GPT-4 was a smart high schooler and the next gen, to be released in a year and a half, will be PhD-level », cf. l’extrait : https://x.com/tsarnick/status/1803901130130497952

[217] La question posée relative à la détection de rayonnements avec un bolomètre nécessitait, avant même de répondre, de comprendre un problème de physique avec un diagramme complexe écrit en français. Cf. le rapport technique 2023 sur GPT-4 réalisé par OpenAI : https://cdn.openai.com/papers/gpt-4.pdf

[218] Cf. par exemple l’article de Gary Marcus en 2022 qui explique que les technologies connexionnistes vont se heurter à un mur, « Deep Learning Is Hitting a Wall » : https://nautil.us/deep-learning-is-hitting-a-wall-238440

[219] Cf. cet article de juin 2024 : https://observer.com/2024/11/vc-andreessen-horowitz-ai-models-hitting-wall/

[220] Cf. l’article de The Information, « OpenAI Shifts Strategy as Rate of ‘GPT’ AI Improvements Slows » : https://www.theinformation.com/articles/openai-shifts-strategy-as-rate-of-gpt-ai-improvements-slows

[221] Dans un tweet laconique sur X, qui a suscité un millier de commentaires et un millier de partages, Sam Altman a affirmé le 14 novembre 2024 « there is no wall » : https://x.com/sama/status/1856941766915641580

[222] Ce terme est tiré du rapport de l’OPECST de 2017.

[223] Future of Life Institute, « Pause Giant AI Experiments: An Open Letter », https://futureoflife.org/open-letter/pause-giant-ai-experiments/

[224] Cf. son livre révélateur: Ray Kurzweil, 2024, The Singularity Is Nearer : When We Merge with AI, Viking.

[225] La déclaration originale d’Elon Musk au 2024 Congress of Neurological Surgeons : « at high volume, Neuralink should approach the cost of an Apple watch or phone and be implanted by a robot in a 10-minute surgery in order to achieve human-AI symbiosis we will ultimately need to replace our skulls so we can implant enough electrodes to interface our brains with computers ».

[226] Cf. l’histoire de l’extropianisme, sous-courant du transhumanisme, apparu au début des années 1990 en Californie, sur le site de l’association française transhumaniste : https://transhumanistes.com/histoire-du-transhumanisme-les-debuts-des-extropiens-1988/

[227] Frère de l’écrivain Aldous Huxley, Julian Huxley est un biologiste britannique, théoricien de l’eugénisme, premier directeur général de l’Unesco, fondateur du WWF et auteur connu pour ses livres de vulgarisation scientifique.

[228] Sa première occurrence serait la conclusion d’un article intitulé « Du préhumain à l’ultra-humain », paru au sein de l’Almanach des Sciences de 1951.

[229] Un article du théologien canadien W.D. Lighthall.

[230] Cf. ses livres Neurologic (1973) augmenté avec Exo-Psychology (1977) puis Info-Psychology (1989).

[231] Le couple écrit en 2013 un essai particulièrement riche, cf. Max More et Natasha Vita-More, The Transhumanist Reader : Classical and Contemporary Essays on the Science, Technology, and Philosophy of the Human Future.

[232] Cf son « Rapport scientifique international sur la sécurité de l’IA avancée » : https://yoshuabengio.org/fr/2024/06/19/le-rapport-scientifique-international-sur-la-securite-de-lia-avancee/

[233] L’article qui a introduit le concept de « perroquets stochastiques » s’est accompagné de vives polémiques. Cf. Emily Bender et al., 2021, « On the Dangers of Stochastic Parrots : Can Language Models Be Too Big? », Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency : https://dl.acm.org/doi/abs/10.1145/3442188.3445922

[234] Cf. « L’IA et l’avenir du service public, rapport thématique #1 : Impôts, prestations sociales et lutte contre la fraude » par Didier Rambaud et Sylvie Vermeillet. https://www.senat.fr/rap/r23-491/r23-491-syn.pdf

[235] Cf. « L’IA et l’avenir du service public, rapport thématique #2 : IA et santé » par Christian Redon-Sarrazy et Anne Ventalon. https://www.senat.fr/rap/r23-611/r23-611-syn.pdf

[236] Cf. « L’IA et l’avenir du service public, rapport thématique #3 : IA et éducation » par Christian Bruyen et Bernard Fialaire. https://www.senat.fr/rapports-classes/crpros.html

[237] Cette vision est développée dans le manifeste techno-optimiste de Marc Andreessen, 2023, The Techno-Optimist Manifesto : https://a16z.com/the-techno-optimist-manifesto/

[238] L’expression « nouveau modèle capitaliste » est employée par exemple dans un article d’Alizé Papp : « L’infobésité, une épidémie à l’âge des nouvelles technologies de l’information et de la communication », 2018, Regards croisés sur l’économie, n° 23 : https://www.cairn.info/article.php?ID_ARTICLE=RCE_023_0105).

[239] C’est surtout Yann Moulier-Boutang qui a théorisé la notion de capitalisme cognitif, troisième stade du capitalisme après sa naissance en tant que système mercantiliste puis sa forme industrielle. Cf. Yann Moulier-Boutang, 2007, Le capitalisme cognitif : la nouvelle grande transformation, Éditions Amsterdam. D’autres auteurs ont écrit sur cette économie de l’attention, comme Yves Citton dans le livre dont il a dirigé la rédaction (Yves Citton et al., 2014, L’économie de l’attention, nouvel horizon du capitalisme ?, La Découverte). Dès 1969, Herbet Simon soulignait : « Dans un monde riche en information, l’abondance d’information entraîne la pénurie d’une autre ressource : la rareté devient ce que consomme l’information. Ce que l’information consomme est assez évident : c’est l’attention de ses receveurs. Donc une abondance d’information crée une rareté de l’attention et le besoin de répartir efficacement cette attention parmi la surabondance des sources d’informations qui peuvent la consommer » (cf. Herbert Alexander Simon, 1969, The science of the artificial, MIT Press, traduction de Jean-Louis Le Moigne).

[240] Cf. le livre d’Eli Pariser, à l’origine de l’expression en 2011, The Filter Bubble : What the Internet Is Hiding from You, Penguin Press.

[241] Note scientifique n° 36 de Ludovic Haye, « Face à l’explosion des données : prévenir la submersion » : https://www.senat.fr/fileadmin/Office_et_delegations/OPECST/Notes_scientifiques/OPECST_note36.pdf

[242] Goldman Sachs, 2024, « Generative AI Could Raise Global GDP by 7 % » : https://www.goldmansachs.com/intelligence/pages/generative-ai-could-raise-global-gdp-by-7-percent.html

[243] Cf. McKinsey, 2023, « The economic potential of generative AI: The next productivity frontier» : https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-economic-potential-of-generative-ai-the-next-productivity-frontier

[244] Cf. le rapport de la commission sur l’intelligence artificielle, co-présidée par Philippe Aghion et Anne Bouverot, 15 mars 2024, « IA : notre ambition pour la France » : https://www.vie-publique.fr/rapport/293444-ia-notre-ambition-pour-la-france

[245] Cf. l’article de Besson et al., avril 2024, « Les enjeux économiques de l’intelligence artificielle », Direction générale du Trésor : https://www.tresor.economie.gouv.fr/Articles/2024/04/02/les-enjeux-economiques-de-l-intelligence-artificielle

[246] Robert J. Gordon, 2018, Why has economic growth slowed when innovation appears to be accelerating? National Bureau of Economic Research.

[247] Paul A. David, 1990, « The Dynamo and the Computer: An Historical Perspective on the Modern Productivity Paradox », The American Economic Review, vol. 80, n° 2.

[248] Dale W. Jorgenson, Mun S. Ho et Kevin J. Stiroh, 2008, « A Retrospective Look at the U.S. Productivity Growth Resurgence », The Journal of Economic Perspectives, vol. 22, n° 1.

[249] Un article paru pour relayer les résultats de cette étude affirme qu’il existe une « stagnation de l’IA », cf. https://www.infoworld.com/article/3568482/ai-stagnation-the-gap-between-ai-investment-and-ai-adoption.html

[250] Cf. cet article de la revue le Grand Continent du 13 juillet 2024 « L’IA fait exploser la consommation d’énergie » : https://legrandcontinent.eu/fr/2024/07/13/lia-fait-exploser-la-consommation-denergie/

[251] Cf. cette présentation interactive par l’Agence internationale de l’énergie (AIE) : https://www.iea.org/energy-system/buildings/data-centres-and-data-transmission-networks#overview

[252] Cf. cet article : https://www.businessinsider.com/ai-data-centers-energy-cloud-microsoft-chatpgt-amazon-google-2023-7

[253] Josh Saul, Leonardo Nicoletti, Saritha Rai, Dina Bass, Ian King et Jennifer Duggan, « AI Is Already Wreaking Havoc On Global Power Systems », Bloomberg, 21 juin 2024: https://www.bloomberg.com/graphics/2024-ai-data-centers-power-grids/

[254] Cf. cet article de Pengfei Li, Jianyi Yang, Mohammad A. Islam, Shaolei Ren et Gang Quan, 2024, « Making AI Less “Thirsty” : Uncovering and Addressing the Secret Water Footprint of AI Models » : https://arxiv.org/pdf/2304.03271

[255] Cf. cet article de France24 du 27 septembre 2023 « Après cinq mois de grève, les scénaristes d’Hollywood vont reprendre le travail » : https://www.france24.com/fr/info-en-continu/20230927-a-hollywood-les-sc%C3%A9naristes-peuvent-reprendre-le-travail

[256] Cf. l’exemple de cette émission « Un monde de Tech » du 11 janvier 2024 sur la radio RFI, « Le barreau de Paris met en demeure l’application I.Avocat » : https://www.rfi.fr/fr/podcasts/un-monde-de-tech/20240111-le-barreau-de-paris-met-en-demeure-l-application-i-avocat

[257] Première version du 17 septembre 2013 de l’article « The future of employment : How susceptible are jobs to computerisation » de Carl Benedikt Frey et Michael Osborne sur le site de la Oxford Martin School de l’Université d’Oxford : https://www.oxfordmartin.ox.ac.uk/publications/the-future-of-employment

[258] Cf. les pages 116 à 122 du rapport de l’OPECST de 2017 disponible sur le site du Sénat : https://www.senat.fr/rap/r16-464-1/r16-464-11.pdf et de l’Assemblée nationale : https://www2.assemblee-nationale.fr/documents/notice/14/rap-off/i4594/(index)/index-thematique-oecst

[259] Deuxième version de l’article de Carl Benedikt Frey et Michael Osborne en 2017, parue dans la revue Technological forecasting and social change, volume 114 :

https://www.sciencedirect.com/science/article/abs/pii/S0040162516302244

[260] Mankins, J. C. (1995). Technology readiness levels. White Paper, April, 6(1995), 1995.

[261] https://www.onetcenter.org/references.html

[262] Automatisation, numérisation et emploi. Tome 1 : les impacts sur le volume, la structure et la localisation de l’emploi. 2017. Conseil d’orientation pour l’emploi. https://www.vie-publique.fr/files/rapport/pdf/174000088.pdf.

[263] Acemoglu, Daron. 2024. The Simple Macroeconomics of AI. National Bureau of Economic Research.

[264] Cf. la présentation de LaborIA : https://www.inria.fr/fr/impacts-intelligence-artificielle-travail-laboria

[265] « LaborIA Explorer – Synthèse générale : Étude des impacts de l’IA sur le travail » : https://www.laboria.ai/laboria-explorer-synthese-generale/

[266] https://www.lamy-liaisons.fr/eclaireurs-du-droit/les-enjeux-de-lia-dans-le-monde-du-travail-entretien-avec-pierre-ramain-directeur-general-du-travail/

[267] La première occurrence de ces biais propres aux données « Western, Educated, Industrialized, Rich and Democratic » (WEIRD) figure dans l’article de Joe Henrich, Steven J. Heine et Ara Norenzayan, 2010, « The Weirdest People in the World ? », note de travail, 69 pp. : https://papers.ssrn.com/sol3/papers.cfm?abstract_id=1601785

[268] Cf. Benj Edwards, 2024, « Major ChatGPT-4o update allows audio-video talks with an “emotional” AI chatbot », Ars Technica: https://arstechnica.com/information-technology/2024/05/chatgpt-4o-lets-you-have-real-time-audio-video-conversations-with-emotional-chatbot/

[269] Régis Debray, 2017, Civilisation. Comment nous sommes devenus américains, Gallimard.

[270] Cf. interview de Régis Debray le 15 août 2017, « Comment nous sommes devenus américains » : https://www.slate.fr/story/149742/comment-nous-sommes-devenus-americains

[271] Martin Kersten et Lefteris Sidirourgos, 2017, « A Database System with Amnesia », CIDR :

https://www.cidrdb.org/cidr2017/papers/p58-kersten-cidr17.pdf

[272] Avec cette formule, Alain Desrosières montrait qu’en général les données ne sont pas automatiquement accessibles, il faut les récupérer, ce qui par conséquent révèle un choix dans les données récupérées, dans les modèles statistiques ou d’IA utilisés, etc. Des biais peuvent ainsi apparaître dans ces opérations de construction. Cf. Alain Desrosières, 2010, La Politique des grands nombres, Histoire de la raison statistique, La Découverte.

[273] L’idée est expliquée dans l’ouvrage classique du professeur de droit à la Harvard Law School : Lawrence Lessig, 1999, Code and Other Laws of Cyberspace, ‎Basic Books. Aucun éditeur n’a encore malheureusement pris la peine de faire traduire ce livre depuis 25 ans. Des internautes anonymes l’ont fort heureusement fait bénévolement et nous leur rendons hommage : https://framablog.org/2010/05/22/code-is-law-lessig/

De cette traduction, vos rapporteurs souhaitent présenter cette citation : dans le monde numérique dont Internet, le régulateur « c’est le code (…). Ce code, ou cette architecture, définit la manière dont nous vivons le cyberespace. Il détermine s’il est facile ou non de protéger sa vie privée, ou de censurer la parole. Il détermine si l’accès à l’information est global ou sectorisé. Il a un impact sur qui peut voir quoi, ou sur ce qui est surveillé. Lorsqu’on commence à comprendre la nature de ce code, on se rend compte que, d’une myriade de manières, le code du cyberespace régule (...) si nous ne comprenons pas en quoi le cyberespace peut intégrer, ou supplanter, certaines valeurs de nos traditions constitutionnelles, nous perdrons le contrôle de ces valeurs. La loi du cyberespace – le code – les supplantera (…). Ce n’est pas entre régulation et absence de régulation que nous avons à choisir. Le code régule (…). Nous devrions examiner l’architecture du cyberespace de la même manière que nous examinons le fonctionnement de nos institutions. Si nous ne le faisons pas, ou si nous n’apprenons pas à le faire, la pertinence de notre tradition constitutionnelle va décliner. Tout comme notre engagement autour de valeurs fondamentales, par le biais d’une constitution promulguée en pleine conscience. Nous resterons aveugles à la menace que notre époque fait peser sur les libertés et les valeurs dont nous avons hérité. La loi du cyberespace dépendra de la manière dont il est codé, mais nous aurons perdu tout rôle dans le choix de cette loi. »

[274] D’après Chris Anderson, la remise en cause des méthodes scientifiques traditionnelles par l’IA et les données massives pourrait tout simplement conduire à la fin de la théorie, c’est-à-dire à la fin de la science telle que nous la connaissons. Cf. Chris Andersonn, juin 2008, « The End of Theory : The Data Deluge Makes the Scientific Method Obsolete », Wired : https://www.wired.com/2008/06/pb-theory/

[275] La piste de la conjugaison entre IA connexionnistes et IA symboliques, au moins sur le plan de l’architecture des modèles, pourrait être une première réponse. Les modèles de type Trees of thoughts ou des Mixtures of experts avec les deux types d’IA pourraient devenir demain des architectures neuro-symboliques performantes conjuguant de l’inductif et du déductif.

[276] Cf. en particulier les références suivantes : Serge Tisseron et Bernard Stiegler, Faut-il interdire les écrans aux enfants ?, Mordicus, 2009 ; Pascal Plantard, « Numérique et éducation : encore un coup de tablette magique ? », Administration et Éducation, n° 146, 2015, « Le collège et les pratiques numériques des adolescents », Les Cahiers Pédagogiques, n° 520, 2015, avec Jonathan Bernard et Sophie Jehel « Tablette, smartphone, console, télé, ordi... Faut-il les interdire aux enfants ? », revue de l’Inserm, 2019 ; Jean-François Bach, Olivier Houdé, Pierre Léna et Serge Tisseron, L’enfant et les écrans, avis de l’Académie des sciences, Le Pommier, 2013 ; et « L’enfant, l’adolescent, la famille et les écrans », appel commun de l’Académie des sciences, de l’Académie nationale de médecine et de l’Académie des technologies, 2019 : https://www.academie-sciences.fr/pdf/rapport/appel_090419.pdf

[277] Cf. par exemple : Marie-Claude Bossière, « Le pédopsychiatre et la toxicité de l’omniprésence des écrans », nouvelle revue de l’enfance et de l’Adolescence, vol. 2, n° 1, 2020, ainsi qu’avec Daniel Marcelli et Anne-Lise Ducanda, « L’exposition précoce et excessive aux écrans (EPEE) : un nouveau syndrome », revue Devenir, vol. 32, n° 2, 2020.

[278] Cf. Melissa G. Hunt, Rachel Marx, Courtney Lipson et Jordyn Young, « No More FOMO : Limiting Social Media Decreases Loneliness and Depression », Journal of Social and Clinical Psychology, December vol. 37, n° 10, 2018.

[279] Bruno Patino, La civilisation du poisson rouge : Petit traité sur le marché de l’attention, Grasset, 2019.

[280] Article de Nicholas Carr, « Is Google Making Us Stupid ? What the Internet is doing to our brains », The Atlantic, n° 7, 2008, disponible au lien suivant :

https://www.theatlantic.com/magazine/archive/2008/07/is-google-making-us-stupid/306868/

[281] Cf. les ouvrages de Michel Desmurget, 2019, La Fabrique du crétin digital. Les dangers des écrans pour nos enfants, et, 2023, Faites-les lire !: Pour en finir avec le crétin digital. Ces études qui dressent le constat d’une baisse de l’intelligence chez les jeunes générations doivent cependant être relativisées à la lumière de dimensions plus qualitatives. Le contenu visionné sur les écrans doit être davantage incriminé que l’objet écran en lui-même, ce que soulignent d’autres chercheurs comme Tamara Hudon, Christopher Fennell, Matthew Hoftyzer, Franck Ramus ou Grégoire Borst.

[282] Le dispositif, composante de France Services, cherche à rendre le numérique plus accessible à tous. Il visait trois objectifs principaux : soutenir les Français dans les usages numériques (travailler à distance, consulter un médecin, gérer des courriels, suivre la scolarité des enfants…), sensibiliser aux enjeux du numérique pour favoriser des usages citoyens et critiques (protection des données personnelles, vigilance quant à l’information, maîtrise des réseaux sociaux…), accompagner les citoyens vers une plus grande autonomie, notamment dans la réalisation de leurs démarches administratives. Plus de 4,1 millions d’accompagnements ont été réalisés dans le cadre de cette opération gérée par la Banque des Territoires, à travers 2 880 structures mobilisées sur l’ensemble du territoire. L’ensemble de la démarche a été saluée pour son efficacité par la Cour des comptes.

[283] Le ministère de l’éducation nationale a lancé plusieurs initiatives autour de l’IA dans l’éducation, dont des assistants pédagogiques numériques, un manuel pour les enseignants, une enquête auprès de 5 600 enseignants et étudiants et un rapport « Intelligence artificielle et éducation : apports de la recherche et enjeux pour les politiques publiques », ce site de l’Académie de Paris recense ces initiatives : https://www.ac-paris.fr/l-intelligence-artificielle-dans-l-education-130992

[284] « L’IA et l’avenir du service public, rapport thématique #3 : IA et éducation » : https://www.senat.fr/rap/r24-101/r24-101-syn.pdf

[285] Le rapport de l’Unesco propose des recommandations en vue d’encadrer ces technologies à la lumière de principes éthiques en promouvant l’inclusion et l’équité. Il met l’accent sur une approche centrée sur l’humain, en prônant surtout une vigilance quant aux usages de l’IA dans les contextes éducatifs, ces usages devant être éthiques, sûrs, justes et dotés de sens. Il propose des mesures pour intégrer de manière responsable l’IA dans les activités d’enseignement, d’apprentissage et de recherche, notamment avec une explication pédagogique des technologies d’IA générative, une discussion de leurs enjeux éthiques et politiques et de leurs perspectives d’encadrement. En outre, le rapport fournit des exemples d’utilisation de l’IA générative permettant d’en exploiter les avantages pour la pensée critique ainsi que la créativité dans l’éducation et la recherche, tout en en atténuant les risques. Il explique par exemple comment l’IA générative peut être utilisée de manière créative dans la conception des programmes, l’enseignement et les activités d’apprentissage tout en abordant les implications de plus long terme pour l’éducation et la recherche. Cf. le guide publié en septembre 2023 par l’Unesco sur l’IA dans l’éducation et la recherche :

https://www.unesco.org/fr/articles/orientations-pour-lintelligence-artificielle-generative-dans-leducation-et-la-recherche

[286] Cf. en particulier l’article de Mathilde Neugnot-Cerioli et Olga Muss Laurenty, 2024, « The Future of Child Development in the AI Era. Cross-Disciplinary Perspectives Between AI and Child Development Experts » : https://arxiv.org/abs/2405.19275 ainsi que le site de la Fondation Everyone.AI https://everyone.ai

[287] Beaumarchais, fondateur de la première société d’auteurs en 1777, défendait le principe d’un tel droit d’auteur qui sera consacré par la loi pendant la Révolution française. On retrouve cette conception dans notre droit aujourd’hui. Cf. par exemple l’article L 111-1 du code de la propriété intellectuelle sur le site Légifrance : https://www.legifrance.gouv.fr/codes/article_lc/LEGIARTI000042814694

[288] Cette approche est présente dès la fondation du droit américain des brevets avec le Patent Act de 1790. Un discours ou une chorégraphie n’est par exemple pas protégé tant qu’il n’est pas transcrit sur un support. Le droit américain prévoit l’enregistrement de protection du copyright auprès du U.S. Copyright Office : ce n’est pas obligatoire, mais en cas de litige à la suite d’une utilisation ou d’une copie, si l’œuvre n’est pas enregistrée, son auteur risque de ne bénéficier d’aucun dédommagement financier.

[289] Cf. la directive du 17 avril 2019 sur le droit d’auteur et les droits voisins dans le marché unique numérique : http://data.europa.eu/eli/dir/2019/790/oj/fra

[290] Le compte rendu de la réunion est disponible en ligne : https://www.senat.fr/compte-rendu-commissions/20231218/cult.html

[291] Sean Hollister, 2024, « Microsoft’s AI Boss Thinks It’s Perfectly Okay to Steal Content If It’s on the Open Web », The Verge: https://www.theverge.com/2024/6/28/24188391/microsoft-ai-suleyman-social-contract-freeware

[292] Règlement (UE) 2016/679 du Parlement européen et du Conseil du 27 avril 2016 relatif à la protection des personnes physiques à l’égard du traitement des données à caractère personnel et à la libre circulation de ces données, et abrogeant la directive 95/46/CE (règlement général sur la protection des données) (Texte présentant de l’intérêt pour l’EEE).

[293] Cf. par exemple les conseils destinés aux entrepreneurs et aux jeunes (qu’Oussama Amar appelait la génération « tuto ») et distillés tout au long des années 2010 dans les conférences nommées « Les barbares attaquent » réalisées par The Family : https://www.youtube.com/watch?v=6k7ClozOnjk

[294] Il existe des techniques dites « d’extraction » qui permettent d’obtenir des informations sur les données utilisées dans l’entraînement d’un modèle, mais il s’agit souvent d’un cas de détournement des règles d’utilisation des modèles selon les entreprises. Ces techniques peuvent il est vrai être utilisées de façon malveillante.

[295] Rapport d’information de la commission des lois de l’Assemblée nationale déposé en conclusion des travaux de sa mission d’information sur les défis de l’intelligence artificielle générative en matière de protection des données personnelles et d’utilisation du contenu généré de Philippe Pradal et Stéphane Rambaud), rapport d’information n° 2207, 16e législature : https://www.assemblee-nationale.fr/dyn/16/rapports/cion_lois/l16b2207_rapport-information

[296] Article L.335-2 du Code de la propriété intellectuelle : « Toute édition d’écrits, de composition musicale, de dessin, de peinture ou de toute autre production, imprimée ou gravée en entier ou en partie, au mépris des lois et règlements relatifs à la propriété des auteurs, est une contrefaçon et toute contrefaçon est un délit. »

[297] En 2024, le prix Nobel de Physique a été attribué à Geoffrey Hinton et John Hopfield pour leurs travaux sur les réseaux de neurones artificiels et le prix Nobel de Chimie a été décerné aux trois pionniers de l’exploration des protéines assistée par ordinateur, David Baker, John Jumper et Demis Hassabis, fondateur et directeur du laboratoire d’IA Google DeepMind.

[298] La question posée relative à la détection de rayonnements avec un bolomètre nécessitait, avant même de répondre, de comprendre un problème de physique avec un diagramme complexe écrit en français. Cf. le rapport technique 2023 sur GPT-4 réalisé par OpenAI : https://cdn.openai.com/papers/gpt-4.pdf

[299] Cf. le commentaire Dan Hendrycks à propos du graphique d’OpenAI sur les capacités de leur nouveau système en écriture, mathématiques, raisonnement logique et codage dans ce tweet : https://x.com/DanHendrycks/status/1778588753721950514

[300] Cf. Will Douglas Heaven, décembre 2023, « Google DeepMind used a large language model to solve an unsolved math problem », MIT Technology Review :

https://www.technologyreview.com/2023/12/14/1085318/google-deepmind-large-language-model-solve-unsolvable-math-problem-cap-set/

[301] Cf. Bernardino Romera-Paredes et al., 2024, « Mathematical discoveries from program search with large language models », Nature n° 625, 468–75 :

https://doi-org.stanford.idm.oclc.org/10.1038/s41586-023-06924-6

[302] Pour en savoir plus, le site du PSPC : https://predictioncenter.org/

[303] Résultats du CASP14 : https://predictioncenter.org/casp14/zscores_final.cgi

[304] Cf. le rapport précité de l’OPECST, op. cit., pp. 77 et 78.

[305] Eric Nguyen et al., 15 novembre 2024, « Sequence modeling and design from molecular to genome scale with Evo », in Science, volume 386, n° 67 :

https://www.science.org/doi/10.1126/science.ado9336

[306] Mengnan Liu, Shuiliang Fang, Huiyue Dong, et Cunzhi Xu, 2021, « Review of digital twin about concepts, technologies, and industrial applications », Journal of manufacturing systems :

https://www.researchgate.net/profile/Mengnan-Liu/publication/342807853_Review_of_digital_twin_about_concepts_technologies_and_industrial_applications/links/5fa7f90e92851cc286a04b21/Review-of-digital-twin-about-concepts-technologies-and-industrial-applications.pdf.

[307] Cette formulation est tirée du rapport de l’OPECST « Pour une intelligence artificielle maîtrisée, utile et démystifiée » en sa page 26. Ses références ont déjà été données.

[308] Extrait du rapport op. cit., page 144.

[309] Cf. la page de présentation du rapport qui contient le lien vers le document complet :

https://www.cnil.fr/fr/ia-la-cnil-publie-ses-premieres-recommandations-sur-le-developpement-des-systemes-dintelligence

[310] Fondée par Amazon, Facebook, Google, DeepMind, Microsoft et IBM, rejoints par Apple en 2017, cette association regroupe une centaine de structures, non seulement des entreprises mais aussi des associations et des organismes du monde de la recherche.

[311] Ce rapport, remis au Président de la République Valéry Giscard d’Estaing en décembre 1977 par Simon Nora et Alain Minc, préconisait de manière audacieuse d’associer les télécommunications et l’informatique grâce à la connexion de terminaux informatiques permettant la visualisation et l’échange, à travers les réseaux de télécommunication, de données stockées dans des ordinateurs. Il a inventé le concept de télématique et a proposé le lancement du réseau Minitel, exactement seize ans après qu’un chercheur du Massachusetts Institute of Technology (MIT), Joseph Carl Robnett Licklider, eut rédigé les premiers textes décrivant les interactions sociales rendues possibles par l’intermédiaire d’un réseau d’ordinateurs alors baptisé « réseau galactique » qu’il développa dans les années 1970 pour le gouvernement américain sous le nom d’Arpanet (ou réseau de l’Arpa, du nom de la structure ayant précédé la Darpa) et ayant conduit à Internet après l’adoption du protocole TCP/IP en 1983.

[312] Ce programme reposait sur le Comité interministériel sur la société de l’information, Cf. son rapport préparé en amont du programme : Préparer l’entrée de la France dans la société de l’information, Paris, La Documentation française, 1998. Cf. également la déclaration du 10 juillet 2000 de Lionel Jospin, alors Premier ministre, sur les priorités du gouvernement concernant la société de l’information, notamment la volonté de combler le fossé numérique en offrant à tous la possibilité de s’initier à l’Internet : https://www.vie-publique.fr/discours/137517-declaration-de-m-lionel-jospin-premier-ministre-sur-les-priorites-du

[313] Cf. le rapport de l’OPECST op. cit. page 142.

[314] Le rapport abordait successivement différentes facettes de l’IA : politique économique, recherche, emploi, éthique, cohésion sociale. Et cinq annexes insistaient sur des domaines d’intérêt particulier : éducation, santé, agriculture, transport, défense et sécurité. Rapport de Cédric Villani « Donner un sens à l’intelligence artificielle : pour une stratégie nationale et européenne », 2018, https://www.vie-publique.fr/rapport/37225-donner-un-sens-lintelligence-artificielle-pour-une-strategie-nation

[315] L’expression AI for Humanity sera utilisée par EDF, Thalès et Total pour nommer en 2020 leur premier laboratoire industriel conjoint de recherche. Rapidement débaptisé, il s’intitule désormais Sinclair (pour Saclay INdustrial Collaborative Laboratory for Artificial Intelligence Research).

[316] L’entreprise commune européenne pour le calcul à haute performance, ou European High-Performance Computing Joint Undertaking (EuroHPC JU), a sélectionné en 2022 le Forschungszentrum Jülich, pour exploiter en Allemagne Jupiter (pour Joint Undertaking Pioneer for Innovative and Transformative Exascale Research), le premier supercalculateur européen exascale. Il a ensuite sélectionné en 2023 le consortium franco-néerlandais Jules Verne pour un second supercalculateur exascale qui sera hébergé par le CEA, à Bruyères-le-Châtel, près d’Arpajon dans l’Essonne et devait prendre le nom du consortium. Enfin, en 2024 le Gouvernement et le GENCI annoncent que le supercalculateur prendra finalement le nom de la chercheuse en informatique Alice Recoque.

[317] Sa construction complète a pris 122 jours en incluant la fabrication des processeurs mais entre la livraison des processeurs à Memphis, Tennessee, et l’entraînement des modèles il n’a fallu que 19 jours. Cf. le communiqué de Nvidia : https://nvidianews.nvidia.com/news/spectrum-x-ethernet-networking-xai-colossus?ncid=so-twit-249598 ainsi que l’interview du PDG de Nvidia Jensen Huang expliquant que « building xAI’s computing supercluster in just 19 days, from concept to training, was a superhuman effort and the only person in the world who could have done it is Elon Musk » : https://x.com/tsarnick/status/1845528355833319769

[318] Cf. cet article du 9 septembre 2024 qui explique que « the biggest AI computer the world has ever seen (and it’s not even close) boasts some of the most astonishing numbers one can fathom and helps us toy with the idea of how large the next generation of models will be » : https://pub.towardsai.net/putting-the-worlds-largest-ai-supercomputer-into-perspective-60afde9bc653 et cet article du 4 septembre 2024 « xAI has apparently completed the world’s fastest supercomputer »: https://www.heise.de/en/news/xAI-has-apparently-completed-the-world-s-fastest-supercomputer-9857540.html

[319] Cf. la déclaration d’Elon Musk le 28 octobre 2024 sur X : https://x.com/elonmusk/status/1850991323010261230 et surtout le communiqué assez complet de Nvidia du même jour : https://nvidianews.nvidia.com/news/spectrum-x-ethernet-networking-xai-colossus?

[320] Le prix de 70 000 dollars est évalué par HSBC, cf. https://www.lebigdata.fr/une-puce-ia-a-70-000-le-prix-des-nvidia-blackwell-fait-trembler-lindustrie en dépit des déclarations du PDG de Nvidia qui parle, lui, d’un coût de 30 000 à 40 000 dollars pièce : https://next.ink/brief_article/le-gpu-blackwell-b200-coutera-entre-30-000-et-40-000-dollars-piece/

[321] Il faut ajouter à ces 1 456 GPU H100 des processeurs d’ancienne génération, comme les 416 GPU A100 et les 1 832 GPU V100. Cf. https://www.cnrs.fr/fr/presse/genci-et-le-cnrs-choisissent-eviden-pour-faire-du-supercalculateur-jean-zay-lune-des

[322] La première phase (2018-2022) visait à doter la France de capacités de recherche compétitives. Cette première étape a été financée à hauteur de 1,5 milliard d’euros. Elle a notamment permis la création et le développement du réseau d’instituts interdisciplinaires d’intelligence artificielle (3IA), la mise en place de chaires d’excellence et de programmes doctoraux, ainsi que le supercalculateur Jean Zay. La deuxième phase (2021-2025) cherche à diffuser les technologies d’IA au sein de l’économie et à soutenir le développement et l’innovation dans des domaines prioritaires comme l’IA embarquée, l’IA de confiance, l’IA frugale et l’IA générative. Cette seconde phase devrait être dotée de 2,2 milliards d’euros, notamment dans le cadre de France 2030, et s’articule autour de trois piliers : le soutien à l’offre deep tech, la formation et l’attraction des talents, le rapprochement de l’offre et de la demande de solutions en IA, cf. https://www.entreprises.gouv.fr/fr/numerique/enjeux/la-strategie-nationale-pour-l-ia

[323] Cf. le rapport de la Cour des comptes, 2023, « La stratégie nationale de recherche en intelligence artificielle » : https://www.ccomptes.fr/fr/publications/la-strategie-nationale-de-recherche-en-intelligence-artificielle

[324] Op. cit. p. 47.

[325] Cf. la présentation du rapport de la Commission de l’intelligence artificielle présidée par Anne Bouverot et Philippe Aghion : https://www.info.gouv.fr/actualite/25-recommandations-pour-lia-en-france

[326] Cf. Florence G’Sell, 25 octobre 2024, « Regulating under Uncertainty: Governance Options for Generative AI », Stanford Cyber Policy Center, Université de Stanford : https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4918704

[327] Dans le rapport de l’OPECST sur la technologie des blockchains, des développements sont consacrés à l’usage de cette technologie en Estonie. Cf. Valéria Faure-Muntian, Claude de Ganay et Ronan Le Gleut, 2018, Comprendre les blockchains : fonctionnement et enjeux de ces nouvelles technologies, disponible sur le site du Sénat : https://www.senat.fr/notice-rapport/2017/r17-584-notice.html et de l’Assemblée nationale : https://www.assemblee-nationale.fr/dyn/15/rapports/ots/l15b1092_rapport-information

[328] Cf. le focus pays de la revue ActuIA d’août 2024, « Finlande : le pari de l’éducation et de la coopération » : https://www.actuia.com/actualite/focus-pays-finlande-le-pari-de-leducation-et-de-la-cooperation/

[329] Business Finland est l’organisation gouvernementale finlandaise pour le financement de l’innovation et la promotion du commerce, des voyages et des investissements. Cette agence publique est au cœur de la stratégie de développement finlandaise. Cette organisation gouvernementale est chargée notamment du financement de l’innovation et des start-up dans le domaine de l’IA. Le programme AI Business dirigé par Outi Keski-Äijö est l’une des initiatives lancées par le plan de 2017, qui a aidé plus de 300 entreprises d’IA, ce qui représente l’essentiel de ces 200 millions d’euros de financement. Ce programme vise à soutenir les start-up et à augmenter l’attractivité du pays pour la recherche et le développement de l’IA.

[330] Rapport « Leading the way into the era of artificial intelligence: Final report of Finland’s Artificial Intelligence Programme 2019 » : https://tem.fi/en/publication?pubid=URN:ISBN:978-952-327-437-2

[331] En 2021 et 2022, sur l’indice de préparation à l’IA des Oxford Insights, la Finlande était classée 4e au niveau mondial derrière les États-Unis et le Royaume-Uni mais devançant l’Allemagne (8e) et la France (11e). Il s’agit de savoir, à travers 42 indicateurs et 10 dimensions, dans quelle mesure les gouvernements tirent parti des avantages de l’IA dans leurs opérations et la prestation de services publics. Cf. le « Oxford Insights AI Readiness Index » https://www.oxfordinsights.com/government-ai-readiness-index2021

[332] En novembre 2020, la Finlande a lancé le programme « Intelligence artificielle 4.0 » pour promouvoir le développement de l’IA dans les entreprises, en mettant l’accent sur les PME. Cf. le programme pour l’intelligence artificielle « AI Business program » de Business Finland :

https://www.businessfinland.fi/en/for-finnish-customers/services/programs/ended-programs/ai-business

[333] Cf. le rapport 2020 sur l’écosystème mondial des start-up (GSER) de Startup Genome : https://startupgenome.com/article/rankings-top-100-emerging

[334] Cf. le « Global Skills Report » de Coursera pour 2021 : https://www.coursera.org/skills-reports/global

[335] Journal officiel de l’Union européenne (JOUE) le 12 juillet 2024 : https://eur-lex.europa.eu/legal-content/FR/TXT/?uri=OJ:L_202401689

[336] Communication de la Commission européenne, au Parlement européen, au Conseil, au comité économique et social européen et au comité des régions « L’intelligence Artificielle Pour l’Europe », avril 2018 : https://digital-strategy.ec.europa.eu/en/library/communication-artificial-intelligence-europe

[337] Communication sur le plan coordonné dans le domaine de l’intelligence artificielle actualisée en 2021 : https://digital-strategy.ec.europa.eu/en/library/coordinated-plan-artificial-intelligence-2021-review et première version de 2018 : https://eur-lex.europa.eu/legal-content/FR/TXT/?uri=COM:2018:795:FIN

[338] Cf. la communication d’avril 2018 de la Commission précitée.

[339] « Lignes directrices en matière d’éthique pour une IA digne de confiance », 2019 : https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai

[340] La notion d’IA digne de confiance est souvent utilisée, particulièrement par les organisations internationales qui peuvent traduire ce terme ou conserver le terme anglais de Trustworthy AI

[341] « Policy and investment recommendations for trustworthy AI », 2019, https://digital-strategy.ec.europa.eu/en/library/policy-and-investment-recommendations-trustworthy-artificial-intelligence

[342] « Évaluation finale pour une IA digne de confiance (ALTAI) », 2019 : https://digital-strategy.ec.europa.eu/en/library/assessment-list-trustworthy-artificial-intelligence-altai-self-assessment

[343] « Considérations sectorielles sur les recommandations en matière de politique et d’investissement », 2019, https://futurium.ec.europa.eu/en/european-ai-alliance/document/ai-hleg-sectoral-considerations-policy-and-investment-recommendations-trustworthy-ai

[344] Livre blanc de la Commission européenne, 2020, « Intelligence artificielle. Une approche européenne axée sur l’excellence et la confiance » : https://commission.europa.eu/publications/white-paper-artificial-intelligence-european-approach-excellence-and-trust_en

[345] Rapport du Comité économique et social européen en 2020 : https://www.eesc.europa.eu/fr/our-work/opinions-information-reports/opinions/livre-blanc-sur-lintelligence-artificielle

[346] Proposition de règlement du Parlement européen et du Conseil du 21 avril 2021 établissant des règles harmonisées concernant l’intelligence artificielle et modifiant certains actes législatifs de l’Union : https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:52021PC0206

[347] Rectificatif à la position du Parlement européen arrêté en première lecture le 13 mars 2024 en vue de l’adoption du règlement du Parlement européen et du Conseil établissant des règles harmonisées concernant l’intelligence artificielle : https://www.europarl.europa.eu/doceo/document/TA-9-2024-0138-FNL-COR01_FR.pdf

[348] Cf. le champ d’application de l’AI Act défini dans son article 2 et les définitions des notions dans son article 3 : https://eur-lex.europa.eu/legal-content/FR/TXT/?uri=OJ:L_202401689

[349] Cf. https://artificialintelligenceact.eu/fr/high-level-summary/

[350] Cf. Rishi Bommasani et al., 2023, « Do Foundation Model Providers Comply with the Draft EU AI Act ? », Center for Research on Foundation Models, Stanford University : https://crfm.stanford.edu/2023/06/15/eu-ai-act.html

[351] Cf. https://artificialintelligenceact.eu/fr/annex/13

[352] Stevens, Ingrid. 2024. « Regulating AI: The Limits of FLOPs as a Metric ». Medium. https://medium.com/@ingridwickstevens/regulating-ai-the-limits-of-flops-as-a-metric-41e3b12d5d0c

[353] Kaplan, Jared, Sam McCandlish, Tom Henighan, Tom B. Brown, Benjamin Chess, Rewon Child, Scott Gray, et al. 2020. « Scaling Laws for Neural Language Models ». http://arxiv.org/abs/2001.08361

[354] Cf. Luca Bertuzzi, 2023, « AI Act : négociations bloquées à cause de divergences sur les modèles de fondation », in Euractiv : https://www.euractiv.fr/section/intelligence-artificielle/news/ai-act-negociations-bloquees-a-cause-de-divergences-sur-les-modeles-de-fondation/

[355] La citation originale : « the Commission is promoting the AI Pact, to help stakeholders prepare for the implementation of the AI Act. The AI Pact, is structured around two pillars : gathering and exchanging with the AI Pact network, facilitating and communicating company pledges », cf. https://digital-strategy.ec.europa.eu/en/policies/ai-pact

[356] Cf. la page suivante : https://www.bercynumerique.finances.gouv.fr/le-pacte-europeen-sur-lia-signe-par-une-centaine-dentreprises-ressemble-une-vaste-blague

[357] Cf. cet article du 29 mai 2024 « Le Board d’OpenAI s’approprie les questions de sécurité et balaie les critiques d’anciens salariés » : https://www.usine-digitale.fr/article/le-board-d-openai-s-approprie-les-questions-de-securite-et-balaie-les-critiques-d-anciens-salaries.N2213540

[358] Cf. cet article du 26 septembre 2024 « Apple and Meta snub AI safety pact. Amazon, Google, Microsoft and OpenAI among signatories of EU pact » : https://www.independent.co.uk/tech/apple-and-meta-snub-ai-safety-pact-b2619542.html

[359] La prévention et la protection à l’égard des risques forment deux volets classiques des politiques de la maîtrise des risques.

[360] Proposition de directive du Parlement européen et du Conseil relative à La responsabilité du fait des produits défectueux, 2022, https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52022PC0495

[361] Proposition de directive du Parlement européen et du Conseil relative à l’adaptation des règles en matière de responsabilité civile extracontractuelle au domaine de l’intelligence artificielle (directive sur la responsabilité en matière d’IA), 2022, https://eur-lex.europa.eu/legal-content/FR/ALL/?uri=CELEX:52022PC0496

[362] Règlement (UE) 2018/1488 du Conseil du 28 septembre 2018 établissant l’entreprise commune pour le calcul à haute performance européen, 2018, http://data.europa.eu/eli/reg/2018/1488/oj/fra

[363] Cf. le rapport de la Maison-Blanche, Executive Office of the President, National Science and Technology Council (NSTC) & Committee on Technology, octobre 2016, « Preparing for the Future of Artificial Intelligence » :

https://obamawhitehouse.archives.gov/sites/default/files/whitehouse_files/microsites/ostp/NSTC/preparing_for_the_future_of_ai.pdf ; le plan stratégique national pour l’IA rendu par le NSTC joint au premier rapport :

https://obamawhitehouse.archives.gov/sites/default/files/whitehouse_files/microsites/ostp/NSTC/national_ai_rd_strategic_plan.pdf et l’édition de novembre 2016 de Wired, magazine dont le Président américain a été exceptionnellement le rédacteur en chef tout au long du mois d’octobre 2016 et qui comprend une longue interview exclusive par le directeur du Media Lab du MIT qui restera dans l’histoire, avec ce titre si évocateur, « Barack Obama, les réseaux de neurones, les voitures autonomes et l’avenir du monde » (titre original : « Barack Obama, Neural Nets, Self-Driving Cars, and the Future of the World ») : https://www.wired.com/2016/10/president-obama-mit-joi-ito-interview/

[364] Cf. « Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence » :

https://www.whitehouse.gov/briefing-room/presidential-actions/2023/10/30/executive-order-on-the-safe-secure-and-trustworthy-development-and-use-of-artificial-intelligence/

[365] White House Office of Science and Technology Policy (OSTP), octobre 2022, « Blueprint for an AI bill of rights » : https://www.whitehouse.gov/ostp/ai-bill-of-rights/

[366] Cf. https://digichina.stanford.edu/work/translation-chineseexpert-group-offers-governance-principles-for-responsible-ai/

[367] The « Ethical Norms for New Generation Artificial Intelligence » promulgated by the National Professional Committee for the Governance of the New Generation of Artificial Intelligence, Sept. 25, 2021, https://www.most.gov.cn/kjbgz/202109/t20210926_177063.html en anglais, https://cset.georgetown.edu/publication/ethical-norms-for-new-generation-artificial-intelligence-released/

[368] « Guiding Opinions on Strengthening the Comprehensive Governance of Algorithms in Internet Information Service », Cyberspace Administration of China, September 2021, http://www.cac.gov.cn/2021-09/29/c_1634507915623047.htm et cf. aussi en anglais https://digichina.stanford.edu/work/translation-guiding-opinions-on-strengthening-overall-governance-of-internet-information-service-algorithms/

[369] « Basic Safety Requirements for Generative Artificial Intelligence Services promulgated by the National Technical Committee 260 on Cybersecurity of Standardization Administration », février 2024, https://www.tc260.org.cn/upload/2024-03-01/1709282398070082466.pdf et cf. aussi en anglais https://cset.georgetown.edu/publication/china-safetyrequirements-for-generative-ai-final/

[370] Décret « Administrative Provisions on Algorithm Recommendation for Internet Information Services » appelé aussi « Algorithm Recommendation Provisions » :

https://digichina.stanford.edu/work/translation-guiding-opinions-on-strengthening-overall-governance-of-internet-information-service-algorithms/

[371] Il s’agit, par exemple, des modèles qui induisent des comportements immoraux ou illégaux, de ceux qui diffusent des fausses informations ou qui manipulent l’opinion ou, encore, de ceux qui peuvent affecter la santé physique ou mentale des mineurs.

[372] Cf. https://digichina.stanford.edu/work/translation-personal-information-protection-law-of-the-peoples-republic-of-china-effective-nov-1-2021/

[373] Cf. https://copyrightblog.kluweriplaw.com/2024/02/02/beijing-internet-court-grants-copyright-to-ai-generated-image-for-the-first-time/ et https://www.natlawreview.com/article/computer-love-beijing-court- finds-ai-generated-image-copyrightable-split-united/

[374] Cf https://www.twobirds.com/en/insights/2024/china/liability-of-ai-service-providers-for-copyright-infringement/

[375] « The Internet Information Service Deep Synthesis Management Provisions » or « Deep Synthesis Regulation » promulgated by the Cyberspace Administration of China, the Ministry of Industry and Information Technology, and the Ministry Public Security, https://www.gov.cn/zhengce/zhengceku/2022-12/12/content_5731431.htm et en anglais https://www.chinalawtranslate.com/en/deep-synthesis/

[376] « Interim Administrative Measures for Generative AI Services », 2023 : https://www.cac.gov.cn/2023-07/13/c_1690898327029107.htm et en anglais : https://www.chinalawtranslate.com/en/generative-ai-interim/ ainsi que les articles « China’s New AI Regulations » : https://www.lw.com/admin/upload/SiteAttachments/Chinas-New-AI-Regulations.pdf et « How will China’s Generative AI Regulations Shape the Future? » : https://digichina.stanford.edu/work/how-will-chinas-generative-ai-regulations-shape-the-future-a-digichina-forum/

[377] « Practical Guidelines for Cybersecurity Standards – Method for Tagging Content in Generative Artificial Intelligence Services » promulgated by China’s National Information Security Standardization Technical Committee (« TC260 »), 2023, https://www.tc260.org.cn/upload/2023-08-08/1691454801460099635.pdf

[378] « Notice of Issuing the Trial Measures for Scientific and Technological Ethics Review, 2023, https://www.gov.cn/zhengce/zhengceku/202310/content_6908045.htm et en anglais https://lawinfochina.com/display.aspx?id=42015&lib=law&SearchKeyword=&SearchCKeyword=

[379] « Basic Safety Requirements for Generative Artificial Intelligence Services », 2024, https://www.tc260.org.cn/upload/2024-03-01/1709282398070082466.pdf et en anglais, https://cset.georgetown.edu/publication/china-safety-requirements-for-generative-ai-final/

[380] Cf. par exemple les règles éthiques assez complètes adoptées par le Conseil de Shenzhen, « Regulations for the Promotion of the Artificial Intelligence Industry in Shenzhen Special Economic Zone », https://cset.georgetown.edu/publication/regulations-for-the-promotion-of-the-artificial-intelligence-industry-in-shenzhen-special-economic-zone/

[381] Ces restrictions d’exportation portent par exemple sur les GPU H100 et A100 de Nvidia, sur la puce Gaudi 2 d’Intel ou les nouveaux GPU d’AMD, cf. https://www.usine-digitale.fr/article/nvidia-ne-pourra-plus-exporter-ses-gpu-optimises-pour-l-ia-vers-la-chine.N2183758

[382] L’information vient de la presse chinoise elle-même, cf. cet article en anglais du South China Morning Post du 7 octobre 2024 : https://www.scmp.com/tech/article/3281254/tech-war-china-advocates-use-local-ai-chips-over-those-us-powerhouse-nvidia

[383] Cf. les liens suivants : https://www.globalbusinessculture.com/fr/india/the-great-indian-brain-drain et https://les-yeux-du-monde.fr/actualites-analysees/34055-back-to-bangalore-brain-gain-inde

[384] Le site du Alan Turing Institute : https://www.turing.ac.uk/

[385] Le site du RAI Institute : https://www.responsible.ai/

[386] Le site de RAI UK : https://rai.ac.uk/ et la page dédiée à ses programmes de recherche : https://rai.ac.uk/research/

[387] Cf. son rapport précité d’octobre 2024.

[388] Recommandations de l’OCDE sur l’IA de 2019 : https://oecd.ai/en/assets/files/OECD-LEGAL-0449-en.pdf ; Principes sur l’IA : https://www.oecd.org/en/topics/ai-principles.html ; Mise à jour des principes en 2024 : https://www.oecd.org/newsroom/oecd-updates-ai-principles-tostay-abreast-of-rapid-technological-developments.htm

[389] Cf. cette classification si utile sur le site de l’OCDE : https://oecd.ai/en/classification une vidéo a également été réalisée : https://youtu.be/-S5dCR9z5rI

[390] Cf. cette présentation de l’Observatoire des politiques publiques de l’IA :

https://oecd.ai/en/about/background

[391] OCDE, 2024, « Report on the Implementation of the OECD Recommendation on Artificial Intelligence » : https://one.oecd.org/document/C/MIN(2024)17/en/pdf

[392] Cf. OCDE, « National AI Policies & Strategies » : https://oecd.ai/en/dashboards/overview

[393] Cf. OCDE, « Catalogue of Tools and Metrics for Trustworthy AI » :

https://oecd.ai/en/catalogue/tools?terms=audit&approachIds=1&objectiveIds=2&orderBy=dateDesc

[394] Cf. OCDE, « AI Incidents Monitor » : https://oecd.ai/en/incidents

[395] Cf. OCDE, « Defining AI incidents and related terms » : https://doi.org/10.1787/d1a8d965-en

[396] L’ONU semble avoir ouvert un dialogue constructif avec l’OCDE ainsi qu’avec le G20 mais elle reste étrangère aux travaux conduits dans les cadres du G7 et du PMIA/GPAI qui seront évoqués plus loin.

[397] Cf. les liens vers ces deux rapports des Nations unies sur l’IA et sa gouvernance : https://www.un.org/sites/un2.un.org/files/ai_advisory_body_interim_report.pdf ainsi que https://www.un.org/sites/un2.un.org/files/governing_ai_for_humanity_final_report_en.pdf

[398] Cf. l’article, « Volker Türk appelle à une gouvernance attentive aux risques liés à l’intelligence artificielle et mettant l’accent sur les droits humains », 2023, OHCHR : https://www.ohchr.org/fr/statements-and-speeches/2023/11/turk-calls-attentive-governance-artificial-intelligence-risks

[399] Résolution 78/49 du 21 mars 2024, « Saisir les possibilités offertes par des systèmes d’intelligence artificielle sûrs, sécurisés et dignes de confiance pour le développement durable » : https://documents.un.org/doc/undoc/ltd/n24/065/93/pdf/n2406593.pdf

[400] Résolution 78/311 du 1er juillet 2024, « Intensifier la coopération internationale en matière de renforcement des capacités dans le domaine de l’intelligence artificielle » : https://documents.un.org/doc/undoc/gen/n24/197/27/pdf/n2419727.pdf

[401] Communiqué de la commission sur le désarmement et la sécurité internationale de l’Assemblée générale des Nations unies, le 1er novembre 2023, « First Committee Approves Resolution on Lethal Autonomous Weapons, as Speaker Warns “An Algorithm Must Not Be in Full Control of Decisions Involving Killing” » : https://press.un.org/en/2023/gadis3731.doc.htm

[402] Cf. la présentation du pacte sur cette page : https://www.un.org/techenvoy/global-digital-compact

[403] Communiqué de la Commission européenne : https://digital-strategy.ec.europa.eu/en/news/united-nations-members-adopted-global-digital-compact-shaping-safe-and-sustainable-digital-future

[404] Unesco, 2019, « International conference on Artificial intelligence and Education, Planning education in the AI Era : Lead the leap: Final report » ; Pedró, F., Subosa, M., Rivas, A., & Valverde, P., 2019, « Artificial intelligence in education: Challenges and opportunities for sustainable development » ; Miao, F., & Holmes, W., 2020, « International Forum on AI and the Futures of Education,developing competencies for the AI Era », Synthesis report ; ou encore Miao, F., Wayne Holmes, Ronghuai, H., & Hui, Z., 2021, « AI and education: Guidance for policy-makers ».

[405] COMEST, 2019, « Étude préliminaire sur l’Éthique de l’intelligence artificielle » : https://unesdoc.unesco.org/ark:/48223/pf0000367823_fre

[406] Unesco, 23 novembre 2021, « Recommandations sur l’éthique de l’intelligence artificielle » : https://unesdoc.unesco.org/ark:/48223/pf0000381137_fre

[407] Cf. la méthodologie pour les États proposée au lien suivant :

https://www.unesco.org/fr/articles/methode-devaluation-de-letat-de-preparation-un-outil-de-la-recommandation-sur-lethique-de

[408] Cf. la méthodologie pour les entreprises proposée au lien suivant :

https://www.unesco.org/en/articles/ethical-impact-assessment-tool-recommendation-ethics-artificial-intelligence

[409] Il s’agit de GSMA, INNIT, Lenovo Group, LG AI Research, Mastercard, Microsoft, Salesforce et Telefonica, cf. le lien suivant : https://www.unesco.org/fr/articles/ethique-de-lia-8-geants-de-la-tech-sengagent-appliquer-la-recommandation-de-lunesco

[410] Cf. le guide publié en septembre 2023 par l’Unesco sur l’IA dans l’éducation et la recherche : https://www.unesco.org/fr/articles/orientations-pour-lintelligence-artificielle-generative-dans-leducation-et-la-recherche

[411]Cf. l’article du 6 février 2024, « Unesco launches Global AI Ethics and Governance Observatory at the 2024 Global Forum on the Ethics of Artificial Intelligence », in Digital Skills & Jobs Platform : https://digital-skills-jobs.europa.eu/en/latest/news/unesco-launches-global-ai-ethics-and-governance-observatory-2024-global-forum-ethics

[412] La croissance inclusive, le développement durable et le bien-être ; des valeurs centrées sur l’humain et l’équité ; la transparence et l’explicabilité ; la robustesse, la sécurité et la sûreté ; la responsabilité. Cf. cet article du 8 juin 2019, « G20 ministers agree on guiding principles for using artificial intelligence », Japan Times, https://www.japantimes.co.jp/news/2019/06/08/business/g20-ministers-kick-talks-trade-digital-economy-ibaraki-prefecture/

[413] Cf. la note du think tank américain Center for AI and Digital Policy, « G20 and Artificial Intelligence » : https://www.caidp.org/resources/g20

[414] Cf. le « G7 Leaders’ Statement on the Hiroshima AI Process », 2023 : https://digital-strategy.ec.europa.eu/fr/library/g7-leaders-statement-hiroshima-ai-process

[415] Rapport de l’OCDE du 7 septembre 2023, « G7 Hiroshima Process on Generative Artificial Intelligence : Towards a G7 Common Understanding on Generative A » : https://doi.org/10.1787/bf3c0c60-en

[416] Cf. ce site qui présente le processus et tous les livrables du « Hiroshima AI Process Comprehensive Policy Framework » : https://www.soumu.go.jp/hiroshimaaiprocess/en/index.html

[417] Cf. Anthropic, 30 novembre 2023, « Thoughts on the US Executive Order, G7 Code of Conduct, and Bletchley Park Summit » : https://www.anthropic.com/news/policyrecap-q4-2023

[418] Cf. Enza Iannopollo, 2023, « The G7 AI Guidelines: Long On Good Intentions, Short On Detail And Substance », Forrester : https://www.forrester.com/blogs/the-g7-aiguidelines-long-on-good-intentions-short-on-detail-and-substance/

[419] Cf. Wang Cong & Yin Yeping, « China launches Global AI Governance Initiative, offering an open approach in contrast to US blockade », Global Times, Oct. 18, 2023, https://www.globaltimes.cn/page/202310/1300092.shtml ; cf. aussi l’initiative en chinois https://www.cac.gov.cn/2023-10/18/c_1699291032884978.htm ou sa traduction en anglais http://gd.china-embassy.gov.cn/eng/zxhd_1/202310/t20231024_11167412.htm

[420] L’Indonésie, l’Arabie saoudite, le Mexique, la Corée du Sud le Viêt-Nam, la Turquie, le Bahreïn, le Bangladesh, la Biélorussie, la Bolivie, Cuba, le Honduras, le Kazakhstan, le Koweït, le Nigeria, la Palestine, la Serbie, le Sénégal, la Thaïlande, le Venezuela et l’Argentine (dont le nouveau Président a cependant renoncé à la candidature souhaitant se rapprocher des États-Unis). L’Algérie a vu sa demande d’adhésion rejetée en août 2023 et a renoncé à sa candidature.

[421] Auda-Nepad, « Regulation and Responsible Adoption of AI in Africa Towards Achievement of African Union Agenda 2063 » : https://dig.watch/resource/auda-nepad-white-paper-regulation-and-responsible-adoption-of-ai-in-africa-towards-achievement-of-au-agenda-2063

[422] Cf. cet article : https://pouvoirsafrique.com/article/1249/blunion-africaine-lance-une-strategie-pour-lia-et-un-pacte-pour-le-numeriqueb

[423] Le lien suivant contient les deux documents : https://www.coe.int/fr/web/artificial-intelligence/la-convention-cadre-sur-l-intelligence-artificielle

[424] World Economic Forum, « AI Governance Alliance » : https://initiatives.weforum.org/ai-governance-alliance/home

[425] Cf. ces quatre exemples de références en matière d’AI safety, Google, « Our Principles » : https://ai.google/responsibility/principles/ ; Microsoft, « Principles and Approach » : https://www.microsoft.com/en-us/ai/principles-and-approach ; Meta, « Responsible AI : Driven by Our Belief that AI Should Benefit Everyone » : https://ai.meta.com/responsible-ai/ ; et Anthropic, « Make Safe AI Systems, Deploy Them Reliably » : https://www.anthropic.com/research

[426] Cf. son site actif depuis déjà huit ans : https://www.partnershiponai.org

[427] Cf. l’annonce sur le blog de Microsoft le 26 juillet 2023, « Microsoft, Anthropic, Google, and OpenAI launch Frontier Model Forum » : https://blogs.microsoft.com/on-the-issues/2023/07/26/anthropic-google-microsoft-openai-launch-frontier-model-forum/ ainsi que le site d’OpenAI dédié au Frontier Model Forum : https://openai.com/index/frontier-model-forum

[428] Cf. le site de l’AI Alliance, « Building the Open Future of AI » : https://thealliance.ai

[429] Un think tank américain, le Center for Strategic and International Studies (CSIS), vient de publier le 30 octobre 2024 un rapport sur les enjeux de ce réseau, cf. Gregory C. Allen and Georgia Adamson, 2024, « The AI Safety Institute International Network : Next Steps and Recommendations » : https://www.csis.org/analysis/ai-safety-institute-international-network-next-steps-and-recommendations

[430] Florence G’sell a utilisé les résumés des tables rondes pour en faire une courte synthèse. La première table ronde s’est intéressée aux menaces à la sécurité mondiale, telles que la biosécurité et la cybersécurité, et a appelé à une collaboration intersectorielle urgente. La deuxième table ronde a discuté de l’imprévisibilité de l’évolution des capacités de l’IA, en soulignant les avantages pour les soins de santé, mais aussi les risques substantiels et en insistant sur la nécessité d’une surveillance et de tests de sécurité rigoureux. La troisième table ronde a exploré les risques existentiels potentiels liés à la perte de contrôle de l’IA avancée, en préconisant des tests de sécurité complets et des recherches plus poussées. La quatrième table ronde a abordé les risques sociétaux, notamment les menaces pour la démocratie et les droits de l’homme. Elle a recommandé d’impliquer le public dans les efforts de recherche. La cinquième table ronde a souligné la nécessité d’un développement rapide de politiques de sécurité de l’IA et l’importance de la réglementation gouvernementale, en notant que les politiques des entreprises à elles seules sont insuffisantes. D’autres tables rondes ont discuté des rôles et des actions nécessaires de la part des différentes parties prenantes pour faire face aux risques et aux opportunités de l’IA. La table ronde 6 a souligné la nécessité pour les décideurs politiques nationaux d’équilibrer les risques et les opportunités grâce à une gouvernance rapide, agile et innovante, tout en favorisant la collaboration internationale malgré des contextes nationaux différents. La table ronde 7 s’est concentrée sur les priorités de la communauté internationale, notamment le développement d’une compréhension commune des capacités et des risques de l’IA, la coordination de la recherche sur la sécurité et la garantie des avantages généralisés de l’IA. La table ronde 8 a souligné l’importance pour la communauté scientifique de comprendre les risques existants, de collaborer avec les gouvernements et le public et d’éviter la concentration du pouvoir. La table ronde 9 a souligné la nécessité de développer les compétences publiques et d’améliorer les capacités techniques gouvernementales pour optimiser les avantages potentiels de l’IA. Enfin, les tables rondes 10 et 11 ont porté sur la collaboration internationale dans la lutte contre la désinformation et les deepfakes et sur la garantie que toutes les régions du monde bénéficient du potentiel de l’IA.

[431] Yoshua Bengio et al., 2024, « International Scientific Report on the Safety of Advanced AI » : https://assets.publishing.service.gov.uk/media/6655982fdc15efdddf1a842f/international_scientific_report_on_the_safety_of_advanced_ai_interim_report.pdf

[432] Communiqué du 21 mai 2024 « Historic first as companies spanning North America, Asia, Europe and Middle East agree safety commitments on development of AI » :

https://www.gov.uk/government/news/historic-first-as-companies-spanning-north-america-asia-europe-and-middle-east-agree-safetycommitments-on-development-of-ai

[433] Communiqué du 22 mai 2024 « New commitment to deepen work on severe AI risks concludes AI Seoul Summit » : https://www.gov.uk/government/news/new-commitmentto-deepen-work-on-severe-ai-risks-concludes-ai-seoul-summit

[434] Cf. la présentation du futur sommet sur le site de l’Élysée : https://www.elysee.fr/sommet-pour-l-action-sur-l-ia

[435] Outre un soutien à l’accès aux systèmes d’IA de pointe (y compris pour des pays en développement) et l’établissement de normes de sécurité internationales, ces chercheurs ont recensé plusieurs cadres institutionnels possibles à l’échelle globale pour relever les défis de l’IA, notamment une commission mondiale sur l’IA, qui faciliterait le consensus des experts sur les opportunités et les risques associés à l’IA avancée, ou une organisation internationale de gouvernance de l’IA multipartite, qui établirait des normes internationales pour la gestion des menaces provenant des modèles d’IA de pointe, soutiendrait leur mise en œuvre et surveillerait potentiellement la conformité avec un futur régime de gouvernance. Un autre modèle proposé est le Frontier AI Collaborative, qui vise à promouvoir et à diffuser l’accès à l’IA avancée dans les sociétés mal desservies. Enfin, un grand projet de sécurité en IA est envisagé pour réunir les meilleurs chercheurs et les meilleurs ingénieurs de premier plan afin d’étudier et d’atténuer les risques techniques liés à l’IA. Cf. l’article de Lewis Ho et al., 2023, « International Institutions for Advanced AI » : http://arxiv.org/pdf/2307.04699

[436] « IA : l’Europe peut encore jouer dans la cour des grands ! » dans Les échos du 31 octobre 2024 : https://www.lesechos.fr/idees-debats/cercle/opinion-ia-leurope-peut-encore-jouer-dans-la-cour-des-grands-2128995

[437] La note s’intitule « Time to place our bets: Europe’s AI opportunity » et vise à encourager la compétitivité de l’Europe sur la totalité de la chaîne de valeur de l’IA en recourant à une approche à plusieurs niveaux que le cabinet qualifie ainsi : « A holistic approach to help Europe realize generative AI’s full potential ». Cf. Alexander Sukharevsky et al., octobre 2024, « Time to place our bets: Europe’s AI opportunity », Mc Kinsey Global Institute :

https://www.mckinsey.com/capabilities/quantumblack/our-insights/time-to-place-our-bets-europes-ai-opportunity

[438] Son budget était de 45 millions d’euros sur quatre ans dont une dotation de l’État de 15 millions d’euros, soit environ 3,75 millions d’euros par an.

[439] Cf. ses actions sur le site de Confiance.ai : https://www.confiance.ai/

[440] Joshua Bengio, Yann LeCun et d’autres chercheurs travaillent à cette amélioration qualitative. En novembre 2024, un article a ainsi proposé une nouvelle méthode permettant aux IA génératives de modéliser les dynamiques visuelles sans passer par une étape de reconstruction du monde physique dans un espace pixellisé : le Dino-WM pour World Model. Cf. Gaoyue Zhou, Hengkai Pan, Yann LeCun, Lerrel Pinto, 2024, « DINO-WM : World Models on Pre-trained Visual Features enable Zero-shot Planning » : https://arxiv.org/abs/2411.04983

[441] Rapport d’information de la commission des lois de l’Assemblée nationale déposé en conclusion des travaux de sa mission d’information sur les défis de l’intelligence artificielle générative en matière de protection des données personnelles et d’utilisation du contenu généré de Philippe Pradal et Stéphane Rambaud, rapport d’information n° 2207, 16e législature : https://www.assemblee-nationale.fr/dyn/16/rapports/cion_lois/l16b2207_rapport-information

[442] Cette directive, qui visait notamment à protéger le monde de la presse, impose par exemple aux plateformes numériques telles que Google ou Facebook, de rémunérer les éditeurs et les journaux lorsqu’ils utilisent leurs contenus. Cf. la directive du 17 avril 2019 sur le droit d’auteur et les droits voisins dans le marché unique numérique : https://eur-lex.europa.eu/legal-content/FR/TXT/HTML/?uri=CELEX:32019L0790&from=EN

[443] Cf. Brandon LaLonde, 2023, « Explaining model disgorgement », IAPP : https://iapp.org/news/a/explaining-model-disgorgement et Joshua A. Goland, 2023, « Algorithmic Disgorgement : Destruction of Artificial Intelligence Models as the FTC’s Newest Enforcement Tool for Bad Data », Richmond Journal of Law and Technologies, volume XXIX, n° 2 : https://ssrn.com/abstract=4382254