rapport d'enquête sur les effets psychologiques de TikTok sur les mineurs — Comptes rendus des auditions

Cela soulève la question du rôle que nous entendons donner aux plateformes en ligne en termes d’accessibilité des contenus. Les récentes lignes directrices de la Commission européenne mentionnent, par exemple, le fait que les contenus signalés par des signaleurs de confiance puissent être automatiquement retirés de la vue des mineurs, sans attendre la décision finale de modération. Ces signaux nous semblent assez encourageants quant aux contenus auxquels les mineurs sont exposés via leur algorithme de recommandation. Nous estimons que notre statut privilégié pourrait être mis à profit dans ce cadre.

Mme Alejandra Mariscal Lopez, directrice de Point de Contact. Avant le DSA, chaque plateforme définissait librement sa politique interne, ce qui est toujours le cas aujourd’hui. Nous avons souvent constaté que nous pouvions faire retirer des contenus illicites, mais non manifestement illégaux, via les canaux de politique interne plutôt que par le biais du canal DSA.

Récemment, la Commission européenne a publié de nouvelles lignes directrices concernant l’article 28 du DSA. Ce document détaillé aide les plateformes à interpréter cet article et établit une série de principes, notamment la mise en place de politiques internes très précises. Les risques liés aux conduites addictives et aux tendances, comme SkinnyTok, faisant l’apologie de la maigreur y sont abordés. À travers ces lignes directrices, la Commission renforce cette protection, qui devient en quelque sorte une obligation puisqu’elle entre dans le cadre d’un article du DSA. Il existe donc l’article 28 sur la protection des mineurs, l’article 24 sur l’évaluation des risques systémiques et l’article 35 sur les mesures d’atténuation de ces risques, parmi lesquelles la collaboration avec les signaleurs de confiance. Selon l’article 28, lorsqu’un signaleur de confiance signale un contenu comme illicite, ce dernier doit être rendu inaccessible aux mineurs. Ces mesures sont très récentes.

Cette année, ce sera la première fois que les signaleurs de confiance et les réseaux sociaux publieront leurs rapports de transparence. Nous pourrons ainsi évaluer la mise en œuvre effective de ces mesures et l’application des lignes directrices entrant dans le cadre de l’article 28.

En conclusion, bien que le cadre soit désormais défini, nous attendons une responsabilité accrue des plateformes et une mise en œuvre efficace de tous ces moyens.

M. le président Arthur Delaporte. Souhaitez-vous ajouter des éléments ?

Mme Alejandra Mariscal Lopez, directrice de Point de Contact. J’ai évoqué une veille proactive, dont nous avons transmis une synthèse à l’Arcom. Nous utilisons certains outils de veille proactive, dont l’un, mis en place par l’European Observatory of Online Hate (EOOH), permet de scanner les réseaux sociaux pour analyser ce qu’il se passe en ligne. Nous pouvons effectuer des recherches ciblées, comme celle sur SkinnyTok. Cet outil est actuellement en phase de test et certaines de ses fonctionnalités nécessitent des améliorations. Son efficacité est optimale pour le contenu textuel, donc sur X. En revanche, son efficacité est moindre sur TikTok, où le pourcentage d’identification des contenus est plus faible.

Nous avons lancé une recherche sur SkinnyTok, limitée aux contenus en langue française, via une veille automatique du 22 au 24 avril. L’outil a identifié 1 136 contenus liés à la tendance SkinnyTok, parmi lesquels 91 ont été qualifiés de toxiques. La répartition de ces contenus toxiques était la suivante : 66 % sur TikTok, 27 % sur X et 7 % sur YouTube. Cette veille a été réalisée à un moment où TikTok avait déjà mis en place certaines mesures, notamment l’affichage d’un avertissement signalant les contenus toxiques. Malgré cela, certains contenus toxiques restent en ligne. Cependant, le fait que nous n’ayons identifié que 1 136 contenus parmi tous les contenus pouvant exister sur TikTok suggère qu’un certain nettoyage avait déjà été effectué.

M. le président Arthur Delaporte. Avez-vous analysé la viralité, le nombre de likes et de vues de ces contenus ? La simple quantification du nombre de contenus ne nous renseigne pas sur leur portée.

Mme Alejandra Mariscal Lopez, directrice de Point de Contact. Ces données indiquent que l’outil a identifié peu de contenus toxiques. Néanmoins, certains contenus sont liés à la tendance SkinnyTok.

M. le président Arthur Delaporte. Avez-vous inclus dans votre analyse le nombre de vues par publication ?

Mme Alejandra Mariscal Lopez, directrice de Point de Contact. Nous ne disposons pas de ces données. Nous avons pu extraire certaines publications avec leur nombre de likes. Par exemple, j’ai identifié six publications ayant entre 60 et 150 likes.

M. le président Arthur Delaporte. Il semble que votre requête n’ait pas fait ressortir de publications avec des milliers de likes.

Concernant SkinnyTok, avez-vous signalé certains de ces contenus ? Si oui, quels types de contenus avez-vous signalés et ont-ils été retirés ?

Mme Alejandra Mariscal Lopez, directrice de Point de Contact. Pour SkinnyTok, notre action s’est principalement concentrée sur une activité de veille. Nous avons signalé certains contenus en infraction avec les politiques internes des plateformes. Cependant, comme je l’ai mentionné précédemment, de nombreux contenus ne correspondaient pas à ces critères et n’étaient pas illicites.

M. le président Arthur Delaporte. Avez-vous mené ce type d’études sur d’autres sujets ? Par exemple, vous mentionnez dans votre rapport la provocation au suicide. Avez-vous effectué des recherches sur ce thème ?

M. Yann Lescop, responsable projets et études. Nous sommes bêta-testeurs de cet outil depuis décembre dernier, ce qui est relativement récent. Nos analyses ont porté sur divers sujets, tels que le cyberharcèlement, les violences sexistes en ligne, avec des focus particuliers, comme l’élection de Miss France. Nous avons également effectué un suivi concernant la journaliste Salomé Saqué et la streameuse Ultia, qui a vécu une vague de haine à la suite d’un procès. Très récemment, nous nous sommes intéressés aux réseaux masculinistes et au manifeste potentiellement diffusé en ligne à la suite d’une attaque au couteau. Notre objectif est d’identifier la toxicité et de suivre les activités en ligne sur ces questions.

M. le président Arthur Delaporte. Quelles sont vos conclusions ?

M. Yann Lescop, responsable projets et études. Nos observations ont révélé que les profils féminins les plus présents en ligne subissaient le plus de cyberharcèlement. Par exemple, Miss France, dont la présence en ligne est limitée, a fait l’objet d’une vague de haine moins intense. Des personnalités comme Ultia, bien ancrée dans les habitudes numériques, sont confrontées à des contenus beaucoup plus violents et insultants, constitutifs de ce phénomène de cyberharcèlement.

M. le président Arthur Delaporte. Quelles sont vos observations sur le masculinisme ?

M. Yann Lescop, responsable projets et études. Concernant la récente attaque au couteau impliquant un étudiant ciblant apparemment explicitement de jeunes femmes, notre utilisation de l’outil visait à identifier le manifeste en ligne. À des fins de recherche, il est intéressant pour nous de disposer du matériel de l’extrémisme violent en ligne. J’ai lancé cette recherche hier, donc je n’ai pas encore de résultats à vous communiquer.

M. le président Arthur Delaporte. Nous sommes intéressés par tous les éléments que vous pourrez nous fournir sur ces analyses, notamment concernant la spécificité de TikTok.

M. Yann Lescop, responsable projets et études. Concernant la philosophie et la régulation des plateformes en général, nous avons beaucoup évoqué le DSA, qui constitue le cadre dans lequel nous opérons et qui nous fournit des mécanismes d’intervention. Cependant, il est important de souligner que la France a la possibilité d’aller au-delà des règlements de l’Union européenne. Cela a déjà été fait, il y a un an, avec l’adoption de la loi n° 2024-449 du 21 mai 2024 visant à sécuriser et à réguler l'espace numérique qui encadre les deepfakes et la diffusion de deepfakes à caractère sexuel. Des infractions ont été créées sur ce point.

Aujourd’hui, la question cruciale, tant au niveau international qu’en France, concerne la vérification de l’âge et la régulation de l’accès aux réseaux sociaux en fonction de l’âge des utilisateurs. Pour nous, le préalable essentiel est la mise en place de mécanismes de vérification d’âge bien implantés. Sans cela, même la création de réseaux sociaux spécifiques pour les enfants ne résoudrait pas les problèmes de fond, notamment en termes de protection contre les contenus inappropriés ou les risques de contact avec des pédocriminels.

Dans ce contexte, le rôle des signaleurs de confiance est primordial. Nous avons évoqué précédemment l’importance d’invisibiliser certains contenus dès leur signalement. Nous sommes prêts à prendre toute notre part dans ce projet.

Mme Alejandra Mariscal Lopez, directrice de Point de Contact. Nous n’avons pas assez évoqué les contenus qui ne sont manifestement pas illicites, mais qui sont vraiment préjudiciables et nocifs.

La diffusion non consensuelle de contenus intimes est un exemple. Nous sommes un peu seuls face à cette problématique. Si le contenu est explicite et implique un mineur, il est rapidement traité. Toutefois, lorsque le contenu implique un adulte, il existe un manque de dispositifs aux niveaux national, européen et international concernant le retrait de ces contenus. L’absence de caractère manifestement illicite empêche les autorités d’agir pour le retrait. Nous sommes confrontés à des situations où l’hébergeur peut refuser d’agir ou exiger une décision de justice, ce qui peut prendre des années pendant lesquelles la victime continue de subir les conséquences de cette atteinte.

Nous sommes donc favorables à une régulation plus stricte sur ce type de contenu. Certains pays ont déjà pris des initiatives en ce sens. Le Royaume-Uni, par exemple, a mis en place des obligations de détection proactive pour certains types de contenus. Aux États-Unis, le Congrès vient d’approuver le Take It Down Act, qui impose aux hébergeurs de retirer ces contenus dans un délai de 48 heures lorsqu’ils sont signalés par la victime ou une association d’aide aux victimes. Nous préconisons d’aller plus loin en renforçant les pouvoirs des signaleurs de confiance, ce qui permettrait d’obtenir des résultats plus concrets en matière de retrait de contenus et d’apporter un soutien plus efficace aux victimes.

M. Stéphane Vojetta (EPR). Avez-vous identifié des différences entre les plateformes concernant la modération des messageries privées, notamment par rapport à l’envoi non sollicité d’images à caractère intime ? C’est notamment dans ces messageries privées qu’ont tendance à se développer les phénomènes de harcèlement.

M. Yann Lescop, responsable projets et études. Tout d’abord, concernant les réseaux sociaux classiques, tels que TikTok, Instagram ou Snapchat, nous n’avons effectivement pas accès aux messageries privées, s’agissant de conversations entre deux utilisateurs. Notre réponse à cette problématique réside dans l’utilisation de Disrupt, une base de données accessible aux grandes plateformes permettant de bloquer la transmission de certains contenus, même dans les messageries privées, agissant ainsi au niveau des systèmes pour répondre à ce besoin.

Ensuite, pour les réseaux sociaux fonctionnant sur ce modèle, comme Telegram, nos analystes sont habilités à intégrer, via des liens d’invitation, des canaux effectuant de la diffusion non consentie de contenus intimes. Récemment, en collaboration avec l’association StopFisha, nous avons réussi à faire fermer un canal de 200 000 personnes qui exposait des personnes haïtiennes.

Enfin, il est important de noter que, depuis environ six mois, nous sommes reconnus comme signaleur de confiance auprès de Telegram, bien que l’application ne soit pas soumise à la régulation de la Commission européenne. Telegram n’est pas encore reconnu comme un grand réseau social, mais cela ne nous empêche pas d’avoir des moyens d’action, que nous tissons unilatéralement avec certaines entités.

M. le président Arthur Delaporte. Je vous remercie infiniment pour votre contribution, vos travaux, vos diverses recherches et les actions que vous menez quotidiennement.

30. Audition du Docteur Jean-Marcel Mourgues, vice-président du Conseil national de l’ordre des médecins (CNOM), et des médecins présents sur TikTok : Docteur Raphaël Dachicourt, président du collectif ReAGJIR), Docteure Nawale Hadouiri, praticien hospitalo-universitaire en médecine physique et réadaptation au centre hospitalier universitaire de Dijon, Mme Marion Joud, co-fondatrice de Elema Agency, M. Baptiste Carreira Mellier, psychologue et neuropsychologue, et Mme Sophia Rakrouki, sage-femme (jeudi 22 mai 2025)

La commission auditionne conjointement le Docteur Jean-Marcel Mourgues, vice-président du Conseil national de l’ordre des médecins (CNOM), et des médecins présents sur TikTok : Docteur Raphaël Dachicourt, président du collectif ReAGJIR), Docteure Nawale Hadouiri, praticien hospitalo-universitaire en médecine physique et réadaptation au centre hospitalier universitaire de Dijon, Mme Marion Joud, co-fondatrice de Elema Agency, M. Baptiste Carreira Mellier, psychologue et neuropsychologue, et Mme Sophia Rakrouki, sage-femme ([29]).

M. le président Arthur Delaporte. Mes chers collègues, nous reprenons nos auditions avec une table ronde regroupant plusieurs professionnels de santé et collectifs de médecins qui apportent la contradiction et rétablissent la vérité face aux allégations médicales, parfois dangereuses, sur les réseaux sociaux. Je vous remercie pour votre engagement à apporter une parole de santé publique.

Permettez-moi d’accueillir :

• Dr Jean-Marcel Mourgues, vice-président du Conseil national de l’ordre des médecins (Cnom),

• Dr Raphaël Dachicourt, président du collectif ReAGJIR,

• Dre Nawale Hadouiri, praticien hospitalo-universitaire en médecine physique et réadaptation au centre hospitalier universitaire (CHU) de Dijon,

• Mme Marion Joud, cofondatrice de Elema Agency,

• M. Baptiste Carreira Mellier, psychologue et neuropsychologue,

• et Mme Sophia Rakrouki, sage-femme.

Je vous remercie de nous déclarer tout intérêt public ou privé de nature à influencer vos déclarations.

Avant de vous céder la parole, je vous rappelle que l’article 6 de l’ordonnance du 17 novembre 1958 relative au fonctionnement des assemblées parlementaires impose aux personnes auditionnées par une commission d’enquête de prêter serment de dire la vérité, toute la vérité, rien que la vérité. Je vous invite donc à lever la main droite et à dire : « Je le jure ».

(Dr Jean-Marcel Mourgues, Dr Raphaël Dachicourt, Dre Nawale Hadouiri, Mme Marion Joud, M. Baptiste Carreira Mellier et Mme Sophia Rakrouki prêtent serment.)

Dr Jean-Marcel Mourgues, vice-président du Cnom. J’interviendrai en qualité de représentant du Conseil national de l’ordre des médecins (Cnom), au sein duquel je suis chargé de la communication par délégation. J’ai notamment travaillé avec la présidente de la section santé publique sur une charte avec YouTube, qui a eu une certaine publicité.

Le Cnom, principalement par sa section santé publique, traite des signalements émis essentiellement par des particuliers, des médecins ou la mission interministérielle de vigilance et de lutte contre les dérives sectaires (Miviludes). Il est important de préciser que nous n’avons pas de pouvoir de police et ne disposons pas des moyens pour surveiller les réseaux sociaux.

Concernant TikTok, nous constatons fréquemment des actes à visée esthétique illégaux, impliquant principalement des injectrices de toxines botuliques et d’acides hyaluroniques. La difficulté majeure réside dans l’identification des auteurs, qui utilisent généralement des pseudonymes. Le Cnom a pensé créer un faux compte pour traquer les auteurs de tels agissements, mais s’est heurté, en interne, à un avis défavorable du délégué à la protection des données et des services informatiques. Le Cnom demande aux auteurs des signalements de fournir des captures d’écran ou les adresses où ces actes délictueux seraient effectués afin de pouvoir, le cas échéant, saisir le procureur de la République. Les adresses sont parfois fixes, mais peuvent également être éphémères, dans des hôtels par exemple. La section santé publique traite de tels signalements au moins une fois par semaine.

Nous avons été très impliqués sur les réseaux sociaux pendant la longue période de la covid-19, qui a été un catalyseur.

Concernant les fausses informations en matière de santé, notre expérience montre qu’Instagram et YouTube sont davantage impliqués que TikTok. C’est d’ailleurs ce qui nous a incités à élaborer une charte avec YouTube, dont les représentants se sont montrés très compréhensifs et collaboratifs.

Ces fausses informations émanent souvent de prétendus médecins, certains n’hésitant pas à utiliser le titre de docteur ou de scientifique tout en révélant rarement leur véritable identité.

En ce qui concerne les mineurs, bien que cela ne soit pas spécifique à TikTok, nous sommes particulièrement vigilants sur les messages relatifs aux enfants autistes, notamment ceux diffusés par des médecins ou prétendus médecins aux pratiques particulières.

TikTok s’est davantage polarisé sur des propositions d’actes à visée esthétique. Nous pensons que la raison est que l’application se distingue par sa forte popularité auprès des adolescents, une population vulnérable. Nous observons, tant dans nos fonctions au sein du Cnom que dans notre pratique médicale, une augmentation des troubles alimentaires, des troubles dépressifs, des automutilations et des préoccupations à visée esthétique chez cette population. Une psychologue m’a confirmé que les demandes d’adolescents concernent souvent des interventions à visée thérapeutique. Nous constatons des problèmes de déscolarisation, de désocialisation et d’addictions multiples, y compris aux réseaux sociaux.

Récemment, nous avons signé une charte avec YouTube établissant dix règles de bonne conduite pour les médecins-influenceurs. Cette initiative, sollicitée par des médecins-influenceurs eux-mêmes, vise à leur permettre d’avoir un rôle de santé publique vis-à-vis des publics de ces réseaux sociaux.

Mme Marion Joud, cofondatrice de Elema Agency. En tant que directrice générale de l’agence Elema, qui dispose d’un département dédié à l’accompagnement des professionnels de santé, je suis présente aujourd’hui pour représenter deux professionnels de notre agence. Notre rôle consiste à les accompagner dans leurs activités sur les réseaux sociaux en tant que médecins-influenceurs.

Nous sommes également adhérents à l’Union des métiers de l’influence et des créateurs de contenu (Umicc), une organisation qui a fortement travaillé sur ces questions.

Nous nous réjouissons de ces initiatives visant à développer des chartes de bonne conduite, comme celle déjà mise en place avec YouTube, qui a été très bien accueillie.

M. Baptiste Carreira Mellier, psychologue et neuropsychologue. Je suis psychologue clinicien exerçant en cabinet. Je reçois des patients en population pédiatrique, de 6 à 18 ans et au-delà. Parallèlement, je crée de la vulgarisation autour de la psychologie. Je rappelle que je ne suis pas médecin, mais bien psychologue. Je suis confronté quotidiennement aux problématiques liées aux réseaux sociaux et à l’utilisation excessive des écrans et des téléphones.

J’ai mené une analyse des études scientifiques sur le sujet. Sans surprise, ces recherches mettent en évidence des liens de corrélation entre l’utilisation des écrans et la santé mentale, notamment en termes de dépression, d’anxiété et de stress. Les résultats sont significatifs, avec une taille d’effet modérée, ce qui semble révéler un véritable impact.

Ma démarche de vulgarisation sur les réseaux sociaux vise à rendre la psychologie plus accessible et à la démystifier. La psychologie est avant tout une discipline scientifique et la santé mentale une grande cause nationale. Je souhaitais montrer que, loin d’être un panier garni réunissant des sciences plus ou moins alambiquées, la psychologie est une science rigoureuse qui suit des recommandations de santé, notamment celles de la Haute Autorité de santé (HAS), et que notre démarche est de nous inscrire le plus possible dans le parcours médical, en collaborant avec les psychiatres, les médecins et les institutions.

Je constate d’importantes dérives dans la création de contenus sur les plateformes comme TikTok. Les algorithmes favorisent malheureusement les contenus polémiques, générant plus d’engagement, au détriment d’un discours scientifique rigoureux. Par exemple, aborder des sujets complexes, comme le rôle du lobe préfrontal dans le trouble du déficit de l’attention avec hyperactivité (TDAH) et ses implications dopaminergiques ne suscite que peu d’intérêt auprès du grand public. Il est essentiel de comprendre que la psychologie, comme la santé en général, ne propose pas de solutions miracles. Les parcours thérapeutiques sont souvent longs, laborieux et compliqués. Malheureusement, les réseaux sociaux encouragent la recherche de solutions miracles en une minute. Nous ne sommes donc pas toujours mis en avant et nous trouvons donc sur la même ligne que les autres créateurs de contenu, alors que nous essayons de sourcer nos propos.

Cette situation a des conséquences. J’ai reçu en consultation une adolescente de 14 ans persuadée d’avoir un trouble borderline. Or ce type de trouble n’est pas diagnostiqué à 14 ans, encore moins chez un psychologue qui n’en a pas le droit. Elle m’a expliqué qu’elle a reçu ce diagnostic de sa « psychologue » faisant de la création de contenu sur les réseaux sociaux. En réalité, cette personne est thérapeute et propose, par le biais des réseaux sociaux ou de sites internet, des consultations.

Ce cas illustre parfaitement les problématiques auxquelles nous sommes confrontés : l’auto-diagnostic basé sur des informations trouvées en ligne – concernant particulièrement le TDAH, le haut potentiel intellectuel (HPI), le haut potentiel émotionnel (HPE), les addictions ou les troubles du comportement alimentaire (TCA) –, l’automédication inspirée par des tendances sur les réseaux sociaux et l’errance, entraînant un retard avant la consultation d’un psychologue ou, mieux encore, d’un psychiatre.

Mme Sophia Rakrouki, sage-femme. J’exerce en tant que sage-femme depuis huit ans au sein de l’hôpital de l’Assistance publique – hôpitaux de Paris (AP-HP) Jean-Verdier, où je coordonne le service de préservation de la fertilité pour des raisons médicales, notamment oncologiques. Concrètement, notre mission consiste à trouver rapidement la meilleure solution pour préserver la fertilité des patients, comme récemment pour une patiente diagnostiquée d’un cancer trois jours avant sa consultation. Parallèlement, j’ai développé depuis environ un an et demi ou deux ans une pratique libérale à hauteur de 20 % de mon temps de travail, soit une journée par semaine.

Depuis un an et demi, je prends la parole sur les réseaux sociaux, motivée par l’évolution législative de la loi n° 2021-1017 du 2 août 2021 relative à la bioéthique ouvrant la possibilité à toutes les femmes de 29 à 37 ans de congeler leurs ovocytes, qui a considérablement accru la charge de travail des centres de procréation médicalement assistée (PMA), déjà saturés. Face à cette situation, nous avons dû adapter nos pratiques, notamment en recourant à la téléconsultation, ce qui a malheureusement conduit à une prise en charge non optimale, les patientes ne se rendant à l’hôpital que le jour de l’intervention. Nous avons essayé d’en parler avec le service communication, mais ce type de démarche prend du temps. Ainsi, j’ai pris l’initiative d’offrir une information sur le parcours de soins afin d’améliorer la prise en charge en interne. J’ai constaté sur ces plateformes une prolifération de comptes traitant de santé, dont beaucoup ne sont pas tenus par des professionnels. Cependant, il est encourageant de noter que les comptes gérés par des professionnels de santé gagnent rapidement en visibilité, car ils répondent à un besoin d’information dû aux déserts médicaux et à la diminution du nombre de gynécologues, mais aussi de sages-femmes et de médecins généralistes assurant un suivi gynécologique.

Au regard de ces éléments, j’ai pensé qu’il est important de diffuser ces informations. J’ai choisi le réseau social Instagram en raison de mon âge. À 32 ans, je ne consulte pas spontanément les sites officiels de l’État, bien qu’ils soient de qualité. Les retours positifs reçus sur Instagram m’ont encouragée à étendre ma présence à TikTok, où les vidéos sont plus longues et où les lives offrent une diffusion beaucoup plus étendue. Cette amplification présente à la fois des avantages et des risques : elle permet de toucher rapidement un large public avec des informations pertinentes, mais peut également propager massivement des informations erronées.

Mon expérience sur ces plateformes m’a confrontée à un tsunami de désinformation. J’ai observé un millier de comptes promouvant des compléments alimentaires censés déboucher les trompes, donner 98 % de chances d’avoir un enfant ou améliorer la qualité des ovocytes. Certains compléments alimentaires « prophétiques » intègrent même un aspect religieux. J’ai également vu des offres pour des « coachings en fertilité ». Si je ne constate pas une usurpation du titre de médecin ou de sage-femme, de prétendus « experts en cycle » ou « experts en fertilité » proposent des prestations à plusieurs centaines ou milliers d’euros. Ces pratiques retardent la prise en charge médicale des patientes, impactent négativement leur état psychologique et, potentiellement, réduisent leurs chances de grossesse.

De plus, j’ai constaté l’émergence d’une méfiance inquiétante envers les professionnels de santé. J’ai entendu des affirmations sans nuances, qui ne tiennent pas compte de l’évolution constante de la recherche médicale. Mon objectif sur ces réseaux sociaux est donc de fournir des informations fiables tout en développant l’esprit critique des utilisateurs.

Enfin, une patiente m’a récemment alertée sur un nouveau phénomène préoccupant : l’utilisation de l’intelligence artificielle pour créer des contenus, rendant encore plus difficile la distinction entre le vrai et le faux.

M. Raphaël Dachicourt, président du collectif ReAGJIR. Je suis président du syndicat ReAGJIR, représentant les jeunes médecins généralistes. Début mars, nous avons lancé la campagne de communication « Health Buster », visant à déconstruire certains conseils de santé jugés dangereux, notamment diffusés sur TikTok.

Un sondage IFOP de 2023 révèle que 49 % des 15-24 ans utilisent TikTok quotidiennement, que 59 % s’en servent comme moteur de recherche, qu’une proportion similaire le considère comme une plateforme d’apprentissage comme une autre et que 45 % ne vérifient pas les informations qu’ils y trouvent.

Ces données corroborent ce que nous, médecins généralistes, observons dans nos cabinets. Les réseaux sociaux sont devenus de nouveaux canaux d’information sur la santé, prenant une ampleur sans précédent ces dernières années. Ce phénomène s’inscrit dans un contexte de contournement du système de soin et de défiance envers les professionnels de santé. Les difficultés d’accès aux soins peuvent également jouer, renforçant l’utilisation de ces nouveaux outils.

On trouve sur ces plateformes des conseils non seulement inutiles, mais particulièrement dangereux. Nous avons, par exemple, pu alerter sur les risques liés à l’ingestion de térébenthine.

La diffusion de ces contenus s’appuie sur des leaders d’opinion, avec un effet de tendance. La popularité d’un contenu dépasse malheureusement sa légitimité aux yeux des utilisateurs pour juger de sa pertinence. L’algorithme de ces plateformes, en créant un effet de chambre d’écho, renforce les croyances, particulièrement chez les mineurs qui ne disposent pas des clés pour débunker toutes ces idées et sont donc des cibles faciles. Ces leaders d’opinion utilisent des systèmes d’accroche sur des conseils, avec des interprétations simplistes et des arguments d’autorité, qui ne sont pas remis en question.

Face à cette situation, nous estimons qu’il est crucial que les professionnels de santé soient présents sur ces espaces numériques. Nous devons contrebalancer ces messages dangereux par une parole posée et sourcée en dehors des cabinets médicaux. Il est difficile, sur ce type de réseaux sociaux, de nuancer les propos. Pourtant, en matière de santé, comme dans tout domaine scientifique, les nuances sont essentielles. Notre mission est de vulgariser des messages complexes.

C’est ce que nous avons essayé de faire en utilisant les codes des réseaux sociaux dans notre campagne, créée notamment avec l’aide de l’intelligence artificielle. En effet, on constate désormais sur TikTok l’apparition de comptes usurpant l’identité de médecins — parfois même de praticiens connus — pour promouvoir des produits prétendument miraculeux. J’ai observé sur TikTok des vidéos utilisant l’image du docteur Marine Lorphelin ou du docteur Didier Raoult, pour vanter les mérites du shilajit, une résine présentée comme miraculeuse, bien qu’aucune donnée n’appuie cette idée.

Ces désinformations concernent principalement la santé mentale ou des maux du quotidien, avec la promotion de purges ou de cures détox. Ces messages s’appuient souvent sur des idées liées au naturel, reflétant une certaine défiance envers la médecine allopathique actuelle.

Dr Nawale Hadouiri, praticien hospitalo-universitaire en médecine physique et de réadaptation au CHU de Dijon. Je suis praticien hospitalo-universitaire en médecine physique et de réadaptation, spécialisée en neurologie, au CHU de Dijon. Je suis également créatrice de contenu sur diverses plateformes, telles que TikTok, Instagram et YouTube. Je n’ai aucun conflit d’intérêts ni partenariat financier à déclarer. De plus, j’ai participé à l’élaboration de la charte de bonnes pratiques pour les médecins-créateurs de contenu, aux côtés de représentants du Cnom, d’experts YouTube et d’autres confrères.

Notre objectif initial, en tant que professionnels de santé sur les réseaux sociaux, est de diffuser une information de qualité, scientifiquement validée, référencée, sourcée et conforme aux recommandations nationales. Mon but personnel était de faire connaître ma spécialité, la médecine physique et de réadaptation neurologique. J’ai constaté un intérêt croissant du public pour des questions relatives aux pathologies neurologiques et aux situations de handicap, domaines où la désinformation se propage.

Au fil de mon activité de production de bonnes informations, j’ai été amenée à réagir à des vidéos de désinformation afin de rétablir la vérité. À la suite de la période covid-19, nous avons vu une accélération exponentielle de la création de contenu, rendant difficile l’identification des vidéos trompeuses. Il est important de noter que la production de désinformation est bien plus rapide que celle relayant des informations de qualité et que les fausses nouvelles se propagent plus vite que les informations fiables. Dans ce contexte, le rôle des professionnels de santé, notamment des médecins, dans le débunkage est crucial.

La charte mentionnée vise à rétablir la balance en objectivant le rôle des médecins dans la création de contenu sur les réseaux sociaux, en leur donnant des règles de bonnes pratiques pour produire une information médicale de qualité.

La plateforme TikTok présente des spécificités notables.

Les contenus sensationnels et les challenges sont ceux qui génèrent le plus de likes et d’interactions, ce qui tend à propulser les fausses informations au premier plan. Pour qu’une vidéo de désinformation soit visible, elle doit devenir virale, ce qui constitue un premier danger.

Je note, sur TikTok, une présence très importante de non-professionnels de santé diffusant des contenus, parfois teintés d’un esprit complotiste à l’égard de la communauté des soignants. Ces personnes peuvent prodiguer des conseils pour éloigner des bonnes pratiques, avec un esprit presque sectaire.

Un autre danger de cette plateforme est que je constate que certains professionnels de santé et de l’éducation, qui devraient être des sources fiables d’information pour les mineurs notamment, se laissent parfois entraîner dans la promotion de désinformation. Il est crucial de rester critique, même envers les contenus produits par certains professionnels à la recherche de popularité.

TikTok est l’une des plateformes les plus utilisées par les jeunes, avec plus de 60 % des moins de 30 ans qui y sont présents et un temps de visionnage moyen dépassant 3 heures par jour. Cette popularité exige donc une vigilance accrue et des mesures pour cette plateforme, en raison de ses spécificités.

Mme Laure Miller, rapporteure. Nous serions tentés de décentrer quelque peu le propos et de vous interroger sur l’impact des réseaux sociaux et du numérique sur la défiance de certains citoyens envers la médecine et la santé en général. En effet, les professionnels de santé rapportent que des patients arrivent en consultation avec un diagnostic préétabli, basé sur leurs recherches, accordant parfois plus de crédit à leur ordinateur qu’à l’avis médical.

Cependant, dans la mesure où notre commission d’enquête se concentre sur TikTok, j’aimerais approfondir certains points.

Tout d’abord, pouvez-vous expliciter en quoi TikTok pourrait être plus problématique que les autres réseaux sociaux ?

Ensuite, nous constatons que l’algorithme conduit à la mise en avant des contenus les plus problématiques. Avez-vous des discussions relatives à la stratégie afin de concurrencer les contenus problématiques ? Privilégiez-vous des contenus positifs pour expliquer des sujets de santé ou créez-vous des contenus visant à contrer de fausses informations qui circulent ?

Prenons l’exemple du Paracétamol Challenge, qui incite à ingérer une quantité excessive de paracétamol pour finir aux urgences. Avez-vous envisagé de produire des contenus expliquant les conséquences graves de cette pratique, y compris les dommages cérébraux potentiels, même en l’absence de décès ? Avez-vous réussi à réfléchir à des façons de concevoir des contenus plus percutants et moins nuancés pour concurrencer ces défis dangereux ? Avez-vous identifié certains types de contenus ayant mieux fonctionné que d’autres ?

Mme Sophia Rakrouki, sage-femme. J’ai récemment mené une expérience en recherchant le terme « infertilité » sur YouTube, TikTok et Instagram. Sur YouTube, j’ai constaté que les contenus de professionnels de santé labellisés étaient mis en avant, reléguant les informations non vérifiées en bas de page. En revanche, sur Instagram et TikTok, les résultats prioritaires étaient des vidéos virales, souvent axées sur la peur et les tendances du moment.

Concernant notre approche pour concurrencer ces contenus, c’est une question difficile. Il est complexe de donner une information scientifique légère. Chaque mot a son importance et peut modifier significativement le message. Condenser une explication médicale en 30 secondes, format privilégié par l’algorithme, s’avère difficile.

Notre stratégie consiste à débunker des vidéos virales. J’ai personnellement eu l’occasion de le faire à deux reprises, pour une vidéo virale affirmant à tort que l’Antadys, utilisé en cas de suspicion d’endométriose ou de règles douloureuses, causait la stérilité et une vidéo prétendant que la pilule contraceptive provoquait forcément le cancer, exposant potentiellement les femmes à des interruptions volontaires de grossesse (IVG) répétées. Notre méthode consiste à décortiquer ces vidéos, en nous appuyant sur des études scientifiques. Cependant, ce processus est chronophage et empiète souvent sur notre temps personnel.

M. Baptiste Carreira Mellier, psychologue et neuropsychologue. Nous utilisons en effet tous cette approche de recontextualisation. Cependant, il n’existe pas de gros compte de désinformation comptant des centaines de milliers d’abonnés et faisant des millions de vues, mais plutôt des milliers de petits comptes, rendant impossible une réfutation systématique, car nous passerions nos journées à jouer à la police.

Hier soir, j’ai repéré une vidéo déconseillant formellement le traitement médicamenteux pour le TDAH, qui a suscité un fort engagement. J’ai signalé ce contenu, mais je pense qu’il serait crucial que les signalements émanant de professionnels de santé identifiés par leur numéro du répertoire partagé des professionnels de santé (RPPS) soient traités en priorité et conduisent à une suppression plus rapide des contenus.

La création de contenus de réfutation est extrêmement chronophage et peut parfois attirer un lot de commentaires négatifs et peu agréables à lire. Face à cette situation, nous pouvons être tentés de privilégier la diffusion de contenus de prévention et de sensibilisation plutôt que la déconstruction de ces tendances, qui me semble impossible à niveau.

Mme Marion Joud, cofondatrice de Elema Agency. Dans le cadre de mon activité en agence, je réalise un important travail de communication et de présentation auprès des différents acteurs de santé publique pour devenir une référence. Les professionnels de santé ne peuvent consacrer tout leur temps à surveiller les réseaux sociaux. C’est pourquoi nous les accompagnons pour travailler sur les réseaux sociaux, leur permettant ainsi de se concentrer sur leurs consultations et leurs patients.

Nous essayons de prendre attache avec certaines autorités pour collecter les alertes et les informations. Nous transmettons ainsi régulièrement aux professionnels de santé des signalements et des actualités importantes sur les réseaux sociaux, leur permettant de réagir rapidement si le sujet relève de leur expertise et si leur emploi du temps le permet. Chaque semaine, nous recevons quelques alertes et signalements.

Dr Jean-Marcel Mourgues, vice-président du Cnom. Je partage entièrement les propos qui ont été tenus. La situation à laquelle nous sommes confrontés est extrêmement complexe, avec des déterminants multifactoriels et protéiformes. Il est impératif d’adopter une vision systémique.

Premièrement, il est crucial d’agir dès la petite enfance. La surexposition aux écrans affecte le neurodéveloppement et la plasticité cérébrale, favorisant ainsi la vulnérabilité. Nous constatons une augmentation des troubles de l’attention, de la concentration et de la persévérance chez les enfants. Cette prévention universelle concerne tant le milieu familial que scolaire.

Dans le contexte familial, la tâche s’avère ardue. Avec environ un foyer sur deux étant monoparental ou composé de parents séparés, le recours aux écrans devient une solution de facilité pour gérer les tâches domestiques. De plus, la première génération du numérique, désormais parents, ne montre pas toujours l’exemple requis, comme en témoigne l’omniprésence des smartphones dans les transports en commun.

Concernant la prévention scolaire, il est essentiel d’intervenir dès la maternelle et le primaire. Nous devons revenir aux fondamentaux de l’éducation, car nous observons un déclin de la capacité de raisonnement logique et d’analyse critique chez les enfants. Cette lacune les rend plus vulnérables face à l’exposition aux contenus en ligne.

Les adolescents, principaux consommateurs de TikTok, sont particulièrement exposés. S’ils présentent des troubles de l’attention et n’ont pas développé une structuration de la pensée logique, ils se trouvent dans l’incapacité d’avoir un avis critique et pertinent sur l’information qu’ils pourraient recevoir.

Pour les autres réseaux sociaux, il serait judicieux d’envisager la généralisation de chartes, sans nécessairement les rendre obligatoires – cette décision incombant au législateur. Ces chartes permettraient d’identifier clairement les professionnels de santé signataires et d’améliorer leur référencement. Actuellement, ces professionnels, peu nombreux comparés aux influenceurs, se retrouvent relégués dans les dernières pages des résultats de recherche.

Une multiplicité des moyens est sans doute nécessaire tant la tâche est immense.

Dr Nawale Hadouiri, praticien hospitalo-universitaire en médecine physique et réadaptation au CHU de Dijon. Je rejoins l’avis de mes collègues créateurs de contenu. Avec nos moyens limités, il s’avère extrêmement difficile de contrer toutes les vidéos de désinformation en tant que professionnels de santé. De plus, notre activité quotidienne de soignants ne nous permet pas de consacrer tout notre temps à scroller et à filtrer les contenus problématiques sur les réseaux sociaux.

Concernant notre stratégie pour tenter de démêler le vrai du faux, je produis personnellement environ trois à quatre contenus par semaine, dont au moins une vidéo de débunkage.

La semaine dernière, j’ai découvert le compte TikTok et Instagram d’un professeur de mathématiques suivi par 1,5 million de personnes. Ce dernier a publié une vidéo sur la gestion de l’anxiété, du stress et de la santé mentale, dans laquelle il présentait l’ostéopathie comme solution miracle pour réduire le stress lié aux évaluations scolaires. J’ai été assez choquée par cette affirmation. Ma méthode de débunkage consiste généralement, dans les trente premières secondes, à engager une sorte de « questions-réponses » avec l’auteur de la désinformation, puis j’explique pourquoi l’information est erronée. Les réactions des auteurs initiaux varient : certains gardent le silence, tandis que d’autres, comme ce professeur, refusent toute remise en question. L’ostéopathie n’a pas encore reçu de recommandations de la HAS et sa pratique reste problématique, même si certains ostéopathes s’efforcent d’améliorer leurs pratiques. La vidéo en question, qui a même choqué des ostéopathes, était une promotion déguisée d’une praticienne. J’ai par la suite reçu des messages un peu envahissants.

Lorsque nous faisons du débunkage, nous, professionnels de santé, n’avons pas de défense vis-à-vis des personnes effectuant de la désinformation, n’hésitant pas à utiliser des méthodes d’intimidation. Pour le moment, nous ne disposons pas d’assez de moyens techniques et nous ne sommes pas suffisamment protégés quand nous nous lançons dans ce type d’activité. Ainsi, il peut être compliqué de se lancer dans le débunkage du fait de toutes les conséquences que cela peut occasionner.

M. Raphaël Dachicourt, président du collectif ReAGJIR. Concernant la particularité de TikTok par rapport aux autres réseaux sociaux, cette application se distingue par son audience particulièrement jeune. Les statistiques révèlent que 70 % des 15-17 ans utilisent quotidiennement cette plateforme, avec une durée moyenne d’utilisation de deux heures par jour. Cette tendance contraste nettement avec d’autres réseaux sociaux, comme Facebook, qui attirent davantage la génération des millenials.

De plus, TikTok se caractérise par des contenus courts, privilégiant des idées percutantes pour favoriser la viralité, contrairement à des plateformes comme YouTube où les vidéos sont plus longues.

En tant que professionnels de santé, notre objectif est la santé publique. Cependant, notre approche se heurte souvent à celle de certains influenceurs dont les motivations sont clairement financières. Notre charge de travail quotidienne ne nous laisse ni le temps ni les ressources pour mettre en place une stratégie de débunkage systématique. En outre, en tant que professionnels de santé, nous manquons généralement des compétences nécessaires, bien que certains collègues les aient développées. De notre côté, nous avons fait appel à une agence de communication, reconnaissant que nous n’avions pas les codes et que nous avions besoin d’innover dans ce domaine. Cette démarche nous a fait prendre conscience que nous ne pouvons pas faire le poids face à ces influenceurs.

L’enjeu crucial réside dans le passage du « débunk » au « prébunk ». Le « débunk » consiste à réagir en démontrant pourquoi une idée est erronée. Le « prébunk », quant à lui, vise à sensibiliser en amont à l’esprit critique, en fournissant aux utilisateurs les outils nécessaires pour évaluer la fiabilité des contenus qu’ils rencontrent. Cette stratégie devrait être développée non seulement sur les réseaux sociaux, mais également au sein de l’éducation nationale. Ce sujet semble devenir de plus en plus un enjeu de santé publique.

Mme Laure Miller, rapporteure. Premièrement, pensez-vous qu’il est illusoire d’envisager les réseaux sociaux comme un véritable vecteur de santé publique dans notre pays ? Serait-il envisageable que des institutions s’emparent de ces plateformes pour diffuser des messages fiables ?

Deuxièmement, concernant les signalements effectués par le Cnom ou à titre personnel, obtenez-vous des retours ? Avez-vous le sentiment que vos interventions conduisent effectivement à la suppression des contenus problématiques ?

Enfin, troisièmement, compte tenu de la vulnérabilité des plus jeunes et de leur esprit critique en construction, pensez-vous qu’instaurer une limite d’âge pourrait protéger les publics les plus sensibles des contenus les moins appropriés ?

Dr Jean-Marcel Mourgues, vice-président du Cnom. Il n’existe pas de solution unique.

Concernant l’exposition aux écrans, un communiqué commun de la Société de pédiatrie, de neuropédiatres et de Santé publique France recommande de limiter autant que possible l’exposition des enfants de moins de six ans.

L’éducation joue un rôle crucial. Dans la mesure où l’enjeu est de sauver une génération, il me semble que ce sujet doive être intégré aux objectifs prioritaires des contenus de l’éducation nationale, dès la grande section de maternelle et surtout à l’école primaire, sous une forme plus ou moins ludique. Nous pourrions imaginer des espaces où les apports des réseaux sociaux pourraient être abordés, de façon critique, mais nuancée. Au collège, cette approche pourrait être approfondie en analysant des exemples concrets des effets pressentis pervers des réseaux sociaux.

Concernant les plateformes comme YouTube et Instagram, nous avons signé une charte. Qu’est-ce qui empêche les autres de suivre cet exemple ? Sans être liberticides, nous devrions leur dire qu’il existe des objectifs communs de bien supérieur de santé publique. Il faudrait leur demander quelle place ces plateformes comptent donner à la promotion de professionnels de santé influenceurs ayant adhéré à une charte, notamment en matière de référencement. L’objectif serait d’intégrer dans ces algorithmes du contenu critique, offrant ainsi aux utilisateurs une perspective alternative.

Bien que je n’aie pas de solution magique, je crois qu’il ne faut pas être défaitistes. Il est essentiel que tous les acteurs concernés, y compris les législateurs, se réunissent pour élaborer des stratégies efficaces.

Mme Sophia Rakrouki, sage-femme. Tout d’abord, nous sommes face à un enjeu de santé publique. Notre impact quotidien se manifeste à travers les nombreux messages de remerciement que nous recevons et les témoignages de personnes qui nous abordent dans la rue pour nous dire que nous avons changé leur prise en charge. Cela confirme que nous avons notre place et que cette approche constitue l’avenir.

Cependant, nous avons souvent un temps de retard sur les évolutions numériques, nous plaçant en position réactive. Il serait judicieux d’organiser des réunions afin d’être en avance et d’avancer ensemble, plutôt que de subir. Actuellement, nous réagissons aux défis posés par les réseaux sociaux, mais nous devrions déjà nous préparer aux enjeux liés à l’intelligence artificielle, notamment en termes d’esprit critique.

Concernant les signalements, le problème principal réside dans la capacité du grand public à identifier la désinformation. Si le signalement de contenus manifestement violents ne pose généralement pas de difficulté, la détection de fausses informations médicales nécessite souvent des connaissances spécifiques. Par conséquent, seule une poignée de professionnels de santé actifs sur les réseaux sociaux effectue ces signalements, ce qui limite leur impact. Pour être efficace, le système d’alerte devrait mobiliser un plus grand nombre d’utilisateurs. Une solution potentielle serait d’accorder un poids plus important aux signalements émanant de professionnels de santé référencés. Lorsque nous qualifions une information de désinformation, c’est qu’elle l’est très certainement.

Enfin, l’impact de TikTok sur les jeunes est indéniable, mais il ne se limite pas à eux. Mes statistiques sur TikTok révèlent une audience diversifiée, incluant des parents. J’ai récemment eu une conversation révélatrice avec ma tante, âgée d’une quarantaine d’années, qui m’a partagé une vidéo TikTok manifestement générée par intelligence artificielle, sans pouvoir discerner sa nature artificielle. Cela démontre que la problématique concerne l’ensemble de la population, pas uniquement les jeunes. Il est donc impératif d’informer et d’éduquer, quel que soit l’âge.

M. Baptiste Carreira Mellier, psychologue et neuropsychologue. Nous avons notre place sur les réseaux sociaux, même si nous ne pouvons pas faire face.

Nous avons tous expérimenté la frustration des signalements qui n’aboutissent qu’à un simple message : « merci d’avoir signalé ». Nous pourrions disposer de davantage d’outils, notamment une reconnaissance de nos numéros de répertoire partagé des professionnels de santé (RPPS) et une certification. Nous jouons le jeu de la création de contenu. Nous pourrions donc également jouer le jeu d’effectuer une veille des réseaux sociaux, en consultant et signalant les contenus problématiques.

Concernant l’éducation au numérique dans les établissements scolaires, ne pourrions-nous pas envisager de l’intégrer directement sur les réseaux sociaux ? Par exemple, lors de la création d’un compte pour mineur, un quiz ou une vidéo de prévention pourrait être proposé, sensibilisant aux risques potentiels. Cette approche pourrait s’inspirer de l’évolution des pratiques dans le domaine sportif, où certaines associations ont remplacé l’exigence d’un certificat médical par un quiz, libérant ainsi des créneaux de consultation médicale.

Dans ma pratique clinique, je constate les effets néfastes de la surexposition aux écrans, souvent chez les jeunes patients que je reçois pour des hypothèses de diagnostic de TDAH. Après cinq minutes d’utilisation d’écrans en salle d’attente, leur capacité d’attention est considérablement altérée, nécessitant des adaptations pendant la consultation. J’insiste auprès des parents sur l’importance de limiter l’usage des écrans avant les rendez-vous.

Notre rôle, tant en consultation que sur les réseaux sociaux, est d’informer. Il serait judicieux d’envisager un système de signalisation distinctif pour les contenus de santé, similaire à ce qui a été mis en place pendant la pandémie de covid-19. Une bannière d’alerte pourrait rediriger vers des sources d’information gouvernementales fiables dès qu’un contenu relatif à la santé est abordé.

Dr Nawale Hadouiri, praticien hospitalo-universitaire en médecine physique et réadaptation au CHU de Dijon. Concernant l’utilisation des réseaux sociaux comme outil de santé publique, notre engagement en tant que professionnels de santé sur ces plateformes témoigne de leur potentiel. Nous considérons cela comme une nouvelle façon d’exercer notre métier, complémentaire à nos consultations, permettant de diffuser des informations de santé publique au-delà de nos cabinets et des hôpitaux.

Quant à la stratégie à adopter, mon expérience en recherche m’incite à privilégier une approche préventive, en commençant par une information primaire ciblant à la fois les enfants, les adolescents et leurs parents. Les sondages IFOP révèlent que de nombreux parents ne savent pas utiliser ou n’utilisent pas les outils de contrôle parental disponibles, soit par manque de connaissance, soit par difficulté à les intégrer avec leurs enfants. Il est donc crucial d’inclure les parents dans la boucle de décision pour les rendre acteurs du chemin de leurs enfants. Des programmes éducatifs doivent être mis en place, que ce soit via des plateformes ou dans le cadre de travaux dirigés. L’objectif est de créer un programme pour les enfants et les parents. Nous pourrions nous inspirer des pays nordiques, plus avancés sur ces questions. Par exemple, le programme éducatif néerlandais sur ce thème pourrait être adapté au contexte français.

Afin de contrer la désinformation, il est nécessaire d’indiquer les contenus fiables. YouTube, par exemple, a lancé un programme de labellisation des professionnels de santé, avec la mise en évidence de leur numéro RPPS. Cette initiative pourrait être étendue à TikTok et à d’autres plateformes, permettant ainsi aux utilisateurs d’identifier facilement les comptes de professionnels de santé.

Il est également nécessaire de développer des moyens techniques pour lutter contre les contenus inappropriés. Nous devons réfléchir à la manière de faire comprendre aux créateurs de ces contenus qu’ils font fausse route. Dans la mesure où nous sommes en France, il faudra peut-être envisager des sanctions, y compris pénales, pour les récidivistes. Bien que les plateformes doivent être tenues responsables, les créateurs de ces contenus doivent également comprendre que leur production n’est pas sans conséquence.

Il est donc impératif de trouver une approche pour cibler toutes les problématiques et, surtout, prévenir ces dérives qui affectent toute une génération.

M. le président Arthur Delaporte. Avez-vous un exemple de contenu que vous auriez signalé à TikTok et qui n’aurait pas été retiré ?

Dr Nawale Hadouiri, praticien hospitalo-universitaire en médecine physique et réadaptation au CHU de Dijon. Il s’agit notamment de contenus liés à des challenges. J’en ai signalé de nombreux, qu’ils soient peu ou très visionnés. Par exemple, j’ai récemment vu une vidéo relative au « Labello Challenge ». Des adolescents appliquent du baume à lèvres et, à chaque événement négatif dans leur vie, ils en coupent une partie. J’avais pu lire dans les médias que ce défi pouvait parfois mener à des idées à tendance suicidaires une fois le baume entièrement consommé. Ce type de défi existe depuis environ un mois et de nombreuses vidéos y sont consacrées. J’ai également signalé des défis liés à des régimes dangereux, comme la suppression totale du sucre. Malgré mes signalements, je n’ai jamais reçu de message ni constaté leur retrait de ces vidéos.

Mme Sophia Rakrouki, sage-femme. Pour ma part, j’ai signalé une publicité pour un complément alimentaire « prophétique », censé résoudre tous les problèmes de fertilité. Malgré mon signalement, la vente de ce produit se poursuit.

Dr Jean-Marcel Mourgues, vice-président du Cnom. Le Cnom souhaiterait bénéficier, au même titre que d’autres institutions et acteurs, d’une voie prioritaire pour les signalements. Nous demandons également que les signalements ne restent pas sans réponse et qu’une réponse argumentée soit fournie dans les meilleurs délais.

Lors de notre unique rencontre avec TikTok, on nous a expliqué qu’ils utilisent des analyses par intelligence artificielle pour examiner leurs contenus, avec une seconde lecture humaine pour les contenus suspects. Cependant, certains contenus nous semblent très suspects.

Nous sommes conscients que certains utilisateurs peuvent fermer un compte et en ouvrir un autre sous un pseudonyme différent. Néanmoins, nous demandons cette facilité d’alerte et l’obligation d’un retour dans les meilleurs délais, afin d’éviter des semaines d’attente pour obtenir une réponse aléatoire.

Mme Marion Joud, cofondatrice de Elema Agency. Je souhaite ajouter que nous sommes actuellement confrontés à un problème : des vidéos sur TikTok mettant en scène le docteur Marine Lorphelin sont générées par intelligence artificielle pour promouvoir des compléments alimentaires douteux. Cela fait déjà une à deux semaines que nous signalons ces contenus. Marine utilise ses autres réseaux sociaux pour inciter son audience à les signaler également. Malgré cela, à ce jour, tout est encore en ligne. Je reçois des messages de personnes ne voyant pas que le contenu a été créé à l’aide d’une intelligence artificielle et disant avoir acheté ces produits. Il existe clairement un business qui s’est développé autour de cette pratique.

M. le président Arthur Delaporte. J’adresse un message aux affaires publiques de TikTok, qui suivent probablement cette audition avec intérêt. Si ces contenus sont toujours présents dans deux semaines, lors de notre rencontre avec TikTok, nous ne manquerons pas de les interroger sur l’absence de réponse aux signalements. N’hésitez pas à nous informer de la situation juste avant l’audition de TikTok.

Au nom de mes collègues, je vous remercie pour votre engagement, même si cela peut parfois sembler décourageant. Heureusement que ce type de contenu positif existe pour tenter de contrebalancer la masse de désinformation. Nous espérons que les algorithmes évolueront pour mettre en valeur ces contenus positifs ainsi que pour modérer et retirer les contenus problématiques. C’est dans cette direction que nous essayons d’orienter nos efforts.

Je vous remercie pour votre participation à cette audition.

31. Audition de M. Antonin Atger, écrivain, doctorant chercheur, et Mme Audrey Chippaux, auteure de Derrière le filtre. Enquête sur le système d’influence (2025) (lundi 26 mai 2025)

La commission auditionne conjointement M. Antonin Atger, écrivain, doctorant chercheur, et Mme Audrey Chippaux, auteure de Derrière le filtre. Enquête sur le système d’influence (2025) ([30]).

M. le président Arthur Delaporte. Nous recevons ce matin M. Antonin Atger, écrivain, doctorant chercheur, et Mme Audrey Chippaux, auteure de Derrière le filtre, Enquête sur le système d’influence (2025).

Madame, monsieur je vous remercie de nous déclarer tout intérêt public ou privé de nature à influencer vos déclarations.

L’article 6 de l’ordonnance du 17 novembre 1958 relative au fonctionnement des assemblées parlementaires impose aux personnes auditionnées par une commission d’enquête de prêter le serment de dire la vérité, toute la vérité, rien que la vérité.

(Mme Audrey Chippaux et M. Antonin Atger prêtent successivement serment.)

M. Antonin Atger, écrivain, doctorant chercheur. Outre mon travail d’écriture, je suis doctorant chercheur en psychologie sociale, notamment sur le complotisme et la désinformation, à Londres. J’ai été amené à travailler avec Mme Chippaux autour de son livre, parce qu’en élargissant ce cadre de recherche, on rencontre les réseaux sociaux et les influenceurs, avec leur impact sur la santé mentale.

En termes synthétiques, on ne connaît pas de lien de causalité directe entre l’état de santé mentale et l’usage de TikTok. Il est très difficile d’établir un tel lien sur le plan scientifique, car cela supposerait une étude longitudinale dont la réalisation est compliquée. Nous disposons en revanche, et bien que TikTok soit un média encore jeune, d’un nombre croissant d’études « de corrélation », c’est-à-dire montrant que, plus une personne passe de temps sur TikTok, plus elle présentera certains états mentaux. Apparaît ainsi un lien de corrélation entre un usage prolongé de TikTok et, par exemple, l’anxiété, la dépression, une basse estime de soi, le Fomo – peur de passer à côté (fear of missing out) – ou un mauvais sommeil. Cela ne signifie pas pour autant que l’un provoque l’autre. On peut en effet imaginer, par exemple, qu’une personne anxieuse ira plus facilement sur TikTok parce qu’elle a peur du lendemain : le lien est alors dans l’autre sens. D’autres facteurs peuvent aussi influer à la fois sur la santé mentale et sur l’usage de TikTok. Toujours est-il que nous disposons d’un bon nombre de méta-analyses et qu’un consensus entre plusieurs études montre un lien assez fort entre un usage démesuré de TikTok et des troubles mentaux anxieux. On peut donc imaginer que, même s’il n’y a pas de lien direct, l’anxiété d’une personne anxieuse peut être décuplée sur TikTok à cause du contenu qu’elle y trouve. Cela ne concerne toutefois pas seulement TikTok ni les seuls mineurs et, si TikTok peut amplifier ce phénomène, il n’en est pas nécessairement la cause.

TikTok peut avoir aussi des effets bénéfiques, comme on l’a vu par exemple durant la période du covid. De nombreuses études, notamment celle de Mme Laura Marciano et al., montrent par exemple que c’est un lieu de socialisation et de coping apprenant à gérer une situation stressante, un lieu d’identification où les adolescents peuvent, par exemple, expliquer leur quotidien. Durant le confinement, le réseau social permettait de s’identifier et de créer du lien, ce qui est très important en particulier pour les adolescents. Bien utilisé avec des professionnels, TikTok peut ainsi avoir des effets bénéfiques sur la santé mentale.

Je conclurai en évoquant le complotisme et la désinformation. Le complotisme est aussi – et je pense que Mme Chippaux en parlera – un moyen rhétorique utilisé par les influenceurs pour légitimer leur position. Un influenceur qui, par exemple, se fait bannir invoquera le complot pour expliquer ce bannissement, prétendant qu’il dit une vérité qui dérange. Ce phénomène ne se limite d’ailleurs pas aux réseaux et une personne publique pourra tout aussi bien invoquer un complot pour se tirer d’une accusation et se légitimer.

Par ailleurs, sur les réseaux, la désinformation et le complotisme se traduiront, comme le décrit M. Chris Bail dans son livre Le prisme des réseaux sociaux, par une polarisation des gens sur des groupes sociaux très différents, avec beaucoup moins de nuances. Au-delà des états mentaux individuels, c’est là un facteur de fracture de la société, fondé sur l’idée que des gens trop différents les uns des autres ne peuvent pas vivre ensemble. Il faut avoir une vision globale de cet impact social de la polarisation sur les réseaux, qui a de nombreuses explications.

Enfin, le complotisme est relié à deux thématiques très importantes : la dominance de l’orientation sociale, c’est-à-dire l’idée que certains groupes sociaux seraient supérieurs aux autres – soit une forme de racisme –, et l’anomie, qui est le sentiment de ne plus se reconnaître dans la société. Si donc les réseaux accentuent le complotisme, ils peuvent favoriser aussi, au-delà de l’état mental individuel, ce sentiment d’isolement social. C’est là une dimension à creuser pour comprendre l’impact que peuvent avoir les réseaux sociaux au niveau de la société.

Mme Audrey Chippaux, auteure de Derrière le filtre, Enquête sur le système d’influence (2025). Je suis arrivée sur les réseaux sociaux en 2019. Je ne les connaissais pas du tout et je suis très vite tombée sur des comptes d’influenceurs qui pratiquaient dans leurs stories du placement de produits frauduleux. J’ai commencé à poster des publications pour donner l’alerte à propos de ce que je voyais, en considérant que ce serait déjà bien si une ou deux personnes voyaient mes commentaires et n’achetaient pas ces produits, mais il se trouve qu’elles ont été vues beaucoup plus largement et j’ai ainsi été amenée à côtoyer beaucoup de gens qui avaient acheté des produits mais ne les avaient pas reçus, ou à qui l’on avait livré des produits défectueux ou non conformes à leur description.

Je me suis alors intéressée à la pratique illégale de la médecine – compléments alimentaires de toute sorte, injections, par exemple, d’acide hyaluronique pratiquées par des personnes qui ne sont pas médecins – et au placement de produits financiers. Peu à peu, au fil des années, j’ai vu tous les réseaux : Instagram, Snapchat et Twitter. Je pensais que ce dernier était le pire jusqu’à ce que je découvre TikTok, qui est pis encore. J’en suis ainsi venue – et c’est à ce titre que j’ai contacté M. Antonin Atger – à m’intéresser aux phénomènes d’influence, aux biais cognitifs et à notre réaction d’internautes face aux contenus. À cet égard, ce qui vaut pour les adultes est encore plus vrai pour les enfants, qui n’ont pas encore la maturité ni les acquis nécessaires pour percevoir la réalité des contenus disponibles en quantité illimitée sur les réseaux sociaux et qui, dans le cas de TikTok, conduisent très vite vers des aspects négatifs de ce que nous voulons regarder.

Mme Laure Miller, rapporteure. En quoi TikTok est-il, comme vient de le dire Mme Chippaux, pire que les autres réseaux sociaux, notamment Twitter, dans son fonctionnement, dans ses messages et dans les dérives qu’il peut véhiculer ? Quelle est la spécificité de TikTok ?

Mme Audrey Chippaux. Cette spécificité réside dans des vidéos très courtes qui s’enchaînent très vite. Twitter propose plus de textes, même si l’on y trouve aussi des vidéos sur lesquelles on peut cliquer pour faire apparaître un scrolling. Sur TikTok, ces vidéos se présentent à l’infini et une recherche y débouche très vite sur des contenus plutôt négatifs, sans que l’on ait nécessairement – et cela vaut pour tous les réseaux – l’intuition d’aller chercher du positif pour tenter de créer un équilibre. Il est donc beaucoup plus difficile, sur ces réseaux, de garder du recul et de conserver une neutralité dans les opinions que l’on se construit. Ce qui vaut pour l’adulte est pire encore pour l’enfant ou l’adolescent, qui n’ont pas ce recul et ne connaissent pas des codes que je suis moi-même encore en train d’apprendre. Je pense d’ailleurs que j’en apprendrai toujours, chaque fois que j’irai sur les réseaux sociaux. Nous ne sommes pas des psychologues et, quand nous communiquons avec quelqu’un, nous ne possédons pas tous les codes qui nous aideraient à penser, de telle sorte que nous pouvons vite être emmenés, sans forcément le vouloir, dans du négatif, dans des choses qui ne sont pas bonnes pour nous.

Je suis également très inquiète des phénomènes de collage que j’observe spécifiquement sur le réseau TikTok : un commentaire publié par un individu est repris et intégré dans une vidéo qui suscite de nombreuses réactions, ce qui donne audit commentaire une très grande visibilité. Son auteur, qui est un internaute comme vous et moi et qui n’a peut-être que cinquante abonnés, se retrouve présent dans des vidéos qui peuvent avoir trois ou quatre millions d’abonnés. C’est tout à fait anormal, car on ne connaît pas les gens ni leurs fragilités. Sur le réseau, on s’exprime vite, et encore plus en raison de la limitation du nombre de caractères, si bien que les phrases publiées ne reflètent pas nécessairement la pensée de leur auteur, mais celle que l’influenceur comprend avec ses propres filtres avant de jeter des individus en pâture sur la base d’interprétations qui peuvent être fausses, tout en livrant l’identité de ces individus lambda, sur lesquels ils ont fait des recherches. J’observe souvent ce phénomène sur TikTok, et je trouve cela dramatique.

M. Antonin Atger. Le collage est un peu l’équivalent du CoTweet sur Twitter, qui consiste à reprendre et commenter un texte. Cette particularité de TikTok est aussi responsable de son succès, pour des raisons bénéfiques et négatives. La raison bénéfique est qu’un influenceur peut citer un internaute qui le suit, ce qui peut être valorisant et créer un lien de proximité. En revanche, l’influenceur peut aussi mettre en relief, dans sa réponse, le commentaire qui énerve et polarise et, ainsi, accentuer la polarisation. Cette mécanique qui permet de prendre – évidemment pas au hasard – un message est une particularité de TikTok. On pourrait évoquer à cet égard de nombreux biais cognitifs de négativité, consistant à mettre en avant le négatif, qui nous interpelle davantage et nous énerve. Cet appel à l’émotion est très présent sur les réseaux, même si, bien sûr, l’émotion n’est pas négative en soi.

L’étude de Hendrickx et al., comparant TikTok et Instagram, réseau social un peu similaire et dont les reels ont copié le principe de TikTok, observe que le temps passé sur TikTok est corrélé avec un usage problématique des réseaux sociaux, de la dépression et des problèmes d’estime de soi, mais pas avec la solitude, tandis qu’Instagram l’est seulement avec un usage problématique des réseaux sociaux. On pourrait estimer que c’est parce qu’Instagram fait mieux, mais je pense que d’autres facteurs interviennent, comme l’âge ou la condition sociale des utilisateurs. De fait, comme je l’observe au fil de mes nombreuses interventions scolaires, ce ne sont pas les mêmes personnes qui utilisent ces deux réseaux, Instagram touchant un public un peu plus âgé. La différence évoque celle qui existe entre Android et Apple : ce sont deux mondes différents et même opposés. En outre, Instagram ne propose pas que des vidéos : on y trouve aussi des photos et des stories, qui ont un usage différent. Peut-être donc cette pluralité de moyens de poster sur Instagram se traduit-elle par une moindre viralité des reels. En outre, il n’est pas possible de répondre à un commentaire sur les shorts de YouTube ni sur les reels d’Instagram. C’est peut-être ce qui explique la différence entre TikTok et les autres réseaux. Qui plus est, le fait que les usagers de TikTok soient, selon moi, plus jeunes, peut aussi expliquer ces phénomènes.

Mme Laure Miller, rapporteure. Est-ce la viralité des vidéos ou la plus grande capacité de polarisation de leurs propos qui fait de Tiktok un outil plus attirant pour les influenceurs problématiques que vous avez identifiés ?

Mme Audrey Chippaux. Ils sont tous arrivés sur TikTok, mais ils s’étaient tous emparés préalablement de Snapchat. Le fonctionnement des deux réseaux est différent. L’avantage que je vois à TikTok est que les observateurs – dont je suis – peuvent constater que certains influenceurs fonctionnent en groupe : un sujet traité par un influenceur sera repris par dix, quinze ou vingt personnes et va très vite monter et être partagé, ce qui permet de créer beaucoup de choses. Ce n’est pas le cas avec Snapchat.

Mme Laure Miller, rapporteure. Monsieur Atger, vous avez dit qu’un usage modéré de TikTok pouvait avoir des effets bénéfiques, mais n’est-ce pas complètement antinomique ? Un usage modéré de TikTok est-il possible, compte tenu de la force de l’algorithme et du fonctionnement même de TikTok, qui incite à l’utiliser sans modération ?

M. Antonin Atger. Non. Il ne faut pas sous-estimer l’agentivité des mineurs. Des personnes souffrant de troubles anxieux auront peut-être du mal à résister à l’algorithme, mais il y a là une corrélation : ceux qui peuvent faire un usage modéré de TikTok sont des gens qui peuvent décider de s’arrêter et d’aller se coucher. Tous les adolescents ne sont heureusement pas susceptibles d’avoir un usage problématique des réseaux, même s’ils peuvent être nombreux dans ce cas.

Nous avons vu des effets bénéfiques, notamment, comme je l’ai dit, durant le covid. L’étude que j’ai déjà citée montre par exemple qu’on peut tracer des effets bénéfiques pour une utilisation d’une heure par jour, alors que ces effets sont plus problématiques pour une durée quotidienne de trois, quatre ou cinq heures. À cela s’ajoute un autre facteur très important : le manque de sommeil lorsqu’on scrolle jusqu’à deux heures du matin, alors qu’un bon sommeil est évidemment bénéfique pour la santé.

On observe aussi une disparité en fonction des milieux sociaux, les plus défavorisés ayant un usage plus problématique de TikTok. Je n’ai pas forcément d’explication à ce phénomène, qui est probablement très complexe et multifactoriel, mais cela tient peut-être au fait que ces personnes ont moins accès à un thérapeute en cas de problèmes de santé mentale. L’usage des réseaux accentue donc entre les jeunes des disparités socioéconomiques déjà existantes.

Pour citer un exemple récent d’étude montrant les effets bénéfiques de TikTok, Nancy Lau et al., analysant les cent vidéos les plus virales du hashtag #TeenMentalHealth, consacré à la santé mentale des jeunes, montre que de nombreux adolescents parlent de leur expérience, ce qui est très important pour eux et très bénéfique, car cela permet de créer un lien et de s’identifier, mais que ces vidéos mettent aussi en avant nombre de spécialistes et experts de ces questions. On pourrait penser que les mineurs n’écoutent pas les personnes référentes, mais mon expérience des classes m’a montré que ce n’était pas vrai. Dans le domaine de l’actualité, les références restent, pour les plus jeunes, les chaînes d’info ou HugoDécrypte, c’est-à-dire des gens qui ont une certaine compétence, et il en va de même pour la santé mentale. Les personnes qui se présentent comme experts en santé mentale, comme les thérapeutes, jouent sur l’humour en adoptant les codes de TikTok, avec des résultats bénéfiques. Le seul défaut est que ces informations ne fournissent pas toujours des explications fondées sur des preuves, mais les jeunes vont tout de même sur TikTok pour se renseigner sur la santé mentale et écoutent des personnes qui ont une expertise dans le domaine. Ce peut donc être un moyen d’investir TikTok en poussant des experts à s’y exprimer sur ces sujets, car leur discours peut devenir viral d’une manière bénéfique.

M. le président Arthur Delaporte. Permettez-moi de faire une petite incise. Il ne me semble pas vous avoir entendu déclarer des conflits d’intérêts. Le confirmez-vous, l’un et l’autre ?

M. Antonin Atger. Non, aucun conflit d’intérêts.

Mme Audrey Chippaux. Pas de conflit d’intérêts.

Mme Laure Miller, rapporteure. Pouvez-vous citer des pratiques abusives que vous avez observées sur TikTok de la part d’influenceurs, et nous dire si ces derniers ont, selon vous, une stratégie ciblée sur les mineurs ? Pouvez-vous également nous parler plus précisément des lives sur TikTok, qui nous semblent être une sorte de no man’s land où il se passe des choses problématiques sans que quiconque puisse faire grand-chose à ce stade ?

Mme Audrey Chippaux. J’ai pu observer toutes les dérives liées au placement de produits, au dropshipping, à la contrefaçon, à la pratique illégale de la médecine, à la promotion de produits dangereux pour la santé et aux placements financiers risqués, pour lesquels le storytelling de l’influenceur transforme l’étudiant fauché en millionnaire. C’est, en effet, souvent comme cela que ces contenus sont vendus, avec des vidéos montrant de belles voitures, de belles villas et des vêtements de luxe. Ces vidéos sont très nombreuses, et pas seulement dans le domaine du placement financier : on les trouve dans les ventes de formations et dans tout le business du sexe. Ces influenceurs vantent les comptes MYM et OnlyFans en prétendant qu’ils font de l’argent et sont devenus millionnaires grâce à ces plateformes. Cela vaut aussi pour les paris sportifs et pour les casinos en ligne, où l’on sait pourtant que ce n’est pas possible. Je vois sur la plateforme en direct des annonceurs qui passent directement par TikTok pour faire de la publicité entre deux vidéos ou recourent, d’une manière indirecte, à des influenceurs, en étant parfois couverts par certaines agences.

On observe aussi l’emploi de filtres couplés à des publicités pour des compléments alimentaires ou pour de la médecine et de la chirurgie esthétique. J’ai eu bon nombre de témoignages de jeunes faisant état de baisse d’estime de soi et de confiance en soi. On sait aussi que ce phénomène a causé certains troubles du comportement alimentaire, sur lesquels les médecins se sont exprimés, et une augmentation du recours aux médecins et chirurgiens esthétiques. Je cite d’ailleurs dans mon livre les propos du docteur Adel Louafi, président du syndicat national de chirurgie plastique reconstructrice et esthétique, qui en fait état.

En matière de désinformation, j’entends, comme M. Antonin Atger, beaucoup de choses. On affirme ainsi partout, ces derniers temps, que Mme Macron serait un homme. Le blogueur Aquabebe aurait, quant à lui, retrouvé M. Xavier Dupont de Ligonnès et s’en ouvre sur les réseaux sociaux. Selon ce modèle étonnant, cette personne aurait été retrouvée par les internautes et ce n’est pas la police qui a été prévenue, mais les réseaux sociaux. Quand bien même ce serait vrai, ce serait lunaire ! Je peux citer aussi un certain Thierry, qui explique que la chimiothérapie est toxique et inefficace, et qu’il est préférable d’être abstinent et crudivoriste.

M. le président Arthur Delaporte. On peut citer son nom : M. Thierry Casasnovas.

Mme Audrey Chippaux. Ce monsieur n’est pas condamné et, si cela peut vous rassurer, il a été conseiller municipal en 2020 et a annoncé sa candidature à l’élection présidentielle de 2027 à ses 2,7 millions d’abonnés – ce qui n’est pas peu.

M. le président Arthur Delaporte. Ils sont abonnés sur TikTok ?

Mme Audrey Chippaux. Non, sur YouTube, mais tout est repris sur TikTok, qui bénéficie d’une large publicité et qui était même présent au festival de Cannes. J’aurais encore de nombreux exemples à vous donner, mais je tiens aussi à souligner que, bien que j’aie dans mon entourage de nombreuses personnes qui ne sont pas sur les réseaux sociaux – et j’en suis ravie –, il est tout de même inévitable que ces derniers nous influencent. Moi qui suis sur ces réseaux, je vérifie ce que je regarde et je ne veux pas communiquer n’importe quoi à n’importe qui, mais une personne qui est influencée par un réseau social et qui croit ce qu’elle y voit le communiquera dans la vraie vie. Son entourage n’est pas dans le réseau, mais il l’est quand même par le biais de la communication de la personne qui y est. Ce qui se passe sur les réseaux n’est donc pas anodin, car cela modèle notre société. C’est une question qui me tient à cœur.

M. Antonin Atger. Thierry Casasnovas fait quelque chose de très important et qui fait vibrer ma fibre romanesque : du storytelling. Il raconte qu’il était un peu décadent, qu’il avait une mauvaise hygiène de vie et qu’il a failli mourir, avant de connaître une sorte d’illumination. Il est très religieux et cette foi va le guérir, à l’aide d’un régime très strict. On peut analyser cela de nombreuses manières. Sur le plan psychologique, il en appelle beaucoup à la nature, puisque ce qui est naturel est forcément bon. Ce storytelling d’outsider et de méritocratie, reposant sur l’idée que, quand on veut, on peut, est une stratégie rhétorique très utilisée par les influenceurs. Parmi ceux qui parlent d’argent, qu’évoquait Mme Audrey Chippaux, M. Yomi Denzel, par exemple, passe du statut d’étudiant fauché à celui de milliardaire, tout en jouant aussi sur un aspect communautaire, parlant de YomNation, à l’instar d’un animateur de télévision qui a lui aussi un nom pour qualifier les gens qui le suivent. Ce mécanisme fonctionne très bien, et pas seulement sur les réseaux. On en appelle aussi beaucoup à l’émotion.

Quant aux matchs, il s’agit pour moi de l’un des éléments les plus problématiques de TikTok, même s’ils ont aussi de bons aspects. Un exemple assez écœurant, et que Mme Audrey Chippaux a vu de l’intérieur, est celui d’un affrontement entre des équipes de jeunes qui doivent mobiliser des financements qu’elles reçoivent sous forme de fleurs payées préalablement par leurs followers : à la fin de la semaine, on voit qui a généré le plus de revenus en argent. Il s’agit donc d’un match où l’on donne de l’argent. L’un des matchs de ce genre les plus écœurants était un match Israël-Palestine, où l’on voyait quels soutiens donnaient le plus d’argent. Le contexte politique très anxiogène était utilisé pour générer des actions, en accentuant la polarisation que j’évoquais par l’opposition à un ennemi. Les problèmes touchent à la fois la santé mentale et la vie en société. En effet, la société est aussi faite de compromis et de consensus, ce que ne met pas du tout en lumière, sur les réseaux, cette mécanique de matchs ou de polarisation plus générale.

Il faut également évoquer les influences étrangères, qui ne sont pas seulement le fait de l’algorithme en tant que tel ou du comportement des adolescents mais il peut s’agir aussi, comme on l’a vu récemment en Roumanie sans que l’on sache vraiment qui est derrière, d’un jeu d’influence. Au début de la guerre en Ukraine, j’ai vu des influenceurs expliquer, sur fond de drapeau ukrainien et malgré leur accent français classique, qu’ils habitaient en Ukraine et se réjouissaient de l’arrivée des Russes. Les réseaux sociaux sont aussi une arme de guerre informationnelle pour modeler l’opinion et promouvoir certaines thématiques plutôt que d’autres. Le cas de la Roumanie est très intéressant, car on y parlait moins de la personne que de ses thématiques, en les gonflant artificiellement, pour que les électeurs choisissent plutôt un candidat qu’un autre.

Le jeu de pouvoir qui se joue sur les réseaux sociaux excède, bien sûr, la question de la santé mentale des jeunes, mais il a aussi un impact sur eux, car un monde anxiogène ne fait pas de bien à l’état mental.

Mme Audrey Chippaux. Ces contenus sont, en outre, visibles par des jeunes, qui peuvent tomber dessus s’ils s’intéressent à la politique. Parmi les groupes que j’observe depuis quelques mois, je constate une polarisation des influenceurs et une évolution dans laquelle les gens deviennent de plus en plus extrêmes. Je m’intéresse à un groupe de droite et un groupe de gauche, mais on peut aujourd’hui les décrire comme d’extrême droite et d’extrême gauche.

M. le président Arthur Delaporte. Pouvez-vous décrire plus précisément ce phénomène de polarisation ?

Mme Audrey Chippaux. Au début, les contenus sont présentés comme pédagogiques. Quelqu’un explique, par exemple, ce qu’est le racisme et comment il se matérialise, par exemple sous forme systémique, puis les contenus deviennent progressivement de plus en plus violents. Voilà quelques semaines ou peu de mois, il s’agissait tout simplement de retrouver certaines personnes et de ne plus se laisser faire : il fallait frapper. On ne peut pas tenir de tels propos sur des réseaux sociaux !

M. le président Arthur Delaporte. Voyez-vous des jeunes exposés à cela ?

Mme Audrey Chippaux. Bien sûr.

M. le président Arthur Delaporte. Avez-vous des moyens de le voir.

Mme Audrey Chippaux. Les republications permettent de déterminer que des jeunes se trouvent dans ces sphères. Les influenceurs qui communiquent sont relativement jeunes, et des jeunes sont forcément attirés aussi. C’est une mécanique.

M. Antonin Atger. Pour avoir beaucoup étudié cette polarisation, qui est loin d’être propre à TikTok et que l’on retrouve aussi beaucoup sur Twitter, je dirais qu’elle s’explique aussi par des raisons presque mécaniques, pas seulement par les algorithmes. Sur un sujet donné, ce sont généralement les personnes les plus militantes, dotées de fortes convictions et au bord de la polarisation, qui vont investir ces réseaux en y consacrant le plus de temps. Ces profils estiment qu’il faut militer et ils ont du temps pour ce faire. De manière naturelle, les gens qui prennent la parole sur les réseaux, en particulier sur des thématiques politiques, sont très investis, plutôt aux extrêmes et polarisés. Les personnes modérées ne vont pas se reconnaître dans ces bords-là ; elles vont peu à peu se désintéresser, moins argumenter et même abandonner parce qu’elles se font taper des deux côtés. D’ailleurs, beaucoup de personnes ne souhaitent pas du contenu politique : elles vont sur les réseaux pour se détendre.

Ces divers facteurs expliquent que ce sont en général des militants tenant des propos radicaux – ce qui n’est pas forcément mal en soi – qui vont investir les réseaux. Il y a une mécanique propre au groupe : on a tendance à aller vers la radicalité, à faire preuve de ce que l’on peut appeler de la pureté militante pour montrer que l’on appartient au bon camp. Le phénomène gagne naturellement les réseaux, alimenté par le fait qu’il est possible de faire une vidéo sur un commentaire et que c’est ce genre de contenu qui marche le mieux – le choc, les émotions et le biais de négativité en renforcent l’attrait. Pour nuancer un peu, on notera qu’il existe aussi beaucoup de vulgarisateurs sur ces sujets et qu’ils sont présents sur TikTok, où ils ont une grande audience. Il est important de faire la part des choses, mais la radicalité des propos est malheureusement un phénomène naturel et propre aux réseaux sociaux.

Mme Audrey Chippaux. S’agissant des collages, ils provoquent des vagues de cyberharcèlement. Pas un jour ne passe sans que j’assiste à ce phénomène quand je me connecte à mon réseau social. À mon avis, beaucoup de gens participent à du cyberharcèlement de manière passive, sans même s’en rendre compte, au milieu de grosses foules. Cela fait beaucoup pour une seule personne qui reçoit tous ces commentaires, sans parler des messages privés que l’on ne voit pas, des collages et des partages, parce qu’elle aura eu la curiosité d’aller voir ce qui se passe et ce que l’on dit parce que cela la touche. En janvier 2025, une altercation entre deux élèves a été postée sur TikTok et relayée des milliers de fois. Des enquêtes sont en cours. C’est l’indignation qui a provoqué cette viralité sur les réseaux sociaux : on a tendance à partager ce qui nous paraît anormal et on contribue ainsi au phénomène.

Certaines images mises en ligne peuvent être utilisées par des pédocriminels. Maddy, une influenceuse, a montré son bébé dénudé dans la piscine ou en couches à ses 3 millions d’abonnés, sans avoir conscience que ces images peuvent être utilisées par la suite. Les influenceuses avec lesquelles j’ai abordé cette thématique m’expliquent que ce ne sont pas elles qui ont un problème, mais les autres – en l’occurrence les pédocriminels –, ce qui n’est pas faux. Certains parents n’ont pas encore pris conscience de cette dimension quand ils diffusent des photos de leurs enfants.

Dans l’univers de la médiumnité et de la cartomancie, auquel je m’intéresse aussi, je peux vous citer un cas où l’utilisation de l’intelligence artificielle (IA) pose problème : après vérification, on voit que le conseil minute, vendu 180 euros par une médium, est produit par IA.

Quant aux contenus sexistes et misogynes, ils pullulent sur les réseaux – j’en reçois ma part. Dans ce registre, on trouve Alex Hitchens qui compte 477 000 abonnés et dont les propos sont franchement… Enfin, disons qu’il coche beaucoup de cases.

Dans ma liste de dérives, j’ai mis les matchs live qui se déroulent désormais à la journée. On y achète des pièces qui servent à acheter des cadeaux numériques. Au cours de ce premier jeu financier, on perd la notion de l’argent : quand il est offert, le cadeau numérique se transforme en diamants qui s’affichent au-dessus du compte de l’influenceur. On ne sait plus exactement ce que l’on a donné. Ces diamants sont ensuite transformés en euros ou en dollars, dont TikTok prélève 50 %. Le réseau a donc un sérieux intérêt à l’existence de tels matchs qui pourraient être interdits en France comme ils le sont dans certains pays.

Pour vous donner une idée de l’importance du sujet, je peux vous donner l’exemple d’un échange que j’ai eu avec la maman d’un adolescent. Le service Apple Pay étant connecté au compte TikTok, l’adolescent a dépensé plus de 4 000 euros, c’est-à-dire tout le budget des vacances, en participant à ce genre de matchs. Je ne vous décris pas l’état de la maman. Pourquoi voulait-il faire des cadeaux ? Parce qu’il voulait se faire des amis. Il souffrait d’une petite exclusion dans le milieu scolaire et, en allant sur les réseaux sociaux, il avait plutôt l’intention de se faire des amis. Dans cette affaire, l’influenceur n’est pas innocent : il fait croire à un lien d’amitié avec les personnes qui donnent. Et c’est dramatique.

M. le président Arthur Delaporte. Qui était l’influenceur ?

Mme Audrey Chippaux. Je ne sais plus parce que je ne le connaissais pas. Il faudrait que je consulte les messages directs que m’envoyait la maman.

M. Antonin Atger. À ce propos, j’aimerais intervenir sur le concept de relation parasociale. Il s’agit de gens qui ont le sentiment d’avoir une relation réelle avec une personne imaginaire – un personnage de roman – ou avec une star, une célébrité, un youtubeur, un tiktokeur ou autres. Ils ont l’impression de connaître cette personne qui, elle, ne les connaît pas. C’est donc une relation déséquilibrée qui peut être exploitée, de manière volontaire ou non, par la personne célèbre. D’où l’incompréhension en cas de rencontre : l’une disant « je sais tout de vous », et l’autre répliquant « qui êtes-vous ? » Cela étant, dans l’exemple donné par Mme Chippaux, on voit que l’adolescent avait un problème d’intégration à l’école. Le malaise existant dans la vraie vie est exploité par TikTok. Il faut donc agir sur TikTok, mais aussi sur les problèmes existant dans la vraie vie pour empêcher ensuite les dérives observées sur le réseau.

M. le président Arthur Delaporte. On nous rétorque souvent que les mineurs ne peuvent pas mettre de l’argent au cours de lives, ce que tend à infirmer l’exemple que vous donnez, madame Chippaux. En avez-vous rencontré d’autres ?

Mme Audrey Chippaux. Au début de 2023, quand j’ai commencé à constater le problème et à en parler, j’ai eu plusieurs mamans en ligne. À chaque fois, j’ai retrouvé les mêmes mécanismes et profils : des jeunes qui se sentaient isolés socialement ; une jeune fille qui pensait avoir un lien amoureux avec le créateur de contenus. Peut-on d’ailleurs les qualifier de créateurs de contenus ? Certains ne font que des matchs et ne sont pas des influenceurs, au sens habituel du terme, qui créent des contenus permanents sur les réseaux.

M. le président Arthur Delaporte. Dans ces cas aussi, les sommes étaient importantes ?

Mme Audrey Chippaux. Au minimum 1 500 euros et au maximum plus de 4 000 euros – le cas que je vous ai d’abord cité. Mais Julien Tanti, par exemple, a reçu des dons pour un montant de plus de 140 000 euros.

M. le président Arthur Delaporte. On vous a parlé de mineurs donnant de l’argent à Julien Tanti ?

Mme Audrey Chippaux. Non, on ne m’a pas parlé de mineurs dans le cas de Julien Tanti.

J’ai fait une semaine d’observation en créant des comptes. J’ai choisi une personne focalisée sur les matchs, qui ne créait pas vraiment de contenus quotidiens ou en vidéo, sachant que les matchs peuvent être une activité à part entière. J’ai choisi une personne ayant recours au marketing. Le mécanisme est toujours le même : avant de démarrer un match, pendant environ une demi-heure, on nous demande de mettre des likes au live et de partager celui-ci, alors qu’ils commencent déjà à recevoir des cadeaux. À ce stade, il s’agit d’augmenter la visibilité du live, de faire en sorte qu’il soit vu par un maximum de gens. Tout cela se fait sur fond de musiques très entraînantes. La personne en question ne démarrait jamais avant 23 heures, sans doute parce que moins de gens regardent, et elle portait un masque, de sorte que l’on ne savait jamais si l’on avait affaire à un homme ou une femme. Trouvant cela très intrigant, j’ai choisi de suivre cette personne en particulier. J’étais intéressée par la ritualisation, le marketing, et l’horaire atypique – de 23 heures à 6 heures du matin.

M. Antonin Atger. Ceux qui sont sur des réseaux au milieu de la nuit ont peut-être déjà des troubles anxieux parce qu’il y a une corrélation avec la mauvaise qualité du sommeil. À cette heure de la nuit, ceux qui sont sur les réseaux sont peut-être des victimes plus faciles.

M. le président Arthur Delaporte. Est-ce que vous avez repéré des gens qui étaient manifestement mineurs ? J’imagine que c’est difficile à voir.

Mme Audrey Chippaux. C’est difficile à voir en live. Pour ma part, j’avais créé deux comptes, dont l’un ne comportait rien qui permette d’en déduire mon âge.

M. le président Arthur Delaporte. Vous avez quand même déclaré une date de naissance en vous inscrivant sur la plateforme.

Mme Audrey Chippaux. Oui, j’avais déclaré une date de naissance me faisant apparaître comme majeure parce que je voulais que mon compte passe. De toute façon, je peux m’inscrire sur TikTok en déclarant que j’ai 13 ans.

M. le président Arthur Delaporte. En effet. C’est d’ailleurs l’un de nos sujets. Dans mon souvenir, vous avez évoqué les logiques de casino, de jeux d’argent.

Mme Audrey Chippaux. Oui, c’est vraiment du jeu d’argent. Dès lors que l’on s’inscrit dans une team, une équipe, on s’engage. Quand on donne un cadeau, notre nom est hurlé. Quand cela m’est arrivé, j’ai rigolé derrière mon téléphone. Mais j’ai pensé à l’effet produit sur quelqu’un qui n’a pas de communauté, qui ne sait pas ce que c’est, qui n’a jamais reçu de message un peu sympa. On se met à hurler son nom pendant un live où nous étions au moins 1 000. Comment le vit-il ? Ce n’est pas anodin. Tout le monde n’est pas habitué à un tel traitement. Cela crée la dépendance : on va avoir envie de redonner pour entendre encore notre nom, pour être encore mis en avant – l’influenceur demande même aux gens de s’abonner à notre compte. Pendant cette période, j’ai gagné je ne sais combien d’abonnés sur TikTok, alors que je n’y fais quasiment rien.

M. le président Arthur Delaporte. Combien d’argent avez-vous donné ?

Mme Audrey Chippaux. Pas beaucoup – 50 euros – parce que je ne donnais que dans des moments stratégiques, par exemple quand les dons étaient multipliés par quatre. Cela étant, le gain était aussi multiplié par quatre pour l’influenceur, ce qui fait que j’ai quand même donné pas mal d’argent. À la fin de la semaine, nous sommes arrivés en deuxième position. Je me suis dit : « Mince, j’aurais quand même bien voulu gagner parce que j’ai participé ! »

M. le président Arthur Delaporte. Gagner zéro, en fait.

Mme Audrey Chippaux. C’est ce qui est terrible ! Alors que je ne suis pas du tout joueuse, j’ai été contrariée de ne pas avoir gagné. Pendant toute la semaine, on est tellement matraqué sur le thème : « On est une équipe, on joue ensemble ! » En fait, on joue ensemble pour ne rien gagner. C’est quand même exceptionnel, ce truc !

M. le président Arthur Delaporte. C’est l’influenceur qui anime l’équipe ou c’est un groupe de discussion privée ?

Mme Audrey Chippaux. Non, c’est dans le live, pendant le match. Dès que l’on se connecte, on l’entend matraquer sans relâche.

M. le président Arthur Delaporte. Comment s’inscrit-on dans une équipe ?

Mme Audrey Chippaux. Il y a un bouton « rejoindre l’équipe » pour s’inscrire. Il suffit de cliquer. C’est la première étape. Une fois qu’elle est franchie, on se prend d’autant plus facilement au jeu que la musique est entraînante. Il suffit que l’influenceur gagne un match pour qu’il se mette à hurler. Alors, on est content qu’il ait gagné son match. Quand arrive la finale, on veut qu’il gagne. Tout est fait pour créer cette petite tension. Comme je n’ai jamais demandé d’argent au moyen d’un match, je n’ai pas vu l’écran auquel les influenceurs ont accès. Quoi qu’il en soit, ils ont une fonction permettant de cacher le montant des dons, ce qui fait que les gens donnent à l’aveugle et ne découvrent le résultat définitif qu’à la fin de la semaine. C’est bien fait pour capter la personne jusqu’à la fin.

M. le président Arthur Delaporte. Un influenceur peut-il faire cadeau de cadeaux à sa communauté ?

Mme Audrey Chippaux. Ils offrent des coffres à toute la communauté. Il y a un petit compteur. À la fin, on clique sur le coffre et des pièces sont distribuées en fonction de critères que j’ignore – peut-être la rapidité des clics.

M. le président Arthur Delaporte. De jeunes enfants m’ont dit qu’on leur a offert des coffres sans qu’ils aient donné d’argent. Ils ont pu redonner le contenu de ces coffres sans avoir mis d’argent ?

Mme Audrey Chippaux. Tout à fait. En cliquant sur ces fameux coffres pendant une semaine, j’ai dû avoir 150 ou 200 pièces.

M. le président Arthur Delaporte. Et vous passiez votre temps à cliquer sur ces coffres ?

Mme Audrey Chippaux. Ah oui, dès que j’en voyais un, parce que je n’avais tout de même pas trop d’argent à mettre là-dedans !

M. le président Arthur Delaporte. Combien vous ont rapporté ces 150 pièces ?

Mme Audrey Chippaux. Pas grand-chose. Il me semble qu’une pièce vaut 17 centimes. Il faudrait revoir les calculs, parce que les cours évoluent tout le temps, comme ceux de l’euro. Un peu d’argent rentre malgré tout de cette manière.

M. le président Arthur Delaporte. En gros, vous avez touché environ 25 euros en cliquant sur les coffres.

Mme Audrey Chippaux. Je ne suis plus très sûre des cours parce que le temps a passé. Une pièce valait peut-être 2 centimes.

M. le président Arthur Delaporte. Vous avez donc reçu entre 5 et 25 euros de monnaie virtuelle en cliquant sur des coffres. Vous auriez pu être mineure.

Mme Audrey Chippaux. Pire : le mécanisme est tel qu’il peut donner envie d’acheter des pièces. Avec cette monnaie virtuelle, vous pouvez commencer à acheter une fleur, une rose ou n’importe quel cadeau que vous allez offrir. Si vous offrez la totalité des pièces que vous gagnez, le cadeau peut être important. Il l’est d’autant plus si vous le faites à un moment où la mise est doublée, triplée ou quadruplée. Votre nom peut alors être scandé pendant le match, ce qui va vous donner l’envie d’acheter des pièces. Et le problème est qu’il est facile d’en acheter. Si le compte est connecté à Apple Pay, on n’est pas obligé d’avoir la carte bleue de ses parents. Dans le cas que j’ai cité, la maman belge me disait que les 4 000 euros ont été prélevés sur sa facture de téléphone.

M. le président Arthur Delaporte. Merci pour ces précisions.

Mme Laure Miller, rapporteure. Dans une interview récente, madame Chippaux, vous vous déclariez favorable à un durcissement de la législation, notamment en matière de régulation. Aviez-vous une idée précise en tête ? Quel regard portez-vous sur le règlement (UE) 2022/2065 du Parlement européen et du Conseil du 19 octobre 2022 relatif à un marché unique des services numériques et modifiant la directive 2000/31/CE dit Digital services act (DSA) ?

Mme Audrey Chippaux. Interrogée à ce sujet ce matin sur France Inter, j’ai répondu qu’il faudrait déjà que les lois soient appliquées. Nombre des mesures de la loi n° 2023-451 du 9 juin 2023 visant à encadrer l'influence commerciale et à lutter contre les dérives des influenceurs sur les réseaux sociaux ne le sont pas. Même en tant qu’internaute lambda, on le constate. Il faut des sanctions, pas de simples rappels à l’ordre. Après la communication offerte par Booba sur le business des influenceurs, il faut passer aux sanctions financières. Ils ne comprendront pas tant qu’il n’y aura pas des sanctions financières ou, pire, des peines de prison. Et encore ! Lors de contacts que j’ai eus avec la direction générale de la concurrence, de la consommation et de la répression des fraudes (DGCCRF), on m’a expliqué que les amendes étaient fixées en pourcentage du chiffre d’affaires. Il faudrait peut-être alourdir ces amendes parce qu’il n’est pas normal que des gens s’enrichissent en escroquant, en toute conscience ou pas, et en profitant de la naïveté de profanes qui ne peuvent pas imaginer tout ce qui se passe.

Nous parlons des mineurs aujourd’hui, mais les adultes sont eux-mêmes concernés. Nombre d’adultes me disent qu’ils ne sont pas influençables, alors que nous le sommes tous. M. Antonin Atger m’en donnait un excellent exemple. Si, dans une forêt, on entend soudain des gens crier au feu en s’enfuyant vers la gauche, que va-t-on faire ? On va courir aussi dans la même direction, sans avoir vu ni fumée ni feu. Nous sommes tous influençables. Oublions donc les rappels à l’ordre et passons aux sanctions prévues, surtout en cas de récidive. J’ouvre ici une parenthèse sur l’arrivée des brouteurs dans les lives, alors qu’ils agissaient jusqu’à présent par texto et par e-mail. J’ai été en contact avec des victimes – majeures – qui ont perdu jusqu’à 25 000 ou 30 000 euros. Même si on ne les voit pas forcément, ces brouteurs sont présents dans les lives. Ce n’est pas anodin.

En ce qui concerne les lois et le DSA, des mesures ont tout de même été prises, telles que la désignation de signaleurs de confiance. Moi qui observe tout cela depuis 2019, je ne peux que trouver le processus un peu long. Le délai est tellement long entre le moment où un phénomène émerge et celui où une loi est adoptée pour le combattre, que les personnes visées et les plateformes sont déjà passées à autre chose. Ce retard continuel est problématique parce que le citoyen a l’impression qu’il ne se passe rien, même s’il se passe des choses qui ne sont pas toujours visibles. On en arrive à des situations comme celle de Booba, où les tweets en rafale se succèdent sur les réseaux. Par contrecoup, ceux-ci peuvent devenir des tribunaux, au risque d’aggraver la polarisation.

M. Antonin Atger. Un guide sur l’article 28 du DSA vient d’être publié. On y parle de co-construction et d’écoute des acteurs, notamment des adolescents, sur leur rapport aux réseaux sociaux. Il est très bien, fondé sur des bases solides, et il peut avoir des effets intéressants. Le problème, c’est en effet son applicabilité.

M. le président Arthur Delaporte. Nous avons annoncé dans la presse que nous recevrions Mme Manon Tanti et M. Julien Tanti ainsi qu’AD Laurent. Avez-vous des éléments d’observation à nous donner sur ces influenceurs, notamment sur leur rapport aux mineurs ?

Mme Audrey Chippaux. Ont-ils une idée de la répartition de leur audience ? Comment font-ils pour savoir s’il y a des mineurs ? À mon avis, ils ne peuvent pas le savoir. M. Julien Tanti fait énormément de matchs TikTok. Comment sait-il qui lui donne quoi ? Est-ce que des mineurs participent à ces matchs ?

M. le président Arthur Delaporte. Avez-vous observé des choses sur leurs contenus ?

Mme Audrey Chippaux. M. Julien Tanti a un nouvel ami sur TikTok, qui lui donne 140 000 euros – montant assez stupéfiant. Chacun fait ce qu’il veut de son argent et ce n’est pas le sujet, mais je trouve cela bizarre.

M. le président Arthur Delaporte. Avez-vous un dernier élément que vous souhaitez porter à la connaissance de notre commission ?

Mme Audrey Chippaux. Depuis quelque temps, nous avons affaire à des placements de produits d’opinion. Nous en avions parlé il y a deux ans, à un moment où ce n’était pas trop le sujet. De tels placements ont été identifiés dans des contenus de Mme Magali Berdah, mais une enquête du Monde a aussi mis en cause des influenceurs TikTok qui utilisent la forme du micro-trottoir pour donner une opinion favorable de la Russie dans la guerre qu’elle mène contre l’Ukraine. Quand des gens sont payés pour communiquer, il est important que nous le sachions.

M. le président Arthur Delaporte. Mme Magali Berdah ne faisait pas état de cette collaboration commerciale de manière visible et permanente ?

Mme Audrey Chippaux. Non, cela figurait en commentaire, ce qu’on ne lit pas quand on regarde une vidéo.

M. le président Arthur Delaporte. Nous allons saisir le procureur de la République, en application de l’article 40 du code de procédure pénale, au sujet des publications que vous évoquez et qui ne respectent pas la loi dite influenceurs précitée.

Mme Audrey Chippaux. Le sujet est important puisqu’il s’agit d’opinions. Combien d’autres contenus de ce type n’ont pas été identifiés ?

M. Antonin Atger. Que peut-on faire ? Une interdiction totale sera inefficace en raison notamment des réseaux privés virtuels (VPN) ou de questions de droit. Il faut une régulation, des amendes plus fortes et de la co-construction pour limiter les dégâts, et même favoriser un usage modéré et vertueux des réseaux.

M. le président Arthur Delaporte. Avant de vous donner la parole pour une dernière intervention, je vous signale que la commission reste à votre disposition pour tout élément complémentaire que vous souhaiteriez nous communiquer. Elle est aussi à la disposition du grand public et reçoit tout éventuel témoignage sur son adresse e-mail. Nous avons aussi recueilli plus de 30 000 réponses à notre grande consultation en ligne.

Mme Audrey Chippaux. Il existe des contenus pour enfants sur YouTube. Pourquoi n’y aurait-il pas la même chose pour TikTok, en guise d’alternative ?

M. Antonin Atger. Je suis d’accord.

Mme Audrey Chippaux. Autre suggestion : puisqu’ils nous imposent leur publicité entre deux vidéos, pourquoi ne pas les obliger à diffuser aussi des contenus préventifs – et de préférence attractifs pour les jeunes ? En matière de prévention, les idées ne manquent pas.

M. le président Arthur Delaporte. Madame, monsieur, je vous remercie.

32. Audition de M. Guilhem Julia, maître de conférences en droit privé et sciences criminelles à l’université Sorbonne Paris-Nord, co-directeur du master « Droits des activités numériques », Mme Joëlle Toledano, Professeur émérite d’économie associée à la chaire « Gouvernance et régulation » de l’université Paris Dauphine - PSL, membre du Conseil national du numérique, et Mme Célia Zolynski, Professeur de droit privé à l’École de droit de la Sorbonne de l’Université Paris 1 Panthéon-Sorbonne, codirectrice du département de recherche en droit de l’immatériel de la Sorbonne (lundi 26 mai 2025)

Puis la commission auditionne, conjointement M. Guilhem Julia, maître de conférences en droit privé et sciences criminelles à l’université Sorbonne Paris-Nord, co-directeur du master « Droits des activités numériques », Mme Joëlle Toledano, Professeur émérite d’économie associée à la chaire « Gouvernance et régulation » de l’université Paris Dauphine - PSL, membre du Conseil national du numérique, et Mme Célia Zolynski, professeur de droit privé à l’École de droit de la Sorbonne de l’Université Paris 1 Panthéon-Sorbonne, codirectrice du département de recherche en droit de l’immatériel de la Sorbonne ([31]).

M. le président Arthur Delaporte. Je souhaite la bienvenue à M. Guilhem Julia ainsi qu’à Mmes Joëlle Toledano et Célia Zolynski pour cette table ronde consacrée à la régulation des plateformes.

Je vous remercie de faire état de tout intérêt public ou privé de nature à influencer vos déclarations. Je rappelle que cette audition obéit au régime de celles d’une commission d’enquête, tel que prévu par l’article 6 de l’ordonnance n° 58-1100 relative au fonctionnement des assemblées parlementaires. Cet article impose aux personnes auditionnées par une commission d’enquête de prêter le serment de dire la vérité, toute la vérité, rien que la vérité.

(M. Guilhem Julia, Mmes Joëlle Toledano et Célia Zolynski prêtent successivement serment.)

M. Guilhem Julia, maître de conférences en droit privé et sciences criminelles à l’université Sorbonne Paris-Nord, codirecteur du master droit des activités numériques. J’ai grand plaisir à être entendu par cette commission d’enquête, dont la création me réjouit. TikTok incarne en effet, à mes yeux, la quintessence des dangers que représente un réseau social, en particulier pour un public – les mineurs – vulnérable.

Mme Joëlle Toledano, professeure émérite d’économie associée à la chaire gouvernance et régulation de l’université Paris Dauphine-PSL, membre du Conseil national du numérique. Je mettrai l’accent sur deux sujets qui me tiennent à cœur : celui des modèles économiques et un autre, absent de votre questionnaire mais fortement lié à l’objet de cette commission d’enquête.

Depuis quinze ans, les réseaux sociaux relèvent, en Europe et aux États-Unis, d’un modèle économique très majoritairement financé par la publicité, parfois par des abonnements. La recherche de relais de croissance est permanente et correspond à la période actuelle. Ainsi, le social commerce, entre l’e-commerce et le réseau social, est un relais de croissance extrêmement important, venant principalement d’Asie. Le chiffre d’affaires de TikTok a dépassé les prévisions anticipées, pour atteindre 39 milliards de dollars sur l’année 2024, dont 75 % proviennent de la publicité, 15 % du social commerce et 10 % du système de monétisation dit in-app, qui contribue à financer les influenceurs. Le champion toutes catégories est Meta, avec 165 milliards de dollars de chiffre d’affaires l’année dernière, celui de LinkedIn – dont une part plus importante provient de la publicité – s’élevant à 17 milliards et celui de YouTube à 50 milliards.

Je soulignerai deux éléments importants. Tout d’abord, le modèle économique est celui de l’économie de l’attention, qui consiste à échanger la gratuité contre autre chose. Nous n’avons pas suffisamment la notion de gratuité présente à l’esprit lorsque nous envisageons des modèles de régulation alternatifs. Si l’on cherche à capter l’attention, c’est non seulement pour passer de la publicité, mais aussi, secondairement, pour pousser à des actes d’achat, plus impulsifs, et à toute autre forme de gaming. L’attention porte sur les algorithmes, mais également sur les types de contenus, la façon de scroller, les formats : l’ensemble du système vise à nous garder présents le plus longtemps possible. Le social commerce permet de déployer une variété d’outils et de rentabiliser encore plus la captation de l’attention. Il est beaucoup plus développé en Chine, où il représente 15 % de l’e-commerce, qu’aux États-Unis, où sa part est de 5 %, et en France, où, bien que sa proportion ne soit que de 2 %, il est en forte croissance – il faut y songer car il est lié à un sujet qui vous intéresse aussi, monsieur le président, à savoir celui des influenceurs et la façon dont ils sont financés.

J’en viens à mon deuxième point, qui concerne l’une de vos questions : « les obligations de modération des plateformes des réseaux sociaux sont-elles suffisantes pour protéger les utilisateurs des contenus illicites ? Sont-elles suffisamment bien appliquées ? » Cette interrogation renvoie à un sujet qui me tient énormément à cœur : de quelles informations disposons-nous pour déterminer si ces obligations sont suffisantes ?

À cet égard, j’ai porté une grande attention à l’audition du président-directeur général de Médiamétrie : interrogé par tous sur le fonctionnement interne du groupe, il a refusé de répondre, au motif qu’il ne pouvait dévoiler des éléments de contenu. C’est comme si l’enquête des consommateurs de l’Insee mentionnait les boutiques dans lesquelles se rendent les consommateurs et le temps qu’ils y passent, mais pas ce qu’ils achètent et consomment. Cette situation correspond à tout ce qui se passe sur internet aujourd’hui, si bien que nous sommes incapables d’évaluer les effets des mesures du règlement (UE) 2022/2065 du Parlement européen et du Conseil du 19 octobre 2022 relatif à un marché unique des services numériques et modifiant la directive 2000/31/CE dit Digital services act (DSA) ou du règlement (UE) 2022/1925 du Parlement européen et du Conseil du 14 septembre 2022 relatif aux marchés contestables et équitables dans le secteur numérique et modifiant les directives (UE) 2019/1937 et (UE) 2020/1828 dit Digital markets act (DMA).

C’est pourquoi je plaide pour une sortie du schéma actuel, dans lequel nous espérons que les informations permettant de déceler l’existence d’effets délétères soient fournies par les acteurs du système, dont l’objectif est avant tout de défendre leur modèle économique. La problématique est d’ailleurs la même pour toutes les questions liées à internet. Je défends l’idée d’une recherche allant au-delà des panels d’URL : l’autorité publique doit élargir son point de vue, regarder sous le lampadaire et prendre connaissance des contenus afin de mesurer leurs conséquences dans la vie quotidienne. N’attendons pas des opérateurs qu’ils nous communiquent ces informations dont dépend leur rentabilité, car eux-mêmes en craindront les conséquences.

Mme Célia Zolynski, professeure de droit privé à l’École de droit de la Sorbonne de l’Université Paris 1 Panthéon-Sorbonne, codirectrice du département de recherche en droit de l’immatériel de la Sorbonne. Je vous remercie vivement de m’avoir conviée à cette audition et je salue l’important travail mené par votre commission d’enquête. Il y a un an, nous avons remis au président de la République un rapport dont le titre a été choisi avec soin : Enfants et écrans. À la recherche du temps perdu. Nous y avons rappelé que nos enfants ne sont pas à vendre : notre responsabilité collective est de préserver leurs intérêts, de leur permettre de grandir et de se réaliser en toute liberté. Nous avons proposé une réponse collective déclinée en vingt-neuf recommandations, en insistant sur l’importance de les penser comme un système et sur l’urgence à agir.

Le premier objectif est la nécessité de placer la responsabilité où elle doit être, à l’égard des acteurs économiques qui produisent des services prédateurs, à la conception délétère, notamment pour les plus jeunes. Sont concernés les services numériques dont la conception est sous-tendue par un modèle fondé sur l’engagement, dont les effets sont gravement délétères. Il faut s’attaquer franchement à ces travers et soutenir l’émergence de modèles alternatifs.

Je vais revenir sur ces propositions en les actualisant dans la perspective des travaux de cette commission d’enquête, en tenant notamment compte des dernières avancées du droit de l’Union européenne. Tout d’abord, nous avons souligné la nécessité de nous inscrire dans les premières avancées du DSA, pour assumer des positions plus fermes concernant le caractère délétère de la conception des interfaces et autres algorithmes de recommandation, dès lors qu’ils portent atteinte à la sûreté et à la sécurité des enfants, en particulier en raison de leur caractère addictogène. Il est également indispensable d’agir sur les phénomènes d’amplification, qui peuvent enfermer les utilisateurs dans une spirale de contenus toxiques, en particulier les plus jeunes. À cet égard, nous avons soutenu les propositions issues de la résolution du Parlement européen sur la conception addictive des services en ligne et la protection des consommateurs sur le marché unique de l’Union européenne, dont les discussions se prolongent dans le cadre des négociations du Digital Fairness Act.

Dans le prolongement de plusieurs autres travaux – ceux de la Commission nationale consultative des droits de l’homme (CNCDH), du Conseil national du numérique (CNNUM) et d’ONG telles que la Fondation Panoptykon et People vs Big Tech –, nous avons aussi souligné la nécessité de redonner du choix aux plus jeunes et la main aux utilisateurs sur leurs interactions numériques, par la reconnaissance d’un nouveau droit au paramétrage, afin que les utilisateurs puissent déterminer leurs sphères d’émission et de réception. Il est également important d’imposer aux plateformes un paramétrage par défaut de certaines fonctionnalités, pour que les plus jeunes bénéficient d’une protection à la hauteur des enjeux.

Saluons à cet égard le projet de lignes directrices de l’article 28 du DSA, qui reprend un grand nombre de ces propositions : limiter les travers du modèle reposant sur l’engagement et l’effet spirale de contenus toxiques ; favoriser le respect des intérêts des mineurs ; offrir aux mineurs la possibilité de faire valoir leurs intérêts, en agissant sur les différents paramètres. D’autres propositions, sur lesquelles nous reviendrons si vous le souhaitez, visent à limiter le caractère addictif et doivent être saluées.

Ces propositions doivent néanmoins être accompagnées d’un contrôle strict des opérateurs, pour en assurer le plein effet. Il est essentiel d’évaluer l’efficacité des mesures préconisées, pour qu’elles atteignent leur objectif, conformément au projet de lignes directrices, qui donne lieu à consultation des mineurs et à la réalisation de tests avec eux, en prenant leur retour d’information en compte.

Il est également déterminant d’adapter ces mesures à l’évolution des techniques et des pratiques, en associant à ce processus les représentants de la société civile et les chercheurs académiques. Plus généralement – nous l’avons souligné –, il convient de les soutenir par des actions de politique publique, pour qu’ils puissent utilement contribuer à la co-construction des lignes directrices et à la multi-régulation que nous appelons de nos vœux.

En outre, pour s’attaquer au modèle délétère et redonner du choix aux plus jeunes, il est essentiel de soutenir le développement de contre-modèles à celui de la captation de l’attention, en favorisant l’ouverture des réseaux sociaux à des acteurs tiers, pour faire émerger des modèles plus respectueux des intérêts des enfants, notamment par la promotion du pluralisme algorithmique – mesure proposée dans le cadre des états généraux de l’information. Le DMA ouvre à cet égard des perspectives intéressantes, qu’il convient de prolonger.

Mme Laure Miller, rapporteure. Nous attendions cette audition avec impatience : si nous avons déjà entendu beaucoup de spécialistes de ces réseaux sociaux, nous n’avons pas forcément obtenu de réponses sur les actions concrètes à instaurer, notamment du point de vue juridique. J’aurai plusieurs questions. Tout d’abord, TikTok, comme d’autres plateformes, a actuellement tendance à décliner toute responsabilité en matière de contenus, au motif qu’il les héberge sans les éditer : est-il possible de considérer TikTok comme un éditeur de contenus ? Cela permettrait d’engager la responsabilité de la plateforme, notamment en cas de recours devant la justice, à l’instar de celui en cours.

Par ailleurs, la volonté de rendre effectif le contrôle de l’âge d’un enfant qui s’inscrit sur les réseaux sociaux est souvent évoquée. Si l’âge minimum est de 13 ans, il est rarement respecté et l’inscription est très facile. Comment faire respecter l’interdiction de créer un compte pour les moins de 13 ans ? En matière de paramétrage des réseaux sociaux, comment supprimer l’algorithme de recommandation, notamment pour les jeunes ? Si le DSA offre certaines possibilités, les plateformes ont tendance à le contourner. Faut-il interdire l’accès au téléphone portable, principal vecteur d’accès aux réseaux sociaux ?

Enfin, quelles sont les mesures qui relèvent de notre compétence, et non du droit de l’Union européenne ? Avons-nous la possibilité d’agir en dehors du cadre du DSA, sur le sujet de la santé publique de nos enfants ?

M. Guilhem Julia. Le régime de responsabilité des grands acteurs, dont les plateformes d’internet, repose sur la distinction entre hébergeur et éditeur. Cette distinction figure dans le droit français depuis le début des années 2000 et la loi n° 2004-575 du 21 juin 2004 pour la confiance dans l'économie numérique. À l’époque, les réseaux sociaux étaient beaucoup moins présents et délétères. Le législateur a donc été assez visionnaire, même si les données personnelles n’étaient pas encore exploitées comme elles l’ont été par la suite : la distinction entre hébergeur et éditeur, toujours d’actualité, est pertinente. Si le DSA ne l’a pas remise en cause, il a obligé les hébergeurs à fournir aux utilisateurs des outils de signalement des contenus illicites. Ils permettent une modération a posteriori. Ainsi, le signalement d’un contenu illicite devra conduire l’hébergeur à le retirer rapidement, faute de quoi il risque d’engager sa responsabilité.

Ce système n’est toutefois pas satisfaisant, d’abord parce qu’il faut s’entendre sur ce qu’est un contenu illicite ; sur la plateforme TikTok, les procédures de signalement ne sont pas du tout efficaces. Le problème est le même sur X, où des contenus haineux ne sont pas supprimés, malgré les nombreux signalements. Si TikTok était considéré comme un éditeur, une modération a priori serait envisageable.

Les plateformes d’intermédiation – dont les réseaux sociaux – sont traditionnellement qualifiées d’hébergeurs : elles ne font que stocker et mettre à disposition des contenus dont elles ne sont pas les auteurs. Des décisions – notamment le très important arrêt Google Adwords de 2010 de la Cour de justice de l’Union européenne (CJUE) – ont néanmoins considéré que certaines plateformes, bien qu’hébergeant ce type de contenus, pouvaient être qualifiées d’éditeurs, en raison de leur contrôle – le rôle actif de l’hébergeur – et maîtrise des contenus.

Une autre décision a sanctionné une contrefaçon : un moteur de recherche s’apparentant à YouTube permettait d’accéder gratuitement à des contenus sportifs, en principe réservés à des abonnés payants. Pour se défendre, la plateforme a décliné toute responsabilité, arguant que, en tant qu’hébergeur, elle ne faisait que mettre à disposition des liens postés par ses utilisateurs. Le juge a refusé de faire droit à cet argument et a requalifié la plateforme d’éditeur, considérant qu’elle avait un rôle actif sur les contenus, puisque les différents liens avaient été organisés selon des thématiques et des dates, et présentés d’une certaine façon par ses algorithmes. Dans le même ordre d’idées, dans le rapport de la commission d’enquête du Sénat sur l’influence de TikTok, la plateforme reconnaît son rôle éditorial, afin de pousser certains contenus ou d’en bannir d’autres : la reconnaissance du statut d’éditeur qui en découle permettrait d’engager beaucoup plus facilement sa responsabilité en cas de contenus illicites.

Mme Laure Miller, rapporteure. L’influence des plateformes sur les contenus – leur rôle d’éditeur – a été décelée il y a plusieurs années : pourquoi le DSA n’a-t-il pas intégré cette évolution ? Connaissez-vous l’origine des blocages ?

M. Guilhem Julia. La distinction entre hébergeur et éditeur existe depuis 2004 en France et depuis 2000 au niveau européen, avec la directive sur le commerce électronique. Je suppose que le législateur de l’Union européenne n’a pas souhaité remettre cette distinction en cause. Le juge – au niveau national comme européen – s’est en effet sans doute approprié cette distinction et a permis à des hébergeurs de devenir éditeurs, avec une évaluation au cas par cas. Étant donné la souplesse d’appréciation dont dispose le juge quant au rôle de chaque plateforme, il ne me semble pas utile de la remettre en question.

Mme Célia Zolynski. Depuis plusieurs années, ces sujets donnent lieu à de vives discussions. L’enjeu est aussi celui de la préservation de la liberté d’expression. Le législateur a souhaité préserver l’équilibre trouvé avec la directive 2000/31/CE du Parlement européen et du Conseil du 8 juin 2000 relative à certains aspects juridiques des services de la société de l’information, et notamment du commerce électronique, dans le marché intérieur dite directive e-commerce lors de l’adoption du DSA : ce point a été déterminant dans les négociations. Un consensus s’est établi, intégrant quelques aménagements, comme la clause du bon samaritain – elle existe aussi dans le droit américain – et l’harmonisation de procédures de notification.

Il faut cependant souligner qu’un contrôle sera exercé par la CJUE. Un autre arrêt important – l’affaire opposant Google et YouTube à Cyando – porte sur l’impact de la recommandation algorithmique sur la qualité d’éditeur : la Cour de justice a écarté cette qualité, s’agissant du fonctionnement de YouTube. La France devra s’assurer de respecter la jurisprudence européenne.

Le deuxième point déterminant est celui du consensus pour un régime qui fasse évoluer les modèles des plateformes. L’objectif est de leur conférer une responsabilité spécifique, en lien avec la conception et le fonctionnement de leur service, de façon à sortir de la dichotomie entre hébergeur et éditeur. L’étude annuelle du Conseil d’État de 2014 avait déjà permis de faire des propositions – attendues depuis longtemps – sur ce point, tout comme les travaux du CNNUM en 2015 ; la loi n° 2016-1321 du 7 octobre 2016 pour une République numérique avait donné lieu à une première consécration – une obligation de loyauté des plateformes –, extrêmement timide. Les avancées se sont faites par petits pas, la notion d’intérêt des mineurs étant alors moins prégnante. Ainsi, des avancées avaient été proposées par le rapport de M. Benoit Loutrel Créer un cadre français de responsabilisation des réseaux sociaux : agir en France avec une ambition européenne, et certaines des dispositions de la loi n° 2020-766 du 24 juin 2020 visant à lutter contre les contenus haineux sur internet dite loi Avia ont inspiré le DSA. On peut regretter qu’il ait fallu tant de temps pour adopter des mesures contraignantes envers les plateformes. Pour contribuer à cet effort de régulation, il faudra veiller à ce que le régulateur ait les moyens d’assurer ses missions et que les acteurs – la société civile, les académiques – soient soutenus.

Mme Joëlle Toledano. Mes propos seront un peu moins organisés que ceux de mes camarades juristes.

Une partie des discours autour de la liberté d’expression ont pour objectif de bloquer la réflexion. On le voit avec les débats avec les États-Unis, qui nous opposent l’argument de l’atteinte à la liberté d’expression sur des sujets qui nous tiennent à cœur.

Il est temps de sortir de cette ambiguïté et de vraiment responsabiliser les plateformes afin qu’elles voient la régulation comme quelque chose qui est important pour elles. Aujourd’hui, on en parle en termes de modalités et de vérification de tel ou tel point. C’est trop lent : nous sommes comme des coureurs de fond face à des sprinteurs. Cela m’inquiète beaucoup. Il suffit de regarder le bilan de l’application du DSA depuis deux ans sur l’accès des chercheurs aux données des plateformes en ligne : on en est encore à discuter sur le point de savoir comment imposer cet accès aux plateformes.

Si on ne change pas de braquet, dans cinq ans nous serons en train de discuter de la régulation des plateformes telles qu’elles existent aujourd’hui alors que, d’ici là, l’intelligence artificielle aura tout changé.

La responsabilisation est la solution. Il suffit pour s’en convaincre de voir que les acteurs américains en ont peur, ainsi qu’en témoignent les contentieux en cours devant les cours américaines.

Pour contrer l’argument de l’atteinte à la liberté d’expression, je propose que nous nous dotions des moyens pour vérifier les conséquences de telle ou telle politique. Nous sommes aujourd’hui entre les mains des acteurs américains et de tels moyens nous permettraient de limiter cette asymétrie d’informations ; faute de quoi nous en serons encore à discuter de mesures alors que la technologie aura évolué.

Mme Laure Miller, rapporteure. La question de la régulation nous concerne tous : nous avons tous des enfants, des petits-enfants, des neveux et des nièces sur lesquels nous pouvons mesurer l’impact réel, minime ou dévastateur, des réseaux sociaux. C’est la raison pour laquelle nous avons souhaité nous concentrer sur la protection des enfants, plutôt que sur la liberté d’expression. L’objectif n’est pas d’interdire les réseaux sociaux ou de renforcer le DSA, dont nous pouvons constater la lenteur de l’application.

Cette lenteur est inhérente au fonctionnement de l’Union européenne, mais nous ne pouvons pas l’admettre car les plateformes ont toujours un train d’avance sur nous. Face aux alertes sur la santé de nos enfants – et le rapport que vous avez remis l’année dernière au président de la République, madame Zolynski, en est une –, nous devons agir. Ne pourrions-nous pas le faire à l’échelle nationale et essayer d’aller plus loin grâce à notre compétence de législateur en matière de santé publique ? Cette compétence est-elle bloquée par le DSA ?

Mme Célia Zolynski. Je commencerai par questionner le niveau d’intervention souhaitable, avant d’en analyser la possibilité juridique.

On réfléchit, depuis longtemps déjà, à une meilleure responsabilisation des plateformes. Le DSA a permis des avancées significatives et intéressantes en ce sens mais, depuis son adoption, les effets délétères de ces plateformes se sont amplifiés. Je partage la frustration et la colère, y compris en tant que parent, de certains observateurs concernant les atteintes à la vie privée, à la sûreté et à la santé des enfants. Je travaille d’ailleurs beaucoup sur la pédocriminalité, sur les contenus deepfake, sur les discours de haine en ligne et sur l’exposition à des contenus toxiques.

Néanmoins, il est important d’explorer pleinement la possibilité d’agir au niveau européen, car c’est là – je crois que l’Autorité de régulation de la communication audiovisuelle et numérique (Arcom) vous l’a rappelé – que nous pouvons obtenir les avancées les plus significatives, grâce à une meilleure négociation et une meilleure pression sur les plateformes.

Il serait donc malheureux de commencer une nouvelle réflexion qui nous ferait perdre beaucoup de temps. Il est préférable d’apporter tout le soutien possible à la mise en œuvre effective du DSA. Certaines propositions pour modifier le modèle des plateformes sont d’ailleurs en train d’aboutir. On peut regretter leur temporalité et, peut-être, la mise en œuvre des contrôles, mais ne laissons pas passer ces opportunités. Je vous invite à examiner de près le projet de lignes directrices, qui vient d’être mis en consultation par la Commission européenne. Il contient en effet des mesures très pertinentes.

Nous disposons aujourd’hui de toutes les clés pour faire évoluer le modèle d’affaires des plateformes. L’édifice qui a été construit est désormais stabilisé. Il faut le soutenir afin que la France puisse accompagner sa mise en œuvre, en y associant l’Arcom, des représentants de la société civile et des chercheurs académiques.

Nous nous sommes appuyés sur le fondement de la santé publique et, plus généralement, sur celui de la protection des enfants, pour formuler des propositions concernant le droit au paramétrage, qui semblent avoir été consacrées dans les lignes directrices dont j’ai parlé. Je vous apporterai avec plaisir des informations complémentaires sur l’aspect opérationnel de ces propositions.

Je vous recommande d’auditionner des chercheurs américains, qui pourront vous livrer leur analyse des dernières décisions de justice rendues aux États-Unis sur ce point : elles ne font pas une lecture aussi caricaturale ou dévoyée de la liberté d’expression que l’on pourrait le penser. Plusieurs décisions, notamment à l’égard de TikTok, permettent d’ouvrir la voie vers une responsabilité des plateformes au regard de la conception de leurs services.

Toutes les questions que vous avez évoquées, madame la rapporteure – responsabilité des plateformes, conditions d’accès en fonction de l’âge, paramétrage et santé des enfants – rejoignent l’enjeu central de la conception des plateformes. Au moment où la Commission européenne a ouvert les consultations sur les lignes directrices, il est important que la France puisse exprimer d’une voix forte qu’il ne suffit pas de formuler des préconisations au conditionnel : elle doit exiger que ces mesures, qui sont pour la plupart très pertinentes et utiles, soient pleinement suivies d’effet.

M. Guilhem Julia. TikTok se différencie des autres plateformes de réseaux sociaux. Elle est numéro un auprès des 13-24 ans et elle est celle qui diffuse le plus de contenus dangereux, notamment pour la santé, alors que ce public est plus vulnérable.

Pour me familiariser avec cette plateforme, je l’ai utilisée pendant une matinée, la semaine dernière. C’est pire qu’un train fantôme ! Je n’imaginais pas qu’on puisse avoir accès en France à des contenus glorifiant l’automutilation, la boulimie ou le suicide. Cela m’a profondément choqué. L’accès est très facile : en quelques minutes, l’algorithme de recommandation m’a inondé de ces contenus. J’ai d’ailleurs fait des signalements, qui sont restés lettre morte. Je pense donc qu’il faut traiter TikTok comme un cas à part. Il ne me semble pas qu’Instagram et Facebook proposent des contenus aussi problématiques.

Pour être crédible face à la Big Tech, il faut absolument parler d’une seule voix harmonisée, et cette voix ne peut qu’être celle de l’Union européenne. L’exemple du règlement (UE) 2016/679 du Parlement européen et du Conseil du 27 avril 2016 relatif à la protection des personnes physiques à l'égard du traitement des données à caractère personnel et à la libre circulation de ces données, et abrogeant la directive 95/46/CE dit règlement général sur la protection des données (RGPD) me paraît à cet égard très convaincant. Il est en effet le fruit d’une action coordonnée entre le législateur de l’Union européenne et chacune des autorités nationales de contrôle – la Commission nationale de l’informatique et des libertés (Cnil) en France. Le texte de l’Union européenne a donné de nouveaux pouvoirs, notamment de sanction, à ces autorités, qui conservent une certaine autonomie. Elles peuvent, de leur propre chef, sanctionner Amazon, Facebook ou TikTok par des amendes, parfois de plusieurs centaines de millions d’euros. Le RGPD est donc la preuve que la coopération entre l’Union européenne et les États membres peut être efficace. Si chaque État membre conservait sa propre législation dans ce domaine, on pourrait imaginer que les plateformes fassent pression sur chaque État pour qu’il change sa législation en le menaçant de ne pas fournir ses services à ses ressortissants. L’harmonisation du droit permise par le DSA restreint ces possibilités de pression.

Il reste possible d’aller plus loin en s’appuyant sur le fondement de la santé publique. Le meilleur exemple en est la loi n° 2023-451 du 9 juin 2023 visant à encadrer l'influence commerciale et à lutter contre les dérives des influenceurs sur les réseaux sociaux. La direction générale de la concurrence, de la consommation et de la répression des fraudes (DGCCRF) a récemment précisé que cette loi s’appliquait à TikTok et que, au nom d’impératifs de santé publique et de la protection des mineurs, certains produits ou services ne pouvaient être proposés par les influenceurs de cette plateforme. Il peut donc être porté atteinte à leur liberté d’expression et à leur liberté d’entreprendre.

Ne pourrait-on donc pas, au nom d’impératifs supérieurs de santé et de protection de l’enfance, bannir de la plateforme certains contenus glorifiant des comportements dangereux ? La marge de manœuvre pour créer une spécificité française existe puisque le DSA parle de contenus illicites, sans les définir précisément. Il y a là une possibilité de coordination entre la législation de l’Union européenne, qui doit constituer la base, et la législation nationale.

M. le président Arthur Delaporte. Je vous remercie d’avoir souligné l’intérêt de la loi sur les influenceurs. N’y voyez aucun conflit d’intérêts ! J’en profite pour constater que, lorsque je vous ai demandé en introduction de déclarer d’éventuels conflits d’intérêts, vous avez gardé le silence. J’en déduis que vous n’en avez pas.

Mme Joëlle Toledano. La loi sur les influenceurs a montré que la coopération est un combat. Le sujet est remonté jusqu’à la Commission européenne en raison de difficultés avec le DSA, mais aussi parce qu’il existait un mouvement de régulation dans d’autres États membres. Une proposition peut être initialement considérée comme pas tout à fait compatible avec le DSA, mais elle peut aboutir si vous arrivez à convaincre trois ou quatre autres pays qui partagent les mêmes intérêts. Cela peut donc avoir du sens de faire quelque chose d’un peu borderline et d’essayer de pousser pour sa réalisation.

Je suis en désaccord assez net avec la confiance que portent beaucoup de mes concitoyens et camarades dans le DSA et dans le DMA et dans leur capacité à imposer des changements de modèle économique aux plateformes. Ces textes n’imposent en effet qu’une conformité molle, que j’ai pu analyser avec mes étudiants. Deux ans après leur entrée en vigueur, quel est leur bilan ? Aujourd’hui, on discute encore de la possibilité de leur imposer un changement, cette fois sur leurs algorithmes en leur imposant un dégroupage en fonction des différents services qu’ils proposent, à l’instar de ce qui a été fait pour les télécoms. Vous n’y arriverez pas ! Qui paiera pour pouvoir se connecter à ces algorithmes ? Peut-être telle ou telle ONG aura-t-elle envie de s’engager dans une telle voie en faisant ce qu’elle peut, mais les autres acteurs privés chercheront à maximiser leurs profits en captant le plus possible d’attention, des adultes comme des gamins. Il faut donc s’attaquer directement au modèle économique.

Madame la rapporteure, je ne suis pas sûre qu’il est possible de trouver des solutions qui ne concernent que les enfants. Même en Chine, les parents donnent un téléphone portable à leurs enfants. Il faut donc faire attention au décalage entre les annonces et la réalité des pratiques. Il me semble préférable d’évaluer ce qui se fait dans son ensemble, pour comprendre pourquoi certaines choses ne marchent pas ou prennent trop de temps plutôt que de continuer à chercher à imposer des changements partiels aux plateformes.

Mme Laure Miller, rapporteure. Monsieur Julia, vous avez évoqué le fait que les signalements ne fonctionnent pas. L’audition de l’Arcom nous a permis de mieux comprendre leur fonctionnement : dans sa mission de mise en œuvre du DSA, elle doit respecter beaucoup d’étapes avant que le signalement arrive à la Commission européenne. Il existe en outre une zone grise où se trouvent des contenus qu’il est difficile de qualifier d’illicites et donc de supprimer. Je souhaitais donc vous interroger sur l’efficacité du mécanisme de signalement.

Ma deuxième question porte sur la loi n° 2023-566 du 7 juillet 2023 visant à instaurer une majorité numérique et à lutter contre la haine en ligne dite loi Marcangeli, qui institue une majorité numérique. Deux ans après sa promulgation, les décrets d’application n’ont toujours pas été publiés. S’agit-il d’une question de délimitation des compétences nationale et européenne ? Si le législateur français vote une loi qui ne relève pas de la compétence nationale, comment peut-elle être mise en application ? Faut-il attendre une validation de la Commission européenne ?

Madame Toledano, pourriez-vous préciser de façon plus concrète comment nous pourrions nous attaquer directement au modèle économique des plateformes ?

M. le président Arthur Delaporte. Je ne suis pas auditionné mais, concernant votre deuxième question, j’aurais pu partager mon expérience sur l’application de la loi sur les influenceurs.

Mme Célia Zolynski. Je m’intéresse de très longue date à la transposition des directives européennes en droit interne – j’y ai consacré ma thèse – et aux obligations de la France quant au respect du droit de l’Union européenne. Je comprends la démarche politique de certains députés et sénateurs, mais elle doit être coordonnée avec le respect de ces obligations. Toutefois, pour parler franchement, il faut éviter de se contenter d’une action politique forte que l’on sait vaine et qui risque de faire perdre beaucoup de temps.

Certes, il est parfois utile que la France ouvre la voie et agisse comme leader, comme cela a pu être pour la loi influenceurs ou pour la responsabilisation des plateformes, mais une coordination avec la Commission européenne me paraît essentielle. La voix de la France compte davantage quand elle s’articule avec nos obligations en droit institutionnel. Une meilleure compréhension de ces mécanismes est donc déterminante, mais je sais que c’est le cas du président. Je ne développerai donc pas davantage.

Des avancées importantes ont pu être obtenues sur le cadre juridique grâce à des actions coordonnées. Ainsi, Amazon a dû faire évoluer ses conditions problématiques de désabonnement à son service Prime sur le fondement de la directive relative aux pratiques commerciales déloyales, rappelée dans le DMA. On pourrait également citer une récente condamnation de la Cour de justice de l’Union européenne à propos du modèle pay or consent de Meta.

On peut se dire que cela prend trop de temps d’attendre une condamnation de la CJUE, mais je rappelle que des enquêtes menées par la Commission européenne sur le fondement du DSA sont sur le point d’aboutir. J’ajoute que les lignes directrices sont très prometteuses. Espérons qu’elles aboutiront à un texte final ferme sur les obligations de respect de l’article 28 du DSA imposées aux plateformes.

Encore une fois, il faut s’intéresser à la conception des plateformes et notamment au droit de paramétrage, qui devrait être imposé comme une forme d’obligation de loyauté et de prise en compte des intérêts des utilisateurs, surtout les plus jeunes d’entre eux. Je pourrai apporter des précisions sur ce point. Je pense que nous tenons ici un levier pour faire évoluer le modèle d’affaires des plateformes. Le DSA est resté timide et ne remet pas frontalement en cause ce modèle, mais on a vu que la coordination a pu le faire évoluer sur certains points. Elle devrait également porter sur le pluralisme algorithmique dans l’intérêt des médias. C’est ce que nous avions recommandé dans le cadre des états généraux de l’information.

Nous appelons à une réflexion plus globale sur l’économie de l’attention et ses effets délétères et sur le design. Mme Joëlle Toledano, qui est une grande spécialiste de ces questions sur le plan économique et moi-même, qui dispose d’une expertise juridique, nous tenons à votre disposition pour identifier les avancées à promouvoir et les marges de manœuvre de la France, dans le respect de ses obligations institutionnelles.

Mme Joëlle Toledano. La question du modèle d’affaires a été posée par un certain nombre d’économistes. Le premier levier, mis en avant par beaucoup d’entre eux, est celui de la publicité ciblée. Quelques-uns – des économistes américains qui ne sont pas les moins connus – proposent de la taxer très fortement, jusqu’à 50 %. Une autre position, développée au Parlement européen, consiste à interdire la publicité ciblée – ou non ciblée. Les influenceurs, pardon d’y revenir, sont une façon, assez géniale, de faire du ciblage sans le dire. Ce que j’ai pu lire au sujet du commerce social, c’est que les petits et les gros influenceurs ont pour intérêt de permettre de cibler un peu différemment.

L’économie de l’attention repose sur la gratuité, je l’ai dit tout à l’heure, et sur la nécessité de trouver des contreparties. Toute une économie, et c’est la difficulté du sujet, s’est construite ainsi – des commerçants arrivent à vivre parce qu’ils se sont bien positionnés dans ce cadre. La question de la publicité, qui est l’angle mort du DMA et du DSA, mais qui se trouve au cœur de ces modèles d’affaires, me paraît évidemment centrale. Ce qui est un peu perturbant au sujet des enfants, c’est que la publicité ciblée est a priori interdite à leur égard, mais qu’on trouve visiblement matière à compenser cet interdit – même si je ne sais pas exactement comment.

Une autre solution, mais j’avoue n’être pas assez subtile pour faire la différence entre la responsabilité liée à l’algorithme et la responsabilité éditoriale, serait d’engager la responsabilité des acteurs, y compris, comme on le voit aux États-Unis, les personnes chargées de fabriquer les algorithmes. Il en résulterait automatiquement, j’en suis absolument certaine, une véritable évolution des modèles d’affaires et c’est d’ailleurs la raison pour laquelle cette solution ferait l’objet d’une opposition politique extraordinaire de la part des acteurs concernés. Je pense que la liberté d’expression est prise en otage dans un certain nombre de cas.

Personnellement, je suis désolée de le dire, je n’ai pas été convaincue jusqu’à présent par la proposition relative au pluralisme algorithmique, pour les raisons que j’évoquais tout à l’heure. Puisque le modèle d’affaires de l’économie de l’attention ne serait pas remis en cause, je crains que TikTok, s’il n’existait plus, soit remplacé par TokTik. J’adorerais que ce genre de solutions fonctionne, comme on l’a vu dans les télécoms, mais, à modèle économique constant, j’ai un petit doute.

M. Guilhem Julia. S’agissant des algorithmes, il sera extrêmement difficile de contraindre les plateformes à révéler leurs secrets de fabrication. C’est le trésor d’un réseau comme TikTok. Les contenus étant très courts, leur viralité est très forte et l’algorithme se nourrit de ce que vous visionnez beaucoup plus rapidement que sur les autres plateformes : il va très vite pouvoir vous recommander des contenus similaires. Les développeurs de TikTok, on le sait, travaillent énormément sur ce point. La société ByteDance a beaucoup investi dans les algorithmes – il existe non pas un, mais plusieurs algorithmes de recommandation, qui sont mis à jour continuellement. Au niveau juridique, ils sont protégés au titre de la propriété intellectuelle. En France, le droit d’auteur protège notamment le code source et le code objet. Par ailleurs, je crois qu’une protection est également possible dans le cadre du secret des affaires – du secret industriel.

Des règles ont été adoptées en France à propos de la transparence algorithmique, mais elles concernaient les algorithmes des décisions administratives, dans l’open data mis en place par la loi de 2016 pour une République numérique. Quand un citoyen fait l’objet d’une décision prise, pour partie, sur la base d’un algorithme, on a considéré qu’il fallait lui transmettre des éléments sur le fonctionnement de l’algorithme et la façon dont la décision a été prise. Mais cette transparence ne porte que sur les algorithmes liés aux décisions administratives : je ne pense pas qu’on puisse appliquer la même règle à des algorithmes de l’e-commerce ou des réseaux sociaux, c’est-à-dire des plateformes dont nous parlons. À mon avis, il sera très difficile d’obtenir des changements dans la conception de leurs algorithmes – c’est même complètement illusoire.

Par ailleurs, il faut bien comprendre que ce sont les conséquences des algorithmes qui peuvent être négatives et non les algorithmes en tant que tels. Quand on utilise un moteur de recherche ou un site d’e-commerce, on a affaire à un algorithme de recommandation, qui n’est pas forcément préjudiciable. La technologie permettant de recommander des contenus personnalisés n’est pas en tant que telle nocive, me semble-t-il. C’est lorsque l’algorithme recommande des contenus douteux, toxiques, qu’il existe un problème, ce qui est le cas s’agissant de TikTok quand des contenus peuvent affecter la santé mentale et physique des mineurs.

De même, on ne peut pas interdire la publicité ciblée, selon moi, et je ne suis pas convaincu que la taxer serait une bonne idée : c’est le modèle économique des plateformes. Si les services sont gratuits, c’est parce qu’en contrepartie la publicité ciblée est là, c’est-à-dire l’exploitation des données personnelles des utilisateurs. À la suite d’une décision de la Cour de justice de l’Union européenne, déjà évoquée, on a considéré que Meta ne pouvait pas imposer la publicité ciblée à ses utilisateurs, notamment sur Facebook, sans requérir leur consentement. Facebook a donc proposé le système pay or okay : si on paie tous les mois un abonnement, on n’a plus de publicité ciblée. Mais un recours a été introduit contre ce système par l’association None of Your Business, pour qui il est fou d’avoir à payer quelque chose pour que sa vie privée soit respectée. Selon cette association, c’est une espèce de monétisation d’un droit fondamental, ce qui n’est pas satisfaisant non plus.

En ce qui concerne les signalements, je commencerai par un point assez étonnant. Lorsqu’on fait un signalement, qui décide d’y faire droit ou non ? C’est la plateforme elle-même, ce qui soulève un vrai problème de gouvernance d’internet en général. Sous prétexte que leur service touche le monde entier, des plateformes s’arrogent un peu un rôle de législateur, ou du moins de juge. C’est exactement la même chose lorsque vous faites une demande dans le cadre du droit au déréférencement : c’est Google qui examine si cette demande paraît légitime. En vérité, cela devrait être le travail d’un juge, mais la plateforme est forcément mieux placée pour le faire, notamment quand il s’agit de prendre une décision rapide. Par ailleurs, le refus de la plateforme de faire droit à une demande de déréférencement peut faire l’objet d’un recours devant un juge. Mais est-ce bien aux plateformes de juger si tel contenu est licite ou non, doit être retiré ou non ? La question de la licéité des contenus relève de textes de droit, à commencer par le DSA.

Le vrai problème, concrètement, c’est que s’il existe des outils de signalement, encore que, s’agissant de TikTok, ils ne soient pas facilement accessibles, comme le requiert pourtant le DSA – le signalement n’est pas possible dès la page de la publication, il faut déployer deux sous-menus –, on voit que les signalements restent lettre morte. J’ai ainsi contesté un refus de prise en compte d’un signalement auprès de TikTok et je n’ai toujours pas de nouvelles, alors que j’avais bien motivé ma demande, comme vous pouvez vous en douter. Mm Joëlle Toledano l’a un peu dit, en apparence les plateformes se mettent en conformité, en proposant des outils de signalement, mais la mise en œuvre de la réglementation n’est pas du tout effective. C’est pourquoi il serait plus simple, à mon avis, de bannir dès le début certains contenus, au lieu d’attendre que des signalements soient pris en compte et aboutissent enfin à un retrait. Pendant ce temps, le contenu est en ligne et il continue de causer des préjudices.

M. le président Arthur Delaporte. Pourriez-vous nous dire à quels contenus vous avez été exposé et le type de signalement que vous avez fait ? En quoi était-ce facile ou non ? Quel type de réponse vous a été apporté et avez-vous fait appel ?

M. Guilhem Julia. J’ai fait des captures d’écran des différentes étapes du signalement et des contenus litigieux, que je pourrai envoyer au secrétariat de la commission.

Je suis tombé sur une série de contenus glorifiant des comportements alimentaires dangereux, des automutilations et des comportements suicidaires. Un contenu, ou plutôt le compte entier d’une jeune fille, a particulièrement retenu mon attention. On la voit tous les jours, en plan fixe, en train de faire une crise de boulimie.

J’ai fait un signalement. Lorsque vous êtes sur la publication, il faut aller, ce qui n’est pas du tout intuitif, sur l’onglet permettant de partager le contenu, comme si vous vouliez envoyer celui-ci à quelqu’un, sur un autre réseau social. Lorsque vous avez ouvert l’onglet de partage, un nouvel écran s’affiche et, en bas à gauche, vous trouvez l’onglet « signaler ». Une série de motifs est alors proposée – en l’occurrence, celui des troubles alimentaires du comportement correspondait parfaitement. J’ai fait un signalement, mais je n’ai pas eu la possibilité de le motiver ou de dire quoi que ce soit. On m’a répondu, deux jours plus tard, qu’aucune infraction aux règles de la communauté n’avait été détectée. On m’a alors demandé si je voulais changer le motif du signalement ou refaire celui-ci, en me donnant cette fois la possibilité d’argumenter, dans un espace de discussion.

J’ai tout simplement fait une copie d’écran des règles communautaires de TikTok, qui sont limpides : TikTok n’autorise pas la présentation et la promotion des troubles du comportement alimentaire – cela figure dans l’onglet « santé mentale et comportementale » des principes communautaires de TikTok. J’ai expliqué que les vidéos d’une jeune fille filmant chaque jour ses crises de boulimie entraient, à mon sens, dans cette catégorie. Je n’ai pas eu de nouvelles après ce nouveau signalement.

M. le président Arthur Delaporte. Nous aurons l’occasion d’interroger TikTok à ce sujet. N’hésitez pas à nous transmettre les éléments que vous avez évoqués et à nous dire si une réponse est apportée par la suite.

M. Guilhem Julia. Je vous transmettrai toutes les captures d’écran et toutes les pièces dont je dispose.

Mme Célia Zolynski. Nous avons beaucoup réfléchi à ces questions. La Commission nationale consultative des droits de l’homme, au sein de laquelle je siège en tant que personnalité qualifiée, a eu l’occasion d’examiner la proposition de loi de Mme Avia relative à la lutte contre la haine en ligne. Nous avions anticipé dans notre avis la décision, de 2020, du Conseil constitutionnel. Je voudrais porter à votre attention une exigence juridique, qui concerne aussi nos valeurs démocratiques fondamentales. Bannir d’emblée certains contenus peut poser une question. Ce n’est pas le cas s’ils sont illicites, c’est-à-dire manifestement contraires au droit français et au droit de l’Union européenne – je rappelle, à cet égard, que la France a compétence pour qualifier d’illicites certains contenus, comme nous l’avons fait récemment pour des contenus dits fake à caractère sexuel, dans le cadre de la loi n° 2024-449 du 21 mai 2024 visant à sécuriser et à réguler l’espace numérique dite SREN. En la matière, les plateformes ont une obligation de retrait « dans un prompt délai » et elles engagent leur responsabilité si elles ne s’exécutent pas. En revanche, on sait toute la difficulté que peuvent poser des contenus préjudiciables, qui ne sont pas illicites et qui, séparément, peuvent ne pas avoir un effet délétère considérable, mais qui sont extrêmement préjudiciables, notamment aux plus jeunes utilisateurs. Ce qu’a rappelé mon collègue au sujet de TikTok est tout à fait problématique et choquant. Il faut trouver le moyen d’agir contre les effets d’amplification des contenus toxiques.

Les lignes directrices – je suis désolée d’insister sur ce document mais il me semble qu’il recèle des clefs – indiquent tout d’abord, au sujet de la modération, que les plateformes doivent préciser ce qu’elles entendent par « contenus préjudiciables ». Pour éviter la difficulté à laquelle mon collègue a été confronté, il faudrait que TikTok, si on ne considère pas que cette plateforme est de mauvaise foi, identifie clairement dans ses conditions générales d’utilisation et dans ses règles de communauté, dont le respect s’impose en vertu du DSA, ce qui relève des contenus préjudiciables. Les signalements pourraient ainsi être plus efficients. S’agissant de la promotion des troubles du comportement alimentaire, par exemple, il faudrait savoir exactement quels contenus entrent dans cette catégorie, au moyen d’exemples précis. Cela permettrait non seulement d’exercer un contrôle, mais aussi de faciliter les signalements des utilisateurs.

On l’a vu, en effet, à propos de la lutte contre la haine en ligne – je travaille sur ce sujet avec bon nombre de très jeunes utilisateurs –, bien souvent ces derniers ne savent pas si un contenu relève de la haine en ligne, si c’est un contenu toxique. Ces hésitations conduisent à ne pas faire de signalement, d’autant qu’on ne veut pas dénoncer, même si c’est une autre question. Il faudrait des règles claires sur ce qui peut être signalé et ce qui ne peut pas l’être, dans le cadre des règles de la communauté et des conditions générales d’utilisation de la plateforme, afin de permettre un contrôle efficient sur le plan de la mise en œuvre.

Par ailleurs, d’autres fondements sont possibles, notamment le droit des pratiques commerciales déloyales. Quand une plateforme annonce qu’elle modère certains contenus mais ne le fait pas, on peut agir sur ce fondement, qui est extrêmement efficient.

Soyons prudents à l’égard de solutions qui paraîtraient peut-être pertinentes mais pourraient en réalité se révéler problématiques, comme un bannissement trop général de contenus qui ne préserverait pas la liberté d’expression, le droit de certaines personnes de partager certains états, certaines analyses. On a vu ce qu’il en était avec la lutte contre la haine en ligne ou l’éducation à la vie affective et sexuelle. Il faut faire attention à préserver l’ensemble de l’édifice.

M. Guilhem Julia. Je suis entièrement d’accord. Le bannissement est une solution très radicale, qui porte atteinte, notamment, à la liberté d’expression. J’imagine aussi que les jeunes filles qui partagent de tels contenus sur TikTok ont, en fait, besoin de s’exprimer. C’est peut-être une partie d’une thérapie pour elles, si tant est qu’elles soient favorables à cela et qu’elles en aient envie. J’imagine la violence que pourrait représenter pour elles l’interdiction de partager leurs contenus.

Une autre idée, plus respectueuse de la liberté d’expression, serait de rassembler dans des groupes ces publications, qui ne sont pas nécessairement illicites mais peuvent tout du moins être préjudiciables, selon l’état psychologique des personnes qui les regardent. Un avertissement permettrait de prévenir les utilisateurs de la plateforme qu’il s’agit de contenus potentiellement préjudiciables, mais il faudrait surtout que ces publications soient retirées du fil algorithmique « pour toi » de TikTok. Ainsi, la publication ne pourrait plus être soumise passivement à l’utilisateur, imposée dans le cadre de la spirale dont il a beaucoup été question. Ce serait plutôt une posture active de l’utilisateur qui le conduirait, en connaissance de cause, vers ces contenus. Une telle forme de modération permettrait peut-être de restreindre un peu la toxicité de ces contenus tout en permettant à leurs auteurs de s’exprimer, de les partager avec certains utilisateurs. Cela pourrait être une solution.

Mme Célia Zolynski. Les lignes directrices vont dans ce sens. Il doit être possible de modifier les paramètres du système de recommandations, par la reconnaissance de préférences qui influencent directement ces dernières, et de mettre en place des mécanismes de signalement et de retour d’informations pertinents, qui ont un impact rapide. Parfois, l’utilisateur indique qu’il ne veut pas voir davantage de contenus similaires, mais ce n’est pas suivi d’effets. Dès lors, on peut considérer l’interface de choix comme trompeuse, ce qui peut être sanctionné en tant que tel. La possibilité de modifier son fil de recommandations, de faire un reset – réinitialisation – lorsqu’on est enfermé dans une spirale de contenus toxiques, est déterminante, de même que la possibilité de proposer de nouveaux contenus après un certain temps d’interaction, pour éviter l’effet « trou de lapin ».

Je vous invite à œuvrer vraiment le plus possible pour limiter l’effet spirale, qui est éminemment toxique. On attend, à cet égard, les résultats de l’enquête de la Commission européenne sur TikTok et Meta, mais il est possible de travailler d’ores et déjà en vue d’imposer une conception qui interdise – j’irai jusque-là – l’effet spirale de contenus délétères. Votre audition des familles de victimes regroupées dans le collectif Algos Victima en a souligné la nécessité. Saisissons-nous de la question de la conception des services pour forcer – c’est possible, selon moi – une évolution des algorithmes de recommandations.

Mme Joëlle Toledano. Je suis évidemment d’accord avec ce qui vient d’être dit.

Au-delà des questions de la consultation des ados, des jeunes, de ce que tout cela peut signifier pour eux, du temps passé sur les plateformes et des catastrophes, bien sûr trop nombreuses, qui se produisent, je reviens sur l’idée plus générale qu’il serait bon d’avoir des éléments d’appréciation et de compréhension. J’ai été frappée de voir que des entreprises vendaient à toute une série de secteurs – acteurs de la mode, vedettes de sport... – des services consistant à suivre ce qui se passe sur les réseaux à leur propos, pour canaliser les choses et les comprendre un tout petit peu.

J’ai ainsi repéré une entreprise qui s’appelle Bodyguard. Il me semble qu’il serait intéressant que vous l’auditionniez, car elle a créé un observatoire de la haine en ligne. Si elle constituait un observatoire des jeunes, à partir d’un échantillon, cela permettrait d’avoir des éléments qui nous manquent pour rendre factuel ce qui se passe, au lieu de seulement attraper des catastrophes. À ce sujet, les enseignants nous disent que la première des catastrophes, c’est que les enfants dorment à l’école.

Pourquoi ne pas essayer de se doter d’un outil qui permettrait d’appréhender la situation d’une manière plus factuelle ? Je ne sais pas si vous aviez noté l’existence de cet observatoire de la haine en ligne – je pourrai vous envoyer un lien. Cela donne envie de faire d’autres choses qui seraient un peu dans le même esprit.

M. le président Arthur Delaporte. C’est bien noté. Mme la rapporteure sera libre de faire les recommandations qu’elle souhaite, mais cela pourrait éventuellement être intégré dans le rapport.

Mme Célia Zolynski. Bodyguard mène effectivement une action extrêmement intéressante, notamment en matière d’analyse de l’utilisation d’émojis – en forme d’arbre ou de pizza, par exemple – pour contourner les mécanismes de modération des contenus haineux et en matière de suivi, en temps réel, de l’évolution de l’ensemble des communautés, à l’imaginaire très fertile, qui mettent en avant les discours haineux. La proposition formulée par Mme Joëlle Toledano est essentielle, mais je voudrais aussi porter à votre connaissance d’autres mécanismes – c’était, je crois, l’un des derniers points de votre questionnaire écrit – qui pourraient servir de sources d’inspiration pour la France.

Nous avons formulé des recommandations dans le cadre de la mission Enfants et écrans afin de construire vraiment un dialogue avec les jeunes utilisateurs, qui sont les premières vigies des nouvelles pratiques. Ils ne les identifient pas toujours comme délétères pour eux, mais certains le font très bien – il existe, dans ce domaine, une différence de génération intéressante. Nous menons, avec mes étudiants de Paris 1, un certain nombre d’actions pour mobiliser différentes générations de jeunes sur le déploiement d’outils en la matière – je pourrai ainsi vous faire part des actions de l’association ADN sans haine. Cette question est également au cœur d’un mécanisme mis en place en Australie par l’eSafety, qui a créé un conseil de jeunes pour l’aider à élaborer les documents de sensibilisation et les lignes directrices – qui portent là-bas un autre nom – pour les opérateurs.

Il est essentiel d’assurer une telle courroie de transmission et de mettre en place des mécanismes de signalement extrêmement rapides, à l’image de l’alerte enlèvement. Quand émerge une pratique qui emporte des effets délétères, comme le SkinnyTok, et qui s’amplifie très vite, compte tenu du fonctionnement de TikTok, il me paraît déterminant que des signalements puissent avoir lieu, afin que des actions de sensibilisation des plus jeunes soient menées, y compris au sein de l’éducation nationale – on le voit bien avec toutes les mécaniques de sextorsion et la déferlante d’applications de dénudage qui arrive en France.

M. le président Arthur Delaporte. Je vous remercie. Nous sommes preneurs de synthèses, de témoignages et de tout complément que vous voudriez nous transmettre. Vous pourrez notamment nous écrire pour préciser ce que vous avez observé ailleurs en matière de bonnes pratiques – cela ne pourra qu’alimenter la dimension prospective et les propositions du rapport. Je rappelle également que nous sommes ouverts à tous les témoignages à l’adresse suivante : [email protected].

33. Audition de M. Bernard Basset, président de l’Association Addictions France, M. Franck Lecas, responsable du pôle projets politiques publiques et Mme Louise Lefebvre-Lepetit, chargée de mission plaidoyer (lundi 26 mai 2025)

La commission auditionne M. Bernard Basset, président de l’Association Addictions France, M. Franck Lecas, responsable du pôle projets politiques publiques et Mme Louise Lefebvre-Lepetit, chargée de mission plaidoyer ([32]).

M. le président Arthur Delaporte. Je vous remercie d’avoir sollicité cette audition auprès de la commission d’enquête.

L’article 6 de l’ordonnance du 17 novembre 1958 relative au fonctionnement des assemblées parlementaires impose aux personnes auditionnées par une commission d’enquête de prêter le serment de dire la vérité, toute la vérité, rien que la vérité.

(M. Bernard Basset, M. Franck Lecas et Mme Louise Lefebvre-Lepetit prêtent successivement serment.)

Je vous remercie également de signaler tout intérêt public ou privé de nature à influencer vos déclarations.

M. Bernard Basset, président de l’association Addictions France. L’appartenance à l’association exclut tout lien d’intérêt avec des lobbies pouvant générer des addictions, qu’il s’agisse du numérique, de l’alcool ou du tabac.

De notre point de vue, les réseaux sociaux sont particulièrement dangereux en raison d’un mécanisme addictif qui tient, d’une part, à l’outil numérique, c'est-à-dire aux algorithmes employés par les plateformes pour retenir leurs utilisateurs, et d’autre part aux produits ou aux comportements addictifs promus dans les contenus, comme la consommation d’alcool, les jeux et les paris sportifs. Les algorithmes sont basés sur le renforcement de la préférence ; la recherche de plaisir étant le point de départ des addictions, ils renforcent donc les mécanismes d’addiction. Ils ont également pour effet d’enfermer l’utilisateur dans une bulle informationnelle en resserrant les contenus proposés sur les centres d’intérêt identifiés. De ce fait, les réseaux focalisent l’attention et limitent la curiosité intellectuelle par effet d’entonnoir.

M. Franck Lecas, responsable du pôle projets politiques publiques. Le même mécanisme est à l’œuvre pour les publicités sur les plateformes de Meta, où le recueil de cookies permet de cibler de manière toujours plus précise une population donnée – il y a moins de publicité sur TikTok. Les offres de gratification des sites de paris sportifs sont ainsi destinées aux personnes utilisant les plateformes des opérateurs de jeux et identifiées comme telles.

Notre travail a commencé en 2021. Il consiste à identifier les contenus promouvant des produits dangereux sur les réseaux sociaux, comme l’alcool et les paris sportifs, et à les faire supprimer, à plus forte raison lorsqu’ils sont permanents. Au début, nous avons rencontré des difficultés. Nos actions en justice, notamment sur des contenus liés à l’alcool enfreignant la loi n° 91-32 du 10 janvier 1991 relative à la lutte contre le tabagisme et l’alcoolisme dite loi Évin, ont permis une légère amélioration. Sur TikTok, nous avons eu accès à la trustee procedure, qui préfigure la procédure prévue par le règlement (UE) 2022/2065 du Parlement européen et du Conseil du 19 octobre 2022 relatif à un marché unique des services numériques et modifiant la directive 2000/31/CE dit Digital services act (DSA). Pour Meta, à partir du moment où nous avons fait condamner la plateforme, nous avons atteint un taux de retrait d’environ 70 %, ce qui est critiquable mais bien meilleur qu’au démarrage. Néanmoins, nous ne comprenons pas par quel mécanisme la procédure aboutit ou non à un retrait. Nous essuyons parfois de la part de Meta des refus non expliqués qui nous obligent à saisir la justice afin de déterminer si le contenu est bien illégal.

En outre, les contenus éphémères – les stories et les lives – passent sous les radars de la régulation. Les contenus sur TikTok sont pour l’essentiel des contenus permanents, mais il existe désormais des contenus éphémères dans la catégorie « Pour toi ». Si les modalités de contrôle a posteriori semblent s’améliorer, rien n’existe pour anticiper les infractions. Nous sommes contraints de maintenir une veille permanente pour supprimer ces contenus dont le nombre ne baisse pas avec le temps.

Mme Louise Lefebvre-Lepetit, chargée de mission plaidoyer. Les algorithmes sont au cœur de l’addiction, aussi bien aux réseaux sociaux qu’aux produits qui y sont valorisés. À nos yeux, il faut responsabiliser les acteurs du numérique plutôt que les parents.

Mme Laure Miller, rapporteure. Il ressort de nos auditions que la dépendance aux écrans reste une notion controversée dans le milieu scientifique. Dans quelle mesure considérez-vous que les réseaux sociaux relèvent de l’addiction ?

Voyez-vous une spécificité dans le fonctionnement de TikTok qui rendrait cette plateforme particulièrement addictive ?

Vous avez dit que les contenus problématiques étaient désormais plus facilement retirés sur Meta. Quel est votre taux de retrait sur TikTok ? Les choses vont-elles en s’améliorant ?

Enfin, pourriez-vous détailler les politiques de prévention que vous mettez en œuvre ?

M. Bernard Basset. Effectivement, le sujet fait débat : s’agit-il d’une addiction aux écrans ou aux contenus ? La réflexion se poursuit. Vous avez auditionné la semaine dernière les docteurs Amine Benyamina et Servane Mouton, coprésidents de la commission d’experts sur l’impact de l’exposition des jeunes aux écrans. Ils ont adopté une position pragmatique qui consiste à remédier aux effets constatés sans prendre position sur le plan théorique.

Même si les écrans sont partout, nous avons tendance à considérer qu’il s’agit principalement d’une addiction aux contenus, favorisée par l’algorithme, qui est un facteur additionnel : quand un contenu court et éphémère produit du plaisir, on a tendance à le renouveler. C’est pourquoi nous sommes très attentifs à la fois au fonctionnement des plateformes et à ce qu’elles proposent. Elles créent un environnement qui favorise les comportements addictifs, aussi bien du fait de l’algorithme et de la vitesse à laquelle les contenus s’enchaînent qu’en raison des produits promus. Je rappelle que la promotion de l’alcool enfreint la loi Évin et que celle des paris sportifs contrevient aux recommandations de l’Autorité nationale des jeux (ANJ).

Nous réussissons davantage sur TikTok, où le taux de retrait des contenus signalés comme illégaux atteint 95 % – principalement des infractions à la loi Évin –, que sur Meta, où il n’est que de 76 %. Cela n’inclut pas les contenus éphémères, pour lesquels nous sommes dans l’incapacité de produire une preuve devant le juge car le contenu disparaît avant que nous ayons le temps de le faire constater par un commissaire de justice.

M. Franck Lecas. Je ne voudrais pas faire passer TikTok pour un bon élève, mais il est vrai que son taux de retrait est plus satisfaisant que celui de Meta. Nous rencontrons néanmoins des problèmes autour des contenus restreints, dont on ne sait pas très bien à quoi ils correspondent. Si j’ai bien compris, il ne s’agit pas d’un blocage territorial, mais d’empêcher le contenu de s’afficher sur la page « Pour toi ». Il est évident que cette réponse est insuffisante lorsque le contenu en question est illégal. Nous sommes en discussions avec TikTok pour en savoir plus.

Le délai de retrait sur TikTok a été amélioré : il est désormais compris entre un et cinq jours, contre dix au début de notre action. Cependant, le retrait des contenus n’entraîne pas nécessairement la suppression du compte et, le cas échéant, le créateur de contenus contrevenant à la loi ou aux règles de TikTok peut toujours recréer un compte ou basculer sur une autre plateforme. Cela nous oblige à multiplier les actions, ce qui entraîne une perte de temps et un gâchis d’argent public.

M. le président Arthur Delaporte. Pour rebondir sur cette question de la modération et des transferts entre plateformes, avez-vous constaté que certains influenceurs jugés problématiques sur d’autres réseaux, comme Instagram, s’étaient reportés sur TikTok ?

M. Franck Lecas. Très concrètement – et comme nous nous exprimons sous serment, je dois être exact –, nous avons observé l’inverse, c’est-à-dire des tiktokeurs bannis de TikTok qui se sont rabattus sur Meta.

Je pense par exemple à Zackii, dont le compte TikTok a été supprimé et recréé plusieurs fois. Sur ce point, nous avons d’ailleurs un peu de mal à comprendre comment fonctionne TikTok, puisque nos signalements n’empêchent pas les personnes concernées de créer de nouveaux comptes.

M. le président Arthur Delaporte. Quelle est la nature du problème posé par cet utilisateur ?

M. Franck Lecas. Ce monsieur crée des cocktails mêlant différents alcools qui contiennent souvent aussi des friandises – du Kinder Bueno, de la barbe à papa –, ce qui, au-delà du fait que cela cible de façon un peu tendancieuse une population jeune, dépeint surtout une consommation d’alcool ludique.

M. Bernard Basset. C’est illégal, tout simplement.

M. Franck Lecas. En effet : il n’y a pas vraiment de débat sur ce point. Son compte a donc été supprimé, mais il le recrée périodiquement, ce dont il se vante d’ailleurs, puisqu’il revendique, dans son palmarès, trois comptes bannis sur TikTok, ce qui est assez cynique – ou irrévérencieux, je ne sais pas. En tout cas, cet influenceur a maintenant aussi créé un compte sur Instagram, au cas où. Dans ce type de situations, signaler encore et encore les contenus problématiques n’est donc pas très efficace.

Mme Laure Miller, rapporteure. Pouvez-vous nous dire quelques mots des politiques de prévention que vous conduisez ?

M. Bernard Basset. Nous menons des politiques de prévention globale à l’intention des jeunes, en particulier à travers ce que nous appelons des programmes probants, dont l’efficacité est certifiée par Santé publique France, la HAS (Haute Autorité de santé) ou d’autres institutions. Les programmes destinés aux jeunes visent principalement à renforcer les compétences psychosociales, c’est-à-dire la capacité à dire non à une sollicitation ou à des effets de groupe de pairs qui incitent à consommer. Des programmes financés par le fonds de lutte contre les addictions sont ainsi déployés auprès des populations scolaires.

La prévention passe aussi par le fait d’avertir les plateformes quand elles proposent des contenus illégaux, de faire de la pédagogie auprès d’elles pour qu’elles retirent ceux qui sont déjà en ligne et qu’elles ne recommencent pas. C’est évidemment un peu plus difficile – vous en avez eu un aperçu.

Nous avions également milité, lors de l’examen de la proposition de loi devenue la loi n° 2023-451 du 9 juin 2023 visant à encadrer l’influence commerciale et à lutter contre les dérives des influenceurs sur les réseaux sociaux, en 2023, pour que ces derniers ne puissent faire aucune publicité, directe ou indirecte, pour les alcools. Cette option, qui n’a pas été retenue par le Gouvernement, serait une solution structurelle en matière de promotion des boissons alcooliques sur les plateformes.

Nous participons aussi, à l’instar d’autres associations, à des opérations de prévention générale sur les paris sportifs et d’autres thèmes, le plus souvent avec Santé publique France ou les services du ministère de la santé.

M. le président Arthur Delaporte. Vous avez indiqué disposer d’un canal de signalement privilégié auprès de TikTok, qui permet le retrait des contenus dans 95 % des cas. Avez-vous des contacts directs et identifiés pour remonter des problèmes tels que les recréations de compte que vous décriviez ?

M. Franck Lecas. Oui. C’est d’ailleurs un processus laborieux pour nous, car cela nécessite chaque fois une nouvelle démarche, et les collaborateurs de TikTok avec qui nous communiquons changent fréquemment – d’après ce que j’ai compris, la modération est assurée depuis l’Irlande. Actuellement, nous avons un contact français, même si je ne sais pas exactement où il se situe dans l’institution TikTok. Nous pouvons donc effectivement communiquer avec eux directement, ce qui n’est pas le cas pour toutes les plateformes.

M. le président Arthur Delaporte. Vous leur avez donc dit de manière explicite, et pas simplement par un formulaire, que le compte de Zackii, par exemple, a été recréé trois fois ?

M. Franck Lecas. Exactement. Plus précisément, nous l’avons fait une première puis une deuxième fois, et nous envisageons désormais d’autres solutions plus contraignantes vis-à-vis de cet influenceur, en espérant que cela le dissuade davantage : vous l’aurez compris, nous allons probablement engager une action contentieuse. Nous avons donc mis de côté les signalements le concernant, puisque les actions préventives ne fonctionnent pas avec lui. Il ne nous laisse pas vraiment d’autre choix, d’autant qu’il n’a pas été particulièrement sympathique à notre égard et nous a dénigrés dans une vidéo.

M. le président Arthur Delaporte. On parle beaucoup de la modération par les plateformes, mais, s’agissant de contenus clairement illicites, comme dans ce cas précis, se pose la question de la judiciarisation. Qu’en est-il de votre capacité à engager des actions judiciaires ? Est-il difficile d’engager de telles démarches ? Aboutissent-elles rapidement ?

M. Franck Lecas. Comme je l’indiquais, le fait d’agir en justice nous a permis de débloquer la situation avec TikTok et de nous donner accès à une procédure spécifique qui nous permet d’agir directement auprès d’eux, ce qui n’a pas été le cas pour Meta.

Au-delà de nos liens avec les plateformes, la judiciarisation apporte des résultats qui peuvent être rapides, puisqu’il existe, depuis la loi n° 2004-575 du 21 juin 2004 pour la confiance dans l’économie numérique, une procédure accélérée au fond qui nous permet d’agir vite et de citer rapidement des utilisateurs. Nous n’engageons cependant pas une action pour chaque contenu : nous attendons d’en avoir accumulé suffisamment pour que l’action soit rentable et efficiente, d’abord parce que nous ne sommes pas très riches – nous sommes une association –, mais aussi parce que nous ne souhaitons pas encombrer les tribunaux outre mesure, de peur de créer une saturation, de gêner le juge et d’aboutir à une décision défavorable. Nous faisons donc très attention à ne pas trop user de ce levier : c’est une stratégie réfléchie de notre part. Nous agissons avec parcimonie, sur des cas qui ne nous semblent pas poser de difficulté juridique.

Si ces procédures sont efficaces, la contrepartie est qu’elles prennent du temps. Le délai précis figure dans notre rapport intitulé Les réseaux sociaux, un nouveau Far West et il dépend du stade de la procédure auquel on se situe, mais il excède souvent deux ans : en moyenne, l’attente est tout de même assez longue.

M. le président Arthur Delaporte. Quelle est la nature de vos liens avec l’Autorité de régulation de la communication audiovisuelle et numérique l’Arcom ? Quel type de signalements lui faites-vous ?

M. Franck Lecas. J’ai lu dans le questionnaire que vous nous avez transmis que vous établissez un lien entre l’Arcom et le DSA. Ce lien existe effectivement, puisque c’est l’Arcom qui nous a accordés, en avril dernier, le statut de signaleur de confiance créé par le DSA.

Je ne saurais vous en dire beaucoup plus quant à l’efficacité de ce statut, car nous ne l’avons pas encore mis en œuvre, pour deux raisons. D’abord, nous devons nous organiser en interne pour définir quels contenus signaler et quel protocole appliquer.

Ensuite, nous n’avons pas toutes les clés pour mettre ce statut à profit. Chez TikTok, une procédure spécifique a été créée, sans que nous comprenions exactement comment elle fonctionne à ce stade : nous n’avons pas réussi à l’appliquer. Il semble qu’il y ait un blocage, ce qui n’est pas le cas pour leur ancienne trustee procedure, qui existe toujours et qui cohabitera avec la nouvelle procédure. Le même constat vaut pour les autres plateformes : YouTube et Meta ne nous ont pas répondu et, si certains réseaux sont venus vers nous pour nous enjoindre d’utiliser cette procédure et nous donner les clés, nous n’avons pas réussi à les faire fonctionner – nous n’avons pas trouvé la serrure, en quelque sorte.

Nous n’utilisons donc pas encore ce nouveau statut de signaleur de confiance, mais nous comptons le faire dans le courant de l’année. Nous pourrons alors comparer l’efficacité d’un signalement classique et celle d’un signalement DSA. Nous ferons régulièrement des comptes rendus à qui voudra les lire.

Quant à l’Arcom, chaque citoyen peut lui faire des signalements. Nous lui en adressons, y compris à propos de contenus publiés sur des réseaux sociaux, dont YouTube. Nous l’avons par exemple saisie d’un clip du rappeur SCH, bien connu à Marseille et maintenant dans la France entière, à qui elle a demandé de flouter des éléments faisant de la publicité pour l’alcool, ce qui n’est pas une sanction particulièrement contraignante. À l’occasion d’un autre signalement, l’Arcom a demandé à l’auteur d’un contenu de couper les éléments problématiques, ce qui est également une sanction relativement douce. À notre connaissance, elle n’a pas imposé de sanctions plus lourdes pour l’instant.

Mme Laure Miller, rapporteure. Avez-vous des recommandations à formuler en matière de politique de santé publique ?

M. Bernard Basset. Nous avons commencé par dénoncer l’effet pervers de l’algorithme utilisé par nombre de ces plateformes. Sans vouloir faire sa promotion, Dailymotion utilise un système différent, qui propose des contenus en dehors des préférences déjà identifiées. Or il est plus stimulant intellectuellement de ne pas être enfermé dans un entonnoir de préférences qui se renforcent chaque fois qu’on clique sur un contenu.

Se pose aussi la question du temps d’exposition aux écrans. Une solution technique consisterait à rendre le visuel moins attractif après une durée à déterminer – trente minutes, une heure –, par exemple en le passant en noir et blanc, afin que le fait de rester devant l’écran devienne moins attirant à mesure que le temps s’écoule.

Pour lutter contre le non-respect de la loi Évin sur les réseaux sociaux, en particulier par les influenceurs, nous ne voyons pas d’autre solution que d’interdire à ces derniers de promouvoir l’alcool. Cette publicité est un des moteurs les plus puissants de la consommation : parce que les jeunes s’identifient à un jeune qui leur ressemble et qui leur apparaît dans une situation valorisante, ils s’identifient aussi à son comportement et à ce qu’il promeut, que ce soient des vêtements ou de l’alcool. S’agissant des produits dangereux, en particulier pour la jeunesse – et on sait que l’alcool est dangereux pour le cerveau des jeunes –, il n’y a pas d’autre solution que d’interdire leur promotion sur les réseaux sociaux. C’est une mesure assez radicale, mais nous n’en avons pas d’autre à disposition.

Il y a enfin le problème de la vérification de l’âge minimal requis pour accéder à certains contenus. Il est difficile à résoudre et je ne suis pas compétent pour me prononcer sur les mesures techniques à prendre, mais, sur le principe, un contrôle efficace de l’âge doit être instauré avant de permettre l’accès à ces plateformes et aux contenus qu’elles promeuvent.

M. le président Arthur Delaporte. Avant que nous mettions fin à cette audition, voulez-vous porter des éléments supplémentaires à notre connaissance ?

Mme Louise Lefebvre-Lepetit. Il est très important que ce soient les acteurs du numérique qui prennent en charge la réponse à ces revendications, qu’il s’agisse de la vérification de l’âge – en demandant des justificatifs – ou des mesures techniques permettant de limiter le temps d’exposition. Les plateformes doivent mettre en œuvre ces mesures et les proposer de manière claire et accessible à tous les utilisateurs, mineurs comme adultes – car les adultes peuvent aussi être concernés par ces formes d’addiction. Elles doivent prendre en charge ces actions, et pas simplement laisser aux parents la responsabilité d’activer le contrôle parental et de vérifier ce que font leurs enfants.

M. Bernard Basset. Il ne s’agit effectivement pas de culpabiliser les parents, qui font face à des réseaux sociaux et à des plateformes redoutables. Ces acteurs doivent être régulés et ont les moyens d’instaurer toutes les mesures nécessaires pour respecter la loi.

M. le président Arthur Delaporte. Merci pour vos réponses. Mme la rapporteure et moi-même restons à votre entière disposition pour tout élément complémentaire que vous souhaiteriez nous communiquer.

M. Bernard Basset. Nous vous retournerons le questionnaire que nous avons reçu vendredi dernier.

34. Audition de Mme Bérangère Couillard, présidente du Haut Conseil à l’Egalité entre les hommes et les femmes (mardi 27 mai 2025)

La commission auditionne Mme Bérangère Couillard, présidente du Haut Conseil à l’Egalité entre les hommes et les femmes ([33]).

M. le président Arthur Delaporte. Mes chers collègues, nous reprenons nos auditions en recevant Mme Bérangère Couillard, présidente du Haut Conseil à l’égalité entre les hommes et les femmes (HCEFH) et ancienne ministre. Madame, je vous remercie d’avoir pris le temps de répondre à notre invitation, mais également de nous déclarer tout intérêt public ou privé de nature à influencer vos déclarations.

L’article 6 de l’ordonnance du 17 novembre 1958 relative au fonctionnement des assemblées parlementaires impose aux personnes auditionnées dans le cadre de travaux d’enquête de prêter le serment de dire la vérité, toute la vérité, rien que la vérité. Je vous invite donc à lever la main droite et à dire : « Je le jure ».

(Mme Couillard prête serment.)

Mme Bérangère Couillard, présidente du Haut Conseil à l’égalité entre les hommes et les femmes. Je suis très honorée d’être invitée aujourd’hui pour cette audition et de pouvoir représenter le Haut Conseil devant la représentation nationale. La question de l’influence du réseau social TikTok sur les mineurs et des effets de son utilisation est sérieuse et grave, loin des caricatures. Celles et ceux qui, comme moi et les membres du Haut Conseil, s’intéressent aux questions d’égalité entre les femmes et les hommes savent que les réseaux sociaux ont un effet extrêmement néfaste sur les rapports entre les jeunes hommes et les jeunes femmes. L’utilisation massive de ces applications a entraîné harcèlement sexiste, violence verbale et psychologique, promotion de la pornographie ou encore montée en puissance des idées masculinistes.

Mais TikTok présente des particularités qui méritent de traiter cette application différemment des autres réseaux sociaux. Elle est aussi la plus utilisée parmi les jeunes mineurs de notre pays, ce qui accroît le risque de l’influence éducative qu’elle peut entraîner sur nos enfants. Ainsi, 70 % des usagers de TikTok en France ont moins de 24 ans, dont un enfant sur deux est âgé de 11 à 12 ans.

Environ 76 millions d’utilisateurs dans le monde ont été signalés pour avoir moins de l’âge minimal, soit 13 ans, uniquement en 2023. Le Haut Conseil à l’égalité a travaillé sur ce sujet et publié un rapport en 2022 sur la question plus large du cercle vicieux du sexisme dans le numérique. Pour le volet concernant les réseaux sociaux Instagram, TikTok et YouTube, nous nous sommes notamment appuyés sur le travail très sérieux de plusieurs étudiants de Sciences Po Paris avec lesquels nous avons travaillé en partenariat.

Ils se sont attachés à analyser les 100 contenus les plus visionnés sur TikTok en 2022. Leur constat est sans appel : les femmes sont repoussées au second plan sur TikTok. Les créatrices, tout d’abord, sont minoritaires. Parmi les 100 contenus analysés, seuls 31 sont issus de comptes identifiables comme étant gérés par des femmes ou cogérés par un couple hétérosexuel. En tout, seulement onze comptes sont gérés exclusivement par des femmes et vingt cogérés par des hommes et femmes. Les comptes de créatrices féminines sont ainsi largement absents du top 100 des vidéos les plus visionnées.

Les femmes sont aussi globalement sous-représentées dans les contenus. Seuls 36 % des personnages sont des femmes contre 64 % d’hommes. En outre, on décompte 53 % de vidéos présentant une mixité des genres. Dans les vidéos non mixtes, seuls 27 % mettent en scène une ou plusieurs femmes. La non-mixité, lorsqu’elle existe, est donc plus souvent masculine. Enfin, seuls 35 % des femmes occupent un rôle principal, les hommes en représentent 65 %. La parité pour les rôles secondaires reste la même : 38 % pour les femmes contre 62 % pour les hommes.

Mais si l’on se concentre sur le contenu en lui-même, le constat est encore plus inquiétant. L’humour dit « masculin » et donc stéréotypant est ultradominant. Ainsi, 35 % des vidéos présentent un comportement féminin stéréotypé, c’est-à-dire incluant un ou plusieurs stéréotypes féminins. Les données montrent que dans les cas où la femme correspond à un archétype de genre, elle est dépeinte respectivement comme étant la femme réservée et calme (18 %), hystérique (16 %) et séductrice (13 %). Ensuite, 61 % des vidéos présentent des comportements stéréotypés masculins. Quand les hommes sont représentés au travers d’un archétype de genre, ils le sont très largement au travers de la figure de l’homme humoriste. Ainsi, 33 % des vidéos ont pour but de divertir et 32 % sont humoristiques.

Comme sur YouTube, la récurrence de ce trait souligne que le fait d’être drôle, d’occuper le devant de la scène et de faire rire une audience mixte est largement associé aux hommes. Contrairement aux archétypes féminins, les stéréotypes masculins les plus observés sont donc valorisants. Pire encore, une image dégradante de la femme est mise en avant dans 20 % du contenu analysé. Lorsque les femmes sont représentées de manière dégradante, elles sont majoritairement humiliées. Les rapports de couples stéréotypés sont majoritairement dans les contenus humoristiques et de divertissement. Il n’est pas rare que les hommes exploitent parfois la dynamique du couple hétérosexuel traditionnel pour ridiculiser leur femme.

Nous pouvons observer des scénarios où l’homme crée du désordre dans la maison, puis la femme rentre et s’énerve, perçue comme hystérique, sous-entendant ainsi qu’il est de sa responsabilité de nettoyer le désordre. Il s’agit de stéréotypes classiques que nous combattons au quotidien, mais qui trouvent une résonance massive sur cette plateforme auprès d’une audience majoritairement mineure et alors même que nous tentons de faire changer leur mentalité par l’éducation à l’égalité. Comme vous le voyez, les contenus diffusés sur cette plateforme sont loin d’être anodins. J’aurais également pu évoquer les contenus qui sexualisent à outrance les femmes, voire les présentent comme de simples objets du désir sexuel des hommes pour aller jusqu’à promouvoir pour certains la pornographie, comme le compte d’AD Laurent récemment interdit.

Certains contenus engendrent aussi des effets néfastes sur la santé mentale des jeunes et plus particulièrement des jeunes filles. Je laisserai le soin aux professionnels de santé que vous auditionnerez et qui connaissent mieux le sujet que nous de vous présenter les différents effets néfastes d’une utilisation disproportionnée de ces applications. Mais je veux tout de même évoquer avec vous quelques pistes de réflexion. Les enfants et les jeunes qui regardent des contenus liés à la santé mentale sur leur fil « Pour toi » de TikTok sont rapidement entraînés dans des spirales de contenus qui idéalisent et encouragent les pensées dépressives, l’automutilation et le suicide. Lorsqu’un utilisateur montre un intérêt pour un contenu en lien avec la santé mentale, au bout de cinq ou six heures passées sur la plateforme, près d’une vidéo sur deux parle de ce sujet de manière potentiellement nocive. C’est dix fois plus que ce qui est présenté aux comptes n’ayant indiqué aucun intérêt pour la santé mentale.

Un autre rapport de Common Sense Media a découvert que 69 % des filles adolescentes présentant des symptômes de dépression élevés ont été exposées au moins une fois par mois à du contenu lié au suicide, qui est poussé par l’algorithme de TikTok. De plus, 45 % des filles interrogées ont aussi avoué être addicts, dépendantes, à la plateforme. Ces risques sont encore plus grands quand une jeune femme tombe sur des contenus promouvant la minceur extrême. De jeunes femmes y diffusent des régimes drastiques, des routines sportives excessives et des messages culpabilisants : « Tu n’es pas moche, tu es juste grosse », « Plaisir éphémère, regret éternel ». Ce discours, qui valorise la restriction alimentaire extrême et stigmatise la prise de poids, participe activement à la normalisation des troubles du comportement.

Au-delà de l’exposition à des images de corps dénutris et de conseils alimentaires dangereux, ces contenus exploitent la vulnérabilité des jeunes en quête de repères, de validation sociale ou d’identité corporelle. L’algorithme de TikTok, accusé de créer des bulles de contenus homogènes, renforce cette exposition et aggrave l’isolement dans des spirales toxiques. Si le rapport du Haut Conseil à l’égalité que j’ai cité précédemment ne se concentre pas exclusivement sur les effets néfastes des réseaux sociaux, nous avons tout de même pu en analyser certains éléments.

Ce sujet, tant il est grave et influence grandement l’avenir de notre société par les valeurs que ses plateformes peuvent inculquer à nos enfants, mériterait certainement un rapport complet et dédié. À ce titre, votre commission a toute sa légitimité et je serais ravie de répondre à vos questions.

Mme Laure Miller, rapporteure de la commission d’enquête sur les effets psychologiques de TikTok sur les mineurs. Vous avez déjà évoqué ce sujet, mais le rapport rendu en novembre 2023, qui portait sur la femme et le numérique, mettait déjà en évidence ce sujet des contenus, notamment sexistes, que l’on peut trouver sur TikTok. Considérez-vous que les plateformes numériques, et particulièrement TikTok, exploitent ces contenus dans le cadre de leur modèle économique ?

Mme Bérangère Couillard. Oui, certainement. À partir du moment où un algorithme propose toujours le même thème, l’objectif porte sur des fins aussi commerciales. Nous connaissons bien la stratégie qui est portée par les réseaux sociaux en général et particulièrement par la plateforme Meta, qui consiste à utiliser les données pour promouvoir l’intelligence artificielle (IA) et un certain nombre de contenus. L’objectif consiste bien à maintenir les consommateurs, c’est-à-dire nos jeunes, le plus longtemps possible sur la plateforme, en générant un certain nombre de contenus qui les rendent dépendants, pour pouvoir ensuite leur commercialiser des contenus.

Mme Laure Miller, rapporteure. Dans ce même rapport, une de vos recommandations consistait à créer un cadre éthique commun pour le calibrage des algorithmes, comme cela est envisagé à l’échelon européen. Pourriez-vous nous en dire plus ? Comment pourrions-nous rendre cette recommandation effective ?

Mme Bérangère Couillard. La recommandation du HCEFH consiste à mettre en place des comités mixtes qui permettraient de fixer des normes claires communes à tous les algorithmes pour faire disparaître les biais de genre dans leur calibrage, mais aussi de réaliser des audits « sexués » de ces données, afin d’en limiter au maximum les biais. Ces normes seraient vraiment des conditions minimales à la mise en œuvre d’un algorithme permettant le respect des droits fondamentaux des utilisateurs et des utilisatrices. Cela permettrait de limiter notamment des contenus violents, sexistes et dégradants pour les femmes diffusés quotidiennement.

Mme Laure Miller, rapporteure. À ce titre, le règlement (UE) 2022/2065 du Parlement européen et du Conseil du 19 octobre 2022 relatif à un marché unique des services numériques et modifiant la directive 2000/31/CE dit Digital services act (DSA) fournit un cadre qui nous permet d’avancer. Pour autant, dans nombre de nos auditions, nous entendons qu’il existe une espèce de zone grise sur ces contenus, notamment sexistes, qui ne permettent pas d’obtenir leur retrait de la part des plateformes. Menez-vous une réflexion pour mieux qualifier ces contenus et ensuite plus facilement obtenir leur régulation et leur retrait, le cas échéant ?

Mme Bérangère Couillard. Il existe une totale impunité de la part des plateformes qui considèrent qu’il s’agit d’un domaine privé, sur lequel elles sont entièrement libres d’instaurer telle ou telle contrainte. Depuis l’élection du président Donald Trump, ce phénomène de recul est particulièrement observable sur Meta. Nous l’avions déjà connu lorsque M. Elon Musk avait pris la tête de X, anciennement Twitter. Pourtant, les réseaux sociaux régissent aujourd’hui nos vies, particulièrement la vie de nos plus jeunes.

Le HCEFH propose de mettre en place des obligations au niveau européen, pour obliger l’établissement de signaleurs de contenus et, à défaut, des signaleurs de confiance qui pourraient relever d’une organisation aux niveaux européen ou français. Ils pourraient signaler des contenus, pour procéder ensuite à leur retrait. Il faudrait évidemment établir des critères. Il est par exemple plus difficile de retirer des contenus sexistes que des contenus racistes, car il existe aujourd’hui un cadre légal beaucoup plus clair sur le racisme que le sexisme. Le droit doit donc évoluer, en instaurant notamment un délit de sexisme, comme le propose le Haut Conseil à l’égalité dans différents rapports. Au-delà du cadre légal, ces signaleurs de confiance permettraient notamment d’analyser ce qu’il se passe sur les très grandes plateformes comme TikTok et la suppression des contenus, qu’il convient d’avoir définis.

Lorsque nous avons publié le rapport sur la pornocriminalité, nous avons préconisé de pouvoir faire supprimer très rapidement des contenus qui dégradent évidemment l’image de la femme dans les vidéos pornographiques. Selon la procureure de la République de Paris, plus de 90 % des contenus pornographiques sont passibles du code pénal au titre de l’incitation au viol ou de différentes violences. Il faut en effet rappeler que 50 % de la bande passante internet est consommée par des vidéos pornographiques.

Mme Laure Miller, rapporteure. Quel regard portez-vous sur les politiques de sensibilisation au numérique ? Comment les relier à cette question du sexisme et de l’égalité entre les hommes et les femmes ? Pensez-vous qu’il faille agir plus en ce sens auprès de nos plus jeunes publics ?

Mme Bérangère Couillard. C’est une évidence. Le HCEFH recommande depuis de nombreuses années l’application des cours d’éducation à la vie affective et relationnelle, et à la sexualité (Evars), adaptés à chaque âge. Nous subissons à ce titre des tentatives de déstabilisation des plus conservateurs sur cette question. Il n’a jamais été question, comme je l’entends parfois de manière horrible, d’apprendre la masturbation à un enfant de 5 ans. C’est une aberration.

Ces cours sont adaptés, dès le plus jeune âge. Il s’agit d’apprendre le respect de son corps, à déceler des possibles violences sexuelles, ce qu’il est possible de faire ou non. À ce titre, les annonces effectuées par la ministre d’État, ministre de l’éducation nationale, sont très importantes. Elles répondent aux exigences de la mise en œuvre des Evars partout dans le pays.

En effet, cette mise en œuvre souffrait de fragilités depuis les années 2000. D’abord, il n’y avait pas de contenus généralisés ; ils étaient réalisés par chaque association qui acceptait de venir dans les établissements. À partir du moment où il existe un programme commun, vous avez la certitude que le contenu est adapté à l’âge de l’enfant – de la maternelle jusqu’au lycée –, car il a été travaillé avec le personnel de l’éducation nationale et les parents. En proposant et en formant du personnel de l’éducation nationale, depuis les infirmiers scolaires jusqu’aux professeurs et aux conseillers principaux d’éducation, il devient possible de répondre aux besoins des établissements, partout en France.

Le numérique fait partie des sujets qui doivent être abordés parce qu’il n’est pas uniquement question de sexualité, quand vient l’âge d’en parler. Mais nous abordons également les sujets d’inégalité à l’école. À titre d’exemple, de nombreuses filières, comme les filières scientifiques, demeurent boudées par les filles parce qu’elles ne sont pas préparées, ni incitées à les rejoindre. Or les filières scientifiques numériques sont des filières dites d’avenir.

Il s’agit donc d’inciter les jeunes femmes à rejoindre le numérique, mais aussi de parler des conséquences du numérique et de certains contenus sur TikTok, évoquer les algorithmes et la manière dont ils sont générés, les ingérences des puissances étrangères qui viennent modifier les contenus. Il est essentiel d’expliquer ce modèle aux enfants ou aux plus jeunes, parce qu’ils ne s’en rendent pas forcément compte. De fait, l’éducation nationale porte ainsi un grand nombre de responsabilités, mais celles-ci sont nécessaires.

M. le président Arthur Delaporte. Je cède la parole aux collègues connectés en visioconférence.

M. Thierry Perez (RN). Je vous ai écoutée avec attention, mais vous avoue ma gêne à l’égard d’une partie de votre discours. Vous évoquez des contenus sexistes masculinistes, qui sont totalement indéniables. En revanche, vous passez sous silence ces nombreuses femmes influenceuses françaises ou étrangères qui ont défrayé la chronique ces dernières années, qui font valoir avant tout l’esthétique, prônent la chirurgie esthétique auprès des plus jeunes et des plus jeunes filles. À mon sens, elles sont tout aussi potentiellement dangereuses, notamment pour les jeunes filles qui, selon les propos recueillis lors des auditions précédentes, sont encore plus addicts que les garçons aux réseaux sociaux et notamment à TikTok.

Mme Bérangère Couillard. Monsieur le député, il n’a pas été question de passer sous silence quoi que ce soit. J’ai surtout accentué mon propos sur les contenus qui promeuvent la minceur, voire la très grande maigreur des jeunes filles. Je pourrais tout autant parler des contenus qui appellent à avoir recours à la chirurgie esthétique. Mais je n’ai eu que dix minutes pour vous transmettre un certain nombre d’éléments. De fait, des contenus générés particulièrement par le public féminin incitent à recourir à la chirurgie esthétique, à promouvoir la chirurgie esthétique dans ses excès. Je les dénonce tout autant que vous. Un certain nombre de contenus devraient être davantage contrôlés. En aucun cas, il n’était question pour moi d’occulter cet aspect.

M. le président Arthur Delaporte. La recommandation numéro 4 du rapport, en page 83, évoque un certain nombre d’incriminations existantes, par exemple l’interdiction du harcèlement sexuel défini par l’article 222-33 du code pénal comme « le fait d’imposer à une personne, de façon répétée, des propos ou comportements à connotation sexuelle ou sexiste qui soit portent atteinte à sa dignité en raison de leur caractère dégradant ou humiliant, soit créent à son encontre une situation intimidante, hostile ou offensante ».

Il me semble que dans le cadre d’une interprétation extensive, de nombreux propos visibles sur un certain nombre de comptes entrent dans le cadre de cet article. Qu’en pensez-vous ? Faut-il envisager une modification législative ?

Mme Bérangère Couillard. Aujourd’hui, l’outrage sexiste existe ; mais il n’existe pas de délit de sexisme. Si un propos sexiste est tenu dans les médias, seule l’Autorité de régulation de la communication audiovisuelle et numérique (Arcom) peut sanctionner la chaîne en question, mais une forme de répétition est nécessaire.

Pour autant, nous assistons à une banalisation des propos sexistes, qui ne sont pas sanctionnés, quand les propos racistes le sont par la loi. Ce n’est pas le cas pour les propos sexistes : vous pouvez faire des blagues lourdes, sexistes ; tenir régulièrement des propos qui stéréotypent les femmes dans un rôle, mais personne ne vous sanctionnera. C’est la raison pour laquelle le Haut Conseil à l’égalité invite à mettre en place un délit de sexisme.

M. le président Arthur Delaporte. Selon l’article R. 625-8-3, « est puni de l’amende prévue pour les contraventions de la 5e classe le fait, hors les cas prévus aux articles 222-13, 222-32, 222-33, 222-33-1-1, 222-33-2-2 et 222-33-2-3, d’imposer à une personne tout propos ou comportement à connotation sexuelle ou sexiste qui soit porte atteinte à sa dignité en raison de son caractère dégradant ou humiliant, soit crée à son encontre une situation intimidante, hostile ou offensante ». Des propos ne rentreraient-ils pas dans le cadre de cet article ?

Mme Bérangère Couillard. Tout dépend de l’interprétation de la loi. Il est arrivé régulièrement de produire des lois bien dédiées pour s’assurer que l’interprétation soit très claire pour les juges. Quoi qu’il en soit, il est urgent de le refaire savoir, parce que cela n’est pas le cas aujourd’hui. Je ne connais pas aujourd’hui de sanction qui ait été prononcée pour un délit de sexisme ou quelque chose qui s’y apparente.

M. le président Arthur Delaporte. Cette information est importante. Il nous a été indiqué à plusieurs reprises que les plateformes ne retirent pas de tels contenus, car elles considèrent qu’ils ne contreviennent pas à la législation en vigueur. Pourtant, le pays d’origine, la France, peut imposer des règles spécifiques au réseau sans même tenir compte du cadre du DSA, notamment pour des motifs d’ordre public. En l’occurrence, le sexisme entre dans ce cadre. Il faut sans doute creuser cet aspect ou, à tout le moins, faire connaître le cadre légal.

Échangez-vous avec les plateformes sur des guidelines, des recommandations qu’elles pourraient conduire en termes de modération des contenus ?

Mme Bérangère Couillard. Nous n’avons pas échangé depuis la parution de ce rapport. Il faut également souligner que les politiques des plateformes ont changé. Si nous parlions aujourd’hui aux représentants de Meta, ils ne tiendraient pas les mêmes propos qu’il y a deux ans ; ils seraient bien moins allants.

Mme Laure Miller, rapporteure. Il y a quelques jours, Le Figaro faisait part d’une note du ministère de l’intérieur qui portait sur l’influence de certains prédicateurs, notamment sur TikTok, lesquels prônent le port du voile chez les très jeunes filles. Vous êtes-vous penchée sur ce sujet ? Quel est, selon vous l’impact sur la santé mentale du visionnage en boucle de vidéos qui circulent sur ce sujet ?

Mme Bérangère Couillard. Nous ne nous sommes pas penchés spécifiquement sur ce sujet. Cependant, il s’avère que lorsque l’on écrit « Islam » dans la barre de recherche sur TikTok, on accède à certains contenus. Comme je l’indiquais dans mes propos liminaires, si vous regardez des vidéos sur une thématique, au bout de quelques heures, vous recevez très rapidement des contenus radicalisés. Cela peut concerner la religion, mais aussi bien d’autres sujets, comme la maigreur, les régimes, ou la chirurgie esthétique, qu’évoquait votre collègue un peu plus tôt.

Lorsqu’un utilisateur s’intéresse à un sujet, il reçoit une multiplication de vidéos sur cette même thématique, qui deviennent de plus en plus radicales ou violentes. Je ne suis évidemment pas surprise qu’il existe de nombreux contenus qui appellent à un islam le plus radical lorsqu'on s'intéresse à la religion. C’est tout à fait la façon dont procèdent ces plateformes, et particulièrement TikTok.

M. le président Arthur Delaporte. Nous achevons notre audition. Souhaitez-vous apporter un mot de conclusion ? Si vous étiez face aux représentants de TikTok, que leur demanderiez-vous ?

Mme Bérangère Couillard. Je leur demanderais de collaborer avec les instances européennes, pour mettre en œuvre un certain nombre d’éléments. Aujourd’hui, ils se défilent, mais ils portent une très grande responsabilité.

M. le président Arthur Delaporte. Je vous remercie. Vous pourrez nous communiquer tout élément complémentaire par courriel.

35. Audition de Mme Justine Atlan, directrice générale de l’association E-enfance, M. Samuel Comblez, directeur général adjoint, et Mme Inès Legendre, chargée de plaidoyer (mardi 27 mai 2025)

La commission auditionne ensuite Mme Justine Atlan, directrice générale de l’association E-enfance, M. Samuel Comblez, directeur général adjoint, et Mme Inès Legendre, chargée de plaidoyer ([34]).

M. le président Arthur Delaporte. Mes chers collègues, nous recevons aujourd’hui l’association e-Enfance, représentée par Mme Justine Atlan, directrice générale, M. Samuel Comblez, directeur général adjoint, et Mme Inès Legendre, chargée de plaidoyer. Je vous remercie d’avoir bien voulu prendre le temps de répondre à notre invitation et vous prie également de nous déclarer tout intérêt public ou privé qui serait de nature à influencer vos déclarations, par exemple si vous recevez de l’argent des plateformes du numérique.

L’article 6 de l’ordonnance du 17 novembre 1958 relative au fonctionnement des assemblées parlementaires impose aux personnes auditionnées dans le cadre de travaux d’enquête de prêter le serment de dire la vérité, toute la vérité, rien que la vérité. Je vous invite donc à lever la main droite et à dire : « Je le jure ».

(Mmes Atlan, Legendre et M. Comblez prêtent serment.)

Mme Justine Atlan, directrice générale de l’association e-Enfance. Aucun de nous n’a d’intérêts éventuellement en conflit, à titre individuel. En revanche, effectivement, nous sommes salariés de l’association e-Enfance, qui reçoit des financements publics et privés, des subventions publiques et du mécénat d’entreprises privées. À ce titre, elle reçoit depuis de nombreuses années des financements de plusieurs plateformes, dont celle qui est évoquée par votre commission d’enquête, c’est-à-dire TikTok.

En 2024, notre financement est constitué à 55 % de mécénats privés et à 45 % de subventions publiques françaises et européennes. Le budget de l’association en 2024 s’établissait 3,4 millions d’euros et TikTok nous versait 70 000 euros, soit 2 % dudit budget. Dans le cadre de nos échanges avec les plateformes, nous sommes aussi membres d’un certain nombre de leurs safety boards, c’est-à-dire des comités d’experts certains étant dédiés aux mineurs, d’autres à la sécurité en général. Nous étions membres du safety board de Twitter, qui l’a depuis fermé ; nous sommes membres de celui de Snapchat et l’avons été également chez TikTok, mais cela n’est plus le cas depuis 2024.

M. le président Arthur Delaporte. Pour quelles raisons ?

Mme Justine Atlan. Pour différentes raisons. La principale était d’ordre éthique. Je siégeais à ce comité, mais il était difficile de continuer à demeurer dans ce cadre de réflexions, dont les échanges étaient très intéressants, mais qui n’aboutissait finalement pas à des grandes nouveautés en termes de sécurité des enfants sur Internet. En tant qu’experts, nous pouvions partager nos étonnements – vous avez déjà évoqué dans votre commission la façon dont les algorithmes poussent un certain nombre de contenus défavorables à la santé mentale des mineurs. Mais nous avons fait le constat que leur cœur de problème réside dans leur modèle économique et que leurs algorithmes n’étaient absolument pas contestés et travaillés. Nous passions notre temps à « colmater les brèches », sans toucher le cœur du problème. À partir d’un moment, cette forme de participation à des échanges qui n’étaient pas très constructifs quant à leur résultat était assez difficile à gérer. Pour autant, je n’ai pas ressenti de pression lorsque j’y siégeais.

Je souhaite à présent vous présenter rapidement l’association e-Enfance, association d’intérêt général. Nous faisons également partie des 2 % d’associations françaises reconnues d’utilité publique. Nous sommes donc soumis à deux obligations très particulières : publier chaque année nos comptes au Journal officiel de la République et obtenir la validation du Conseil d’État pour tous les changements effectués dans nos statuts.

L’objet social de l’association, créée le 2 septembre 2005, concerne la protection des mineurs sur Internet et plus spécifiquement contre tous les risques liés à l’utilisation des technologies de l’information et de la communication. Notre acte fondateur a été la charte des fournisseurs d’accès à Internet en 2005 les obligeant à proposer un contrat parental gratuit à tous les abonnés. Cette démarche était très novatrice, la France était le seul pays du monde à le pratiquer à l’époque. Nous étions en charge de tests que nous menions chaque année au regard des risques comme l’exposition des mineurs à la pornographie, déjà le risque majeur en 2005 ; la prédation sexuelle sur des outils de communication comme MSN et des questions liées aux jeux vidéo. Le grand bouleversement est intervenu au moment où ont été créés simultanément les réseaux sociaux avec Facebook et le smartphone, avec l’iPhone. Cette « mauvaise rencontre » est à la source des problèmes que rencontrent les jeunes aujourd’hui et la dissociation de ces deux usages serait certainement vertueuse.

L’association e-Enfance emploie cinquante-deux salariés. Elle mène trois actions principales pour garantir l’effectivité des droits des enfants dans l’espace numérique : la prévention sur le terrain, le numéro 3018 et le plaidoyer que nous menons depuis de nombreuses années. En ce qui concerne notre prévention sur le terrain, l’association e-Enfance est agréée par le ministère de l’éducation nationale et s’appuie sur une équipe d’une vingtaine d’animateurs salariés qui interviennent chaque année partout en France dans les écoles, les collèges et les lycées.

Nous rencontrons physiquement 200 000 jeunes, parents et professionnels chaque année pour les sensibiliser aux usages responsables et aux dangers du numérique. Nous avons également une convention avec d’autres ministères, qui accueillent également des jeunes dans des centres d’éducation, c’est-à-dire le ministère de l’agriculture et également le ministère des sports. Dans le cadre de nos échanges avec l’éducation nationale, un agrément nous permet d’intervenir dans les établissements scolaires, et nous avons également établi une convention depuis 2012 sur la lutte contre le cyberharcèlement entre élèves, qui a donné lieu au numéro de téléphone sur lequel nous reviendrons. Nous travaillons avec des acteurs de l’éducation numérique comme le Centre de liaison de l’enseignement et des médias d’information (Clemi). Nous avons participé à l’élaboration de Pix, Pix primaire et Pix parents. Nous accompagnons également les établissements qui veulent s’équiper en contrôle parental et nous travaillons également avec la direction du numérique pour l’éducation, pour accompagner le développement du numérique dans les établissements scolaires.

En termes de plaidoyer, nous avons accompagné depuis 2005 les évolutions des usages numériques des jeunes. Nous sommes intervenus régulièrement dans la régulation proposée en France et au niveau européen. Nous sommes notamment acteurs de la politique publique de lutte contre le cyberharcèlement depuis 2011 et avons œuvré afin que ce cyberharcèlement constitue une circonstance aggravante du harcèlement, ce qui est le cas depuis la loi n° 2014-873 du 4 août 2014 pour l’égalité réelle entre les femmes et les hommes.

Nous avons également participé aux travaux sur le règlement (UE) 2016/679 du Parlement européen et du Conseil du 27 avril 2016 relatif à la protection des personnes physiques à l’égard du traitement des données à caractère personnel et à la libre circulation de ces données, et abrogeant la directive 95/46/CE dit règlement général sur la protection des données (RGPD) en France et avons milité également afin que l’âge de 15 ans – celui de la majorité sexuelle en France – soit retenu et que le consentement des parents, qui devait avoir lieu avant 15 ans, soit immédiatement associé au consentement de l’enfant. Nous avons également œuvré dans la loi n° 2024-449 du 21 mai 2024 visant à sécuriser et à réguler l'espace numérique afin que le revenge porn soit pris en considération : on n’est jamais responsable de la circulation par des tiers malveillants d’un contenu que l’on a pu poster une fois.

Nous avons agi avec Mme Marlène Schiappa sur une loi sur les raids numériques : le cyberharcèlement, punissable par la loi, intervient dès un seul acte en ligne, à partir du moment où il s’inscrit dans une chaîne d’actes, qui peuvent s’assimiler à une forme de « lapidation numérique ». Nous militons très fermement depuis plusieurs années auprès des différents acteurs politiques français et européens pour mettre en place une vérification d’âge sur Internet, clé de voûte de la protection de l’enfance sur Internet. Les plateformes ont mis en place du contrôle parental intégré, des fonctionnalités adaptées aux jeunes. Mais ces fonctionnalités ne rencontrent jamais leur cible puisque les enfants mentent sur leur âge et les parents y participent largement.

Enfin, notre troisième activité, celle qui va sans doute davantage vous intéresser aujourd’hui, concerne l’opération du numéro 3018, le numéro unique de lutte contre le harcèlement et les violences numériques faites aux enfants. Il est gratuit, anonyme et confidentiel, ouvert sept jours sur sept, toute l’année, de 9 heures à 23 heures. Une application 3018 a été lancée en 2022 et permet de nous envoyer via un coffre-fort numérique sécurisé des éléments constitutifs du harcèlement ou du séparatisme, dont les utilisateurs peuvent être victimes. Actuellement, nous disposons de vingt-deux écoutants salariés juristes et psychologues, qui sont coordonnés par une coordonnatrice et une coordonnatrice adjointe. Dès la semaine prochaine, elles seront rejointes par une superviseure directrice de l’Observatoire du 3018, qui est l’ancien chef de la stratégie de l’Office mineurs, Véronique Béchu.

Le 3018 est une initiative de la Commission européenne qui, dans le cadre de son programme Safer Internet, dès la fin des années 2010, a prévu la création en Europe des helplines. Il s’agit de lignes d’appel disponibles pour les enfants, les adolescents, les professionnels et les parents, pour les aider à régler ces questions qui commençaient à émerger des usages numériques. Au préalable, le danger était surtout perçu comme émanant d’adultes qui pouvaient vouloir du mal aux enfants. Les réseaux sociaux ont changé la donne en établissant des usages nouveaux, dont le nomadisme, qui peuvent concerner les enfants dès le plus jeune âge. En effet, malgré leurs conditions générales d’utilisation (CGU), les réseaux sociaux n’ont rien mis en place d’emblée pour ne pas accepter les moins de 13 ans. En conséquence, il est également apparu que les jeunes pouvaient utiliser ces outils de communication pour se faire du mal entre eux.

Aujourd’hui, nous parlons d’une troisième époque où les plateformes elles-mêmes peuvent faire du mal aux jeunes. Dès 2010, nous avons pu créer avec Facebook, puis en 2011 avec YouTube, des points de signalement privilégiés avec les plateformes pour leur signaler des contenus illicites ou préjudiciables à des jeunes. À partir de ce préalable, les autres plateformes ont mis en place avec nous ces systèmes de signalement prioritaire que nous traitions en direct avec leurs services de modération.

En 2017, ByteDance a racheté l’application Musical.ly pour la fusionner en 2018 avec TikTok. Musical.ly était déjà assez présent auprès des jeunes et des enfants et disposait de 100 millions d’utilisateurs en Europe. À l’époque, les parents n’avaient absolument pas conscience qu’il s’agissait d’un réseau social, ni des dangers éventuels. TikTok est ensuite entré en contact avec nous et nous avons agrégé une vingtaine de plateformes avec lesquelles nous avons établi ces signalements prioritaires. Le confinement de 2020 a fait exploser les usages et a permis à TikTok de prendre une place prépondérante auprès des enfants et des adolescents qui, pour l’instant, n’est pas menacée. À la suite de ce confinement, nous avons établi le numéro 3018, décliné ensuite en une application.

Enfin, depuis le plan interministériel de lutte contre le harcèlement de 2023, nous sommes devenus le numéro unique de lutte contre le harcèlement sous toutes ses formes et de toutes les autres violences numériques faites aux enfants.

M. Samuel Comblez, directeur général adjoint de l’association e-Enfance. Durant l’année 2024, le 3018 a reçu 160 000 sollicitations émanant de jeunes, de leurs parents et de professionnels. La ligne est ouverte, bien sûr, aux mineurs, aux enfants, aux adolescents. Nous constatons un rajeunissement des utilisateurs qui nous contactent sur le 3018, bien avant l’entrée au collège : à peu près 25 % de nos utilisateurs sont des enfants très jeunes qui manifestent parfois des difficultés dans le cadre de leur utilisation de TikTok.

Des signalements sont envoyés tous les jours aux plateformes pour faire retirer des contenus. Les plateformes peuvent y répondre de différentes manières : la suppression des contenus, la fermeture des comptes ou tout au moins un avertissement envoyé à l’utilisateur, mais aussi, malheureusement, une absence de réaction de certaines plateformes à nos sollicitations, ni même de retour.

Nos écoutants sont des salariés dotés de compétences techniques suffisantes pour adresser des signalements de qualité. L’année dernière, nous avons adressé à peu près 4 000 signalements à l’ensemble des plateformes. Sur ces 4 000 signalements, le taux de contenus illicites s’établit autour de 96 % contre 4 % pour le taux de contenus préjudiciables. En 2025, nous avons procédé à 1 100 signalements depuis le 1er janvier (87 % de contenus illicites et 12 % de contenus préjudiciables).

Les contenus préjudiciables sont des contenus qui ne questionnent pas forcément le droit français, mais qui ont un impact sur le bien-être et l’état psychique du jeune et qui, à notre sens, méritent de pouvoir être remontés aux plateformes. En termes de thématiques, la principale remontée concerne « l’extorsion sexuelle » d’enfants qui sont sollicités pour obtenir des contenus à caractère sexuel. Depuis le 1er janvier 2025, nous avons déjà effectué 250 signalements de la sorte. La deuxième thématique la plus signalée concerne le cyberharcèlement avec notamment des insultes, des moqueries, des contenus textes, vidéos ou photos dégradants pour l’enfant ou l’adolescent. En 2025, nous en avons déclaré pour l’instant 237 à l’ensemble des réseaux sociaux avec lesquels nous travaillons. La troisième thématique concerne le revenge porn, c’est-à-dire des contenus à caractère sexuel envoyés à des fins de vengeance (83 depuis le 1er janvier 2025). Viennent ensuite des contenus à caractère pédocriminel. Les trois premières thématiques sont stables depuis les trois dernières années.

En termes de catégorie d’âge, 27 % de nos utilisateurs ont moins de 11 ans, 31 % sont âgés de 12 à 14 ans et 27 % ont entre 15 et 17 ans. Nous observons une légère baisse au cours du temps du nombre de collégiens qui nous appellent, mais une augmentation très marquée du nombre d’enfants en primaire, la part des lycéens étant stable. De nombreux parents, professionnels du corps enseignant et du secteur sanitaire et social font appel à nous. Les délais de réponse des réseaux sociaux à nos signalements sont très variables, chaque réseau social ayant des procédés différents, contribuant à compliquer notre tâche. Nous avons pu observer un temps moyen de retrait d’un contenu de soixante heures à partir de notre signalement.

S’agissant plus particulièrement de TikTok, nous recevons un accusé de réception à la suite d’un signalement, ainsi qu’un mail lorsque les équipes de TikTok ont réagi sur la plateforme. Dans le détail, les données sont les suivantes : une suppression des contenus dans 39 % des cas ; un avertissement qui est envoyé à l’auteur des faits (28 %) ; aucune action engagée par la plateforme (28 %) et une absence de réponse (4 %).

À partir du moment où un signalement est envoyé par le signaleur de confiance, devraient s’ensuivre une réaction et une information de qualité systématiques pour nous permettre de les transmettre aux utilisateurs, mais cela n’est pas toujours le cas. De plus, le délai de réponse reste à nos yeux insatisfaisant : si le temps moyen de retrait d’un contenu est de soixante heures ; il peut s’allonger jusqu’à cinq voire six jours, induisant évidemment un impact sur la santé mentale des jeunes qui peut être extrêmement important.

M. le président Arthur Delaporte. Y a-t-il des spécificités en la matière pour TikTok par rapport aux autres plateformes ?

M. Samuel Comblez. TikTok fait partie des plateformes dont le taux de réponse est satisfaisant à nos yeux.

M. le président Arthur Delaporte. Quels sont délais moyens par plateforme ?

M. Samuel Comblez. Snapchat et Instagram font partie des plateformes qui réagissent le plus vite, parfois en une vingtaine de minutes. Les délais sont très variables pour TikTok, de quelques heures à plusieurs jours. Les plateformes X et YouTube sont celles dont le temps de réaction est le plus long puisqu’il est de plusieurs jours.

Mme Justine Atlan. Au-delà, les plateformes ne réagissent pas de la même façon selon la nature des contenus que nous leur signalons. Nous parlons « d’urgence vitale » quand nous considérons que le contenu ou le compte que nous demandons de bloquer crée un problème de santé mentale tellement élevé chez le jeune qu’il peut provoquer un suicide. Dans ce cas, elles réagissent plus rapidement. À l’inverse, elles traitent moins rapidement les usurpations d’identité ou les piratages de compte, dont elles apprécient elles-mêmes le caractère prioritaire, alors même que ces phénomènes peuvent porter extrêmement préjudice à la santé mentale des jeunes qui en sont victimes.

Mme Laure Miller, rapporteure de la commission d’enquête sur les effets psychologiques de TikTok sur les mineurs. Vous avez indiqué que vous touchez 200 000 jeunes par an à travers vos politiques de prévention et de sensibilisation. Mon interrogation porte plus sur les parents. Les percevez-vous plus conscients des dangers ? Faudrait-il mener une politique nationale à destination de ces parents, mais également du personnel éducatif ?

En matière de harcèlement et de contenus illicites, TikTok présente-t-il des singularités par rapport aux autres réseaux sociaux ? Nous observons par ailleurs l’existence d’une « zone grise », c’est-à-dire des contenus problématiques, mais qui ne tombent pas forcément sous le coup de la loi. Des outils comme le règlement (UE) 2022/2065 du Parlement européen et du Conseil du 19 octobre 2022 relatif à un marché unique des services numériques et modifiant la directive 2000/31/CE dit Digital services act (DSA) permettraient-ils davantage de les cibler et de les retirer plus efficacement ? Devons-nous renforcer notre arsenal juridique interne sur ce sujet ?

Ensuite, comment faire pour vérifier de manière effective l’âge sur Internet ? Enfin, quelles sont vos préconisations afin de protéger davantage les mineurs face aux trop nombreux contenus problématiques qui subsistent malgré le DSA ?

Mme Justine Atlan. Nous rencontrons également les parents, mais ceux qui viennent sont déjà sensibilisés. Il est plus difficile d’intéresser ceux qui le sont moins. Il s’agit là d’un véritable angle mort de la prévention depuis des années. D’un point de vue global, nous constatons néanmoins qu’aujourd’hui, les parents sont relativement inquiets face à un phénomène qui est quand même relayé par les médias. Simultanément, si on ne leur propose pas de solutions, certains préfèrent rester dans le déni plutôt que d’affronter la réalité des risques qu’encourent leurs enfants. Il existe une pression sociale très marquée sur l’équipement des jeunes en smartphones, de plus en plus jeunes. À titre d’exemple, nous nous sommes rendus dans une classe de CP où la moitié des élèves en disposaient déjà.

Le discours ambiant porte sur la nécessité de socialisation des enfants et des adolescents avec leurs pairs, laquelle passerait aussi forcément par les réseaux sociaux et le smartphone. Les priver de smartphones et de réseaux sociaux reviendrait ainsi à les priver de socialisation, conduisant les parents à une forme de culpabilité. Les parents témoignent aussi souvent de leurs difficultés à gérer l’absence de doctrine de l’éducation nationale concernant le numérique. De plus, quand bien même ils aimeraient établir des limites d’équipement ou d’âge, l’école les oblige à en installer, à un moment.

Honnêtement, les parents portent seuls depuis vingt ans cette arrivée massive des usages numériques dans la vie de tous, y compris de leurs enfants et adolescents. On ne cesse de leur répéter que cela relève de leur responsabilité. Personne, dans le monde adulte encadrant, ne les aide dans ce rôle-là. À l’inverse, il existe une interdiction très claire de vendre de l’alcool ou du tabac aux mineurs. À ce titre, il est vraiment temps de responsabiliser les plateformes et de leur demander de jouer leur rôle d’adultes. Les parents confient leurs enfants à l’école plusieurs heures par jour. Ils devraient pouvoir confier leurs adolescents aux plateformes avec le même niveau de confiance. Si l’école est perfectible, les plateformes le sont bien plus encore. Il est temps d’apporter des solutions concrètes aux parents et d’arrêter de leur demander de tout porter seuls.

M. Samuel Comblez. Les parents ont conscience des risques, mais nous demandent des outils, des moyens pour pouvoir dialoguer avec les jeunes. Nous remarquons depuis plusieurs années une augmentation très importante du nombre de demandes d’intervention auprès des enseignants, mais aussi en dehors du monde scolaire, c’est-à-dire les coachs sportifs, le monde sanitaire et social, les psychologues, les psychiatres qui travaillent au contact des jeunes. À ce titre, nous intervenons auprès des professionnels qui travaillent dans les maisons des adolescents et portons un programme de sensibilisation de ces professionnels à la sphère numérique. Les professionnels ont besoin de recevoir, dès leur formation initiale, des formations concrètes, qui doivent également être réactualisées au fil du temps, tant l’univers numérique est très mouvant.

Mme Inès Legendre, chargée de plaidoyer de l’association e-Enfance. De grandes lignes directrices pour une meilleure protection des mineurs prometteuses ont été publiées dans le cadre du DSA. Elles ne sont pas encore adoptées définitivement et font l’objet d’une consultation publique, à laquelle nous convions tout le monde à contribuer. Ces grandes lignes visent à encadrer les comptes pour les mineurs, à partir d’une protection par défaut, pour éviter le profilage comportemental.

Mais le préalable consiste à mettre en place un contrôle systématique de l’âge protecteur de la vie privée et de la sûreté des mineurs. Il faudrait également renforcer la modération locale et humaine sur les plateformes, qui fait encore défaut. Cette modération devrait également être proportionnée au nombre d’utilisateurs actifs dans chaque pays et aux chiffres d’affaires générés par la plateforme.

Mme Laure Miller, rapporteure. Si vous étiez ministre du numérique ou commissaire européen sur ce sujet, quelles seraient vos préconisations concrètes ?

Mme Justine Atlan. Il est aujourd’hui beaucoup question d’une interdiction des réseaux sociaux pour les moins de 15 ans. Ce seuil, qui correspond par ailleurs à la majorité sexuelle et à l’entrée au lycée, nous semble pertinent. De façon très pragmatique, nous aimerions déjà que les plateformes appliquent leur propre restriction, qui porte sur les moins de 13 ans. Aujourd’hui, l’agrégation de différents seuils d’âge – 13 ans, 15 ans et 18 ans – est très compliquée à gérer pour les parents.

Il faut simultanément souligner que nous nous heurtons aussi à un manque d’harmonie sur cet âge au niveau européen, lequel constitue la faille du RGPD depuis 2018 et dont profitent les plateformes pour ne rien mettre en place. Comme nous l’avons déjà indiqué, la problématique concerne conjointement les réseaux sociaux et le smartphone, dont ont conscience les jeunes un peu plus âgés, les jeunes adultes, lorsque nous les interrogeons. Ils nous disent ainsi que la simple interdiction des réseaux sociaux au moins de 15 ans en ne changeant rien sur le smartphone ne réglerait pas tout le problème. Nous serions donc favorables à l’interdiction de la vente des smartphones aux moins de 15 ans.

Il nous faut, jeunes et moins jeunes, réinterroger les usages de cet outil. Nous avons été pris de court par une invention extraordinaire dans laquelle nous nous sommes plongés, mais qui nous empêche de réfléchir, notamment à chacun de ses usages distincts. Nous devons être capables de sélectionner pour un enfant ou un adolescent les usages réellement nécessaires, comme le téléphone, les SMS, les services de géolocalisation par exemple.

Il nous paraît également important de repenser effectivement les alternatives au numérique. Depuis quinze ans, nous n’arrivons plus à créer du lien, à nous parler, à nous informer autrement que par le numérique. Les jeunes en pâtissent largement. Il faudrait donc créer des alternatives plus fortes, réinvestir dans des infrastructures d’offres d’activités sportives, culturelles, artistiques, des lieux d’échange, de partage d’activités, implantées partout localement.

Les parents peuvent succomber à la facilité et la praticité d’un outil numérique qui ne prend pas de place et qui donne accès à une très large gamme de services. Mais in fine, l’enfant se retrouve seul devant cet écran. Aujourd’hui, ce n’est pas tant l’écran en lui-même, mais « l’excès d’écran » qui pose problème. Nous estimons nécessaire de poser une norme de modération obligatoire pour ces systèmes de communication en ligne. Les plateformes doivent être pénalisées si elles ne le font pas d’emblée.

Par ailleurs, il faut conduire le chantier de la doctrine de l’éducation nationale. Il s’agit non seulement d’éduquer évidemment les jeunes aux médias et à l’information, mais aussi de les informer sur leurs droits. Dès le plus jeune âge, il faut également permettre à l’enfant d’avoir conscience de son corps, y compris ses aspects psychiques et son fonctionnement neurologique. Pour pouvoir être des utilisateurs éclairés du numérique, il est nécessaire de comprendre comment fonctionne notre cerveau, les besoins fondamentaux d’un être humain, ses réactions aux stimuli et ses interactions, éléments sur lesquels sont fondés les modèles des plateformes.

Plus largement, nous portons des recommandations visant à traiter les usages numériques avec les mêmes avertissements que ceux relatifs à la santé ou aux jeux d’argent. Il peut s’agir par exemple pour toutes les campagnes de publicité, de promotion, de vente d’outils numériques, de prévoir des bandeaux d’information systématiquement obligatoires sur les risques, sur les âges, sur les numéros comme le 3018 ou l’application associée. Ces dispositifs ne sont pas coûteux à mettre en œuvre. Nous disposons d’autres propositions, mais le temps nous manque pour les évoquer ; nous vous les adresserons.

M. le président Arthur Delaporte. Nous allons recevoir après votre audition l’ancien commissaire européen au marché intérieur Thierry Breton. Selon vous, les procédures et sanctions actuellement appliquées aux plateformes sont-elles adaptées, pertinentes et suffisamment rapides ? Échangez-vous avec les régulateurs européen ou français ?

Mme Justine Atlan. Nous échangeons effectivement avec ces deux régulateurs. Le régulateur européen nous saisit systématiquement quand il ouvre une enquête sur une plateforme, afin d’obtenir des informations.

L’Europe s’est malgré tout relativement saisie de ce sujet et a ouvert de telles enquêtes assez rapidement. La difficulté réside peut-être dans les moyens disponibles pour les mettre en œuvre le plus rapidement possible.

Pour l’instant, nous ne contestons pas le montant des sanctions qui est quand même assez significatif, s’il est réellement appliqué. Il est absolument nécessaire de mettre en œuvre le DSA et nous travaillons en ce sens, de manière quasiment quotidienne avec l’Autorité de régulation de la communication audiovisuelle et numérique (Arcom), pour partager notre expérience et l’aider à faire appliquer le DSA.

J’estime que l’Europe doit appliquer systématiquement, mais aussi répétitivement les amendes, lorsque les plateformes contreviennent aux obligations.

M. le président Arthur Delaporte. Je vous remercie. Vous pouvez nous adresser tout complément écrit que vous considérez utile.

36. Audition de M. Thierry Breton, ancien commissaire européen au marché intérieur (mardi 27 mai 2025)

La commission auditionne ensuite M. Thierry Breton, ancien commissaire européen au marché intérieur ([35]).

M. le président Arthur Delaporte. Nous recevons M. Thierry Breton, ancien commissaire européen au marché intérieur, chargé également de la politique industrielle, du tourisme, du numérique, de l’audiovisuel, de la défense et de l’espace. Monsieur Breton, votre témoignage sera précieux, puisque vous avez été au cœur de la mise en œuvre du règlement (UE) 2022/2065 du Parlement européen et du Conseil du 19 octobre 2022 relatif à un marché unique des services numériques et modifiant la directive 2000/31/CE dit Digital services act (DSA). Je vous remercie d’avoir pris le temps de répondre à notre invitation, mais également de nous déclarer tout intérêt public ou privé de nature à influencer vos déclarations.

L’article 6 de l’ordonnance du 17 novembre 1958 relative au fonctionnement des assemblées parlementaires impose aux personnes auditionnées dans le cadre de travaux d’enquête de prêter le serment de dire la vérité, toute la vérité, rien que la vérité. Je vous invite donc à lever la main droite et à dire : « Je le jure ».

(M. Breton prête serment.)

M. Thierry Breton, ancien commissaire européen au marché intérieur. Je vous remercie de m’avoir convié à votre commission d’enquête parlementaire sur TikTok. Je relève que vous auriez également pu vous intéresser à d’autres plateformes. Je rappelle que la Commission européenne est la seule institution à disposer du pouvoir de proposer des textes législatifs, directives ou règlements. Dès mon arrivée, je me suis attaché à travailler pour établir un marché numérique unifié. Nous avions, jusqu’à il y a quelques années, vingt-sept marchés numériques en Europe, contre un seul aux États-Unis et en Chine.

L’histoire commence dans ce domaine au début du siècle. C’est en se fondant sur les données personnelles que les premières plateformes sont progressivement arrivées. La première d’entre elles a été Facebook, qui a bénéficié immédiatement d’une profondeur de 330 millions de consommateurs américains. L’Europe n’a pas pu agir de la sorte, étant caractérisée par vingt-sept marchés et autant de régulations, mais aussi quinze langues.

En ma qualité de commissaire, je me suis donc attaché à proposer aux colégislateurs un ensemble de règlements et non de directives, de façon à lutter contre cette fragmentation. Avec mes équipes, nous avons travaillé sur cinq règlements différents : le règlement sur la gouvernance des données (Data governance act ou DGA) ; le règlement sur les données (Data act), qui permet de savoir à qui appartiennent les données ; le DSA pour organiser la vie sur les réseaux ; le règlement (UE) 2022/1925 du Parlement européen et du Conseil du 14 septembre 2022 relatif aux marchés contestables et équitables dans le secteur numérique et modifiant les directives (UE) 2019/1937 et (UE) 2020/1828 dit Digital markets act (DMA) pour organiser une saine concurrence économique dans cet espace informationnel et, enfin, le règlement européen sur l’intelligence artificielle (AI Act).

Ces textes ont ensuite été soutenus par la plus grande approbation de la part de nos colégislateurs. Le Conseil les a approuvés à l’unanimité et seuls 10 % des parlementaires européens s’y sont opposés. Nous disposons aujourd’hui d’un corpus législatif extrêmement puissant, centré sur un seul régulateur, une seule loi et un marché intérieur digital unifié, qui nous avait fait défaut au début des années 2000 et avait ainsi contribué à notre retard. Cette unicité doit permettre à nos entreprises de se saisir de la formidable opportunité que constitue notre marché de 450 millions de consommateurs, à partir d’une règle enfin unifiée.

Dans ce contexte, le DSA représente notre « vivre ensemble » sur les réseaux. Il s’agit d’une loi horizontale, qui offre un cadre permettant d’agir vite. À partir de ce cadre, il est désormais possible de connecter des éléments supplémentaires, d’intégrer des éléments nouveaux. On résume souvent à tort le DSA en indiquant qu’il s’agit d’une loi qui interdit la liberté d’expression. C’est totalement faux : nous n’aurions jamais obtenu le soutien de 90 % du Parlement européen s’il avait été attentatoire à la liberté d’expression. En revanche, nous n’avons pas tout prévu. Les législateurs peuvent décider de sanctionner par des lois supplémentaires certains harcèlements ou comportements déviants – comme l’incitation au suicide – qui circulent sur les réseaux ; et de les connecter au DSA.

Je souhaite également rendre hommage aux deux colégislateurs, en particulier au Parlement européen. En compagnie de mes collaborateurs, nous avons effectué de très nombreuses consultations publiques auprès du monde entier, de toutes les plateformes et entreprises qui étaient intéressées, de tous les gouvernements, des ONG, des organisations syndicales, et du monde académique, afin qu’ils soient associés à nos réflexions. Ensuite, nous avons pris des décisions et formulé nos propositions. Le Parlement s’est emparé de ces sujets, certains parlementaires se sont ainsi spécialisés sur ces questions et ont développé de très grandes compétences dans ces domaines.

TikTok représente une plateforme particulière, selon deux aspects assez singuliers. D’une part, elle est extraordinairement populaire chez les jeunes ; d’autre part, elle est chinoise, mais la Chine en a interdit son usage. Lorsque j’ai travaillé sur ce dossier, cet élément m’a surpris et j’invite donc la commission à se questionner à ce propos. Peut-être serait-il intéressant d’interroger ceux qui ne voudraient rien répondre à la commission sur cette question. Pour ma part, je n’ai jamais obtenu de réponse. Ensuite, compte tenu de son audience auprès des jeunes, cette plateforme requiert évidemment une attention toute particulière.

En élargissant la question, nous pouvons considérer que nous vivons un moment singulier, inédit. Pour la première fois dans l’histoire de l’humanité, deux éléments nouveaux voient le jour. En premier lieu, nous laissons, de manière consciente ou inconsciente, dans l’espace informationnel une trace qui est désormais indélébile. L’ensemble des informations que nous générons quotidiennement, volontairement ou non, dans l’espace informationnel, représente aujourd’hui une trace personnalisée qui va constituer quelque part une sorte de double numérique, certains parleront d’avatar. Or lorsqu’elles sont agrégées, récupérées, compactées, elles disent beaucoup de ce que nous sommes.

Le deuxième élément inédit tient au fait que sur ces plateformes, les paquets d’informations sont poussés par des algorithmes. Il s’agit là d’une deuxième singularité par rapport à tout ce qui existait auparavant, où l’on restait dans le cadre du one-on-one, ou du one-to-many, c’est-à-dire une situation sans intermédiaire entre celui qui était à l’origine du message et celui qui le recevait.

Ces deux éléments ont figuré au cœur de notre travail ; nous y avons consacré beaucoup de temps, en nous interrogeant sur les questions clés. Quelles données m’appartiennent ? Quelles sont celles qui peuvent être partagées, utilisées à mon insu ? Comment disposer d’une transparence sur les algorithmes ? Cette transparence constitue un élément clé, sur lequel je voulais attirer l’attention de la commission, et qu’il faudra sans doute creuser en particulier pour parler de la plateforme TikTok, des contenus qu’elle pousse, selon quelle manière et à partir de quelle information.

Encore une fois, le DSA ne prive personne de la parole. Il respecte l’ensemble de notre corpus législatif, tout particulièrement la liberté d’expression, qui est une valeur cardinale et l’équivalent du 1er amendement aux États-Unis.

M. le président Arthur Delaporte. Vous avez évoqué l’idée que notre commission d’enquête aurait pu s’intéresser à d’autres plateformes. Nous avons choisi de concentrer nos travaux sur la plateforme TikTok, sans oublier les autres. Simplement, aux yeux des députés présents lors des débats sur la création de cette commission d’enquête, TikTok concentrait un certain nombre de problématiques que vous avez rappelées, à la fois sur les questions de l’algorithme et de la vulnérabilité de son public, puisqu’elle est la plateforme la plus fréquentée par les jeunes. Les préconisations que madame la rapporteure formulera dans son rapport seront élargies à d’autres plateformes.

M. Thierry Breton. Il ne s’agissait pas pour moi de formuler une critique. Je suis sensible à votre argument sur la jeunesse et la nécessité d’agir vite en matière d’enquête, précisément à ce titre.

Mme Laure Miller, rapporteure de la commission d’enquête sur les effets psychologiques de TikTok sur les mineurs. Je vous remercie pour ce propos introductif, qui nous permet de mesurer l’ampleur de l’avancée permise par le DSA. À ce titre, pouvez-vous nous indiquer à partir de quand vous avez commencé à aborder le sujet ?

Ensuite, dans le cadre de ces négociations, quelles relations avez-vous pu entretenir avec les différentes plateformes ? Étaient-elles à l’écoute ? Vous ont-elles donné le sentiment de vouloir coopérer ?

Par ailleurs, la question du changement de la nature de la responsabilité des plateformes s’est-elle posée ? Nous savons que le débat entre éditeur et hébergeur est souvent prégnant. La question d’un contrôle a priori plutôt qu’a posteriori a-t-elle été envisagée ? Elle est aujourd’hui mise en lumière par les délais inhérents au signalement et à la suppression de contenus très problématiques.

De plus, nous avons reçu des familles de victimes qui ont évoqué la problématique du contrôle de l’âge, qui n’est absolument pas aujourd’hui respecté ; des contenus illicites qui ne sont pas suffisamment modérés ou des délais de modération qui ne sont vraiment pas satisfaisants. Des zones grises nous rendent parfois impuissants face à des contenus très problématiques, mais qu’il est compliqué de faire retirer. Quel regard portez-vous à ce sujet ? Faut-il accélérer l’application du DSA ?

M. Thierry Breton. S’agissant de la genèse, il faut rappeler que le travail a été très difficile pour parvenir à une architecture intégrant l’ensemble des éléments évoqués. Il me semble que le DSA répond à toute la problématique. Désormais, l’enjeu porte sur l’exécution, qui ne m’appartient plus puisque j’ai démissionné de la Commission européenne le 16 septembre 2024, pour des raisons qui m’étaient propres. Depuis, je ne sais pas ce qui se passe.

Nous avons recruté des équipes, qui regroupent près de 200 personnes, toutes extrêmement compétentes. Le DSA établit l’obligation de produire des rapports, qui peuvent provenir des signaleurs de confiance établis par loi, ou de l’ensemble des régulateurs nationaux. Nous avons en effet organisé un conseil, appelé le DSA board. Le système mis en place est donc très harmonisé, homogène, et peut travailler efficacement. Lorsque les équipes constatent l’existence d’un certain nombre de questions et que les réponses sont insatisfaisantes, elles proposent au commissaire d’ouvrir une enquête. C’est à ce titre que j’ai accepté que deux enquêtes soient ouvertes, sur TikTok et ensuite sur d’autres plateformes.

S’agissant de la genèse du règlement, j’ai été personnellement ciblé de manière très directe par des lobbyistes, certains cherchant à m’affaiblir, afin que ce règlement ne voie pas le jour. Mais nous avons surmonté ces obstacles, sans naïveté. Je rappelle que 1 200 lobbyistes exercent à Bruxelles ; j’ai dû affronter des campagnes de désinformation cherchant à me déstabiliser. Je tiens à rappeler ces difficultés, que nous avons su dépasser. Notre texte a été proposé au collège des commissaires, puis transmis au Parlement, qui a lui aussi subi des pressions, au même titre que les États membres.

Aujourd’hui, ce texte existe néanmoins ; il est opérationnel et doit désormais être mis en exécution avec la plus grande vigueur et le maximum de célérité. Je précise que nous avons veillé à mener des interactions et des échanges préalables avec les acteurs concernés. Dans le rôle de régulateur qui était le mien, j’ai consacré beaucoup de temps à expliquer le contenu du texte, à rencontrer l’ensemble des plateformes dont nous pressentions qu’elles allaient devenir des plateformes systémiques, c’est-à-dire celles qui ont plus de 45 millions d’utilisateurs, pour bien leur expliquer ce qui allait se passer.

Il s’agit de régulations ex ante. Les entreprises qui veulent bénéficier de notre marché intérieur doivent respecter les lois qui s’y appliquent. J’ai donc rencontré longuement ces plateformes pour leur expliquer à plusieurs reprises ce qu’elles devaient faire pour se préparer à la mise en place de notre réglementation. À mon initiative, nous avons même proposé de réaliser des tests « en blanc » avant que la loi ne rentre en vigueur. En effet, je souhaitais que celle-ci puisse s’appliquer le plus rapidement possible, car elle a pour objet de protéger nos enfants. Il ne s’agit pas de sanctionner pour le plaisir ou d’essayer de récupérer telle ou telle somme d’argent.

Cette loi répond à une très grande partie de toutes les questions que vous vous posez, me semble-t-il, au sein de la commission. Mais elle doit être exécutée. Il n’est plus possible d’attendre un an avant d’obtenir les résultats. Naturellement, il est nécessaire de respecter le principe du contradictoire et les cas doivent être solides. Mais compte tenu de l’urgence, il faut être en mesure d’appliquer la loi. Faut-il pour autant la changer ? Non. Plutôt que de produire une nouvelle loi, il faut appliquer pleinement et intégralement celle qui existe.

Ensuite, les législateurs que vous êtes pouvez ressentir le besoin d’ajouter des éléments nouveaux, pour transposer des interdictions régulant la vie physique à la vie numérique. Dans certains cas, il convient d’ailleurs d’agir et de réagir, de manière urgente.

La question de l’âge est extrêmement compliquée et peut faire l’objet de contournements. En tant que commissaire, j’ai milité pour l’instauration de la e-identité, du e-wallet. Le travail a été très difficile, mais il a été accompli. Ici aussi, les Gafam se sont opposées à notre action. Vous n’imaginez pas le nombre de réunions que j’ai conduites à ce titre, y compris avec les autorités des États-Unis. Elles se plaignaient, estimant que j’en voulais aux grandes entreprises américaines. Je leur répondais que je ne faisais qu’appliquer le mandat confié par nos colégislateurs pour mieux protéger dans l’espace européen nos enfants, nos concitoyens, nos entreprises.

Il est dans l’intérêt des Gafam que la fragmentation actuelle perdure, car elle évite l’émergence de champions européens. Certaines d’entre elles se sont considérées à un moment, ou se considèrent peut-être encore aujourd’hui, comme des entités supranationales qui se substituent à la défaillance des États, épousant ici la doxa des libertariens. Elles veulent tout offrir, y compris des fonctions régaliennes, comme frapper monnaie ou se charger de l’identité numérique, du passeport numérique.

Je me suis opposé à ces tentatives, me suis battu et j’ai réussi à convaincre mes collègues de proposer un texte, désormais en discussion. Grâce à celui-ci, il sera enfin possible de contrôler de façon réelle qui est qui dans l’espace informationnel. Il devrait être publié en 2026, mais tout ce que vous pourrez entreprendre pour inciter Bruxelles à aller plus vite ira dans le bon sens, selon moi.

Mme Laure Miller, rapporteure. Lors de vos travaux, vous êtes-vous questionné sur la nature de la responsabilité des plateformes ? Ensuite, quels sont les facteurs de blocage à l’application des textes dont vous soulignez qu’ils ont fait l’objet qu’une quasi-unanimité au Parlement européen ?

M. Thierry Breton. Nous avons traité la question de la responsabilité en nous fondant sur les algorithmes. Ces algorithmes sont en effet opaques et peuvent pousser des contenus à forte viralité. Dans le cadre de la fonction de pédagogie qui était aussi la mienne, j’ai voulu, en permanence, alerter les patrons de ces plateformes sur cette responsabilité.

Un événement à forte viralité, comme le drame du 7 octobre 2023, peut engendrer des tsunamis d’informations sur les réseaux, et générer des commentaires, des contenus additionnels qui risquent d’être poussés ensuite par les algorithmes et se transformer progressivement en désinformations massives, fake news, ou informations en dehors du champ de la loi qu’un législateur a proposée dans son propre espace physique. Un réseau est par définition mondial et nous n’en régulons qu’une partie. Or les individus qui sont concernés par cette régulation sont localisés dans un espace qui n’est plus seulement territorial, mais également celui de l’appartenance à une communauté. Dès la survenue de la tragédie du 7 octobre, j’ai immédiatement écrit à l’ensemble des grandes entreprises du numérique en leur demandant de réguler plus que jamais leurs plateformes.

Lorsque le 12 août 2024, M. Elon Musk, propriétaire de Twitter devenu X, a annoncé qu’il offrirait l’accès à sa plateforme à M. Donald Trump, candidat à la présidence des États-Unis, il expliquait qu’il pratiquerait à cet effet des stress tests techniques pour vérifier que l’infrastructure technique était en mesure de supporter les connexions simultanées qui devaient être générées. J’ai alors écrit qu’un événement à la forte viralité potentielle nécessitait également des stress tests en matière de régulation.

Pour répondre à votre question, le sujet est maintenant traité. Une plateforme s’envisage par ses usagers, son accès à des informations et ses algorithmes. La régulation traite désormais de la neutralité nécessaire de ces plateformes. Je me suis battu pour que l’on puisse enfin accéder à ces algorithmes, ce qui est désormais possible pour ceux qui disposent des compétences idoines. Il s’agit du cœur du sujet, qui permettra de réguler ce qui se passe et forcer les plateformes à respecter l’engagement à respecter la loi européenne, lorsqu’elles opèrent en Europe.

Mais vous savez bien mieux que moi : pour être effective, une loi doit être appliquée, et le plus rapidement possible.

Mme Laure Miller, rapporteure. Je me permets de réitérer ma question : quels sont les facteurs de blocage, puisque la volonté politique semble exister ? Pourquoi certaines enquêtes n’ont-elles toujours pas abouti ?

M. Thierry Breton. Si vous me le permettez madame la rapporteure, je retournerais la question à ceux qui m’ont succédé.

M. Stéphane Vojetta (EPR). La question de TikTok tient particulièrement à cœur à notre commission d’enquête, dans la mesure où il s’agit de la plateforme préférée des enfants et des adolescents.

Je reconnais certains des défis que vous avez mentionnés, notamment le biais favorable des Gafam pour la fragmentation réglementaire en Europe, qui les favorise. Vous nous encouragez à inciter Bruxelles à agir. Je souhaite à ce titre évoquer l’initiative parlementaire que nous avions prise avec M. le président afin de créer une régulation et encadrer en France ce qu’on appelait l’influence commerciale, notamment afin d’attirer l’attention de Bruxelles sur ce sujet, qui était insuffisamment traité par le DSA et le DMA, selon nous.

À cette occasion, nous avions souffert de la contradiction que nous avait apportée la Commission, à laquelle vous apparteniez à l’époque. Celle-ci avait en effet demandé de manière assez ferme que notre texte soit a minima modifié, voire idéalement abrogé. Avec l’appui du gouvernement français, nous avions réussi à établir une négociation qui nous a permis d’aboutir à une modification du texte, notamment pour revenir en arrière sur l’étendue géographique des règles que nous mettions en place. Cette loi sur les influenceurs est entrée en vigueur ; elle est désormais modifiée.

Cependant, compte tenu de votre perspective d’ancien commissaire européen, comment pouvons-nous, en tant que législateurs nationaux, forcer Bruxelles à agir sur les éléments qui restent à accomplir dans le cadre de la régulation européenne, notamment sur la vérification d’âge ? Il s’agit notamment d’imposer de nouvelles obligations à des plateformes quand les règles de fonctionnement de l’Union européenne nous retirent de facto cette prérogative et nous empêchent de nous prononcer par voie législative sur les obligations qui devraient peser sur les plateformes.

Ma deuxième question est liée à votre expérience. Vous avez parlé à juste titre de l’effort de lobbying des Gafam, un effort qui pèse surtout sur Bruxelles. Vous avez ainsi évoqué les pressions dont vous aviez été l’objet. Avez-vous connaissance des plateformes qui étaient impliquées dans ce lobbying ? TikTok en faisait-elle partie ? De quel type de pressions s’agissait-il ?

Par ailleurs, M. Mark Zuckerberg s’est réjoui de l’élection d’un nouveau président américain, considérant qu’il l’aidera à lutter contre les amendes que souhaite imposer l’Union européenne à ceux qui oseraient ne pas respecter les règles qu’elle a édictées. Comment réagissez-vous à ces propos ?

M. Thierry Breton. Je connais bien M. Mark Zuckerberg, qui a longtemps financé le parti démocrate. Visiblement, il a changé d’avis entre le mois de novembre 2024 et le mois de janvier 2025. Cela peut arriver à tout le monde et je n’ai pas d’autre commentaire à formuler à ce sujet. J’ai passé beaucoup de temps avec lui. Je suis allé le rencontrer avec mes équipes, nous avons réalisé des tests en blanc ; il était très positif et très réactif, comprenait parfaitement ce que nous faisions.

S’agissant du lobbying, je ne veux pas rentrer dans le détail, au-delà de ce qui a été rendu public. Des journaux ont par exemple découvert certains documents de Google qui ont révélé que l’entreprise m’avait ciblé de façon très précise et la stratégie employée pour m’empêcher de mener à terme le travail que m’avaient confié les colégislateurs.

Lorsque nous nous sommes lancés dans cette tâche, nous avons immédiatement ambitionné d’atteindre une dimension européenne, à la hauteur des 450 millions d’habitants de l’Union européenne. Nous nous sommes battus pour mettre en œuvre le plus rapidement possible des règlements, c’est-à-dire d’application directe, et non des directives. Il ne s’agissait pas d’empêcher les législateurs nationaux de travailler, mais d’éviter de reproduire des phénomènes de fragmentation. Nous avons donc fait en sorte de travailler en amont avec ces législateurs nationaux.

Le règlement a ainsi été adopté, mais les parlements nationaux peuvent ensuite affiner et apporter des éclaircissements, à partir d’un cadre transverse. Les régulateurs nationaux travaillent ensemble, en dépit des difficultés que cela a suscitées. Désormais, le DSA board existe et se réunit pratiquement tous les mois.

Au-delà, les sujets que nous abordons aujourd’hui sont techniques, compliqués, mais essentiels pour notre vie à tous et pour le travail parlementaire qui va progressivement s’approprier cet espace informationnel. Précédemment, il a été fait mention de la marchandisation sur TikTok. Grâce au DSA, j’ai découvert lorsque j’étais commissaire que la plateforme s’apprêtait à lancer l’application TikTok Lite. Celle-ci, qui ciblait particulièrement les plus jeunes, avait pour objet de donner aux utilisateurs des points en fonction du nombre d’heures passées sur l’application et de « récompenser » les plus assidus par des cadeaux.

Lorsque nous avons eu vent de ce projet, nous avons immédiatement pris contact avec la plateforme, dans la mesure où il était en contradiction absolue avec les règles du DSA. La discussion a été très animée, très violente, mais en vingt-quatre heures, l’application a été retirée. De fait, un régulateur doit être capable d’exercer cette puissance, cette pression et de communiquer, comme je l’ai fait fréquemment lorsque j’étais régulateur.

J’ai également écrit à l’ensemble des ministres de l’éducation de l’Union européenne pour leur indiquer qu’il me semblait indispensable que les enfants et les parents sachent que l’espace informationnel est contrôlé. Il n’y a plus d’impunité, on ne peut plus faire n’importe quoi, on ne peut plus harceler n’importe qui en se cachant derrière un pseudo. J’avais ainsi proposé de créer dans chaque établissement scolaire un « référent DSA », de la même manière qu’il existe des psychologues. J’ai reçu des retours à ce sujet et sais que la démarche a débuté ; il serait peut-être souhaitable qu’elle se poursuive.

Je n’ai absolument pas de conseil à donner à mes successeurs, ni à qui que ce soit ; je ne m’inscris pas dans cette logique. Simplement, notre intérêt général consiste à faire en sorte que cette loi s’applique le plus rapidement possible. Comme toutes les nouvelles lois, elle n’est pas parfaite et il importe que vous puissiez progressivement la faire progresser, l’améliorer. Le cadre le permet.

M. le président Arthur Delaporte. Vous avez insisté à juste titre sur le caractère central des algorithmes. Le DSA indique que le dispositif de l’algorithme peut être mis à disposition des autorités pour les contrôles. Mais cette transparence est toute relative ; elle reste extrêmement elliptique et très souvent insuffisante. Finalement, aujourd’hui, l’algorithme n’est pas vraiment plus transparent pour le citoyen qu’il ne l’était hier. Je n’ai pas non plus l’impression que les plateformes le mettent à la disposition des autorités de contrôle.

M. Thierry Breton. Sur ces questions, je suis soumis à certaines obligations et ne dispose plus d’aucune information depuis que j’ai quitté la Commission. L’ensemble des enquêtes qui ont été lancées ont été annoncées publiquement. Un rapport d’étape avait été rédigé à la fin 2023, au tout début de l’application du règlement. Je vous mentirais en vous disant qu’il n’existait pas un certain nombre de suspicions, mais puisque des enquêtes sont en cours, je ne peux évoquer ce sujet de manière plus détaillée. À mon époque, elles n’avaient pas été lancées formellement. Si tel avait été le cas, j’aurais rendu public ce rapport.

La Commission a recruté des personnes aux compétences extrêmement fortes sur ces questions. Il s’agit par exemple d’Européens partis travailler dans la Silicon Valley avant de revenir sur leur continent et contribuer à notre action. Au-delà, il me semble opportun de démontrer que nous pouvons faire usage des moyens qui sont donnés, y compris coercitifs, dans la mesure où la nécessité s’exprime sur ces questions.

M. Emmanuel Fouquart (RN). Nos différentes auditions témoignent de l’urgence de la situation vis-à-vis des mineurs. De quelle manière pourrons-nous appliquer les futures recommandations qui seront formulées au niveau européen ?

M. Thierry Breton. Je rappelle que l’Autorité de régulation de la communication audiovisuelle et numérique (Arcom) est compétente sur ces sujets et fait partie du DSA board. À ce titre, elle est en mesure d’agréger l’information et de la partager.

Nous vivons un contexte politique et géopolitique particulier, mais il me semble nécessaire d’en faire abstraction parce qu’il s’agit surtout d’appliquer les lois qui ont été votées par notre démocratie – en particulier sur TikTok – dont vous êtes les représentants, au même titre que vos collègues européens. À mon sens, l’erreur serait d’accepter de rentrer dans des calculs de négociation comme je peux le lire ici ou là, un arbitrage entre réduction des droits de douane en échange de la révision de certaines lois. Si tel était le cas – je sors ici de mon champ de compétences –, cela voudrait dire que notre intégrité territoriale et démocratique est à vendre. Il s’agirait là d’un tout autre projet pour nous en Europe.

M. le président Arthur Delaporte. Je vous remercie. Nous sommes à votre disposition pour toute information complémentaire que vous souhaiteriez fournir par écrit à la commission d’enquête. Je précise que madame la rapporteure et moi-même, nous nous rendrons à Bruxelles pour rencontrer les services de la Commission européenne mercredi 4 juin. Nous avons par ailleurs auditionné l’Arcom mardi dernier.

37. Audition de Mme Cécile Augeraud, commissaire divisionnaire, chef-adjoint à l’Office anti cybercriminalité (OFAC) (mardi 27 mai 2025)

La commission auditionne ensuite Mme Cécile Augeraud, commissaire divisionnaire, chef-adjoint à l’Office anti cybercriminalité (OFAC) ([36]).

M. le président Arthur Delaporte. Nous accueillons à l’instant Mme Cécile Augereau, commissaire divisionnaire et chef adjoint à l’Office anti-cybercriminalité (Ofac). Madame, je vous remercie de prendre le temps de répondre à notre invitation, mais également de nous déclarer tout intérêt public ou privé qui serait de nature à influencer vos déclarations.

L’article 6 de l’ordonnance du 17 novembre 1958 relative au fonctionnement des assemblées parlementaires impose aux personnes auditionnées dans le cadre de travaux d’enquête de prêter le serment de dire la vérité, toute la vérité, rien que la vérité. Je vous invite donc à lever la main droite et à dire : « Je le jure ».

(Mme Augeraud prête serment.)

Mme Cécile Augeraud, commissaire divisionnaire, chef-adjoint à l’Office anti-cybercriminalité (Ofac). J’interviens effectivement au nom de l’Office anti-cybercriminalité, un office relevant de la Direction nationale de la police judiciaire. Issu de structures relativement anciennes, l’Ofac n’existe sous sa forme actuelle que depuis le 1er décembre 2023, sur le fondement d’un décret du 23 novembre 2023. Cet office est une structure centrale, dotée d’un effectif de 167 personnels, d’un maillage territorial avec onze antennes, auquel il faut ajouter ce jour dix-huit détachements constituant un effectif de 226 personnels. À l’horizon 2027, l’Ofac devrait comporter quarante-cinq détachements.

L’Office gère le budget cyber de la police nationale et a vocation à intégrer des policiers, des gendarmes et des douaniers. Il est chargé de la déclinaison des trente-sept mesures du plan cyber de la police nationale pour une police plus cyber, une cyberpolice plus efficace qui détecte, qui partage et qui protège.

L’Ofac remplit quatre missions essentielles : enquêter, appuyer, renseigner et détecter. Dans cette dernière mission, nous sommes confrontés à des contenus issus de TikTok ; à travers Pharos, la plateforme d’harmonisation, d’analyse, de recrutement et d’orientation des signalements. Pharos a été ouverte au public en 2009, très rapidement après l’essor des réseaux sociaux. Cet outil est destiné à centraliser les signalements en un point unique, aux fins de recoupement, mais également pour une meilleure compréhension et une détection plus rapide des phénomènes. Pharos est une entité qui ne peut recevoir que les contenus illicites, publics et en ligne, avec une exception notable, qui porte sur le traitement des urgences vitales. En cas d’urgence vitale, le signalement est traité même si les critères précités ne sont pas respectés.

La force principale de cette plateforme réside dans sa double capacité d’action. Il s’agit d’abord d’une capacité d’action judiciaire : Pharos peut initier des procédures sur le fondement des signalements qui y sont faits, sous l’autorité du Pôle national de lutte contre la haine en ligne, pour tout ce qui relève de la haine en ligne ; et sous l’autorité du parquet de Nanterre pour les autres types de mesures. Pharos dispose aussi de pouvoirs administratifs forts qui donnent à son action un rôle encore plus conséquent.

Cette plateforme fonctionne sept jours sur sept, vingt-quatre heures sur vingt-quatre, depuis janvier 2021. Elle réunit à ce jour quarante-quatre enquêteurs, policiers et gendarmes, qui sont répartis en quatre entités : une cellule qui traite les signalements dits généralistes ; une cellule de lutte contre la haine en ligne – soit les signalements les plus complexes à caractériser et dont les prescriptions ne sont pas forcément les mêmes que celles des autres infractions – ; une cellule consistant en un pôle rôle judiciaire ; une cellule des mesures administratives chargée de mettre en œuvre l’article 6-1 de la loi n° 2004-575 du 21 juin 2004 pour la confiance dans l’économie numérique (LCEN), pour le retrait des contenus pédocriminels et apologétiques du terrorisme. Désormais, Pharos a aussi en charge les contenus relatifs aux actes de torture et de barbarie en matière administrative. Enfin, cette cellule administrative met en place les mesures de l’article 6-1-1 de la LCEN, c’est-à-dire celles qui sont issues du règlement sur les contenus terroristes en ligne (terrorist content online ou TCO). Les pouvoirs exorbitants de cette cellule sont néanmoins contrôlés par la personnalité qualifiée de l’Autorité de régulation de la communication audiovisuelle et numérique (Arcom), qui examine chacune des demandes de retrait des mesures formulées par la cellule administrative de Pharos.

M. le président Arthur Delaporte. Je vous remercie. En compagnie de M. Stéphane Vojetta ici présent, j’ai eu l’occasion de visiter les services de l’Ofac il y a deux ans. Nous avions pu y observer le professionnalisme, l’engagement des agents, mais également la faiblesse des moyens qui étaient les vôtres par rapport aux enjeux de la régulation du numérique.

Mme Laure Miller, rapporteure de la commission d’enquête sur les effets psychologiques de TikTok sur les mineurs. Je souhaiterais que vous puissiez évoquer en détail le bilan des contenus qui ont été portés à votre connaissance sur TikTok dans les années précédentes et dont Pharos a demandé aux hébergeurs le retrait ou la limitation de la visibilité. Avez-vous des liens directs avec TikTok ? Quelle est la part des contenus qui ont pu être retirés après signalement ? Quel est votre jugement sur l’évolution de la modération, particulièrement dans le cadre européen aujourd’hui à notre disposition à travers le règlement (UE) 2022/2065 du Parlement européen et du Conseil du 19 octobre 2022 relatif à un marché unique des services numériques et modifiant la directive 2000/31/CE dit Digital services act (DSA) ? La modération est-elle plus soutenue ou à l’inverse, les contenus problématiques non modérés sont-ils encore très présents ?

Mme Cécile Augeraud. En 2024, Pharos a reçu 9 027 signalements concernant 5 554 contenus distincts hébergés sur TikTok ; sur un total de plus de 222 000 signalements. Les signalements liés à des contenus présents sur TikTok représentent donc environ 4 % du total des signalements reçus par la plateforme. Par rapport à 2023, il s’agit quasiment d’un doublement du nombre de signalements de contenus issus de TikTok, puisqu’ils s’établissaient alors à 5 010, sur un total d’environ 211 000 signalements.

S’agissant de la nature de ces signalements, plusieurs grandes catégories ressortent et représentent à elles seules 70 % du total. Il s’agit d’abord des discriminations, qui relèvent plutôt de la provocation publique à la haine et à la discrimination raciale, ethnique ou religieuse, ainsi que des injures et diffamations xénophobes ou discriminatoires. Nous recevons également des signalements concernant des menaces, des révélations de faits connus hors Internet, par exemple des annonces de troubles à l’ordre public ; mais aussi des vidéos de violences sur la voie publique mises en ligne. La dernière grande catégorie concerne les faits relatifs au terrorisme.

S’agissant de 2025, nous avons reçu à la mi-mai 4 441 signalements sur Pharos, sur 3 145 contenus différents et rapporté 80 000 signalements reçus sur la plateforme pour la même période. Il s’agit donc d’une proportion plus élevée encore que l’année précédente, puisqu’elle atteint 5,5 % contre 4 % en 2024. Les quatre grandes catégories restent également les mêmes pour cette année. En revanche, nous constatons une baisse de la proportion de contenus terroristes : ils représentaient 15,6 % des signalements en 2024, contre 10,5 % pour ce début d’année 2025.

En revanche, en dehors des principales catégories, nous observons une très forte hausse des atteintes aux mineurs, passant de 3,15 % en 2024 à 7,5 % en 2025. Il ne s’agit pas de pédocriminalité, mais de contenus provenant de mineurs qui vont être détournés, comme des images détournées d’enfants jouant sur la plage, des contenus s’inscrivant dans des campagnes très spécifiques. Je pense par exemple à l’émoji « pizza », qui renvoie ceux qui les consultent vers des messageries privées, essentiellement Telegram, pour permettre des échanges pédocriminels.

Je souhaite également apporter un éclairage sur les contenus d’atteintes corporelles, puisque le hashtag SkinnyTok a été évoqué à de multiples reprises. Les signalements que nous avons reçus en la matière sont demeurés malgré tout dans des proportions relativement réduites. Parmi les derniers signalements reçus, les enquêteurs de la plateforme ont toutefois relevé le compte d’une jeune femme anorexique qui montre son quotidien en incitant à l’anorexie. Ce type de contenu existait déjà sur les blogs avant l’explosion des réseaux sociaux, mais il inquiète encore plus sur TikTok en raison de l’algorithme particulièrement puissant de cette plateforme.

Concernant la haine en ligne hors terrorisme, Pharos a procédé à 195 notifications au titre de l’article 6, qui ont été adressées à TikTok pour lui signaler qu’elle hébergeait des contenus illicites. Des retraits ont été effectués par TikTok dans à peu près 60 % des cas.

S’agissant des signalements qui nous sont adressés en lien avec des contenus TikTok, les enquêteurs sont également soumis à deux difficultés. D’abord, nous sont parfois signalés des commentaires haineux intervenant sous certaines publications, qui elles ne sont pas problématiques. Or il peut être parfois difficile de retrouver ces contenus-là pour procéder aux constatations. Ensuite, se pose également le problème de propos tenus dans le cadre de lives qui sont diffusés sur TikTok, où par définition, nous arrivons trop tard pour procéder à des constatations.

Pharos dispose de pouvoirs administratifs forts, notamment en matière de pédocriminalité et de terrorisme. À ce titre, 750 contenus présents sur TikTok ont fait l’objet en 2024 de demandes de retrait au titre de l’article 6-1 de la LCEN. Sur cette même année 2024, Pharos a procédé à 87 410 demandes de retrait au total. En conséquence, ces demandes de retrait représentent moins de 1 % des demandes de retrait formulées au total.

Il faut cependant relever que la répartition est particulièrement parlante, puisque sur ces demandes, 749 demandes l’ont été pour des faits relevant du terrorisme, soit 11 % des demandes de retrait formulées par la plateforme, qui en a formulé 6 679 en 2024. Pharos a souhaité, en quelque sorte, « marquer le coup » et utiliser largement l’article 6-1-1 de la LCEN, en lien avec le règlement TCO sur les contenus relevant du terrorisme. À ce titre, 134 injonctions de retrait TCO ont été formulées par Pharos pour des contenus présents sur TikTok, sur un total de 159 injonctions de retrait TCO. La très grande majorité de nos injonctions TCO concernent donc des contenus présents sur TikTok. C’est peut-être aussi une des explications que l’on peut donner au changement de proportion entre le terrorisme et les atteintes aux mineurs constatées entre 2024 et 2025, la plateforme ayant sans doute plus pris conscience de notre très grande attention.

Enfin, 76 contenus ont été traités en urgence vitale par Pharos pour des contenus présents sur TikTok, sur un total de 690 urgences vitales traitées en tout au titre de l’année 2024. J’ajoute également que vingt procédures judiciaires ont été ouvertes depuis le début de l’année 2025 sur le fondement de signalement de contenus présents sur TikTok.

Vous m’avez également interrogée sur nos relations avec TikTok. Depuis déjà un certain temps, nous avons fait le constat d’un besoin accru de contact et de coopération avec les fournisseurs de services Internet. À ce titre, le bureau d’aide à l’enquête numérique (BAEN) a été créé en 2014. En dehors de la préfecture de police de Paris, ce bureau est identifié par les fournisseurs comme l’interlocuteur unique pour la police nationale. Il sert d’intermédiaire entre les enquêteurs et les fournisseurs, dont TikTok, qui désignent chacun en leur sein un contact réservé.

Ce contact réservé est particulièrement réactif et proactif. Il réagit à nos demandes et les enquêteurs ne signalent aucune difficulté particulière le concernant, à la réserve près du suivi de nos notifications au titre de l’article 6. S’agissant de Pharos, TikTok prend assez rapidement en compte les demandes de retrait que nous formulons, essentiellement au titre de l’article 6-1. Au titre du 6-1-1, toutes nos inventions de retrait ont été suivies d’effet. Comme je vous l’indiquais, au titre de l’article 6, nous sommes plus limités quant au suivi assuré par TikTok. Par ailleurs, au titre de l’article 18 du DSA et de la notification de soupçon d’infraction pénale avec menace pour la vie ou la sécurité des personnes, TikTok effectue également des signalements à Pharos ; 33 en 2024, mais déjà 51 pour ce début d’année 2025.

Enfin, l’Ofac ne dispose pas d’une vision globale sur l’action des réseaux sociaux pour pouvoir s’exprimer sur le respect par ses derniers de leurs obligations issues de la réglementation européenne en matière de modération. Cependant, la modération mise en place par TikTok se mesure au nombre de signalements effectués sur Pharos. Or nous constatons une augmentation régulière du nombre de ces signalements. Nous resterons donc très attentifs à la poursuite de cette augmentation et au traitement particulier sur les signalements issus de contenus provenant de TikTok.

M. le président Arthur Delaporte. Vous indiquez avoir effectué environ 750 demandes de retrait en 2024 au titre de l’article 6-1 de la LCEN. De son côté, le rapport de transparence de TikTok en mentionne seulement 250 au deuxième semestre et environ 170 au premier semestre. Je m’interroge sur cette différence, ainsi que sur la catégorisation des demandes de retrait venant du Gouvernement, qui sont inférieures aux chiffres que vous avez indiqués. Sur le deuxième semestre 2024, sont ainsi dénombrées 197 demandes de retrait de contenus terroristes, une d’exploitation sexuelle de mineurs, une trentaine d’appels à la haine, quatre contenus relatifs aux crimes organisés ou violents. Nous sommes loin des 750 demandes que vous évoquez. Comment l’expliquez-vous ?

Mme Cécile Augeraud. Je n’ai aucune explication concernant les chiffres fournis par TikTok dans son rapport de transparence. L’outil Pharos n’est pas un outil statistique, notre comptabilisation est essentiellement manuelle. Nous allons modifier bientôt notre outil, ce qui nous permettra à l’avenir d’être beaucoup plus précis dans nos chiffres. En revanche, les chiffres sont comptabilisés uniquement par les membres de la cellule de blocages et sont suivis par la personnalité qualifiée de l’Arcom. Je pourrai vous communiquer à l’issue de cette audition l’infographie qui reprend nos différents chiffres.

Mme Laure Miller, rapporteure. Avez-vous une idée de la proportion des contenus que vous signalez qui concernent des mineurs ? Estimez-vous que la loi française devrait changer, pour permettre d’incriminer des contenus qui ne sont pas aujourd’hui sanctionnés ?

Mme Cécile Augeraud. Quand nous traitons un contenu, nous ne savons pas qui nous le signale. Nous qualifions ensuite ces contenus, dont certains concernent les mineurs, sans que je puisse pour autant vous donner des proportions. En revanche, les signalements de pédocriminalité sont très limités, puisque nous n’avons fait qu’une notification à ce titre pour l’année 2024.

S’agissant des contenus signalés, sur Pharos, nous nous efforçons de trouver une qualification pénale qui pourrait correspondre à une exposition particulière. Je pense par exemple aux incitations au suicide qui peuvent particulièrement toucher des adolescents. Nous avons ainsi reçu 14 signalements pour ce type de fait en 2024, pour 10 contenus différents. Cependant, pour pouvoir traiter ces contenus à ce titre, il faut qu’une tentative de suicide soit intervenue. Nous les envisageons aussi sous l’angle du harcèlement, pour pouvoir prendre en compte un signalement et le traiter.

M. le président Arthur Delaporte. Estimez-vous que les effectifs dont vous disposez devraient être augmentés ?

Mme Cécile Augeraud. En toute matière, on est forcément plus pertinents si l’on est plus nombreux. Je rappelle cependant que puisque Pharos fonctionne vingt-quatre heures sur vingt-quatre et sept jours sur sept, nous pouvons traiter un maximum de signalements. À ce titre, l’Ofac est surtout attentive à l’extension des pouvoirs de Pharos, notamment de la cellule des mesures administratives, composée de quatre agents qui traitent les demandes de retrait de contenus pédocriminels, terroristes et au titre du TCO. Dans le cadre du projet de loi visant à sortir la France du piège du narcotrafic, les pouvoirs de Pharos seront encore plus étendus pour pouvoir mieux détecter les contenus en lien avec les stupéfiants.

Cette augmentation du nombre de missions nous imposera d’être particulièrement attentifs quant à la charge de travail et la capacité de la plateforme d’être toujours aussi efficiente pour pouvoir répondre dans des délais très courts, sans obérer naturellement le traitement des urgences vitales.

M. le président Arthur Delaporte. Si vous deviez comparer l’attitude de TikTok et celles des autres plateformes en termes de célérité et d’efficacité, comment la qualifieriez-vous ?

Mme Cécile Augeraud. Cela dépend des contenus. Pour certains d’entre eux, la rapidité est réelle et le suivi effectif. Nous le constatons sur les injonctions TCO, pour lesquelles les contenus ont tous été retirés dans l’heure, conformément au texte. En revanche, nous sommes confrontés à de plus grandes difficultés sur les contenus liés à la discrimination avec l’ensemble des réseaux sociaux, dans la mesure où cette matière pose le plus de difficultés en termes de qualification et où les plateformes examinent les demandes avec leur propre prisme. Par exemple, les plateformes américaines portent un regard très particulier sur la discrimination et la liberté d’expression, qui n’est pas forcément identique à celui que nous pourrions avoir en France. Certaines plateformes américaines sont donc beaucoup moins promptes encore que TikTok à traiter et suivre ce genre de signalement. Je pense qu’à ce titre, TikTok se situe dans une moyenne acceptable.

M. le président Arthur Delaporte. Vous évoquez vos discussions avec les services de modération sur les retraits de contenus problématiques, notamment liés à la protection des mineurs. Pouvez-vous nous donner plus de détails sur des flous juridiques ou des différences d’interprétation ? Cela impliquerait-il de faire évoluer le droit pour le rendre plus explicite et faciliter les échanges avec les plateformes ?

Mme Cécile Augeraud. Nous n’identifions pas aujourd’hui de véritables failles dans la législation qui nous empêcheraient réellement d’agir. Les plateformes sont surtout incitées à agir face au risque de l’application de sanctions financières en cas de non-suivi des demandes de retrait ou des injonctions de retrait, ces sanctions financières étant particulièrement conséquentes. Un autre enjeu pour les plateformes concerne leur image. Elles sont très attachées à donner une image la plus lisse possible sur certains types de contenus, essentiellement sur les contenus pédocriminels. Il faudrait les sensibiliser également sur le préjudice d’image au-delà des contenus pédocriminels, pour tout ce qui concerne les mineurs, mais aussi parfois communiquer davantage sur les absences de retrait ou sur les divergences d’interprétation en temps réel.

M. le président Arthur Delaporte. Je vous remercie pour vos propos et plus largement, pour le travail que vous réalisez avec vos collègues au sein de l’Ofac. Vous pourrez nous communiquer tout élément complémentaire si vous le souhaitez.

38. Audition de M. Nicolas Deffieux, directeur du Pôle d’expertise de la régulation numérique (PEReN) (mardi 27 mai 2025)

La commission auditionne enfin, à huis clos, M. Nicolas Deffieux, directeur du Pôle d’expertise de la régulation numérique (PEReN).

M. le président Arthur Delaporte. Nous recevons M. Nicolas Deffieux, directeur du Pôle d’expertise de la régulation numérique (Peren). M. Deffieux, cette audition se déroulant à huis clos, vous aurez la possibilité, si vous le souhaitez, de retrancher une partie de vos propos du compte rendu qui sera publié sur le site de l’Assemblée. Nous serons peut-être amenés à suspendre brièvement en raison de la loi relative au droit à l’aide à mourir, le temps d’aller voter. Je vous souhaite la bienvenue et vous remercie de bien vouloir nous déclarer tout intérêt public ou privé de nature à potentiellement influencer vos déclarations.

L’article 6 de l’ordonnance du 17 novembre 1958 relative au fonctionnement des assemblées parlementaires impose aux personnes auditionnées dans le cadre de travaux d’enquête de prêter le serment de dire la vérité, toute la vérité, rien que la vérité. Je vous invite donc à lever la main droite et à dire : « Je le jure ».

(M. Deffieux prête serment.)

M. Nicolas Deffieux, directeur du Pôle d’expertise de la régulation numérique (Peren). Directeur du Peren rapidement après sa création en août 2020, je suis fonctionnaire et j’ai travaillé d’abord à l’Autorité de régulation des communications électroniques, des postes et de la distribution de la presse (Arcep) pendant onze ans, puis à l’Autorité de la concurrence pendant huit ans, en tant que rapporteur général adjoint dans les services d’instruction, plus spécifiquement sur les plateformes numériques et les télécommunications.

Le Pôle d’expertise de la régulation numérique est un service à compétence nationale d’expertise technique mutualisé entre différents services de l’État. Il est également à la disposition de certaines autorités administratives indépendantes et d’autorités publiques indépendantes qui conduisent des missions de régulation des plateformes numériques. Nous disposons aussi d’un accord de partenariat avec la Commission européenne, qui est régulateur du numérique dans le cadre du règlement (UE) 2022/2065 du Parlement européen et du Conseil du 19 octobre 2022 relatif à un marché unique des services numériques et modifiant la directive 2000/31/CE dit Digital services act (DSA) et du règlement (UE) 2022/1925 du Parlement européen et du Conseil du 14 septembre 2022 relatif aux marchés contestables et équitables dans le secteur numérique et modifiant les directives (UE) 2019/1937 et (UE) 2020/1828 dit Digital markets act (DMA). La Commission a la possibilité de faire appel à nos services dans un cadre qui est soumis à des causes de confidentialité.

Le Peren est né à la suite des États généraux du numérique de 2019, qui avait constaté que les services de l’État n’étaient pas forcément bien armés face aux grandes plateformes, en particulier en termes d’analyse des données et d’expertise numérique. Il avait donc été décidé de tester un schéma dans lequel, au lieu de rajouter quelques data scientists à chaque régulateur, il fallait plutôt mettre en place un pôle d’expertise à la disposition de l’ensemble des régulateurs. En effet, même si les champs juridiques sont extrêmement différents, la réponse technique, informatique ou même mathématique peut être la même, soulignant l’intérêt de mutualiser les moyens.

Le Peren comprend une trentaine de personnes. Certaines disposent d’une expertise technique et informatique, développent du code informatique pour aider les régulateurs à mettre en œuvre la régulation, à détecter des phénomènes. Mais nous assurons également un rôle d’aide à la conception de la régulation, pour évaluer si certaines règles sont parfois ambiguës d’un point de vue technique, voire si elles ne peuvent pas être transposées techniquement.

Dans le champ de la protection des mineurs, plusieurs travaux ont été réalisés. Nous avons ainsi œuvré à l’assistance technique sur le contrôle parental et notamment le « décret Studer ». Nous sommes aujourd’hui mobilisés dans le cadre des travaux sur le contrôle parental par le groupe des régulateurs qui a été créé par la loi n° 2024-449 du 21 mai 2024 visant à sécuriser et à réguler l'espace numérique dite loi SREN. Nous vérifions ainsi que les modalités pratiques de contrôle parental qui sont mises en œuvre sur différents smartphones sont suffisamment fonctionnelles et ne peuvent pas être contournées trop facilement en fonction des générations de smartphones et des différents systèmes d’exploitation utilisés.

Nous avons également fourni une assistance technique sur les sujets de vérification d’âge. En compagnie de la Commission nationale de l’informatique et des libertés (Cnil) et de l’École polytechnique, nous avons créé un prototype de transmission de la preuve d’âge en double anonymat. Nous avons travaillé ensuite en coordination avec l’Autorité de régulation de la communication audiovisuelle et numérique (Arcom) et la Cnil sur la détermination du référentiel qui a été publié par l’Arcom.

Des travaux ont également été initiés sur l’économie de l’attention et les différents éléments d’interface ou algorithmiques qui conduisent les utilisateurs à rester le plus longtemps possible sur une application. Nous avons également travaillé avec le secrétariat général des affaires européennes pour fournir un appui technique sur les questions de chiffrement et notamment la détection de contenus pédocriminels sur les messageries chiffrées de bout en bout.

Par ailleurs, nous avons élaboré un concept avec l’Arcom, une plateforme de signalement destinée aux signaleurs de confiance : les dates de signalement sont enregistrées, afin que l’Arcom dispose de données sur les délais de traitement des signalements par les plateformes. Enfin, nous avons conduit des travaux pour la Commission européenne dans le cadre de ses investigations sur le DSA. En particulier, nos apports concernent l’établissement de méthodologies de démonstrations robustes et utilisables dans les contentieux.

Mme Laure Miller, rapporteure de la commission d’enquête sur les effets psychologiques de TikTok sur les mineurs. Avez-vous examiné l’algorithme de recommandation de TikTok, qui apparaît particulièrement performant ? Pouvez-vous nous livrer votre analyse à ce sujet ? Entretenez-vous des liens quotidiens avec les plateformes et les réseaux sociaux ?

M. Nicolas Deffieux. Nous avons conduit plusieurs travaux sur TikTok, dont notamment une analyse de bulles de filtre. Lors d’une expérimentation, nous avons instrumenté des smartphones pour simuler l’intérêt d’un utilisateur virtuel pour une thématique de vidéos. Cela nous a permis d’obtenir des données quantitatives sur la vitesse à laquelle l’algorithme de TikTok détectait un intérêt pour un sujet, mais aussi un changement d’intérêt vers une thématique différente. Il apparaît que l’algorithme de TikTok est vraiment très puissant et rapide et détecte ces phénomènes. Ce premier travail a été transmis à la Commission en 2023, lorsqu’elle avait inauguré son centre d’analyse sur la transparence algorithmique, avec lequel nous travaillons.

Nous avons aussi été interrogés par la commission d’enquête du Sénat sur l’utilisation du réseau social TikTok, le fonctionnement de son algorithme, son exploitation des données, sa stratégie d’influence. À cette occasion, nous avons montré que deux types d’analyses sont possibles. Le premier type d’analyse concerne la compréhension des mécanismes de captation de l’attention intégrés à l’application, soit par des éléments d’interface, soit par une sorte de filtrage ou de fonctions qui alimentent l’algorithme et sont déjà présentes sur le smartphone. Dans le code de l’application TikTok, il existe en effet du machine learning, mais nos observations sur ce champ-là sont assez limitées.

Le premier obstacle concerne le cadre juridique approprié pour pouvoir se lancer dans ce type d’analyses. En effet, elles mobilisent des techniques de reverse engineering pour décortiquer le code, accéder à un système de traitement automatisé de données. Or il n’est pas possible d’y parvenir sans avoir été mandaté par une administration dotée de la compétence juridique, sauf à disposer nous-mêmes d’un cadre approprié.

Mais la partie la plus importante a trait aux serveurs de TikTok qui envoient les contenus sur le smartphone, par lots. Lorsque vous êtes connecté, le serveur de TikTok envoie huit vidéos en bloc, qui sont stockées sur le smartphone, avant d’être lues. Les travaux réalisables sur ces serveurs consisteraient à accéder de manière privilégiée aux données internes de l’algorithme, sur les serveurs. TikTok a mis en place des centres de transparence physiques, mais nous n’avons jamais pu les visiter. En outre, même si nous avions accès aux données internes de l’algorithme, cela ne serait pas forcément le plus utile, dans la mesure où il est difficile de les décrypter. Il serait plus intéressant de pouvoir accéder à des interfaces de test, c’est-à-dire pouvoir nous-mêmes tester l’algorithme avec nos propres algorithmes, dans des conditions bien plus efficaces que l’utilisation via des smartphones. Mais même dans ce cas, il existerait des risques de manipulation si TikTok modifiait le comportement de l’algorithme qui sert aux tests.

M. le président Arthur Delaporte. Je suspends la séance pour quelques minutes pour nous permettre d’aller voter en séance publique. Je vous prie de nous excuser pour cette contrainte indépendante de notre volonté.

L’audition est suspendue de dix-huit heures vingt-cinq à dix-huit heures trente-cinq.

M. le président Arthur Delaporte. Nous reprenons notre audition.

M. Nicolas Deffieux. Laissez-moi reprendre mon intervention sur les travaux que nous menons. Je vous expliquais qu’il nous serait utile de pouvoir tester le fonctionnement de l’algorithme pour lui envoyer des requêtes et voir comment il se comporte, plutôt qu’accéder au code lui-même. À ce sujet, nous avons parfois été sollicités pour voir si nous pouvions créer des profils, par exemple d’adolescents, et étudier ce qui serait montré par TikTok de manière statistique et robuste, dans le cadre d’une expérimentation. Cependant, cela nécessite non seulement de créer des comptes avec une forme de fausse identité, mais aussi d’interagir avec la plateforme et sans doute de poster du contenu pour que l’algorithme pense qu’il est face à utilisateur réel. Or si nous maîtrisons la mécanique technique et la compétence statistique, nous ne disposons pas du cadre juridique adéquat pour mener l’expérimentation. Mais il existe quand même des possibilités.

M. le président Arthur Delaporte. À ce sujet, quelles sont les limites du cadre juridique actuel ? Que faudrait-il corriger pour pouvoir mener ce type d’expérimentation ?

M. Nicolas Deffieux. Il faut distinguer plusieurs sujets. La collecte automatisée des données est souvent interdite par les conditions générales d’utilisation (CGU) de la plateforme. Pour pouvoir outrepasser ces CGU et utiliser les données collectées dans un objectif de régulation, il faut bénéficier d’une compétence juridique spécifique, être doté de pouvoirs d’enquête. Or nous sommes un service de pure expertise technique, nous ne sommes ni régulateur, ni enquêteur et ne pouvons qu’au plus conduire des tests par nous-mêmes. De même, nous ne pouvons pas utiliser des identités d’emprunt, comme le peuvent les enquêteurs de la direction générale de la concurrence, de la consommation et de la répression des fraudes (DGCCRF).

En revanche, nous pouvons utiliser les possibilités prévues par le DSA. Le règlement prévoit en particulier que les plateformes doivent mettre à disposition des chercheurs un certain nombre d’interfaces de programmation d’application (API) pour accéder aux données. Or, depuis la loi n° 2021-1382 du 25 octobre 2021 relative à la régulation et à la protection des œuvres culturelles à l’ère numérique, le Peren exerce une mission de recherche publique. Nous sommes un organisme de recherche, enregistré au registre national des structures de recherche.

En pratique, la situation est plus compliquée ; nos demandes ont enregistré un succès variable auprès des plateformes. Par exemple, nous n’avons rencontré aucune difficulté pour accéder au registre des publicités, obligation formulée par le DSA. Dans un autre cadre, nous conduisons un projet de recherche sur la détection des discours haineux sur les réseaux sociaux et, à ce titre, nous avons demandé en avril 2024 d’accéder à une API existante, qui est proposée par TikTok aux chercheurs. Mais TikTok nous a demandé de justifier que les accès qui nous seraient fournis ne seraient pas partagés avec d’autres membres du Gouvernement. Nous avons donc dû effectuer des réponses très complètes, pour expliquer le fonctionnement du Peren en termes de sécurité des données et apporter des garanties éthiques, au titre de notre mission de recherche. Depuis un an, nous échangeons à ce titre et la semaine dernière, TikTok nous a adressé une nouvelle salve de questions pour fournir des justifications sur les statuts et soumettre un nouveau projet de recherche. La plateforme nous a demandé de lui apporter la garantie que nous respections les conditions de l’article 40, paragraphe 8 du DSA, qui ne concerne pas les projets de recherche généraux, mais les projets de recherche des chercheurs agréés au sens du DSA.

En résumé, la démarche est difficile, les projets de recherche sont vérifiés par les plateformes quand nous formulons des demandes d’accès, et nos réponses ne les ont pas satisfaites. La prochaine étape consisterait pour nous à porter ces éléments à la connaissance de l’Arcom et de la Commission européenne. Mais nous n’avons pas insisté sur cette question, dans la mesure où la loi SREN de 2024 a fait évoluer la rédaction de la mission de recherche pour le Peren. Un décret est en cours de finalisation et nous reprendrons nos demandes dès le nouveau cadre adopté.

M. le président Arthur Delaporte. Vous avez également évoqué la base de données publicitaires. Il y a un mois et demi est intervenue à Sciences Po Paris une série de « sprints » réunissant des chercheurs qui essayaient d’explorer les différentes bases de données. Il est apparu à cette occasion que la base de données de TikTok était très faiblement exploitable. La Commission européenne s’en est d’ailleurs saisie pour ouvrir une enquête à ce propos. Quelles leçons en avez-vous tiré ?

M. Nicolas Deffieux. Nous avons participé aux sprints et avons notamment animé l’un d’entre eux. Nous avons formulé les constats que vous avez évoqués.

Cela signifie bien que les difficultés rencontrées pour accéder à l’API ne préjugent pas de la qualité des données disponibles lorsque nous parvenons finalement à y accéder. Il est très facile de formuler une demande et d’accéder à l’API sur les registres publicitaires de TikTok. En revanche, ensuite, de nombreuses fonctionnalités sont manquantes. En outre, nous ne pouvons même pas juger du contenu de l’API pour laquelle nous avons effectué une demande il y a an, puisque l’accès ne nous a pas été donné.

M. le président Arthur Delaporte. Dans ce cadre, nous sommes preneurs de suggestions de modifications que vous pourriez nous adresser par écrit concernant la base légale, afin que nous puissions les évoquer dans notre rapport.

M. Nicolas Deffieux. Ce sujet est très délicat. Depuis le DSA, qui est quand même un règlement d’harmonisation maximale, il est très difficile d’établir une quelconque obligation supplémentaire qui viendrait peser sur les plateformes. La Commission exerce à ce titre une grande vigilance. À titre d’exemple, certaines dispositions de la loi SREN nous concernaient. La Commission nous a demandé d’apporter des garanties et de réécrire un certain nombre d’éléments pour s’assurer qu’ils ne contreviendraient pas au DSA.

M. le président Arthur Delaporte. Je vous ai interrompu dans vos propos. Vous étiez en train d’évoquer les différentes études.

M. Nicolas Deffieux. S’agissant du fonctionnement de l’algorithme de TikTok, je souhaite apporter un certain nombre d’éléments supplémentaires. TikTok ou ByteDance ont eux-mêmes publié des informations sur un algorithme de recommandation qui est décrit dans la presse comme « l’algorithme de TikTok ». Il s’agit effectivement d’un algorithme de ByteDance, mais nous ne savons pas s’il s’agit de celui qui est effectivement utilisé sur le service grand public, que tout le monde utilise. En effet, au même titre que Google, TikTok mène une activité commerciale dans laquelle la plateforme vend l’algorithme de recommandation. Cependant, en dépit de cette incertitude, cet algorithme fournit quand même des informations sur la manière dont TikTok code.

Cet algorithme s’appelle « BytePlus Recommend », le système porte le nom de Monolith. Il fonctionne dans le cadre d’un entraînement continu, un apprentissage quotidien. TikTok soutient qu’il constitue un avantage concurrentiel par rapport à d’autres systèmes. Il est donc possible d’imaginer qu’il figurerait également dans l’algorithme de l’application TikTok. La plateforme met en avant la fraîcheur des contenus pour l’algorithme : l’algorithme n’a pas une mémoire très profonde, mais place une prime sur les contenus très récents. L’index étant très récent, cela peut induire une viralité plus grande, en l’absence d’effet d’inertie ou de long historique.

En résumé, le contenu récent est davantage est promu et mis en avant par cet algorithme. Encore une fois, nous ne sommes pas certains que cet algorithme soit strictement identique à celui qui est utilisé concrètement. Nous ne disposons pas d’informations certaines sur l’algorithme du TikTok.

M. le président Arthur Delaporte. Pensez-vous que nous pourrions poser aux responsables de TikTok une question précise pour savoir s’il s’agit bien de l’algorithme qui est réellement utilisé par l’application ?

M. Nicolas Deffieux. Il serait effectivement très utile qu’ils précisent si l’algorithme est le même, ou à défaut les différences et les paramètres spécifiques.

M. le président Arthur Delaporte. Cet algorithme a-t-il été rendu public ? L’avez-vous analysé ? Ou ne s’agit-il que d’une analyse à partir de critères que TikTok a elle-même fournis dans un rapport ?

M. Nicolas Deffieux. Nous n’avons pas conduit une analyse par nous-mêmes. Je rapporte les éléments saillants d’une publication effectuée par TikTok. Nous pourrons vous adresser la référence.

M. le président Arthur Delaporte. Je vous remercie, nous serions évidemment preneurs.

M. Nicolas Deffieux. Je souhaite également répondre à l’une de vos autres questions concernant nos échanges avec les réseaux sociaux et TikTok. Nous communiquons très rarement de manière directe avec les plateformes. Ces interactions ont cependant lieu dans le cadre de différentes instances. Des échanges directs sont ainsi intervenus à l’occasion d’un panorama que nous avons réalisé sur les systèmes de vérification ou d’estimation d’âge auxquels les plateformes ont recours. Nous avons interrogé Meta, Google et X, en direct. TikTok avait refusé un entretien, mais nous a communiqué des éléments par écrit, nous indiquant qu’elle se fondait simplement sur la date de naissance déclarée par l’utilisateur au moment de la connexion. Elle a également précisé que ses modérateurs s’intéressent à certains utilisateurs lorsque quelque chose de louche apparaît à leurs yeux. Lorsque tel est le cas, ils formulent une demande de vérification d’âge formelle, soit par transmission de carte d’identité, soit en passant par un site tiers comme Yoti.

Par ailleurs, nous avons également interagi avec les plateformes dans le cadre d’expérimentations que nous avons menées. Par exemple, nous avons eu des relations avec Snapchat sur la fonctionnalité « My AI ». Snapchat ne nous a pas laissés faire facilement et nous a même menacés de poursuite si un problème survenait, ce qui n’a pas été le cas. Nous avons également conduit quelques expérimentations, notamment concernant les questions de personnalisation sur YouTube, qui se montre plutôt coopératif. À chaque fois que nous procédons de la sorte, nous agissons dans un cadre assez formel. Nous sollicitons les plateformes pour savoir si nos expérimentations peuvent entraîner des problèmes de sécurité ou pour leurs utilisateurs.

J’ai déjà évoqué plus tôt nos demandes auprès de TikTok sur les API académiques, qui n’ont pas été couronnées de succès. Il y a quelques années, Google nous a bénévolement laissés tester son système de recommandations. Nous avons ainsi pu emmagasiner de l’expérience sur l’état de l’art en ayant accès aux deux côtés de l’algorithme. Nous pouvions ainsi programmer nous-mêmes des paramètres de l’algorithme et observer les effets du côté des utilisateurs. Cela nous a permis de développer des outils pour mieux comprendre le fonctionnement de ces algorithmes.

Tels sont en résumé nos contacts directs avec les plateformes de réseaux sociaux. Globalement, nos relations s’exercent surtout avec les administrations qui nous adressent des questions et qui, ensuite, interagissent éventuellement avec les plateformes.

Mme Laure Miller, rapporteure. Lorsque nous avons auditionné les familles dont les enfants ont été victimes de TikTok, elles nous ont régulièrement indiqué que le contrôle parental était très facilement contournable. En outre, certains parents éprouvent des difficultés à le paramétrer et le mettre en œuvre. Avez-vous déjà analysé les différents systèmes qui existent aujourd’hui ? Avez-vous des préconisations pour renforcer ces systèmes parentaux ?

Par ailleurs, vos travaux sont-ils publics ou uniquement destinés à l’instance qui vous les commande ?

M. Nicolas Deffieux. Je réponds tout d’abord à votre deuxième question. Lors de chaque projet, nous effectuons un cadrage et demandons quel est le statut de confidentialité des travaux qui nous sont demandés. Nous sommes favorables à des publications, afin de rendre notre travail plus visible, mais cela intervient rarement. Dans le domaine du contrôle parental, cela me semblerait d’autant plus pertinent.

Ensuite, vous mentionnez le fait que les contrôles parentaux n’étaient pas efficaces et simultanément facilement contournés, mais ces éléments ne ressortent pas de nos observations pour l’instant. J’ignore si vous avez interrogé l’Agence nationale des fréquences (ANFR), qui est compétente pour vérifier si les obligations introduites par la loi n° 2022-300 du 2 mars 2022 visant à renforcer le contrôle parental sur les moyens d’accès à internet, dite « loi Studer », sont bien respectées par les plateformes. L’Agence a produit un rapport juste avant l’entrée en vigueur de la loi et en publiera un nouveau, précisément pour répondre à cette question de la bonne application de la loi au sens strict.

De notre côté, nous travaillons sur un champ différent. Nous nous intéressons également aux smartphones plus anciens que ceux qui ont été produits depuis la loi. En effet, il arrive fréquemment que les parents donnent un ancien smartphone à leur adolescent plutôt que de leur en acheter un neuf. Il est donc important de connaître l’état du contrôle parental sur des dispositifs qui sont encore en circulation, mais qui ne sont pas visés par l’obligation.

Mais en résumé, à titre d’observation préliminaire, nous n’avons pas observé que les systèmes étaient mal faits, insuffisants ou faciles à contourner. Peut-être sont-ils mal connus ou difficiles à configurer. En revanche, lorsqu’ils sont bien configurés, ils sont malgré tout relativement efficaces.

Mme Laure Miller, rapporteure. Pourrions-nous obtenir les travaux que vous avez déjà réalisés, ou vous en demander certains qui n’ont pas été rendus publics ? Je rappelle que, dans le cadre d’une commission d’enquête, le rapporteur dispose d’un certain nombre de pouvoirs pour obtenir des pièces auprès des administrations.

M. le président Arthur Delaporte. Mme la rapporteure a tout à fait raison. Demander la liste de tous les travaux que vous avez pu réaliser fait partie de ses prérogatives. Parmi cette liste, elle pourra demander la communication de certains travaux dans le cadre de la commission d’enquête.

M. Nicolas Deffieux. Bien sûr. Je précise néanmoins que certains rapports sont encore en cours de rédaction.

M. le président Arthur Delaporte. Nous ne vous demanderons naturellement pas de nous communiquer un rapport qui n’a pas été encore rédigé. Simplement, à l’occasion de votre audition, nous avons découvert des études dont nous n’avions pas connaissance. Nous sommes preneurs de tout élément, y compris non finalisé, nous permettant de mieux comprendre la question de l’algorithme.

Précédemment, nous avons auditionné Thierry Breton, ancien commissaire européen au marché intérieur, qui mentionnait l’importance de la transparence de l’algorithme. Mais quand nous sommes rentrés dans le détail des demandes de la Commission en termes de contenus, il n’a pas été en mesure de nous l’indiquer, soit parce que le dossier est en cours, soit parce qu’il ne savait pas. En conséquence, nous souhaitons vraiment mieux comprendre l’algorithme, l’applicabilité des mesures de vérification d’âge et les différents dispositifs qui existent ou qui pourraient exister, selon votre expertise.

M. Nicolas Deffieux. Nous menons également des travaux assez théoriques sur cette question, pour savoir s’il est possible d’auditer un algorithme de plateforme. L’un de nos doctorants a travaillé sur la question de savoir si une plateforme parfaitement efficace et efficiente est toujours capable de tromper un auditeur. Cela peut arriver, dans des cas limités. Or des audits produisent des effets de masse, qui permettent de déceler certaines informations. Par ailleurs, nous n’avons pas démontré que les plateformes voulaient absolument mentir.

Ensuite, il existe une réelle difficulté pour mener des audits concernant TikTok. Cette difficulté tient au nombre de boucles de rétroaction : chaque élément que l’on regarde entraîne un effet sur d’autres éléments. Les paramètres sont tellement nombreux que lorsque nous agissons sur un aspect, l’ensemble de la structure évolue. Par exemple, un sujet est-il « naturellement » viral, entraînant les influenceurs à s’en emparer ou est-ce parce qu’un influenceur l’a évoqué qu’il devient viral ? Ou est-ce le rôle de l’algorithme ? Ce dilemme de « la poule et l’œuf » n’est pas facile à résoudre. Les interdépendances rendent les objets complexes à analyser.

Cependant, lorsque les questions sont simples et que l’on sait isoler des points particuliers, nous parvenons à répondre statistiquement à des questions, à condition d’avoir un minimum d’accès à des données. Il est quasiment impossible de comprendre le fonctionnement de l’algorithme dans sa généralité à travers un reverse engineering. En revanche, nous savons traiter des questions précises qui intéressent les régulateurs.

Mme Laure Miller, rapporteure. Lors de nos auditions, revient souvent le sentiment que la modération n’est pas satisfaisante, a fortiori sur le réseau social TikTok, que certains contenus problématiques peuvent être retirés, mais qu’ils ne le sont pas tous. Nous pourrions donc être tentés de conclure que tout dépend de la bonne ou mauvaise volonté de TikTok et que par ailleurs les utilisateurs – notamment les jeunes – peuvent être amenés à contourner certains mots-clés avec des émojis pour essayer d’accéder quand même à un contenu de façon détournée.

Pouvez-vous nous confirmer que, techniquement, une plateforme est en capacité si elle le veut de modérer en temps réel ce type de contenu problématique ? Si ces contenus demeurent malgré tout, s’agit-il donc bien de mauvaise volonté ?

M. Nicolas Deffieux. Je ne dispose pas assez d’éléments pour répondre à cette question. Le niveau de complexité est réel, et nous rencontrons des difficultés à effectuer la mesure de cette bonne ou mauvaise volonté. Notre projet sur la haine en ligne visait précisément à répondre à cette question. Il existe des éléments de contexte, des éléments dynamiques, comme des émojis au sens caché que seuls des initiés comprennent, qui semblent a priori difficiles à programmer.

Mme Laure Miller, rapporteure. Je comprends. Cependant, il existe des contenus suffisamment médiatisés, comme la tendance hashtag SkinnyTok qui prône l’anorexie. Un autre exemple est celui de la scarification, où l’on sait que l’émoji zèbre conduit à des contenus de ce type sans avoir besoin de taper le mot-clé. Les équipes des plateformes sont informées et, techniquement, elles semblent pouvoir être en mesure de réagir.

M. Nicolas Deffieux. Je précise ma réponse. Dans certains cas, il est facile de faire la lumière sur des contenus qui ne devraient plus être mis en avant. Mais cela ne signifie pas que la modération soit simple. À partir du moment où TikTok va interdire les zèbres, un autre hashtag sera créé dans la minute. Il faudra ensuite un certain temps avant que la plateforme comprenne qu’une autre association permet de trouver les contenus, même si elle produit des efforts. Cela ne signifie pas que ces efforts ne doivent pas être entrepris ; ce genre de contenus ne devraient pas subsister pendant longtemps.

Au-delà, cette matière est extrêmement compliquée à traiter, car elle concerne la liberté d’expression. A posteriori, il existe cependant de nombreuses occurrences où il aurait été facile de modérer automatiquement en fonction de certains mots-clés.

M. le président Arthur Delaporte. Compte tenu de l’ampleur de la tâche qui vous est confiée, estimez-vous que les moyens à votre disposition sont à la hauteur des enjeux ?

M. Nicolas Deffieux. Nous ne sommes pas en prise directe sur ces sujets. Nos moyens dépendent surtout des sollicitations formulées par les régulateurs. À l’heure actuelle, nous sommes en mesure de répondre aux sollicitations qui nous sont adressées. Trente personnes s’y consacrent. Il peut nous arriver de refuser certains projets, mais lorsque cela est le cas, les administrations le conçoivent et cela ne crée pas de problème. Nous n’avons jamais refusé des projets considérés comme extrêmement stratégiques par les administrations qui nous sollicitent.

Si nos moyens sont relativement modestes par rapport à ceux dont disposent la Commission et d’autres services, j’estime que nous sommes extrêmement performants. Je salue le travail réalisé par l’équipe.

M. le président Arthur Delaporte. Nous le saluons également, même si une partie de ce travail nous est à ce stade inconnu. Encore une fois, nous serions preneurs de tous les éléments que vous pourriez nous communiquer, au-delà du questionnaire qui vous a été transmis.

39. Audition de Mme Karine de Leusse, psychologue spécialiste de l’addiction aux écrans, du Docteur Anne-Hélia Roure, médecin psychiatre, et du Docteur Philippe Babe, chef de service des urgences psychiatriques à l’Hôpital pédiatrique universitaire Lenval (mercredi 28 mai 2025)

La commission auditionne conjointement Mme Karine de Leusse, psychologue spécialiste de l’addiction aux écrans, le Docteur Anne-Hélia Roure, médecin psychiatre, et le Docteur Philippe Babe, chef de service des urgences psychiatriques à l’Hôpital pédiatrique universitaire Lenval ([37]).

M. le président Arthur Delaporte. Mes chers collègues, nous reprenons nos auditions cet après-midi en recevant en visioconférence Mme Karine de Leusse, psychologue, Mme Anne-Hélia Roure, médecin psychiatre, et M. Philippe Babe, chef de service des urgences psychiatriques de l’hôpital pédiatrique universitaire Lenval. Je vous remercie de nous déclarer tout intérêt public ou privé qui serait de nature à influencer vos déclarations.

L’article 6 de l’ordonnance du 17 novembre 1958 relative au fonctionnement des assemblées parlementaires impose aux personnes auditionnées dans le cadre de travaux d’enquête de prêter le serment de dire la vérité, toute la vérité, rien que la vérité. Je vous invite donc à lever la main droite et à dire : « Je le jure ».

(Mmes de Leusse, Hélia Roure et M. Babe prêtent serment.)

Mme Karine de Leusse, psychologue. Je précise en préambule que je n’ai aucun conflit d’intérêt. Psychothérapeute clinicienne spécialisée dans les effets inconscients du numérique, je travaille depuis vingt ans avec des enfants, des adolescents et leurs familles, de plus en plus débordés, démunis, face à une hyperconnexion qui dépasse largement la simple question de l’addiction aux écrans. Chaque semaine, depuis des années, j’effectue trente à quarante consultations hebdomadaires uniquement sur cette problématique. Je reçois des enfants qui ne supportent plus de s’ennuyer, ne savent plus manger sans un bruit, dorment avec leur téléphone comme l’on dormirait avec un doudou.

Aujourd’hui, TikTok n’est pas simplement un divertissement mal encadré, mais un espace qui désorganise en profondeur le rapport au temps, au corps, à soi, aux autres. C’est un outil de déconstruction psychique. On parle de jeunes comme des « utilisateurs » de TikTok, mais ils ne l’utilisent pas. Ils s’y projettent, ils s’y perdent. Ces enfants, ces adolescents, ne regardent pas TikTok, ils « font » du TikTok, selon leurs propres mots, comme on fait une fugue, comme on entre dans un rêve éveillé. Ils me disent qu’ils ne regardent même plus les vidéos, pourtant déjà très courtes (deux minutes), car elles sont trop longues à leurs yeux. Ils « scrollent », encore et encore.

Le scroll est devenu un geste réflexe, un toc numérique, compulsif, une caresse, un tic, un apaisement. TikTok porte bien son nom ; il vient à la fois créer et calmer l’angoisse. Il est un tic et un toc, à la fois au sens clinique. Dans TikTok, ils s’y mettent en scène pour exister ; ce n’est plus un loisir, mais une scène identitaire, une activité à part entière. On est ici dans le syndrome du personnage principal : l’adolescent ne vit plus l’expérience, il la scénarise ; il devient spectateur lui-même, mais sans narration et sans continuité, sans temporalité et sans intériorité.

TikTok n’est pas juste une captation de l’attention, mais une dissociation du corps et du temps. TikTok installe une temporalité sans seuil, sans début ni fin. On passe d’une image à l’autre, comme on sauterait de monde en monde. Pour un jeune en construction, il constitue un régime de confusion. Chez les filles, je vois une sursexualisation précoce, très précoce ; des adolescentes qui s’inquiètent de leur profil, de leur silhouette, de leurs faux-cils. Chaque semaine, je reçois des adolescentes qui suivent un courant d’influenceuses avec ce regard lourd de maquillage et qui me disent qu’elles se sentent prisonnières de leur image, de leurs faux-cils, de leurs faux ongles, de leur faux « self », qu’elles n’osent plus quitter quand elles sortent. Elles n’habitent plus leur corps, elles le décorent. Chez les garçons, c’est l’effet inverse. Il se traduit par une hypervirilité, une crispation, un besoin de contrôle sur l’image et une compensation.

Dans les deux cas, le corps devient un objet à montrer, et non à vivre. Soyons lucides : ce dont nous parlons est beaucoup plus vaste qu’une simple captation de l’attention. TikTok expose aussi à des contenus violents, sexualisés, dangereux. Il collecte des données de façon préoccupante, mais cela ne s’arrête pas là. Il reconfigure en profondeur le rapport au monde, le lien au corps, le lien à l’autre, le lien à l’émotion, le lien au désir. Ce que nous voyons – troubles de l’attention, isolement, fatigue mentale – ne sont que les symptômes visibles d’un basculement plus profond, un déplacement du lien, de l’intime, de la construction de soi.

Tant que nous ne poserons pas ce diagnostic, tant que nous ne toucherons pas à cette part psychique du phénomène, nous passerons à côté de l’essentiel et nous courrons vers un drame en termes de santé mentale et pour la société entière. Chaque semaine, j’entends des parents insultés, menacés, frappés, parce qu’ils ont tenté de poser une limite ; des parents qui subissent des menaces.

Je ne l’entends pas une fois de temps en temps, mais plusieurs fois par semaine, et chaque semaine davantage. Les enfants sont devenus les terroristes de la maison et les parents ont peur pour leurs enfants et peur pour eux-mêmes. Ce n’est pas seulement que les jeunes sont dépendants, c’est qu’ils fuient. Ils fuient l’ennui, ils fuient leur corps, ils fuient le réel. Ils fuient une temporalité qu’ils ne supportent plus parce qu’elle n’a plus de consistance. La logique a été inversée : le monde réel est devenu l’intrus. Manger, aller à l’école, dormir, tout cela vient interrompre quelque chose de plus absorbant, de plus intense.

En conclusion, je souhaite poser une question simple et essentielle : pourquoi TikTok est-il accessible vingt-quatre heures sur vingt-quatre ? Est-ce normal qu’un lieu massivement fréquenté par des mineurs soit ouvert tout le temps, nuit et jour, sans aucune régulation ? On ne laisse pas un bar ouvert vingt-quatre heures sur vingt-quatre, ni un casino. Alors pourquoi TikTok échapperait-il à cette règle de bon sens ? Je propose donc que l’on impose des horaires collectifs à TikTok, je propose de réintroduire le rythme du jour, de la nuit, des pauses, du souffle, du réel.

Mme Anne-Hélia Roure, médecin psychiatre. Je précise à mon tour n’avoir aucun conflit d’intérêt. Je vais également évoquer un retour sur mon expérience de cabinet libéral, où je reçois aussi environ quarante à cinquante adolescents par semaine. Je tiens à vous faire part de ce dont je suis témoin parce que cela m’apparaît absolument terrifiant. L’influence des réseaux sociaux et de TikTok en particulier sur le psychisme et le développement neurologique des jeunes est alarmante.

Je voudrais vous parler par exemple de Gaspard, que j’ai reçu la semaine dernière. Âgé de 16 ans, il passe 90 heures par semaine sur son téléphone et reçoit plus de 1 000 notifications sur son téléphone. Sur ces 90 heures, 75 heures sont passées sur TikTok. C’est un jeune anxieux, qui dit que son cerveau est « grillé » – il s’est présenté initialement à ma consultation pour des troubles de l’attention. Il est incapable de dormir, tellement il craint de manquer quelque chose. Ce jeune allait bien avant de consulter les réseaux sociaux et TikTok. Il n’avait jamais eu besoin de consulter. Il s’agit d’un bon élève, qui vit dans un environnement familial sain.

J’ai reçu Léa, qui se scarifie tous les soirs sur TikTok, soutenue et encouragée par une communauté, sans que ses parents n’aient la moindre idée de ce qui se passe, alors que de nombreux jeunes à l’école le savent pertinemment. J’ai reçu plusieurs jeunes qui ont été victimes d’un « challenge MMA » pendant les deux dernières semaines – ce sont des comportements extrêmement dangereux d’étranglement. J’ai reçu des jeunes filles et des jeunes hommes dont la sexualité est très influencée par TikTok de façon dangereuse, en particulier par des pratiques d’étranglement – le choking – pendant les relations intimes. La banalisation, la normalisation de la violence sont extrêmement préoccupantes.

Je voudrais aussi parler des troubles du comportement alimentaire. Combien de petites filles ai-je vu arriver qui avaient commencé par regarder des vidéos sur la beauté, mais qui en sont arrivées finalement à apprendre à se faire vomir, à avoir une image de leur corps déformée, à faire des challenges pour arrêter de manger pendant plusieurs heures. J’ai également reçu des jeunes filles de 15 ans au visage angélique qui veulent « faire du Botox » ou recevoir des injections pour ressembler à des personnages qu’elles voient dans cette réalité alternative.

Ce réseau social est le plus dangereux parce qu’il s’agit du plus puissant, celui dont l’algorithme est le plus addictif. Beaucoup disent : « TikTok me comprend ». Toutes ces heures passées sur TikTok, en moyenne cinquante à soixante-dix heures par semaine, sont des heures passées seuls, loin des autres. TikTok sabote notre jeunesse, car c’est un bloqueur d’expérience. Il les empêche de se rencontrer, de vivre, d’apprendre, de pouvoir évoluer et se développer émotionnellement et intellectuellement.

J’observe depuis plusieurs années des troubles mentaux profonds liés à son utilisation chez les garçons et les filles. Ils se caractérisent par une intolérance à l’ennui, à l’effort. Tout doit être hyper intéressant, hyper stimulant tout le temps, et ce qui ne l’est pas – une conversation, un cours, un exercice à faire – devient insupportable. On observe également des troubles anxieux, de l’isolement. On constate un réel abêtissement dont les jeunes prennent conscience. Ils n’arrivent plus à écouter un cours, à lire un livre, à regarder un film. Une telle activité devient impossible. Il faut également mentionner la privation de sommeil. Pourtant, le sommeil est indispensable pour le cerveau chez un adulte, mais encore plus pour un enfant qui se développe et qui doit mémoriser des apprentissages.

Je suis préoccupée par l’exposition des garçons à la violence, à sa normalisation à travers les challenges de MMA et à la pornographie actuelle. Par ailleurs, l’investissement des jeunes filles dans une réalité complètement virtuelle est particulièrement inquiétant. La réalité est désinvestie, elle est fuie, dans la mesure où elles présentent toutes des troubles de l’image de soi, une perte de confiance en elles : 100 % des jeunes filles que je reçois ont perdu confiance en elles après s’être inscrites sur les réseaux sociaux.

En conclusion, il importe de pouvoir réguler le cadre qui permet le développement de toutes ces maladies psychiques profondes. Aujourd’hui, on peut être tenté de pointer du doigt un jeune en disant qu’il était peut-être plus vulnérable ou plus sensible aux addictions. Mais l’essentiel est ailleurs : le jeune développe des troubles mentaux profonds, des maladies psychiques graves, dont il ne peut pas se remettre comme il pourrait se rétablir après une grippe. L’après n’est pas l’avant en matière de troubles psychiques. Ce faisant, on vient pathologiser des enfants alors qu’en réalité, le cadre de société a aussi permis que ces enfants tombent malades.

M. Philippe Babe, chef de service des urgences pédiatriques de l’hôpital pédiatrique universitaire CHU Lenval de la ville de Nice. Je précise également ne pas être soumis à un conflit d’intérêt. Je suis pédiatre, chef de service du cinquième service d’urgences pédiatriques de France, puisque nous recevons 55 000 enfants par an sur la ville de Nice.

En très peu d’années, je dirais même sur ces deux dernières années, nous avons reçu de façon beaucoup plus importante aux urgences pédiatriques un grand nombre d’enfants qui présentent des troubles provoqués par les réseaux sociaux et en particulier TikTok. De plus, l’âge de ces jeunes a baissé, passant de 16-18 ans il y a cinq ans à 12-14 ans, voire moins encore aujourd’hui.

Le phénomène des challenges sur TikTok a généré des conduites extrêmement problématiques, à la fois sur le plan physique, sur le plan sexuel et sur le plan psychologique et psychiatrique chez nos jeunes. Par exemple, en lien avec le « challenge paracétamol », les intoxications volontaires au paracétamol ayant suscité un recours à nos services ont été multipliées par sept depuis le début de l’année. La dernière enfant que nous avons reçue pour ce problème était âgée de 13 ans. C’est une autre camarade qui a amené à l’école le médicament pour le distribuer et lui permettre de « suivre » ce challenge.

Parmi les autres challenges, il faut mentionner ceux qui engendrent des comportements violents. Des jeunes de 12, 13, 14 ans sont effectivement victimes de tentatives de strangulation, font des malaises et sont conduits aux urgences. Dans ce service, nous accueillons aussi des jeunes en proie à des troubles du comportement, qui « explosent » si leurs parents veulent leur retirer le portable. Certains en viennent à appeler le 15 pour signaler des actes de maltraitance lorsqu’on les empêche d’accéder aux réseaux sociaux.

Je tiens ainsi à témoigner de cette accélération des phénomènes liés aux réseaux sociaux. Nous devons tous nous interroger sur les mesures à mettre en place en termes de prévention. Les adolescents que nous recevons ont en effet une pratique bien établie des réseaux sociaux qui remonte déjà à plusieurs années.

Mme Laure Miller, rapporteure de la commission d’enquête sur les effets psychologiques de TikTok sur les mineurs. Hier, nous avons reçu la directrice générale d’e-Enfance, selon laquelle le grand bouleversement porte sur la combinaison entre les réseaux sociaux et les smartphones, cette mauvaise rencontre étant selon elle à la source des problèmes rencontrés par les jeunes aujourd’hui. Je souhaitais obtenir votre point de vue sur « l’outil » smartphone en tant que tel.

Ensuite, dans le cadre de notre commission d’enquête, nous réfléchissons particulièrement au sujet de la modération, notamment des contenus, dans la mesure où certains sont illicites et bien souvent très problématiques. Même si nous parvenions demain à un monde parfait où TikTok modérerait l’intégralité de ses contenus dangereux, à vous entendre, j’ai le sentiment quand même que la plateforme est en elle-même sujette à caution, tant elle capture l’attention des jeunes, en leur proposant notamment des mesures de récompenses.

Vous avez évoqué le rapport au temps, à l’ennui, la peur de manquer quelque chose, et l’anxiété que cela peut susciter. Quel que soit le contenu qu’ils véhiculent, diriez-vous que les réseaux sociaux ont par nature un impact sur la santé mentale de nos jeunes ?

Pourriez-vous évoquer également le sujet des parents ? Nous avons auditionné des familles dont les enfants ont malheureusement perdu la vie, en particulier en raison de l’usage de TikTok. Ils nous expliquaient que pendant ces moments de tourmente, ils s’étaient sentis seuls, totalement démunis, exclus des rapports qui pouvaient exister entre leurs enfants et les professionnels de santé. Ils regrettaient que personne ne leur ait donné d’outil pour « gérer » leurs enfants lorsqu’ils étaient chez eux. Associez-vous les parents dans votre pratique ?

M. Philippe Babe. Je fais partie du groupe de pédiatrie générale, une société savante qui dépend de la Société française de pédiatrie (SFP). Il y a dix ans, nous avions organisé une journée sur l’enfant et les écrans et nous avions déjà essayé d’émettre des recommandations sur cette problématique.

Aujourd’hui, le smartphone fait partie du quotidien des parents et des enfants. Il ne me semble pas envisageable d’interdire les écrans avant 15 ans ; ce n’est pas de cette manière que nous parviendrons à gérer cette situation. Il s’agit plutôt de réfléchir sur le mode éducatif qu’il sera possible de mettre en place, à la fois pour les jeunes, mais aussi pour les parents. Il convient d’agir dès la maternelle et le primaire ; dans la mesure où il est déjà trop tard au collège.

Poser des interdits à l’égard des enfants ne constituera pas une réponse, dans la mesure où les parents ne sont pas non plus exemplaires dans leur usage du smartphone.

Mme Karine de Leusse. L’objet smartphone, de petite taille, favorise la régression et l’usage régressif. Les enfants, les adolescents adorent partir dans leur chambre, se mettre sur leur lit en position presque fœtale pour consulter les réseaux sociaux sur leur téléphone, qui correspond en quelque sorte à un « biberon » numérique. Ils s’abreuvent de ce biberon et, comme un bébé, hurlent quand on leur retire. En résumé, l’utilisation, au-delà du contenu de TikTok, vient aussi favoriser l’usage excessif.

Ensuite, je reçois toujours les adolescents avec les parents lors de la première séance. Si les parents ne comprennent pas les règles qu’ils doivent mettre en place, ils ne pourront pas les tenir.

Mme Anne-Hélia Roure. Le smartphone est un outil extrêmement puissant. Il permet, via les réseaux sociaux, d’envoyer un contenu, une photo, au monde entier. Comme d’autres outils puissants, il est nécessaire de mettre en place une régulation tenant compte de l’âge d’utilisation. Je ne donnerais pas les clefs de ma voiture à mon fils de 8 ans. Je crois qu’il faut être prêt, avoir construit son intelligence, avoir développé ses capacités de concentration, d’organisation, d’apprentissage, ses capacités humaines et sociales avant de pouvoir disposer d’un smartphone. Cette expérience est nécessaire pour pouvoir gérer l’outil sans être absorbé pendant des heures et saboter sa vie avant qu’elle n’ait commencé.

Ensuite, je travaille aussi fréquemment avec les parents. Beaucoup redoutent que leurs enfants se retrouvent seuls s’ils leur retiraient le téléphone, les réseaux. Il y a là un paradoxe, puisque selon les chiffres fournis par M. Mark Zuckerberg, seuls 10 % à 20 % de l’usage des réseaux sociaux servent à communiquer avec des gens que l’enfant ou l’adolescent connaît réellement, dans la réalité. Je dis aux parents que cela revient en quelque sorte à laisser traîner leur enfant la nuit, je ne sais où, avec je ne sais qui.

Mme Laure Miller, rapporteure. Ne pensez-vous pas malgré tout que poser une limite d’âge – même si nous connaissons les risques de contournement – pour l’accès aux réseaux sociaux peut constituer un outil à destination du grand public, mais aussi des parents ?

Mme Anne-Hélia Roure. Je pense qu’une telle mesure serait effectivement utile, car nous constatons réellement des troubles mentaux profonds liés à l’utilisation des smartphones et des réseaux sociaux. Cette initiative permettrait de fournir un cadre aux parents et préserverait les enfants au moins quelques années de plus en leur donnant le temps de se construire. J’estime qu’un parent qui donne trop tôt à son enfant un smartphone ou le laisse sur les réseaux sociaux compromet ses chances pour l’avenir.

M. Philippe Babe. Il sera compliqué de définir les âges auxquels s’appliquera l’interdiction. Un travail pluridisciplinaire sera sans doute nécessaire, à ce titre. Appliquer l’interdiction aux enfants en école primaire semble évident. Je retiens la proposition de Madame de Leusse sur l’instauration d’horaires d’ouverture et de fermeture, comme pour un établissement. Cela me paraît être une très bonne idée, qui sera sans doute plus entendue qu’une interdiction pure et dure avec un âge barrière. Les parents recevront favorablement ce message, selon moi. La maturité diffère beaucoup selon les enfants d’une même tranche d’âge.

Mme Karine de Leusse. L’instauration d’une limite d’âge est intéressante, surtout pour les parents, car elle leur permettra de légitimer le cadre qu’ils proposeront aux enfants. Cependant, cette mesure ne sera pas suffisante, raison pour laquelle je préconise d’établir un cadre horaire, qui permet d’ancrer l’usage dans le réel. À l’instar des lieux publics dont aucun n’est ouvert toute la nuit à l’exception des distributeurs de billets automatiques, l’accès à la plateforme doit être encadré par des horaires. Cette mesure sera d’une grande aide pour les parents et les enfants.

M. le président Arthur Delaporte. Je vous remercie et vous invite à compléter nos échanges en transmettant à notre secrétariat tout complément d’information que vous jugeriez pertinent pour les travaux de cette commission, au-delà du questionnaire qui vous a été adressé.

40. Audition de Mme Marietta Karamanli, députée, Mme Isabelle Rauch, députée, ancienne présidente de la commission des affaires culturelles et de l’éducation, et M. Bruno Studer, ancien député, ancien président de la commission des affaires culturelles et de l’éducation (mercredi 28 mai 2025)

Puis la commission auditionne, conjointement Mme Marietta Karamanli, députée, Mme Isabelle Rauch, députée, ancienne présidente de la commission des affaires culturelles et de l’éducation, et M. Bruno Studer, ancien député, ancien président de la commission des affaires culturelles et de l’éducation ([38]).

M. le président Arthur Delaporte. Nous recevons à présent des collègues parlementaires, actuels ou anciens. Permettez-moi de saluer très chaleureusement M. Bruno Studer, ancien député, qui a été également présidé la commission des affaires culturelles et de l’éducation, et qui est l’auteur de la loi n° 2022-300 du 2 mars 2022 visant à renforcer le contrôle parental sur les moyens d’accès à Internet, et de celle n° 2024-120 du 19 février 2024 visant à garantir le respect du droit à l’image des enfants. Nous saluons également Mme Marietta Karamanli, députée, co-auteure avec Mme Isabelle Rauch, députée et ancienne présidente de la commission des affaires culturelles et de l’éducation d’une proposition de résolution européenne visant à lutter contre les addictions numériques chez les enfants.

Je vous remercie, chers collègues, d’avoir pris le temps de répondre à notre invitation. Comme il est d’usage, je vous demande de nous déclarer tout intérêt public ou privé qui serait de nature à influencer vos déclarations. Je vous rappelle également que l’article 6 de l’ordonnance du 17 novembre 1958 relative au fonctionnement des assemblées parlementaires impose aux personnes auditionnées dans le cadre de travaux d’enquête de prêter le serment de dire la vérité, toute la vérité, rien que la vérité. Je vous invite donc à lever la main droite et à dire : « Je le jure ».

(Mmes Karamanli et Rauch et M. Studer prêtent serment.)

M. Bruno Studer, ancien député, ancien président de la commission des affaires culturelles et de l’éducation. Je vous remercie pour votre convocation à venir m’exprimer devant vous. Vous avez eu l’amabilité de rappeler mes travaux sur la question de la protection de l’enfance en ligne, auxquels je rajoute la loi n° 2020-1266 du 19 octobre 2020 visant à encadrer l’exploitation commerciale de l’image d'enfants de moins de seize ans sur les plateformes en ligne, que vous avez utilement complétés par la suite concernant les influenceurs de manière générale. Il s’agit en réalité d’un triptyque de régulation : une régulation socio-économique, une régulation plus technique à travers la loi sur le contrôle parental et une réglementation plus sociale à travers une modification du code civil. Cette dernière réglementation vise à rappeler aux parents détenteurs du droit d’image de leurs enfants qu’ils en sont avant tout les protecteurs avant d’en être les utilisateurs.

Je me réjouis que l’Assemblée nationale s’empare effectivement du sujet qui nous réunit aujourd’hui. Je ne suis pas un expert du réseau social TikTok, ni des sciences cognitives. Mon expertise est surtout celle d’un ancien parlementaire, fonction que j’ai exercée pendant sept années. Il me semble intéressant de rappeler en avant-propos que le législateur que je suis voulait aller plus loin en rendant possibles l’installation et l’activation par défaut du contrôle parental sur tout appareil permettant de consulter des contenus sur internet. Finalement, nous avons modifié le contenu pour aboutir à une version votée à l’unanimité des deux chambres, qui oblige les fabricants de matériels permettant de consulter des contenus à préinstaller un contrôle parental, l’activation étant proposée dès le premier usage de l’appareil.

Avant de pouvoir être promulguée et de faire l’objet d’un décret d’application, cette loi a dû subir un parcours du combattant face à la Commission européenne, puisqu’elle mettait évidemment un frein à la liberté de circulation des services et des marchandises dans l’espace européen. Si nous avions pu le faire, nous serions certainement allés plus loin. Je n’ai pas aujourd’hui connaissance que d’autres pays de l’Union européenne (UE) aient établi une législation similaire.

J’entends la volonté d’aller plus loin, mais le chemin est étroit. La régulation des communications en ligne est une affaire complexe. J’en parle en connaissance de cause, ayant été co-rapporteur de la loi n° 2018-1202 du 22 décembre 2018 relative à la lutte contre la manipulation de l’information, qui musclait sensiblement les dispositions légales pour lutter contre la désinformation. En matière de régulation sur Internet, nous évoluons en effet sur une ligne de crête permanente.

Les effets des réseaux sociaux sur les jeunes nous préoccupent à juste titre, dans la mesure où leur cerveau est en plein développement. Si je devais résumer ce que je perçois de la politique de TikTok, je dirais que la plateforme cherche à faire de nos jeunes européens des idiots. Il suffit pour cela de comparer les algorithmes de TikTok en Chine avec ceux de TikTok en France. Dans ce cadre, il faut s’interroger sur la capacité du législateur français et européen à agir.

Mme Marietta Karamanli, députée. Il est établi que l’utilisation sans limite de réseaux numériques est néfaste pour la santé, notamment pour les plus jeunes. Nous savons également que les grandes entreprises propriétaires des plateformes d’accès et de diffusion sont informées des effets néfastes de leur utilisation. Elles ont volontairement laissé prospérer des fonctionnalités qui encouragent cette addiction. Je pense par exemple à des notifications à toute heure, y compris en pleine nuit, la possibilité de vidéos apparaissant automatiquement et faisant perdre la notion du temps, des filtres embellissant les images et distordant l’appréciation des corps humains, qui sont particulièrement présents sur TikTok.

L’objectif consiste donc à maintenir le public sur la plateforme pour en faire des prisonniers des contenus, et affirmer une puissance par le nombre d’utilisateurs, des temps d’utilisation et des données à vendre et à commercialiser. La naïveté politique, qui a plutôt été jusqu’à présent à l’œuvre, consiste donc à considérer que les grandes plateformes seront raisonnables et s’autoréguleront. Or grâce aux moyens évoqués précédemment, elles cherchent toujours à affirmer leur puissance via leur nombre d’utilisateurs, et les temps d’utilisation et la quantité des données personnelles à commercialiser. Les enjeux commerciaux, économiques et financiers sont immenses.

L’Union européenne a développé de ce point de vue une position particulière et a établi des instruments juridiques contraignants pour assurer la protection des consommateurs, associant une dimension éthique, une certaine transparence et une concurrence.

Aux États-Unis, les procureurs des États fédérés ont engagé des actions contre les plateformes Meta et TikTok. De son côté, la Commission européenne a également lancé des enquêtes contre Twitter puis TikTok. La commission du marché intérieur et de la protection des consommateurs du Parlement européen a pour sa part adopté un rapport demandant instamment des mesures dans le sens d’une protection accrue des enfants et des jeunes non-majeurs. Ce rapport adopté à une large majorité vise à rendre les plateformes numériques moins addictives.

La proposition de résolution que j’ai portée avec Mme Isabelle Rauch invite le gouvernement français à défendre la proposition visant à demander à la Commission européenne de faire siens les objectifs de ce rapport, à rechercher des convergences avec d’autres législateurs pour définir des normes industrielles de sécurité et non pas seulement à s’en remettre comme aujourd’hui à la bonne volonté et à l’autodiscipline des plateformes, qui sont naturellement mues par la recherche de profit.

Nous demandons également aux plateformes de mettre en œuvre des outils indispensables pour prévenir l’utilisation compulsive et prolongée de leurs applications de services et sites. Il s’agit aussi de déterminer quelles législations ou initiatives politiques existantes peuvent être utilisées pour lutter contre les conceptions addictives. L’objectif consiste bien à mobiliser les pouvoirs publics, l’opinion publique et à conscientiser quelque part les familles et les plus jeunes sur les risques. Mais il s’agit bien aussi d’enjeux de loyauté et de transparence, de droit et de liberté.

Aujourd’hui, le sujet des addictions créées par les plateformes relève du droit européen, ce qui a constitué pour nous un obstacle lorsque nous avons porté ce texte. Il importe donc que les autorités européennes et le Gouvernement défendent la position adoptée par l’Assemblée nationale, qui concerne les populations françaises et européennes, les consommateurs, et en particulier les jeunes.

Comment est née l’idée d’une loi de protection face aux écrans ? En tant que députée depuis maintenant de nombreuses années, j’ai porté de nombreux travaux sur le numérique à l’Assemblée nationale, comme le marché unique numérique ou les initiatives pour l’encadrement des plateformes ou la fiscalité du numérique. J’étais également la rapporteure pour avis de la commission des affaires européennes sur le règlement (UE) 2022/2065 du Parlement européen et du Conseil du 19 octobre 2022 relatif à un marché unique des services numériques et modifiant la directive 2000/31/CE dit Digital services act (DSA), qui poursuit un objectif d’apparence simple, mais ô combien complexe et pratique : il rend illégal en ligne ce qui est illégal hors ligne. Le texte oblige les fournisseurs à prendre des mesures supplémentaires pour lutter contre les contenus illicites et préjudiciables, qu’il s’agisse de la haine en ligne, de la pédopornographie ou de la désinformation.

De son côté, le règlement (UE) 2022/1925 du Parlement européen et du Conseil du 14 septembre 2022 relatif aux marchés contestables et équitables dans le secteur numérique et modifiant les directives (UE) 2019/1937 et (UE) 2020/1828 dit Digital markets act (DMA) vise à renforcer la contestabilité des positions dominantes acquises par les géants du numérique. Je pense notamment à Apple, qui restreint l’accès des utilisateurs vers d’autres développeurs d’applications aujourd’hui. À l’occasion des travaux conduits depuis plusieurs années dans le cadre de la commission des affaires européennes et grâce à mes contacts au sein du Conseil de l’Europe, j’ai pu travailler avec d’autres pays comme l’Espagne, l’Angleterre ou la Grèce. Nous avons pu aboutir à un texte qui a été adopté de manière transpartisane, à l’unanimité.

Mme Isabelle Rauch, députée, ancienne présidente de la commission des affaires culturelles et de l’éducation. Vous avez devant vous des législateurs engagés dans ces problématiques depuis de nombreuses années, tant par les travaux que par les auditions menées. En tant que présidente de la commission des affaires culturelles et de l’éducation, j’ai eu à cœur de mener un certain nombre d’auditions pour montrer l’implication des réseaux sociaux et des Gafam dans la vie quotidienne en particulier des enfants, mais pas uniquement.

En tant que co-rapporteure avec Mme Marietta Karamanli, j’ai eu l’occasion de mener d’autres auditions concernant les pratiques addictives et la capacité de ces réseaux sociaux, TikTok en particulier, à produire des algorithmes addictifs. Ces travaux font apparaître que les Gafam ne sont pas des philanthropes. Leur business model est celui de l’économie de l’attention, parce qu’elle rapporte de l’argent.

À ce titre, nous sommes peut-être confrontés à deux phénomènes éventuellement cumulatifs : un modèle économique, afin de gagner le plus d’argent possible et un projet politique, dans le but d’instrumentaliser un certain nombre d’éléments, dans le cadre d’ingérences. Dans ces conditions, il est impérieux de continuer à se préoccuper de ces problématiques, étant entendu qu’un certain nombre de députés sont moteurs et acteurs dans ce domaine depuis déjà un certain nombre d’années.

Même si nous pouvons dénoncer l’explosion des troubles anxieux, des troubles de l’image corporelle, de l’attention, des dépressions et des pensées suicidaires, nous ne pouvons plus nous contenter de dénoncer. Il est plus qu’urgent de renforcer la prise de conscience pour pouvoir agir et repenser l’équilibre des responsabilités, et notamment de donner à chaque institution des moyens d’agir pour les enfants.

Lors de mon mandat de présidente de la commission des affaires culturelles et de l’éducation, j’ai dû faire face à de nombreuses demandes de rendez-vous très insistantes de la part de TikTok. Lorsque nous avons auditionné les représentants de cette entreprise en compagnie de mon co-rapporteur M. Iñaki Echaniz dans le cadre de la mission d’information sur la loi n° 2016-1524 du 14 novembre 2016 visant à renforcer la liberté, l’indépendance et le pluralisme des médias, dite loi Bloch, leur communication était très rodée. Ces derniers nous disaient que la régulation et la modération étaient parfaites.

En conséquence, nous avons vraiment besoin que votre commission d’enquête puisse établir des propositions fortes et trouver des pistes de solutions pour protéger nos enfants, même s’ils ne sont pas les seuls touchés. On observe en effet des phénomènes très dommageables chez les seniors, qui peuvent scroller toute la nuit et être affectés par des troubles alimentaires et du sommeil.

Mme Laure Miller, rapporteure de la commission d’enquête sur les effets psychologiques de TikTok sur les mineurs. Je vous remercie d’avoir accepté de nous livrer votre expérience et votre éclairage.

Monsieur Studer, pouvez-vous nous détailler ce que vous avez qualifié de « parcours du combattant » auprès de la Commission européenne, après la promulgation de la loi, au moment des décrets d’application ? Quel regard portez-vous sur l’évolution de la situation depuis le vote et la promulgation des lois que nous avons évoqués ?

De manière plus générale, le rapport entre élus et concitoyens est fréquemment affecté par un sentiment d’impuissance. Certains concitoyens estiment ainsi que nous n’arrivons pas à trouver de solutions, que nos démarches sont très lentes, renforçant par là même leur désintérêt vis-à-vis de la politique et de leurs représentants.

À ce titre, nous ne voulons pas décevoir, dans le cadre des recommandations que formulera la commission d’enquête. Si le DSA constitue une avancée notable dont nous devons nous réjouir, nous constatons néanmoins qu’il n’est pas pleinement en application aujourd’hui, trois ans après son élaboration. Dès lors, la régulation n’est pas encore pleinement effective. Comment pouvons-nous en France nous approprier le sujet et peut-être prendre de l’avance sur le droit européen dans ce domaine ? Il s’agit en effet de sujets de santé publique, qui relèvent de la compétence interne de chacun des États membres de l’Union européenne.

M. Bruno Studer. Il s’agit effectivement d’un sujet de santé publique, qui nécessitera de recueillir les résultats de travaux collégiaux produits par des sociétés savantes, indispensables dans une démocratie comme la nôtre. De fait, sur le sujet de l’impact des réseaux sociaux, TikTok en l’occurrence, la science doit véritablement s’emparer du sujet.

De votre côté, des messages politiques doivent également être transmis sur ces sujets. TikTok peut également induire des effets très positifs. Par exemple, elle peut aider des jeunes à s’extraire d’un enfermement familial dû à leur orientation sexuelle. En parallèle, la situation n’en sera pas pour autant améliorée si elle implique un autre enfermement algorithmique. Le danger est bien là. Au moment de la loi sur les enfants influenceurs, j’avais relevé l’existence de nouvelles formes d’activité, de médiation, qui n’étaient pas toutes inutiles. Simplement, il faut rappeler la définition du droit et sa vocation à protéger les plus faibles. Il importe de continuer le travail, dans la durée, face à l’arrivée très rapide de ces outils dans la vie quotidienne des jeunes. J’insiste sur cet aspect : de telles applications portent aussi des effets positifs qui permettent de prendre confiance en soi, de se rendre compte que l’on n’est pas seuls à exprimer une pensée et que l’on peut obtenir des réponses que l’on n’aurait pas trouvées ailleurs.

Ensuite, la loi sur le contrôle parental a effectivement été un parcours du combattant auprès de la Commission européenne. Différentes notifications ont été adressées à la Commission avant même que le texte ne soit examiné, une fois qu’il a été déposé et après les modifications substantielles apportées par la commission mixte paritaire. De la même manière, le décret d’application a fait l’objet d’une notification, raison pour laquelle il n’est paru que plusieurs mois après la promulgation de la loi, qui a été soutenue à l’époque par l’ensemble du pouvoir exécutif français, ministre et président de la République compris.

Puisque vous avez l’élégance de me demander mes suggestions ou recommandations, j’estime que la loi sur le contrôle parental que j’ai portée devrait être évaluée, au même titre que celle sur les enfants influenceurs, dont l’article 3 n’a toujours pas de décret d’application. Cette évaluation permettra au Parlement de rappeler le pouvoir exécutif à son devoir. J’ai toujours conçu la loi sur le contrôle parental comme un outil de dialogue familial et un moyen de limiter le plus possible les « mauvaises » rencontres de nos enfants sur internet. Celui-ci permettrait également de moduler le contrôle en fonction de l’âge de l’enfant, d’un niveau strict quand il est très jeune à une désactivation complète quand l’enfant grandit et devient autonome. La loi précise que les opérations de paramétrage doivent pouvoir être réalisées très facilement. Je crois que l’Assemblée a par ailleurs voté une majorité numérique à 15 ans, ce qui correspond à peu près à la fin du collège. Le législateur partageait la même préoccupation lorsqu’il avait interdit le téléphone portable à l’école et au collège.

L’évaluation de la loi sera utile pour connaître son impact, au-delà de la nécessaire médiatisation qu’il avait suscitée à l’époque. Il me semble que le contrôle parental, en raison de la loi et de sa reprise médiatique, est devenu un outil plus utilisé qu’auparavant.

Mme Isabelle Rauch. Il est vrai que les réseaux sociaux peuvent engendrer des effets positifs. Néanmoins, ils profitent des mécanismes d’addiction, qui sont au cœur de leur modèle économique fondé sur le nombre de vues, le nombre de clics, quel que soit le contenu. La responsabilité des plateformes dans la diffusion des contenus doit être interrogée, en termes de régulation, d’autant plus qu’elles ne se considèrent que comme des « tuyaux ». Tant que des sanctions économiques ne seront pas instaurées, nous ne parviendrons pas à maintenir la régulation. À chaque fois que des sanctions financières ont été prononcées, elles ont prouvé leur efficacité. Les mécanismes que nous avons pu imaginer et voter ont ainsi pu être mis en place ou respectés.

Ensuite, en tant qu’ancienne présidente de la commission des affaires culturelles et de l’éducation, je partage avec M. Studer la conviction qu’il faut impérativement évaluer les dispositifs que nous votons et mettons en place.

Mme Marietta Karamanli. Je partage les points de vue de Mme Isabelle Rauch et M. Bruno Studer, leurs constats et les difficultés qu’ils ont rencontrées. Pour mener à bien ce travail, il faut à la fois disposer de temps, formuler des explications et faire preuve de conviction. Ainsi, la résolution que nous avons portée avec Mme Isabelle Rauch ne vise pas les usagers, mais les grandes entreprises du numérique qui, de façon industrielle et par des fonctionnalités apparentes ou cachées, rendent leurs utilisateurs dépendants. Ici, nous nous heurtons à de grandes difficultés, que d’autres initiatives législatives ont également éprouvées : le droit national ne peut régir des domaines qui relèvent du droit européen.

Afin d’être efficaces, il faut agir directement sur les plateformes, en nous inspirant des régulations mises en place à l’encontre des producteurs de tabac, dont la démarche est comparable. Je rappelle ainsi que ces producteurs ajoutaient des substances, comme l’ammoniaque, qui amplifiaient la dépendance à la nicotine. Nous devons donc utiliser le même angle d’attaque vis-à-vis des grandes plateformes numériques.

L’Union européenne a justement initié de véritables mécanismes législatifs pour protéger les plus vulnérables. À ce titre, la résolution du Parlement européen sur la conception addictive des services en ligne et la protection des consommateurs sur le marché unique de l’Union européenne, adoptée en novembre 2023, me réjouit particulièrement. Je pense en effet qu’il faut d’une part combattre la conception addictive des services en ligne, et d’autre part élaborer une législation adaptée. Il s’agit de dépasser la question de l’autorégulation, qui n’est pas suffisante.

Ensuite, en réponse à Mme la rapporteure, j’estime qu’il faut travailler à l’échelle européenne sur une telle loi, en essayant de convaincre les autres parlements, au-delà de l’exécutif. En compagnie de Mme Isabelle Rauch, nous nous efforçons d’agir de la sorte dans le cadre de notre proposition de résolution. J’envisage d’ailleurs la tenue d’une conférence interparlementaire avec plusieurs États qui portent actuellement le sujet, comme la Grèce par exemple. L’objectif consiste à faire en sorte que plusieurs États membres de l’Union européenne portent la même proposition, la même dynamique. Votre rapport pourrait aussi contribuer à accroître la pression exercée sur l’UE pour qu’elle accélère la mise en place des sanctions financières et qu’elle porte les enjeux dans le cadre des règlements DSA et DMA.

Il s’agit là selon moi d’un angle d’attaque pertinent, puisque le droit national est limité face au droit européen. En revanche, le droit national n’est pas non plus démuni pour s’adresser aux jeunes, aux parents, et éviter les addictions, dans le cadre d’une cohérence éducative et sociétale. L’école joue ici un rôle essentiel.

Au-delà, le modèle politique économique du « tout numérique » dans nos sociétés pourrait également être questionné. Lors de son audition devant nous, M. Thomas Rohmer, le directeur et fondateur de l’Observatoire de la parentalité et de l’éducation numérique (Open) a souligné la nécessité pour les parents de s’intéresser aux contenus visibles sur les écrans, plutôt que d’être de simples régulateurs du temps passé par leurs enfants devant ces derniers. Parallèlement, dans le cadre d’une démarche progressive et adaptée, il insiste sur l’importance d’établir les paliers suivants : pas d’écran avant trois ans, un écran partagé entre trois et six ans, éveil créatif de six à neuf ans, meilleur contrôle entre neuf et douze ans. Les recommandations élaborées par les spécialistes peuvent être mises en place au fur et à mesure, à travers le droit national, l’éducation nationale et tous les acteurs qui peuvent jouer un rôle concernant le numérique et l’accès aux écrans.

La démarche doit s’inscrire dans le cadre de l’Union européenne (UE), puisque le droit numérique relève du droit européen et les sanctions doivent être au cœur des dispositifs.

J’ajoute que je répondrai à chacune des questions que vous m’avez adressées dans votre questionnaire et vous adresserai également les travaux réalisés dans le cadre du rapport que nous avons remis, notamment sur les addictions, leurs raisons et conséquences.

M. le président Arthur Delaporte. Je vous remercie, nous les recevrons volontiers. Je constate que le vote de textes par le législateur est parfois insuffisamment suivi d’effets, faute d’implication de l’administration pour leur application. Dans la loi sur les influenceurs, nous avions créé un mécanisme de contrôle et d’absence de publicité sur les applications afin d’empêcher les mineurs de voir un certain nombre de contenus promotionnels. Malheureusement, le décret n’est pas sorti. En outre, cette situation donne l’impression d’une impuissance du législateur dont l’intervention se placerait davantage dans la prévention que dans l’action visant à faire évoluer les modalités de contrôle des plateformes.

Mme Isabelle Rauch. Il importe de bien établir une différence entre les parents et les plateformes. Beaucoup souhaitent « placer les parents devant leurs responsabilités », mais les plateformes sont en premier celles qui doivent porter ce poids : on ne peut pas faire uniquement reposer sur les parents ou l’éducation nationale la responsabilité d’une régulation ou d’une autorégulation de l’enfant ou des familles. Les jeunes savent pertinemment qu’ils ne devraient pas passer autant de temps devant l’écran. De leur côté, les parents sont conscients qu’ils devraient être plus vigilants. Cependant, l’effet addictif est tel que la responsabilité des plateformes ne peut être ignorée. Pour prendre une autre analogie, l’accidentologie a prouvé que la vitesse tue. C’est bien en abaissant la vitesse et en établissant des contrôles que le nombre de morts sur la route a diminué.

Mme Marietta Karamanli. Je partage naturellement ces propos. Il est important de ne pas pointer du doigt les parents, qui ont exprimé leur lassitude à cet égard, car ils n’ont plus de maîtrise sur un certain nombre d’éléments. Je partage également la frustration du législateur mentionnée par M. Studer et M. le président face à la lenteur de la mise en œuvre des décrets d’application. Mais encore une fois, l’action vis-à-vis des plateformes passe d’abord par le droit européen. Je réitère la nécessité d’instaurer des mécanismes au niveau de l’UE. À ce titre, il serait également pertinent d’évaluer les enquêtes et procès initiés par l’Union européenne.

M. le président Arthur Delaporte. Je précise à ce titre que la commission d’enquête se rendra la semaine prochaine à Bruxelles et aura l’occasion d’évoquer, dans le respect du secret de l’enquête, l’avancement de ces différentes procédures.

M. Bruno Studer. Je souligne néanmoins que ces domaines sont juridiquement neufs. Si la question du contrôle de l’âge en ligne était simple, le problème aurait déjà été résolu.

Ensuite, je partage également l’idée qu’il n’y a pas de salut en dehors du cadre européen, sauf à considérer que 60 millions de consommateurs parviendraient à faire plier à eux seuls des entreprises privées, de nationalité américaine ou chinoise comme TikTok. Lorsque j’ai présidé la commission des affaires culturelles et de l’éducation, nous avons voté la loi n° 2019-775 du 24 juillet 2019 tendant à créer un droit voisin au profit des agences de presse et des éditeurs de presse, mais avons attendu d’avoir une directive européenne. Nous ne voulions pas subir la même mésaventure que l’Espagne quelques mois auparavant. L’Espagne avait ainsi voté une loi sur les droits voisins et en rétorsion, Google avait décidé de déréférencer toutes les publications des quotidiens espagnols.

Je me réjouis de votre déplacement à Bruxelles. Il importe également de fédérer les actions des parlementaires des autres pays.

S’agissant de l’école, il sera néanmoins nécessaire de nous donner enfin les moyens d’avoir une vraie discipline d’éducation civique à l’information, à plus forte en raison avec l’émergence de l’intelligence artificielle.

S’agissant des parents, j’ai établi en 2008 un rapport de mission d’information sur l’école dans la société du numérique et j’ai formulé un certain nombre de propositions à l’occasion des États généraux sur le numérique éducatif. On ne peut pas tout demander aux parents, à plus forte raison s’ils ignorent tout. Je vous soumets une proposition que j’avais formulée lorsque nous réfléchissions à la question du harcèlement. Aujourd’hui, le contenu posté par un enfant peut être considéré comme du cyberharcèlement par un tiers de confiance comme le 3018 et être à ce titre supprimé. Mais le parent de cet enfant n’est pas informé de la gravité de son acte. J’avais donc demandé la mise en place d’une structure équivalente à la Haute Autorité pour la diffusion des œuvres et la protection des droits sur internet (Hadopi) pour le cyberharcèlement ou la cyberhaine.

Je suis conscient de la complexité de mise en œuvre d’un tel dispositif. Cependant, quand un phénomène massif est constaté, il faut y apporter des réponses massives. Lorsque le contenu est supprimé, le parent titulaire de l’abonnement pourrait ainsi recevoir un courrier indiquant que son abonnement a servi à commettre en ligne un délit qui pourrait être passible de poursuites civiles et pénales. Il faut évidemment expliquer aux parents qu’un contrôle parental n’est pas un outil miracle, qu’il faut continuer à discuter avec leur enfant. Pour pouvoir agir de la sorte, encore faut-il être informé.

Mme Laure Miller, rapporteure. Il apparaît que de nombreux contenus appartiennent à une zone grise, difficile à qualifier et sur laquelle les plateformes s’appuient pour modérer encore moins aisément ce genre de contenus. Je pense notamment au hashtag SkinnyTok ou à des contenus qui font l’apologie du suicide, mais qui ne peuvent être retirés que lorsque la victime a réellement tenté de se suicider.

Estimez-vous que le Parlement français peut malgré tout agir pour faire évoluer la qualification de ces contenus et donner des armes aux régulateurs, faciliter a minima la modération ? Hier, Mme Bérangère Couillard, présidente du Haut Conseil à l’égalité entre les femmes et les hommes (HCEFH) nous disait qu’il était bien plus facile d’agir sur les contenus racistes que les contenus sexistes, en l’absence d’un arsenal juridique adapté.

Par ailleurs, les plateformes sont quand même toujours qualifiées de simples hébergeurs de contenus. Or par la puissance de leur algorithme, notamment celui de TikTok, ces derniers « poussent » et éditorialisent des contenus auprès de leurs utilisateurs. Comment expliquez-vous que nous ne parvenions pas à évoluer sur ce sujet et à modifier la nature de leurs responsabilités ?

M. Bruno Studer. D’abord, dans une démocratie, la liberté d’expression se contrôle toujours a posteriori. Il est extrêmement compliqué de réguler a posteriori des contenus publiés par des milliards d’octets chaque seconde. Il existe donc là un vrai défi, entre les mains du législateur.

Ensuite, vous avez raison de mentionner l’apologie au suicide, mais d’aucuns pourraient rétorquer avec mauvaise foi que Les Souffrances du jeune Werther ou Le cercle des poètes disparus constituent également une forme d’apologie du suicide. Le suicide a toujours été un sujet de romans, de films, de séries. Le suicide demeure par ailleurs la deuxième cause de mortalité chez les jeunes, après les accidents de la route. Comment gérer ces problèmes, de manière définitive ? Très sincèrement, je ne sais pas.

Mme Isabelle Rauch. Je ne peux que souscrire à ces propos, notamment vis-à-vis de la liberté d’expression. En revanche, il ne revient pas aux plateformes d’accomplir le travail du législateur, qui doit toujours garder la main dans ce domaine. Ces plateformes ne peuvent établir des règles qui ne seraient plus en accord avec nos lois nationales.

Ensuite, le défi concerne l’enfermement algorithmique et la capacité addictive que les plateformes mettent en place. Nous devons agir ; tel est d’ailleurs le sens de la proposition de résolution européenne. Nous devons concentrer nos efforts au niveau européen, ce qui ne nous exonère pas d’entreprendre au niveau national et en partenariat avec les parents, l’éducation nationale. À plusieurs reprises, lors de la précédente législature, j’ai rappelé à ce titre l’importance de la transformation des programmes de l’éducation nationale pour prendre réellement en compte ces nouvelles formes de communication. Il s’agit également de prendre appui sur les apports de la recherche sur les sciences de l’éducation et les sciences cognitives. À ce titre, je vous indique que nous allons porter avec Mme Marietta Karamanli une proposition de résolution européenne sur la recherche européenne pour accompagner les enseignants, les parents ou toute personne intervenant auprès des enfants.

Mme Marietta Karamanli. En conclusion, je vous remercie de nous avoir permis de contribuer à vos travaux. Il faut rappeler l’existence d’une réglementation européenne qui s’applique désormais sur le plan national, dont nous devons évaluer l’efficacité et l’effectivité. En effet, produire toujours plus de réglementation sans évaluation fait courir le risque d’une surabondance et d’une fausse sécurité. Il est également nécessaire de démultiplier nos initiatives avec d’autres pays. En compagnie de Mme Isabelle Rauch, nous restons de notre côté attentives et disponibles aux initiatives des autres collègues, comme celles de cette commission d’enquête. Ce n’est qu’ensemble, et de manière répétitive, que nous pourrons véritablement agir. En effet, nous faisons œuvre pédagogique et la répétition est, à ce titre, essentielle.

M. le président Arthur Delaporte. Je vous remercie pour le temps que vous avez consacré à cette audition, et au-delà, à la protection des jeunes face aux écrans.

41. Audition de Mme Anne Savinel-Barras, présidente de Amnesty international, et Mme Katia Roux, chargée de plaidoyer (mercredi 28 mai 2025)

Enfin la commission auditionne Mme Anne Savinel-Barras, présidente de Amnesty international, et Mme Katia Roux, chargée de plaidoyer ([39]).

M. le président Arthur Delaporte. Mes chers collègues, nous reprenons à l’instant notre séance pour recevoir Mme Anne Savinel-Barras, présidente d’Amnesty international France, et Mme Katia Roux, chargée de plaidoyer. Le rapport que vous avez produit sur la question de TikTok nous intéresse particulièrement. Il semble par ailleurs que vous travaillez à un nouveau rapport, dont vous pourrez également nous faire part au cours de l’audition.

Je vous remercie de déclarer auprès de nous tout intérêt public ou privé qui serait de nature à influencer vos déclarations, par exemple, si vous avez, à titre personnel ou au titre de l’organisation, perçu ou collecté des fonds provenant notamment de réseaux sociaux.

L’article 6 de l’ordonnance du 17 novembre 1958 relative au fonctionnement des assemblées parlementaires impose aux personnes auditionnées dans le cadre de travaux d’enquête de prêter le serment de dire la vérité, toute la vérité, rien que la vérité. Je vous invite donc à lever la main droite et à dire : « Je le jure ».

(Mmes Anne Savinel-Barras et Roux prêtent serment.)

Mme Anne Savinel-Barras, présidente d’Amnesty International France. Je vous remercie de nous auditionner et d’entendre la position d’Amnesty International sur le sujet qui nous préoccupe.

Jamais les grandes entreprises technologiques et les États qui ont recours aux nouvelles technologies n’ont eu autant de pouvoir qu’à ce jour. Si les technologies numériques offrent d’immenses possibilités dans de nombreux domaines de l’activité humaine, elles peuvent aussi malheureusement porter atteinte aux libertés civiles et politiques, ainsi qu’aux droits sociaux et économiques. Depuis plusieurs années, Amnesty International engage une réflexion au sujet de l’impact sur les droits humains du fonctionnement des grandes plateformes du numérique et notamment des entreprises de réseaux sociaux. Notre objectif vise à faire en sorte que ces plateformes en ligne soient des espaces sûrs, sains et encourageants, notamment pour les enfants et les jeunes.

Aujourd’hui, nous dénonçons le modèle économique des entreprises des réseaux sociaux pour plusieurs raisons essentielles. D’abord, le modèle économique des plateformes du numérique est fondé sur un profilage intrusif et la publicité ciblée. Les plateformes cherchent notamment à collecter de manière constante de nouvelles informations sur les utilisateurs et utilisatrices afin d’établir des profils aussi précis que possible qu’elles pourront ensuite vendre à des publicitaires.

Ce modèle économique alimente la diffusion de contenus néfastes. Les systèmes algorithmiques sont conçus pour garder les personnes sur la plateforme. Plus ces personnes sont impliquées, plus les recettes publicitaires sont élevées. En conséquence, ces systèmes mettent en avant les contenus les plus virulents, clivants et néfastes, car ceux-ci sont les plus susceptibles de garantir l’implication des utilisateurs et utilisatrices. L’impact de ce modèle sur les jeunes publics est préoccupant, car ces derniers présentent une dépendance à ces plateformes et sont impuissants face à la collecte de leurs données personnelles.

Mme Katia Roux, chargée de plaidoyer à Amnesty international France. L’impact sur les jeunes et les enfants précisément, a conduit Amnesty International à se concentrer sur la plateforme TikTok. Ces dernières années, et notamment depuis le Covid-19, nous avons en effet constaté que la plateforme était devenue la plateforme préférée des jeunes et des enfants. Elle rassemble en effet plusieurs centaines de millions de jeunes et d’enfants, notamment grâce à son design addictif qui suscite l’intérêt massif des jeunes. Il apparaît clairement que TikTok a poussé au maximum cette logique addictive.

Si je devais résumer dans ce propos liminaire la conclusion de notre enquête menée fin 2023 à l’aide d’une méthodologie assez innovante sur le sujet, je dirais que TikTok peut être un espace toxique et addictif pour les jeunes et les enfants, en raison d’une part du système de recommandation algorithmique de la plateforme, et d’autre part de ses pratiques très intrusives de collecte de données personnelles.

Nous disposons aujourd’hui de suffisamment de recul grâce aux différents travaux menés sur le sujet. TikTok s’immisce dans la vie privée de ses utilisateurs et utilisatrices en pistant littéralement toutes les activités en ligne, les contenus visualisés, partagés, commentés, aimés par les jeunes utilisateurs. L’objectif de l’outil consiste ici à deviner leurs centres d’intérêt, leur état émotionnel, leur niveau de bien-être, puis de diffuser des contenus ultrapersonnalisés dans le fil « Pour toi » de la plateforme, qui s’appuie sur la collecte massive de données personnelles.

Notre enquête montre que les enfants, les jeunes qui regardent des contenus relatifs à la santé mentale, sur la page « Pour toi » vont facilement tomber dans des spirales de contenus néfastes, de contenus potentiellement dangereux, notamment des vidéos qui viennent banaliser, voire idéaliser la dépression, l’automutilation ou le suicide. Selon notre enquête technique à partir de comptes que nous avons gérés manuellement, il ne faut qu’entre trois et vingt minutes pour que les fils « Pour toi » soient inondés de ces vidéos qui peuvent aller jusqu’à encourager le suicide.

Concrètement, le système algorithmique de TikTok expose des jeunes, des enfants, à de graves risques de santé mentale grâce à une conception addictive, qui exploite leurs vulnérabilités psychologiques afin de maximiser leur participation en ligne et, finalement, maximiser ses profits. Il s’agit là du fameux modèle économique que nous avons mentionné en introduction.

Or, l’exposition des jeunes et des enfants, déjà en proie à des symptômes dépressifs ou des fragilités psychologiques, à de nombreuses vidéos banalisant le suicide aggrave incontestablement leur santé mentale. En outre, elle peut entraîner des conséquences dramatiques dans la vie réelle.

Je crois qu’à ce titre, la commission a déjà entendu des familles de victimes, qui ont fait part de témoignages extrêmement forts sur le sujet.

À Amnesty International, nous considérons que les utilisateurs et utilisatrices de TikTok doivent pouvoir jouir d’une réelle capacité de choix et de contrôle. Aujourd’hui, ce n’est pas le cas : TikTok collecte des données personnelles sensibles et opère des déductions sur les intérêts, les états émotionnels et le niveau de bien-être des utilisateurs et utilisatrices, dans le but de personnaliser l’expérience en ligne, recommander des contenus et cibler les publicités.

L’une de nos principales demandes à l’égard de l’entreprise concerne le changement de modèle économique et, surtout, la prise en compte des risques systémiques liés à l’utilisation de la plateforme. Or aujourd’hui, notre demande n’est absolument pas prise en compte. Depuis novembre 2003, nous avons été en contact avec TikTok. Nous avions déjà intégré dans nos rapports les réponses de l’entreprise au moment de nos travaux. Depuis leur parution, nous avons continué à demander des comptes sur les mesures qui avaient été mises en œuvre par l’entreprise pour atténuer les risques et pour répondre à ces dangers que l’on pointait.

Les réponses de TikTok sur un certain nombre de mesures de « bien-être » et ne sont clairement pas à la hauteur des enjeux dont nous allons discuter aujourd’hui. Nous appelons l’entreprise à assumer ses responsabilités, à prendre en compte les risques systémiques liés à son modèle d’activité. Si tel n’était pas le cas, les risques sur la santé mentale des jeunes perdureront et il ne sera pas possible de mettre en place des mesures pour lutter contre une addiction, qui est en réalité créée par la plateforme elle-même.

Dans ces conditions, nous sommes très heureuses de pouvoir nous entretenir avec vous et de contribuer aux travaux de la commission, afin de faire en sorte qu’une bonne fois pour toutes, TikTok prenne en compte ce risque systémique et cesse d’ignorer ses responsabilités au regard du droit international.

M. le président Arthur Delaporte. Pouvez-vous décrire plus précisément la nature ce que vous reprochiez à TikTok, les réponses qui vous ont été apportées et les raisons pour lesquelles vous considérez que celles-ci sont à ce stade insatisfaisantes.

Mme Katia Roux. Lorsque nous avons mené l’enquête en 2023, nous avons diffusé en amont, selon la méthodologie classique d’Amnesty, toutes les conclusions de notre enquête avant même sa publication. Les réponses de TikTok ont été très largement en deçà des attentes, puisque l’entreprise n’a pas reconnu sa responsabilité en termes de risques systémiques. Depuis, nous n’avons cessé de demander des comptes à l’entreprise.

Celle-ci nous a répondu récemment à travers deux lettres que nous avons rendues publiques sur le site d’Amnesty. L’entreprise explique qu’il est désormais possible de filtrer, par mots-clés les recherches, de filtrer par hashtag et donc de rafraîchir complètement son fil « Pour toi ». Elle ajoute qu’il existe des mesures de redirection vers des associations, des professionnels de la santé mentale qui peuvent proposer une aide et un accompagnement. Cependant, elle continue très largement d’ignorer les risques systémiques que nous avons pointés.

C’était déjà le cas lors de l’évaluation sur les risques que TikTok a publiée fin 2024, puisque dans le cadre du règlement (UE) 2022/2065 du Parlement européen et du Conseil du 19 octobre 2022 relatif à un marché unique des services numériques et modifiant la directive 2000/31/CE dit Digital services act (DSA), les très grandes plateformes sont obligées de publier une évaluation des risques. S’agissant des contenus problématiques en ligne, l’entreprise rejette directement la responsabilité sur les utilisateurs et les utilisatrices. Elle a pris l’exemple de ces fameux défis qui sont lancés sur la plateforme, qui deviennent viraux et peuvent être dangereux. Elle se retranche derrière l’argument selon lequel les jeunes postent eux-mêmes ces contenus, sans même se poser la question de la manière dont ils sont promus par le système algorithmique de la plateforme. Ce faisant, elle ignore complètement le risque systémique et la responsabilité qui lui incombe au regard du DSA.

L’entreprise évoque donc des mesures de bien-être, de possibilités de filtrage, de rafraîchissement, de redirection vers tel ou tel organisme, alors même qu’il s’agit ici d’une conception addictive, de choix systémiques. Quels que soient les dangers, l’objectif de TikTok consiste à réaliser des profits et donc mettre en avant des contenus qui vont maximiser l’engagement. Or nous disposons désormais de suffisamment de recul pour observer l’impact sur les jeunes utilisateurs.

Mme Laure Miller, rapporteure de la commission d’enquête sur les effets psychologiques de TikTok sur les mineurs. Considérez-vous qu’aujourd’hui, en 2025, d’autres réseaux sociaux que TikTok posent ou poseraient les mêmes difficultés ?

En favorisant la circulation de contenus sur la santé mentale, notamment dépressifs, le fonctionnement de TikTok encourage-t-il les utilisateurs à produire ce type de contenu ? Pensez-vous que la plateforme cible particulièrement les plus jeunes, précisément en raison des fragilités inhérentes à l’adolescence ou à l’enfance ?

Pouvez-vous également évoquer la manière dont vos rapports ont circulé dans un cadre institutionnel un peu plus large ? Avez-vous échangé avec d’autres partenaires, d’autres États, la Commission européenne, le Parlement européen, des ministres ? Comment avez-vous réussi à alimenter les décideurs publics au sens large avec vos contributions ?

Mme Katia Roux. Nous avons mené de nombreuses recherches sur plusieurs réseaux sociaux. Au-delà de cette approche, nous nous sommes intéressés au modèle de développement économique des grandes plateformes du numérique depuis 2018-2019. Nous avions déjà publié en 2018 un premier rapport intitulé « Toxic Twitter », qui faisait état du harcèlement en ligne des femmes qui était lié au modèle de développement de la plateforme. Ensuite, un rapport de 2019 a porté sur les géants du numérique et la publicité ciblée en ligne. En effet, l’ensemble des réseaux sociaux a épousé ce modèle de développement économique, même si TikTok a poussé à l’extrême la logique de l’addiction et du design addictif. Un grand nombre de réseaux sociaux a également imité TikTok sur le format de vidéos courtes, qui vont devenir virales.

Nous avons aussi travaillé sur Meta, en montrant la responsabilité de la plateforme dans les violences ethniques et notamment le nettoyage ethnique des Rohingyas au Myanmar en 2017. En effet, l’algorithme amplifie des contenus extrêmement nocifs et peut engendrer des impacts dramatiques dans la vie réelle. Nous avons mené une enquête similaire l’année d’après en Éthiopie, où la même logique était à l’œuvre à l’égard des populations tigréennes. Nous en avons déduit une responsabilité juridique de l’entreprise au regard du droit international relatif aux droits humains.

Les dernières recherches en 2023 sur TikTok se sont effectivement concentrées sur les jeunes et les enfants. La question de la santé mentale n’a pas émergé par hasard. Elle fait suite à une étude de cadrage sous la forme d’un questionnaire en ligne que nous avons diffusé très largement. Y ont répondu plus de 550 personnes, entre 13 et 24 ans provenant plus de quarante-cinq pays. Les questions étaient assez larges. Elles portaient sur ce qu’ils et elles aimaient en ligne, leur expérience sur TikTok, ce qui leur posait problème, ce qui les questionnait. C’est ici que la question de la santé mentale a largement émergé comme un enjeu très fort pour eux. En effet, ces jeunes nous révélaient à la fois leur dépendance très forte vis-à-vis de la plateforme et en même temps leur impuissance totale face à la collecte massive des données.

Nous avons décidé aujourd’hui de nous concentrer à nouveau sur TikTok, qui combine cette logique maximale d’addiction et d’économie de l’attention. Mais toutes les entreprises des réseaux sociaux rivalisent pour capter l’attention des utilisateurs et utilisatrices.

Ensuite, existe-t-il un ciblage plus spécifique en direction des jeunes ? L’intention est évidente pour TikTok, qui s’est imposé au moment du Covid. Tout dans l’outil est conçu pour capter l’attention, aller vite, susciter la viralité. Initialement, le réseau prônait le divertissement, la créativité, le partage d’expériences, avec des promesses plutôt positives. En réalité, les choix de conception et de collecte de données et les choix algorithmiques ont véritablement transformé ce réseau social.

Sur le réseau, les utilisateurs peuvent très rapidement basculer dans ces espaces de contenus toxiques. Des jeunes, qui peuvent être plus sensibles, plus influençables et a fortiori ceux qui présentent des problèmes de santé mentale, sont beaucoup plus vulnérables et vont être littéralement entraînés dans des spirales de contenu toxique, des « rabbit’s holes » dont il est extrêmement difficile de s’extraire.

Il faut bien comprendre que l’algorithme de TikTok n’est pas conçu en soi pour promouvoir des contenus liés à la dépression, à l’automutilation ou le suicide. En revanche, dès lors que l’algorithme identifie qu’un utilisateur ou une utilisatrice éprouve un intérêt pour une question, il recommandera systématiquement des contenus associés, car l’enjeu consiste à les maintenir sur la plateforme, collecter des données personnelles pour établir des profils ultra-personnalisés et générer des revenus publicitaires.

S’agissant de votre dernière question, nous avons naturellement partagé notre travail, qui a été mené au niveau international, avec l’ensemble des décideurs. À ce sujet, il existe une véritable différence entre l’Union européenne et le reste du monde dans l’approche de la protection des jeunes utilisateurs et utilisatrices. Nous avons évidemment conduit des discussions avec les institutions européennes. Amnesty a par exemple été extrêmement mobilisée au moment des négociations sur le DSA et nous le demeurons sur son application et sa mise en œuvre.

Cette année, nous entendons poursuivre notre mobilisation et notamment mener une campagne publique sur le sujet pour sensibiliser les jeunes, les parents, mais aussi pour interpeller les dirigeants. S’il n’est pas parfait, nous nous efforçons d’utiliser au mieux le levier du DSA, la première réglementation qui vise véritablement à encadrer les Big Tech pour obtenir des résultats et responsabiliser les entreprises.

Mme Laure Miller, rapporteure. Lors de vos propos introductifs, vous indiquiez que le modèle économique de TikTok en tant que tel affecte le bien-être et la santé de nos jeunes. Lors de nos auditions, de nombreuses personnes recommandent plus de modération ou un meilleur contrôle de l’âge. Mais nous pouvons avoir le sentiment que ces souhaits resteront vains compte tenu des intérêts complètement divergents de la plateforme, dont le fonctionnement reste opaque. Votre position a-t-elle évolué depuis vos premières recommandations ? Portez-vous un message plus « radical » à l’égard des autorités, notamment françaises ? Partagez-vous l’idée d’une interdiction des réseaux sociaux avant un certain âge ?

Mme Katia Roux. Nous nous réjouissons que le sujet soit pris à bras le corps par les autorités nationales et européennes. Nous avons effectivement formulé un certain nombre de recommandations dans le cadre de nos enquêtes. La première concerne la prise en compte des risques systémiques liés au modèle de développement économique de la plateforme. La deuxième porte sur l’arrêt de la maximisation de la participation des utilisateurs à partir de la collecte de données personnelles. Il conviendrait de revoir les éléments de conception qui encouragent justement une utilisation addictive de la plateforme, de prendre en compte la parole des personnes concernées, notamment les jeunes, qui ont beaucoup à dire sur le sujet.

Très concrètement on peut tout à fait imaginer une refonte de modèles à partir d’un fil qui ne soit pas fondé sur le profilage par défaut. Ensuite, nous sommes favorables à l’interdiction de la publicité ciblée à destination des mineurs dans le cadre du DSA européen, qu’il faudrait étendre à l’échelle du globe. La fin de cette collecte de données personnelles en vue d’ultra personnaliser le fil « Pour toi » de la plateforme changerait très concrètement l’impact et les contenus que les jeunes reçoivent.

Par ailleurs, de nombreuses autres mesures sont évoquées dans le débat public, dont l’interdiction d’accès en deçà d’un certain âge. Nous estimons cependant que si l’on ne change pas la cause profonde et le système même, nous risquons de ne pas régler fondamentalement le problème. Pour autant, nous ne considérons pas que certaines nouvelles mesures sont inutiles. Cependant, en lieu et place d’une interdiction, nous appelons les États à accroître la réglementation pour renforcer la protection de la vie privée. Cette mesure est le seul moyen de protéger les droits des jeunes et des enfants. Une interdiction totale ferait davantage peser le poids des pratiques commerciales et nocives des entreprises sur les jeunes au lieu de le faire endosser par les entreprises. Or ces dernières sont responsables et fautives en premier lieu.

En dehors du cadre européen qui est un espace démocratique, l’interdiction pourrait entraîner un impact sur d’autres droits, comme le droit à la liberté d’expression, le droit à l’information. En effet, dans certaines régions du monde, les réseaux sociaux permettent de partager un certain nombre d’informations cruciales et de sortir certains groupes marginalisés de l’isolement. Or ces pratiques diverses pourraient être mises en danger par une interdiction.

En résumé, nous ne demandons pas l’interdiction. D’une part, cette mesure comporte des risques au regard d’autres droits fondamentaux, et d’autre part, elle ne permettra pas toujours de régler le véritable problème. Concernant le modèle économique, il existe un consensus sur le besoin de s’attaquer aux causes profondes et systémiques. Amnesty International concentre son action sur cet enjeu.

M. le président Arthur Delaporte. Je vous remercie. Vos propos rejoignent en tout point mes propres réflexions. Par ailleurs, dans votre rapport, l’analyse est assez large et ne s’intéresse pas spécifiquement au cas des jeunes mineurs français. Avez-vous envisagé de mener des travaux sur ce sujet ?

Mme Katia Roux. Pour le moment, ce n’est effectivement pas le cas. En revanche, cette année, nous devrions mener une campagne publique pour sensibiliser davantage les jeunes utilisateurs et utilisatrices en France sur ces aspects, mais également pour contribuer le plus possible au débat national et européen, aux travaux de la Commission sur le DSA. Les pistes contentieuses sont toujours intéressantes et nous n’excluons aucune action. Malheureusement, à ce jour, nous ne disposons pas d’éléments concrets à partager comme cela pouvait être le cas à la fin 2023. Quoi qu’il en soit, le sujet demeure une priorité pour nous.

M. le président Arthur Delaporte. Je me permets de rebondir sur votre propos concernant l’application du DSA, en lien avec la Commission européenne. Pouvez-vous revenir sur la manière dont vous utilisez la procédure du DSA pour effectuer des signalements ou pour apporter des éléments à la Commission dans différentes procédures ? Comment cela se passe-t-il concrètement ? Avez-vous des contacts directs ? Pourraient-ils être facilités ?

Mme Katia Roux. Nous en sommes pour le moment aux débuts, dans une phase de recueil des informations. Pour mémoire, nous avons été très mobilisés au moment des discussions autour du DSA pour exposer un certain nombre de nos recommandations. Nous avons salué son adoption en 2022. En effet, un certain nombre de mesures telles que l’interdiction de la publicité ciblée, la prise en compte des risques systémiques, les mesures d’atténuation à mettre en place, les audits indépendants obligatoires, le fait de proposer un fil qui ne soit pas personnalisé, nous semblent aller dans le bon sens.

Le texte comporte aussi des limites. Selon nous, il ne va pas assez loin concernant le fil par défaut et la publicité ciblée n’est pas interdite pour tous et toutes. Le modèle économique que nous dénonçons n’est pas non plus interdit. Pour le moment, l’efficacité du DSA reste encore à prouver, dans la mesure où il n’est entré pleinement en vigueur que l’année dernière.

Nous étudions la possibilité d’utiliser le DSA pour pouvoir lancer des enquêtes aboutissant idéalement à des sanctions et, à tout le moins, appeler les entreprises à leurs responsabilités. Encore une fois, avec les autres sections d’Amnesty International, nous sommes pour le moment à la phase de récolte de preuves, de données, de recherches.

Il n’en demeure pas moins que de notre point de vue, ce texte est à ce jour le plus protecteur, notamment à l’égard des mineurs et nous espérons qu’il pourra inspirer d’autres acteurs, d’autres États, d’autres régions du monde. Encore faut-il que les entreprises du numérique se prêtent au jeu. Or comme je l’indiquais plus tôt, la première publication de son rapport d’évaluation par TikTok était très en deçà des attentes et passait complètement à côté des risques systémiques de la plateforme.

M. le président Arthur Delaporte. Nous aurons l’occasion de poursuivre ces échanges avec TikTok, que nous recevrons le 12 juin prochain. Nous nous appuierons notamment sur les documents que vous avez publiés ou tous ceux que vous pourrez nous communiquer. À ce titre, notre commission reste évidemment disponible pour prolonger les échanges, surtout par écrit, notamment en lien avec le questionnaire qui vous a été adressé par Mme la rapporteure.

42. Audition de Mme Marie-Laure Denis, présidente de la Commission nationale de l’informatique et des libertés (CNIL), M. Mathias Moulin, secrétaire général adjoint, et Mme Chirine Berrichi, conseillère pour les questions parlementaires et institutionnelles (lundi 2 juin 2025)

La commission auditionne, à huis clos, Mme Marie-Laure Denis, présidente de la Commission nationale de l’informatique et des libertés (CNIL), M. Mathias Moulin, secrétaire général adjoint, et Mme Chirine Berrichi, conseillère pour les questions parlementaires et institutionnelles ([40]).

M. le président Arthur Delaporte. Nous recevons, à huis clos, les représentants de la Commission nationale de l’informatique et des libertés (Cnil) : Mme Marie-Laure Denis, présidente, M. Mathias Moulin, secrétaire général adjoint et Mme Chirine Berrichi, conseillère pour les questions parlementaires et institutionnelles.

Je vous remercie de nous déclarer tout intérêt public ou privé de nature à influencer vos déclarations. Je rappelle également que l’article 6 de l’ordonnance du 17 novembre 1958 relative au fonctionnement des assemblées parlementaires impose aux personnes auditionnées par une commission d’enquête de prêter serment de dire la vérité, toute la vérité, rien que la vérité.

(Mme Marie-Laure Denis, M. Mathias Moulin et Mme Chirine Berrichi prêtent successivement serment.)

Mme Marie-Laure Denis, présidente de la Cnil. Je n’ai aucun intérêt susceptible d’influencer ma position sur TikTok à déclarer. Je vous remercie de l’attention que votre commission d’enquête prête à l’action de la Cnil.

De nombreux travaux, y compris parlementaires, mettent en avant la collecte massive de données opérée par TikTok, l’opacité des algorithmes utilisés mais aussi des enjeux de santé publique, parmi lesquels les effets psychologiques, surtout chez les jeunes, de la captation de l’attention et de la mise en avant de contenus dangereux, le temps excessif passé sur l’application ainsi que l’insuffisance du contrôle de l’âge des utilisateurs. Il semblerait que 45 % des Français de 11 à 12 ans soient inscrits sur TikTok, dans lequel ils voient un outil de socialisation.

La Cnil n’a pas d’expertise en matière psychologique mais ses missions de régulateur horizontal de la donnée lui permettent d’appréhender le fonctionnement de ce réseau social et de définir les modalités d’une régulation protectrice de l’espace numérique.

Je commencerai par le fonctionnement de TikTok que vous connaissez très bien. Le point de départ de la réflexion de la Cnil est la collecte massive de données personnelles, lesquelles sont ensuite combinées et se voient appliquer un algorithme aux fins de proposer en temps réel des contenus et des publicités personnalisés. La particularité de TikTok par rapport aux autres réseaux sociaux tient au flux continu de contenus, couplé à une analyse en temps réel des réactions de l’utilisateur. En combinant les données, qui font l’objet d’une catégorisation par TikTok – temps passé, partage, likes –, le réseau social peut déduire ce à quoi l’utilisateur est sensible, voire son état émotionnel.

Par ailleurs, contrairement à d’autres types d’application, sur TikTok la communication avec l’autre est secondaire. Les adolescents que nous avons rencontrés sur le terrain font état d’une consommation essentiellement unilatérale du contenu de TikTok, qui est notamment à l’origine du succès de TikTok Shop, concept inconnu des autres plateformes. TikTok mêle les caractéristiques traditionnelles de la télévision – un flux continu unilatéral qu’on ne contrôle pas – et les caractéristiques des médias les plus contemporains – un algorithme dont l’objectif est de maintenir le plus longtemps possible les utilisateurs sur la plateforme.

L’algorithme se nourrit des données liées à la création du compte, de toutes les interactions avec l’application et des centres d’intérêt renseignés par les personnes ainsi que des achats, informations de paiement et d’expédition.

Pour procéder au traitement de ces données, la plateforme invoque différentes bases légales telles que le consentement pour les traceurs, la nécessité contractuelle pour la gestion des comptes ou encore l’intérêt légitime pour améliorer l’expérience utilisateur. L’algorithme vise à favoriser la viralité. Les ressources de TikTok proviennent essentiellement de la publicité et, dans une moindre mesure, des achats. Le modèle économique repose donc sur l’exploitation des données personnelles des utilisateurs.

Quels sont les risques ? D’une manière générale, le ciblage algorithmique et le profilage intensif permettent de déduire les intérêts, les préférences ou les caractéristiques personnelles des jeunes, ce qui pose la question du contrôle des personnes sur leurs données personnelles. À cela s’ajoute le fait que les algorithmes favorisent l’enfermement des jeunes dans une bulle de filtre, ayant pour effet de renforcer leurs opinions et limiter l’accès à la diversité des idées, ce qui peut contribuer à leur isolement et à leur radicalisation.

Ensuite, c’est la raison d’être de votre commission, les jeunes sont un public vulnérable – le considérant 75 du règlement (UE) 2016/679 du Parlement européen et du Conseil du 27 avril 2016 relatif à la protection des personnes physiques à l'égard du traitement des données à caractère personnel et à la libre circulation de ces données, et abrogeant la directive 95/46/CE dit règlement général sur la protection des données (RGPD) le reconnaît ; ils sont plus susceptibles d’être influencés par le fonctionnement des algorithmes et des contenus proposés.

Je mentionne l’exemple récent de l’utilisation détournée de TikTok au profit du candidat pro-russe lors de l’élection présidentielle roumaine, qui a conduit la Cour constitutionnelle à annuler le premier tour de scrutin.

En outre, la vitesse d’adaptation de l’algorithme de TikTok est un facteur de maximisation de la capacité d’influence. Une étude menée par le Wall Street Journal en 2021 met en évidence la réactivité de l’algorithme pour prendre en compte une modification d’usage. Dès que ma pratique révèle mon intérêt pour un nouveau thème, dans un laps de temps très court, on me propose des contenus correspondant à celui-ci, au détriment des contenus qui m’intéressaient jusqu’alors.

Cela peut créer une spirale infernale – ce que la littérature scientifique appelle le rabbit hole effect – et pousser des personnes à des tentatives de suicide, des scarifications, des comportements anorexiques.

Un rapport, publié en 2022 par le Center for Countering Digital Hate, une ONG anglo-saxonne, révélait qu’il fallait moins de dix minutes en moyenne pour que TikTok propose des contenus relatifs au suicide ou à des troubles du comportement alimentaire.

La France n’est pas épargnée par cette réalité : vous le connaissez certainement, le collectif Algos Victima regroupe des familles ayant lancé une action en justice contre TikTok qu’elles accusent d’être responsable de la dégradation de la santé d’adolescents.

Quels sont les moyens d’action dont dispose la Cnil pour réguler TikTok ?

Il faut reconnaître que la Cnil n’a qu’une compétence limitée au titre de la législation sur la protection des données à caractère personnel. Elle est compétente sur le fondement du RGPD et de la directive 2002/58/CE du Parlement européen et du Conseil du 12 juillet 2002 concernant le traitement des données à caractère personnel et la protection de la vie privée dans le secteur des communications électroniques, dite directive ePrivacy, qui lui permet de réguler tout ce qui concerne les cookies et les traceurs publicitaires. La Cnil n’est donc pas compétente pour faire respecter la réglementation relative à la régulation des contenus, qui relève de l’Arcom (Autorité de régulation de la communication audiovisuelle et numérique), ni celle sur les pratiques commerciales, qui relève de la DGCCRF (direction générale de la concurrence, de la consommation et de la répression des fraudes).

S’agissant de la compétence de la Cnil en matière de protection des données, il faut distinguer la situation avant et après juillet 2020. Depuis juillet 2020, TikTok dispose d’un établissement principal en Europe. Attiré par le climat irlandais, il a implanté celui-ci à Dublin, en conséquence de quoi c’est l’autorité de protection des données irlandaises – la Data Protection Commission (DPC) – qui est compétente, en application du système de guichet unique prévu par le RGPD. Cela ne veut pas dire pour autant que la Cnil ne fait pas valoir son point de vue auprès de la DPC et qu’elle ne lui transmet pas des plaintes. Les décisions de la Cnil irlandaise font l’objet d’une analyse de la part de ses homologues, qui peuvent in fine la contraindre à modifier, le cas échéant, sa position.

À compter de mai 2020, la Cnil avait mené plusieurs contrôles, dont elle a dû transférer le fruit à la DPC. En septembre 2021, la DPC a lancé deux enquêtes distinctes : une première sur le respect par TikTok de ses obligations d’information et de protection par défaut des données des mineurs ; une seconde sur le transfert des données hors Union européenne. La première procédure a abouti, en septembre 2023, à une amende de 345 millions d’euros. La seconde a très récemment donné lieu à une amende de 530 millions d’euros.

Depuis juillet 2020, la Cnil ne prend plus directement de décisions sur d’éventuels manquements au RGPD de la part de TikTok. Lorsqu’elle reçoit des plaintes, elle procède à des vérifications de conformité : elle adresse ainsi en première intention un courrier à TikTok dans le cadre d’une procédure d’instruction préliminaire. Nous sommes convenus de fonctionner ainsi avec le régulateur irlandais, dans le but de donner une réponse plus rapide, le mécanisme du guichet unique prenant plus de temps.

Si, à l’issue de cet échange préliminaire avec TikTok, la Cnil constate que le responsable de traitement s’est conformé au RGPD – par exemple, TikTok nous apporte une preuve de l’effacement des données de telle ou telle personne qui nous a saisis en ce sens –, la réclamation n’a plus lieu d’être transmise à notre homologue irlandais.

Depuis la création du réseau social, la Cnil a reçu environ 150 plaintes, dont la très grande majorité porte sur des demandes d’effacement de comptes, de contenus ou de commentaires. Huit plaintes sont en cours d’instruction et une seule d’entre elles concerne les données d’un mineur.

À défaut de pouvoir directement faire appliquer le RGPD, la Cnil veille au respect des obligations de la directive ePrivacy. Elle a mené des investigations en ce sens, qui concernaient tous les Gafam, au terme desquelles elle a constaté que les internautes n’avaient pas la possibilité de refuser les cookies publicitaires aussi facilement qu’ils pouvaient les accepter. TikTok s’est mis en conformité et a été sanctionné d’une amende de 5 millions d’euros à l’issue de la procédure, qui visait le site internet et non l’application puisqu’à l’époque, la régulation sur les cookies concernait la navigation sur internet. Aujourd’hui, nous avons lancé une autre phase de la régulation, qui concerne les applications mobiles.

Je veux souligner que l’action du régulateur ne doit pas se limiter à des procédures répressives. C’est la raison pour laquelle la Cnil développe, depuis plus de douze ans, un programme ambitieux d’éducation numérique et de protection des mineurs en ligne, notamment pour prévenir les risques sur les réseaux sociaux. Cette mission fait partie des chantiers prioritaires qui ont été définis dans le plan stratégique 2025-2028.

La Cnil a noué des partenariats avec la communauté éducative, les associations, les collectivités locales et les médias. Ensemble, nous sensibilisons non seulement les enfants mais aussi les parents et les professionnels aux risques du numérique. Nous sommes convaincus que l’éducation numérique doit commencer dès le plus jeune âge. C’est dans cet esprit que la Cnil a créé, en 2013, le collectif Educnum, qui rassemble une soixantaine d’acteurs engagés dans l’éducation à la citoyenneté numérique.

Entre 2022 et 2023, la Cnil a mené plus de 120 actions pédagogiques dans neuf régions métropolitaines, notamment dans des classes allant du CM2 à l’enseignement supérieur. Nous avons produit de nombreuses ressources à destination des 8-10 ans en 2022 et des 11-15 ans en 2024. Nous concevons actuellement une application mobile, dénommée FantomApp, pensée par et pour les adolescents afin de les aider à mieux protéger leur vie privée en ligne. Cette application, en partie financée par des fonds européens, comprendra, parmi ses fonctionnalités, des liens vers des formulaires d’exercice des droits que les mineurs détiennent sur leurs données sur les principaux réseaux sociaux. Elle contiendra également des ressources pour obtenir de l’aide, par exemple auprès de l’association e-Enfance, ainsi que des outils concrets pour sécuriser ses comptes en ligne. Elle sera disponible dans les principaux magasins d’applications à la fin de cette année.

La Cnil s’assure de l’adéquation entre ses productions et les besoins des jeunes. En 2024, nous avons ainsi conduit une enquête intitulée « Numérique adolescent et vie privée » auprès de collégiens et de leurs parents pour connaître les usages des jeunes et identifier les risques. Votre commission a eu l’occasion d’auditionner les deux agents de la Cnil, Mme Jennifer Elbaz et M. Mehdi Arfaoui qui ont mené cette enquête. Je ne reviendrai pas sur leurs constats, si ce n’est pour souligner que les adolescents comprennent de mieux en mieux le fonctionnement des algorithmes mais n’ont pas encore conscience de tous les risques. Leur appropriation du numérique évolue par étapes. Si TikTok est souvent stigmatisé, quitter une telle plateforme représente visiblement pour eux un coût social élevé. Deux tiers des utilisateurs que nous avons interrogés se sentent piégés par l’application et préféreraient utiliser d’autres plateformes, mais ils manquent souvent d’un accompagnement pour sauter le pas.

J’en viens à la régulation des plateformes, qui nécessite de mobiliser plusieurs régulateurs au plan national et d’activer des procédures au plan européen.

La vérification de l’âge en ligne illustre la mise en œuvre d’une régulation efficace par le biais d’une approche coordonnée entre la Cnil et l’Arcom. En ce qui concerne TikTok, la mention de l’âge est purement déclarative. Plusieurs mesures y sont attachées : le blocage de l’utilisateur s’il renseigne un âge inférieur à 13 ans, un système d’alerte pour signaler qu’un utilisateur aurait moins de 13 ans, l’identification d’un usager de moins de 13 ans par l’analyse de son profil. Mais ces mesures restent insuffisantes à l’épreuve de la réalité – nos échanges sur le terrain le montrent, un grand nombre de mineurs de moins de 13 ans utilisent l’application.

Il n’existe pas de consensus sur les solutions pour contrôler l’âge sur les plateformes mais plusieurs moyens techniques sont disponibles, dont certains sont compatibles avec la protection des données personnelles des utilisateurs – ce point est important pour la Cnil : il ne s’agit pas de communiquer les cartes d’identité des jeunes voire de leurs parents à un réseau social. C’est bien l’Arcom qui a une compétence directe en la matière, le rôle de la Cnil se limitant à vérifier que les solutions de contrôle de l’âge utilisées par les sites respectent le RGPD. C’est ainsi que dans le cadre de la loi n° 2024-449 du 21 mai 2024 visant à sécuriser et à réguler l'espace numérique, dite Sren, la Cnil a apporté son expertise à l’Arcom en vue d’élaborer le référentiel technique encadrant les systèmes de vérification de l’âge. Une part importante des préconisations qu’elle a formulées ont été reprises dans le référentiel, parmi lesquelles le recours à un tiers vérificateur indépendant pour protéger les données personnelles et une solution dite de double anonymat imposée aux sites concernés. Ce référentiel ne s’applique qu’aux sites à caractère pornographique et ne concerne pas les réseaux sociaux. La Cnil a mis beaucoup d’elle-même pour chercher à concilier protection de la vie privée et protection des mineurs.

Cette solution associant tiers vérificateur et double anonymat pourrait utilement être dupliquée pour l’accès aux réseaux sociaux et ainsi venir compléter le contrôle parental et l’éducation au numérique.

Une autre solution devrait venir de la révision du règlement relatif à l’identité numérique et les services de confiance (eIdas). Le portefeuille européen d’identité numérique devrait permettre de répondre au défi du contrôle de l’âge en ligne mais son déploiement massif ne devrait intervenir qu’à la fin de l’année prochaine.

Dans cette attente, le règlement (UE) 2022/2065 du Parlement européen et du Conseil du 19 octobre 2022 relatif à un marché unique des services numériques et modifiant la directive 2000/31/CE dit Digital services act (DSA) offre de nouveaux outils de régulation, qui permettent d’imposer des obligations inédites aux plateformes. L’article 28 leur enjoint ainsi de prendre des mesures appropriées et proportionnées pour garantir un niveau élevé de protection des mineurs.

Le 25 avril 2023, la Commission européenne a désigné TikTok comme une très grande plateforme au sens de l’article 33 du DSA. Cette qualification a pour conséquence notamment l’interdiction de la publicité ciblée sur le profilage des données personnelles des mineurs. La loi Sren, qui a adapté le droit français au DSA, a confié de nouvelles missions à la Cnil, parmi lesquelles le fait de veiller au respect de cette interdiction.

D’une manière générale, l’effectivité du nouveau dispositif repose nécessairement sur une articulation efficace entre les autorités compétentes, l’Arcom pour les contenus, la DGCCRF pour la protection des consommateurs et la Cnil pour l’exploitation des données et le ciblage. À cette fin, les trois institutions ont signé, en juin 2024, une convention qui prévoit le partage d’informations, une coopération aux enquêtes et au traitement des plaintes ainsi qu’une mutualisation des expertises.

Parallèlement, en vue de l’application de l’article 28 du DSA, la Commission européenne a récemment mis en consultation des lignes directrices, qui composent un cadre destiné à guider les plateformes dans leur mise en œuvre concrète de la protection des mineurs. La vérification de l’âge est ainsi exigée pour l’accès aux contenus les plus préjudiciables, en distinguant les plateformes à hauts risques et celles à risques modérés. Toutefois, à ce stade, nous regrettons que les lignes directrices de la Commission européenne soient moins protectrices que le référentiel de l’Arcom.

Enfin, en 2024, la Commission européenne a engagé des procédures à l’encontre de TikTok et Meta en raison de leur action insuffisante pour protéger les mineurs. Elle enquête sur la conception d’interfaces exploitant les faiblesses des mineurs et stimulant des comportements addictifs ainsi que sur les outils de vérification de l’âge. Nul doute que la décision finale aura des effets structurants.

Je conclurai par un mot sur les conséquences que pourrait avoir sur TikTok le règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle (RIA), en lui imposant des obligations strictes de transparence, de sécurité et de responsabilité sur l’usage des algorithmes et des outils d’intelligence artificielle (IA), notamment ceux qui influencent le comportement des utilisateurs. À cet égard, le RIA interdit la mise sur le marché ou l’utilisation d’une IA reposant sur des techniques subliminales ou manipulatrices, qui altèrent le comportement ou la capacité de décision. Le RIA proscrit également l’utilisation d’une IA exploitant les vulnérabilités liées à l’âge, au handicap ou à la situation sociale. Donc, concrètement, TikTok devra évaluer et maîtriser les risques liés à ses systèmes d’intelligence artificielle, en particulier ceux générant des effets addictifs ou portant atteinte à la santé mentale des jeunes. TikTok devra également démontrer que ses algorithmes ne manipulent pas indûment les utilisateurs et ne favorisent pas la désinformation ni la discrimination.

Le cadre européen fournit des outils de régulation adaptés à TikTok, à condition d’assurer une mise en œuvre cohérente et une coordination efficace entre les autorités. C’est le cas, me semble-t-il, pour le RGPD, comme pour le DSA et le RIA.

Mme Laure Miller, rapporteure. Quelle part avez-vous prise à l’élaboration des lignes directrices ? La Cnil a-t-elle pu ou pourra-t-elle apporter sa contribution ? Pouvez-vous préciser votre appréciation sur leur moindre ambition en comparaison du référentiel de l’Arcom ?

Pouvez-vous également nous présenter de manière plus détaillée le projet d’identité numérique européenne ? Là encore, avez-vous été consultés ?

Mme Marie-Laure Denis. S’agissant de l’élaboration des lignes directrices de la Commission européenne, avant de vous répondre, je préfère vérifier si la Cnil y a contribué et de quelle manière. Le comité européen de la protection des données (CEPD), qui réunit l’ensemble des Cnil européennes, va rendre un avis sur ces lignes directrices.

Nous considérons qu’elles sont moins satisfaisantes que le référentiel de l’Arcom car elles ne retiennent ni le tiers vérificateur indépendant, qui, de notre point de vue, permet vraiment de concilier protection des données et protection des mineurs et de garantir un contrôle de l’âge efficace, ni le double anonymat.

Quant à l’identité numérique, je fonde des espoirs sur cette solution. Nous sommes très impliqués dans les travaux menés au niveau européen, qui sont assez complexes, assez techniques. À la faveur de la révision du règlement eIdas, l’idée est de créer un portefeuille numérique, ou wallet, qui présente le grand avantage de pouvoir décliner votre identité de façon sélective. C’est ce que l’on appelle les attributs : je peux prouver mon âge sans avoir à donner mon identité ; pour bénéficier d’une réduction à la piscine de ma commune, je peux prouver que j’y réside sans avoir à dire mon nom ni mon âge. Ce dispositif, très protecteur de la vie privée, apparaît comme une solution prometteuse et robuste pour contrôler l’âge.

La France fait partie des trois pays que la Commission européenne a désignés pour expérimenter, dès la fin de ce semestre, le portefeuille numérique.

Mme Laure Miller, rapporteure. Quel regard portez-vous sur l’exploitation des données personnelles des utilisateurs par TikTok ? Y a-t-il une singularité par rapport aux autres réseaux sociaux ?

Pouvez-vous en dire davantage sur les 150 plaintes que vous avez reçues l’année dernière, si j’ai bien compris ? Ce chiffre a-t-il évolué ? Quels sont les motifs des plaintes ? Les mineurs en sont-ils souvent l’objet, ou seulement de manière marginale ?

Mme Marie-Laure Denis. De mon point de vue, la singularité de TikTok réside dans le déroulement continu d’un flux de contenus que les utilisateurs ingèrent passivement, à tel point que la plateforme donne l’impression de ne pas vraiment être un réseau social. Sur d’autres réseaux, la communication avec des tiers a davantage d’importance. TikTok propose aussi des fonctionnalités qui n’existent pas ailleurs, comme TikTok Shop ou TikTok Lite. Enfin, son algorithme semble être d’une efficacité redoutable.

La Cnil a reçu 150 plaintes visant TikTok depuis la création de ce dernier. Les plaintes qui sont en cours d’instruction par nos services sont de deux types.

Les premières, au nombre de vingt-cinq, proviennent de sociétés qui contestent des transferts de données vers la Chine. L’outil TikTok Analytics, en particulier, engendrerait des transferts de données à caractère personnel en dehors de l’Union européenne, notamment vers la Chine, la Malaisie, les États-Unis, Singapour, le Brésil ou encore l’Australie. La DPC, notre homologue irlandaise, vient de prononcer une sanction à l’encontre de TikTok pour ce motif, assortie de l’injonction de se mettre en conformité avec le RGPD dans un délai de six mois.

Les plaintes de la seconde catégorie, au nombre de huit, portent sur des demandes d’effacement de comptes ou de contenus. Certains utilisateurs souhaitent revenir sur leur décision de diffuser des contenus qui les concernent ou qui concernent des proches ; ils ont perdu leur identifiant et n’arrivent pas à les effacer.

D’autres utilisateurs s’aperçoivent que des contenus dans lesquels leur image apparaît sont diffusés sans leur consentement afin de leur porter préjudice.

En première intention, les services de la Cnil adressent généralement un courrier à TikTok pour effectuer des vérifications préliminaires et préparer les dossiers en vue d’un éventuel transfert à l’autorité de contrôle cheffe de file, notre homologue en Irlande. Dans certains cas, cela permet de répondre plus rapidement aux plaignants. Nous transmettons la majorité des plaintes à la DPC.

Mme Laure Miller, rapporteure. Avez-vous un interlocuteur dédié chez TikTok, avec lequel vous pouvez parler de ces plaintes ?

M. Mathias Moulin, secrétaire général adjoint de la Cnil. Nous sommes convenus avec l’autorité irlandaise de la procédure qui vient d’être décrite, appelée preliminary vetting, pour travailler en circuit court. Avec Google cette procédure fonctionne très bien.

M. le président Arthur Delaporte. Ce point de contact est-il une adresse e-mail ou une personne identifiée ?

M. Mathias Moulin. C’est une adresse e-mail, sauf erreur de ma part.

M. le président Arthur Delaporte. Vous n’avez donc pas d’échanges de vive voix avec des responsables de TikTok ?

M. Mathias Moulin. Notre présidente s’est rendue en Irlande récemment, mais TikTok ne fait pas partie des interlocuteurs avec lesquels nous avons un dialogue régulier, me semble-t-il.

Mme Marie-Laure Denis. J’ai rencontré le directeur juridique monde et le responsable France de TikTok en mars 2023, de mémoire, à leur demande.

M. Mathias Moulin. Il s’agissait d’une première rencontre assez protocolaire durant laquelle TikTok a exposé sa stratégie de façon générique et globale, étant entendu que nous ne sommes pas son autorité de régulation au quotidien. Pour le reste, nos services n’ont pas d’échanges réguliers et structurés avec lui, y compris dans le cadre de l’instruction des dossiers, car, une fois encore, nous ne sommes pas son autorité référente et compétente.

Nous partageons avec d’autres acteurs le souhait de rendre le preliminary vetting plus efficace. Nous en parlerons avec notre homologue irlandais lors de la réunion du CEPD du 3 juin. L’objectif est de faire davantage pression sur les sites, a fortiori sur TikTok, afin que le circuit court fonctionne mieux.

Quant aux mineurs, ils nous sollicitent assez peu : il ne leur paraît pas naturel de déposer une plainte auprès de la Cnil. C’est la raison pour laquelle nous avons souhaité développer l’outil FantomApp. Les jeunes y trouveront des liens pour exercer leurs droits auprès de TikTok, contacter l’association e-Enfance en cas d’urgence et porter plainte auprès de nos services ; ils auront accès à une procédure simplifiée de demande de retrait de contenus. Cet outil répondra donc à leurs besoins.

Mme Marie-Laure Denis. Je serais étonnée que nous n’ayons pas un interlocuteur chez TikTok. Lorsque nous avons élaboré la charte Studer avec l’Arcom, nous avons voulu pouvoir agir rapidement auprès des plateformes et il me semble que nous avons des interlocuteurs auprès de chacune ; TikTok doit en faire partie, mais je ne peux pas l’affirmer.

Je précise que j’ai rencontré TikTok et Google à Dublin il y a quelques semaines, avec le président de l’Arcom, dans le sillage d’un voyage de la ministre chargée du numérique et de l’intelligence artificielle ; nous avons abordé la question du contrôle de l’âge des utilisateurs.

La Cnil contribue activement, avec le CEPD – la Cnil des institutions européennes – à l’élaboration de lignes directrices sur la protection des données des enfants. Ces lignes directrices abordent certains points clés relatifs au traitement des données sur les plateformes et sur internet : identification des responsables qui traitent les données de mineurs – qui doivent appliquer une protection adéquate –, vérification de l’âge, contrôle parental, exercice des droits, en particulier du droit à l’effacement.

Mme Anne Genetet (EPR). Pourquoi n’obtenez-vous presque jamais de réponse de TikTok ? Quelles mesures faudrait-il prendre pour le contraindre à répondre ?

S’agissant de la vérification de l’âge, je comprends qu’il faille préserver la vie privée, mais la protection des mineurs ne nécessite-t-elle pas des mesures particulières ? Le portefeuille d’identité numérique européen ne sera pas développé avant 2026, et nous risquons d’attendre très longtemps les outils prévus par la Commission européenne. Pourquoi n’utiliserions-nous pas l’application France Identité, qui fonctionne très bien ?

Mme Marie-Laure Denis. De fait, TikTok traite avec la DPC.

Nous entretenons avec cette dernière des relations beaucoup plus constructives que lorsque le RGPD est entré en vigueur. Nous sommes convenus d’une procédure informelle de bon sens : si TikTok nous répond et que nous pouvons résoudre une demande d’effacement de contenu, tant mieux, cela évite de remonter le problème à la DPC. Ce fonctionnement est toutefois informel, et TikTok n’est pas tenu de nous répondre. Nous n’avons aucun moyen de le contraindre, même si nous coopérons avec la DPC.

Mme Anne Genetet (EPR). Vous avez signalé que cette procédure fonctionnait bien avec d’autres opérateurs comme Google, vis-à-vis desquels la Cnil n’est pas non plus compétente. Comment expliquer cette différence de comportement ?

Mme Marie-Laure Denis. Je vous confirme que Google nous répond.

Mme Anne Genetet (EPR). Un élément de droit – la menace d’être considéré comme un éditeur, par exemple – explique-t-il que Google soit vigilant et réagisse différemment ?

Mme Marie-Laure Denis. La Cnil a des relations anciennes avec Google, notamment au sujet du droit à l’oubli ; nous avons eu des actions très volontaristes à son égard, et des décisions de justice sont venues cadrer les choses.