rapport d'enquête sur les effets psychologiques de TikTok sur les mineurs — Comptes rendus des auditions

Cette situation soulève effectivement la question plus générale de la désinformation en santé et des contenus dangereux sur lesquels nous travaillons activement. Nous collaborons étroitement avec la DGCCRF, qui sollicite notre expertise sanitaire pour qualifier les faits et leurs conséquences. Nous avons mené ce travail sur différentes plateformes et organes de presse et produisons des analyses scientifiques et des rapports visant à qualifier ces situations.

Concernant les actions à entreprendre, nous envisageons la mise en place de signaleurs de confiance spécialisés en santé, à l’instar de ce qui existe avec Point de contact et e-Enfance. Il s’agirait d’associations labellisées auxquelles nous apporterions les moyens nécessaires pour effectuer ce travail quotidien que nous réalisons avec la DGCCRF, mais que nous ne pouvons étendre à l’ensemble des réseaux sociaux. Cette piste nous semble particulièrement intéressante.

Nous créons par ailleurs, comme l’a annoncé le ministre, un observatoire national de la désinformation en santé, qui réunira tous les acteurs concernés et favorisera une modération plus rigoureuse des contenus en santé sur les plateformes. Nous souhaitons également impliquer les professionnels de santé dans cette modération.

M. Kerian Berose-Perez. Nous traitons cette problématique en collaboration avec l’Arcom, avec qui nous analysons précisément ce phénomène, tant du point de vue numérique que sanitaire. Nous travaillons également avec l’éducation nationale, la direction générale de l’enseignement scolaire (DGESCO) et le Centre de liaison de l’enseignement et des médias d’information (Clemi) sur l’éducation critique en santé, afin de renforcer la capacité des jeunes à adopter une posture critique face à ces contenus.

Je souhaite également souligner la difficulté particulière posée par ces contenus. D’une part, certains sont intrinsèquement problématiques, voire potentiellement délictueux, notamment lorsqu’ils promeuvent des comportements directement dangereux pour la santé. D’autre part, nous faisons face à une multitude de contenus qui, pris individuellement, ne sont pas problématiques, mais dont l’exposition massive et récurrente auprès d’un public vulnérable, comme les adolescentes, constitue un véritable risque de santé publique à l’échelle globale.

La meilleure approche pour traiter en masse ces contenus, non délictueux individuellement mais pourtant problématiques, réside dans le cadre du règlement européen sur les services numériques, notamment à travers les rapports d’analyse de risque produits par les plateformes qui, actuellement, ne prennent pas suffisamment en compte ce risque spécifique, se concentrant davantage sur les contenus intrinsèquement problématiques. Nous travaillons sur cet aspect dans le cadre des lignes directrices sur la protection des mineurs relevant de l’article 28 du règlement. La DGS s’investit particulièrement sur ce point, en coordination avec l’ensemble des ministères impliqués dans cette négociation européenne.

M. le président Arthur Delaporte. Estimez-vous qu’un renforcement du cadre juridique national pour qualifier la désinformation en santé soit nécessaire ?

Mme Sarah Sauneron. Bien que nous n’ayons pas identifié de besoin spécifique en la matière pour l’instant, nous restons ouverts à cette réflexion. Notre approche privilégie actuellement l’aspect pratique. Par exemple, nous élaborons avec la DGCCRF un protocole de signalement pour clarifier les responsabilités de chacun. Nous intervenons également en bout de chaîne avec les ordres professionnels lorsqu’il faut signaler une usurpation de titres. Je ne suis pas convaincue qu’une nouvelle base légale soit nécessaire à ce stade.

M. Kerian Berose-Perez. Sur cette question spécifique, nous n’avons pas identifié de besoin d’évolution de la base légale. Nous attendons par ailleurs la publication des lignes directrices finalisées sur la protection des mineurs pour déterminer si des besoins complémentaires émergeront.

Un enjeu majeur concerne en revanche la pratique et la mise en place de signaleurs de confiance formés aux questions de santé. Actuellement, e-Enfance et Point de contact constituent nos deux seuls signaleurs de confiance dans ce domaine, sans qu’ils disposent nécessairement d’une expertise santé spécifique. Ils relaient parfois des signalements émanant de « mini-signaleurs de confiance » non accrédités officiellement. Le renforcement de notre capacité d’analyse représente un véritable défi face à l’immensité des contenus à traiter, et c’est précisément là que nous identifions l’enjeu principal.

M. le président Arthur Delaporte. Combien de personnes travaillent sur ce type de problématique à la DGS ?

M. Kerian Berose-Perez. Au total, environ sept personnes travaillent sur ce sujet de manière ponctuelle et transversale. Nous bénéficions également de contributions ponctuelles, notamment du bureau de la sous-direction à l’environnement et à l’alimentation. Par ailleurs, nous finançons des partenaires tels que la Fédération française anorexie boulimie, qui nous apporte une aide considérable sur la thématique des troubles du comportement alimentaire. Très récemment, dans le cadre de nos travaux avec l’Arcom sur le phénomène SkinnyTok, nous les avons directement sollicités et avons collaboré étroitement avec eux. Dans le cadre du travail que nous menons actuellement sur la territorialisation de notre action, nous nous appuyons également sur les agences régionales de santé (ARS).

M. le président Arthur Delaporte. Disposez-vous de mécanismes de veille sur les tendances émergentes et entretenez-vous des interactions avec les plateformes à ce sujet ? Un élément qui m’a particulièrement interpellé lors de notre audition avec TikTok, c’est leur découverte apparemment récente de la tendance SkinnyTok, alors que la promotion de la maigreur excessive constitue une problématique ancienne et persistante sur les réseaux sociaux.

Au-delà de votre expertise sur cette question, comment assurez-vous le suivi et la surveillance de ces sujets qui mettent en danger la vie des utilisateurs ?

Par ailleurs, comment interprétez-vous le discours de TikTok concernant l’importance de diffuser des contenus sur la récupération d’après-crise ? Actuellement, nous observons en effet une prolifération de vidéos dans lesquelles des personnes partagent leurs avancées avec des messages apparemment positifs qui peuvent en réalité dissimuler du contenu SkinnyTok. Avez-vous développé une expertise spécifique sur ces types de contenus et sur la pertinence, ou non, d’exposer les utilisateurs à de tels messages ?

M. Kerian Berose-Perez. Votre question rejoint précisément ce que j’évoquais concernant les contenus qui, pris isolément, ne présentent pas de caractère problématique mais qui, considérés dans leur ensemble, constituent une véritable préoccupation de santé publique. Les SkinnyTok que vous mentionnez s’inscrivent effectivement dans un phénomène plus large de promotion de la maigreur excessive que nous analysons sur le temps long, en intégrant l’ensemble des contenus associés.

Concernant les mécanismes de veille que vous évoquez, nous orientons précisément nos efforts dans cette direction. Des membres de mon équipe ont notamment rencontré récemment le service de vigilance et de protection contre les ingérences numériques étrangères (Viginum) pour étudier leurs pratiques et explorer des possibilités de partage d’expérience, afin de construire un dispositif adapté à nos spécificités tout en améliorant l’efficacité de notre veille sur ces contenus.

Dans la mesure où la DGS ne peut assumer seule cette mission, nous établissons actuellement des protocoles avec la DGCCRF et l’Arcom afin de progresser sur ces questions, avec la volonté ferme d’adopter une vision globale et d’apporter des réponses concrètes aux problématiques de santé publique soulevées par les contenus que vous mentionnez.

M. le président Arthur Delaporte. Cela signifie donc qu’il n’existe actuellement aucun véritable système de veille opérationnel.

Mme Sarah Sauneron. Un système de veille est assuré par la délégation à l’information et à la communication (Dicom), qui surveille les réseaux sociaux pour détecter notamment les problématiques liées aux fausses informations. La Dicom coordonne avec notre service, par l’intermédiaire de notre mission communication, les réponses appropriées à apporter, tout en veillant à ne pas générer d’effet d’amplification qui serait contre-productif sur les réseaux sociaux. Ce dispositif nous a notamment permis d’identifier le « Paracétamol challenge » avant sa médiatisation dans la presse, ce qui nous a permis de suivre étroitement la situation.

M. Kerian Berose-Perez. Nous avions également identifié le phénomène SkinnyTok par nos propres moyens, car notre équipe utilise des comptes enfants et adolescents pour explorer les réseaux sociaux. Je ne qualifierais toutefois pas cette démarche de dispositif de veille structuré, nous procédons simplement ainsi par nécessité pour évaluer certaines fonctionnalités ou pour demander la suppression de certaines options auprès de la Commission européenne lorsque nous identifions des risques.

M. le président Arthur Delaporte. Cela met en lumière la nécessité de structurer de véritables outils de captation et d’analyse, car nous sommes confrontés à des contenus qui se situent à la frontière de la légalité. Comme vous l’avez souligné, la difficulté réside dans le fait que la modération s’effectue individuellement sur chaque contenu, et non sur un ensemble de contenus formant un tout cohérent. C’est la raison pour laquelle les plateformes nous indiquent ne pas pouvoir interdire certains types de publications.

Parallèlement, nous constatons que les utilisateurs eux-mêmes développent des stratégies sophistiquées, telles que l’utilisation détournée d’émoticônes, pour parvenir à regrouper des contenus qui, pris isolément, peuvent paraître anodins mais qui, assemblés, révèlent une toute autre dimension. Dans ce contexte, l’État semble démuni, tandis que les plateformes manquent de base légale pour intervenir efficacement.

C’est précisément pour cette raison que je vous interrogeais plus tôt sur le renforcement du cadre juridique, afin de déterminer comment nous pourrions doter l’État ou le juge de moyens concrets pour ordonner le retrait de contenus. Si le système fonctionne relativement bien pour les contenus terroristes, nous rencontrons de réelles difficultés concernant la capacité des acteurs individuels à obtenir le retrait de contenus problématiques. Lors de nos échanges à Bruxelles, il nous a été demandé pourquoi nous ne saisissions pas la justice, alors que de nombreux parents nous font part de leur impuissance face à cette situation. Comment pouvons-nous donner aux juges les outils nécessaires pour adresser des injonctions directes aux plateformes sans multiplier les intermédiaires ? Cela pose la question du fondement légal.

M. Kerian Berose-Perez. La complexité de ce sujet, sur lequel nous n’avons pas nécessairement de position définitive, réside dans sa technicité et ses multiples implications. Nous y travaillons avec détermination, particulièrement au niveau européen. Nous réfléchissons notamment à des mécanismes permettant de briser les logiques d’enfermement dans des bulles de filtres, où les utilisateurs se retrouvent constamment exposés aux mêmes types de contenus, qu’il s’agisse de publications esthétisant la dépression ou promouvant des comportements alimentaires dangereux. Notre approche consiste à imposer une diversification des contenus et à introduire une part d’aléatoire pour contrer les mécanismes de personnalisation algorithmique et limiter la formation systématique de ces bulles de filtres, particulièrement face aux algorithmes les plus performants. Ces actions s’inscrivent principalement dans le cadre du DSA, même si nous reconnaissons que les avancées ne progressent pas toujours aussi rapidement que nous le souhaiterions. Ce travail exige une compréhension approfondie des mécanismes en jeu et une maîtrise de textes réglementaires parfois complexes à appliquer.

M. le président Arthur Delaporte. J’ai le sentiment que l’État demeure insuffisamment outillé face aux enjeux massifs et en rapide évolution qui touchent la santé publique. Chaque année qui passe expose davantage de jeunes, et même de très jeunes, à des contenus préjudiciables. Ce phénomène concerne l’ensemble de la société et chaque mois d’inaction nous conduit à accumuler un retard considérable.

J’entends la volonté de la ministre de promouvoir l’interdiction des écrans pour les moins de 3 ans dans un journal qui, par ailleurs, véhicule de la désinformation. Je le précise à titre personnel, puisque ce même journal met en cause notre commission quelques pages plus loin, prétendant que le recours aux auditions par visioconférence ne constitue pas la norme pour les commissions d’enquête. En tant que défenseur de l’information rigoureuse, je tiens à souligner que nous menons depuis trois mois des auditions sérieuses avec diverses administrations par visioconférence sans que cela n’ait jamais posé un problème. Le véritable problème réside dans le détournement de la procédure et non dans l’usage de la visioconférence. Cette précision me paraît nécessaire pour le compte rendu de notre commission.

Pour revenir à notre sujet, annoncer des mesures pour les enfants de moins de 3 ans constitue certes une avancée, mais nous devons également nous préoccuper des adolescents de 14 ou 15 ans. Le temps que les mesures d’interdiction des écrans pour les plus jeunes produisent leurs effets, il faudra compter dix à douze ans alors que la question centrale porte sur notre capacité d’action immédiate pour endiguer ce phénomène. Nous devons manifestement renforcer nos moyens car sept équivalents temps plein ne suffiront pas. Même si la création d’un bureau dédié à la santé mentale liée à l’exposition au numérique marque une étape positive, nous avons besoin de mécanismes de signalement plus directs et efficaces entre l’administration et les plateformes.

Nous constatons que pour les contenus terroristes, des systèmes de signalement très performants existent entre les administrations et les réseaux sociaux. En revanche, lorsque nous examinons les rapports de transparence concernant la santé mentale ou la protection des mineurs, les chiffres de signalements administratifs sont proches de zéro. Cela démontre que l’administration ne mobilise pas pleinement son pouvoir de signalement, ce qui nous laisse démunis. Des mécanismes existent déjà, d’autres restent à inventer ou à renforcer, mais commençons par utiliser plus efficacement les outils à notre disposition.

Disposez-vous d’un contact direct chez TikTok au niveau de la DGS, ou sollicitez-vous systématiquement l’Arcom lorsque vous devez les contacter ?

M. Kerian Berose-Perez. J’ai effectivement déjà établi des contacts avec les plateformes mais, jusqu’à présent, nous avons privilégié une collaboration par l’intermédiaire de l’Arcom.

Mme Sarah Sauneron. La lutte contre le terrorisme constitue effectivement un modèle de référence et c’est précisément dans ce domaine que nous avons développé les actions les plus avancées, justifiées par un impératif évident de sécurité publique. Dans la mesure où nous faisons aujourd’hui face à des données plus complexes à analyser concernant les écrans, nous devons intensifier la recherche afin d’établir des constats incontestables qui s’imposeront à tous, particulièrement lorsqu’ils touchent à la liberté d’expression.

Comme vous l’avez parfaitement souligné, les discours liés à la santé mentale sont plus difficiles à analyser que ceux liés au terrorisme. Dans ce dernier domaine, nous avons considérablement progressé en termes de signalement et de collaboration avec les plateformes. Ce modèle, également appliqué dans la lutte contre la pédopornographie, constitue notre référence à suivre.

Je ne voudrais pas laisser entendre que seules sept personnes au sein du ministère s’intéressent à la question des écrans. Pour avoir travaillé sur ce sujet depuis plusieurs années, notamment en suivant dès 2022 le plan du secrétaire d’État chargé de la protection de l’enfance Adrien Taquet, je constate un véritable tournant depuis la commission Mouton-Benyamina. Bien que ces avancées puissent être jugées insuffisantes, nos relations avec les ministères de l’économie et de l’éducation nationale ont considérablement évolué.

Le ministère de la santé démontre toute sa légitimité en fournissant les justifications scientifiques nécessaires à l’action auprès des jeunes et des parents. Cette approche constitue la clé de notre stratégie, comme cela a été le cas pour le tabac, car c’est lorsque nous avons établi les liens avec le cancer du poumon que nous avons pu imposer des mesures face aux industriels.

Le ministère de la santé doit ainsi jouer pleinement ce rôle concernant les écrans, sans se limiter aux enfants de moins de 3 ans, bien que cette action précoce demeure essentielle. Nos adolescents doivent prendre conscience des risques auxquels ils s’exposent et cette sensibilisation passe notamment par l’éducation nationale, car ce ministère dispose d’un public captif et de toute la légitimité pour agir auprès des adolescents, en collaboration avec les parents. Dans cette perspective, le droit à la déconnexion et la généralisation de l’expérimentation des collèges sans smartphone apparaissent indispensables.

Je tiens à souligner que la France n’est nullement à la traîne au niveau européen sur ce sujet et qu’elle est, au contraire, citée en exemple par d’autres États membres. L’Organisation mondiale de la santé (OMS) Europe, qui nous rendra visite cette semaine au ministère, nous a spécifiquement demandé d’aborder la question de la santé mentale des jeunes face aux écrans. Plusieurs pays, dont l’Espagne, ont sollicité la traduction du rapport du docteur Mouton et du professeur Benyamina. Cette reconnaissance internationale reflète une véritable prise de conscience et une volonté d’agir à la hauteur des enjeux.

M. le président Arthur Delaporte. Malgré les réserves ou inquiétudes que j’ai pu exprimer concernant le sentiment d’impuissance que peuvent ressentir certains utilisateurs, je tiens à vous remercier pour votre travail et pour le sens de l’État et de l’intérêt général que porte la DGS.

Un travail considérable reste encore à accomplir et je constate que vous vous êtes pleinement saisis de ces enjeux. La réactivité collective qu’imposent ces défis devrait conduire à un renforcement des moyens de veille et de signalement afin de lutter efficacement contre les tendances dangereuses. Mme la rapporteure et moi-même sommes quotidiennement interpellés sur les réseaux sociaux concernant des publications problématiques et dangereuses, notamment cette publicité massive pour les compléments alimentaires. Si ces dernières prolifèrent, c’est qu’elles génèrent des profits considérables. Il convient donc d’intervenir sur le plan financier et de saisir directement les plateformes, cette problématique dépassant largement le seul cas de TikTok.

Je vous remercie et vous invite à nous transmettre par écrit tout document, information ou réponse que vous jugerez utile de porter à notre connaissance.

60. Audition de M. Anton’Maria Battesti, directeur des affaires publiques France de Meta, et Mme Aurore Denimal, responsable des affaires publiques France, Mme Claire Dilé, directrice des affaires publiques de X, et M. Thibault Guiroy, directeur des affaires publiques France et Europe du Sud de YouTube (mardi 17 juin 2025)

La commission auditionne conjointement, M. Anton’Maria Battesti, directeur des affaires publiques France de Meta, et Mme Aurore Denimal, responsable des affaires publiques France, Mme Claire Dilé, directrice des affaires publiques de X, et M. Thibault Guiroy, directeur des affaires publiques France et Europe du Sud de YouTube ([58]).

M. le président Arthur Delaporte. Notre commission d’enquête se réunit pour la soixantième fois. Depuis environ trois mois, nous avons déjà entendu 144 personnes, durant plus de 75 heures.

Nous recevons en audition conjointe les représentants de Meta, de X et – en visioconférence – de YouTube. Les représentants de Snapchat ont également été convoqués, mais ils n’étaient pas disponibles et seront auditionnés la semaine prochaine.

Même si notre commission d’enquête a pour objet d’étudier les effets psychologiques de TikTok sur les mineurs, nous avons constaté une forme d’interopérabilité entre les plateformes. Les utilisateurs – et parfois les influenceurs problématiques – ont à la fois des comptes sur Instagram, Snapchat, YouTube ou X. Vous comprendrez donc que nous ayons souhaité vous entendre.

Nous avions envisagé d’élargir la commission d’enquête à l’ensemble des plateformes, car elles s’inspirent les unes des autres et peuvent toutes affecter la santé mentale des mineurs. Mme la rapporteure m’a convaincu de circonscrire nos travaux à TikTok, en raison de son caractère émergent, de sa très forte attractivité vis-à-vis des jeunes et de la spécificité de son algorithme. Néanmoins, les conclusions de nos travaux – qui devront être présentées au plus tard le 12 septembre – pourront dépasser ce cadre. La loi a en effet vocation à s’appliquer de façon universelle et la régulation ne peut concerner un seul acteur économique.

Je vais vous donner la parole pour une intervention liminaire, qui précédera notre échange sous forme de questions et réponses, et je vous remercie de préciser tout intérêt public ou privé de nature à influencer vos déclarations.

Auparavant, je vous rappelle que l’article 6 de l’ordonnance du 17 novembre 1958 relative au fonctionnement des assemblées parlementaires impose aux personnes auditionnées par une commission d’enquête de prêter serment de dire la vérité, toute la vérité, rien que la vérité.

(M. Anton’Maria Battesti, Mme Aurore Denimal, Mme Claire Dilé et M. Thibault Guiroy prêtent successivement serment.)

M. Anton’Maria Battesti, directeur des affaires publiques France de Meta. Je suis directeur des affaires publiques pour Meta en France. Étant dans cette entreprise depuis bientôt douze ans, j’ai une certaine expérience des sujets qui vous intéressent, et qui sont plus ou moins nouveaux. En tout cas, il est important d’aborder la question des contenus, de savoir qui décide et comment, et d’essayer d’améliorer les choses.

Notez que sous l’impulsion de la France, l’Europe s’est dotée d’un cadre exigeant et performant. Le « jeune » règlement (UE) 2022/2065 du Parlement européen et du Conseil du 19 octobre 2022 relatif à un marché unique des services numériques et modifiant la directive 2000/31/CE (règlement sur les services numériques), dit Digital services act (DSA), a déjà trouvé des applications très concrètes.

Nous sommes là pour répondre à vos questions. Je ne serai pas trop long, afin de laisser du temps à l’échange. Une actualité récente peut néanmoins vous intéresser et être pertinente pour vos travaux. Instagram propose désormais des comptes pour les adolescents, qui permettent de distinguer les 13-15 ans et les 16-18 ans et d’encadrer le temps passé sur l’application, les contenus auxquels ils peuvent être exposés, ainsi que les possibilités de prendre contact avec eux. La supervision et l’autorisation parentale constituent la clé de voûte du dispositif. Nous aurons certainement l’occasion de traiter l’ensemble de ces sujets, mais je tenais à mentionner ce produit dès à présent.

Mme Aurore Denimal, responsable des affaires publiques France de Meta. La vérification de l’âge est un sujet à propos duquel nous sommes très engagés. Il sera intéressant de l’évoquer, pour apprécier les effets que produisent les comptes « Ado » et ceux qu’ils pourraient produire s’ils atteignaient leur cible de manière pleine et entière.

Mme Claire Dilé, directrice des affaires publiques de X. Je suis chargée des affaires publiques de la plateforme X en France, depuis environ quatre ans.

J’ai pris le parti d’une intervention peut-être un peu longue, mais complète, afin d’aborder l’ensemble des questions posées dans le questionnaire qui nous a été adressé. Il est important pour nous de pouvoir expliquer les mesures que nous prenons.

X est une plateforme d’information en temps réel, où la conversation est publique. Selon notre dernier rapport de transparence établi dans le cadre du DSA, qui a été publié en avril, nous totalisons 17 millions d’utilisateurs mensuels actifs et 11 millions de personnes possèdent des comptes en France.

Notre ambition est de servir et de protéger la conversation publique et de garantir un environnement sûr pour que chacun puisse y participer librement et en toute confiance.

L’approche de X en matière de sécurité est étayée par ses conditions d’utilisation, y compris les règles et politiques, qui sont conçues pour garantir que tout utilisateur puisse participer à la conversation publique de manière sûre. Chacun doit pouvoir s’exprimer sur la plateforme et nous ne tolérons pas les comportements qui harcèlent, menacent ou intimident dans le but de faire taire la voix d’autrui. Nous nous engageons à maintenir un environnement inclusif, où des perspectives diverses peuvent être partagées, débattues et appréciées.

Notre service se caractérise par le fait que les utilisateurs rejoignent une conversation sur les sujets qui les intéressent ou sur ce qui se passe dans le monde à un moment donné. C’est un peu comme un groupe WhatsApp global, public et en temps réel. Les gens viennent principalement sur X pour suivre et commenter l’actualité sportive, politique et culturelle ou du monde du divertissement, pour débattre de sujets de société ou pour échanger avec leur communauté.

Nous essayons de créer les conditions pour que les utilisateurs puissent être activement engagés dans la conversation, tout en leur laissant le choix de l’utilisation qu’ils souhaitent avoir du service. Ils peuvent contrôler et personnaliser leur expérience sur X.

Ainsi, ils peuvent consulter un fil d’actualité organisé par notre algorithme de recommandation, voir les publications des comptes auxquels ils sont abonnés de manière antéchronologique, ou encore accéder aux listes qu’ils ont créées ou qui existent déjà. Nous leur fournissons des outils de contrôle du contenu qu’ils souhaitent voir, en fonction des sujets qui les intéressent ou de la sensibilité des publications. Ils ont la possibilité de protéger leurs posts et de limiter les personnes pouvant leur envoyer des messages privés. Ils peuvent également gérer les notifications qu’ils reçoivent de la part de la plateforme et avoir recours aux fonctionnalités de sécurité, telles que l’exclusion des mots clés, les contrôles de conversation ou les fonctions de blocage et de silence. Enfin, ils peuvent dépersonnaliser leur expérience et limiter le partage de leurs données avec des tiers.

Afin de garantir la sûreté des utilisateurs sur le réseau, X s’appuie sur un ensemble de règles et de politiques. Elles s’articulent autour de trois piliers : la sécurité, la confidentialité et l’authenticité. La conduite haineuse, les comportements inappropriés et violents, ainsi que les discours violents, l’exploitation sexuelle des enfants ou la nudité non consentie sont notamment proscrits sur la plateforme.

Concernant l’application de notre politique, notre philosophie est la suivante : nous permettons aux utilisateurs de comprendre les différentes facettes d’un problème et nous encourageons une discussion ouverte autour d’opinions et de points de vue différents. Cette approche permet la coexistence de nombreuses formes de discours sur notre plateforme et promeut en particulier le contre-discours.

Lorsque nous prenons des sanctions, elles peuvent concerner une partie précise du contenu – un post ou un message privé par exemple –, ou un compte. Nous pouvons également avoir recours à une combinaison de ces options. Dans certains cas, nous intervenons, car le comportement concerné enfreint les règles de fonctionnement de X. Dans d’autres, nous agissons en réponse à une demande légale valide d’une entité autorisée dans un pays donné.

Nous prenons des mesures de suspension d’un compte si nous déterminons qu’un utilisateur a enfreint de manière répétée nos politiques ou a commis des infractions à des politiques spécifiques qui représentent un risque majeur pour X – publication d’un contenu illégal, tentative de manipulation de la plateforme ou d’envoi massif de messages indésirables aux utilisateurs, utilisation de la plateforme pour inciter à la violence, etc. – ou qui constituent une menace pour nos utilisateurs – fraude, violation de la vie privée, menace violente, harcèlement ciblé, etc. Toutes nos décisions de modération sont compilées dans notre rapport de transparence globale, que nous mettons à jour tous les six mois et que vous pouvez consulter librement sur notre site internet.

Ce travail de modération est conduit par une équipe internationale et pluridisciplinaire, qui est disponible vingt-quatre heures sur vingt-quatre et maîtrise plusieurs langues.

Afin de garantir que nos modérateurs sont habilités à remplir leurs fonctions, nous leur fournissons un système de soutien solide. Chaque modérateur suit une formation approfondie et des cours de remise à niveau, dispose de différents outils lui permettant d’accomplir efficacement son travail et bénéficie d’une série d’initiatives en matière de bien-être. Nous continuons à investir dans la sécurité, notamment dans nos équipes et nos technologies, et nous mettons en place un centre d’excellence dédié à la modération de contenus.

J’aborderai la question de la protection des mineurs dans le cadre de la discussion.

M. Thibault Guiroy, directeur des affaires publiques France et Europe du Sud de YouTube. YouTube a pris des mesures pour protéger les mineurs sur la plateforme. Dans ce domaine, notre approche est guidée par des grands principes que nous avons élaborés – comme nous le faisons toujours – en collaboration avec des experts de la protection de l’enfance.

Le premier de ces principes est que la vie privée, la sécurité physique, la santé mentale et le bien-être des enfants et des adolescents exigent des protections particulières en ligne et qu’ils doivent être au cœur de la conception de nos produits. C’est pour cette raison que nous avons créé YouTube Kids il y a dix ans, en 2015. Il s’agissait de mettre à la disposition des parents une application permettant aux enfants de moins de 13 ans de regarder des vidéos adaptées à leur âge.

YouTube Kids est disponible dans plus de quatre-vingts pays. Cette version filtrée de YouTube propose des contenus adaptés aux enfants grâce à un système fondé sur les retours des parents, des filtrages automatiques et des examens manuels.

Parmi les spécificités de YouTube Kids, figurent des profils adaptés selon l’âge, pour les plus petits de 4 ans et moins, pour les petits de 5 à 8 ans et pour les grands de 9 à 12 ans. Les parents ont plusieurs paramètres de contrôle. Ils peuvent bloquer très rapidement des contenus ou des chaînes entières, désactiver la fonctionnalité de recherche de contenus, désactiver la lecture automatique ou mettre en place un minuteur, par exemple pour limiter le temps d’écran à trente minutes. Les parents peuvent aussi faire en sorte que leurs enfants n’aient accès qu’à un corpus de contenus qu’ils auront eux-mêmes choisi.

Les contenus jugés trop commerciaux, tels que les vidéos qui se concentrent sur le déballage de produits ou qui encouragent directement les enfants à dépenser de l’argent, sont supprimés de YouTube Kids. Par ailleurs, les placements de produits payants n’ont jamais été autorisés sur YouTube Kids.

Outre YouTube Kids, nous proposons, depuis 2021, des expériences supervisées sur la plateforme YouTube classique. Les parents ont la possibilité de créer des comptes supervisés et de restreindre l’expérience des mineurs sur la plateforme, en limitant les contenus qu’ils peuvent regarder et rechercher. Les paramètres définis pour ces comptes modifient également en profondeur les fonctionnalités que les enfants peuvent utiliser. Le paramètre « Découverte » propose une gamme de vidéos généralement adaptée aux utilisateurs de 9 ans et plus, tandis que le paramètre « Découverte Plus » propose une gamme de vidéos plus large, généralement adaptée aux spectateurs de plus de 13 ans. Enfin, un dernier paramètre permet d’accéder à pratiquement tout YouTube, à l’exception des vidéos marquées comme réservées aux plus de 18 ans.

Pour certains de ces paramètres, les fonctionnalités disponibles sur la version standard de YouTube sont désactivées. Ainsi, les mineurs utilisant la plateforme avec ces paramètres ne peuvent pas regarder ou poster des diffusions en direct, créer des chaînes ou des vidéos courtes, poster des commentaires, réaliser des achats ou souscrire à des contenus payants.

D’autres fonctionnalités, que je ne détaillerai pas, existent pour protéger les mineurs sur la plateforme. Nous avons notamment instauré des rappels pour inciter à faire une pause ou signaler l’heure du coucher. Ils sont activés par défaut, pour limiter le temps d’écran de tous les utilisateurs âgés de 13 à 18 ans. Ces rappels sont proposés depuis 2018, mais nous les rendons chaque année un peu plus présents et plus réguliers, afin de tenir compte de l’évolution des usages et des retours des parents.

En 2018, YouTube a créé une équipe d’experts indépendants dans les domaines des contenus pour enfants, du développement de l’enfant, de l’apprentissage numérique et de la citoyenneté. Issus de milieux scientifiques, universitaires et associatifs, ces treize experts internationaux constituent un comité qui conseille YouTube sur l’évolution des besoins des jeunes, en s’appuyant sur des travaux de recherche reconnus et sur sa propre expertise. Ils donnent également leurs avis sur les produits, les règles et les services que nous proposons aux jeunes et aux familles.

Enfin, des mesures ont été prises pour réduire la recommandation de contenus nocifs pour les plus jeunes. Selon les experts que je viens de mentionner, les adolescents sont plus susceptibles que les adultes de développer des croyances négatives sur eux-mêmes, lorsque les contenus qu’ils consomment les exposent de manière répétée à des messages sur des standards, notamment physiques. Depuis 2023, nous avons identifié des catégories de contenus qui peuvent paraître totalement inoffensifs lorsqu’ils sont visionnés de manière isolée, mais qui peuvent s’avérer néfastes ou toxiques à long terme pour la santé mentale des adolescents lorsqu’ils sont visionnés de manière répétée. Nous avons pris la décision de restreindre leur diffusion, en limitant les recommandations de ces contenus sur la plateforme.

Je vais citer quelques-unes de ces catégories et nous pourrons approfondir le sujet pendant la discussion. Il s’agit notamment de l’idéalisation de normes malsaines ou de comportements problématiques, de niveaux de forme physique ou de poids corporels spécifiques, de la comparaison de caractéristiques physiques et de l’idéalisation de certains types par rapport à d’autres. L’une de nos expertes expliquait récemment que si une jeune fille peut sans problème regarder une vidéo sur le contouring, elle commencera certainement à se poser des questions sur son apparence physique si elle en regarde dix ou quinze. Une dernière catégorie concerne l’encouragement à l’intimidation physique ou au dépassement physique, la violence verbale et les interactions conflictuelles de manière générale.

J’évoquerai plus tard les autres initiatives qui ont été prises, notamment les panneaux d’information à destination des adolescents concernant la prévention des troubles de santé mentale.

Mme Laure Miller, rapporteure. Chacun est dans son rôle et il est normal que vous mettiez en évidence les mesures prises par vos plateformes respectives pour améliorer la pertinence du contenu proposé à vos utilisateurs. Certaines de ces initiatives sont intéressantes, mais nous souhaitons surtout évoquer les dysfonctionnements – vous reconnaîtrez sans doute qu’ils existent – et les solutions qui permettraient d’y mettre fin.

Mon fils de 5 ans a un tracteur électrique à deux vitesses, dont la première est destinée aux plus petits. Malheureusement, le fabricant n’a pas prévu de pouvoir empêcher l’utilisation de la vitesse la plus rapide. Par conséquent, avoir deux vitesses ne sert à rien. Mon fils cherche en permanence à passer la seconde vitesse, parce qu’elle lui procure davantage de sensations fortes.

Pour transposer cet exemple dans le domaine des plateformes, si vous élaborez des dispositifs pour protéger nos enfants, il faudrait les imposer au lieu de seulement les proposer, car ils ne les utiliseront pas d’eux-mêmes.

Pourriez-vous nous donner des précisions sur vos modèles économiques ? Comment fonctionnent vos algorithmes ? Leur objectif est-il de capter l’attention des utilisateurs et de les « retenir » pour qu’ils visionnent davantage de publicités ?

M. Anton’Maria Battesti. Je possède également ce tracteur et, théoriquement, une bride peut être vissée pour empêcher l’utilisation de la seconde vitesse. Cet exemple montre en tout cas que l’information donnée aux parents et aux consommateurs est essentielle pour qu’ils puissent se servir correctement de nos outils.

S’agissant de notre modèle économique, la publicité représente l’essentiel du chiffre d’affaires de Meta. Vous avez le choix entre un modèle payant sans publicité et un modèle gratuit avec de la publicité ciblée en fonction de différents critères, comme vos centres d’intérêt, votre âge ou votre localisation. L’objectif est de vous proposer l’expérience publicitaire la plus pertinente possible. Ce n’est pas une boîte noire. En cliquant dessus, vous pouvez accéder à des explications sur les raisons pour lesquelles vous voyez telle ou telle publicité. Cet outil de transparence vous permet d’ajuster votre expérience publicitaire, si vous le souhaitez. Je donnerai aux administrateurs un document public – le « Meta Consumer profiling techniques » –, qui est publié dans le cadre du règlement (UE) 2022/1925 du Parlement européen et du Conseil du 14 septembre 2022 relatif aux marchés contestables et équitables dans le secteur numérique et modifiant les directives (UE) 2019/1937 et (UE) 2020/1828 (règlement sur les marchés numériques), dit Digital markets act (DMA). Vous y trouverez beaucoup plus de détails sur notre façon de fonctionner.

Les principes que je viens de vous décrire ne concernent pas les mineurs, puisque le DSA nous demande de ne pas leur proposer de publicité. C’est tout à fait bien qu’ils ne soient pas exposés à de la publicité sur nos plateformes. Ils peuvent l’être par ailleurs, dans d’autres types d’expériences vidéoludiques, mais pas sur les réseaux sociaux, et ça doit continuer ainsi.

Pour ce qui est de l’attention, il faut que vous ayez une bonne expérience pour que vous utilisiez le service. Il n’existe pas de compagnie aérienne sans passagers. Si vous n’êtes pas en confiance, vous ne venez pas. Par conséquent, il est important que le réseau ne soit pas une poubelle. Sinon, les gens s’en détournent et préfèrent d’autres expériences. Il faut également préserver les annonceurs. J’ai connu quelques campagnes de boycott radicales. Quand ils ne veulent pas que leurs marques soient associées à certains contenus, ils le font comprendre et arrêtent de faire des campagnes sur vos plateformes. Quand votre chiffre d’affaires dépend de la publicité, c’est un paramètre important.

L’objectif est que vous ayez une bonne expérience. Vous pouvez appeler ça « économie de l’attention », mais il faut quand même que vous trouviez de l’intérêt à ce qui vous est proposé. Au-delà des règles et des lois qui doivent – cela va de soi – être respectées, il ne faut pas dériver vers des choses qui ne seraient pas dans l’intérêt économique de la plateforme.

Mme Claire Dilé. Le modèle économique de X repose sur trois éléments. La publicité est l’un d’eux. Nous travaillons avec des annonceurs et beaucoup de marques qui utilisent notre service comme un espace publicitaire. Nous avons également développé les abonnements. Cette utilisation payante du service ne s’accompagne d’aucune publicité. Enfin, nous commercialisons les accès aux interfaces de programmation d’application (API).

Notre modèle repose donc sur ces trois éléments, mais principalement sur les annonceurs.

M. le président Arthur Delaporte. Quelle est la répartition entre ces sources de revenus, en pourcentage ?

Mme Claire Dilé. Je n’ai pas ces chiffres avec moi. Je pourrai regarder, mais vous pouvez retenir que nos revenus proviennent principalement de la publicité et des annonceurs.

Nous ne leur proposons pas de publicité ciblée, mais les mineurs ne constituent de toute façon pas un public cible pour X. Il est important de le mentionner.

Concernant le fonctionnement de notre algorithme, j’ai rappelé dans mon propos introductif que les utilisateurs pouvaient choisir entre une présentation algorithmique et antéchronologique de leur fil d’actualité.

Les centres d’intérêt renseignés au moment de l’inscription sur la plateforme, les interactions avec les différents types de contenus, les comptes suivis, les contenus partagés ou aimés, tous ces éléments informent l’algorithme des contenus qui sont censés nous intéresser. Les propositions sont faites sur la base de ces signaux.

Nous sommes conscients que ces recommandations peuvent amplifier les contenus. Or il est important pour nous d’avoir une approche responsable. C’est la raison pour laquelle tous les contenus préjudiciables ou contraires à la loi sont exclus des recommandations algorithmiques. On les filtre pour limiter leur visibilité sur le réseau.

En tant qu’utilisateur, vous avez en outre la possibilité d’indiquer que vous n’êtes pas intéressé par un contenu. Dans ce cas, il ne vous sera pas reproposé. Vous pouvez également filtrer des comptes.

Un réseau comme X a intérêt à proposer à ses utilisateurs un environnement sûr, y compris pour des raisons économiques. Les annonceurs et les marques avec lesquels nous travaillons sont très sensibles à cet aspect-là. Nous sommes certifiés par des organismes comme DoubleVerify, qui informent les annonceurs de la capacité des différents réseaux à préserver leur intégrité et leur réputation. C’est un élément que nous suivons avec beaucoup d’attention. Nous faisons en sorte que notre réseau soit sûr.

M. Thibault Guiroy. Je ne possède pas le tracteur auquel vous avez fait référence, mais l’analogie est intéressante, notamment pour aborder les questions liées à la vérification de l’âge et appréhender la manière dont nous pouvons offrir une expérience appropriée à chaque utilisateur en fonction de son âge.

Le modèle économique de YouTube repose sur deux piliers, qui sont d’une part la publicité, et d’autre part les revenus issus des abonnements YouTube Premium. Nous avons 125 millions d’abonnés dans le monde. S’agissant des revenus publicitaires, nous les partageons avec les créateurs des contenus, qui en conservent 55 %. Le reste revient à YouTube.

L’algorithme de recommandation de YouTube a pour but d’aider chaque utilisateur à découvrir les vidéos qu’il a envie de regarder, en optimisant sa satisfaction sur le long terme. Ce point est important, car nous sommes une plateforme de temps long, sur laquelle les utilisateurs passent beaucoup de temps à regarder majoritairement des contenus longs.

Pour associer chaque utilisateur aux vidéos qu’il est le plus susceptible de regarder et d’apprécier, l’algorithme de recommandation utilise plus de 80 milliards de signaux. Dans les grandes lignes, il s’agit de ce que l’utilisateur regarde, des chaînes auxquelles il est abonné, des contenus qu’il n’a pas regardés ou du temps pendant lequel il a regardé un contenu. Les historiques de visionnage et de recherche peuvent cependant être désactivés à tout moment, pour avoir une expérience sans recommandation.

Le système prend par ailleurs en considération le fait que d’autres utilisateurs ont regardé une vidéo jusqu’à la fin, ce qui est souvent un signe de qualité, ou qu’ils ont abandonné peu de temps après avoir commencé à la visionner.

Le pays de l’utilisateur et l’heure de la journée peuvent aider à lui proposer des actualités locales pertinentes.

D’autres éléments importants sont les mentions « j’aime » et « je n’aime pas », les partages, les commentaires – notamment la mention « pas intéressé » qu’il est possible d’indiquer pour refuser une recommandation de contenu et s’assurer que celui-ci ne sera pas reproposé – ou les sondages effectués avant ou après le visionnage pour savoir si le contenu proposé était pertinent et de qualité.

Ces signaux peuvent être complétés ou modifiés par nos grands principes en matière de responsabilité. YouTube accorde une prime aux contenus qui font autorité ou qui sont considérés comme fiables et les remontent dans la sélection, notamment en réponse à des recherches sur des thèmes de société, comme les élections ou le réchauffement climatique. Il peut s’agir de contenus de médias, mais aussi de contenus proposés par certains créateurs jugés particulièrement fiables.

À l’inverse, la visibilité des contenus qui sont à la limite de franchir nos conditions d’utilisation, mais qui ne les franchissent pas, peut être réduite.

Enfin, je préciserai qu’il était totalement impossible, même avant l’entrée en vigueur du DSA, de faire de la publicité ciblant les mineurs sur la plateforme.

M. le président Arthur Delaporte. Nous allons essayer d’organiser nos débats en trois temps, en commençant par le modèle économique et l’algorithme. Nous aborderons ensuite les logiques de modération et enfin les questions de vérification d’âge et de protection des mineurs.

Vous avez tous plus ou moins reconnu que votre modèle repose sur l’économie de l’attention, qui vous permet de vendre de la publicité. Théoriquement, vous ne pouvez pas cibler les mineurs, mais peut-être le faites-vous du côté de Meta ? Il me semble que vous n’avez pas totalement clarifié ce point, contrairement à X.

Les influenceurs obtiennent plus de vues, et donc sont mieux rémunérés, lorsqu’ils tiennent des propos cash ou clash, car l’algorithme renforce leur visibilité. Considérez-vous comme un problème, au moins d’un point de vue éthique, que des contenus qui peuvent être qualifiés de problématiques génèrent davantage de trafic et de revenus que des contenus de qualité, qui sont moins viraux ?

M. Thibault Guiroy. Ce que je viens de vous décrire répond à votre question. Nous avons deux systèmes qui vont totalement à l’encontre d’une mise en avant des contenus qui génèrent potentiellement du clash ou sont de piètre qualité. Nous accordons une prime aux contenus de médias ou de sources qui font autorité, en les affichant de manière prééminente. Cette pratique est peut-être contre-intuitive sur un plan économique, mais nous avons décidé de prendre ce parti chez YouTube. Par ailleurs, nous réduisons la viralité et la visibilité de certains contenus que nous ne pouvons pas supprimer, parce qu’ils ne violent ni la loi française ni nos conditions d’utilisation, mais qui sont potentiellement nuisibles ou que nous ne souhaitons pas voir recommandés. Nous le faisons de manière transparente, conformément aux obligations fixées par le règlement sur les services numériques, le DSA, mais nous n’hésitons pas à le faire à chaque fois que c’est nécessaire.

Mme Claire Dilé. Nous avons une sorte de pyramide avec différents étages. Le premier, ce sont nos conditions d’utilisation, qui sont comparables aux règles d’un jeu de société. Elles s’appliquent de façon globale. Le deuxième, c’est la loi applicable en France, notamment la loi n° 2004-575 du 21 juin 2004 pour la confiance dans l’économie numérique. Nous suspendons sur le territoire national tous les contenus qui sont illégaux.

Nous réfléchissons par ailleurs à la granularité de la modération. Certains contenus violent assez clairement nos règles de fonctionnement et certains contenus violent assez clairement la loi, mais d’autres sont plutôt du domaine du clash. Pour ces contenus gris, nous développons des filtres de visibilité. Nous avons lancé une action de modération qui s’appelle Freedom of Speech, not Freedom of Reach. Les contenus dont nous considérons qu’ils violent de manière potentiellement moins grave certaines de nos règles sont affichés comme tels et désamplifiés algorithmiquement. Nous empêchons en outre les gens d’interagir avec ces contenus. C’est une façon un peu plus fine d’agir sur ces contenus gris, mais néanmoins sensibles.

X est moins une plateforme d’influenceurs aujourd’hui, mais nous conservons un programme pour les créateurs de contenu. Les règles qui régissent le fonctionnement de ce type d’activité sur la plateforme sont plus strictes que les règles applicables aux utilisateurs classiques. Je ne vais pas vous les détailler, mais par exemple un créateur de contenu ne peut pas faire de la promotion en utilisant des événements sensibles de l’actualité. Il ne peut pas monétiser une tragédie. Même si ça coule de source, il s’agit de l’une de nos règles.

M. le président Arthur Delaporte. Depuis quelques mois, je suis surpris par l’augmentation du nombre de publicités relatives aux cryptomonnaies sur X. J’ai l’impression de ne voir que ça, alors que je ne clique jamais dessus. En outre, ces publicités sont souvent accolées aux publications de M. Elon Musk et de M. Donald Trump. Leur contenu politique est-il particulièrement mis en avant par l’algorithme ? Comment expliquez-vous la recrudescence des publicités concernant les cryptomonnaies, dont il est d’ailleurs probable qu’une grande partie contrevienne au droit français ?

Mme Claire Dilé. Les règles sont plus strictes pour les publicités. Je n’ai pas sous les yeux les publicités sur la cryptomonnaie auxquelles vous faites référence, mais elles peuvent être couvertes par ces règles.

Nous avons deux façons d’agir, d’une part la détection – qui fonctionne très bien pour certains types de contenu et moins bien pour d’autres, notamment ceux basés sur du texte – et d’autre part le signalement. Aujourd’hui, nous nous reposons principalement sur les signalements. Normalement, vous devez avoir la possibilité de signaler ces publicités. La plateforme s’engage à les retirer de plus en plus rapidement. Nous travaillons également au renforcement de la détection, afin de proposer un environnement plus sécurisé. Voilà globalement comment nous fonctionnons.

N’hésitez pas à m’envoyer ces publicités, si vous voulez que nous les examinions de façon plus précise.

M. le président Arthur Delaporte. Je vais vous envoyer tout mon fil X !

Mme Claire Dilé. Le fonctionnement de notre algorithme est identique pour tous les comptes, y compris ceux que vous avez mentionnés. J’ajoute qu’il est toujours possible de bloquer ou de mettre en sourdine des comptes qu’on ne souhaite pas suivre.

M. Anton’Maria Battesti. On peut se focaliser sur les contenus problématiques, mais les contenus positifs sur les droits des LGBTQI – c’est le mois des fiertés – ou le changement climatique ont également des audiences de plusieurs millions de personnes. Des choses très positives pourraient faire de l’ombre à ces choses très négatives. Je tiens à vous rassurer sur le fait qu’il n’y a pas de préférence pour les choses négatives par rapport aux choses positives.

S’agissant de l’argent et du modèle économique, la relation entre les influenceurs et les marques est directe sur Instagram. Les marques leur donnent de l’argent pour qu’ils fassent la promotion de leurs produits. La réglementation nous demande de garantir la transparence et de faire en sorte que ce soit bien affiché, ce qui est tout à fait normal. En revanche, nous n’avons aucun intérêt dans cette relation commerciale.

En ce qui concerne la publicité, les annonceurs comme Nike ou Adidas veulent savoir si les utilisateurs aiment faire du sport, plutôt que s’ils suivent telle ou telle personne. C’est plus parlant pour eux de savoir que vous avez liké la page du Stade de France ou la page du PSG. Ce sont ces signaux-là qui sont pertinents pour les annonceurs et qui leur permettent de cibler un homme entre 35 et 45 ans, urbain, qui s’intéresse au sport et qui pourrait acheter une nouvelle paire de Nike par exemple.

Vous trouverez beaucoup de précisions dans les documents que nous pourrons vous transmettre, mais je ne voulais pas laisser circuler l’idée que nous aurions un quelconque intérêt économique avec ces individus. Nous pourrons discuter de leur présence sur les plateformes et de la manière de la réguler, mais je préférais être clair à ce sujet.

M. Thierry Sother (SOC). Des études universitaire et scientifique ont prouvé que les propos radicaux étaient « poussés » par les algorithmes, car ils permettaient plus d’interactions. Vos différentes plateformes ont-elles recours à de telles pratiques pour maintenir l’attention et s’assurer d’une présence accrue de leurs utilisateurs ?

M. Anton’Maria Battesti. Je ne peux répondre que pour Meta.

Il faut avoir une approche globale de l’économie dite de l’attention. Elle concerne aussi la télévision – je me souviens des débats sur la télé poubelle – ou les jeux vidéo. Nous devons engager collectivement une réflexion à propos des écrans et de la concurrence qui peut exister en matière de temps passé. Néanmoins, je voudrais vous rassurer sur le fait que ce phénomène n’est pas nouveau. On a toujours cherché à faire en sorte que les gens regardent le programme qu’on propose plutôt que celui du voisin. La nouveauté est que nous sommes à l’heure des réseaux sociaux.

Je serai intéressé par les études auxquelles vous avez fait référence, car il en existe de nombreuses et nous avons observé que ce n’étaient pas forcément les contenus radicaux qui suscitaient le plus d’engagement, c’est-à-dire qui étaient le plus likés, commentés ou partagés. Il peut aussi s’agir de contenus positifs – et c’est mieux comme ça.

Parfois, certains contenus font réagir les gens de manière énervée. Ils peuvent être choqués par une actualité ou par ce qu’ils voient. Ça ne fait pas d’eux des radicaux. Ils réagissent à une situation de façon outragée, émotive, etc. En tous cas, ils réagissent, positivement ou négativement. Un réseau social fonctionne horizontalement. Vous ne faites pas que recevoir du contenu, comme à la télévision. Vous pouvez réagir et partager avec d’autres utilisateurs. C’est ce qui est vraiment différent. Il faudrait entrer dans les détails pour déterminer quels contenus font réagir, positivement ou négativement.

Mme Claire Dilé. Tout dépend de ce que vous considérez comme des contenus radicaux. Ce qui relève de la conduite haineuse, du discours violent, du harcèlement ou des abus est interdit.

Effectivement, il y a une forme d’émotion dans ce que partagent les gens. Potentiellement, cela suscite de l’engagement autour d’événements internationaux qui peuvent choquer ou amener à réfléchir. Je ne vais pas répéter ce qui a été dit par Anton’Maria Battesti, car c’est la même chose pour X que pour Meta. L’algorithme fait remonter les contenus qui suscitent de l’engagement dans le fil de recommandation, car il considère que les contenus qui sont partagés ou likés intéressent les utilisateurs.

Quel est notre intérêt en matière de promotion des contenus ? Ce n’est que mon expérience, mais je constate que nous travaillons beaucoup avec des annonceurs qui sont des marques. Leur intérêt est d’avoir un environnement sûr et sans controverse. L’intérêt économique d’une plateforme comme la nôtre est donc de proposer un tel environnement. À mon avis, ce n’est pas dans notre intérêt de procéder comme vous l’avez indiqué. Néanmoins, l’algorithme fonctionne en effet sur la base de l’engagement que suscitent les contenus.

M. Thibault Guiroy. Nous n’avons absolument aucun intérêt à pousser ces contenus. Chez YouTube, nous allons même dans la direction opposée, en déviralisant des contenus qui ne contreviennent pas directement à nos conditions d’utilisation. Dans les 80 milliards de signaux utilisés pour recommander des contenus, il n’y a aucun critère lié à la radicalité des propos. En outre, comme l’ont dit mes collègues, ces contenus-là ne sont pas particulièrement attractifs pour les annonceurs. J’ajoute que sur YouTube, il est possible de démonétiser certains contenus. Les contenus qui sont déviralisés ont, par essence, vocation à l’être.

Même si c’est un peu ancien, certaines études ont pu prétendre que telle ou telle opinion politique était plus représentée sur telle ou telle plateforme. En réalité, nous constatons que certains partis, souvent les plus radicaux, s’emparent mieux que d’autres des plateformes en ligne, ce qui peut donner l’impression que les opinions radicales sont davantage récompensées sur certaines plateformes. La solution serait que tous les autres partis du spectre politique investissent également les plateformes et y soient représentés. Parfois, nous n’avons pas la possibilité de montrer une pluralité d’opinions sur un sujet, parce que les vidéos ou les chaînes qui permettraient de le faire n’existent pas.

Sur notre plateforme, la monétisation des contenus n’est pas automatique. Il s’agit d’une décision purement discrétionnaire de la part de YouTube. Pour l’obtenir, il faut avoir au moins 1 000 abonnés et des contenus qui ont totalisé 4 000 heures de visionnage au cours des douze derniers mois. Elle n’est donc pas ouverte au premier venu qui souhaiterait diffuser des contenus extrêmement radicaux et en tirer profit.

M. Stéphane Vojetta (EPR). Le tracteur du fils de Mme la rapporteure nous livre un exemple très pertinent. Le passage de la première à la seconde vitesse illustre la capacité que nous avons, en tant que parents, d’exercer un contrôle sur des modes d’utilisation qui peuvent devenir dangereux.

Vous avez décrit avec beaucoup de précision l’ensemble des instruments que vous mettez à disposition des parents et des familles pour contrôler et encadrer l’usage des réseaux par les enfants et les adolescents, mais quel est, pour chacune de vos plateformes, le taux d’utilisation de ces outils pour les comptes que vous identifiez comme appartenant à des mineurs ?

Pour reprendre cette analogie, ne pensez-vous pas que la solution idéale serait, plutôt que d’empêcher le passage d’une vitesse à l’autre, de vendre un tracteur configuré par défaut avec la première vitesse ? Il reviendrait aux parents qui le souhaitent de débrider le véhicule, de manière volontaire, pour permettre son utilisation à une vitesse plus rapide.

M. le président Arthur Delaporte. Vous avez pris un peu d’avance par rapport à notre programme, mais en effet le tracteur n’aurait-il pas dû être vendu bridé par défaut ? Ne devrait-il pas en être ainsi également pour les réseaux sociaux ? Pourquoi ne pas bloquer certaines fonctionnalités par défaut ? Sinon, il est trop facile de créer un compte majeur quand on est mineur.

Mme Aurore Denimal. Dans le monde, 54 millions de jeunes ont accès aux comptes « Ado » et 97 % restent dans le dispositif. Son utilisation est donc massive.

Les comptes « Ado » sont un dispositif par défaut, comme un tracteur qui serait vendu bridé.

M. Anton’Maria Battesti. Nous ne fabriquons pas de terminaux. Nous pourrions réfléchir collectivement à une approche centralisée, qui permettrait d’adapter les équipements en fonction de l’âge et de prendre en compte toute l’expérience numérique (jeux vidéo, plateformes de contenus, réseaux sociaux, etc.). Certains produits sont adaptés pour les enfants, comme les appareils VTech, mais que se passe-t-il entre 8 et 15 ans ? Il existe plein de contrôles parentaux et de systèmes divers, mais nous pourrions aborder le sujet autrement, en impliquant les opérateurs de télécoms, les fabricants de téléphones, les plateformes, etc. Même si des progrès ont été faits, nous devons continuer à avancer dans ce domaine.

Mme Claire Dilé. Pour reprendre l’image du tracteur et de ses différentes vitesses, les plus jeunes ont l’interdiction de le conduire. Vous n’avez pas le droit d’être sur X entre 0 et 13 ans. Nous n’avons pas de version Kids. Entre 13 et 15 ans, il existe une procédure de consentement parental. Si vous essayez de vous inscrire en indiquant l’âge de 14 ans, nous vous renverrons vers le formulaire de consentement, qui devra être rempli par le parent ou le tuteur légal. Jusqu’à l’anniversaire des 16 ans, il faut une autorisation pour être sur le réseau social. Entre 16 et 18 ans, les mineurs sont placés dans un environnement protégé, qui est identique à celui qui s’applique par défaut aux utilisateurs verrouillés. Tout le monde peut d’ailleurs décider d’évoluer dans cet environnement.

Entre 16 et 18 ans, les paramètres en matière de vie privée, de sûreté et de sécurité sont renforcés, ce qui signifie que certains types de contenus, notamment des contenus sensibles, ne sont pas accessibles. Même en cliquant sur ces contenus, ils resteront derrière un filtre. Par ailleurs, les jeunes ne peuvent pas être contactés par des messages personnels et privés et leurs tweets seront vus seulement par leurs amis. La géolocalisation est en outre désactivée par défaut et le mode de recherche est sécurisé, puisque l’option Safe Search est activée par défaut. Enfin, modifier l’âge renseigné au moment de l’inscription est impossible. S’il est compris entre 16 et 18 ans, il ne sera pas possible de prétendre que vous avez en fait 22 ans.

L’une des pierres angulaires de l’efficacité de ce dispositif est la vérification de l’âge. Le sujet sera probablement abordé plus tard dans notre discussion, mais je voulais expliquer le type d’environnement dans lequel évoluent les utilisateurs mineurs.

M. Thibault Guiroy. YouTube Kids connaît un succès très important en France depuis dix ans et compte plusieurs dizaines de millions d’utilisateurs dans le monde. Les parents manifestent un réel engouement pour cette plateforme.

Nous redirigeons vers YouTube Kids les parents qui, à partir de la plateforme YouTube classique, consultent majoritairement des contenus qui se trouvent sur cette plateforme. Nous organisons régulièrement des campagnes à destination du grand public pour améliorer sa notoriété et faire en sorte qu’elle soit mieux connue des parents.

Le taux d’adoption des expériences supervisées – que j’ai évoquées dans mon propos introductif – est également excellent. Je vous communiquerai les chiffres après l’audition. Nous proposons le paramètre « Découverte » pour les 9-12 ans, car nous avons constaté qu’à partir d’un certain âge, certains enfants ne souhaitaient plus rester sur la plateforme YouTube Kids. Ils voulaient suivre certains contenus en particulier ou accéder à une gamme de contenus beaucoup plus large. Les expériences supervisées répondent à cette demande.

Monsieur le député Vojetta, vous estimez qu’il est important que les outils de contrôle parentaux soient disponibles par défaut sur les terminaux. Nos collègues ingénieurs de Google ont développé la solution Family Link, qui permet des réglages fins. Elle est désormais offerte à toute personne utilisant un téléphone équipé de l’OS Android.

Tous ces garde-fous devraient permettre de répondre à vos préoccupations.

Mme Laure Miller, rapporteure. Vous avez tous indiqué que vous n’aviez aucun intérêt économique à promouvoir des contenus négatifs et à leur laisser prendre de l’ampleur sur vos plateformes. Pourriez-vous affirmer qu’aucune solution technique ne permet de paramétrer l’algorithme pour que les contenus négatifs qui suscitent beaucoup de réactions et d’engouement ne soient plus mis en avant ?

M. Anton’Maria Battesti. Dans ce domaine, il faut certainement combiner la technique et l’humain.

La plupart des contenus que vous voyez sont ceux que vous décidez de suivre. Ils proviennent des pages ou des comptes auxquels vous êtes abonnés. Lorsque ce n’est pas le cas, il s’agit souvent de contenus partagés par l’un de vos contacts, c’est-à-dire un ami ou un proche. Je ne sais pas quelle marge de manœuvre nous avons dans ce domaine, mais en effet vous êtes susceptible de voir des contenus partagés par quelqu’un que vous connaissez.

Des évolutions sont intervenues dans les barres de recherche, sur Instagram et Facebook. Après avoir fait l’objet d’une vérification, les fake news ont vu leur visibilité s’effondrer de 90 %.

Les logiques que vous évoquez existent. Je n’ai pas de réponse à vous apporter immédiatement, mais votre question est pertinente et ouvre une réflexion pour l’avenir. Des études permettraient peut-être d’avancer. Nous ne devons pas non plus être trop interventionnistes. Gardons à l’esprit que nous sommes une plateforme d’expression. Les gens viennent pour ça. Néanmoins, nous sommes sortis de l’époque où il n’y avait pas tous ces dispositifs. Il faut continuer à approfondir le sujet.

Mme Laure Miller, rapporteure. Votre réponse est intéressante, mais la question s’adressait surtout à X. J’aimerais d’ailleurs la compléter. S’agissant des contenus de MM. Elon Musk et Donald Trump, leur mise en avant n’est pas le fruit de notre imagination. Des médias ont mis ce phénomène en évidence. Il ne m’a pas semblé que vous le contestiez. En revanche, pouvez-vous me confirmer que les utilisateurs doivent indiquer qu’ils ne sont pas intéressés par ces contenus pour qu’ils disparaissent de leur fil ?

Mme Aurore Denimal. Je ne réponds pas à la place de X, mais je voulais compléter ce qu’a dit M. Anton’Maria Battesti.

Ce n’est pas dans notre intérêt de promouvoir des contenus sensibles. Nous avons déjà des outils qui permettent aux utilisateurs de les signaler, d’indiquer les contenus qu’ils ne veulent pas voir, de masquer des mots, etc. Nos ingénieurs ont également développé des outils internes, avec des technologies d’IA, qui permettent de masquer automatiquement les contenus sensibles. Vous avez probablement vu ce type d’écran sur Instagram.

S’agissant des algorithmes de recommandation, les plateformes Meta laissent la possibilité aux utilisateurs de choisir les contenus qui leur sont proposés. Ils peuvent décider de les limiter aux comptes qu’ils suivent ou de les présenter chronologiquement. Ce n’est pas parfait, mais les utilisateurs ont quand même la main sur les contenus qu’ils voient, au moins dans une certaine mesure.

Mme Claire Dilé. Notre algorithme est configuré avec des filtres qui permettent d’exclure les contenus préjudiciables, ceux qui sont potentiellement violents, évidemment ceux qui sont contraires à la loi, etc. Il est entraîné par des outils d’apprentissage automatique, à partir de contenus qui lui sont montrés, afin de reconnaître ces contenus et les contenus similaires. Ce n’est pas complètement infaillible. Ça reste une machine. En tout cas, c’est ainsi que ça doit fonctionner.

Est-ce que nous pouvons faire mieux ? C’est évident et l’IA peut être un moyen d’améliorer la reconnaissance de ce type de contenus.

M. le président Arthur Delaporte. Je suis désolé de vous interrompre, mais la question portait sur une éventuelle mise en avant des contenus politiques de MM. Donald Trump et Elon Musk.

Mme Claire Dilé. J’y viens. Je voulais d’abord répondre à la question de Mme la rapporteure, pour être complète.

Comme je l’ai expliqué, l’algorithme fonctionne à partir de signaux qui montrent l’intérêt des utilisateurs pour certains contenus. Ils amplifient les contenus qui suscitent de l’engagement.

Il n’y a pas de raison pour que les deux comptes que vous avez mentionnés soient particulièrement mis en avant. Par qui le seraient-ils ? En revanche, ces personnes tweetent beaucoup et leurs comptes sont suivis par beaucoup de personnes. Donc, ils suscitent de l’intérêt. Par rapport à d’autres comptes qui ont des millions de followers, ces comptes peuvent d’ailleurs générer moins d’engagement.

Concernant le fait de potentiellement pousser les contenus du président américain, l’algorithme ne prend pas en compte la dimension politique. Il se fonde sur des signaux qui permettent d’identifier ce qui intéresse les gens. Néanmoins, ça reste un gros compte.

M. le président Arthur Delaporte. Connaissez-vous l’étude réalisée par l’université technologique du Queensland ?

Mme Claire Dilé. Cela ne me dit rien.

M. le président Arthur Delaporte. Elle analyse les biais constatés sur X durant les élections de 2024. Elle montre que l’algorithme de la plateforme a été modifié pour augmenter la visibilité des posts de M. Elon Musk à la suite de son soutien à M. Donald Trump.

Mme Claire Dilé. Si la question est de savoir si j’ai connaissance de cette étude, je n’en ai pas connaissance.

S’agissant de l’algorithme de X, une enquête de la Commission européenne est en cours. En tant qu’entreprise, nous collaborons avec elle. Nous travaillons en bonne intelligence avec ses services. S’il y a un souci avec notre algorithme, le DSA donne les moyens à la Commission européenne de le vérifier. Elle a les moyens de s’assurer qu’il n’y a pas de problème avec notre algorithme.

M. le président Arthur Delaporte. Ou de constater qu’il y en a…

Si vous pouvez modifier l’algorithme pour augmenter la visibilité de certains posts, vous pouvez le faire plus largement et agir de manière proactive sur certains contenus, au-delà de la prise en compte de l’engagement.

Mme Claire Dilé. Est-ce une question ?

M. le président Arthur Delaporte. Oui. Si vous pouvez modifier la visibilité de certains posts à caractère politique, vous pouvez le faire de manière plus générale et agir sur l’algorithme pour qu’il ne tienne pas seulement compte de l’engagement des utilisateurs. Est-ce que vous le confirmez ?

Mme Claire Dilé. À ma connaissance, nous ne pouvons pas faire ça.

M. le président Arthur Delaporte. À votre connaissance…

Mme Laure Miller, rapporteure. Pouvez-vous nous décrire comment fonctionne la modération pour chacune de vos plateformes ? Combien avez-vous de modérateurs sur le continent européen ? Sont-ils formés et, le cas échéant, de quelle façon ?

M. le président Arthur Delaporte. Vous pouvez commencer par nous indiquer combien vous avez de modérateurs et comment leur nombre a évolué.

M. Anton’Maria Battesti. À l’échelle globale, le chiffre que je peux vous citer est de 15 000 modérateurs. Les rapports transmis à la Commission européenne dans le cadre du DSA font état d’environ 600 personnes qui travaillent pour le marché français. Nous sommes obligés d’être transparents à ce sujet et c’est très bien. Néanmoins, l’effort en matière de modération doit s’apprécier en prenant également en compte l’IA. Elle joue un rôle énorme dans la modération de plateformes comptant plusieurs centaines de millions d’utilisateurs. C’est un peu comme le pilotage automatique, qui aide les pilotes dans les avions.

Le nombre de modérateurs n’est pas le seul élément important. Ce qui compte, c’est plutôt la combinaison entre la technologie et l’humain.

M. le président Arthur Delaporte. S’agissant du nombre de modérateurs, la tendance est-elle à la hausse ou à la baisse ? Chez TikTok, ces effectifs ont baissé de 20 %. Est-ce également le cas chez Meta ?

M. Anton’Maria Battesti. À ma connaissance, les chiffres sont stables. Il faudrait reprendre les rapports de transparence de ces dernières années, mais ceux que j’ai consultés montrent une certaine stabilité, même une légère hausse.

Mme Aurore Denimal. Selon nos rapports de transparence, le nombre de modérateurs évolue plutôt à la hausse.

M. le président Arthur Delaporte. Malgré les améliorations de l’IA, vous avez quand même recruté des modérateurs…

M. Anton’Maria Battesti. Ce n’est pas incohérent. C’est ceinture et bretelles ! Il faut des humains, parce que l’IA ne peut pas tout faire, et il faut plus d’IA pour ce qu’elle sait faire.

M. Thibault Guiroy. Chez Google, 20 000 personnes effectuent de la modération de contenus. Le dernier rapport remis à la Commission européenne indique qu’un peu plus de 400 personnes sont francophones, pour modérer les contenus français. Ces chiffres sont relativement stables.

Mme Claire Dilé. Dans le dernier rapport de transparence publié dans le cadre du DSA, nous avons indiqué que 1 486 personnes effectuaient de la modération de contenu, dont 63 de langue maternelle française et 73 pour lesquelles le français est la deuxième langue. Ces chiffres n’ont pas évolué depuis les précédents rapports.

M. le président Arthur Delaporte. Nous vérifierons tout ça.

Mme Aurore Denimal. Je peux préciser les chiffres de Meta. Pour la période allant d’avril à septembre 2023, nous disposions de 206 modérateurs. Pour la dernière période qui a fait l’objet d’un rapport, c’est-à-dire la fin de l’année 2024, ils étaient 630. L’évolution est donc importante.

M. Thierry Sother (SOC). Je souhaite revenir sur la modération, pour évoquer un exemple qui a été documenté et repris dans la presse. En février 2023, à l’occasion du Super Bowl aux États-Unis, de nombreux articles de presse ont mentionné que l’algorithme de X avait été modifié dans la nuit pour mettre spécifiquement en avant les contenus du propriétaire de la plateforme. Quatre-vingts personnes ont été mobilisées pour rendre ses tweets 1 000 fois plus visibles.

Plus récemment, en janvier, le « 20 heures » d’une chaîne du service public a, dans une rubrique intitulée « L’œil du 20 heures », fait l’expérience de créer un nouveau profil sur X – je suis désolé de cibler cette plateforme. Sans suivre aucun compte et sans avoir d’activité spécifique, les contenus des comptes évoqués tout à l’heure par M. le président étaient particulièrement mis en avant.

Les plateformes ont la capacité d’augmenter la visibilité de certains contenus. Puisqu’elles ont intérêt à offrir l’espace le plus sécurisé possible aux annonceurs, desquels elles tirent leur profit, pourquoi ne modifient-elles pas leur algorithme pour privilégier les contenus les moins toxiques ? J’emprunte ce terme à David Chavalarias, qui est chercheur au Centre national de la recherche scientifique (CNRS) et qui a démontré une forte croissance des contenus toxiques dans le fil des utilisateurs les plus fréquents de X.

Mme Claire Dilé. J’ai lu les mêmes articles que vous concernant le compte du propriétaire de X. Je vous ai expliqué comment fonctionne notre algorithme. À ma connaissance, il n’amplifie pas les contenus de cet utilisateur en particulier. Je ne peux pas vous apporter plus de précisions, parce que je n’en ai pas.

M. le président Arthur Delaporte. Vous n’aviez pas connaissance de biais liés à la modification de l’algorithme, mais vous en avez appris l’existence dans la presse, est-ce exact ?

Mme Claire Dilé. Ce n’est pas exactement ce que j’ai dit. J’ai lu les articles de presse qui évoquent ce sujet, mais à ma connaissance, l’algorithme ne pousse pas certains comptes de manière spécifique, y compris ceux que vous avez mentionnés.

M. le président Arthur Delaporte. Donc, c’est la presse qui se trompe…

Mme Claire Dilé. Je vous fais cette réponse, car j’ai prêté serment au début de cette audition et que je me dois d’être totalement honnête avec vous.

M. le président Arthur Delaporte. Je ne sais pas si vous répondez totalement à la question de M. Sother.

Mme Laure Miller, rapporteure. Pour revenir à la modération, pouvez-vous nous indiquer combien de modérateurs sont situés sur le continent européen, en précisant dans quels pays ils se trouvent. Quelle est la part de la sous-traitance ?

M. Anton’Maria Battesti. Je ne dispose pas de tous les chiffres, mais je vous rassure sur le fait que des Français travaillent à la modération chez Meta.

Quand je parle de modération, j’englobe celle qui est effectuée au jour le jour par des gens devant des écrans, mais aussi la supervision et les équipes qui traitent de sujets particulièrement sensibles comme la lutte contre le terrorisme, la protection de l’enfance ou celle des élections. Nous disposons de rapports à ce sujet et je pourrai vous les transmettre.

Aucun modérateur n’est basé à Paris. Ces personnes sont notamment à Dublin. Il est de notoriété publique que nous avons eu un centre de sous-traitance à Barcelone. Le gouvernement français l’avait visité il y a quelques années – en 2019, je crois –, dans le cadre de la mission de régulation des réseaux sociaux dirigée par M. Loutrel. Il n’y a rien de mystérieux. Il faudrait que je recherche des chiffres à jour concernant la sous-traitance. Je ne les ai pas.

En tout cas, il y a bien des Français parmi les modérateurs, même s’ils ne sont pas basés à Paris. À l’heure du numérique, ils peuvent exercer leur métier de n’importe où. Ils restent néanmoins proches géographiquement, rassurez-vous ! J’espère avoir répondu à vos questions.

M. le président Arthur Delaporte. Vos réponses manquent un peu de précision concernant la géographie, mais vous nous transmettrez ces informations.

Mme Claire Dilé. Nous avons des modérateurs partout dans le monde, parce que la modération doit être effectuée en temps réel, au moment où les violations potentielles des règles de la plateforme surviennent. Je ne connais pas la localisation précise de ces équipes dans l’Union européenne, mais je pourrai vous communiquer ces informations par écrit. Je n’avais pas particulièrement préparé cette question.

M. le président Arthur Delaporte. Elle figurait pourtant dans le questionnaire que nous vous avions transmis.

M. Thibault Guiroy. Je ne connais pas la répartition des modérateurs au sein de l’Union européenne.

Nous disposons d’un très grand centre de sécurité à Dublin. Ce n’est pas un secret, puisque la ministre chargée de l’IA et du numérique, Clara Chappaz, s’y est rendue il y a quelques semaines.

S’agissant de la localisation de nos personnels, il est important de préserver leur sécurité. Par conséquent, il est préférable de ne pas être extrêmement précis à ce sujet, sauf dans nos réponses à vos services ou à la Commission européenne.

Nous disposons également d’un bureau de renseignement. Des équipes interviennent en amont de la modération pour analyser ce qui se passe sur l’intégralité du web, dont les plateformes, les messageries privées, etc. Elles essayent d’anticiper les menaces qui peuvent ensuite toucher d’autres plateformes. Ces équipes sont francophones et connaissent parfaitement le contexte local. Elles sont en mesure de réagir très rapidement lorsqu’un incident survient, comme nous avons malheureusement pu le vérifier au cours des dernières semaines.

Nous avons donc 402 modérateurs francophones dans l’Union européenne, selon les derniers rapports que nous avons soumis à la Commission européenne. Je ne connais pas la part de sous-traitance, mais je vais me renseigner et je transmettrai cette information à vos services.

M. le président Arthur Delaporte. Les réseaux exposent les mineurs à des scènes choquantes ou à des propos choquants. La qualité de la modération constitue donc un enjeu majeur. La localisation des équipes peut être importante, car elle influe sur leur connaissance du contexte. C’est également un élément de comparaison entre les différentes plateformes.

Pouvez-vous nous expliquer pourquoi X ne dispose que de 1 000 modérateurs ? Avez-vous vingt fois moins de modérateurs que les autres parce que votre algorithme de modération est vingt fois plus efficace ? Êtes-vous vingt fois moins performants qu’eux ?

Mme Claire Dilé. Non, ce n’est pas lié à ça. Tout d’abord, nous sommes une plus petite entreprise. Nous n’avons que 11 millions de comptes en France. Vous allez me dire que ce n’est pas le même ratio…

M. le président Arthur Delaporte. Vous avez deux fois moins de comptes que d’autres, mais vous avez dix fois moins de modérateurs.

Mme Claire Dilé. La modération est évidemment une question de personne, mais nous utilisons également des algorithmes pour détecter certains contenus. En matière d’exploitation sexuelle des enfants, de terrorisme ou de discours violent par exemple, le traitement est automatisé. Les modérateurs interviennent plutôt après des signalements. Ils traitent les contenus spécifiques, qui nécessitent de comprendre le contexte.

Regardez les temps de réponse qui sont mentionnés dans nos rapports de transparence. Ils sont relativement courts.

L’efficacité de notre modération est liée à la manière dont nous gérons les volumes. Au-delà du nombre de personnes, nous souhaitons disposer d’équipes internes et de centres d’excellence, dans lesquels les employés sont mieux formés et comprennent mieux les enjeux et les subtilités des règles. Je comprends votre question sur le nombre de personnes, mais la situation doit être appréciée de manière globale, en tenant compte de la formation, des outils technologiques, etc.

M. le président Arthur Delaporte. Vous avez raison. C’est la raison pour laquelle la localisation des modérateurs est également un élément important pour nous.

Chez YouTube, considérez-vous que la performance de la modération soit liée au nombre de modérateurs ?

M. Thibault Guiroy. Nous utilisons un mélange d’intelligence artificielle et de revue humaine.

Nous retirons 8 à 9 millions de vidéos par trimestre dans le monde et, ce qui est assez peu, environ 65 000 par trimestre en France. Dans 95 % des cas, ces contenus ont d’abord été signalés par l’intelligence artificielle, mais une intervention humaine peut être nécessaire. Ce coût est incompressible, notamment lorsqu’il faut comprendre le contexte. Une machine n’est pas en mesure de le faire, en tout cas pour le moment. Si vous prenez l’exemple d’une vidéo réalisée dans une zone de guerre, elle ne saura pas dire si la vidéo relève de l’apologie du terrorisme ou d’un témoignage journalistique, si elle est extraite d’un documentaire, etc.

Nous nous appuyons énormément sur l’intelligence artificielle, mais nous avons aussi besoin de modérateurs humains.

Par ailleurs, le règlement sur les services numériques nous oblige – nous le faisions déjà chez YouTube – à donner aux utilisateurs la possibilité de faire appel de la décision lorsqu’un de leurs contenus est supprimé de la plateforme. Ce sont des cas où nous avons besoin de modérateurs humains. En outre, la personne qui traite l’appel doit être différente de celle qui a pris la première décision.

Mme Aurore Denimal. Je ne l’avais pas mentionné, car il ne s’agit pas vraiment d’un modérateur, mais nous avons quelqu’un à Paris qui répond notamment aux réquisitions judiciaires et qui traite les cas extrêmement graves de pédopornographie, sextorsion, suicide ou conduite terroriste avec un risque imminent. Cette personne connaît parfaitement le contexte franco-français et peut répondre à ces urgences.

Comme YouTube, Meta permet aux utilisateurs de faire appel des décisions, à plusieurs niveaux. Ce sont des modérateurs humains qui interviennent, et pas seulement une machine. Nous avons également un conseil de surveillance pour revoir certains contenus. Nous pourrons y revenir, si le sujet vous intéresse.

M. le président Arthur Delaporte. Voulez-vous ajouter quelque chose, madame Dilé ?

Mme Claire Dilé. Non, pas particulièrement. J’ai dit tout ce que j’avais à dire.

Mme Laure Miller, rapporteure. J’ai l’impression que vous êtes surpris par le niveau de détail que nous attendons dans vos réponses. Nous avons eu ce même sentiment lors de l’audition des représentants de TikTok. Malgré le questionnaire qui vous a été remis au préalable, vous ne semblez pas maîtriser – au moins certains d’entre vous – toutes les données relatives à la modération. Or cette dernière occupe une place centrale dans nos travaux, car de nombreux contenus problématiques subsistent sur les différentes plateformes.

Quelle est, pour chacune de vos plateformes, la stratégie en matière de modération ? Repose-t-elle sur de grandes lignes directrices ? Le cas échéant, qui les fixe ? Comment sont-elles déclinées par les modérateurs qui sont derrière leur ordinateur ?

En moyenne, combien de contenus sont modérés par chaque modérateur ?

M. Anton’Maria Battesti. Nous essayons d’être le plus précis possible. Nous vous transmettrons les éléments qui pourraient manquer, mais essayons d’avancer dès aujourd’hui.

Je ne connais pas la part de sous-traitants parmi les 15 000 personnes que j’évoquais. Néanmoins, tous les modérateurs appliquent les mêmes règles et reçoivent le même entraînement. Ce qui compte, c’est que les règles s’appliquent.

S’agissant des règles, les standards de la communauté sont publics. Leurs évolutions peuvent également être consultées. Ils fixent de manière très détaillée ce qu’il est possible de faire et de ne pas faire sur la plateforme. Je ne vais pas vous les lire, parce qu’il faudrait un certain temps, mais ces règles existent. Il est vraiment important que nos utilisateurs les connaissent et les respectent.

Nous nous appuyons sur des professionnels qui viennent de tous les horizons, qui ont toutes les nationalités et qui pratiquent toutes les langues. C’est une équipe internationale. Nos utilisateurs se trouvent à 80 % en dehors des États-Unis d’Amérique. Nous devons en tenir compte. Tout le monde n’est pas là-bas ou dans l’Union européenne. Ces professionnels ont des expériences variées, notamment dans le domaine juridique. Certains ont travaillé pour la justice. Nous avons également des avocats.

Le processus de modération nous amène à effectuer beaucoup de consultations sur le terrain. Nous travaillons avec des associations, des ONG ou des experts de certains sujets. Pour vous citer un exemple, le déni de l’holocauste, donc le négationnisme, était auparavant soumis à la loi locale. Quoi qu’on en pense, il n’est pas illégal dans tous les pays. Nous l’avons toutefois intégré dans les règles de l’entreprise – les standards de la communauté – et il est désormais interdit partout. Nous avons pris cette décision, car beaucoup de parties prenantes nous le demandaient. Elles considéraient qu’autoriser ce type de contenus était inacceptable.

Nos règles ont beaucoup évolué. L’important est de le faire de manière transparente. Il faut que ce soit connu et auditable.

Pour ce qui est des chiffres, je ne veux pas être trop long, parce que tout est accessible en ligne. Vous trouverez la part de contenus qui est modérée par l’humain et celle qui fait l’objet d’une détection proactive, c’est-à-dire par la machine. Les contenus terroristes sont identifiés à 99 % par la machine et il y a d’autres domaines dans lesquels elle est assez efficiente. La prévalence des contenus problématiques, c’est-à-dire la part qu’ils représentent pour 10 000 contenus postés par exemple, est une autre donnée disponible. Tout ça est intéressant pour évaluer l’efficacité de nos dispositifs.

On a parfois l’impression que tout est négatif, mais est-ce vrai, est-ce mesurable ? Nous avons fait d’énormes progrès. La réglementation a joué un rôle, mais la notion de transparence est vraiment essentielle. La modération ne doit pas être une boîte noire. Les questions que vous nous posez le sont depuis un certain nombre d’années. Ce qui a changé depuis le DSA, c’est que j’ai beaucoup plus de choses à dire et à montrer. Il y a cinq, six ou sept ans, nous communiquions moins. Nos chiffres étaient moins précis. Nous pouvons collectivement nous féliciter de ces évolutions.

Nous ne voulons pas vous inonder de chiffres aujourd’hui, mais nous veillerons à ce que vous ayez toutes les données qui vous intéressent.

Mme Claire Dilé. Nos règles communautaires reposent sur trois piliers : la vie privée, la sécurité et l’authenticité. Elles sont publiques et accessibles à tous. Nous rendons également publique la façon dont nous appliquons ces règles, c’est-à-dire les différentes sanctions appliquées en fonction des différents types d’infractions.

Ces règles ont été progressivement consolidées, en fonction des violations qui étaient observées sur la plateforme et de l’évolution des usages. Par exemple, nous avons constaté qu’en ce moment, certains utilisateurs malveillants utilisaient un mot de manière détournée, avec l’intention de nuire. Nous travaillons avec des partenaires associatifs et des signaleurs de confiance, que nous n’avons pas encore évoqués, pour détecter et gérer ces pratiques.

Après les événements du 7 octobre 2023, nous avons observé une montée de l’antisémitisme en Europe. En réaction, nous avons fait évoluer les règles encadrant le traitement de ce sujet sur la plateforme, pour intégrer les nouveaux termes et les nouveaux usages que nous avons malheureusement vus apparaître. Nous avons modifié nos outils de formation en interne et nous les avons envoyés à des modérateurs contractuels pour qu’ils en prennent connaissance. C’est l’une des raisons pour laquelle nous souhaitons renforcer nos équipes en interne. Cela nous permettra de mieux les former à l’application de nos règles.

La modération est effectuée par rapport à nos règles communautaires, mais nous avons également des personnes en interne qui s’assurent du respect de la loi et du retrait des contenus illégaux. Ils connaissent les lois françaises, les lois en Europe ou dans d’autres juridictions.

M. Thibault Guiroy. Chez YouTube, nous avons également deux grilles de lecture – le droit français et nos conditions d’utilisation – pour retirer des contenus. Les différences entre les deux sont ténues, ce dont nous pouvons nous féliciter. Généralement, ce qui contrevient au droit français contrevient également à nos conditions d’utilisation.

Comme X et Meta, nous avons besoin de flexibilité et nous faisons évoluer nos politiques de retrait de contenus très fréquemment. L’exemple le plus marquant est la période de la pandémie de covid. D’un jour à l’autre, les injonctions, y compris du corps médical, étaient totalement contradictoires, notamment concernant la prise d’hydroxychloroquine. Nous avions besoin d’un avis sur certains contenus, pour les retirer le plus rapidement possible après signalement. Nous nouons donc des partenariats avec l’écosystème externe, avec les signaleurs de confiance ou avec l’Organisation mondiale de la santé. Une équipe de YouTube est d’ailleurs spécialisée dans le domaine de la santé.

Donc, nous faisons évoluer nos politiques de retrait très régulièrement, pour tenir compte des événements internationaux, comme les conflits qui se déroulent actuellement. Nous avons par ailleurs mesuré l’efficacité de notre modération et je peux vous citer quelques chiffres. On évalue le taux de succès de la modération en calculant un taux de vues non conformes. Ce système est probablement assez proche de celui de Meta. Au premier trimestre 2025, notre taux de vues non conformes était de 0,1 %. Cela signifie que pour 10 000 vues de contenus sur YouTube, seulement dix concernaient des contenus qui ont ensuite été retirés en raison de leur non-conformité à nos conditions d’utilisation. Un autre indicateur que nous suivons est le nombre de vues générées par un contenu avant qu’il soit supprimé. Or 80 % des vidéos sont retirées avant d’avoir généré dix vues et 55 % le sont avant d’avoir généré une seule vue.

La séance est suspendue de quinze heures trente-cinq à quinze heures cinquante.

Mme Laure Miller, rapporteure. Nous avons auditionné des jeunes, victimes des réseaux sociaux. Outre leurs témoignages relatifs à TikTok, l’un d’entre eux a fait part de son sentiment d’avoir été submergé par des contenus prônant l’automutilation et la scarification sur Instagram. Lorsque nous l’avons rencontré, il allait mieux, mais il lui a été difficile de s’en sortir. L’automutilation et la promotion du suicide ne sont pas des sujets nouveaux et je sais que vous vous en êtes saisis. Comment parvenez-vous à modérer ces contenus, alors qu’il faut parfois utiliser des hashtags ou des mots détournés pour les faire apparaître ? Avez-vous fait évoluer votre modération ?

M. Anton’Maria Battesti. Il serait intéressant de savoir à quelle époque ce jeune a vécu ces choses terribles. Nous ne pouvons que reconnaître que, dans ce cas, quelque chose ne va pas. Nous faisons de notre mieux et nous devons faire plus que notre mieux. Notre travail consiste certes à expliquer ce qui fonctionne, mais aussi à reconnaître quand cela ne va pas.

Une fois qu’on a dit cela, que fait-on ? La logique des comptes « Ado » vise notamment à traiter la question des contenus, mais aussi le temps passé ou les contacts. L’objectif est que les adolescents ne soient plus exposés à des contenus problématiques, tels que ceux promouvant la chirurgie esthétique, la violence, la mutilation, etc. Les contenus auxquels ils sont exposés doivent être adaptés à leur âge. Ce n’est pas encore le cas à 100 %, mais nous devons viser ces 100 %.

Le DSA est très exigeant dans le domaine de la protection des mineurs, comme nous le sommes tous, que nous soyons parents ou non. Les comptes « Ado » sont l’expression pratique de l’idée qu’il faut offrir un cadre adapté à ces publics. Toutes les personnes éligibles au compte « Ado » et inscrits sur la plateforme ont un compte « Ado ». Nous vous enverrons des détails sur leur fonctionnement.

Mme Aurore Denimal. Les contenus sensibles faisant l’objet de restrictions portent nomment sur le suicide, l’automutilation ou encore la chirurgie esthétique.

En outre, couplée aux comptes « Ado », la supervision parentale permet aux parents de se co-saisir du sujet – avec les plateformes, qui sont évidemment actrices en la matière. Les parents peuvent voir les comptes que leurs enfants suivent et les sujets qui les intéressent, afin d’engager des discussions avec eux. Encore une fois, la supervision parentale ne se substitue pas au rôle des plateformes et à notre obligation de restreindre la visibilité de ces contenus. C’est simplement un outil supplémentaire.

M. Anton’Maria Battesti. Nos partenaires comme e-Enfance ou Point de contact nous alertent sur l’émergence des nouvelles pratiques. Nous l’avons vu dans d’autres domaines, comme l’antisémitisme ou les discours de haine, certains mots peuvent être détournés. Je salue leur travail, parce que sans eux, nous ne parviendrions pas à détecter certaines tendances. Avec les signaleurs de confiance, le 3018 et les mesures instaurées par e-Enfance ou Génération numérique pour l’éducation numérique, il existe un écosystème français remarquable.

Mme Claire Dilé. Il faut distinguer l’exposition à des contenus qui promeuvent le suicide ou l’automutilation et appellent une modération, de la protection des utilisateurs qui ont ce type de comportement sur la plateforme. Ces deux volets sont aussi importants l’un que l’autre.

Quand des utilisateurs recherchent du contenu en utilisant des mots liés au suicide ou à l’automutilation, ils sont renvoyés vers notre partenaire SOS Amitié, dont la hot-line peut leur apporter de l’aide et du soutien.

Cette protection fait aussi partie du mandat de la plateforme d’harmonisation, d’analyse, de recoupement et d’orientation des signalements, Pharos, avec laquelle nous coopérons en France. Pharos a d’ailleurs déjà contacté le réseau – la plateforme a mon numéro de téléphone personnel, entre autres – parce qu’un utilisateur avait posté un contenu non pas illégal, mais laissant entendre qu’il pourrait attenter à ses jours ou mettre sa vie en danger. Le cas échéant, nous fournissons les données utilisateurs à la plateforme, pour qu’elle puisse remonter jusqu’à eux, afin de les protéger.

Mme Laure Miller, rapporteure. Si je tape « scarification », je serai orientée vers une plateforme de type SOS Amitié ou autre. Mais que se passera-t-il si j’utilise un mot détourné ou mal orthographié, par exemple « sc4rification » ? Parvenez-vous à adapter le système de protection aux mots-clés détournés, notamment par le jeune public ?

M. Anton’Maria Battesti. Oui. Nous pourrions faire le test, mais j’imagine que vous n’avez pas de compte « Ado ».

M. le président Arthur Delaporte. Ces mots détournés peuvent aussi être utilisés par des majeurs.

M. Anton’Maria Battesti. Les variantes de lettres sont prises en compte. Cela étant, les jeunes ont beaucoup d’imagination. Nos partenaires sont essentiels dans ces domaines.

Mme Aurore Denimal. De nombreux mots détournés nous sont communiqués par e-Enfance. M. Sother évoquait tout à l’heure le reportage diffusé dans « L’œil du 20 heures » de France 2, qui traitait de la pédopornographie. Nous travaillons avec les signaleurs de confiance, notamment pour identifier les nouvelles orthographes.

M. Thibault Guiroy. Les contenus incitant au suicide, à l’automutilation ou aux troubles alimentaires, destinés à choquer ou à susciter du dégoût, ou présentant un risque élevé pour les spectateurs, ne sont pas autorisés sur la plateforme YouTube.

Par ailleurs, nous utilisons des fenêtres interstitielles entre les requêtes en relation avec l’automutilation, le suicide ou les troubles alimentaires et les résultats de recherche. Nos équipes de YouTube Santé travaillent en lien avec des établissements de santé en France et des partenaires comme le 3114, numéro national de prévention du suicide, ou la Fédération française anorexie boulimie, dont le rôle consiste à mieux mettre en valeur des contenus qui font autorité, pour de telles requêtes.

M. le président Arthur Delaporte. Nous avons reçu des influenceurs santé.

M. Thibault Guiroy. Le Conseil national de l’Ordre des médecins effectue un important travail de cadrage. Nous l’avons aidé à élaborer une charte du médecin créateur de contenu responsable.

Sur YouTube, si vous tapez certains mots-clés relatifs aux sujets dont nous venons de parler, vous ne verrez pas les résultats de recherche s’afficher, mais une page qui vous redirigera soit vers le 3114, soit vers la Fédération française anorexie boulimie, et qui vous demandera si vous souhaitez malgré tout accéder aux pages des résultats de recherche.

Nos équipes de YouTube Santé essaient aussi de développer le contenu relatif à la préservation de la santé mentale. Nous évaluons à environ 35 000 les contenus relatifs à la santé mentale pour la France. Ils totalisent 180 millions de vues. Ce n’est pas anecdotique et nous entendons accélérer dans ce domaine. Ces données chiffrées sont disponibles sur le site de l’organisation YouTube Health.

M. le président Arthur Delaporte. J’ai tapé #Skinny sur X, et je suis tombé, parmi les premiers résultats, sur un contenu « I’ll be soon skinny », dans lequel une personne mesure l’épaisseur de son ventre avec une carte bancaire, et qui comptabilise près de 50 000 vues, 4 000 likes et 200 retweets. D’autres personnes montrent un ventre un peu plus épais, mais des traces de scarification.

J’ai fait l’exercice sur X, mais nous avons reçu des signalements similaires concernant des reels sur Instagram, notamment autour de la communauté de l’influenceuse Ophenya. Nous pourrons vous montrer des captures d’écran. Certains reels montrent des scarifications récurrentes, ou des contenus du type « Rechutez en silence » avec des marques de sang sur des mouchoirs. En général, ce sont des jeunes, voire des très jeunes qui suivent cette influenceuse, laquelle gagne beaucoup d’argent avec des personnes dont le mal-être est certain.

Comment modérez-vous ces contenus visuels, a priori ou dès leur publication ?

Ces contenus existent et sont assez choquants, même s’il est écrit « C’est juste une petite entaille ». Je vous les montrerai, nous n’allons pas les diffuser à l’écran. Je précise toutefois que, sur Instagram, on tombe plus souvent que sur TikTok sur des zèbres plutôt que sur des scarifications, avec la requête « zèbre ».

Mme Aurore Denimal. Nous sommes preneurs de ces contenus. S’ils peuvent nous être remontés par les signaleurs de confiance, c’est un excellent levier pour agir plus rapidement.

M. le président Arthur Delaporte. Comment expliquez-vous qu’ils passent entre les mailles du filet ? Avez-vous des dispositifs spécifiques de détection ?

M. Anton’Maria Battesti. La question est de savoir si les mineurs voient ces contenus.

M. le président Arthur Delaporte. En l’occurrence, ce sont des mineurs.

M. Anton’Maria Battesti. Les voient-ils ou les publient-ils ?

M. le président Arthur Delaporte. Les deux.

M. Anton’Maria Battesti. Il y a donc effectivement un problème.

M. le président Arthur Delaporte. TikTok est particulièrement concerné, mais l’intérêt de cette audition est de montrer que ces problèmes ne sont pas isolés et s’observent partout.

Sur YouTube, nous n’avons pas nécessairement observé ces contenus spécifiques, mais d’autres types de contenus n’en sont pas moins problématiques. Nous parlions tout à l’heure de la désinformation en santé. Lors d’une rencontre organisée par YouTube au sujet de la charte de l’Ordre des médecins, le compte de M. Casasnovas avait été pointé. Celui-ci, qui compte 2 millions d’abonnés, fait la promotion du crudivorisme et de pratiques qui ne sont pas sans danger.

Comment mieux réguler ce domaine ? Avez-vous des suggestions d’amélioration de la base légale ? Notre rôle étant de faire évoluer le droit, elles nous intéressent.

M. Thibault Guiroy. Nous ne disposons pas de base nous permettant d’agir concernant les contenus que vous avez mentionnés, que ce soit en vertu du droit ou de nos conditions d’utilisation. C’est d’autant plus regrettable que la personne que vous citez a fait l’objet de dizaines de signalements à la Miviludes, la mission interministérielle de vigilance et de lutte contre les dérives sectaires, avec laquelle nous travaillons.

M. le président Arthur Delaporte. Cette personne a-t-elle fait l’objet d’une condamnation judiciaire ?

M. Thibault Guiroy. Je l’ignore. Le cas échéant, c’était une condamnation pour exercice illégal de la médecine, pas pour ses propos. Peut-être y a-t-il un vide juridique à combler.

En tout cas, soyez rassurés, nous travaillons avec les autorités et nous essayons d’échanger le maximum d’informations au sujet de créateurs problématiques. Mais nous n’avons pas de base sur laquelle nous appuyer.

De fait, le règlement sur les services numériques nous oblige à engager des actions en vertu de critères précis – le droit local ou nos conditions d’utilisation. En l’absence de base juridique, nous risquons d’être poursuivis par les personnes contre lesquelles nous engageons une action. Cela arrive d’ailleurs assez régulièrement. Il existe des contenus que nous ne voulons pas voir sur la plateforme, mais en l’état actuel du droit, il est compliqué de s’appuyer sur une base juridique solide pour empêcher leur publication.

Mme Laure Miller, rapporteure. Avez-vous besoin que le droit soit plus clair pour vous permettre de retirer les contenus relevant de zones dites grises, comme les sujets que nous venons d’évoquer ou encore le sexisme ou le masculinisme ? Ne pourriez-vous pas durcir vos conditions d’utilisation et votre règlement interne ? Seriez-vous poursuivis par les créateurs de contenus dès lors que le droit n’interdit pas certains propos ?

M. Thibault Guiroy. Le fait que certains créateurs de contenu ne soient pas condamnés par un tribunal pour leurs propos pose problème. S’il existait de telles condamnations, il serait plus simple pour nous d’engager des actions vis-à-vis de ces contenus.

S’agissant des propos sexistes ou misogynes, nous avons demandé une analyse à un avocat spécialisé en droit de la presse – nous sommes très diligents, dès que nous recevons des signalements. Cet avocat nous a transmis son analyse, d’une dizaine de pages, qui explique pourquoi ces contenus ne violent pas la législation française en l’état actuel du droit. C’est un problème. Ces contenus peuvent être considérés comme choquants ou nauséabonds, mais en l’état actuel du droit, ils ne franchissent pas la ligne.

Par ailleurs, si des propos et des comportements potentiellement choquants ne sont pas réprimés par le législateur, car il ne l’a pas jugé utile, il est compliqué de le faire par le biais de nos conditions d’utilisation. Toutefois, celles-ci ont vocation à évoluer. Ainsi, si le droit français réprimait certains propos, elles pourraient évoluer.

M. le président Arthur Delaporte. Dans les conditions générales d’utilisation de YouTube, je lis : « Nous n’autorisons pas les contenus qui incitent à la violence ou à la haine envers certains individus ou groupes d’individus en fonction des caractéristiques suivantes : sexe […]. » Globalement, nous retrouvons de telles clauses dans toutes les conditions générales d’utilisation.

Pourquoi ne pouvez-vous pas être mieux-disants que le droit en vigueur ? Ne pouvez-vous pas exercer une part de libre arbitre et fixer des conditions générales plus protectrices que les règles qui régissent l’espace social ?

M. Thibault Guiroy. La mise en balance entre liberté d’expression et suppression de contenus potentiellement choquants est toujours délicate. Je pourrai vous faire parvenir, à titre confidentiel, l’analyse de l’avocat. Elle est très précise.

Les jurisprudences relatives à la liberté d’expression sont claires, dans l’Union européenne, y compris quand elles concernent des contenus choquants. On peut s’en féliciter, parfois. Ces décisions ont permis que des journaux satiriques continuent à exercer librement leur activité dans notre pays.

Si le droit doit évoluer, il n’y a pas de raison que nos conditions générales d’utilisation n’évoluent pas.

Mme Laure Miller, rapporteure. Qu’en est-il pour Meta et X ? Pourquoi ne fixez-vous pas de conditions générales d’utilisation plus vertueuses que le droit ? Vous pourriez, par exemple, demander à vos utilisateurs de ne pas tenir de propos sexistes. Vous pourriez être mieux-disants.

M. Anton’Maria Battesti. Il faut distinguer l’intention de l’impact. L’intention, on peut la partager. Il ne faut pas toujours tenir le DSA pour intouchable. Il a le mérite de créer un cadre général, selon lequel les plateformes doivent instaurer des moyens de modération et expliquer comment ils fonctionnent. Dans la pratique quotidienne, les mêmes questions se posent, État membre par État membre, situation par situation, cas particulier par cas particulier. Nous avons parfois été mieux-disants. Par exemple, le déni de l’Holocauste est désormais modéré y compris dans des pays où ces propos sont autorisés au titre de la liberté d’expression.

On peut faire évoluer nos conditions d’utilisation, mais on ne devrait pas nous laisser en décider seuls. Il faut un minimum de consensus entre toutes les parties prenantes, dont l’Autorité de régulation de la communication audiovisuelle et numérique (Arcom) et vous. Sinon, nous pourrions prendre des décisions qui ne seraient pas les bonnes, mais aussi être critiqués et notre légitimité pourrait être remise en cause. C’est un débat auquel nous sommes confrontés au quotidien.

La régulation existe. On ne peut pas faire sans. Ce cadre est précis et a été spécifiquement créé pour nous. Mais, dans la pratique quotidienne, il faut des engagements multiacteurs. L’Observatoire de la haine en ligne, qui a été créé par la loi n° 2020-766 du 24 juin 2020 visant à lutter contre les contenus haineux sur internet dite loi Avia et est rattaché à l’Arcom, doit vivre. Le groupe de contact permanent du ministère de l’intérieur n’a pas été réuni depuis plusieurs mois. Il avait été créé pour réunir les plateformes et l’État afin de parler de ces questions – pas seulement du terrorisme.

J’entends vos préoccupations, mais nous n’avons pas vocation à décider seuls de ce que nous pouvons dire ou ne pas dire. Vous nous donnez un pouvoir, mais nous pourrions être critiqués, si nous l’exercions.

Ce n’est pas une manière de nous cacher pour ne rien faire, mais notre message est qu’il faut maintenir une approche multiacteurs. Nous avons signé la charte alimentaire de l’Arcom. Nous réfléchissons aussi à la façon d’être plus vertueux et d’aller plus loin dans ce domaine avec l’Autorité de régulation professionnelle de la publicité (ARPP). Ce processus présente l’avantage de réunir des instances, des autorités publiques et des entreprises, pour avancer ensemble.

J’entends vos intentions. Mais quand la plateforme décide seule, il arrive qu’on s’en plaigne.

Il y a certes, tout là-haut à Bruxelles, le DSA qui existe et que nous devons appliquer. Mais il faut réfléchir à la façon de l’appliquer au quotidien, à l’échelle de notre pays, dans le cadre de notre consensus démocratique et social sur ce qui est acceptable, y compris pour des cas nouveaux.

Je ne suis peut-être pas assez clair, mais je pense qu’on ne doit pas décider seul, même avec les meilleures intentions du monde. Ce n’est pas facile à entendre, parfois.

M. le président Arthur Delaporte. C’est même difficile à entendre.

M. Anton’Maria Battesti. Je m’attendais à votre réaction.

M. le président Arthur Delaporte. Pourquoi avez-vous une politique proactive en matière de nudité, mais pas concernant le sexisme ? N’est-il pas presque plus choquant d’entendre un homme qui appelle à battre les femmes que de voir un bout de téton ?

M. Anton’Maria Battesti. Soyons clairs. Nous parlons ici de mineurs. Une politique stricte, voire très stricte au sujet de la nudité empêche les mineurs de consulter des images à caractère pornographique, ou permet de bloquer les contenus publiés dans le cadre du revenge porn. J’assume pleinement une politique de nudité hyperstricte. Certains la qualifient de puritaine, mais elle a le mérite d’être efficace.

Par ailleurs, les propos incitant à taper ou à attaquer une personne doivent être modérés. On ne parle pas de sexisme du café du commerce, mais de propos qui incitent à la violence. Si nous ne les modérons pas, nous avons des comptes à rendre. Je n’ai pas de désaccord de principe en la matière, heureusement d’ailleurs.

M. le président Arthur Delaporte. C’est au cœur de la question. Vous dites que vous ne pouvez pas être plus durs que le droit, pour respecter la liberté d’expression. Mais la publication d’une image est, en soi, une expression.

Vous censurez une image avec de la nudité, alors que rien, dans le droit, n’interdit de montrer des personnes nues. Vous avez amélioré votre politique, car fut un temps, les photographies de statues grecques étaient censurées sur Meta. Pour autant, certaines personnes que nous avons auditionnées nous ont indiqué que leur contenu avait été bloqué alors qu’elles étaient en tenue de sport.

Nous avons l’impression qu’il existe deux poids, deux mesures.

M. Anton’Maria Battesti. Il est possible de faire appel, car il arrive que nous fassions des erreurs de modération. Cette possibilité est prévue par la réglementation. Une personne qui a fait l’objet d’une surmodération peut faire appel – heureusement – et, normalement, son contenu doit être rétabli.

Par ailleurs, nous ne parlons pas seulement de nudité topless façon émission « Le grand cabaret ». Parfois, nous parlons de nudité que les mineurs ne doivent pas regarder.

M. le président Arthur Delaporte. Nous sommes d’accord avec vous, le contenu pornographique ne doit pas être accessible aux mineurs.

M. Anton’Maria Battesti. C’est le prix à payer.

M. le président Arthur Delaporte. Mais cela signifie que vous tolérez moins le contenu pornographique – qu’on ne vous demande d’ailleurs pas de le tolérer – que du contenu sexiste jugé conforme à la liberté d’expression. Cela ne pose-t-il pas problème, quand on étudie les effets possibles sur des personnes vulnérables, comme les mineurs ? Quand des influenceurs promeuvent des normes de genre inégalitaires, c’est contraire à la devise républicaine.

M. Anton’Maria Battesti. Premièrement, il faut condamner ces propos. Deuxièmement, certains contenus peuvent être de l’ordre du sexisme du café du commerce, que l’on entend à la télévision, par exemple dans l’émission « Frenchie Shore » sur Paramount+. Ces propos peuvent choquer et sont visibles par des mineurs. Malheureusement, le sexisme existe partout et en tout lieu. Il existe donc aussi sur les réseaux sociaux, car il n’existe pas de loi le condamnant urbi et orbi.

Cela étant, les règles doivent se focaliser sur les attaques et sur les appels à la violence, qui vont bien au-delà de ce que l’on peut appeler – cela peut vous choquer – un sexisme du café du commerce. Ces appels à la violence portent atteinte à la sécurité des personnes. Dans ce cas, il est évident que les règles doivent s’appliquer, sinon, nous aurons des comptes à rendre.

Je vous alerte sur le fait que nous n’éradiquerons pas à nous seuls le sujet du sexisme. Il faudrait d’ailleurs déjà le définir. Parfois, on ne parle pas d’appel à la violence, mais de sexisme « d’atmosphère », si je puis dire. Il faudrait le définir et réfléchir à la façon d’agir concernant ces contenus. Pourquoi cette question concerne-t-elle seulement les réseaux sociaux, alors que ces contenus sont librement accessibles par le grand public sur d’autres supports numériques ? Il faut avoir une réflexion à 360 degrés.

Mme Laure Miller, rapporteure. Nous avons le sentiment que vous parvenez à appliquer un principe de précaution s’agissant de la nudité, mais que vous décidez de ne pas le faire pour d’autres formes de contenus problématiques.

M. Anton’Maria Battesti. Il est difficile de censurer une parole a priori. Les gens s’expriment sur une plateforme et, si leurs propos tombent sous le coup de la loi ou des règles de la plateforme, ils sont censurés a posteriori. C’est la règle générale en matière d’expression, si j’ai bien compris le droit applicable. Il est donc difficile de prendre des décisions urbi et orbi, par exemple celle de supprimer le sexisme – sous réserve que cette notion soit précisément définie –, alors qu’il prospère partout dans la société.

Ce pourrait être un choix, mais ce n’est pas un choix que nous devrions prendre seuls. J’invite toutes les parties prenantes à avancer ensemble, plutôt que de nous laisser la responsabilité de la définition de ce qui est attendu et du type de contenu que vous souhaitez que l’on retire. Les choses peuvent évoluer, mais soyons bien au clair sur la méthode.

Mme Laure Miller, rapporteure. J’ai du mal à comprendre l’argument selon lequel il faut avancer groupé et personne ne doit prendre de décision avant les autres. Vous êtes des entreprises privées et nous sommes dans une économie de marché. Vous pourriez considérer le fait d’adopter des pratiques plus vertueuses que les autres comme un avantage concurrentiel. Vous pourriez fonder davantage que d’autres la modération sur le principe de précaution. Cela rendrait peut-être Meta plus attractive que les autres plateformes.

M. Anton’Maria Battesti. Le paradoxe est que vous confiez à une entreprise privée une privatisation complète de la liberté d’expression, qui ne va pas totalement dans le sens de ce qu’a voulu le législateur ces dernières années, puisqu’il nous demande de rendre des comptes en cas d’absence de modération, mais aussi en cas de surmodération.

L’avis du Conseil constitutionnel au sujet de la loi Avia était frappant. Il a considéré comme inconstitutionnel de laisser les plateformes décider en vingt-quatre heures de ce qui est légal ou non, constitutionnel ou non – pas de chance ! Le DSA pose aussi des jalons.

On ne souhaite pas aller vers un système d’utraprivatisation de la liberté d’expression. J’invite à plutôt aller vers une logique multiacteurs. Je ne dis pas que la question posée n’est pas pertinente au fond, bien au contraire. Elle est éminemment importante. Simplement, il faut être clair quant à la manière de décider de retirer du contenu ou des comptes, même si nous ne les apprécions pas.

Mme Claire Dilé. Je suis sensible à votre question. C’est l’un de nos sujets de réflexion permanente, en matière de modération. C’est toujours une question d’équilibre.

S’agissant du sexisme, sur X nous interdisons la conduite haineuse envers des catégories protégées, parmi lesquelles le genre et l’orientation sexuelle. Mais, selon les contenus, il est plus ou moins facile de déterminer s’il s’agit d’attaques. La difficulté vient de là.

Nous pouvons aller plus loin que ce que reconnaît la loi n° 2004-575 du 21 juin 2004 pour la confiance dans l’économie numérique (LCEN) s’agissant de la haine, mais il est difficile de savoir quelle décision prendre. Cela peut sembler évident, mais ça ne l’est pas. Quand le contenu relève clairement de la haine, nous le modérons. Mais, quand nous avons un doute, nous avons plutôt tendance à le laisser en ligne. Dans le doute, en effet, nous préférons privilégier la liberté d’expression.

S’agissant des mots détournés, il serait peut-être trop binaire de ne mentionner que la loi ou nos règles d’utilisation. Il faut aussi recueillir de l’information auprès d’associations qui ont une expertise spécifique, car en tant que plateformes, nous traitons d’un large ensemble de sujets. Nous en avions discuté avec l’Arcom au sujet des signaleurs de confiance. Nourrir cette discussion avec des experts nous permettrait de mieux appréhender les phénomènes et de savoir où placer le curseur.

M. le président a cité un exemple concernant la promotion de la maigreur. Mais je suis parfois interpellée par la présence de mannequins très maigres dans les campagnes publicitaires pour des marques de mode. C’est donc autorisé dans l’espace public. Pour trouver l’équilibre dont je parlais en matière de modération, nous regardons ce qui se fait ailleurs. En l’occurrence, il est difficile de savoir ce qui constitue une apologie de la maigreur. Une campagne de publicité ? Cela se discute. Le post qu’évoquait M. Delaporte correspond-il à du contenu interdit, ou ces propos sont-ils contestables, mais pas interdits ? Il est compliqué de répondre. Nous nous tenons à votre disposition pour vous faire part de nos réflexions en la matière.

Mme Laure Miller, rapporteure. Sur X, les contenus pornographiques sont acceptés.

Mme Claire Dilé. La décision relative aux contenus pour adultes n’a pas été prise par X, elle est antérieure au rachat de la plateforme. Cette question s’inscrit dans celle de la liberté d’expression, dans la mesure où ces contenus ne sont pas illégaux. Quoi qu’il en soit, ces contenus sont restreints, pour les publics mineurs mais pas seulement.

De manière générale, la règle établie par la plateforme est d’installer un filtre de visibilité pour les comptes qui produisent ces contenus : ils ne sont pas dans les zones à haute visibilité de la plateforme et les utilisateurs ne peuvent pas tomber dessus à moins de les chercher activement. Quant aux utilisateurs mineurs, ils sont soumis à un système d’age gating. Ainsi, vous avez raison, ces contenus ne sont pas interdits. Mais ils sont restreints.

M. le président Arthur Delaporte. Au-delà du nom de la plateforme, X, il y a beaucoup de contenu X.

Mme Claire Dilé. Tout dépend de ce que vous entendez par beaucoup. C’est un contenu que nous restreignons, même si nous ne l’interdisons pas. Quand ces contenus sont en fait des liens vers des sites tiers ou du spam, nous modérons.

M. le président Arthur Delaporte. Que se passe-t-il quand un utilisateur présente un extrait de contenu pornographique, en indiquant que l’intégralité peut être visionnée sur son compte OnlyFans ? Le modérez-vous ?

Mme Claire Dilé. Si un contenu renvoie vers un autre compte que nous considérons comme malveillant, nous le modérons en bloquant le compte.

M. le président Arthur Delaporte. Ce n’est pas ma question. Si un acteur pornographique utilise X pour poster des extraits de vidéos et renvoyer vers son compte OnlyFans, est-ce autorisé ?

Mme Claire Dilé. C’est restreint. Il sera derrière un filtre de visibilité.

M. le président Arthur Delaporte. C’est donc autorisé.

Mme Claire Dilé. Oui. Comme je l’expliquais, le contenu pour adultes est autorisé. Mais il faudrait regarder le contenu spécifique dont vous parlez, car tout n’est pas autorisé. Il peut s’agir de nudité pour adulte consentie. En revanche, certains types de contenu sont interdits. L’application de notre politique est granulaire.

M. le président Arthur Delaporte. Est-il autorisé de poster un contenu renvoyant vers une vidéo diffusée en exclusivité sur un compte Mym ?

Mme Claire Dilé. Il m’est compliqué de vous répondre, car je ne suis pas à la modération. Si c’est consenti, derrière un filtre de visibilité et sur un compte restreint, ce n’est a priori pas interdit. S’il s’agit de contenu pour adulte légal, ce n’est pas interdit. Dans le cas contraire, c’est interdit.

M. le président Arthur Delaporte. À aucun moment, je n’ai eu à fournir ma pièce d’identité pour avoir accès à ce contenu. Est-ce normal ou non ?

Mme Claire Dilé. Je ne suis pas sûre de comprendre votre question.

M. le président Arthur Delaporte. J’ai pu accéder, sans fournir de pièce d’identité, à l’extrait d’une vidéo pornographique postée par un influenceur qui renvoie vers son compte Mym pour en visionner l’intégralité, dans une stratégie de monétisation – l’extrait de cette vidéo pornographique sur X sert d’appât. Est-ce normal ou non ?

Mme Claire Dilé. En l’occurrence, le contenu n’est pas sur X, puisqu’il est sur Mym.

M. le président Arthur Delaporte. L’influenceur renvoie vers un compte Mym, qui héberge la vidéo pornographique complète, en en diffusant un extrait sur X.

Mme Claire Dilé. Cela rejoint la question de la vérification de l’âge pour les mineurs, car l’objectif n’est pas de vérifier l’âge des utilisateurs adultes.

M. le président Arthur Delaporte. Je suis majeur, mais j’aurais pu accéder à ce contenu en étant mineur, puisqu’on ne m’a jamais demandé mon âge.

Mme Claire Dilé. Précisément, c’est la question de la vérification de l’âge et de ce que nous allons mettre en place pour vérifier l’âge des utilisateurs mineurs.

M. le président Arthur Delaporte. Ce que vous « allez mettre en place » ou ce que vous avez déjà mis en place ?

Mme Claire Dilé. Nous avons l’obligation juridique d’appliquer une solution à partir de l’été, dans le cadre de l’application du code de la sécurité en ligne (Online Safety Code) irlandais, qui concernera les utilisateurs français. Nous devons instaurer des systèmes de vérification de l’âge – je pense que l’on peut traduire ainsi « age assurance » – qui permettront de connaître avec un fort degré de certitude l’âge des utilisateurs.

La question de la carte d’identité est sensible, car ce document contient des données personnelles. Nous verrons ce que recommande le régulateur irlandais. A priori, ce serait plutôt un système fonctionnant avec un tiers de confiance, pour limiter l’échange de données personnelles. Nous devons seulement savoir si l’utilisateur est mineur ou majeur.

Nous avons beaucoup travaillé à ce sujet ces derniers mois, au niveau français et au niveau européen. Je pense que mes homologues en témoigneront.

Dans le cadre du code de la sécurité en ligne irlandais et de l’article 28 du DSA, nous disposons d’une check-list des mesures à prendre pour protéger les mineurs, laquelle intègre la vérification de l’âge. C’est une question que nous prenons très au sérieux. Vous avez raison, c’est la pierre angulaire d’un dispositif efficace pour protéger les mineurs.

Tant qu’on ne connaît pas l’âge de la personne qui est face à nous, on ne peut pas la protéger efficacement. Nous devons pouvoir mettre en place un système respectueux de la vie privée, tout en vérifiant l’âge de la personne avec certitude, sans qu’elle soit face à nous.

Thibault Guiroy a évoqué les initiatives de Google pour nous transmettre des informations. Notre point de vue est que la plateforme doit faire sa part du travail, mais que ce sera plus efficace si l’écosystème travaille collectivement, tout au long de la chaîne de valeur, des opérateurs téléphoniques jusqu’aux plateformes. En s’échangeant les signaux permettant de savoir si un utilisateur est mineur ou majeur, nous protégerons mieux les enfants en ligne.

Il y a une vraie dynamique à ce sujet au niveau international. Nous devons y arriver. Ce serait simple si cela ne soulevait pas des enjeux de vie privée. Un équilibre doit être trouvé entre les différents droits, avec la création d’un système proportionné.

Mme Laure Miller, rapporteure. Une chose est sûre, vous n’avez aucun dispositif de vérification de l’âge. Il est donc possible de créer un compte sur X sans avoir à justifier de son âge et d’accéder à du contenu pornographique. J’entends le besoin d’équilibre entre différents droits, mais le droit relatif à la protection de nos jeunes n’est, de toute évidence, pas respecté.

Par ailleurs, de nombreuses personnes nous ont interrogés sur votre rôle de plateformes intermédiaires. En effet, du contenu problématique peut être diffusé sur Snapchat, relayé sur Instagram ou X, puis renvoyé vers des plateformes plus obscures comme Mym ou OnlyFans. Comment assumez-vous ce rôle d’intermédiaire, qui sert un contenu qui n’est pas acceptable ? Parvenez-vous à identifier ces comptes ? Nous avons reçu un influenceur qui était surtout présent sur Snapchat, mais dont les contenus étaient massivement reproduits sur TikTok et plusieurs plateformes.

M. Anton’Maria Battesti. Le fait que des personnes soient présentes sur différentes plateformes est une réalité. Toutefois, les formats techniques sont différents. Snapchat diffuse du contenu éphémère, qui disparaît après vingt-quatre heures, YouTube, de la vidéo et Instagram, surtout des photographies et des reels. Je pense que ces plateformes adaptent leur contenu et je ne sais pas si le sujet en tant que tel pose problème.

Je veux être très clair. Il nous arrive de recevoir des signalements. Si telle ou telle personne affiche des liens vers OnlyFans ou des sites pornographiques, son compte Instagram peut être fermé. Nous n’autorisons pas le contenu pornographique sur la plateforme. Si un lien du type « Viens voir mon contenu OnlyFans ! » est publié sur un compte, nous sommes susceptibles d’engager une action de modération pouvant conduire à la fermeture du compte. C’est déjà arrivé et certains s’en plaignent.

J’espère avoir répondu à votre question.

Mme Aurore Denimal. On peut avoir l’impression que les mêmes contenus se retrouvent sur toutes les plateformes. Mais les influenceurs ou les créateurs de contenus sont souvent assez intelligents pour rester dans les limites et ne pas publier sur Instagram du contenu qui ne passerait pas le filtre de la modération. Nous avons conscience que certains postent des contenus problématiques sur certaines plateformes, pour attirer vers un site tiers. En tout cas, ils ne publient pas ces contenus sur Instagram spécifiquement.

M. le président Arthur Delaporte. Nous avons reçu plusieurs témoignages évoquant des liens vers des comptes Mym depuis Instagram.

Mme Aurore Denimal. Nous en sommes preneurs, car ce n’est pas autorisé. Ces publications ne devraient pas être sur la plateforme.

M. Anton’Maria Battesti. Pardonnez mon ignorance, mais qu’est-ce Mym ? Est-ce comme OnlyFans ?

M. le président Arthur Delaporte. Oui. Nous avons eu l’occasion de faire des tables rondes avec Mym et des équipes de Meta. Vous avez donc sans doute déjà croisé les représentants de Mym, qui sont assez proactifs en matière d’affaires publiques.

M. Anton’Maria Battesti. Je ne suis pas expert en ces domaines. Si Mym est comparable à OnlyFans, la situation que vous évoquez pose une difficulté qui doit être réglée.

M. le président Arthur Delaporte. Mym et OnlyFans sont la même chose, et les liens qui y renvoient depuis d’autres plateformes sont fréquents. Vous indiquez que vous vous fixez pour objectif de modérer ce type de contenu, mais ce n’est pas du tout le cas de X.

Mme Claire Dilé. Comme je le précisais tout à l’heure, tout dépend du contenu. Si les liens renvoient vers du contenu que nous considérons comme interdit sur la plateforme, nous allons le modérer. Il est compliqué de vous répondre sans avoir d’exemple.

M. le président Arthur Delaporte. Mais, dans la mesure où vous autorisez la pornographie et où vous n’avez pas accès au contenu puisqu’il s’agit de vidéos à la demande – vous n’irez pas consulter le contenu de charme ou pornographique sur Mym –, vous autorisez les liens vers cette plateforme. Vous n’avez aucune possibilité de vérifier ce que contiennent les liens et vous les laissez en ligne.

Mme Claire Dilé. Honnêtement, je ne suis pas absolument certaine qu’on les autorise. Par ailleurs, ce n’est pas parce que vous en trouvez que nous les autorisons. Il peut s’agir de liens qui n’ont pas été signalés, ou de spams, comme c’est le cas d’un grand nombre de ces liens.

M. le président Arthur Delaporte. Les posts que j’ai sous les yeux, qui renvoient vers des vidéos pornographiques sur OnlyFans ou Mym, comptabilisent parfois 70 000 vues. Il n’est pas compliqué de les trouver. Nous avons même reçu un influenceur qui publie de tels posts dans cette commission.

Mme Claire Dilé. Je vous propose de m’envoyer ces liens en particulier, pour que nous vous indiquions spécifiquement quelle modération nous appliquons pour tel ou tel contenu.

Par ailleurs, des dispositifs permettent de retirer de X des contenus qui seraient sur Snapchat. Pour la nudité non consentie, par exemple, nous partageons des bases techniques avec StopNCII qui permettent d’attribuer une carte d’identité ou une empreinte aux contenus. Si du contenu intime non consenti est partagé sur Snapchat, cette plateforme peut nous l’envoyer en indiquant qu’elle a reçu des signalements à son sujet, pour que nous le retirions. Nous sommes également membres de plusieurs organismes de lutte contre l’exploitation sexuelle des enfants, comme la Tech Coalition ou Internet Watch Foundation, qui proposent aussi ce type de dispositif. La réflexion pourrait être étendue, à partir de ce qui existe pour ces contenus.

Mme Anne Genetet (EPR). Je voudrais réagir aux propos de M. Battesti. Vous avez mis le doigt sur un point essentiel, au sujet duquel j’ai une différence d’appréciation avec Mme la rapporteure. Les grandes plateformes que vous dirigez sont de grands acteurs commerciaux avec une puissance de frappe considérable. Au départ, ce sont uniquement des sites marchands.

Vous n’êtes pas des élus. Vous n’avez pas été choisis par la population. Par conséquent, vous laisser la responsabilité de choisir ce qui doit être modéré porte le risque d’une dérive qui menacerait la démocratie. Vous renvoyez d’ailleurs au législateur que nous sommes la responsabilité de choisir quel contenu vous devrez modérer et de quelle manière. C’est la bonne approche. Je n’ai pas envie que le choix de dire ce qui est bien ou mal, bon ou mauvais, revienne à des personnes qui n’ont pas été élues, sans que ce choix ait été défini par la représentation nationale que nous incarnons.

Par ailleurs, vous avez mentionné le groupe de contact permanent avec le ministère de l’intérieur. Ne serait-il pas utile de faire constamment évoluer la réglementation, pour que vous puissiez vous y conformer ?

Enfin, existe-t-il des moyens techniques pour couper automatiquement les liens qui revoient vers d’autres plateformes, dès lors qu’un mineur cherche à les activer ?

M. Anton’Maria Battesti. Il ne faut pas se mentir, le DSA laisse peu de marge au législateur national. Concernant la régulation des plateformes, j’ai ici une lettre adressée à la France par la Commission européenne en août 2023 au sujet des lois n° 2023-566 du 7 juillet 2023 visant à instaurer une majorité numérique et à lutter contre la haine en ligne et n° 2023-451 du 9 juin 2023 visant à encadrer l’influence commerciale et à lutter contre les dérives des influenceurs sur les réseaux sociaux. Cette lettre n’est rien d’autre qu’un cours de droit européen, dont il ressort qu’on ne peut rien faire. C’est ainsi, il faut regarder cette réalité en face.

La question est de savoir comment rendre les règles vivantes, pour passer du macro au micro. Les instances avec lesquelles nous sommes en interaction sont bien trop nombreuses. Il y a notamment l’Arcom – c’est normal, car c’est notre coordinateur national. Nous avons aussi hérité du groupe de contact permanent, qui n’est plus réuni, sauf en cas de crise, et qui est plutôt piloté du côté du ministère de l’intérieur. En outre, au gré des crises, les ministres nous convoquent parfois pour nous demander des comptes et le retrait de tel ou tel contenu, en dehors des cadres que je viens de mentionner. Il existe donc une démultiplication des instances dans lesquelles on cherche collectivement à agir. Je ne dis pas que j’ai la réponse magique à ce problème, mais nous qui avons une culture française de la centralisation et de l’efficacité administrative, essayons de trouver quelque chose qui fonctionne, dans l’appareil d’État. L’Arcom semble être le premier choix, le plus évident. Évitons une démultiplication, ou des convocations en fonction de l’actualité. Ces sujets demandent de la constance. Je ne parle pas de cette commission d’enquête, qui participe utilement à la réflexion, mais je parle d’épiphénomènes que j’ai pu constater.

Il faut un réel cadre de dialogue et d’action, pour se réunir sur une base régulière et pas seulement en fonction des situations. D’expérience, je sais que cela permet de faire avancer pas mal de choses. Nous avons tous les outils et toutes les intelligences pour le faire, donc faisons-le. Cela pourrait représenter une avancée importante.

Par ailleurs, les liens que vous évoquiez, vers OnlyFans notamment, ne sont pas autorisés de manière générale sur Instagram, que vous soyez mineur ou majeur. Ils ne doivent pas être proposés et ils font l’objet d’une modération. L’objectif est de fixer des automatismes permettant d’agir à grande échelle. Ce sont des dispositifs que l’on retrouve dans le domaine de la protection du droit d’auteur. Donc, pour vous répondre, ces technologies existent même si je n’en connais pas le détail.

Trouvons les marges que le droit européen et le DSA nous ouvrent. Elles existent, mais elles concernent davantage la mise en œuvre que la réglementation.

Mme Anne Genetet (EPR). Lorsque vous serez obligés de contrôler l’âge de manière efficace, vous disposerez donc déjà des outils qui vous permettront immédiatement d’empêcher toute redirection vers une plateforme comme celles que nous avons mentionnées.

M. Anton’Maria Battesti. Ces liens ne sont pas autorisés, quel que soit l’âge de l’utilisateur. Le cas que vous présentez n’est donc pas le plus difficile.

M. Thierry Sother (SOC). Existe-t-il une hiérarchisation des types de contenu qui vous sont signalés ? Une priorité est-elle donnée à certains ? Le cas échéant, quelle est-elle ?

Pouvez-vous nous détailler la procédure de contrôle de la modération par des acteurs physiques et humains, pour chacune de vos plateformes ? Est-elle contradictoire ? La procédure change-t-elle selon l’auteur du signalement – des utilisateurs lambda, des partenaires associatifs, l’Arcom ? Les signaleurs de confiance font-ils l’objet d’une prise en compte différenciée ?

M. Anton’Maria Battesti. Je tâcherai d’être bref, mais le sujet est non pas complexe, mais vaste. Oui, il y a des différences. C’est normal, selon les types de contenu. Les contenus qui portent atteinte à l’intégrité des personnes ou contiennent des menaces doivent être modérés en priorité. Nos règles sont détaillées et nous distinguons des contenus « rouges », qui ne sont jamais autorisés, d’autres contenus, qui sont autorisés selon le contexte.

M. Thierry Sother (SOC). Que sont les contenus « rouges » ?

M. Anton’Maria Battesti. Le cyberharcèlement, la menace, la violence, les propos haineux, tout ce que l’humanité peut produire de pire et qui peut s’exprimer sur les réseaux. Il s’agit de contenus qui ne laissent pas place au doute, comme des menaces de mort. La liste est assez précise.

Chacun peut nous adresser un signalement et sur tout – commentaire, publication, etc. Nous invitons chacun à le faire, car c’est très utile. Mais il y a aussi du bruit, dans les signalements. Parfois, les gens signalent uniquement ce qu’ils n’aiment pas, par exemple les soirs de match de football, ou de performance de tel ou tel artiste. À partir du moment où l’on accepte tous les signalements, c’est normal.

Les gens signalent tout, ce n’est pas toujours pertinent, mais c’est mieux ainsi. Les signalements sont classés par catégorie, ce qui permet de saisir les équipes de modération spécialisées – pour le harcèlement ou les discours de haine, par exemple.

Enfin, il existe deux types de signaleurs de confiance. Le premier est l’État, au travers de Pharos avec qui notre collaboration est excellente, vingt-quatre heures sur vingt-quatre. Il est essentiel que l’État passe par Pharos, quand il veut nous signaler un contenu, car cela permet une qualification juridique qui garantit l’efficacité du processus. Nos autres signaleurs de confiance, comme e-Enfance ou Point de contact, sont reconnus par le DSA et l’Arcom et ont un accès direct à nos équipes de modération.

Vous le voyez, c’est multiforme. L’État et des entités privées peuvent nous signaler des contenus. Malgré tout cela, il peut rester des difficultés. Nous sommes là pour en parler, mais ce système est assez robuste et produit des résultats.

M. Thibault Guiroy. Je ne veux pas répéter ce qu’a dit M. Anton’Maria Battesti, car nous fonctionnons à peu près de la même manière côté YouTube. Nous opérons une hiérarchisation selon le type de signalement.

Nos rapports de transparence, disponibles sur le site de YouTube et sur celui de la Commission européenne, montrent que nous retirons de nombreux spams tous les trimestres. En effet, plusieurs millions de vidéos sont avant tout du spam et du contenu visant à rediriger les utilisateurs hors plateforme, pour leur faire dépenser de l’argent ou les emmener vers des sites de faible qualité. L’intelligence artificielle permet d’appréhender très facilement ces contenus. La machine se nourrit des actions précédentes et de ce qu’ajoutent les modérateurs humains et, in fine, nous aboutirons à un score de pertinence élevé lorsque nous engagerons des actions de modération. Cela nous permettra d’opérer à grande échelle et de supprimer massivement ce type de contenu.

Certains contenus sont assez faciles à appréhender. Pour les plateformes qui interdisent la nudité, par exemple, un algorithme à même de détecter un certain pourcentage de chair devrait être assez efficace.

En revanche, d’autres contenus sont plus compliqués à modérer et imposent de se demander plusieurs fois s’ils relèvent de la liberté d’expression ou s’ils franchissent la ligne rouge. Parfois, il ne faut pas s’en cacher, nos modérateurs prennent les mauvaises décisions. C’est la raison pour laquelle il existe des mécanismes d’appel.

Pendant le covid, nos modérateurs ne pouvaient plus effectuer leur métier correctement, puisqu’ils étaient confinés. Pour protéger leurs familles de contenus choquants, nous nous sommes davantage reposés sur le machine learning et sur l’intelligence artificielle. Nous avons alors constaté qu’on surmodérait et que la possibilité laissée aux gens qui avaient vu leur contenu retiré de faire appel était essentielle. Nous avons également observé un taux de remise en ligne post-appel jamais atteint, pendant cette période, précisément parce qu’on ne peut pas uniquement se reposer sur la machine.

Vous nous avez également demandés si nous prenions différemment en compte les signalements selon leur auteur. Exception faite des signaleurs de confiance, la prise en compte n’est absolument pas différenciée. Nous examinons tout signalement, peu importe la personne dont il émane. Nous sommes même maximalistes. Pour éviter qu’un contenu qui aurait mal été signalé – par exemple un contenu signalé pour pédopornographie, alors qu’il relève de l’incitation à la haine – passe entre les mailles du filet, nous revoyons tous les contenus signalés à l’aune de chacune de nos politiques.

M. le président Arthur Delaporte. Un algorithme peut-il juger en appel, ou est-ce nécessairement un modérateur humain ?

M. Thibault Guiroy. Je ne veux pas vous dire de bêtise, mais je crois que chez nous, les contenus qui font l’objet d’un appel sont systématiquement revus par un modérateur humain. Je le vérifierai et je reviendrai vers vous.

M. le président Arthur Delaporte. J’ai l’impression que chez TikTok, l’appel donne lieu à une revue algorithmique – ce qui explique que le taux de réponse positive en appel soit plus faible.

M. Anton’Maria Battesti. Chez Meta, l’appel est humain. Nous vous fournirons le schéma. La possibilité de faire un vrai appel est une obligation légale. C’est une procédure à prendre très au sérieux. Ce n’est pas juste un gadget.

Mme Aurore Denimal. Il existe trois niveaux d’appel : une première vérification, une deuxième vérification si l’on n’est pas d’accord, puis une troisième, à chaque fois humaine, qui fait tomber les deux premières – sans compter la possibilité de recourir au conseil de surveillance, qui est un organe indépendant, pour un dernier appel.

Mme Claire Dilé. Chez X, les appels donnent lieu à une modération humaine.

Pour la France, il existe deux types de signalement : dans le cadre des règles et dans le cadre du DSA. Dans le cadre des règles, nous avons fait en sorte de rendre le parcours de signalement à la fois simple et complet. Nous posons ainsi plusieurs questions, pour qualifier le type de signalement. Ensuite, le contenu est envoyé à la personne chargée de la modération, qui l’évalue. Si la violation de nos règles est claire, nous appliquons d’emblée une décision de modération – suspension du compte, suspension du contenu, ajout d’un filtre devant le contenu, etc.

Mais, dans certains cas, il convient de faire appel à des équipes plus spécialisées. Quand la personne qui révise n’est pas certaine de la modération à apporter, nous travaillons avec différentes équipes en interne pour essayer de dresser la meilleure évaluation possible du contenu et d’appliquer la règle. Il arrive aussi, comme l’a dit M. Thibault Guiroy, que nous commettions des erreurs, mais il est possible de faire appel. Enfin, pendant que nous procédons à la révision et à l’analyse du contenu, celui-ci reste en ligne.

Mme Laure Miller, rapporteure. Que pensez-vous de la modération chez TikTok ? Vous avez nécessairement un avis, car j’imagine que vous observez vos concurrents et la façon dont ils appliquent les règles. Pouvez-vous nous répondre sans langue de bois ? Vos propos ne seront pas retenus contre vous.

M. Anton’Maria Battesti. C’est la première fois qu’on me demande de me prononcer sur une plateforme concurrente. La réponse simple consisterait à refuser de répondre, mais vous seriez déçue. Je vais donc tâcher de formaliser une réponse, en parlant d’expérience.

D’une part, mes propos vont vous étonner, mais il n’y a pas excès d’honneur ou d’indignité. Beaucoup d’anciens de chez Meta sont partis chez TikTok pour faire de la sécurité – de la safety, dans notre langage – et de la modération. On ne peut pas douter qu’ils veulent bien faire.

D’autre part, nous sommes presque dans une logique de secteur et nous avons tous intérêt à avancer collectivement. Dans l’espace public, j’entends beaucoup « les réseaux sociaux », même si parfois, entre quatre murs, on me dit que c’est un peu mieux chez nous que chez les autres, ou l’inverse. De fait, quand une loi est votée, elle concerne « les réseaux sociaux ».

Qu’il s’agisse de TikTok ou de nous-mêmes, il existe des domaines commerciaux et techniques dans lesquels nous sommes concurrents, mais dans les domaines de la modération des contenus, de la safety et de la protection des jeunes, nous n’avons pas vocation à l’être. Nous travaillons d’ailleurs très bien ensemble. Nous nous voyons, nous sommes souvent dans les mêmes bureaux et dans les mêmes commissions.

Mon intuition est que, quelles que soient les difficultés des uns et des autres – elles existent chez TikTok, mais vous en avez aussi mentionné chez Instagram, je ne vais pas faire de langue de bois –, tout le secteur est impacté par les problèmes rencontrés chez l’un ou chez l’autre. On ne peut donc que s’inviter collectivement à progresser. C’est un message pour nous et pour les autres. Je ne veux pas donner de leçons à qui que ce soit, parce que ce n’est pas simple.

Voilà ce que j’aurais à dire. J’improvise un peu ma réponse, car on ne me la pose jamais ! Au lieu de tenir des propos spécifiques sur une plateforme, qui feront des lignes dans la presse, je préfère faire un zoom arrière et constater que le secteur doit progresser.

Nous n’avons pas d’intérêt individuel à laisser filer les problèmes, y compris parce qu’ils conduisent à des régulations qui nous touchent tous. Voilà ce que j’aurais à dire sur le sujet, en toute humilité.

Mme Claire Dilé. Merci pour cette question, à laquelle nous n’avons pas non plus l’habitude de répondre. Je rejoins les propos de M. Anton’Maria Battesti, d’autant que mon avis serait mal informé, n’étant pas moi-même utilisatrice de TikTok.

Les règles de modération sont toujours adaptées à la réalité d’un service en particulier. Nous appliquons tous une modération adaptée à la façon dont fonctionne notre produit.

Nous observons aussi, à la faveur de cette audition et d’autres réunions, mais aussi de la régulation, une forme de standardisation de la façon dont nous approchons ces problèmes. Nous sommes tous de très grandes plateformes au sens du DSA. À cet égard, nous tirons tous dans le même sens. Même si le DSA s’applique au niveau européen, il exerce aussi une influence sur d’autres juridictions et sur l’évolution en interne de nos réseaux. Il peut arriver que l’on applique une mesure du DSA, puis qu’on l’étende parce que cela a du sens.

En outre, d’autres réseaux sociaux pourraient voir le jour. Cet espace n’est pas figé, comme l’illustre TikTok qui est un réseau social plus récent que d’autres.

M. Thibault Guiroy. Je suis la personne la moins bien placée pour parler de TikTok, parce que je n’utilise pas cette application. Comme l’a rappelé Mme Aurore Denimal, on nous demande parfois pourquoi, alors que telle personne a vu son compte supprimé de telle autre plateforme, nous ne faisons pas de même sur la nôtre. Malheureusement, les créateurs postent des contenus différents selon qu’ils sont sur un réseau social ou sur une plateforme de partage de vidéos ou de streaming comme YouTube. Ainsi, ce n’est pas parce qu’une plateforme a engagé une action à l’encontre d’un contenu, d’un créateur ou d’un influenceur en vertu de ses conditions d’utilisation que nous pouvons faire unilatéralement de même.

Et ce n’est pas parce qu’une plateforme a supprimé un compte que les autres plateformes n’ont pas supprimé qu’elle est plus vertueuse. Nous l’avons vu récemment, lors d’une réunion à laquelle toutes les plateformes étaient présentes, il faut se méfier des décisions de modération qui seraient prises de manière concertée – cela s’appelle une entente – pour couper des comptes unilatéralement, peu importe qu’une infraction ait été constatée sur chacune des plateformes. Je vous rejoins sur ce point, madame Genetet.

Mme Laure Miller, rapporteure. Merci pour vos réponses franches et spontanées. Diriez-vous que l’algorithme de TikTok, qui est assez redoutable, est une source d’inspiration ?

M. Anton’Maria Battesti. Non. Nous avons notre propre identité. Facebook existe depuis 2004, puis il y a eu Instagram, puis Whatsapp, qui ont leur propre identité. Je pense que les gens choisissent un produit parce qu’il correspond à leurs attentes. Ils n’ont pas nécessairement envie qu’Instagram soit comme TikTok. Bien sûr, il y a des tendances : quand tout le monde fait de la vidéo, on trouve de la vidéo partout. Mais chacun est comme il est.

Je pourrais parler d’autres sources de contenu. L’identité du service de l’audiovisuel public n’est pas celle d’une chaîne privée. Je pourrai multiplier les exemples. Je ne crois pas qu’il existe une source d’inspiration en tant que telle.

Pour en revenir au sujet du jour, il n’est pas mauvais de s’inspirer les uns des autres concernant la protection des mineurs. C’est une saine émulation, que les pouvoirs publics peuvent encourager.

Nous parlions de standardisation. Nous sommes dans le champ de la conformité à la loi, mais certaines initiatives sont aussi développées par pure bonne volonté. Je pense au compte « Ado » d’Instragam, qui est notre dernière création, et que nous étendons désormais à Facebook et à toutes nos plateformes. Le législateur pourrait créer une clause du mieux-disant. C’est là que l’État a un rôle à jouer.

M. le président Arthur Delaporte. C’est l’objet de cette commission. Nous devons émettre des préconisations, l’objectif étant de retenir le meilleur de ce qui existe, sans absoudre personne – car ce ne serait pas notre rôle.

M. Anton’Maria Battesti. C’est parfait, alors.

M. le président Arthur Delaporte. Nous avons néanmoins une interrogation. Dans notre idéal, il faudrait retenir le système le plus protecteur. Nous ne le trouvons chez aucun de vous, mais dans d’autres réseaux éthiques qui n’ont pas le même modèle économique et qui ne cherchent pas nécessairement la viralité, mais la qualité.

C’est ce que l’on pouvait retrouver, au départ, chez X ou chez Facebook, quand le contenu défilait sur les « murs » selon une pure logique chronologique. Nous pourrions décider de revenir à cela, mais on nous rétorquerait que nous nous immisçons dans le modèle économique des plateformes. C’est pourtant leur modèle économique qui, en soi, est problématique. Jusqu’où peut-on aller ? Jusqu’où le droit national peut-il aller ?

On peut souhaiter une amélioration et une uniformisation par le haut, mais vous finissez par considérer que ce n’est pas conforme au droit européen. N’y a-t-il pas là un paradoxe ?

M. Anton’Maria Battesti. Nous n’avons ni voulu ni organisé l’Union européenne et le droit européen. Il y a, là aussi, un paradoxe. Alors que nous sommes des mégaplateformes à des échelles continentales, il était plus logique de les réguler à l’échelle continentale.

M. le président Arthur Delaporte. Nous sommes d’accord sur ce point.

M. Anton’Maria Battesti. Pour autant, rien n’empêche une forme de mise en œuvre nationale dans la marge que les législateurs se sont eux-mêmes donnée. Nous en sommes là.

Vous évoquez notre modèle économique vis-à-vis des mineurs. Il n’y a pas de publicité pour les mineurs. Il faut donc aller au-delà de cette question, en se demandant si les contenus sur nos produits sont adaptés aux mineurs, si le temps passé peut entraîner des addictions – sous réserve de définir ces phénomènes –, qui contacte qui sur les réseaux sociaux. Il faut également poser la question de la supervision parentale. Dans tous ces domaines, il peut y avoir des outils à développer, soit que les entreprises les créent d’elles-mêmes, soit que les régulateurs et l’État leur demandent de le faire.

Vous évoquez les réseaux sociaux éthiques. Je ne sais pas de quoi il s’agit exactement. On m’a souvent mentionné Mastodon, mais une étude de Stanford a montré que de nombreux problèmes se posaient avec ce réseau. Il faut se mettre d’accord sur ces notions. Ce n’est pas toujours « small is beautiful ». Il existe des outils et le rôle de la standardisation paraît essentiel, comme dans d’autres domaines de la vie économique, par exemple la sécurité des personnes et des biens. Il existe une marge, qu’il faut trouver.

Mme Laure Miller, rapporteure. Je suis un peu frustrée, car vous auriez pu admettre que TikTok vous a tous un peu inspirés. Le flux vertical et continu de vidéos courtes est une marque de fabrique de cette plateforme. Vous semblez tous avoir repris ce dispositif, efficace pour capter l’attention, qui est né sur TikTok. N’hésitez pas à réagir et à reconnaître que c’est en effet le cas.

Pour en venir à la vérification de l’âge, nous vous « embêterions » moins s’il existait un dispositif efficace. Si nous avions la certitude absolue qu’un enfant de moins de 13 ans ne peut pas arriver sur votre plateforme et voir son contenu, ce serait une immense avancée. Mais ce n’est pas le cas. Je vous entends régulièrement, sur les ondes, plaider pour une réglementation européenne. Cela peut prêter à sourire. N’importe quelle plateforme a la capacité technique d’instaurer un dispositif de vérification de l’âge. Faites-le !

Comprenez-vous que nous soyons agacés, alors que notre objectif est la protection des mineurs, en vous entendant vous renvoyer la balle ? Au bout du compte, nous en sommes encore à discuter de contenus nocifs pour les plus jeunes. Pourquoi n’instaurez-vous pas, avant tous les autres, un dispositif efficace de vérification de l’âge ? Vous pourriez être plus vertueux que les autres.

M. Anton’Maria Battesti. Je vais tâcher de ne pas être trop long, car je vois que le temps passe et j’imagine que les autres ont des choses à dire.

D’abord, je rappelle que notre plateforme n’est pas accessible avant 13 ans.

Ensuite, s’il existe des comptes « Ado » sur Instagram, c’est parce que nous demandons aux utilisateurs de déclarer leur âge. Nous ne faisons pas rien dans ce domaine. Nous analysons les signaux laissant penser que l’âge déclaré n’est pas l’âge réel grâce à l’IA ; nous pouvons également nous appuyer sur des signalements de proches. Si un utilisateur a menti et a en réalité moins de 13 ans, son compte peut être supprimé sans délai.

Si le titulaire d’un compte « Ado », parce qu’il se sent bridé, veut modifier sa déclaration d’âge pour passer de 14 ans à 19 ans, puisqu’une telle modification implique le passage à la majorité, nous vérifions sa véracité, dans une logique de « ceinture et bretelles » grâce à de la reconnaissance de la morphologie du visage ou d’autres dispositifs, qui ont fait leurs preuves – ce qui n’était pas le cas il y a encore deux ou trois ans.

La façon de vérifier l’âge n’est la même pour un mineur et pour un majeur de 18 ans. Des outils se développent, mais même au sein de la communauté d’experts, on sent bien que la difficulté n’est pas la même selon l’âge. À 13 ans, on n’a pas de carte bancaire ou de carte d’identité.

La première brique du système – c’est aussi le sens de notre campagne et je vais m’en expliquer – consiste à considérer que lorsque vous avez 13 ans ou moins, le téléphone n’est pas arrivé par magie dans vos mains. La ligne n’a pas été créée par magie, non plus. Le rôle des parents est réel, comme dans tout acte d’éducation. En outre, la meilleure source pour savoir si un enfant a moins de 13 ans, ce sont tout de même ses parents. Cela étant, nous ne vivons pas dans un monde idéal dans lequel les enfants feraient toujours ce que leurs parents leur disent. La question de la vérification de l’âge est donc posée.

Notre campagne consiste à dire que nous devons faire plus et mieux en matière de vérification d’âge – il n’y a pas de défaut de responsabilité, et nous l’avons précisé dans notre contribution pour le DSA. Toutefois, la solution ne peut être qu’industrielle. Dans l’expérience numérique d’un enfant, il n’y a pas que les réseaux sociaux, mais aussi les sites internet et les jeux vidéo. La solution pourrait être de centraliser le contrôle de l’âge. Toute l’expérience numérique de l’enfant pourrait découler d’une information vérifiée sur l’âge, qui pourrait figurer dans la carte SIM ou dans les magasins d’applications.

Je salue les efforts de Google, qui a ouvert des API (application programming interfaces) dans son magasin d’applications pour permettre une meilleure communication avec les plateformes, dans une logique de « ceinture et bretelles » et pour permettre une meilleure vérification de l’âge.

Tel est le sens de notre campagne. Certes, dans les campagnes radiotélévisées, les messages sont un peu raccourcis et simplifiés, car on veut aller vite et marquer les esprits.

Dans notre domaine, nous ne nous opposons pas les uns aux autres, comme le montrent les solutions envisagées par Google, d’après ce que je lis. Nous évoluons nous aussi. Je pense qu’on va y arriver, avec, pour cadre, les lignes directrices du DSA. Mais cela ne réglera pas le problème de l’accès des jeunes à des contenus problématiques en dehors des réseaux sociaux. Quand des enfants reproduisent Squid Game dans les cours de récréation, c’est un problème. Des enfants de 9 ans qui jouent à GTA, c’est un problème. Des enfants qui regardent « Frenchie Shore », c’est un problème.

La question de la vérification de l’âge se pose pour les réseaux sociaux, c’est normal. C’est l’objet de cette commission et je n’essaie pas d’aller sur d’autres terrains. Mais elle se posera aussi pour tout contenu vidéoludique en ligne. Il faut que nous arrivions à créer un cadre, notamment avec l’identité numérique européenne et tout ce qui est en train de se faire en la matière, pour mieux savoir qui est derrière l’écran et pour que les conditions de l’expérience numérique en général, au-delà des réseaux sociaux, soient encadrées.

L’État et l’Arcom y travaillent aussi. On va y arriver ! Il y a quelques années, le discours consistait plutôt à dire que c’était compliqué. Aujourd’hui, des solutions se développent. Il faut être confiant.

Je ne voulais pas être trop long, mais je voulais exprimer notre bonne volonté.

Mme Claire Dilé. Je serai concise, car beaucoup a été dit.

M. le président Arthur Delaporte. Il y a peut-être aussi moins à dire au sujet de X.

Mme Claire Dilé. La réflexion est la même que chez Meta, puisque nous devons nous aussi mettre en place un dispositif de vérification de l’âge pour protéger les utilisateurs mineurs, et peut-être davantage encore dans la mesure où nous autorisons le contenu pour adultes. Tout l’enjeu est de parvenir à connaître l’âge d’une personne sans l’avoir face à soi. Les utilisateurs de notre réseau ont acheté leur téléphone auprès d’un opérateur téléphonique, et nous ne savons pas qui ils sont.

La vérification doit être sûre, car si le système de vérification n’est pas parfait, il mettra à mal tout l’édifice. Nous avons rencontré plusieurs tiers de confiance qui pourraient nous aider à vérifier l’âge et, comme Anton’Maria Battesti, je pense qu’on va y arriver. Il y a une vraie dynamique au niveau mondial. La France n’est pas la seule à s’interroger. Les États-Unis le font aussi, de même que l’Angleterre où les vérifications s’imposeront à compter de juin 2025 dans le cadre de l’OSA.

M. le président Arthur Delaporte. Quelles seront ces vérifications ?

Mme Claire Dilé. En Angleterre, la loi impose d’instaurer un « highly effective age assurance ». Il faudra travailler avec un tiers qui permettra d’estimer l’âge avec un haut niveau de certitude. C’est le cas de la biométrie, qui n’est pas infaillible, mais l’objectif est de faire le moins d’erreurs possible.

M. le président Arthur Delaporte. La marge d’erreur est importante, puisqu’elle peut être de plusieurs années.

Mme Claire Dilé. En effet. C’est la raison pour laquelle nous avions émis des doutes concernant certains des vérificateurs que nous avions rencontrés, compte tenu d’erreurs quant au genre et à la couleur de peau. Travailler avec un tiers qui commet de telles erreurs est potentiellement discriminatoire.

Je comprends votre frustration face à la lenteur des avancées, mais il faut que nous trouvions un système qui fonctionne. Avec l’application développée au niveau européen et la réflexion autour d’une identité européenne, le système fonctionnera à brève échéance. Si nous avions la solution technique parfaite, nous ne nous poserions pas toutes ces questions. Mais il faut un ensemble de signaux et d’indications pour bénéficier d’une grande certitude.

Il est plus facile d’avoir la personne dont on cherche à vérifier l’âge face à soi. Les citoyens français n’accepteraient pas que X collecte les données des pièces d’identité de tous les utilisateurs pour protéger les mineurs, qui sont moins nombreux que les majeurs sur la plateforme. Il faut trouver une solution qui coche toutes les cases – protection de la vie privée, efficacité et proportionnalité. Nous y travaillons et je pense que, d’ici six mois, de réelles avancées auront eu lieu.

M. Thibault Guiroy. Si une personne veut créer un compte sur YouTube et fournit une date de naissance indiquant qu’il est en dessous de l’âge du consentement, qui est de 15 ans en France, sa tentative de création de compte sera bloquée et nous l’inviterons à nous mettre en relation avec ses parents, pour que nous puissions l’aider à configurer un compte supervisé, au travers de l’application Family Link ou des expériences supervisées.

Si un utilisateur indique qu’il a dépassé l’âge du consentement mais a moins de 18 ans, nous lui proposerons des protections par défaut, comme l’absence de publicités personnalisées et des protections relatives au contenu réservé aux plus de 18 ans.

Si un utilisateur indique qu’il a 18 ans ou plus, nous soumettons les informations associées à son compte à notre modèle d’estimation de l’âge. Ce modèle, développé par Google, est capable d’indiquer l’âge avec un certain degré de confiance. Je pourrai vous communiquer assez rapidement les chiffres sur sa performance. Que l’utilisateur ait plus ou moins de 18 ans, si le modèle estime qu’il est mineur, son compte sera traité comme appartenant à un mineur jusqu’à preuve du contraire – une pièce d’identité, une carte de crédit ou un selfie.

Notre modèle utilise une variété de signaux, notamment les sites que l’utilisateur a recherchés sur Google ou les catégories de vidéos qu’il a visionnées sur YouTube, ainsi que d’autres éléments comme la longévité du compte. Nous partageons ces signaux entre YouTube et Google. Des requêtes relatives à un prêt immobilier ou à une déclaration de revenus, par exemple, sont a priori des signaux qui indiquent que l’utilisateur est probablement majeur. Je précise, à cet égard, que ni Google ni YouTube ne collectent de données personnelles supplémentaires pour entraîner le modèle. Nous utilisons uniquement les données déjà associées au compte de l’utilisateur. Avec ce haut degré de précision du modèle d’estimation de l’âge, nous répondons de manière appropriée durant la courte période de prédiction ou de prédéduction d’un âge qui suit la création d’un compte.

Je reviens sur la solution dont parlait M. Anton’Maria Battesti. Nos collègues ingénieurs de Google ont développé une solution qui a pour but d’aider les développeurs d’applications, quels qu’ils soient, à vérifier l’âge des utilisateurs à l’aide d’un identifiant numérique, tout en préservant leur anonymat. C’est essentiel, l’objectif étant de vérifier l’âge sans collecter trop largement des données personnelles et en évitant les interconnexions systématiques entre l’application de vérification de l’âge et le site ou l’application que consultera l’utilisateur.

Cette API, Credential Manager, crée un canal sécurisé pour le partage des informations d’identité, y compris l’âge, renseignées dans un portefeuille mobile. Pour vérifier l’âge, Credential Manager utilise la technologie de chiffrement zero-knowledge proof, qui permet aux utilisateurs de prouver qu’ils ont plus de 18 ans sans pour autant révéler d’informations supplémentaires, dont leur identité, à l’application.

Cette solution particulièrement robuste pourrait être adoptée à l’échelle internationale. En revanche, nous considérons que passer par les magasins d’applications n’est absolument pas efficace, car personne ne connaît mieux ses utilisateurs que la plateforme elle-même.

Pour en avoir fait l’expérience, il existe de multiples façons de contourner un magasin d’applications et de télécharger des applications par un autre biais. Outre qu’il suffit d’aller sur internet pour accéder à un réseau social sans avoir à télécharger d’application, la pratique du sideloading, largement répandue depuis plus de quinze ans, permet de télécharger des applications depuis des magasins non officiels plutôt que de passer par ceux de Google ou d’Apple.

Je rejoins M. Anton’Maria Battesti quand il considère que nous devons avoir un débat plus large. Est-il souhaitable de bannir les réseaux sociaux ou certains types de contenu avant un certain âge et, le cas échéant, quel âge ? Ce problème ne concerne-t-il qu’un type d’acteur, ou aussi les messageries privées sur lesquelles tout le monde se rabattrait dès qu’un réseau social serait bloqué ? Nous avons besoin d’ouvrir ce débat, qui touche aussi à la liberté d’expression.

Mme Aurore Denimal. Pour mettre un terme à la frustration exprimée par Mme la rapporteure concernant la source d’inspiration que pourrait constituer TikTok, je répondrai de façon factuelle en citant ce que nous avons fait pour les comptes « Ado », pour démontrer que nous avons suivi une logique très différente de celle de la captation de l’attention.

D’abord, après une heure, nous affichons un rappel demandant de fermer l’application – ce n’est donc pas une incitation à y rester.

Ensuite, le mode veille est activé entre vingt-deux heures et sept heures. Il entraîne l’absence de notifications, y compris quand des messages sont reçus.

Enfin, nous permettons aux parents de demander que leur enfant n’ait pas accès à l’application à certaines plages horaires. Nous savons que des adolescents se connectent aux plateformes la nuit. Les parents peuvent demander qu’un écran noir s’affiche.

Mme Claire Dilé. L’entreprise X ne cherche pas à s’inspirer de l’application TikTok. Certes, nous offrons une fonctionnalité spécifique pour les vidéos. Mais ce n’est pas l’écran sur lequel les utilisateurs tombent. S’ils sont sur leur téléphone – car cette fonctionnalité ne fonctionne pas sur un ordinateur –, ils doivent ouvrir une vidéo pour passer à la vidéo suivante. Quoi qu’il en soit, nous constatons que cette fonctionnalité est plutôt sous-utilisée. Ce n’est pas la fonctionnalité principale du service.

Nous essayons de proposer un service unique, car nous avons tous intérêt à nous démarquer les uns des autres sur le plan commercial. La volonté de X est d’être une plateforme publique et conversationnelle.

J’ajoute que les algorithmes de TikTok sont des business secrets. Nous n’avons aucun moyen de les connaître. Peut-être y a-t-il quelque chose à faire pour la transparence algorithmique, qui serait de nature à rassurer les utilisateurs et le public au sens large. Le DSA a apporté une première pierre à cet édifice. Mieux les gens comprennent, plus ils sont maîtres de ce type d’expérience.

M. le président Arthur Delaporte. Nous avons eu des échanges intéressants au sujet des différents mécanismes de vérification de l’âge. Côté Meta, vous diffusez une campagne publicitaire volontariste, pour que soient instaurés de tels mécanismes. Mais si j’entends bien M. Guiroy, le plus efficace serait que la vérification soit menée par les plateformes elles-mêmes puisque, nous dit-il, ce sont elles qui connaissent le mieux leurs utilisateurs. N’est-ce pas contradictoire avec votre idée selon laquelle les plateformes devraient déléguer les choses ?

M. Anton’Maria Battesti. Je vais réitérer mon propos, pour être sûr d’être bien compris. L’objectif de notre campagne n’est pas de se renvoyer la balle. La philosophie qui inspire notre démarche consiste à affirmer que nous pouvons et nous devons faire plus et mieux dans ces domaines – nous l’avons dit dans notre contribution pour le DSA –, mais que nous serons plus efficaces si le contrôle de l’âge est mieux centralisé et l'information mieux partagée, dans la logique de l’API décrite par M. Thibault Guiroy. Si nous pouvons croiser nos données, nous pourrons constater, par exemple, si un utilisateur indique qu’il a 14 ans sur son compte Google ou Apple, mais 16 ans sur son compte Instagram.

Nous vivons dans un monde technologique, dans lequel des solutions technologiques sont possibles. Vous me donnez l’occasion de réexpliquer notre campagne, qui est une publicité et n’entre donc pas dans les détails.

Si l’on met de côté le mot « app store », dans notre appel à une réglementation européenne exigeant la vérification de l’âge et à un accord parental dans les boutiques d’applications, le message est celui d’une meilleure centralisation des informations. L’âge des utilisateurs pourrait figurer dans la carte SIM de leur téléphone, par exemple.

M. le président Arthur Delaporte. Que se passerait-il si vous prêtiez votre téléphone, avec votre carte SIM, à un mineur ?

M. Anton’Maria Battesti. Tout est possible.

M. le président Arthur Delaporte. Que se passerait-il si un mineur utilisait ma tablette ou mon ordinateur, qui n’ont pas de carte SIM ?

M. Anton’Maria Battesti. Nous avons une obligation de moyens. Alors que la vente d’alcool est interdite aux mineurs, vous savez très bien que des mineurs parviennent à s’en procurer.

M. le président Arthur Delaporte. Nous savons tout aussi bien que différents supports permettent de se connecter à un réseau social.

M. Anton’Maria Battesti. C’est la raison pour laquelle il faut impliquer tous les acteurs, des créateurs des systèmes d’exploitation, aux magasins d’applications aux plateformes, pour constituer une chaîne au bout de laquelle il est possible de vérifier la cohérence des informations sur l’âge des utilisateurs.

Une autre solution consisterait à demander une carte d’identité. Mais en a-t-on toujours une à 12 ou 13 ans ? Faudrait-il en faire une exprès pour s’inscrire à un service numérique ? Ces questions peuvent se poser, mais il faut entrer dans le concret du « comment ». Si des solutions paraissent évidentes pour les majeurs, elles le sont moins s’agissant de mineurs, d’autant plus que les parents ne peuvent pas forcément les empêcher d’utiliser des plateformes.

Le débat est le même concernant la pornographie en ligne. Si l’on parvient à imposer une limitation d’âge sur quelques sites, certains se retireront du marché français. En outre, l’offre est pléthorique. Ces sites sont des milliers. Ira-t-on vraiment les chercher un par an ? Soyons sérieux ! Il faut une centralisation, un goulot d’étranglement, un péage.

Plus l’on renforcera le partage de données entre fabricants, opérateurs et plateformes, plus on s’approchera de la solution.

M. le président Arthur Delaporte. Merci. Il reste beaucoup à faire pour mieux protéger les mineurs.

Vous pourrez nous communiquer tout élément complémentaire que vous jugerez utile de porter à la connaissance de la commission, ainsi que les réponses au questionnaire que nous vous avons adressé.

61. Audition de M. Simon Corsin, fondateur de Mindie (mardi 17 juin 2025)

Puis la commission auditionne M. Simon Corsin, fondateur de Mindie ([59]).

M. le président Arthur Delaporte. Nous recevons M. Simon Corsin, fondateur de Mindie. Monsieur, je vous remercie de prendre le temps de répondre à notre invitation. Nous avons souhaité vous entendre en tant que fondateur d’une application qui présentait à l’époque des similitudes profondes avec celle de Musical.ly, qui est devenu ensuite TikTok. Depuis, vous travaillez toujours dans cet écosystème et c’est notamment au titre de votre expertise sur les algorithmes que nous souhaitions vous entendre.

Avant de vous céder la parole, je vous demander de nous déclarer tout intérêt public ou privé qui serait de nature à influencer vos déclarations, par exemple si vous êtes rémunéré par les acteurs du numérique. L’article 6 de l’ordonnance du 17 novembre 1958 relative au fonctionnement des assemblées parlementaires impose aux personnes auditionnées dans le cadre de travaux d’enquête de prêter le serment de dire la vérité, toute la vérité, rien que la vérité. Je vous invite donc à lever la main droite et à dire : « Je le jure ».

(M. Corsin prête serment.)

M. Simon Corsin, fondateur de Mindie. Cofondateur de Mindie, je suis aujourd’hui employé par Snapchat depuis un peu plus de huit ans. Je travaille sur les applications mobiles sur réseau depuis douze ans. J’ai travaillé entre 2013 et 2014 sur Mindie, qui était une application de vidéos courtes, dont l’expérience était très similaire à celle de TikTok. Chez Mindie, j’étais le directeur technique, je m’occupais de l’implémentation d’à peu près tout, depuis le back-end jusqu’à l’application sur mobile en tant que telle.

Je suis désormais prêt à répondre à vos questions.

Mme Laure Miller, rapporteure de la commission d’enquête sur les effets psychologiques de TikTok sur les mineurs. Je vous remercie d’avoir répondu favorablement à notre invitation pour essayer de décortiquer cette application TikTok, puisque vous connaissez sans doute bien son algorithme. Dans un premier temps, pourriez-vous nous dire s’il existe une spécificité TikTok par rapport aux autres plateformes en matière d’algorithmes ?

M. Simon Corsin. Une des spécificités de TikTok concerne effectivement les algorithmes de recommandation, qui ont connu plusieurs générations. Ces algorithmes gèrent notamment l’affichage qui apparaît lorsqu’un utilisateur ouvre l’application. Au début des réseaux sociaux, il s’agissait surtout des personnes que l’utilisateur suivait, selon le principe des followers, c’est-à-dire les contenus qu’ils postaient, par ordre chronologique décroissant, en commençant par les contenus les plus récents. Ensuite, se sont développés des algorithmes de recommandation sur des pages distinguant les contenus suivis et les contenus recommandés par l’application.

Ces premiers algorithmes étaient quelque peu limités et TikTok a contribué à transformer le paysage. L’algorithme de TikTok est dynamique et recommande aux utilisateurs des contenus lors de l’utilisation de l’application en elle-même. TikTok détecte les contenus appréciés par les utilisateurs et essaye de trouver des contenus similaires. L’une des caractéristiques de TikTok repose précisément sur sa capacité rapide d’apprentissage. Ce modèle a influencé quasiment toutes les autres applications qui diffusent du contenu, à l’instar de YouTube. En revanche, je ne peux pas vous donner des détails techniques sur la manière dont l’algorithme de TikTok fonctionne.

Mme Laure Miller, rapporteure. Estimez-vous que TikTok a influencé les autres plateformes comme Meta, YouTube ou X, dans la manière de recommander des contenus ou de présenter les vidéos, par exemple ? Je pense notamment au concept des vidéos verticales qui n’existaient pas auparavant sur les autres plateformes.

M. Simon Corsin. TikTok a influencé l’ensemble du paysage numérique, de deux façons. La première manière concerne le design comme vous avez indiqué. Ce design était fondé sur celui de Musical.ly et de Mindie. Dans ce design, lorsqu’il ouvre l’application, l’utilisateur tombe directement sur un fil de vidéos en plein écran, c’est-à-dire un fil vertical, de carte à carte, de vidéo à vidéo. Ce modèle a été inventé par Mindie, mais nous n’imaginions pas qu’il deviendrait un standard. TikTok a connu un très grand succès et de nombreuses autres applications ont commencé à copier ce format, en adoptant à chaque fois un nom différent : « Shorts » sur YouTube, « Reels » sur Facebook, « Spotlight » pour Snapchat.

Au-delà du design, TikTok a modifié l’approche des algorithmes des autres applications, depuis un modèle où il faut trouver des gens à suivre pour obtenir du contenu vers du modèle fondé sur l’algorithme de recommandation.

Mme Laure Miller, rapporteure. Lorsque nous avons reçu les responsables de TikTok la semaine dernière, nous avons essayé de mettre en lumière une distinction entre d’une part recevoir du contenu parce qu’on l’apprécie, en en fonction de ses centres d’intérêt ; et d’autre part, recevoir du contenu parce que l’on a passé un peu plus de temps sur une vidéo, y compris lorsque cette vidéo nous a sidéré par sa violence ou son contenu choquant, de manière plus générale. Pensez-vous que l’algorithme pourrait techniquement établir la même distinction entre les deux et par conséquent, ne pas nous fournir sans cesse du contenu qui nous a choqués ?

M. Simon Corsin. Il faudrait que l’application soit capable de savoir effectivement si l’on aime le contenu ou si l’on est simplement sidéré. Auparavant, un signal existait, le « like », mais il devient de moins en moins utilisé. Par exemple, YouTube mettait en avant le nombre de « likes » et le nombre de « dislikes » et affichait même un graphique qui récapitulait la répartition. Lorsque le nombre de « dislikes » était élevé, cela permettait notamment de se poser des questions sur la véracité des contenus.

En revanche, les algorithmes de recommandation ont pour objet d’optimiser le temps passé sur l’application, en s’appuyant sur « l’engagement » des utilisateurs. Les développeurs qui travaillent sur ces applications traquent les métriques (metrics) clés, comme le temps passé sur l’application chaque jour, le temps passé sur une vidéo, le nombre de vidéos regardées. Cela leur permet ensuite d’affiner, de « tweaker » les algorithmes pour essayer de maximiser le résultat. Ces metrics sont ensuite anonymisés, chez les entreprises qui respectent la vie privée.

Toutes les entreprises utilisent un système de test A/B (ou A/B testing), qui consiste à tester des petites modifications de l’application sur une partie de la population. Par exemple, une modification peut consister à passer à la vidéo suivante automatiquement, après dix secondes. Les résultats sont ensuite analysés pour estimer si cette modification améliore l’engagement, si les utilisateurs restent plus longtemps sur l’application, s’ils l’ouvrent plus fréquemment, c’est-à-dire les buts recherchés par la plateforme.

Mme Laure Miller, rapporteure. Si je vous comprends bien, ces plateformes, et TikTok en particulier, auraient tout à fait les moyens techniques de réussir à cibler les contenus les plus problématiques, en tout cas ceux qui sont négatifs, pour essayer de les mettre moins en avant par rapport aux contenus positifs. Elles pourraient effectuer ces tests et estimer l’impact sur les utilisateurs, leur temps d’utilisation de l’application.

M. Simon Corsin. Comment définir un contenu « négatif » ? Comment le définissez-vous ?

Mme Laure Miller, rapporteure. Il existe quelques grandes tendances malgré tout, comme le hashtag #SkinnyTok à une certaine période sur TikTok. Les plateformes pourraient tout à fait modérer d’une meilleure manière ce genre de contenus, mais elles ne le font pas, notamment par mauvaise volonté.

M. le président Arthur Delaporte. Pour compléter l’intervention de Mme la rapporteure, laissez-moi évoquer ce que nous avons vécu la semaine dernière, lorsque nous avons auditionné des influenceurs. À cette occasion, des extraits des auditions ont été montés et exposés sur les réseaux sociaux auprès d’un public qui n’avait jamais entendu parler de la commission d’enquête TikTok. Ces clashs mis en scène ont suscité des milliers, voire des millions de vues. Or nous avons l’impression que cette prime à la radicalité est encore plus importante sur TikTok que sur d’autres réseaux.

M. Simon Corsin. Je vois là plusieurs problématiques, plusieurs challenges. Comment décider qu’un contenu est radical ? Comment considérer qu’un contenu ne doit pas figurer sur la plateforme ? Certains choix peuvent être assez simples, comme l’exclusion de contenus pornographiques, puis leur détection, afin de les éliminer. En revanche, il est difficile de contrôler tous les débats au risque de porter atteinte à la liberté d’expression. Faut-il interdire ceux qui parlent mal d’Israël ou à l’inverse ceux qui en disent du bien ?

Le deuxième défi consiste précisément à détecter ces contenus radicaux. C’est assez simple pour des contenus pornographiques qui reposent sur l’image, mais il est beaucoup plus compliqué de déterminer si un message passé par une vidéo est radical ou non. Ce travail nécessite une action humaine de modération.

M. le président Arthur Delaporte. Cet aspect figure également au cœur de nos questionnements. Il ne s’agit pas de considérer le bien ou le mal, mais des messages peuvent entraîner des effets négatifs, observables sur le réel. La question consiste ici à savoir s’il est possible d’avoir une approche préventive face à un contenu qui n’est pas forcément problématique pris isolément, mais peut le devenir lorsqu’il est massifié, redondant et présenté de manière répétitive à l’utilisateur. Les effets d’amplification algorithmique font partie de nos questionnements.

Mme Laure Miller, rapporteure. Ces interrogations existent depuis longtemps. Elles portent notamment sur la qualification des plateformes : sont-elles de simples hébergeurs ou de véritables éditeurs de contenu ? Compte tenu de la force de l’algorithme qui permet de mettre en avant des contenus, considérez-vous qu’elles sont aujourd’hui de simples hébergeurs ou faudrait-il, selon vous, changer leur qualification pour leur reconnaître un rôle éditorial ?

M. Simon Corsin. Cela dépend des entreprises. Certaines d’entre elles peuvent y être attachées car elles veulent rendre la plateforme « safe ». D’autres plateformes comme X (ex Twitter) mettent plus l’accent sur la liberté absolue d’expression. Je n’ai pas de solution définitive à fournir, il s’agit d’un problème délicat.

Mme Laure Miller, rapporteure. En effet. Quand vous avez créé votre application et avec ce concept de vidéos qui défilent en plein écran de façon infinie, vous êtes-vous interrogé sur l’impact, c’est-à-dire la dépendance suscitée par un fil de vidéos sans fin dont on ne sait pas quelle sera la vidéo suivante ? Par essence, le mécanisme est addictif, l’utilisateur a sans cesse envie de savoir quelle est la vidéo suivante. D’une certaine manière, il existe un phénomène de récompense.

M. Simon Corsin. Comment établir la distinction entre un algorithme de recommandation addictif et un algorithme de recommandation qui fonctionne bien ? Un algorithme de recommandation qui ne fonctionne pas ne sera pas addictif : si je vous montre les vidéos que vous n’aimez pas du tout, il n’y aura forcément pas de phénomène d’addiction. En revanche, si je réalise un très bon travail, que je vous donne les vidéos que vous voulez voir absolument et que vous n’arrivez pas à décrocher parce que vous êtes trop engagé dans cette application, cela signifie que l’algorithme de recommandation fonctionne extrêmement bien. Chaque application essaie d’atteindre ce niveau. Nous n’y sommes pas parvenus avec Mindie ; si tel avait été le cas, nous serions devenus ce que TikTok est devenu aujourd’hui. Les utilisateurs retournaient sur notre application de manière assez régulière, mais il n’y avait pas encore ce niveau d’addiction.

Une partie de notre formule, le design avec le feed vertical, fonctionnait bien, mais nous ne disposions pas encore de la partie recommandation. Nos algorithmes étaient simples à l’époque, il n’existait pas encore d’algorithmes qui apprenaient en fonction de l’expérience de l’utilisateur.

Mme Laure Miller, rapporteure. Diriez-vous que TikTok est addictif ?

M. Simon Corsin. Je ne suis pas un utilisateur de TikTok, mais j’utilise des applications qui proposent des expériences similaires. Elles sont relativement addictives car l’utilisateur est bombardé de contenus personnalisés, que l’utilisateur a plus de chance d’apprécier.

Les fabricants Apple et Google ont mis en place des systèmes pour permettre aux utilisateurs de contrôler un peu mieux leur utilisation du téléphone, qu’il est possible de bloquer à partir d’un certain temps d’utilisation par exemple. L’industrie reconnaît l’existence du problème, mais simultanément il n’est pas dans l’intérêt des producteurs d’applications que celles-ci soient moins utilisées.

Les applications peuvent être addictives. Je ne pense pas que cela soit forcément un problème en soi pour les adultes à partir du moment où ils sont capables de se maîtriser. Je ne pense pas que le niveau d’addiction soit semblable à celui de la drogue, c’est-à-dire une addiction de type physique. La question est peut-être plus problématique pour les plus jeunes, qui ont moins de contrôles d’eux-mêmes.

Mme Laure Miller, rapporteure. C’est la raison pour laquelle notre commission d’enquête se concentre en effet plutôt sur les mineurs, qui sont moins en mesure de gérer ces aspects addictifs.

Je souhaite revenir sur la question des contenus. Vous avez souligné la difficulté de qualifier un contenu « positif » par rapport à un contenu « négatif ». Cependant, il est possible de reprocher à TikTok sa politique de modération, qui paraît quand même assez faible. Nous avons reçu la semaine dernière les responsables de la plateforme et avons évoqué avec eux les contenus qui portent sur la scarification ou l’incitation au suicide. Naturellement, ils en modèrent une partie. Mais nous leur avons expliqué que les jeunes pouvaient déjouer la modération en utilisant certains mots-clefs ou certaines émoticônes, qui sont pourtant connues de tous ; par exemple le drapeau suisse pour le suicide, le zèbre pour la scarification. Pour autant, les contenus associés subsistent sur la plateforme.

D’après vous, seraient-ils techniquement en mesure de pouvoir supprimer tous ces contenus ? Aujourd’hui, il suffit de se mettre à jour très régulièrement ; ils pourraient tout à fait modérer, a priori, ces contenus.

M. Simon Corsin. Il existe un rapport direct entre la qualité de la modération et son coût. Plus vous investissez d’argent dans la modération, plus sa qualité va s’améliorer. Prenons deux exemples extrêmes. Si aucune somme n’est investie, tous les contenus sont ouverts, la qualité de modération sera très mauvaise. À l’inverse, si chaque vidéo postée est vérifiée et validée par un humain, le coût sera très élevé et cela ralentira le flux des vidéos.

En pratique, les entreprises recherchent un entre-deux, en essayant d’avoir un ratio correct de faux négatifs et de faux positifs, au coût le plus faible possible. Cela dépend également de leur tolérance au backlash public. Une entreprise dont la tolérance pour le backlash est faible investira peut-être plus dans la modération pour réduire le nombre de posts négatifs.

Il est également possible de déterminer une règle de suppression du contenu quand le nombre de reports atteint un certain seuil. Cette solution présente l’avantage d’être simple, à moindre coût. Il est aussi envisageable d’élaborer des algorithmes de plus en plus compliqués qui impliquent plus ou moins d’humains, mais à un coût plus élevé. Il est toujours possible d’établir une modération parfaite, mais son coût peut devenir prohibitif, au point de rendre des plateformes sociales non rentables.

Cependant, je pense que nous sommes à l’aube d’un grand changement dans ce domaine, grâce à l’intelligence artificielle (IA). Dans un futur extrêmement proche, voire dès aujourd’hui, la modération pourra être effectuée par l’IA, de manière plus automatisée. J’estime que nous pourrions très bientôt obtenir une modération bien plus efficace qu’aujourd’hui, à un coût raisonnable.

Mme Laure Miller, rapporteure. Vos propos corroborent notre impression. Nous avons le sentiment que les plateformes se laissent une marge d’erreur aujourd’hui mais que si elles y consacraient plus de moyens, elles pourraient éviter cette marge d’erreur. Or nous avons essayé de leur expliquer que derrière cette marge d’erreur, des enfants, des jeunes, des personnes vulnérables sont parfois profondément affectées par des contenus qu’elles n’auraient pas dû voir.

M. Simon Corsin. Il faut considérer deux variables : d’une part le coût, et d’autre part, le nombre de faux positifs et de faux négatifs. Les entreprises décident de la balance, de l’arbitrage. En limitant moins la liberté d’expression, on court plus de risque de faux négatifs, c’est-à-dire laisser des contenus qui devraient être supprimés. Inversement, on peut retirer du contenu qui a pourtant respecté les conditions d’utilisation. Chaque entreprise détermine sa politique dans ce domaine.

Mme Laure Miller, rapporteure. Il serait possible d’éviter de trop se poser ce genre de question si nous avions la garantie qu’aucun mineur de moins de 13 ans – puisque ces plateformes-là sont théoriquement interdites aux moins de 13 ans – n’est effectivement présent sur la plateforme. Dès lors, les risques pour la plateforme de mettre ces images à disposition d’enfants et de jeunes publics seraient évidemment très réduits.

Aujourd’hui, la question de la vérification de l’âge est centrale. Mais les plateformes se renvoient un peu la balle en considérant que ce sujet doit être traité par un autre maillon de l’industrie ou par une réglementation uniforme, par exemple au niveau européen. Elles demandent à être dotées de solutions techniques, alors que nous avons malgré tout le sentiment qu’elles pourraient d’elles même le faire, du strict point de vue technique. Partagez-vous l’idée selon laquelle la vérification de l’âge pourrait tout à fait s’effectuer librement si les plateformes le décidaient aujourd’hui ?

M. Simon Corsin. Oui, mais de mon point de vue, il ne s’agirait pas de la méthode la plus efficace. Je pense que cet aspect devrait être centralisé, par exemple au niveau des opérateurs systèmes sur mobile, qui ne sont pas très nombreux puisqu’il s’agit surtout d’iPhone et d’Android. Il pourrait leur être demandé de vérifier l’âge de la personne qui utilise le téléphone, par exemple la première fois que l’utilisateur installe le téléphone, ce qui permettrait de limiter le nombre d’applications disponibles depuis l’Apple Store.

Mme Laure Miller, rapporteure. Mais rien ne l’empêche de le faire techniquement, n’est-ce pas ?

M. Simon Corsin. C’est exact. Rien ne l’empêche, d’un point de vue technique.

Mme Laure Miller, rapporteure. Cette méthode serait sans doute très imparfaite puisque chaque plateforme aurait une méthode, une technique différente ; mais elle aurait le mérite d’exister. Aujourd’hui, le système n’est vraiment pas satisfaisant. Vous connaissez comme moi les chiffres concernant le nombre de jeunes de 11 ans ou 12 ans qui sont déjà présents sur ces plateformes, alors qu’ils ne le devraient pas les consulter.

Quel regard vous portez-vous sur le débat actuel concernant une interdiction des réseaux sociaux avant un certain âge, par exemple avant 15 ans ou 16 ans ?

M. Simon Corsin. Au préalable, je souhaite revenir sur la question précédente, pour rajouter un élément. Si la vérification d’âge est effectuée sur chacune des applications, il est assez facile maintenant pour un enfant d’installer une application, puis de demander à un adulte de vérifier l’âge. En revanche, il est plus efficace de le faire au niveau du système d’exploitation, puisque l’on peut présumer que ce sont les parents qui achètent le téléphone à leurs enfants. Ces parents pourraient aussi être informés, voire « éduqués » sur le système de vérification d’âge. Cette procédure empêcherait l’enfant d’installer une application qui serait illégale et offrirait moins de possibilités de détournement.

Ensuite, vous avez évoqué l’interdiction des réseaux sociaux avant un certain âge. Je n’y suis pas opposé, mais il convient de définir précisément cet âge, ce qui ne relève pas de ma compétence.

Mme Laure Miller, rapporteure. Nous avons reçu plusieurs plateformes, dont TikTok, mais aussi Meta, YouTube et X. Leur stratégie consiste à nous expliquer toutes les actions qu’elles mettent en place pour accompagner les enfants sur leurs plateformes respectives, comme l’information du temps passé sur l’application. Il existe aussi une possibilité de supprimer l’algorithme de recommandation par défaut. Mais ces dispositifs sont optionnels et parfois difficiles à activer.

Quel regard portez-vous sur ce que les plateformes qualifient d’améliorations pour protéger davantage les mineurs ? Estimez-vous qu’il s’agit surtout de plaidoyers sur des petites protections, sans véritables effets réels, alors que les plateformes pourraient tout à fait configurer l’application pour qu’elle soit protectrice par défaut pour les mineurs ? Nous avons l’impression que certaines mises à disposition existent, mais de toute évidence, un jeune ne va pas se limiter lui-même si on ne le contraint pas à le faire. Par essence, il a envie de passer plus de temps, de tout voir et d’être libre sur la plateforme.

M. Simon Corsin. Je ne suis pas certain que ce genre de fonctionnalité ait vraiment pour objet de protéger les enfants. On peut plutôt les concevoir comme des atouts marketing à destination de l’adulte responsable de l’enfant, pour qu’il puisse décider des applications qui pourront être utilisées.

Mme Laure Miller, rapporteure. Vous recommandez des vérifications d’âge au niveau du système d’exploitation du téléphone plutôt que sur chaque application. Mais qu’en est-il des ordinateurs ? Aujourd’hui, il est possible de se connecter à ses applications autrement que par le simple téléphone. Faudrait-il verrouiller tous les outils numériques ?

M. Simon Corsin. Pour être véritablement sérieux, il faudrait établir un verrou en amont, plutôt que sur chaque application.

M. René Lioret (RN). Mon intervention est celle d’un néophyte. Grâce à l’intelligence artificielle, ne serait-il pas possible de « contrer » ces algorithmes de recommandation ? Ne serait-il pas possible de définir une sorte seuil de saturation, plutôt que de reproduire à l’envi des contenus, en particulier s’agissant d’images violentes ou d’images apologétique du suicide ou de la scarification ? Nous savons bien que ces phénomènes touchent en particulier les jeunes plutôt que des adultes de 30 ans ou de 40 ans.

Je tiens à ce titre à vous faire part de mon expérience. Je m’intéresse aux chevaux et j’ai regardé deux vidéos concernant le nettoyage des sabots infectés de chevaux. Au bout de deux vidéos, j’en avais assez car ce nettoyage n’est pas très agréable à visionner. Pourtant, l’algorithme m’a proposé d’autres vidéos du même type. À partir d’un moment où l’on a vu deux ou trois vidéos, n’est-il pas possible d’inverser le système, en particulier pour des sujets que l’on sait sensibles et qui sont visionnés de préférence par les jeunes ?

M. Simon Corsin. Qu’entendez-vous par « inverser le système » ?

M. René Lioret (RN). Je parle d’une régulation des algorithmes, qui estimeraient avoir envoyé suffisamment d’images et de vidéos sur un appareil et décideraient donc d’inverser la fréquence.

M. Simon Corsin. Oui, c’est tout à fait possible. Il en va d’ailleurs de l’intérêt de l’algorithme, dont le but consiste à capter un utilisateur de manière un peu infinie. Si l’utilisateur est trop « matraqué » de vidéos similaires, à un moment donné, il en aura assez et partira.

M. René Lioret (RN). Les hébergeurs sont quand même, d’une certaine manière, responsables des conséquences de cet hébergement. Il leur reviendrait donc de calmer le jeu et de limiter les risques. Je comprends que derrière cette problématique de la capture de l’attention, l’objectif consiste à générer des profits. Mais on ne peut pas tout faire non plus au nom du profit.

M. Simon Corsin. Je l’entends, mais de quoi s’agit-il en l’espèce ? Rendre l’algorithme moins addictif ?

M. René Lioret (RN). Oui, le rendre moins addictif en inversant la situation. Plus un jeune qui a des idées suicidaires recevra des propositions pour passer à l’acte plus facilement, plus il sera fragilisé. Plus globalement, je pense à tout ce qui peut mettre en jeu la santé mentale et la vie des enfants.

M. Simon Corsin. Je suis votre raisonnement, mais j’essaye de réfléchir à la possibilité technique de procéder, la manière d’établir un framework. À partir de quand définir le seuil de saturation ? Par exemple, si vous êtes passionné de chevaux et que vous voulez regarder le nettoyage de sabots pendant deux heures, à partir de quel moment cela devient-il un problème ? En fonction de tel ou tel sujet, de tel ou tel topic, la durée ne sera pas la même.

M. René Lioret (RN). Après avoir visionné quatre à cinq nettoyages de sabot, on en a assez de voir le pus qui dégouline. Ce n’est pas si grave en soi ; si l’on veut visionner d’autres vidéos du même type, c’est que l’on a des penchants morbides. Mais cela n’est pas du même registre que des vidéos affectant la santé mentale, comme des contenus pornographiques, des contenus portant sur la scarification, le suicide. Une personne en pleine forme, en bonne santé, ne passe pas son temps à regarder ce genre de vidéos.

M. Simon Corsin. Dans ce cas, il faudrait définir clairement les contenus dont le visionnage prolongé peut affecter la santé mentale. Mais sur le strict plan technique, il est complètement possible de limiter l’exposition.

M. René Lioret (RN). Je suis d’accord avec vous, il revient au législateur de définir ces contenus sensibles, de mettre des barrières.

Mme Laure Miller, rapporteure. C’est effectivement l’enjeu de la discussion que nous menons depuis tout à l’heure, c’est-à-dire savoir où l’on place le curseur entre le contenu négatif et le contenu positif, où s’arrête la liberté d’expression quand les contenus ne sont pas illégaux. Monsieur Corsin, souhaitez-vous rajouter des éléments concernant une limitation de l’algorithme de recommandation ?

M. Simon Corsin. Pour moi, la limitation devrait s’appliquer à des sujets prédéfinis. Il est délicat de décider que tel ou tel sujet de société ne doit pas être propagé, mais il est plus simple d’agir si l’on est capable de définir précisément quels sont les sujets que l’on ne veut pas exposer à toute la population ou à une partie d’entre elle, comme les plus jeunes. Je pense par exemple à des thématiques concernant la scarification, le suicide, la drogue.

Mme Laure Miller, rapporteure. Cette question est effectivement plus large et dépasse le périmètre de notre commission d’enquête. Il semble que chaque jour sont visionnés dans le monde l’équivalent de 120 000 années de vidéos. Or, sur ces 120 000 années de vidéos, les trois quarts sont en réalité des vidéos qui sont le fruit d’une recommandation algorithmique. À l’aune de ces chiffres, il est assez vertigineux d’observer la manière dont les plateformes façonnent aujourd’hui notre représentation du monde. Qu’en pensez-vous ?

M. Simon Corsin. Je vous avoue ne pas passer énormément de temps sur les applications qui utilisent des fils de recommandation ; je suis un peu « vieux jeu » dans ce domaine. J’ai besoin d’avoir confiance dans le contenu que je regarde, surtout face à des types d’algorithme qui mettent en avant des contenus qui peuvent être potentiellement provocateurs ou contraires aux idées qui sont les miennes.

Je ne vais pas forcément avoir confiance dans ces algorithmes de recommandation parce qu’ils m’obligeraient à passer beaucoup de temps pour vérifier leur source. Mais je vois bien que cet effort de recherche n’est pas partagé par tous, notamment les plus jeunes. Leur esprit critique n’est peut-être pas encore assez développé, ou alors on ne leur a pas encore bien expliqué. Ils peuvent se contenter de consulter un contenu parce qu’il est populaire, sans chercher à questionner sa véracité.

Mme Laure Miller, rapporteure. Ma question est un peu indiscrète. J’ignore si vous avez des enfants ; mais si tel était le cas, les autoriseriez-vous à aller sur TikTok ?

M. Simon Corsin. Pas jusqu’à un certain âge.

Mme Laure Miller, rapporteure. Avez-vous des recommandations à formuler ou des éléments complémentaires à transmettre qui nous seraient utiles pour notre bonne compréhension de la plateforme ?

M. Simon Corsin. Non, je n’ai pas d’idées particulières à formuler.

Mme Laure Miller, rapporteure. Vous travaillez pour Snapchat. De quel ordre est l’algorithme de Snapchat par rapport à celui de la plateforme TikTok ?

M. Simon Corsin. Ne travaillant pas sur l’algorithme de Snapchat, je ne peux pas vous répondre.

Mme Laure Miller, rapporteure. S’agit-il également d’un algorithme de recommandation ? Est-ce la même idée ?

M. Simon Corsin. Oui, c’est la même idée.

Mme Laure Miller, rapporteure. Je vous remercie d’avoir répondu à notre convocation et vous demande de bien vouloir compléter le questionnaire qui vous a été envoyé. Vos réponses seront utiles à notre commission d’enquête.

62. Audition de M. Laurent Marcangeli, ministre de l'action et de la fonction publique et de la simplification (jeudi 19 juin 2025)

La commission auditionne M. Laurent Marcangeli, ministre de l'action et de la fonction publique et de la simplification ([60]).

M. le président Arthur Delaporte (SOC). Nous poursuivons nos auditions en accueillant M. Laurent Marcangeli, ministre de l’action publique, de la fonction publique et de la simplification, et ancien député, qui avait été à l’origine de la loi n° 2023-566 du 7 juillet 2023 visant à instaurer une majorité numérique et à lutter contre la haine en ligne.

Merci d’avoir répondu à notre invitation. Votre audition est importante pour nous : il s’agit de réfléchir, d’une part, aux raisons qui vous ont conduit à proposer cette loi et, d’autre part, aux difficultés que l’on peut rencontrer pour appliquer de telles normes.

Nous recevrons à votre suite Mme Clara Chappaz, ministre chargée de l’intelligence artificielle et du numérique.

Au préalable, je vous remercie de nous déclarer tout intérêt public ou privé de nature à influencer vos déclarations. Enfin, l’article 6 de l’ordonnance du 17 novembre 1958 relative au fonctionnement des assemblées parlementaires impose aux personnes auditionnées par une commission d’enquête de prêter le serment de dire la vérité, toute la vérité, rien que la vérité.

(M. Laurent Marcangeli prête serment.)

M. Laurent Marcangeli, ministre de l’action publique, de la fonction publique et de la simplification, ancien député. Je suis honoré d’être auditionné par votre commission d’enquête pour évoquer cette loi, sa genèse et son parcours.

Nombreux sont ceux qui surfent actuellement sur le sujet de la protection des mineurs sur les réseaux sociaux pour obtenir des likes faciles, sans vraiment s’investir ni proposer de solution réaliste. J’entends beaucoup les formules « y’a qu’à, faut qu’on » qui, comme je me suis intéressé à la question, m’irritent par leur absence de fond. Je suis donc très heureux que votre commission d’enquête parlementaire se saisisse du sujet.

Pour moi, ce n’est pas une affaire de communication opportuniste mais un combat très sérieux, que je mène depuis la campagne électorale de 2022 et ma réélection comme député. La protection de nos enfants n’est pas un trend TikTok mais une responsabilité au cœur de mon engagement politique depuis toujours. Ce qui importe, c’est que le sujet avance – ce qui est le cas – et que notre jeunesse soit enfin protégée face au laisser-faire et au laisser-aller de ces quinze années de montée en puissance des réseaux sociaux, qui n’ont que trop duré. Je souhaite aussi responsabiliser les parents, qui ont un immense rôle à jouer face au défi que représente la supervision de l’activité en ligne de leurs enfants.

Je suis auditionné en ma qualité d’ancien député et non en tant que ministre. Aussi, je n’aurai peut-être pas toutes les réponses à vos questions puisque je ne suis intervenu ni sur le volet technique de la loi ni sur sa mise en œuvre, vu que je n’étais pas membre du Gouvernement. La ministre Clara Chappaz pourra tout à l’heure présenter la position du Gouvernement actuel sur la régulation des plateformes au niveau technique, question à laquelle elle s’intéresse beaucoup.

Je me suis engagé personnellement pour la protection de la jeunesse dans l’espace numérique dès le début de mon mandat en 2022, en prenant l’initiative de la proposition de loi visant à instaurer la majorité numérique. C’était d’abord un engagement de campagne. En effet, dès 2022, je m’étais aperçu lors des réunions publiques que l’auditoire réagissait à mes propositions visant à mettre fin à l’impunité sur les réseaux sociaux et dans le monde numérique en général, dans la mesure où ceux-ci détruisaient nos générations futures. J’employais alors ces termes très forts et je n’ai aujourd’hui rien à y changer puisque je constate que la situation va de mal en pis.

À l’Assemblée nationale, j’ai travaillé avec un collaborateur pour élaborer une proposition de loi visant à instaurer une majorité numérique et à lutter contre la haine en ligne. Ce texte procédait donc d’une intuition personnelle et politique assez forte. Je suis aussi père et, même si mes enfants sont encore trop jeunes pour être présents sur les réseaux sociaux, je les surveille et je remarque des évolutions sociales qui peuvent faire peur. Ce débat mobilise d’ailleurs beaucoup de familles, comme l’ont montré les nombreux messages que j’ai reçus en m’emparant du sujet. C’est en outre un débat mondial, puisque d’autres pays sont concernés par cette réflexion.

J’ai ensuite échangé avec les associations spécialistes du sujet – l’Observatoire de la parentalité et de l’éducation numérique (Open), l’Union nationale des associations familiales (Unaf), e-Enfance – et même avec des philosophes. Je tiens à remercier une nouvelle fois M. Gaspard Koenig pour nos discussions. Aussi bizarre que cela puisse paraître – et alors qu’il est un des penseurs les plus libéraux de notre époque – il plaidait pour une interdiction pure et simple des réseaux sociaux aux moins de 18 ans. Il m’avait alors expliqué pourquoi ; je vous invite à consulter sur son blog le billet publié à ce sujet. Enfin, j’ai eu recours à des sources anglo-saxonnes, fiables, pour suppléer au manque de données scientifiques sur les répercussions psychologiques d’une surexposition aux réseaux sociaux. Le professeur américain Jonathan Haidt a en effet été précurseur dans la compilation des études et des recherches menées dans le monde entier sur le sujet.

J’ai très vite compris que nous faisions face à un double défi, à la fois de santé publique et de protection de l’enfance. La Commission nationale de l’informatique et des libertés (Cnil) a ainsi évoqué « une massification des usages numériques chez les enfants ». Vous connaissez ces chiffres édifiants qui établissent que 82 % des enfants de 10 à 14 ans se connectent aux réseaux sociaux sans encadrement parental, que plus de la moitié de cette tranche d’âge a déjà été présente sur les réseaux sociaux, que les enfants créent en France leur premier compte à l’âge de 8 ans et demi et que 70 % des enfants regardent seuls des vidéos en ligne. Vous connaissez également les risques de ces usages numériques : addiction, dépression, perte d’attention, perte de repères et inégalités accrues chez les plus jeunes. J’insiste sur le fait que les jeunes filles sont particulièrement exposées à certains risques, comme le revenge porn ou la dégradation de leur rapport à leur corps et à leur image.

Depuis 2023 s’est ajouté au risque de santé publique un risque de sécurité publique. Les débats sur ma proposition de loi étaient orientés sur la santé. Or cette loi a été définitivement adoptée le jour de l’affaire Nahel, jeune homme en mémoire duquel nous avions observé une minute de silence. Vous vous souvenez des jours et des semaines de violences qui ont suivi. Or l’utilisation des réseaux sociaux dans ces manifestations qui ont tourné à l’émeute avait été remarquée et est désormais incontestable. Le réseau Snapchat a ainsi servi pour fixer des lieux de rendez-vous en vue de piller des magasins et de détruire des bâtiments publics. Si le risque de santé publique demeure, il se double désormais d’un problème de sécurité publique et de vie démocratique de plus en plus important.

La proposition de loi visant à instaurer une majorité numérique et à lutter contre la haine en ligne a été déposée en janvier 2023. Elle a été adoptée le 2 mars à l’Assemblée nationale, lors de la niche parlementaire réservée au groupe Horizons que j’avais l’honneur de présider. Elle a été adoptée le 23 mai au Sénat avant d’être adoptée en commission mixte paritaire le 20 juin et promulguée le 7 juillet 2023. Ce processus parlementaire a été redoutablement efficace et rapide. Loin des polémiques stériles, il témoigne de l’importance du sujet. Les débats ont été simples et clairs, et certains votes unanimes. J’ai mené un travail de discussion, en commission comme dans l’hémicycle. C’était donc un travail parlementaire bien mené. Le texte n’a pas été bâclé et il a été adopté en quelques mois.

J’ai rencontré les grandes plateformes numériques, à l’exception notable de Google. Toutes ont dit la même chose : il leur était techniquement impossible d’appliquer la loi. Or c’est précisément parce que les géants du numérique sont passifs face aux alertes qui se multiplient que le législateur doit les réguler, même quand ils ne proposent pas de solutions techniques. Il ne s’agit pas de brider la liberté mais bien de déterminer des principes – ce que légiférer signifie. Le député n’est pas là pour mener des études techniques ni pour déterminer par quels moyens mettre en œuvre les lois, mais pour fixer les limites nécessaires à la vie en démocratie libérale.

Nous avons rencontré des difficultés dans l’application de ce texte à cause du décalage entre les temps parlementaires français et européen. Ces entraves sont progressivement levées. Je suis pour ma part décidé à aller toujours plus loin et j’espère que le gouvernement va le faire. L’application de la loi a été entravée non par une carence politique mais par une résistance européenne. Le commissaire européen Thierry Breton, dans un courrier daté du 14 août 2023, a d’abord indiqué que la loi n’était pas conforme au Règlement (UE) 2022/2065 du Parlement européen et du Conseil du 19 octobre 2022 relatif à un marché unique des services numériques et modifiant la directive 2000/31/CE (règlement sur les services numériques) dit Digital services act (DSA) au motif qu’elle fragmentait le marché unique. Sur ce point, et ce ne sont pourtant pas mes origines politiques, je repensais hier avec mes collaborateurs au slogan « nos vies valent mieux que leurs profits ». Or constater qu’une politique européenne privilégie l’économie et le développement des plateformes au détriment de la santé publique et de l’avenir de nos enfants, alors même que le problème est attesté, peut remettre en question les engagements les plus déterminés, comme le mien, au service de la poursuite de la construction européenne. Le Gouvernement a donc été un peu houspillé, en la personne de ma collègue Élisabeth Borne qui le dirigeait et était la destinatrice de ce courrier.

Il lui a aussi été reproché de ne pas avoir notifié ce texte à la Commission européenne trois mois avant son adoption. Cette règle, issue de la directive (UE) 2015/1535 du Parlement européen et du Conseil du 9 septembre 2015 prévoyant une procédure d’information dans le domaine des réglementations techniques et des règles relatives aux services de la société de l’information, ne tient pas compte de la procédure parlementaire française, qui permet à une proposition de loi d’être adoptée rapidement. En réalité, le fait qu’il s’agisse d’une proposition de loi a été un problème d’ordre technique empêchant sa notification à temps à la Commission européenne. Je rappelle que le Gouvernement n’a pas toujours la main sur le calendrier. La niche parlementaire en est le meilleur exemple puisque ce sont les groupes qui fixent librement l’ordre du jour. Or, s’il est simple pour le Gouvernement de notifier les projets de loi à la Commission européenne dans les délais imposés, il est aujourd’hui beaucoup plus complexe de respecter cette obligation pour les propositions de loi – alors même que celles-ci prennent une place prépondérante dans le fonctionnement de l’Assemblée depuis 2022, en raison de l’évolution de la situation politique.

La conséquence est grave : la loi est purement et simplement inapplicable, quand bien même elle a été votée à l’unanimité – ce qui donne une image d’impuissance publique qui nous dessert tous, gouvernements ou parlementaires. L’effet est donc dévastateur.

Toutefois, je ne veux pas être exclusivement négatif ou critique. Les choses bougent dans le bon sens. La prise de conscience est de plus en plus forte. La Commission européenne travaille sur une solution technique de vérification de la majorité d’ici juillet, solution qui sera elle-même renforcée par le déploiement prévu à l’été 2026 du portefeuille européen d’identité numérique. Dans cette dynamique, plusieurs pays rejoignent la position de la France, comme l’a relevé ma collègue Clara Chappaz en réponse à M. Vojetta lors des questions au gouvernement la semaine dernière. L’Irlande elle-même, principale hébergeuse des grandes plateformes en Europe, serait prête à nous rejoindre dans ce combat.

L’Europe est donc en train d’évoluer vers la position française. Je regrette toutefois que, malgré ces avancées, la Commission européenne persiste à exprimer des réserves sur le principe de majorité numérique, ce qu’a fait récemment la commissaire Henna Virkkunen. In fine, il me parait souhaitable d’instaurer la majorité numérique au niveau européen, avec une période de tolérance de la part des instances européennes, le temps que chaque État l’introduise dans son droit national.

Je tire de cette expérience la conviction renouvelée que la technique doit emboîter le pas au politique. Nous ne devons pas cesser d’agir pour des raisons techniques évoquées par les plateformes. Notre rôle est de fixer les évolutions vers laquelle la technique doit tendre. Notre rôle n’est pas d’écrire des lignes de code ou des algorithmes, mais d’énoncer ce qui est juste et nécessaire. Si l’on attend que la technologie soit parfaite pour agir, nous ne le ferons jamais. Nous devons affirmer que l’on peut utiliser les réseaux sociaux à partir de quinze ans, mais qu’avant cet âge l’accord des parents est nécessaire. Des solutions techniques existent : les opérateurs mobiles français pourraient par exemple proposer des dispositifs permettant de prouver son identité, et ils ne sont pas les seuls car de nombreuses entreprises pourraient aussi proposer des solutions souveraines respectueuses de la vie privée.

Mon texte est la première pierre d’une construction, afin d’entraîner la France et l’Europe. Telle était sa vocation. En définitive, il s’agissait d’une certaine manière d’un texte lanceur d’alerte. Celui-ci n’est bien sûr pas parfait. Aucune régulation ne l’est et je n’ai jamais eu la prétention de détenir à moi seul la vérité. Il faut poursuivre en construisant un édifice encore plus ambitieux, car il reste beaucoup d’autres sujets à traiter après celui de l’exposition aux réseaux sociaux. Il faut donc encore mener des actions, tant au niveau français qu’européen. Je me suis d’ailleurs réjoui de la récente position du président de la République, car son poids peut être décisif à l’échelle européenne.

La Commission semble encore un peu embarrassée par ce sujet. Il faut nous réjouir d’avoir engagé, avec l’adoption de cette loi, un combat à l’échelle européenne. Nombreux sont ceux qui nous emboîtent le pas. J’ai rencontré Markus Richter, secrétaire d’État allemand en charge du numérique ; j’ai reçu, lorsque j’étais président de mon groupe, une délégation de parlementaires britanniques qui voulaient s’inspirer de ma loi ; des prises de contact sont même venues d’Italie. Nous devons aller vers cette coopération européenne.

Enfin, monsieur le président, je me réjouis que le Gouvernement vous ait confié, avec le député Stéphane Vojetta, une mission pour prolonger les travaux que vous aviez menés ensemble.

M. le président Arthur Delaporte. Vos propos font en effet écho aux parcours de la proposition de loi visant à lutter contre les arnaques et les dérives des influenceurs sur les réseaux sociaux, déposée en janvier 2023 et votée le 9 juin 2023. En six mois, nous avons réussi à franchir toutes les étapes de la procédure législative, alors qu’elle peut parfois prendre plusieurs années lorsqu’il s’agit d’une initiative parlementaire. Cela montre bien la conscience au sein du Parlement de la nécessité d’avancer sur ces sujets.

La loi dite influenceurs était également mentionnée dans la lettre du commissaire européen Thierry Breton, suscitant les mêmes interrogations sur la procédure de notification et les mêmes sentiments d’impuissance. Nous avons aussi ressenti le besoin de faire avancer ces sujets aux échelles nationale et européenne, puisque les arguments de santé et d’ordre publics ne peuvent se voir opposer les principes du marché unique – qui ne sont ni sacro-saints, ni absolus et contre lesquels nous devons continuer de lutter.

Mme Laure Miller, rapporteure. Merci d’être venu témoigner et de nous avoir rappelé ce processus législatif. Avez-vous eu des contacts avec des institutions européennes pendant l’élaboration de votre proposition de loi et son examen parlementaire ? Vous saviez en effet que le droit européen prévalait.

Par ailleurs, à la suite du courrier de Thierry Breton, avez-vous eu des échanges, formels ou informels, avec la Commission européenne ?

M. Laurent Marcangeli. Il est vrai que je ne l’ignorais pas.

Notre calendrier parlementaire concordait avec celui de certaines directives européennes proposées par M. Breton. Je n’étais à l’époque en contact qu’avec le ministre des affaires étrangères actuel, alors ministre du numérique, qui essayait de m’informer en temps réel de ce que l’Europe était en train de réaliser. La loi n° 2024-449 du 21 mai 2024 visant à sécuriser et réguler l’espace numérique (dite loi Sren) a ensuite transposé le règlement sur les services numériques.

Je n’ai pas eu de contact direct avec la Commission européenne et celle-ci s’est contentée de prévenir le gouvernement. Pour être complet, il était envisagé dans la loi n° 2024-364 22 avril 2024 portant diverses dispositions d’adaptation au droit de l’Union européenne en matière d’économie, de finances, de transition écologique, de droit pénal, de droit social et en matière agricole, dite loi Ddadue, d’essayer de permettre l’application de mon texte. Le gouvernement a ensuite changé en janvier 2024. Lors des élections européennes, le programme du groupe Renew Europe a repris nos propositions, et certains députés m’ont fait savoir qu’ils étaient disponibles pour mener ce combat.

Mme Laure Miller, rapporteure. Quelles sont les raisons qui vous avaient conduit à proposer de fixer l’âge de la majorité numérique à 15 ans ?

M. Laurent Marcangeli. Le choix de l’âge a été l’objet de débats, y compris dans l’hémicycle.

Il est aujourd’hui particulièrement choquant que les enfants soient exposés aux réseaux sociaux autour de 8 ou 9 ans. Leur usage est normalement interdit avant 13 ans, et il est scandaleux que des petits enfants soient exposés sans surveillance à des contenus particulièrement violents. La limite des 13 ans doit être respectée. Après réflexion, il m’a semblé que l’âge de 15 ans, qui correspond normalement à l’entrée au lycée et à celui de la majorité sexuelle, était un palier intéressant. Ce choix a fait débat : certains amendements, en commission comme dans l’hémicycle, proposaient plutôt de retenir l’âge de 16 ans. Je vois que notre choix est désormais repris dans d’autres pays.

Mme Laure Miller, rapporteure. L’idée selon laquelle les parents devaient donner leur autorisation pour leurs enfants entre 13 et 15 ans avait également suscité un débat. Pourriez-vous nous en rappeler les termes ? Je me souviens que ce sujet avait préoccupé ma collègue Sarah Tanzilli. Pourquoi cette tranche d’âge ?

M. Laurent Marcangeli. Je ne voulais pas que le texte exonère les parents de leur responsabilité. Il est en effet absolument nécessaire de les responsabiliser. Ce texte lanceur d’alerte, le débat public actuel, l’existence de votre commission et les différentes prises de position politiques doivent faire comprendre aux parents ce qui est en train de se jouer. Il y a quelques années, regarder de la pornographie n’était pas facile. Désormais, le gamin de 13 ans qui participe au déjeuner de famille du dimanche est peut-être en train d’en regarder juste à côté de vous. C’est un signe d’impuissance publique, mais aussi d’impuissance parentale. Je voulais donc que les parents soient associés en ayant la possibilité de donner une autorisation. La plateforme doit ainsi recueillir l’accord de l’un des parents ou du dépositaire de l’autorité parentale pour que le jeune homme ou la jeune fille puisse accéder au réseau social. Il faut accessoirement que le parent vérifie ensuite ce qu’il se passe. Je voulais que le dispositif soit aussi un dispositif de responsabilité parentale.

Mme Laure Miller, rapporteure. En ce qui concerne cette dernière, on constate que le débat s’amplifie et touche un très grand public. Dans tous les foyers français, on s’interroge et on se forge son avis. Je constate dans les commentaires sur les vidéos que nous publions sur les réseaux sociaux qu’il existe un débat entre les Français pour savoir si la faute revient aux plateformes, à l’État ou aux parents.

Diriez-vous que la sensibilisation n’est pas assez développée dans notre pays, à la fois auprès des parents et des enfants ? Aviez-vous pensé, à l’époque, développer la sensibilisation au numérique et aux réseaux sociaux dans les écoles et chez les parents ?

M. Laurent Marcangeli. J’ai souvent rappelé que nous étions face à une question d’ordre civilisationnel. Lorsque l’on parle de civilisation, le rôle des parents est essentiel puisque ceux-ci nous guident du début de notre vie à l’âge adulte en nous transmettant des principes et des valeurs.

Il peut exister chez certains un déni coupable qui consiste à ne pas vouloir voir que leur enfant va mal, ce que l’on lit souvent lorsque des drames se produisent. Les parents ont soupçonné qu’il y avait un problème, constaté que leur enfant était un peu renfermé, mais ne pensaient pas qu’il irait jusqu’à se suicider. Mais il s’agit parfois d’une simple méconnaissance.

Il faut que les parents soient informés. C’est pour cela que la puissance publique doit s’engager, notamment dans le domaine éducatif, et ce de manière très vigoureuse.

Je me fais beaucoup de souci pour l’avenir. Votre commission enquête s’intéresse particulièrement au réseau TikTok, qui a une dimension géopolitique non négligeable. Je suis de ceux qui pensent qu’il existe une volonté de rendre des générations entières de femmes et d’hommes complètement démunies dans la compétition mondiale et dans le rapport à d’autres grandes puissances, et que l’Europe est en train de s’avachir.

L’idée est donc de permettre aux parents, qui doivent être au centre du jeu, de stopper la descente aux enfers qui est en train de se produire avec les réseaux sociaux.

Mme Laure Miller, rapporteure. S’agissant de cet enjeu géopolitique – et notamment du rôle de la Chine – que pensez-vous de l’application du DSA ?

Avec le président de la commission, nous nous sommes rendus récemment à Bruxelles pour comprendre où en était la mise en œuvre de ce règlement. J’ai d’ailleurs reçu hier un SMS de la part d’une élue locale qui disait avoir entendu parler du DSA mais qu’il n’était pas appliqué. On se rend bien compte que, sauf à se plonger dans l’évolution et la mise en œuvre concrètes de ce cadre législatif, tout semble très long.

M. Laurent Marcangeli. Tout d’abord, le règlement (UE) 2016/679 du Parlement européen et du Conseil du 27 avril 2016, relatif à la protection des personnes physiques à l’égard du traitement des données à caractère personnel et à la libre circulation de ces données, et abrogeant la directive 95/46/CE, dit règlement général sur la protection des données (RGPD) est sous-appliqué pour les mineurs. Quant au DSA, il comporte des obligations de moyens concernant la modération et la transparence mais, sur le fond, il reste timide. Il ne fait à aucun moment référence à la santé publique et passe donc selon moi à côté de l’essentiel.

Ces textes, comme la longueur des procédures, sont une ode à l’impuissance publique – et je pèse mes mots. La procédure contre TikTok a mis plus d’un an pour aboutir à des constats préliminaires. Il faut sortir de cette logique technocratique et bureaucratique. S’agissant du numérique, on parle d’un marché très différent des autres et non d’une industrie comme l’industrie textile. Enfin, le pire est que le principal aspect du DSA depuis son lancement a été d’empêcher qu’une législation nationale soit mieux-disante. C’est inacceptable car il ne propose aucun dispositif opérationnel pour protéger les mineurs. Comme le montre le courrier précité de la Commission européenne, si un État membre adopte une loi, il se fait réprimander sous prétexte que celle-ci va au-delà du DSA. J’ai donc une position très critique.

M. le président Arthur Delaporte. La Commission européenne et les services de la DG Connect expliquent qu’ils ont besoin de temps pour recueillir des constats solides face à d’importants risques juridiques, dans la mesure où les plateformes contestent généralement les sanctions qui leur sont imposées. La Data Protection Commission, équivalent de la Cnil en Irlande, qui voit ses décisions contestées à l’échelle européenne, dit de la même manière vouloir la procédure la plus solide pour être en mesure d’aller si besoin jusque devant les plus hautes juridictions européennes. Voilà ce qu’on nous dit pour expliquer ce temps long.

Nous en parlerons certainement tout à l’heure avec les représentants de la direction générale de la concurrence, de la consommation et de la répression des fraudes (DGCCRF). En effet, même en droit national, quand des procédures prennent du temps – notamment pour sanctionner les influenceurs dont on voit pourtant manifestement qu’ils produisent des contenus illicites –, on nous répond qu’il faut recueillir des éléments de preuve pour pouvoir appliquer des sanctions. D’une certaine manière, c’est l’État de droit. Que répondez-vous à cela ?

M. Laurent Marcangeli. Je réponds que dans ce cas il ne faut pas proclamer que le DSA est en vigueur et qu’il vaut mieux appliquer une période de tolérance. L’Union européenne devrait desserrer un peu l’étau sur les nations qui ont envie d’avancer.

Ceux qui disent qu’ils n’ont pas le temps ou qu’il leur faut du temps tiennent un discours purement technocratique, qui vise à enterrer le sujet et à mettre la poussière sous le tapis. Je ne suis pas complotiste, je suis en règle générale quelqu’un de très mesuré, mais je sais que ces plateformes font peur car ce sont des géants économiques. Dans l’histoire, des exemples ont toutefois montré, aux États-Unis ou ailleurs, que la volonté politique permet de réaffirmer au monde économique que c’est le politique qui détermine la marche et l’économique qui la subit, car l’économique n’a pas à faire la loi et à empêcher le politique d’avancer. Il serait bien que telle soit la situation.

Je rappelle que nous avons eu l’exemple d’une interdiction temporaire de TikTok en Nouvelle-Calédonie, même si celle-ci a ensuite été cassée. Il faut aussi regarder ce qu’il se passe ailleurs, notamment quand on observe ce que la Chine est capable de faire en matière de régulation des réseaux sociaux – même si ce n’est pas une démocratie. Selon moi, répondre qu’il faut du temps équivaut à dire qu’on verra.

M. Stéphane Vojetta (EPR). Vos propos nous ramènent à une bataille parallèle à la vôtre, celle de la loi influenceurs. Nous avions pu résister à l’époque, avec le soutien du Gouvernement, aux injonctions du commissaire européen Thierry Breton et de la Commission européenne – très similaires à celles qui vous ont été adressées – visant à modifier substantiellement la loi, à la simplifier, voire à l’abroger pour aller dans leur sens. Nous avions résisté, notre loi a été appliquée, elle est devenue comme la vôtre une source d’inspiration à l’étranger et a été reprise dans de nombreux pays européens – ce dont nous nous félicitons.

Cela confirme la nécessité d’être volontariste sur ce sujet important. Vous avez rappelé les données confirmant cette catastrophe éducative et sanitaire. Même si vous avez repris un slogan plutôt associé à la gauche, nous sommes vous et moi des libéraux qui défendons la liberté, notamment économique, sous toutes ses formes. Mais nous ne défendons certainement pas la liberté de voir nos enfants se faire déglinguer génération après génération. C’est la raison pour laquelle il faut agir.

Comme vous, et tout en étant très pro-européen, je suis préoccupé par le fait que nous ayons cédé nos prérogatives de régulation des grandes plateformes à Bruxelles. Or, si nous l’avons fait, c’est pour voir Bruxelles agir, pas pour la voir organiser notre impuissance. En cela l’audition de M. Breton il y a quelques semaines n’a pas été entièrement satisfaisante. En tant qu’ancien commissaire, il nous a enjoint à agir et à prendre des initiatives pour tenter de peser sur les choix de Bruxelles. Mais à l’époque où il était commissaire, il a fait tout le contraire de ce à quoi il nous invite désormais.

Ma question concerne le projet de loi Ddadue voté il y a un an et dont j’étais rapporteur. Nous avions réussi à modifier la loi pour que soit réduit de six à trois mois le délai laissé au Gouvernement pour remettre au Parlement un rapport sur les mesures d’adaptation requises par la Commission européenne concernant votre loi. Avez-vous connaissance de ce rapport ? A-t-il été remis par le Gouvernement ? Si vous en avez connaissance, quelles sont ses conclusions ?

Je vous invite par ailleurs à vous joindre à nous, à votre collègue Clara Chappaz et à d’autres, pour être à l’avant-garde de ceux qui créeront, s’il le faut, un rapport de force avec la Commission européenne. Il s’agit de la contraindre à agir dans le sens désiré par une majorité des pays européens – et qui correspond en France à une attente populaire – afin de fixer une majorité numérique, voire d’interdire les réseaux sociaux aux moins de 15 ans.

M. Laurent Marcangeli. J’ai bien sûr connaissance de ce rapport, dont ma collègue Clara Chappaz vous présentera des éléments lors de son audition.

Mme Laure Miller, rapporteure. La semaine dernière, nous avons auditionné les dirigeants des plateformes, en particulier ceux de TikTok. Nous avons le sentiment qu’ils se renvoient la balle sur la vérification de l’âge en appelant à grands coup de publicité à une réglementation européenne. Les dirigeantes de TikTok avouaient elles-mêmes qu’elles disposaient déjà des moyens techniques pour procéder à cette vérification mais qu’elles préféraient attendre que toutes les plateformes le fassent simultanément. Avez-vous le même sentiment ?

M. Laurent Marcangeli. Tout cela relève de la tartufferie. Ces géants ont les capacités techniques et technologiques d’assurer un contrôle. Plus personne ne peut croire le contraire. En réalité, il existe un marché qui repose entre autres sur nos enfants qui, pour les grandes entreprises, sont des acteurs économiques. Il ne faut pas laisser ces entreprises déterminer leur champ d’action, car elles seront toujours orientées avant tout vers la rentabilité économique. Le politique doit donc reprendre la main.

C’est d’ailleurs un débat mondial, comme le montrent certaines décisions annoncées en Australie. Mais il ne faut pas oublier que le temps joue contre nous. Pendant que nous parlons, combien d’enfants en France et dans le monde sont, à bas bruit, en train de regarder un contenu pornographique ou choquant sur un réseau social qui crée leur algorithme ? Combien sont en train de s’abrutir ? Si nous avions les chiffres réels, nous rentrerions tous chez nous la boule au ventre.

M. Stéphane Vojetta (EPR). Nous rencontrons à Paris les acteurs du numérique et les responsables des affaires publiques des grandes plateformes. Toutefois, je constate – ce qui m’a été confirmé par certains d’entre eux – que l’immense majorité de leurs budgets de lobbying n’est pas dépensée à Paris ou en Irlande, mais à Bruxelles, ce qui pèse sur la lenteur des procédures européennes et explique la « tartufferie » que vous décrivez. Les plateformes comme TikTok se réfugient effectivement derrière l’inaction européenne et l’absence de règles claires pour ne pas être les premières à intervenir.

Elles sont en effet engagées dans une guerre pour les parts de marché et savent bien qu’en captant des utilisateurs de 9, 10 ou 11 ans et en les fidélisant, elles assurent leurs futures parts puisque, d’ici cinq ou dix ans, ces jeunes adultes seront en mesure de dépenser leur argent sur les plateformes de commerce – celles de TikTok par exemple. C’est parfaitement logique de la part de ces acteurs économiques, mais c’est une logique qu’on ne peut accepter. Il en va de notre responsabilité politique de les contraindre et je tiens à vous remercier d’avoir fait un premier pas dans ce sens.

M. le président Arthur Delaporte. On comprend bien l’intérêt d’une interdiction des réseaux sociaux en-dessous de 15 ans, même si nos auditions ont montré que tout le monde ne partageait pas cette idée. Je suis plutôt favorable à interdire cet accès en-dessous de 13 ans et à prévoir un usage contrôlé entre 13 et 15 ans, comme dans votre loi – cette progressivité des premiers usages des réseaux sociaux me semble intéressante. Ce n’est pas exactement ce que proposent le président de la République et la ministre du numérique.

Par-delà ces nuances – et vous dénoncez vous-même le côté démagogique d’annonces concernant la protection des mineurs sans qu’elles soient suivies d’effets –, le risque d’une telle interdiction n’est-il pas de rendre le politique impuissant ou de donner le sentiment de son impuissance ?

M. Laurent Marcangeli. Cette mesure, c’est tout le sens de ma loi. J’ai souhaité formuler une proposition qui tienne la route compte tenu de l’époque dans laquelle nous vivons. Si nous voulions tout interdire, ce ne serait pas réalisable. Je vous le répète avec toute ma conviction, et même une forme de désolation car, selon moi, certaines plateformes devraient tout bonnement être supprimées du paysage.

J’ai donc souhaité être réaliste et progressif, notamment pour cette fameuse période entre 13 et 15 ans, capitale, au cours de laquelle la présence du parent ou du responsable légal aux côtés de l’enfant a du sens. Selon moi, interdire purement et simplement n’aurait pas un aussi bon effet que le dispositif que j’ai proposé.

M. le président Arthur Delaporte. Est-ce finalement parce que l’interdit est contourné quand on a entre 13 et 15 ans ?

M. Laurent Marcangeli. C’est une question d’état d’esprit. Avec une régulation intelligente et un bon contrôle parental, il est possible d’avoir entre 13 et 15 ans suffisamment de maturité pour naviguer sur les réseaux sociaux, quoiqu’avec modération. Je fais partie de ceux qui continuent d’espérer. Interdire purement et simplement peut créer l’effet indésirable inverse : que l’adolescent cherche par tous les moyens à y accéder avant 15 ans précisément parce que c’est interdit car, à cet âge, aller à l’encontre de l’interdit est particulièrement recherché.

M. le président Arthur Delaporte. Permettez-moi de vous remercier pour votre participation et pour les combats que vous avez menés sur ce sujet d’importance, dont notre commission s’est saisie et à propos duquel le Parlement aura encore beaucoup à faire dans les mois à venir.

63. Audition de Mme Clara Chappaz, ministre déléguée auprès du ministre de l’Économie, des finances et de la souveraineté industrielle et numérique, chargée de l’intelligence artificielle et du numérique (jeudi 19 juin 2025)

Puis la commission audition Mme Clara Chappaz, ministre déléguée auprès du ministre de l’Économie, des finances et de la souveraineté industrielle et numérique, chargée de l’intelligence artificielle et du numérique ([61]).

M. le président Arthur Delaporte. Madame la ministre, je vous remercie de prendre le temps de répondre à notre invitation.

Votre audition est importante pour la commission tant la régulation des réseaux sociaux occupe votre agenda et préoccupe le Parlement. Elle est l’occasion d’évoquer les initiatives du Gouvernement et les relations parfois compliquées avec l’Union européenne – la rapporteure et moi-même avons rencontré à Bruxelles le 4 juin la DG Connect (direction générale des réseaux de communication, du contenu et des technologies), des membres du Parlement européen ainsi que des représentants de la Cnil (Commission nationale de l’informatique et des libertés) irlandaise. Mais nous attendons surtout des solutions.

Je vous remercie de nous déclarer tout intérêt public ou privé de nature à influencer vos déclarations.

Je vous rappelle que l’article 6 de l’ordonnance du 17 novembre 1958 relative au fonctionnement des assemblées parlementaires, impose aux personnes auditionnées par une commission d’enquête de prêter serment de dire la vérité, toute la vérité, rien que la vérité.

(Mme Clara Chappaz prête serment.)

Mme Clara Chappaz, ministre déléguée chargée de l’intelligence artificielle et du numérique. Je tiens à saluer le choix salutaire de l’Assemblée nationale d’avoir créé cette commission d’enquête, à votre initiative, madame la rapporteure. Vous vous emparez avec sérieux et lucidité d’un enjeu crucial de notre temps : l’impact des réseaux sociaux sur les mineurs. Il ne s’agit pas d’un simple fait de société, ni d’une inquiétude passagère, mais d’une question vitale pour notre jeunesse, pour laquelle les interactions avec le monde se déroulent principalement par le biais des écrans – elle y passe plus de quatre heures par jour.

Vous le savez, le sujet me tient particulièrement à cœur. Depuis ma nomination, j’ai engagé un combat déterminé pour l’interdiction de l’accès aux réseaux sociaux avant l’âge de 15 ans, combat en droite ligne avec les priorités du président de la République et les recommandations du rapport de la commission d’experts sur l’impact de l’exposition des jeunes aux écrans, plus communément appelée commission « Enfants et écrans ».

Ministre chargée du numérique, je ne veux pas en dresser un tableau complètement noir. Je sais mieux que personne à quel point les outils numériques et les réseaux sociaux sont de formidables espaces d’opportunités, de liberté, de créativité, d’apprentissage et d’émancipation. Qui n’a pas fait l’expérience heureuse de retrouver un ami de longue date sur les réseaux ou de découvrir une information ?

Cela ne doit pas nous empêcher de regarder lucidement les dérives et d’y remédier. Celles-ci sont massives et documentées ; elles ont des conséquences concrètes sur la vie de nos enfants. Un consensus scientifique solide émerge selon lequel l’exposition précoce et intensive aux réseaux sociaux chez les adolescents, notamment entre 8 et 15 ans, est associée à des troubles du sommeil, des troubles alimentaires, une augmentation des comportements à risque, un enfermement dans des bulles algorithmiques et une détérioration nette de la santé mentale. Comment justifier qu’un enfant sur quatre dise ressentir de l’anxiété sur les réseaux sociaux, pire, qu’un enfant sur cinq se réveille la nuit pour vérifier ses réseaux sociaux ?

De premières études montrent que le temps passé sur les réseaux et ses conséquences sur le développement cognitif et émotionnel des adolescents pourraient nous coûter d’un à deux points de PIB dans l’avenir.

C’est un enjeu majeur de santé mentale ; c’est un enjeu majeur de société. Nous en avons toutes et tous fait l’expérience, les plateformes peuvent amplifier la dévalorisation de l’image de soi, favoriser les phénomènes de harcèlement, exposer à des contenus violents ou pornographiques, encourager des pratiques qui vont jusqu’à l’automutilation. Il suffit de tendre l’oreille aux familles, aux médecins et aux enseignants. Il suffit d’écouter les jeunes eux-mêmes, qui se disent souvent pris dans un tourbillon numérique dont ils ne maîtrisent plus les codes.

Pourtant, les chiffres sont implacables : près de trois enfants sur quatre âgés de moins de 13 ans sont déjà sur une plateforme au moins, quand bien même les conditions générales d’utilisation de celle-ci interdisent l’accès aux utilisateurs de cet âge. J’entends le désarroi des familles confrontées à la difficulté de poser un cadre en l’absence de repères clairs. J’entends le désarroi des enfants, qui ne veulent pas être exclus de cet espace numérique devenu espace de sociabilité, quand bien même ils sont conscients de son potentiel impact négatif sur leur santé. J’entends la demande forte d’action de la part des pouvoirs publics. J’ai donc engagé une action déterminée pour y répondre car, je le dis très clairement, ce n’est ni aux enfants, ni aux parents de porter seuls cette responsabilité.

Je veux saluer l’engagement constant des associations, en particulier celui des signaleurs de confiance comme e-Enfance et Point de contact, avec lesquels je travaille étroitement. Ils jouent un rôle d’alerte et d’accompagnement indispensable. Je veux aussi saluer les initiatives parlementaires – et elles sont nombreuses –, qui permettent toutes de nourrir la réflexion et la politique du Gouvernement en France et au niveau européen.

Je porte un message qui ne varie pas : avant 15 ans, les réseaux sociaux, c’est non. Ce n’est pas une posture, ni un symbole, c’est une mesure éducative de prévention, de protection, de bon sens. Je m’inscris dans la continuité de la loi adoptée à l’unanimité, à l’initiative du député Laurent Marcangeli, visant à instaurer une majorité numérique, celle-ci étant fixée à 15 ans. Nous le savons ici toutes et tous, cette avancée importante restera théorique si elle ne s’accompagne pas d’une véritable vérification de l’âge sur les réseaux sociaux, vérification dont le cadre devrait idéalement être européen. Nous avons tous été des enfants, nous ne savons que trop bien que lorsqu’il suffit de changer la date de son année de naissance pour s’inscrire sur un réseau, la tentation est grande. Il ne peut y avoir d’interdiction des réseaux sociaux sans vérification de l’âge. C’est donc cette bataille que nous menons avec fermeté.

Lorsque je vois Instagram dépenser des millions d’euros pour faire de la publicité dans nos gares, métros, titres de presse, ou à la radio pour demander une vérification d’âge à l’échelle de l’Union européenne, je me dis qu’une entreprise du numérique américaine qui demande de la régulation, c’est une première, mais aussi que les réseaux sociaux doivent assumer leurs responsabilités. En effet, lorsqu’ils demandent que la vérification soit opérée par les magasins d’applications (App Store), ils ne sont pas à la hauteur des enjeux. Il faut absolument sortir du ping-pong par lequel les acteurs se renvoient la balle constamment. Je l’avais d’ailleurs dénoncé dès le mois de janvier lorsque j’avais réuni tous les acteurs – plateformes, App Store, associations, réseaux de téléphone – pour faire le point sur les actions mises en place.

Je veux le dire clairement, les technologies existent, les solutions sont là : nous en avons recensé une quinzaine, développées par des entreprises françaises ou européennes. Elles permettent de vérifier l’âge de l’utilisateur sans identifier une personne, sans compromettre les données personnelles. C’est un impératif important sur lequel nous ne céderons pas et sur lequel nous avançons au niveau européen. La France sera d’ailleurs l’un des pays pilotes pour expérimenter la solution harmonisée qui se dessine.

Si d’aventure ces solutions ne convenaient pas aux plateformes, ces entreprises comptent parmi les meilleurs ingénieurs du monde. Je ne peux croire qu’ils ne sont pas capables de résoudre ce problème. Google y travaille d’ailleurs activement, ils m’en ont fait la démonstration.

Notre devoir est désormais d’imposer les solutions de vérification d’âge comme un standard et non de les laisser à l’appréciation de tel ou tel, et encore moins de permettre aux acteurs de se renvoyer la balle pour savoir à qui incombe la responsabilité.

C’est ce que nous faisons à l’échelle nationale mais aussi et surtout européenne car la régulation du numérique ne peut s’arrêter aux frontières nationales. Dès 2022, sous la présidence française du Conseil de l’Union européenne, nous avons défendu avec détermination le règlement (UE) 2022/2065 du Parlement européen et du Conseil du 19 octobre 2022 relatif à un marché unique des services numériques et modifiant la directive 2000/31/CE dit Digital services act (DSA), qui constitue une avancée majeure. Le texte ne considère plus les plateformes comme de simples hébergeurs techniques – c’est très important – ; il leur impose un devoir de vigilance notamment en matière de protection des mineurs et de santé mentale. C’est un texte très ambitieux, certainement le plus ambitieux du monde, mais nous devons maintenant en exploiter toutes les potentialités. Le DSA ne doit pas rester une promesse, il doit devenir une réalité.

C’est tout le sens des discussions actuelles sur l’article 28, consacré aux mineurs, dont nous souhaitons renforcer la portée en rendant obligatoire la vérification de l’âge pour accéder aux réseaux sociaux. Il s’agit bien d’une mesure « appropriée et proportionnée pour garantir un niveau élevé de protection de la vie privée, de sûreté et de sécurité des mineurs » pour reprendre les mots du DSA. Je l’ai dit à la Commission européenne, je l’ai d’ailleurs fait inscrire à l’ordre du jour du dernier conseil des ministres chargés du numérique, au sein duquel une demi-douzaine de pays ont suivi notre position. Nous le redirons ensemble dans les jours qui viennent, aux côtés de nos collègues ministres chargés de l’éducation et de la santé – c’est une première. Aujourd’hui treize États membres se sont ralliés à notre position. Il faut le réaffirmer haut et fort, l’Europe, forte de ses 450 millions de citoyens, pèse face aux géants du numérique. Les Européens assument leur responsabilité. Je ne lâcherai donc rien pour faire appliquer pleinement le DSA. Si nous n’y parvenons pas, alors, je le dis sans détour, nous prendrons des mesures à l’échelle nationale, comme nous l’avons déjà fait sur d’autres dossiers.

En parallèle, nous agissons concrètement. Lorsque nous avons alerté sur les contenus associés au hashtag #SkinnyTok, nous avons obtenu des résultats. Des ajustements ont été apportés, des contenus et des hashtags ont été retirés, mais soyons lucides, ce n’est pas parfait et cela ne peut pas être un modèle pérenne. Une stratégie de régulation ne peut pas reposer sur l’indignation, l’émotion et la pression ponctuelle. Faut-il vraiment qu’une ministre de la République se déplace à Dublin à chaque fois qu’un contenu dangereux apparaît sur une plateforme ? Bien sûr que non. Nous avons posé des règles, nous attendons qu’elles soient respectées et, si ce n’est pas le cas, nous prendrons les mesures qui s’imposent. Des enquêtes sont actuellement menées par la Commission européenne, au terme desquelles des sanctions très lourdes peuvent être prononcées. Je compte bien aller au bout de cette question avec la Commission européenne.

Enfin, notre objectif n’est pas d’interdire pour interdire, ni de punir pour punir – j’entends cette petite musique monter – mais de protéger et de responsabiliser. Je me permets une comparaison que chacun comprendra. Nous avons interdit l’alcool avant 18 ans, nous avons encadré sa publicité, nous avons informé sur ses dangers à travers des campagnes de prévention. Il nous faut faire la même chose pour les réseaux sociaux, non par méfiance à l’égard du progrès, mais par nécessité de donner des repères et de poser des limites pour accompagner les parents et les jeunes.

C’est tout le sens de la stratégie que je déploie avec mes collègues ministres Élisabeth Borne et Catherine Vautrin, sous l’égide du Premier ministre et du Président de la République. Nous avons besoin d’un cadre clair pour les familles, d’outils pour les éducateurs et de dispositifs concrets pour aider les enfants à grandir dans un environnement numérique sûr. Je n’ignore pas la difficulté de ce combat – je salue l’engagement de tous ceux qui le mènent. Ce combat bouscule des habitudes, heurte des intérêts et réclame du courage. Je vous le dis avec gravité, avec conviction, protéger nos enfants en ligne est un défi immense, mais c’est un combat que nous pouvons gagner, ici, en Europe. Nous construisons ensemble une protection à la hauteur de notre époque.

Mme Laure Miller, rapporteure. Je vous remercie, madame la ministre, de porter ce combat, au sein du Gouvernement et au niveau européen. Je vous sais gré de défendre nos enfants.

Le DSA a souvent été salué lors des auditions pour sa contribution à la régulation des plateformes à l’échelle européenne. On ne peut toutefois s’empêcher de juger sa mise en œuvre trop lente. Ses effets tardent à se faire sentir dans les foyers. Aux yeux de M. Marcangeli, qui vous a précédé devant nous, c’est même un symbole de l’impuissance publique.

Vous avez indiqué qu’en cas de blocage au niveau européen, vous prendriez vos responsabilités au niveau national. Pouvez-vous préciser de quelle manière et dans quel délai ?

Mme Clara Chappaz, ministre déléguée. Tout le monde le sait désormais, les réseaux sociaux ont un impact non négligeable sur la santé de nos enfants.

Le DSA est un texte dont nous pouvons être fiers. Les Européens ont décidé de faire peser la responsabilité sur les plateformes. Ce texte a été l’un des premiers – depuis, le Royaume-Uni a adopté le Online Safety Act – à être aussi ambitieux et déterminé en la matière. C’est un vrai changement de paradigme. Les plateformes ne sont plus de simples hébergeurs techniques, elles ont des responsabilités nouvelles dans plusieurs domaines parmi lesquels la protection des enfants en ligne. Je ne laisserai personne diffuser la petite musique de l’impuissance de l’Europe. L’Europe est forte, notamment de ses 450 millions de citoyens – elle compte plus d’utilisateurs des réseaux sociaux qu’aux États-Unis. C’est ce qui lui a permis d’imposer ses règles.

Je ne me satisfais évidemment pas de la longueur des enquêtes – je l’ai dit plusieurs fois à la Commission européenne. J’entends son argument selon lequel les enquêtes doivent être d’autant plus solides que le texte est récent – il n’a été transposé que l’année dernière en droit français – et qu’il traite de sujets de société majeurs. Mais, oui, nous voulons que les enquêtes aillent plus vite et nous voulons des changements structurels. J’ai confiance dans le fait que nos outils de régulation sont les bons. Les amendes, qui peuvent aller jusqu’à 6 % du chiffre d’affaires mondial, peuvent avoir un impact sur les acteurs économiques et les changements impulsés par le texte peuvent avoir un impact systémique. Il faut que nos règles s’appliquent plus fort et plus vite.

Nous avons connu récemment des évolutions. Je pense à TikTok Lite, une fonctionnalité qui a été retirée du marché européen à l’issue d’une enquête. D’autres enquêtes sont en cours et nous ferons tout pour qu’elles aboutissent, et le plus vite possible. Deux d’entre elles concernent TikTok : une sur le design, l’autre sur les ingérences. Nous les suivons de très près et nous nous assurons qu’elles aillent au bout, comme cela a été cas pour des enquêtes fondées sur un autre texte récent, le règlement (UE) 2022/1925 du Parlement européen et du Conseil du 14 septembre 2022 relatif aux marchés contestables et équitables dans le secteur numérique et modifiant les directives (UE) 2019/1937 et (UE) 2020/1828 dit Digital markets act (DMA). Meta et Apple ont été condamnés il n’y a pas si longtemps.

En ce qui concerne les avancées européennes, nous sommes à un moment charnière. Je pense que la voix de la France est entendue et je m’en réjouis. Dans les trois mois qui viennent, nous avons une occasion unique de définir, dans le cadre du DSA, ce que nous attendons des plateformes pour protéger les mineurs. Or la première des protections tient à la connaissance de l’âge des utilisateurs. On peut créer toutes les fonctionnalités, par exemple, les comptes adolescents, – je salue ces très bonnes initiatives –, mais tant qu’on ne connaît pas l’âge de la personne, elles sont inopérantes.

Le combat que nous menons en ce moment consiste à s’assurer que les lignes directrices, qui ont vocation à préciser le contenu du texte, mentionnent clairement la vérification, et non l’estimation de l’âge. Je l’ai dit, treize pays sont d’accord avec nous pour demander une vérification, qui est la base de tout système de protection. La Commission européenne connaît très bien notre position. Nous avons réuni des ministres chargés de la santé et de l’éducation pour exprimer une position forte sur cette question. Si nous pouvons imposer le principe de la vérification de l’âge, ensuite nous travaillerons avec la Commission, et j’ai déjà commencé à le faire, afin que les États membres aient la liberté de choisir l’âge minimal pour accéder aux réseaux sociaux. La France pourrait alors le fixer à 15 ans.

Si nous n’arrivons pas à obtenir l’obligation de vérification de l’âge au niveau européen – je ferai tout pour que nous réussissions –, il nous faudra étudier toutes les voies nationales, en bonne intelligence avec la Commission, qui nous sait très attentifs et très déterminés. Le cas échéant, nous devrons nous assurer que ce que nous déciderons soit opérant. Plusieurs pistes sont sur la table mais un combat après l’autre : le premier, c’est la vérification de l’âge au niveau européen et on avance.

Mme Laure Miller, rapporteure. Les travaux de notre commission d’enquête sont ciblés sur TikTok. Vous avez mentionné certains bienfaits des réseaux sociaux, notamment dans le domaine des relations humaines, mais le seul objet de TikTok est de diffuser des vidéos sur un fil en continu. Pensez-vous que TikTok a une spécificité ?

Mme Clara Chappaz, ministre déléguée. Mon rôle n’est pas de porter un jugement de valeur sur tel ou tel réseau, mais de m’assurer qu’ils respectent toutes nos règles et de travailler en étroite collaboration avec la Commission pour ce faire.

Quand je repère le hashtag #SkinnyTok, j’alerte et je dénonce mais je saisis aussi l’Arcom (Autorité de régulation de la communication audiovisuelle et numérique) et la Commission européenne pour qu’une enquête soit ouverte. J’aurais procédé de la même manière pour n’importe quelle plateforme, parce que la protection des mineurs relève de leur responsabilité en vertu du DSA. Plusieurs enquêtes sont en cours et TikTok n’est pas la seule plateforme concernée : il y en a aussi sur X et sur d’autres réseaux. Je veux que toutes ces enquêtes aillent au bout parce que les heures que passent les Européennes, les Européens, les Françaises et les Français sur les réseaux, quels qu’ils soient, doivent être encadrées par des règles.

Mme Laure Miller, rapporteure. Lors de notre déplacement à Bruxelles, la question de la vérification de l’âge a été abondamment abordée. Pourquoi vous battez-vous pour qu’elle prenne le pas sur l’estimation ?

Il a également été question du mini wallet et du e-wallet. Pouvez-vous nous en dire plus, en particulier sur les délais de mise en œuvre de ces solutions ?

Mme Clara Chappaz, ministre déléguée. Je me bats pour que les plateformes aient la responsabilité de vérifier l’âge. Il existe de nombreuses solutions techniques. Le recours à un tiers de confiance, qui s’assure de la protection des données personnelles, en est une. Lorsqu’ont été mis en place, les outils auxquels la loi n° 2024-449 du 21 mai 2024 visant à sécuriser et à réguler l'espace numérique dite loi Sren nous autorise à recourir pour protéger les mineurs des contenus pornographiques, certains se sont inquiétés d’un risque en matière de données personnelles. Il n’en est rien car le référentiel établi par l’Arcom, avec l’aide de la Cnil (Commission nationale de l’informatique et des libertés), est très clair : la solution dite du double anonymat permet de vérifier l’âge sans donner d’informations personnelles. Ce qui vaut pour les sites pornographiques pourrait s’appliquer aux réseaux sociaux.

Pourquoi plaidons-nous en faveur de la vérification de l’âge et non de l’estimation ? L’estimation consiste, à partir d’informations que les plateformes rassemblent, à déterminer si la date de naissance renseignée par l’utilisateur est vraisemblable. Alors que nombre d’entre elles disent y avoir recours, force est de constater que ce procédé n’a pas fait la preuve de son efficacité : trois enfants sur quatre disent être sur les réseaux sociaux avant l’âge minimum, qui est fixé à 13 ans dans les conditions d’utilisation actuelles.

Il doit également être très clair pour les utilisateurs que ce service n’est autorisé, à l’instar de l’alcool, qu’à partir d’un certain âge. La vérification lors de l’entrée sur le réseau social semble la meilleure façon de porter un tel message et de le faire respecter. Chacun sait que pour acheter de l’alcool, il faut prouver qu’on est âgé de 18 ans.

L’interdiction a aussi la vertu d’offrir aux familles le cadre qu’elles attendent. Je participe tous les mois sur l’ensemble du territoire à des cafés IA (intelligence artificielle). On y parle de ce sujet, mais pas une seule fois, je n’ai échappé à des interpellations sur le sujet des réseaux sociaux. Vous savez mieux que personne le désarroi des parents puisque vous en avez rencontré un grand nombre. Il est parfois difficile pour eux d’assumer une décision d’interdiction. Ils pourront s’appuyer sur la régulation, et l’obligation de vérification de l’âge par les plateformes qui en découle, pour fixer un cadre à leurs enfants.

Dans le cadre des discussions que nous avons eues avec les sites pornographiques en début d’année, nous avons recensé une quinzaine d’outils capables de s’acquitter de cette vérification, sachant que nombre de plateformes sont capables de relever elles-mêmes le défi technique. Nous travaillons au niveau européen sur le mini wallet, qui apporterait une solution harmonisée de vérification de l’âge fondée sur le double anonymat, open source et qui ferait appel à des technologies européennes. La commission nous a indiqué que la première phase commencerait en juillet et la France s’est portée volontaire pour faire partie des pays pilotes qui déploieront cette solution. Nous pourrons ainsi nous assurer que le cadre mis en place pour les sites pornographiques, sous l’égide de l’Arcom et de la Cnil, est conforme au cadre européen afin que la régulation soit la plus opérante possible.

M. Thierry Sother (SOC). En premier lieu, j’aimerais savoir ce que vous inspire la décision rendue par le tribunal administratif de Paris, il y a quarante-huit heures, sur la vérification de l’âge sur les sites pornographiques, décision qui met en exergue son épineuse articulation avec le droit européen.

En ce qui concerne les effets des réseaux sociaux sur la santé mentale des jeunes, nous savons depuis les Facebook Leaks, en 2021, qu’ils sont parfaitement connus et même recherchés par les plateformes pour maintenir l’utilisateur connecté le plus longtemps possible. Or, le DSA ne traite pas cette question. Il donne l’impression d’être une boîte à outils intéressante, mais dont les outils ne seraient pas utilisés. Quant aux enquêtes, que ce soit contre X ou d’autres plateformes, elles se concentrent sur les questions de concurrence, mais pour ce qui est de la protection de mineurs, il ne se passe rien. Il faudrait interpeller l’échelon européen pour revoir les modalités d’action et le calendrier dans ce domaine.

Enfin, s’agissant de la vérification de l’âge, qui est essentielle, vous avez évoqué le e-wallet. En France, nous avons l’application France Identité, sur laquelle les utilisateurs peuvent enregistrer leurs documents d’identité. Cet outil pourrait-il être utilisé comme tiers de confiance, en produisant un certificat anonymisé que les plateformes et les réseaux pourraient reconnaître de manière sécurisée ?

Mme Clara Chappaz, ministre déléguée. Pour le dire sans détour, je ne suis pas surprise que les sites pornographiques mettent tout en œuvre pour ne pas se conformer à leurs obligations. S’ils avaient voulu protéger les enfants de contenus qui leur sont interdits, ils l’auraient déjà fait. Soyons clairs : nous leur demandons simplement de faire respecter une interdiction ancienne de plus de trente ans et dont les manquements aboutissent à ce qu’un garçon sur deux et une fille sur trois consomment régulièrement du contenu pornographique dès 10 ans. Eu égard aux enjeux commerciaux, le monde dans lequel ces plateformes auraient, de leur propre chef, instauré des mécanismes de protection n’existe pas. C’est là que le rôle du Parlement et du Gouvernement prend tout son sens.

Il y a quarante-huit heures, le tribunal de Paris a décidé de suspendre l’application de l’arrêté qui oblige les sites pornographiques à vérifier l’âge des utilisateurs. D’ici au jugement définitif, nous ferons tout pour faire prévaloir nos arguments. Nous allons nous pourvoir en cassation devant le Conseil d’État afin de contester cette décision, d’ailleurs différente de celle rendue il y a une ou deux semaines concernant un autre recours. Pour notre part, notre ligne ne dévie et ne faiblit pas : les sites pornographiques doivent protéger les enfants. Une loi a été votée par le Parlement et nous nous efforcerons de la faire respecter par tous les sites. C’est un long combat, que nous mènerons jusqu’au bout ; vous pouvez compter sur mon entière détermination.

Outre ces procédures nationales, les choses avancent au niveau européen. Je tiens à le souligner, car on a beaucoup entendu qu’avec la loi Sren, la France avançait seule et que l’instauration d’une vérification d’âge était impossible. Non seulement nous avons montré que c’était possible, mais surtout que l’Europe suivait. En ce qui concerne les lignes directrices du DSA, la Commission européenne a inclus dès ses propositions la vérification de l’âge sur les sites pour adultes. Ainsi, aux sites qui cherchent à se soustraire à leurs obligations, j’indique que la réglementation progresse. Ils peuvent donc continuer à gagner du temps ou prendre leurs responsabilités et protéger les enfants.

S’agissant, ensuite, des effets sur la santé mentale, qui sont documentés, je vous rejoins : moi aussi, je souhaite que les enquêtes menées dans le cadre du DSA aillent plus vite et aboutissent. Chaque jour, des contenus comme ceux liés à la tendance SkinnyTok sont vus, sauf erreur, par 500 millions de jeunes filles. Ils incitent à l’extrême maigreur et affirment – je l’ai personnellement constaté sur mon propre fil – qu’il vaut mieux être vide que vilaine ou que quand l’estomac gargouille, c’est qu’il applaudit. Nous mesurons les effets absolument délétères de ce type de contenus sur la santé mentale et la santé tout court des jeunes filles qui les regardent en boucle.

Des enquêtes sont donc en cours et il faut utiliser les outils que nous avons à notre disposition. Nous rappelons notre position de fermeté à la Commission européenne et je répète que nous ne sommes pas seuls. Tous mes homologues sont parfaitement alignés pour affirmer que ce que nous avons obtenu au sujet de TikTok Lite, dont nous avons rapidement obtenu l’interdiction grâce à une enquête de la Commission, pourrait être reproduit concernant les autres problèmes identifiés sur les différentes plateformes. Certes, les enquêtes doivent être solides, mais il faut qu’elles aboutissent et nous y veillons.

En ce qui concerne la documentation, le DSA impose clairement à TikTok et aux autres plateformes d’analyser les risques systémiques, parmi lesquels figure la protection des enfants. Elles ont ainsi pour obligation de remettre un rapport annuel sur les conséquences négatives de leurs contenus sur le bien-être physique et mental des mineurs. J’ajoute que la réglementation européenne prévoit aussi la possibilité de mener des audits des algorithmes pour comprendre techniquement comment les plateformes sont gouvernées et identifier les éventuels biais cognitifs qu’ils induisent, de sorte de demander des corrections. Encore une fois, il faut maintenir la pression et exiger l’aboutissement des enquêtes : vous pouvez compter sur moi.

S’agissant, enfin, du contrôle de l’âge, France Identité constitue bien l’une des solutions existantes. J’ai également rencontré les représentants de Docaposte lors du salon VivaTech, la semaine dernière, qui est le plus important au monde dans le domaine de l’innovation. Il faut sortir de l’idée, avancée par certains acteurs réticents, selon laquelle il n’existe pas de solution. J’invite les plateformes à se renseigner : il y en a une quinzaine rien que dans notre pays. Des entreprises m’ont indiqué qu’avec la blockchain, elles pouvaient émettre des tokens (jetons) ou qu’avec telle technologie, elles proposaient telle possibilité, etc. Des solutions existent, grâce à des tiers de confiance qui pourront apporter une certification, et il n’est plus entendable de se cacher derrière des arguments faussement techniques, surtout quand on est une entreprise numérique particulièrement innovante.

M. Belkhir Belhaddad (NI). Les jeunes sont les premiers à subir les risques associés aux médias algorithmiques, à commencer par la désinformation. À cet égard, j’aimerais revenir sur la labellisation volontaire des influenceurs d’information.

Vous venez d’évoquer la certification, mais du côté technique, c’est-à-dire des entreprises proposant des solutions. Or les influenceurs qui produisent de l’information ne sont pas soumis aux mêmes règles déontologiques que les journalistes, les éditeurs de presse ou les services audiovisuels. Le rapport des états généraux de l’information, dont les conclusions ont été rendues en septembre 2024, recommande la reconnaissance de celles et de ceux qui, sur les plateformes, visent à offrir une information de qualité, indépendante et attachée aux faits. Ces personnes s’engageraient volontairement – je dis bien volontairement – à respecter des exigences renforcées en matière de traitement de l’information, de qualité des sources et d’honnêteté dans la présentation des faits.

Sous quelles conditions serait-il possible d’instaurer cette labellisation volontaire, dans le respect des libertés d’expression, de communication et d’information ? Le Gouvernement envisage-t-il un tel dispositif ?

Mme Clara Chappaz, ministre déléguée. Vous touchez du doigt un point central, car le DSA aborde la question de la responsabilité des plateformes face à la désinformation. Cet élément fait l’objet de nombreux débats et est souvent mis en opposition avec la liberté d’expression. Soyons clairs : cette dernière est un droit fondamental, un principe fondateur et il n’a jamais été question que le règlement européen le remette en cause.

Le DSA est néanmoins très clair : ce qui est interdit hors ligne l’est aussi en ligne. La liberté d’expression n’est pas définie de la même manière par la Déclaration des droits de l’homme et du citoyen et le premier amendement de la Constitution américaine ; c’est un fait. Ainsi, au cours de cette audition, à la radio ou sur un réseau, au-delà de la désinformation, il y a des propos illicites – homophobes, antisémites, d’appel à la haine, à la violence, au terrorisme, etc. – qu’on ne peut pas tenir. Les plateformes, aux termes du DSA, ont donc la responsabilité d’agir sur les contenus qui contreviendraient à cette règle, ainsi que de manière systémique sur la désinformation. Comme elles doivent le faire au sujet de la protection des mineurs, les plateformes doivent établir un rapport annuel quantifiant les risques et présentant des pistes de solution.

Les outils sont nombreux et les plateformes sont libres de choisir la façon dont elles se saisissent du sujet. Elles peuvent créer un réseau de journalistes ou encore appliquer des notes communautaires, c’est leur pleine liberté, mais elles doivent être claires sur l’efficacité des dispositifs retenus. Elles ont aussi pour obligation de coopérer avec les chercheurs agréés. Des enquêtes sont en cours afin de déterminer si les dispositifs choisis par les plateformes sont efficaces.

S’agissant de la responsabilité des producteurs de contenus eux-mêmes et de la qualité de l’information qu’ils proposent, plusieurs études montrent que les jeunes ont autant confiance en celle rapportée par les influenceurs qu’en celle des titres de presse ; c’est la réalité du monde dans lequel on vit. Le chiffre est à vérifier, car je le cite de tête, mais deux enfants sur dix, et ce n’est qu’un exemple, pensent que les pyramides ont été construites par des extraterrestres. Cela peut faire sourire, mais c’est ainsi.

En définitive, la responsabilité des plateformes est établie : le cadre est clair et il doit s’appliquer. Répondre à cet enjeu n’est pas facile, mais les solutions retenues doivent être efficaces. Quant à la responsabilité des créateurs de contenus, sachez que nous avons confié une mission à MM. Delaporte et Vojetta afin de prolonger leur loi dite influenceurs (loi n° 2023-451 du 9 juin 2023 visant à encadrer l’influence commerciale et à lutter contre les dérives des influenceurs sur les réseaux sociaux) en ce sens, bien sûr dans le respect du droit européen, afin de protéger nos enfants.

M. le président Arthur Delaporte. Mission pour laquelle nous attendons la lettre officielle, manière de vous adresser une petite relance. (Sourires.)

M. Stéphane Vojetta (EPR). Il y a un an, dans le cadre du projet de loi portant diverses dispositions d’adaptation au droit de l’Union européenne (Ddadue), nous avons demandé au Gouvernement de remettre au Parlement un rapport sur les mesures d’adaptation que nous devrions prendre à la suite des observations émises par la Commission européenne sur la loi n° 2023-566 du 7 juillet 2023 visant à instaurer une majorité numérique et à lutter contre la haine en ligne, dite loi Marcangeli, qui visait à établir une majorité numérique à 15 ans. Ce rapport est-il prêt ? Quelles en sont les principales conclusions ? Y figure-t-il des pistes juridiques pour nous permettre, à nous Français, d’imposer aux plateformes des contraintes spécifiques, une fois que la vérification de l’âge des utilisateurs sera obligatoire en Europe ?

À cet égard, M. Arthur Delaporte et moi-même avions anticipé le fait que, tôt ou tard, la vérification de l’âge sera obligatoire, la loi dite influenceurs imposant non aux plateformes mais aux créateurs de contenus de filtrer leurs productions en conséquence et d’empêcher leur consultation par les mineurs dès lors qu’elles promeuvent certains produits ou services qui leur sont interdits. Il me semble qu’il s’agit là d’une voie de passage juridique. Peut-être y en a-t-il d’autres et j’aimerais vous entendre sur ce point.

Ensuite, je souhaitais aborder la question du contrôle parental et de la responsabilisation des parents. En effet, on ne peut uniquement parler d’interdictions : il faut aussi éduquer, sensibiliser, s’assurer que les parents participent, comprennent les risques auxquels sont exposés leurs enfants et utilisent les outils à leur disposition. Ceux-ci sont nombreux et intégrés aux systèmes d’opération et aux plateformes, mais nous déduisons de la réticence des acteurs à nous répondre à ce sujet que, très souvent, les comptes détenus par les mineurs – qu’ils soient ou non identifiés comme tels – ne font pas l’objet d’un contrôle parental ni d’une limitation de temps d’utilisation. La proportion de comptes contrôlés par les parents semble très faible.

Faudrait-il donc réfléchir à renforcer la loi n° 2022-300 du 2 mars 2022 visant à renforcer le contrôle parental sur les moyens d'accès à internet dite loi Studer et imposer aux fabricants de vendre des écrans configurés par défaut pour les moins de 18 ans ? Le déblocage de l’appareil pourrait bien sûr avoir lieu ensuite, une fois que l’utilisateur aura fait la preuve de son âge. Est-ce une piste envisagée ? Le cas échéant, pourrait-elle fonctionner sur le plan juridique ?

Mme Clara Chappaz, ministre déléguée. En ce qui concerne le rapport, je tiens à vous présenter mes excuses, au nom du Gouvernement, pour le retard. Nous devions vous le remettre il y a déjà quelques mois et je sais que vous êtes sensibles au respect des délais. Je l’ai signé hier et il vous sera donc remis très prochainement.

Je salue la loi Marcangeli. Elle a été votée à l’unanimité, ce qui montre bien que ces enjeux de société majeurs sont transpartisans. Pour résumer, mais nous pourrons en reparler quand vous aurez reçu le rapport, deux éléments ont été pointés par la Commission européenne. Le premier a trait à la procédure de notification du texte auprès de la Commission, laquelle n’a pas pleinement respecté la période de statu quo prévue. Deuxièmement, plusieurs dispositions du texte sont en contradiction avec le droit européen.

Dès lors, ainsi que l’indique le rapport, deux options s’offrent à nous. Premièrement, nous pourrions dupliquer le contenu de la loi dans une ordonnance et reprendre la procédure de notification, afin de faire les choses dans l’ordre. Cependant, d’après nos services, l’adéquation du texte avec les réglementations européennes demeurerait très fragile. C’est pourquoi je privilégierais une seconde solution selon laquelle la vérification de l’âge serait instaurée au niveau européen, en laissant la possibilité aux États membres de déterminer celui à partir duquel l’accès aux réseaux sociaux serait autorisé. De cette manière, nous serions en accord avec les lignes directrices du DSA que nous sommes en train de rédiger en ce moment même. C’est ainsi, je le crois, que nous pourrons interdire les réseaux sociaux avant 15 ans.

C’est tout le travail que nous avons entamé avec la Commission européenne depuis quelque temps. Sans vouloir entrer dans des détails trop complexes, plusieurs bases légales européennes encadrent les plateformes. Outre le DSA, il y a le règlement (UE) 2016/679 du Parlement européen et du Conseil du 27 avril 2016 relatif à la protection des personnes physiques à l'égard du traitement des données à caractère personnel et à la libre circulation de ces données, et abrogeant la directive 95/46/CE dit règlement général sur la protection des données (RGPD) et la directive 2010/13/UE du Parlement européen et du Conseil du 10 mars 2010 visant à la coordination de certaines dispositions législatives, réglementaires et administratives des États membres relatives à la fourniture de services de médias audiovisuels (SMA), sur laquelle nous nous étions d’ailleurs appuyés s’agissant des sites pornographiques. Avec la Commission, nous analysons les différentes possibilités afin de définir un âge légal à partir duquel une personne pourrait s’inscrire sur les réseaux sociaux. Lors du dernier Conseil européen, Henna Virkkunen, vice-présidente de la Commission, nous a assurés de sa volonté de nous accompagner en ce sens. Le travail n’est pas abouti, si bien que je ne peux encore indiquer de quelle manière les choses vont se passer, mais je compte bien aller au bout.

Le DSA interdit déjà aux plateformes de cibler les mineurs avec de la publicité. Il s’agit d’une première décision très importante, que la loi influenceurs a prolongée en obligeant les créateurs à préciser lorsqu’un contenu est sponsorisé et en prohibant la promotion de certains produits – plateformes et créateurs s’exposant à de très lourdes sanctions en cas de manquement. J’ajoute qu’il est également défendu de faire apparaître des produits interdits aux mineurs dans des publicités qui leur sont dédiées et de faire apparaître des enfants dans des contenus commerciaux sans autorisation.

Ces travaux vont dans le sens d’une meilleure responsabilisation et d’une protection accrue des mineurs en ligne. D’ailleurs, nous nous sommes aussi entretenus avec Michael McGrath, commissaire européen à la démocratie, à la justice et à l’État de droit, au sujet du projet de Digital fairness act, qui s’inspire de vos travaux sur l’influence commerciale en ligne. Ce n’est pas un combat facile et il reste des choses à faire, en particulier sur la vérification de l’âge, qui est la question centrale. La France montre la voie.

S’agissant ensuite du rôle des parents et des outils à leur disposition, je salue le travail mené par votre ancien collègue, Bruno Studer, afin que des dispositifs de contrôle parental soient préinstallés sur les différents appareils. Nous avons d’ailleurs organisé une réunion avec Catherine Vautrin, ministre du travail, de la santé, des solidarités et des familles, et les opérateurs téléphoniques afin qu’ils nous communiquent des informations sur le recours à ces dispositifs. Sont-ils connus et utilisés par les parents ? Nous suivrons cette question de près.

Comme vous l’avez très justement souligné, il faut être conscient de la situation. Les plateformes qui ont aussi élaboré des contrôles parentaux nous indiquent très honnêtement qu’ils ne sont pas massivement utilisés. Je ne m’interdis pas de réfléchir à l’opportunité de les installer par défaut, mais il y a aussi une question d’éducation. Je le disais en introduction : le travail mené par le Parlement, par cette commission d’enquête et par le Gouvernement doit conduire à un vrai débat de société sur la place que les écrans prennent dans la vie de nos enfants et leurs conséquences bien réelles sur leur santé. Il faut donner des pistes de réflexion aux familles et les outils de contrôle parental en est une. Les trois quarts des parents y sont favorables, mais près de 60 % d’entre eux ne les utilisent pas.

J’y insiste, il y a des enjeux d’éducation, de sensibilisation, d’accompagnement vis-à-vis desquels nous devons être attentifs. Nous y prendrons toute notre part. Les règles seules ne suffisent pas.

M. le président Arthur Delaporte. Quelles sont nos marges de manœuvre au niveau national ? Nous réfléchissons aux moyens d’agir rapidement, mais lorsque nous sommes allés à Bruxelles, on nous a indiqué que le Digital fairness act devrait aboutir à l’horizon 2029. Devrons-nous attendre cette échéance ou l’élaboration d’un nouveau DSA ?

Mme Laure Miller, rapporteure. En effet, pourriez-vous préciser l’état de vos échanges avec la Commission européenne et les premières conclusions sur le fondement desquelles nous pourrions légiférer au niveau national ? Le cas échéant, peut-être pourrions-nous d’ailleurs publier les décrets d’application de la loi Marcangeli ?

Mme Clara Chappaz, ministre déléguée. C’est une question importante et je ne pourrai vous donner toutes les réponses que vous souhaitez, étant donné que la discussion est en cours. Nous étudions toutes les pistes – DSA, SMA, RGPD – pour avancer.

Soyez assurés que cette priorité de la représentation nationale est partagée par le Gouvernement. J’en profite d’ailleurs pour saluer la proposition de résolution européenne déposée cette semaine par la sénatrice Catherine Morin-Desailly sur la protection des mineurs en ligne. Notre volonté forte et assumée est d’aller plus loin en la matière et de convaincre nos partenaires européens en ce sens. Dans la mesure où nous sommes en train de préciser les lignes directrices du DSA et les obligations des plateformes concernant la protection des mineurs, c’est le moment d’agir et c’est la raison pour laquelle je me suis donné trois mois pour progresser.

S’agissant de la loi Marcangeli, comme je le disais, si nous voulons la conserver en l’état, il faudrait prendre une ordonnance. Le problème principal a trait à l’autorité de régulation. Or puisque nous avons confié cette mission à la Commission européenne s’agissant des très grandes plateformes, dont celle à laquelle votre commission d’enquête s’intéresse, le processus serait très long – environ un an – et nécessiterait un projet de loi Ddadue. C’est pour cette raison que ce n’est pas vers cette solution que nous nous dirigeons. Nous étudions toutes les pistes pour que les choses soient opérantes et, comme je l’ai dit, la Commission européenne partage notre volonté de trouver une voie de passage.

Je reconnais que c’est long et compliqué, mais n’oublions pas que ce que l’Europe a décidé de faire est fondamental et que si nous pouvons y arriver, c’est parce que nous sommes 450 millions. Je suis très fière d’être Européenne pour cette raison. Si, lorsqu’elles seront achevées, des enquêtes estiment que des plateformes ont manqué à leurs obligations et que des amendes sont prononcées en conséquence, ce sera un moment fondateur. Ne sous-estimons pas le chemin parcouru par l’Europe sur cette question.

Mme Laure Miller, rapporteure. Vous avez raison de rappeler le rôle de l’Europe dont, en tant que Français, nous n’avons pas toujours conscience. Il faut d’ailleurs rendre hommage à M. Thierry Breton, qui a réalisé un travail colossal – c’est une star à Bruxelles, aux yeux de certains parlementaires européens !

Je souhaite vous interroger sur la sensibilisation des parents et des enfants. Au cours des auditions de parents de victimes et d’associations de parents d’élèves, nous avons relevé une certaine incompréhension à l’égard de l’éducation nationale. En effet, on nous alerte régulièrement sur l’impact de l’exposition aux écrans et du numérique sur les enfants – la commission « Enfants et écrans » a d’ailleurs rendu ses conclusions à ce sujet. Or, même si les familles font de la résistance en essayant de ne pas confier de téléphone à leurs enfants et de limiter l’usage des écrans à la maison, c’est l’école elle-même qui met un écran dans les mains des enfants par le biais d’applications telles que Pronote. Quel regard portez-vous sur cette question ? Lorsque nous avons auditionné les représentants de l’éducation nationale, j’ai eu le sentiment qu’il faudrait du temps pour tirer les leçons des travaux de la commission « écrans » et appliquer ses recommandations dans le milieu scolaire.

Mme Clara Chappaz, ministre déléguée. Comme je l’ai souligné dans mon propos liminaire, je travaille avec mes collègues Catherine Vautrin et Élisabeth Borne, sur l’impact des écrans sur les enfants, puisque les trois sujets – numérique, santé et éducation – sont étroitement liés.

J’entends les interrogations des parents. Sous l’impulsion du président de la République et du premier ministre, la ministre d’État Élisabeth Borne a fait siennes plusieurs recommandations de la commission « Enfants et écrans », qui seront appliquées dès la rentrée 2025. Elle a ainsi annoncé la généralisation de la pause numérique dans les collèges, avec l’interdiction du téléphone portable dans ces établissements : cette mesure, très attendue, permettra de mettre en adéquation le discours avec ce qui se passe à l’école. Elle a également annoncé le lancement du défi « Dix jours sans écrans » et son souhait d’instaurer une pause dans les notifications envoyées par le logiciel Pronote, en particulier durant la nuit et à certaines heures du week-end – les modalités restent à préciser –, parce que cela fait partie des problèmes soulevés par les parents et des recommandations de la commission « Enfants et écrans ».

Catherine Vautrin a également annoncé, il y a quelques jours, l’interdiction de l’usage des écrans pour les enfants de moins de 3 ans. À l’instar de la loi dite anti-fessée, défendue par Adrien Taquet lorsqu’il était secrétaire d’État chargé de l’enfance et des familles, qui a permis de mettre en lumière cette pratique et de fixer un cadre très clair dans les familles, l’objectif est de fixer une règle commune pour tous : les écrans sont interdits avant l’âge de 3 ans.

Nous travaillons également à la communication sur le sujet. Nos prédécesseurs ont lancé le dispositif « Je protège mon enfant », qui comprenait plusieurs campagnes de sensibilisation. Il est encore trop tôt pour vous préciser quelle forme prendra la communication, néanmoins nous réfléchissons à une politique d’accompagnement qui va de pair avec les interdictions, puisque l’un ne va pas sans l’autre : il faut d’abord fixer des règles, puis accompagner, éduquer et sensibiliser.

M. Thierry Sother (SOC). Dans votre propos liminaire, vous avez évoqué une plateforme qui a dépensé des sommes considérables dans une campagne publicitaire, pour aboutir finalement à un jeu de ping-pong dans lequel chacun se renvoie la balle sur les actions à mener afin de protéger les mineurs. Derrière l’affichage, il y a une volonté de la part des plateformes de se dédouaner et de se déresponsabiliser, par facilité, et, en définitive, de s’en laver les mains.

Selon vous, comment pourrions-nous intégrer des messages de prévention sur les plateformes elles-mêmes ? Par exemple, pour s’inscrire à une course à pied, vous n’êtes plus tenu désormais de produire un certificat médical, mais vous devez regarder une vidéo préventive présentant les risques potentiels. Ne pourrions-nous pas ouvrir un dialogue avec les plateformes sur ce sujet ? Lorsque nous les avons auditionnées, elles ont déclaré, la main sur le cœur, que leur système économique était le plus sain et le plus vertueux possible. Au bout d’un certain laps de temps passé en continu sur une plateforme, on pourrait imaginer la diffusion de vidéos de prévention obligatoires, qui bloqueraient la consultation d’autres contenus tant qu’elles n’auraient pas été visionnées par l’utilisateur. Ce serait utile non seulement aux mineurs mais aussi aux parents qui, pour beaucoup, n’ont pas conscience de l’impact des réseaux sociaux.

Mme Clara Chappaz, ministre déléguée. Je vous rejoins en ce qui concerne la campagne de publicité : s’il est bon d’appeler à la vérification de l’âge, il y a un peu de cynisme à attendre de la Commission européenne une réglementation en la matière. Pour faire un parallèle, c’est comme si, en matière de vente d’alcool dont on connaît parfaitement les risques que sa consommation fait peser sur les mineurs, on en était encore à dire : « Empêchez-nous de leur en vendre » ! Face à des entreprises qui privilégient leurs intérêts commerciaux et ne prennent pas leur responsabilité, notre action prend tout son sens. Et nous prendrons nos responsabilités.

S’agissant de la prévention, ce sont effectivement de bonnes idées. C’est d’ailleurs ainsi que je conçois mon action : je crois en la coconstruction avec les plateformes. Je les ai réunies, à la mi-avril, pour leur faire part de ma volonté d’interdire les réseaux sociaux aux jeunes de moins de 15 ans, ainsi que pour réfléchir ensemble à ce qui pourrait être fait, au-delà de la régulation, pour présenter davantage de contenus positifs. Par exemple, face aux vidéos prônant l’extrême maigreur, TikTok a expliqué mettre en avant des contenus qui présentent aux utilisateurs des explications sur ce type de tendances. Je ne sais pas si cela fonctionne, mais c’est déjà une bonne chose que des plateformes, qui rassemblent des centaines de millions de personnes et dont l’audience est considérable, puissent être des vecteurs d’éducation et de sensibilisation.

C’est ainsi, également, que l’on peut imaginer le rôle des influenceurs. La mission qui sera confiée très prochainement à MM. Delaporte et Vojetta devra réfléchir aussi au moyen de les associer à cette dynamique, afin qu’ils relayent les messages positifs. Dans le cadre du défi « Dix jours sans écrans », lancé avec Élisabeth Borne, nous avons essayé d’encourager des créateurs de contenus à partager les messages de sensibilisation ; plusieurs d’entre eux ont réalisé des vidéos pour interpeller les jeunes et leur montrer comment, sans écrans, il est possible de reprendre le contrôle de son quotidien.

Il peut sembler surprenant d’entendre la ministre chargée du numérique inviter à la déconnexion. Que des influenceurs qui ont une activité commerciale sur les réseaux sociaux invitent à cette prise de conscience est assurément une bonne chose. Au-delà de la régulation, nous avons l’occasion de coconstruire avec les plateformes et de les faire participer à des solutions positives d’éducation et de sensibilisation.

Mme Laure Miller, rapporteure. Si je cherchais à polémiquer, je dirais que le Parlement agit parfois en ordre dispersé, mais que le gouvernement le fait également, puisque Aurore Bergé a organisé, comme vous, une réunion avec les plateformes. Cependant, je préfère voir les choses sous un angle positif et noter que tous les ministres se saisissent désormais du sujet – de la même manière, il y a quelques années, l’environnement n’était traité que par le ministre de l’écologie, alors qu’il s’agit d’un sujet transversal. Que pense la ministre chargée du numérique du fait que de plus en plus de ministres s’emparent du sujet, ce qui est une bonne chose ?

Mme Clara Chappaz, ministre déléguée. C’est une bonne chose, en effet, de même que la constitution de votre commission d’enquête ou la proposition de résolution européenne de la sénatrice Catherine Morin-Desailly, que j’ai évoquée tout à l’heure. Nommée ministre déléguée chargée de l’intelligence artificielle et du numérique à la fin du mois de septembre, j’ai un profil plutôt technique : j’ai travaillé pendant une dizaine d’années dans le numérique, au sein de différentes start-up et entreprises. Pourtant, il ne se passe pas un jour sans que je répète que le numérique n’est pas un truc de geek, mais un sujet de société, éminemment politique. À voir la détermination que vous mettez à travailler sur ces questions et celle de plusieurs de mes collègues du Gouvernement, notamment M. Laurent Marcangeli, pour dénoncer l’ampleur du problème, je me dis qu’il est possible d’embarquer toute la société.

J’ai évoqué tout à l’heure les cafés IA. Dans tous mes échanges sur le numérique avec mes interlocuteurs, qu’il s’agisse des parents, des enfants ou encore des enseignants, la question des réseaux sociaux revient sur la table. Plus nous serons nombreux à nous intéresser à ce sujet de société et à y chercher des réponses, mieux ce sera.

C’est d’ailleurs aussi un sujet de préoccupation majeure du président de la République. La commission « Enfants et écrans », dont il a pris l’initiative, a permis d’établir, sur la foi des experts, l’impact des réseaux sociaux et des écrans sur les enfants et de formuler des recommandations que les ministres Catherine Vautrin, Élisabeth Borne et moi-même mettons en œuvre avec détermination, dans une démarche interministérielle très fluide. Il y va de la protection de nos enfants.

Par conséquent, il n’y a pas d’ordre dispersé mais un sujet qui prend de l’ampleur, et c’est une bonne chose. D’ailleurs, j’invite tous les parlementaires à prendre part aux débats organisés sur ces questions, même si cela semble un peu technique – je pense par exemple à un débat organisé au Sénat sur l’impact des réseaux sociaux sur la vie démocratique et la question des ingérences étrangères. Sachant que les plus jeunes passent quatre heures par jour sur les réseaux sociaux, qu’ils s’y informent et s’y sociabilisent, il est fondamental que les responsables politiques comprennent l’ampleur du phénomène et unissent leurs forces pour apporter des réponses appropriées.

Mme Laure Miller, rapporteure. Je faisais référence aux questions de sexisme et de masculinisme mises en avant par la ministre Aurore Bergé. Pour justifier l’absence de modération a priori sur ces sujets, les plateformes se retranchent derrière l’existence d’une zone grise dans laquelle la loi ne prévoit aucune sanction pénale. Ma question est donc double : la loi française doit-elle évoluer pour prendre en compte ce type de questions, qui sont difficiles à appréhender ? Et faut-il que la procédure judiciaire évolue pour être plus rapide – je pense à une sorte de référé numérique –, afin de retirer plus efficacement, a posteriori, des contenus problématiques ?

Mme Clara Chappaz, ministre déléguée. Je vous ferai une réponse à plusieurs étages. Le DSA est très clair : les plateformes ont la responsabilité de protéger leurs utilisateurs et de s’attaquer aux risques systémiques, dont la protection des mineurs. Grâce aux audits réguliers et aux enquêtes menés, des réponses systémiques peuvent être trouvées. Les associations, qui jouent le rôle de signaleurs de confiance et font un travail remarquable depuis des années sur la protection des enfants en ligne, ont parfois le sentiment de vider l’océan à la petite cuiller. Par conséquent, la réponse ne peut être que systémique. En ce sens, le DSA est un outil puissant face aux contenus qui enfreignent la réglementation. Il n’y a pas de zone grise : quand c’est illicite, c’est illicite et les plateformes ont une responsabilité et une procédure à respecter. C’est sans doute plus compliqué pour d’autres thématiques mais, dans ce cas, le problème ne concerne pas que le domaine numérique : c’est pareil dans le monde physique. Faut-il légiférer sur ces contenus ? L’articulation entre discours de haine et masculinisme ou sexisme est-elle suffisamment claire dans le droit français ? Je laisserai ma collègue Aurore Bergé, qui est experte de ces questions, y répondre. Néanmoins, dans le cadre du DSA, les discours de haine, quels qu’ils soient, ne sont pas autorisés sur les plateformes et les risques systémiques, dont le risque masculiniste, sont de la responsabilité des plateformes.

J’ai commencé à étudier de près le sujet des procédures judiciaires : cela fait écho à une question qui m’a été posée hier au Sénat, lors des questions au Gouvernement, sur l’anonymat sur les réseaux sociaux. Je tiens à rappeler qu’il n’y a en ligne qu’un pseudo-anonymat qui peut, certes, encourager des discours de haine et des comportements répréhensibles. Toutefois, ces comportements sont punis de la même façon qu’ailleurs : il n’y a pas d’impunité en ligne. Dans l’affaire de cyberharcèlement dont a été victime M. Thomas Jolly, sept personnes ont été condamnées à des peines pouvant aller jusqu’à huit mois de prison avec sursis. Certes, la procédure a été longue puisqu’elle a duré environ sept mois, de mémoire, et j’entends que ce ne soit pas satisfaisant. Est-il possible d’être plus opérant et de raccourcir les délais ? Il faudra que nous y réfléchissions avec le ministre Gérald Darmanin. Quoi qu’il en soit, je tiens à être très claire : les propos interdits dans le monde physique le sont aussi en ligne. Il n’y a pas d’impunité sur les réseaux sociaux, ni d’anonymat : il est tout à fait possible de retrouver ceux qui profèrent des propos illicites grâce à leur adresse IP et aux données de connexion que la plateforme a l’obligation de conserver précisément pour ce type de délits, et de les punir.

Mme Laure Miller, rapporteure. On nous a souvent dit que la lutte contre les contenus à caractère terroriste en ligne pouvait servir de modèle. Partagez-vous cette appréciation ?

Parmi les moyens de lutter contre les influenceurs et leurs contenus problématiques, la répression des fraudes et les différents types de sanctions qui peuvent leur être infligées vous semblent-ils être une voie à suivre ? Je sais que le président de la commission d’enquête travaillera sans doute sur ces sujets, mais avez-vous une réflexion en la matière pour faire évoluer le droit ?

Mme Clara Chappaz, ministre déléguée. Depuis l’adoption de la loi sur les influenceurs, ceux-ci doivent respecter certaines obligations et même si tous les décrets n’ont pas encore été publiés, l’autorité de contrôle peut commencer à l’appliquer. Nous avons échangé avec la direction générale de la concurrence, de la consommation et de la répression des fraudes (DGCCRF) sur cette question et nous veillerons à ce que les outils dont nous disposons désormais soient utilisés, afin de rappeler aux influenceurs leur responsabilité. Faut-il faire davantage ? C’est le sens de la mission confiée à MM. Arthur Delaporte et Stéphane Vojetta, qui examineront s’il est possible d’étendre ces responsabilités, dans le respect du cadre européen. Je suivrai ce travail avec la plus grande attention.

Mme Laure Miller, rapporteure. Comment décririez-vous votre relation avec les plateformes ? Vous avez évoqué ce que vous avez dû faire en ce qui concerne le hashtag #SkinnyTok : est-ce le rôle de la ministre de se rendre à Dublin pour soulever cette question ? Avez-vous, au sein de votre cabinet, une vigie qui relève les contenus problématiques et les signale régulièrement aux plateformes, en plus des signaleurs de confiance, dont c’est le rôle ?

Mme Clara Chappaz, ministre déléguée. C’est, en effet, le rôle des signaleurs de confiance, de l’Arcom et de l’ensemble des citoyens. D’ailleurs, la loi Sren a institué une réserve citoyenne du numérique, sur laquelle nous sommes en train de travailler, afin de s’appuyer sur ceux qui sont prêts à participer à ce projet. Je suis une ministre très attentive et lorsqu’une tendance telle que SkinnyTok se fait jour, je me sens dans mon rôle de la signaler à l’Arcom ainsi qu’à la Commission européenne et de tout mettre en œuvre pour obtenir des réponses de la part des plateformes. Et si elles me répondent qu’elles n’ont pas le pouvoir de changer les choses en France et qu’il faut se rendre à Dublin, j’y vais ; et lorsque, à Dublin, on me répond qu’il faut aller à Los Angeles, je suis prête à y aller également ! Finalement, je n’en ai pas eu besoin puisqu’ils ont agi avant. Je continuerai de le faire, mais ce n’est pas une réponse systémique.

Le numérique étant un sujet éminemment politique, il faut mener un travail de fond, en particulier sur les lignes directrices du DSA. Encore une fois, j’entends les associations qui ont l’impression de vider l’océan à la petite cuiller, lorsqu’elles signalent les comportements problématiques sur les réseaux. Dans un monde idéal, ce n’est pas à moi de le faire, mais je continuerai tant que cela aidera à accélérer les choses. Mais, j’y insiste, je mets surtout toute mon énergie à obtenir des réponses systémiques pour sortir de cette situation. Il y va de l’avenir de nos enfants.

En ce qui concerne mes relations avec les plateformes, je vois très régulièrement ces entreprises, qui ont des projets divers et variés en France et qui sont, pour certaines, très impliquées dans nos laboratoires de recherche. Sur la question des réseaux sociaux et de la protection des mineurs, je les réunis régulièrement, depuis le début de l’année, dans une logique constante de fermeté dans les attentes et de coconstruction de la réponse. S’il est caricatural de croire qu’elles bougeront par elles-mêmes – lorsque les intérêts sont divergents, il faut de la régulation pour faire avancer les choses ; il en va ainsi depuis que le monde est monde –, il est tout aussi caricatural de penser qu’on ne peut pas travailler ensemble : nous pouvons faire beaucoup de choses avec les plateformes et j’ai bien l’ambition de continuer à travailler avec elles en ce sens, sans naïveté, mais avec force, détermination et fermeté dans le discours.

Ce sera peut-être le mot de conclusion : l’époque durant laquelle la prise de conscience du problème était encore fragile est désormais révolue. Et, d’un point de vue purement cynique, si les plateformes veulent conserver leurs utilisateurs, il faudra bien qu’elles s’attaquent au problème. Soit nous le faisons ensemble, soit nous le faisons contre elles ; mais, dans tous les cas, nous avancerons pour protéger nos enfants.

Mme Laure Miller, rapporteure. Je vous remercie, madame la ministre.

64. Audition de M. Léonard Brudieu, sous-directeur à la Direction générale de la concurrence, de la consommation et de la répression des fraudes (DGCCRF), M. Paul-Emmanuel Piel, chef de bureau, et Mme Marie Pique, adjointe au chef de bureau (jeudi 19 juin 2025)

Enfin la commission auditionne M. Léonard Brudieu, sous-directeur à la Direction générale de la concurrence, de la consommation et de la répression des fraudes (DGCCRF), M. Paul-Emmanuel Piel, chef de bureau, et Mme Marie Pique, adjointe au chef de bureau ([62]).

M. le président Arthur Delaporte. Mes chers collègues, nous accueillons aujourd’hui les représentants de la direction générale de la concurrence, de la consommation et de la répression des fraudes (DGCCRF), que je remercie pour leur présence.

Je salue M. Léonard Brudieu, sous-directeur, M. Paul-Emmanuel Piel, chef de bureau, et Mme Marie Pique, adjointe au chef de bureau.

Avec M. Stéphane Vojetta, nous avons eu l’occasion d’échanger avec la DGCCRF à de nombreuses reprises, notamment concernant l’encadrement de l’influence commerciale. Même deux ans après l’entrée en vigueur de la loi n° 2023-451 du 9 juin 2023 visant à encadrer l’influence commerciale et à lutter contre les dérives des influenceurs sur les réseaux sociaux, dite loi influenceurs, nous avons toujours un nombre important de questions.

Je souhaite souligner que les moyens de la DGCCRF demeurent insuffisants au regard de ses missions. Nous avons à plusieurs reprises, avec mon collègue M. Vojetta, défendu des amendements pour augmenter vos ressources.

Nous sommes régulièrement conjointement tagués par les utilisateurs des réseaux sociaux qui souhaitent signaler des contenus qui leur semblent problématiques ou non conformes à la loi. Cette audition est donc importante pour mieux comprendre votre travail, votre régulation de l’espace numérique, ainsi que vos besoins et les enjeux auxquels vous faites face.

Je vous remercie de nous déclarer tout intérêt public ou privé qui pourrait être de nature à influencer vos déclarations.

Avant de vous céder la parole, je vous informe que l’article 6 de l’ordonnance du 17 novembre 1958 relative au fonctionnement des assemblées parlementaires impose aux personnes auditionnées par une commission d’enquête de prêter le serment de dire la vérité, toute la vérité, rien que la vérité. Je vous invite donc à lever la main droite et à dire : « Je le jure ».

(M. Léonard Brudieu, M. Paul-Emmanuel Piel et Mme Marie Pique prêtent serment.)

M. Léonard Brudieu, sous-directeur de la DGCCRF. Je vous remercie pour votre soutien à travers les différents amendements que vous portez afin de renforcer les moyens de la DGCCRF.

La DGCCRF constitue une administration chargée de la politique de commerce, notamment en matière de loyauté de l’information des consommateurs. Dans ce cadre, elle vérifie donc les allégations commerciales et constitue en quelque sorte « la police du mensonge ». Notre mission régalienne de régulation et de contrôle des marchés vise à instaurer la confiance dans les transactions commerciales. Cette mission représente un élément essentiel à la fluidité du commerce national et un élément de justice pour les consommateurs.

Nous couvrons tout le spectre du commerce, incluant l’activité des influenceurs et leurs pratiques commerciales, particulièrement leurs allégations sur les réseaux sociaux en matière de promotion. Notre compétence s’étend également à la sécurité des produits, avec une mission de vérification et de surveillance du marché, y compris pour les produits commercialisés via des plateformes e-commerce ou promus par des influenceurs sur les réseaux sociaux.

Je précise néanmoins que notre direction n’est pas directement compétente concernant les effets psychologiques sur les mineurs, mais que notre mission de régulation contribue à protéger les mineurs face à des pratiques commerciales pouvant avoir des effets psychologiques préjudiciables.

Concernant notre structure, nous sommes organisés autour d’une administration centrale, complétée par un service national des enquêtes, un service informatique et un service de laboratoires, permettant notamment de vérifier la sûreté des produits et les allégations commerciales. Nous disposons également d’une école nationale formant nos agents de terrain. L’administration centrale compte environ 450 agents chargés de la programmation et de la coordination des enquêtes, des fonctions support (gestion des ressources humaines et services informatiques) et du pilotage des réformes de politiques publiques aux côtés des cabinets ministériels. Notre école compte 300 agents, incluant les élèves. Sur le terrain, nous mobilisons 2 000 agents, répartis dans les services départementaux, les services régionaux et le service national des enquêtes. Nos personnels sont principalement recrutés à bac+3, avant d’être formés à l’école de la CCRF. Leurs profils sont majoritairement économiques, juridiques et scientifiques.

Ces dernières années, nous avons accompagné la montée en compétence numérique de nos agents, tant en formation initiale qu’en formation continue. Selon une enquête interne, en 2024, 15 % de nos enquêteurs étaient formés aux outils numériques. Cette formation ne concerne pas uniquement les réseaux sociaux, mais également le e-commerce, les plateformes et la vente de produits numériques, notamment relatifs au tourisme. Nous essayons d’accroître le nombre d’agents formés, mais cela prend naturellement du temps.

Nos moyens techniques dans le domaine numérique se sont renforcés, ces dernières années, concernant les contrôles sur les réseaux sociaux et les plateformes de e-commerce. Nous sommes maintenant en mesure de réaliser des captures d’écran ou de vidéos ainsi qu’un suivi des parcours consommateur pour analyser les allégations. Tous nos contrôles doivent être vérifiables et opposables, car ils peuvent déboucher sur des procédures pénales et des contentieux. Nos outils doivent donc être parfaitement fiables et compatibles avec les procédures d’enquête policière, ce qui explique le temps nécessaire à leur développement.

Nous avons récemment créé deux principaux outils internes pour répondre à ces exigences. L’outil COWEB permet, sur les navigateurs internet, de capter des éléments de manière opposable. Nous développons également un autre outil, spécifique aux réseaux sociaux, notamment pour la partie influenceur.

Ces dernières années, une cellule numérique est née au sein de l’administration centrale de la DGCCRF pour appuyer les enquêteurs. Cette cellule — qui compte une dizaine de personnes, dont des développeurs web et des data scientists – appuie le réseau afin d’extraire des données, de retraiter des fichiers et de transcrire des éléments de langage. Entre janvier et mai, la cellule a assuré 134 demandes de prestations numériques pour le réseau, dont 19 concernaient spécifiquement des influenceurs, y compris sur TikTok.

Concernant les moyens financiers, nous disposons de 9,6 millions d’euros de budget de fonctionnement. Cette somme est bien inférieure au montant des amendes perçues par l’État du fait de nos activités. Nos missions permettent de renforcer la confiance dans le marché. Les moyens de notre administration pourraient effectivement être renforcés.

Concernant les moyens spécifiquement affectés aux contrôles des influenceurs, nous avons commencé à développer des enquêtes dès 2022, avec la montée en puissance des allégations sur les réseaux sociaux. Un accroissement de l’activité a eu lieu à partir 2023-2024. En 2025, nous élargissons notre action aux interdictions de pratiques établies par la loi dite influenceurs, notamment sur les sujets relatifs aux cryptoactifs et aux promotions de comptes personnels de formation (CPF).

En termes de ressources humaines, 130 enquêteurs interviendront au moins une fois dans l’année 2025 sur une enquête relative à des réseaux sociaux et des influenceurs. Ces agents ne se consacrent évidemment pas exclusivement à cette mission tout au long de l’année et agissent également dans les domaines du numérique et du e-commerce. Une quinzaine de personnes de l’administration centrale appuient et coordonnent ces investigations de façon active.

Par ailleurs, notre plateforme SignalConso a recueilli 1,2 million de signalements depuis son lancement en 2020. Son objectif consiste à permettre la mise en relation avec les entreprises, les influenceurs et les plateformes lorsque ces derniers l’acceptent, ce qui n’est pas toujours le cas. Cette plateforme recense les signalements, établit un contact avec les entreprises et permet parfois de trouver une solution, le tout sous la surveillance de la DGCCRF. Ce dispositif permet également de cibler les contrôles et d’obtenir des éléments pour initier des enquêtes.

Sur la question spécifique des influenceurs, nous comptabilisons 20 600 signalements depuis 2022. Le premier signalement relatif à TikTok, qui constitue l’objet de votre commission, est intervenu en mars 2023. Depuis, nous avons enregistré près de 1 200 signalements concernant spécifiquement les influenceurs sur TikTok. Il convient de préciser que les influenceurs opèrent généralement sur plusieurs réseaux sociaux simultanément, mais les personnes qui effectuent ces signalements mentionnent parfois la plateforme spécifique où elles ont constaté le problème. À titre de comparaison, Facebook et Instagram totalisent un peu plus de 9 000 signalements, tandis que Snapchat en compte plus de 5 000. Si les signalements liés à TikTok étaient auparavant relativement peu nombreux, nous observons une augmentation significative depuis quelques mois.

Par ailleurs, les signalements que nous recevons couvrent des sujets variés. Une partie importante concerne l’intention commerciale et la publicité déguisée, qui relèvent directement du champ de contrôle de la DGCCRF. D’autres signalements portent sur des sujets concernant des activités illicites, la santé, les jeux d’argent, la contrefaçon ou encore les escroqueries. Même si le champ d’activité n’est pas toujours celui de la police de la DGCCRF, cela nous permet d’aller piocher des éléments liés à notre champ de contrôle.

M. le président Arthur Delaporte. Je constate que la messagerie Telegram est absente de l’un de vos graphiques.

M. Léonard Brudieu, sous-directeur de la DGCCRF. Telegram représente entre 0,4 et 0,6 % des signalements.

M. Paul-Emmanuel Piel, chef de bureau au sein de la DGCCRF. Le premier graphique ne contient pas toutes les courbes, mais seulement celles des dix principaux réseaux sociaux, pour des raisons de lisibilité.

SignalConso n’étant pas un outil parfait, on peut, par exemple, nous déclarer que Leboncoin est un réseau social.

M. Léonard Brudieu, sous-directeur de la DGCCRF. Nous avons effectué une comparaison entre Instagram, Snapchat et TikTok afin d’analyser si les pratiques sont homogènes. Nous constatons qu’Instagram concerne plutôt des pratiques en matière d’intention commerciale (pratiques commerciales déloyales et trompeuses), tandis que TikTok concerne davantage des pratiques en lien avec le domaine de la santé (médecine esthétique ou exercice illégal de la médecine) et des escroqueries. Dès lors que ce sujet relatif à la santé commence à toucher à des pratiques commerciales, la DGCCRF peut être habilitée.

M. Paul-Emmanuel Piel, chef de bureau au sein de la DGCCRF. Cet exercice a été effectué seulement sur le mois de mai, car nous n’avons pas la possibilité de lire tous les signalements. SignalConso est en premier lieu un outil de mise en relation de l’entreprise avec le consommateur. Nous effectuons ensuite des recherches afin de savoir quels sont les réseaux sociaux les plus signalés dans le but de nous aider à cibler nos actions.

M. Léonard Brudieu, sous-directeur de la DGCCRF. Un dernier tableau présente le bilan de nos activités en matière de contrôle des influenceurs. Il convient de préciser que ce tableau ne cible pas TikTok, mais tous les réseaux sociaux, puisque ces influenceurs sont généralement présents sur plusieurs plateformes. Notre mission consiste à contrôler les influenceurs, et non les réseaux sociaux qu’ils utilisent.

Nous avons contrôlé 290 influenceurs en 2024.

M. le président Arthur Delaporte. Vous contrôlez donc simultanément tous les comptes d’un influenceur ?

M. Léonard Brudieu, sous-directeur de la DGCCRF. Oui. Certains influenceurs sont particulièrement actifs sur un réseau social et nous pouvons alors contrôler ce seul compte. Cependant, d’autres influenceurs agissent sur plusieurs réseaux sociaux. Depuis le début de l’année, les dix-neuf actions d’appui de notre cellule numérique pour les réseaux de contrôle concernaient plusieurs réseaux sociaux à la fois.

Nous avons effectué 292 contrôles, qui ont révélé un taux d’anomalie de 47 %. Ce pourcentage signifie qu’au moins un manquement a été identifié dans près de la moitié des cas examinés. Il convient toutefois de préciser que, lors de nos enquêtes, nous ciblons les influenceurs pour lesquels nous suspectons un écart. Nous ne procédons pas à des contrôles aléatoires. Ce taux d’anomalie montre qu’il existe encore de nombreux écarts en matière de pratiques commerciales trompeuses, ce qui est l’essentiel de notre champ d’action.

De janvier et mai 2025, 96 enquêtes étaient en cours – ou terminées – et nous prévoyons d’atteindre un volume global d’environ 250 enquêtes d’ici la fin de l’année. Ces chiffres doivent être mis en perspective avec les prévérifications réalisées en amont pour effectuer nos ciblages. Si SignalConso permet de déterminer des ciblages, il existe également un travail de différents bureaux sectoriel de l’administration centrale visant à identifier les profils posant potentiellement une difficulté. Ce travail n’est pas suffisant pour une enquête, mais nous permet de proposer des cas nécessitant une investigation. Lorsque 250 enquêtes sont menées, plus de 1 000 cas sont vérifiés.

Les 292 enquêtes réalisées en 2024 représentent en réalité environ 700 contrôles, car nous revenons fréquemment sur les mêmes profils pour caractériser les pratiques, vérifier la continuité dans le temps et qualifier l’intentionnalité du délit de pratiques commerciales trompeuses.

En 2024, notre activité a permis environ 80 injonctions administratives de mise en conformité, 6 sanctions administratives fermes et 13 procès-verbaux pénaux, qui sont transmis au parquet et font l’objet de suites.

Notre priorité concernant les injonctions administratives est d’enjoindre les influenceurs à réaliser eux-mêmes une communication pédagogique. Cette approche s’avère particulièrement efficace pour atteindre directement l’ensemble des consommateurs et utilisateurs des réseaux sociaux. Lorsque des influenceurs comptant parfois plusieurs millions d’abonnés effectuent une communication pédagogique, cela touche un grand nombre de personnes. Par exemple, nous avons enjoint un influenceur issu de la télé-réalité de réaliser une communication pédagogique pour corriger ces pratiques passées et sensibiliser ses abonnés aux risques en matière de copy trading et de jeux d’argent, rappelant que certaines allégations sur les réseaux sociaux peuvent être trompeuses. Toutefois, les 292 enquêtes ne donneront pas lieu à des communications cette année, car le cadre juridique exige que nous attendions la fin des procédures pour demander cette communication corrective. Depuis 2023, nous comptons une vingtaine de mesures de publicité pédagogique sur les réseaux sociaux et le site de la DGCCRF.

Mme Laure Miller, rapporteure. Lors de notre audition des dirigeants de TikTok la semaine dernière, nous les avons particulièrement interrogés sur TikTok Shop. La presse a en effet largement relayé des exemples de produits commercialisés sur cette plateforme qui suscitent des interrogations quant au respect des réglementations nationales et européennes. Nous les avons notamment questionnés sur certains bonbons proposés, pour lesquels on peut douter du respect de la réglementation. Menez-vous actuellement des enquêtes spécifiques concernant des produits, qui ciblent manifestement un jeune public, sur TikTok en particulier ? Avez-vous identifié certaines plateformes posant davantage de difficultés en matière de conformité des produits aux normes françaises et européennes ?

M. Léonard Brudieu, sous-directeur de la DGCCRF. Une part importante des difficultés concernent les grandes plateformes de e-commerce, davantage utilisées que TikTok Shop et sur lesquelles nous réalisons évidemment des contrôles. TikTok Shop, relativement récent, a bien été identifié. Cette plateforme constitue une spécificité, puisqu’il s’agit d’un réseau social associant une plateforme de e-commerce. Nous menons actuellement une enquête sur les pratiques de TikTok Shop, indépendamment des produits qui y sont commercialisés. Je rappelle que toutes les grandes plateformes font l’objet d’une enquête pour vérification.

Lorsque des produits dangereux nous sont signalés, cela engage de notre côté des processus d’enquêtes. La sécurité des produits est un domaine dans lequel nous pouvons aboutir à des demandes de retrait. Cette situation s’est présentée récemment sur TikTok, en lien avec des influenceurs qui faisaient la promotion de crèmes cosmétiques volumatrices dangereuses et interdites à la vente en France. Lorsque nous demandons à un influenceur de cesser leur promotion et qu’il obtempère spontanément, la situation se résout rapidement. Dans le cas contraire, cela peut aboutir à des procédures plus longues de réquisition numérique imposant la suppression des données. Ces procédures peuvent permettre le déréférencement, puis la restriction d’accès aux données, voire leur suppression. En 2024, une affaire sur TikTok a nécessité d’aller jusqu’au terme de la procédure en raison de la persistance d’un influenceur dans la promotion et la vente de crèmes cosmétiques interdites. Cette démarche, bien que longue, car impliquant de nombreux échanges, a finalement permis de résoudre la situation. TikTok adopte généralement une position alignée sur le cadre réglementaire européen et le règlement (UE) 2022/2065 du Parlement européen et du Conseil du 19 octobre 2022 relatif à un marché unique des services numériques et modifiant la directive 2000/31/CE dit Digital services act (DSA). Parfois, lorsqu’une administration française demande à l’entreprise d’agir, des incompréhensions peuvent naître. Dans le cas mentionné, nous sommes parvenus à une résolution favorable en 2024. D’autres affaires similaires sont certainement en cours en 2025, mais je n’en connais pas précisément le détail.

M. le président Arthur Delaporte. Manque-t-il un décret d’habilitation de la DGCCRF pour faire appliquer la loi dite influenceurs ?

M. Léonard Brudieu, sous-directeur de la DGCCRF. Cette loi a fait l’objet d’une ordonnance en novembre 2024 visant à adapter sa configuration au cadre réglementaire européen. Depuis cette ordonnance, elle est applicable en France pour les influenceurs établis sur le territoire national.

En revanche, pour les influenceurs établis à l’étranger, mais exerçant une activité en France, nous sommes soumis au principe du pays d’origine, ce qui nécessite une procédure dérogatoire spécifique. Cette dernière implique d’intervenir par l’intermédiaire de l’État membre concerné, qu’il s’agisse de l’Irlande, de la Belgique ou du Luxembourg. Pour cette procédure particulière, un décret d’application serait nécessaire pour décrire les procédures et les compétences internes des différentes administrations. Ce décret n’a pas encore été publié.

La législation actuelle ne nous permet donc pas d’agir contre des influenceurs établis à l’étranger sur des domaines de la loi dite influenceurs. En revanche, nous pouvons déjà les poursuivre concernant les pratiques commerciales trompeuses. Cette interdiction des pratiques commerciales déloyales existait avant la loi évoquée, qui l’a ensuite consacrée et approfondie.

Le décret que j’ai évoqué n’est pas tant un décret d’habilitation qu’un décret de procédure. L’habilitation provient de la loi. La DGCCRF dispose d’habilitations sur certaines dispositions de la loi dite influenceurs, notamment l’interdiction relative aux cryptomonnaies et aux pratiques commerciales liées à Mon Compte Formation. En revanche, nous ne sommes pas habilités sur les dispositions en matière de santé.

M. le président Arthur Delaporte. Qui contrôle ces dispositions ?

M. Léonard Brudieu, sous-directeur de la DGCCRF. À ma connaissance, personne n’est habilité en matière de police de contrôle sur ces dispositions de la loi.

M. le président Arthur Delaporte. Un simple décret suffirait-il pour remédier à cette situation ?

M. Léonard Brudieu, sous-directeur de la DGCCRF. Non, une loi est nécessaire.

M. le président Arthur Delaporte. Des dispositions ne sont donc pas applicables.

M. Léonard Brudieu, sous-directeur de la DGCCRF. En effet. Je note que l’interdiction s’applique. Une personne qui considère être lésée par une pratique interdite peut intenter une action au civil pour demander réparation du préjudice subi. En revanche, concernant la police, avec des sanctions administratives derrière, des dispositions législatives sont nécessaires.

M. le président Arthur Delaporte. Je suis surpris que cette question n’ait pas été soulevée plus tôt, alors même que nous avons eu des échanges. Cette problématique n’est pas apparue dans notre rapport d’application.

M. Léonard Brudieu, sous-directeur de la DGCCRF. La raison est peut-être qu’au sein du Gouvernement, il a fallu un temps pour déterminer qui est habilité. La DGCCRF est à l’origine plutôt compétente dans le domaine des pratiques commerciales. Voyant que les sujets relatifs à la médecine et à la chirurgie esthétique comportent des aspects pouvant s’apparenter à des pratiques commerciales, nous sommes plutôt ouverts pour être habilités sur ce point, mais cela nécessite de faire passer un amendement. Dans la proposition de loi visant à réduire l’impact environnemental de l’industrie textile, nous avons préparé un amendement permettant d’ajouter une interdiction de publicité pour la fast-fashion sur les réseaux sociaux, avec l’ajout d’une habilitation de la DGCCRF pour en renforcer l’efficacité. Cet amendement a, je crois, été adopté tel quel. Nous avons également voulu, à cette occasion, soutenir des amendements pour élargir notre habilitation au domaine de la santé, mais ils n’ont pas pu passer, car leur insertion dans cette loi semblait cavalière. Un autre vecteur doit donc être trouvé.

M. le président Arthur Delaporte. Nous sommes à votre disposition pour servir de vecteurs. Vous ne devez pas hésiter à nous contacter.

Avez-vous besoin de ressources ou de personnels supplémentaires pour monter en puissance ?

M. Léonard Brudieu, sous-directeur de la DGCCRF. Nous disposons d’une marge d’action dès lors qu’il s’agit de pratiques commerciales trompeuses. Dans le domaine de la santé, nous sommes habilités à intervenir quand il y a mensonge ou allégation mensongère, ce qui nous permet d’intervenir, par exemple, sur les produits cosmétiques interdits en France.

En revanche, pour une publicité relative au domaine de la santé qui ne serait pas mensongère, mais qui serait interdite, nous avons effectivement besoin d’une habilitation. Ces éléments concernent les points 1 et 3 de l’article 4 de la loi dite influenceurs. Nous pouvons également effectuer des signalements au procureur sous l’angle de l’article 40, ce que nous faisons parfois, mais cette procédure n’est pas aussi efficace que nos actions de police administrative.

M. le président Arthur Delaporte. En conclusion, la loi s’applique et des sanctions judiciaires peuvent être prononcées en cas de non-respect de cette loi, notamment lorsque des signalements sont effectués au titre de l’article 40. Combien de signalements avez-vous réalisés ?

M. Léonard Brudieu, sous-directeur de la DGCCRF. Je ne saurai pas vous répondre.

M. Paul-Emmanuel Piel, chef de bureau au sein de la DGCCRF. Ce point a été intégré dans la nouvelle demande d’enquête prévue pour 2025, car, avant l’ordonnance, nous étions confrontés à des difficultés liées à l’application de la loi. Le processus est en cours. Nous avons élaboré une enquête comportant des axes de produits ou services, incluant notamment l’aspect médical et chirurgical. Du fait de la forte attention politique et médiatique, les enquêteurs rédigeront et transmettront au procureur un rapport signalant du non-respect des dispositions du point 1 de l’article 4, conformément à l’article 40 du code de procédure pénale. À ce stade, il s’agit d’une demande, pour laquelle nous n’avons pas encore obtenu une remontée. Si un enquêteur suit un influenceur et constate la promotion de chirurgie esthétique, nous lui demandons de rédiger un signalement au titre de l’article 40, ce qui nous conduit à perdre la main sur la procédure, qui relève alors du procureur. Nous avons demandé aux enquêteurs de le faire systématiquement dans la demande d’enquête.

M. le président Arthur Delaporte. Nous sommes régulièrement sollicités par des citoyens concernant des contenus problématiques publiés par des influenceurs, notamment sur TikTok. Si vous avez suivi l’audition de M. et Mme Tanti la semaine dernière, vous avez pu constater que nous avons identifié en direct des contenus problématiques, notamment liés à la fast-fashion et à l’exposition d’enfants. Lorsque nous signalons ce type de contenu sur SignalConso, plusieurs mois peuvent s’écouler avant qu’une enquête ne soit menée. Pendant ce temps, les contenus impliquant des enfants demeurent accessibles en ligne. Ne pourrait-on pas concevoir un canal de signalement plus efficace et plus direct ?

M. Léonard Brudieu, sous-directeur de la DGCCRF. Le processus n’est pas aussi long que vous semblez le décrire. Le processus traditionnel d’enquête dans les secteurs économiques est celui que vous décrivez. Toutefois, le processus est plus rapide dans le domaine du numérique. C’est pour cette raison que nos équipes d’enquêteurs sont activement mobilisées depuis trois ans.

L’influenceur que vous mentionnez est déjà bien connu et a fait l’objet de contrôles et d’une enquête de notre part. Nous maintenons une surveillance, indépendamment de l’existence ou non de signalements sur SignalConso. Dès que nous recevons un signalement sur cet outil dans le domaine des influenceurs, nous l’examinons attentivement. Néanmoins, nous n’attendons pas d’accumuler des signalements avant d’envisager des enquêtes dans le domaine de l’influence commerciale, notamment parce que leur nombre reste accessible.

Je tiens à souligner que SignalConso n’est pas le seul outil de signalements et de difficultés. Cet outil nous permet de capter une partie des problématiques, mais nous menons également nos propres investigations. Par exemple, nous surveillons les cinquante influenceurs les plus importants d’un secteur, comme celui de la fast-fashion, et pouvons déclencher des enquêtes sur certains d’entre eux pour nous assurer que rien ne nous a échappé. Nous collaborons également avec des associations présentes dans le secteur.

M. le président Arthur Delaporte. Quelles sont ces associations ?

M. Paul-Emmanuel Piel, chef de bureau au sein de la DGCCRF. L’Union des métiers de l’influence et des créateurs de contenus (Umicc), avec laquelle nous entretenons des relations régulières, et des collectifs de victimes nous transmettent des signalements.

M. le président Arthur Delaporte. Disposez-vous de canaux de communication directs avec ces associations ?

M. Paul-Emmanuel Piel, chef de bureau au sein de la DGCCRF. Nous disposons d’une adresse email.

M. le président Arthur Delaporte. Je suis intéressé par cette adresse, qui me permettra de vous transférer une part des nombreux contenus qui me sont signalés.

M. Paul-Emmanuel Piel, chef de bureau au sein de la DGCCRF. La vigilance des enquêteurs sur le terrain permet de cibler certains influenceurs, dont ils regardent le contenu régulièrement. SignalConso présente certaines limites et nous l’utilisons pour identifier les influenceurs les plus signalés, ce qui nous permet de débuter des enquêtes. Nous avons constaté un cas où des influenceurs installés à Dubaï et auteurs de pratiques graves n’avaient fait l’objet que d’un seul signalement sur SignalConso. Notre méthode ne nous permettant pas d’identifier un tel cas grâce à cet outil, nous en avions eu connaissance par d’autres sources.

Par ailleurs, SignalConso est un outil de mise en relation du professionnel avec le consommateur. Ce dispositif fonctionne efficacement pour des professionnels ayant déjà une certaine notoriété et tout intérêt à éviter l’accumulation de signalements, sachant qu’ils entraînent une mise en enquête. La difficulté survient lorsqu’il s’agit de professionnels moins scrupuleux ou des types d’acteurs économiques, comme les influenceurs, qui, bien qu’ils soient professionnels, ne constituent pas des entreprises. Ces derniers n’ont pas nécessairement accès à SignalConso et les réseaux sociaux reçoivent un volume considérable de signalements qu’ils ne considèrent pas comme les concernant directement, puisqu’ils visent les influenceurs.

TikTok a répondu pendant un certain temps aux signalements sur SignalConso en indiquant qu’il convenait d’adresser les signalements via l’outil spécifique mis en place en application du DSA. Ces réponses étaient d’ailleurs relativement précises, comportant une analyse préliminaire mentionnant les différents mots-clés à utiliser dans leur outil. En application du DSA, ces signalements doivent être effectués sur l’outil dédié, basé en Irlande, dont le contrôle incombe à l’autorité irlandaise. Pour obtenir des retraits et bénéficier d’une analyse par TikTok, cet outil mis en place dans le cadre du DSA s’avère plus efficace.

M. le président Arthur Delaporte. Disposons-nous de visibilité sur les retraits de contenus liés à des pratiques commerciales ?

M. Paul-Emmanuel Piel, chef de bureau au sein de la DGCCRF. Lorsque ces dossiers sont traités par un autre État membre, nous n’avons pas d’accès direct. Un rapport de transparence est rendu, mais ces questions relèvent de la compétence des autorités nationales concernées et de la Commission européenne. Nous ne disposons pas de chiffres sur ces retraits de contenus. Lorsque nous demandons nous-mêmes un retrait, nous en assurons systématiquement le suivi. Cette demande est exceptionnellement adressée aux plateformes lorsque l’influenceur lui-même ne répond pas à l’injonction.

M. le président Arthur Delaporte. Si je repère un contenu problématique sur TikTok, quelle démarche me recommandez-vous ?

M. Léonard Brudieu, sous-directeur de la DGCCRF. Face à un contenu problématique sur TikTok, nous vous conseillons tout d’abord d’effectuer un signalement via l’outil prévu par la plateforme en application du règlement DSA. Cette option existe et peut s’avérer efficace, même si nous ne pouvons pas vous préciser son degré d’efficacité. De plus, vous pouvez également réaliser une déclaration sur SignalConso, ce qui permet à la DGCCRF d’être informée de la situation et d’engager une enquête si nous estimons qu’une difficulté relève de nos compétences.

M. le président Arthur Delaporte. Regardez-vous tous les jours les signalements effectués ?

M. Léonard Brudieu, sous-directeur de la DGCCRF. Les enquêteurs et les bureaux concernés regardent très régulièrement les signalements. Je ne m’engagerai pas à dire que cette surveillance est quotidienne – car je ne suis pas certain qu’elle soit effectuée les week-ends –, mais elle est effectivement très régulière, plus particulièrement sur les questions liées aux influenceurs qui évoluent très rapidement.

M. le président Arthur Delaporte. Les influenceurs peuvent donc poster des contenus problématiques lors des week-ends.

Le dimanche représente d’ailleurs un moment privilégié pour les influenceurs qui publient souvent leurs stories à ce moment-là.

Mme Marie Pique, adjointe au chef de bureau au sein de la DGCCRF. Nous recevons chaque jour un rapport de SignalConso indiquant tous les signalements du département.

M. le président Arthur Delaporte. Les signalements numériques sont-ils localisés ?

M. Paul-Emmanuel Piel, chef de bureau au sein de la DGCCRF. Le problème réside dans le fait que ces signalements concernent l’entreprise TikTok.

M. le président Arthur Delaporte. Si je signale un contenu sur TikTok, un agent en prend-il connaissance ?

M. Léonard Brudieu, sous-directeur de la DGCCRF. Bien sûr.

M. le président Arthur Delaporte. Quel est le département concerné ?

M. Léonard Brudieu, sous-directeur de la DGCCRF. Lorsqu’un consommateur renseigne un département dans les champs de SignalConso, la direction départementale recevra un rapport automatique détaillant les signalements reçus, qu’il s’agisse de contenus d’influenceurs ou d’autres sujets traités. Au niveau de l’administration centrale, nous disposons de bureaux sectoriels, dont l’un est spécifiquement dédié au domaine numérique, comprenant un pôle influenceurs. Nous examinons – peut-être pas quotidiennement, mais régulièrement – les éléments relatifs à des influenceurs, quel que soit le département concerné, y compris lorsqu’aucun département n’a été spécifié.

M. le président Arthur Delaporte. Madame Pique, que se passe-t-il en cas de signalement effectué un samedi soir, concernant une publicité illégale pour des bonbons sur TikTok ?

Mme Marie Pique, adjointe au chef de bureau au sein de la DGCCRF. En réalité, cela dépend de la quantité d’informations que vous renseignez dans l’outil. Ces éléments déterminent qui recevra votre signalement. Il sera transmis au département où se trouve le siège social de l’influenceur, à condition que nous disposions de cette information.

M. le président Arthur Delaporte. Que se passe-t-il si je ne dispose pas de cette information ?

Mme Marie Pique, adjointe au chef de bureau au sein de la DGCCRF. Les consommateurs qui suivent régulièrement ces influenceurs possèdent souvent plus d’informations que nous ne le pensons. Ils connaissent parfois le lieu de résidence de la personne et peuvent indiquer le département d’habitation. À défaut, le signalement sera effectivement dirigé vers le département du siège social de TikTok, à savoir Paris.

M. le président Arthur Delaporte. Le département de Paris reçoit-il finalement la majorité des signalements numériques ?

Mme Marie Pique, adjointe au chef de bureau au sein de la DGCCRF. En effet. Nous disposons également d’un outil qui nous signale l’accumulation de nombreux signalements concernant une même entreprise. Ce n’est pas parce qu’un signalement est effectué le samedi que nous ne le verrons pas.

M. le président Arthur Delaporte. Que se passe-t-il ensuite ?

Mme Marie Pique, adjointe au chef de bureau au sein de la DGCCRF. Cela dépend du signalement.

M. le président Arthur Delaporte. Prenons l’exemple de bonbons problématiques sur le live d’un influenceur.

M. Paul-Emmanuel Piel, chef de bureau au sein de la DGCCRF. Si nous recevons trois signalements concernant un influenceur qui ne fait pas encore l’objet d’une enquête, il est fort probable que ces signalements ne soient pas vus. Lorsque le consommateur n’indique pas de rattachement à un département spécifique, ce cas se trouvera dans un flot de signalements et risque de passer sous notre radar. En effet, nous recherchons les signalements liés aux influenceurs les plus signalés. Nous traitons un volume important de signalements mal affectés et souvent imprécis.

Une fois qu’un influenceur est mis en enquête, l’enquêteur doit consulter SignalConso pour recueillir des éléments et réaliser rapidement les copies d’écran nécessaires. La difficulté ne se pose pas tant sur TikTok que sur d’autres réseaux sociaux où les contenus sont particulièrement éphémères. Le risque est que, lorsque nous lisons un signalement, le contenu ait déjà disparu du réseau social. Or, un signalement ne suffit pas pour effectuer un procès-verbal, qui nécessite un constat sur le réseau social.

Ainsi, lorsque nous constatons une activité importante chez un influenceur particulier, nous le plaçons sous surveillance. Nos outils numériques ne permettent pas de surveiller l’ensemble des influenceurs. Cette surveillance, qui concerne une vingtaine d’influenceurs actuellement, exige une capacité de stockage considérable. De plus, le stockage de toutes les vidéos ne garantit pas l’identification facile des contenus problématiques. Je rappelle qu’une influenceuse célèbre se filmait 16 heures par jour. Nous développons des outils pour essayer de détecter ces contenus.

Deux ou trois signalements isolés concernant un influenceur, sans renseignement de son numéro Siret, ne seront probablement pas détectés immédiatement. Sans enquête ouverte, aucun suivi spécifique n’est réalisé. Nous ne l’ajouterons à l’enquête que si les signalements le concernant prennent de l’ampleur. Il sera alors suivi à partir de cette date.

M. le président Arthur Delaporte. Ce système ne devrait-il pas évoluer pour gagner en agilité ?

M. Paul-Emmanuel Piel, chef de bureau au sein de la DGCCRF. SignalConso a été conçu principalement comme un moyen d’intermédiation entre entreprises et consommateurs, non comme un moyen d’adresser des réponses, contrairement à RéponseConso. Le problème de RéponseConso est que seuls les utilisateurs insatisfaits de SignalConso y font remonter leurs réclamations. Dans ce cas, nous garantissons une affectation.

Au sein de l’administration centrale, nous essayons d’identifier les influenceurs qui font l’objet du plus grand nombre de signalements.

Pour analyser l’ensemble des signalements et répondre de façon agile, il faut développer de nouveaux outils. C’est pourquoi nous avons initié des travaux visant à recevoir des signalements directement de certains groupes de victimes, qui pourraient nous les transmettre très en amont, lorsque les contenus sont encore présents sur les réseaux sociaux, nous permettant ainsi de réaliser automatiquement des copies. Ce processus nécessite un important travail, notamment juridique, pour garantir sa faisabilité et sa légalité au regard du règlement (UE) 2016/679 du Parlement européen et du Conseil du 27 avril 2016 relatif à la protection des personnes physiques à l'égard du traitement des données à caractère personnel et à la libre circulation de ces données, et abrogeant la directive 95/46/CE dit règlement général sur la protection des données (RGPD).

M. le président Arthur Delaporte. La plupart du temps, les entreprises ne lisent pas les signalements. Vous ne les traitez que s’ils se multiplient, si j’ai bien compris. Cela revient à encourager le signalement en masse, car, sans cette mobilisation collective, le signalement d’un contenu problématique a peu de chance d’être vu.

M. Léonard Brudieu, sous-directeur de la DGCCRF. Il s’agit d’une question de priorisation des moyens de l’État. Un signalement isolé concernant une entreprise ne déclenche pas une enquête. Toutefois, si le sujet concerne un produit dangereux ou présente une réelle difficulté, nous constatons généralement une multiplication des signalements.

M. le président Arthur Delaporte. Permettez-moi une comparaison. Si j’étais un policier placé à un feu rouge, j’interviendrais directement en cas d’infraction. Pourquoi cette approche n’est-elle pas possible pour la DGCCRF ?

M. Léonard Brudieu, sous-directeur de la DGCCRF. Je doute que cette comparaison soit pertinente. D’ailleurs, les policiers ne sont pas systématiquement postés à chaque feu rouge.

M. le président Arthur Delaporte. Certes, mais lorsqu’un radar est positionné sur une voie rapide, tous les contrevenants sont automatiquement flashés.

M. Paul-Emmanuel Piel, chef de bureau au sein de la DGCCRF. La situation est différente, car, dans le cas du radar, nous savons que les véhicules flashés sont dans l’illégalité, tandis que, pour de nombreux signalements, nous ne disposons pas de preuves. La difficulté majeure dans le domaine des pratiques commerciales – et c’est précisément pourquoi ces procédures s’étendent souvent sur plusieurs années – réside dans la nécessité d’établir formellement les faits.

M. le président Arthur Delaporte. Les publicités sans mention commerciale sont fréquentes. Pourrions-nous privilégier une approche où l’action entraîne immédiatement une réaction ?

M. Paul-Emmanuel Piel, chef de bureau au sein de la DGCCRF. Ce cas est moins fréquent qu’auparavant. Dans la nouvelle rédaction de l’article 5.2, mis en conformité avec la réglementation européenne, nous laissons à l’influenceur la liberté de choisir les moyens pour signaler une intention commerciale. La Commission a insisté pour que nous précisions que, parfois, cette intention peut relever du contexte. En effet, si l’intention commerciale relève le contexte, sa mention n’est pas obligatoire. L’évaluation doit donc être effectuée au cas par cas. Dans la nouvelle rédaction, les termes « publicité » ou « communication commerciale » sont conseillés, mais d’autres formulations ou communications sont également acceptables. La mention n’est pas nécessairement écrite, elle peut être orale.

L’analyse juridique dépend donc de plusieurs facteurs, notamment de la notoriété de l’influenceur. Nos enquêteurs ont sollicité une analyse juridique pour un influenceur entièrement habillé en Gucci, filmé devant un mur Gucci, lors d’une cérémonie Gucci, afin de déterminer si un procès-verbal était nécessaire. Or, la conclusion a été négative, car l’intention commerciale relève manifestement du contexte. Le consommateur moyen comprend qu’il s’agit d’une publicité pour Gucci.

M. Léonard Brudieu, sous-directeur de la DGCCRF. Dès qu’un influenceur faisant l’objet d’une enquête franchit la ligne rouge, nous disposons des éléments de preuve nécessaires pour intervenir. Cependant, contrairement à l’analogie du feu rouge, l’écart n’est pas binaire. Dans le domaine des allégations, il faut prouver l’intentionnalité et la présence de caractéristiques trompeuses. Si un influenceur notoirement sponsorisé par une grande marque de sport apparaît sur les réseaux sociaux portant des chaussures de cette marque, la mention de la collaboration commerciale n’est pas nécessaire.

M. le président Arthur Delaporte. Ce n’est pas l’esprit de la loi. Cette situation n’est pas acceptable, car je peux me retrouver face à n’importe quel contenu proposé par l’algorithme sans disposer du contexte.

M. Léonard Brudieu, sous-directeur de la DGCCRF. La DGCCRF agit strictement dans le cadre prévu par le droit.

M. le président Arthur Delaporte. La loi ne stipule pas que le contexte doit primer.

M. Léonard Brudieu, sous-directeur de la DGCCRF. Si.

M. le président Arthur Delaporte. Non.

M. Léonard Brudieu, sous-directeur de la DGCCRF. Dans les pratiques commerciales trompeuses, il nous faut une intentionnalité et une caractéristique tenant compte des circonstances et du contexte, ce qui figure dans le droit européen et national. Ces éléments font partie de notre analyse. Nous ne pouvons pas fonctionner de façon binaire comme un radar automatique. Un traitement humain s’avère nécessaire à un moment donné. Un utilisateur des réseaux sociaux exposé à cette publication peut-il être trompé ? Si la réponse est affirmative, alors nous pouvons envisager la caractéristique de pratiques commerciales trompeuses. Toutefois, cela nécessite de recueillir les éléments de preuves et de démontrer l’intentionnalité.

M. le président Arthur Delaporte. Permettez-moi de vous lire l’alinéa 1 de l’article 5 de la loi n° 2023-451 du 9 juin 2023 visant à encadrer l’influence commerciale et à lutter contre les dérives des influenceurs sur les réseaux sociaux : « La promotion de biens, de services ou d’une cause quelconque réalisée par les personnes mentionnées à l’article 1er doit être explicitement indiquée par la mention “Publicité” ou la mention “Collaboration commerciale” ».

M. Paul-Emmanuel Piel, chef de bureau au sein de la DGCCRF. L’article 5.2, qui a été réécrit à la demande de la Commission européenne. Une pratique commerciale trompeuse est définie par l’article L121-3 du code de la consommation. Il s’agit de « l’absence d’indication par une mention claire, visible et compréhensible, sur tout support utilisé, de l’intention commerciale poursuivie par une personne physique ou morale exerçant une activité d’influence au sens de l’article 1er, dès lors que cette intention ne ressort pas déjà du contexte ». En outre, le recours aux mentions est abordé dans le deuxième alinéa.

M. le président Arthur Delaporte. Le deuxième alinéa dispose que « l’intention commerciale peut être explicitement indiquée par le recours aux mentions “publicité” ou “collaboration commerciale” ou par une mention équivalente ».

M. Léonard Brudieu, sous-directeur de la DGCCRF. Nous devons bien distinguer ce qui relève d’un délit de pratiques commerciales trompeuses, qui nécessite la caractérisation d’une intentionnalité, et les éléments de contexte à considérer. Un traitement humain est indispensable et l’approche ne peut pas être binaire. Parallèlement, certains domaines font l’objet d’interdictions publicitaires spécifiques, comme la chirurgie esthétique. Dans ces cas précis, l’approche est effectivement binaire. En revanche, concernant les pratiques commerciales trompeuses, cela nécessite une analyse, des preuves, la démonstration d’une intentionnalité et un examen du contexte.

M. le président Arthur Delaporte. Vous constatez bien que ce dispositif n’est pas adapté à la publicité diffusée sur les réseaux sociaux. Sinon, votre définition du contexte n’est pas pertinente. À mon sens, le contexte d’une publicité ne doit pas nécessiter un clic supplémentaire. Cette approche s’apparenterait à l’utilisation d’astérisques en petits caractères. Le contexte doit être interprété de manière restrictive, alors que vous nous proposez une interprétation extensive de cette notion.

M. Léonard Brudieu, sous-directeur de la DGCCRF. Je ne vous donne nullement une interprétation extensive de cette notion. J’affirme que l’analyse du contexte nécessite un examen au cas par cas effectué par des enquêteurs. C’est précisément pour cette raison que nos enquêtes ne peuvent être binaires ou automatiques, comme pour les feux rouges et les radars.

M. le président Arthur Delaporte. Certaines situations semblent simples, comme la promesse de gagner des millions d’euros.

M. Léonard Brudieu, sous-directeur de la DGCCRF. Ces situations sont effectivement plus simples.

M. le président Arthur Delaporte. Pourrions-nous faire supprimer très rapidement ces contenus ?

M. Léonard Brudieu, sous-directeur de la DGCCRF. Nous pouvons effectivement agir rapidement en contactant directement l’influenceur pour l’enjoindre à cesser ses pratiques, ce qui ne fonctionne pas nécessairement.

M. le président Arthur Delaporte. Le fil X comporte de nombreuses publicités illégales relatives aux cryptomonnaies, ne comportant souvent aucune mention des risques associés, ce qui n’est pas acceptable.

M. Léonard Brudieu, sous-directeur de la DGCCRF. Vous soulevez un point crucial : sur les réseaux sociaux, et plus généralement dans l’environnement numérique, l’évolution est si rapide qu’elle met sous tension le cadre de police. Nos services effectuent des constats, qui doivent être opposables pour respecter d’autres éléments de droit constitutionnel. Des étapes de contradictoires sont nécessaires, ainsi que des éléments d’intentionnalité prouvés et caractérisés. Toutes ces exigences requièrent un minimum de temps.

M. le président Arthur Delaporte. Je cède la parole à M. Stéphane Vojetta.

M. Stéphane Vojetta (EPR). Votre interprétation du contexte et de la définition de l’influence commerciale m’a quelque peu surpris, mais nous aurons l’occasion de revenir sur ce sujet.

Avez-vous identifié, depuis la promulgation du texte en juin 2023, de nouvelles formes problématiques d’influence commerciale non couvertes par les textes existants ?

M. Léonard Brudieu, sous-directeur de la DGCCRF. Nous avons principalement constaté le développement de pratiques désormais interdites par cette législation, notamment dans le domaine de la santé et de la médecine esthétique, nécessitant une habilitation de police administrative afin que nous soyons plus efficaces.

Je ne crois pas avoir identifié l’émergence de nouvelles pratiques qui échapperaient au cadre législatif actuel, notamment parce que le spectre d’intervention de la DGCCRF est celui des pratiques commerciales. Sur les réseaux sociaux, diverses pratiques sont potentiellement répréhensibles ou choquantes, sans nécessairement relever du domaine commercial.

M. Stéphane Vojetta (EPR). Avez-vous reçu des signalements concernant l’activité commerciale liée au métier d’agent OnlyFans ? Je fais référence à ces personnes qui agissent en tant qu’agents d’influenceurs vendant du contenu érotique ou pornographique sur cette plateforme. Cette activité s’avère particulièrement lucrative pour les créateurs, mais également pour les agents, pas toujours bien intentionnés.

M. Léonard Brudieu, sous-directeur de la DGCCRF. Ce type de situation ne nous semble pas familier. Nous examinerons attentivement les signalements reçus à ce sujet afin de vous renseigner.

M. le président Arthur Delaporte. Cette audition s’achève. Je note que mon agacement n’est pas lié au travail des agents de la DGCCRF, dont je salue l’engagement.

M. Léonard Brudieu, sous-directeur de la DGCCRF. Ce sont les parlementaires qui font les lois.

M. le président Arthur Delaporte. Nous ressentons toujours une certaine frustration face au décalage entre nos ambitions et leur concrétisation effective. Cette frustration n’est pas uniquement la mienne, mais également celle des citoyens qui nous interpellent pour signaler des contenus problématiques toujours accessibles en ligne. Nous avons manifestement encore du travail à accomplir dans les mois à venir.

Je vous remercie.

65. Audition du Lieutenant-Colonel Cyril Colliou, chef par intérim de l’Office mineurs (Ofmin), Mme Agathe Boudin, commandant de police, cheffe par intérim du pôle stratégie, et Mme Typhaine Desbordes, cheffe du bureau des partenariats et de la communication (mardi 24 juin 2025)

La commission auditionne le Lieutenant-Colonel Cyril Colliou, chef par intérim de l’Office mineurs (Ofmin), Mme Agathe Boudin, commandant de police, cheffe par intérim du pôle stratégie, et Mme Typhaine Desbordes, cheffe du bureau des partenariats et de la communication ([63]).

M. le président Arthur Delaporte. Nous recevons le lieutenant-colonel Cyril Colliou, chef par intérim de l’Office mineurs (Ofmin), accompagné de Mme Agathe Boudin, commandante de police, cheffe par intérim du pôle stratégie, et de Mme Typhaine Desbordes, cheffe du bureau des partenariats et de la communication.

Je vous remercie de nous déclarer tout intérêt public ou privé de nature à influencer vos déclarations.

L’article 6 de l’ordonnance du 17 novembre 1958 relative au fonctionnement des assemblées parlementaires impose aux personnes auditionnées par une commission d’enquête de prêter le serment de dire la vérité, toute la vérité, rien que la vérité.

(M. le lieutenant-colonel Cyril Colliou, Mme Agathe Boudin et Mme Typhaine Desbordes prêtent successivement serment.)

M. le lieutenant-colonel Cyril Colliou, chef par intérim de l’Office mineurs. Je souhaite, à titre liminaire, revenir brièvement sur les raisons qui ont présidé à la création de l’Office mineurs. Ces dernières années, les forces de l’ordre ont constaté une hausse d’environ 30 % par an des violences commises sur les mineurs. La multiplication de ces phénomènes et des faits pédocriminels observés est notamment à mettre en lien avec le développement des technologies numériques et leur accès généralisé, ainsi qu’avec la libération progressive de la parole et une amélioration de l’écoute des victimes.

Il existe un chiffre noir en matière d’atteintes aux mineurs et plus particulièrement de violences sexuelles : les enquêtes de victimation montrent en effet que, dans la population majeure de notre pays, 5,5 millions de femmes et d’hommes ont été victimes dans leur enfance de violences sexuelles, soit un adulte sur dix. Ces violences ont un impact sur le développement affectif et social des enfants victimes et peuvent avoir des conséquences profondes tout au long de leur vie.

La minorité de la victime est, pour les phénomènes dont nous nous occupons, un critère déterminant lors du passage à l’acte de l’auteur. Elle suppose par ailleurs un traitement juridique et judiciaire spécifique des faits commis, avec un accompagnement adapté des victimes.

Ce constat a conduit à la création, au sein de la direction nationale de la police judiciaire (DNPJ), de l’Office mineurs, chargé de la lutte contre les violences faites aux mineurs. Il s’agissait de répondre à un triple défi. Le premier était de contribuer à positionner le ministère de l’intérieur comme un acteur incontournable du dispositif interministériel de protection de l’enfance, pour renforcer la coordination avec les partenaires institutionnels et associatifs et améliorer la détection et l’identification des mineurs victimes. Le deuxième défi était d’animer et de coordonner la lutte contre les violences faites aux mineurs sur l’ensemble du territoire pour développer un traitement spécifique de ces faits. Il s’agissait enfin d’améliorer le traitement judiciaire de ces violences en développant une expertise judiciaire en matière de lutte contre la pédocriminalité.

Le champ infractionnel de l’Office mineurs est extrêmement large, puisqu’il inclut toutes les infractions dont peuvent être victimes les mineurs : les infractions sexuelles, les faits d’exploitation, toutes les violences physiques et psychologiques, dont les meurtres et notamment le syndrome des bébés secoués, et l’ensemble des faits de harcèlement, y compris en ligne.

L’Office mineurs développe plusieurs méthodes et moyens d’investigation dans l’environnement numérique afin de détecter les pédocriminels, que ces derniers agissent sur le darknet ou utilisent des messageries cryptées.

Créé par un décret du 29 août 2023 et placé au sein de la DNPJ, il est rattaché organiquement à la sous-direction de la lutte contre la criminalité organisée et la délinquance spécialisée. Il est armé par des policiers et des gendarmes.

Mme Laure Miller, rapporteure. Pouvez-vous nous indiquer la part des dossiers traités par l’Ofmin présentant un lien avec l’usage des réseaux sociaux par les mineurs ?

M. le lieutenant-colonel Cyril Colliou. L’Office mineurs ne dispose pas à proprement parler de statistiques sur ce point. Je puis toutefois vous indiquer, de manière empirique, que cela représente un volume assez important, surtout sur le contentieux lié à la pédocriminalité en ligne. Les principaux pourvoyeurs de signalements de contenus pédocriminels sont Google, Meta avec Instagram et Facebook , Snapchat, TikTok et X.

M. le président Arthur Delaporte. Ne disposez-vous d’aucune ventilation plus précise ?

M. le lieutenant-colonel Cyril Colliou. Je n’ai pas de données chiffrées, mais je peux préciser les moyens dont dispose l’Office mineurs et la manière dont il travaille, ce qui vous permettra d’appréhender la part des dossiers ayant trait à ces outils.

L’Office mineurs est organisé autour de deux entités : un pôle stratégie, chargé de l’animation, de la coordination, de la création de partenariats et de la mise en place d’actions de sensibilisation à destination du grand public, et un pôle opérationnel disposant d’une unité de renseignement criminel, point d’entrée au niveau national des signalements de contenus pédocriminels. En 2024, cette unité a reçu 170 000 signalements, soit 465 par jour en moyenne, dont 164 516 provenant de la détection effectuée par les plateformes du numérique elles-mêmes, qui les transmettent à une fondation américaine, le NCMEC – National center for missing and exploited children –, laquelle nous les adresse lorsque la victime ou l’auteur sont localisés en France, grâce notamment à leur adresse IP. Les autres signalements proviennent de services de police étrangers, d’Interpol, d’Europol, de partenaires dont la cellule Signal-sports du ministère des sports et d’associations comme L’Enfant bleu, e-Enfance ou Rebond. Ils viennent s’ajouter à ceux de la plateforme Pharos – plateforme d’harmonisation, d’analyse, de recoupement et d’orientation des signalements – de l’Office anti-cybercriminalité (Ofac), avec lequel nous travaillons.

L’Office mineurs reçoit ces signalements, les traite, les exploite et établit des priorités en fonction du degré d’urgence et de la rapidité d’intervention requise. En 2024, 270 enquêtes ont été ouvertes sur cette base. Quelque 300 signalements ont par ailleurs été transmis à des services territoriaux de police judiciaire de la police nationale ou de la gendarmerie nationale. Cela montre que la part des dossiers relative au contentieux de la pédocriminalité en ligne en lien avec l’utilisation des réseaux sociaux est extrêmement importante dans nos activités.

Mme Laure Miller, rapporteure. Vous avez indiqué que les contenus à caractère pédocriminel publiés sur les principales plateformes vous étaient signalés, directement ou indirectement, mais aussi que ces plateformes étaient utilisées par les pédocriminels pour « recruter » leurs victimes.

M. le lieutenant-colonel Cyril Colliou. Les deux aspects coexistent en effet. Les signalements que nous recevons de la part des plateformes numériques sont extrêmement nombreux. Ils peuvent concerner de l’échange de contenus entre pédocriminels, mais aussi des interactions de pédocriminels avec des mineurs utilisateurs de ces réseaux sociaux, qui constituent pour ces personnes un terrain d’action privilégié pour entrer en contact avec des mineurs.

Mme Laure Miller, rapporteure. Il semblerait que ces plateformes servent parfois simplement d’intermédiaires pour renvoyer les usagers, notamment les jeunes, vers d’autres plateformes dont le contenu est moins modéré, moins contrôlé, comme OnlyFans ou Mym. Avez-vous observé cela ?

M. le lieutenant-colonel Cyril Colliou. On constate en effet une utilisation des réseaux sociaux par rebond, comme une porte d’entrée, une manière pour les pédocriminels d’entrer en relation avec les mineurs ou entre eux.

L’Office mineurs n’observe pas les plateformes OnlyFans ou Mym, puisqu’elles concernent une problématique spécifique de l’exploitation sexuelle des mineurs, potentiellement prostitutionnelle. L’Ofmin cède sur cette thématique sa compétence à l’Office central pour la répression de la traite des êtres humains (OCRTEH), qui est compétent sur le sujet pour les mineurs comme pour les majeurs.

Je peux toutefois vous livrer le constat opérationnel effectué par l’OCRTEH, qui indique dans son état de la menace que « le phénomène du caming se développe de plus en plus ». Le caming a été défini par la chambre criminelle de la Cour de cassation comme une « pratique consistant à proposer, moyennant rémunération, une diffusion d’images ou de vidéos à contenu sexuel, le client pouvant donner à distance des instructions spécifiques sur la nature du comportement ou de l’acte sexuel à accomplir ». Selon l’OCRTEH, « il existe une grande quantité de plateformes de diffusion utilisées pour le caming, mais deux d’entre elles se partagent la majorité de l’activité : OnlyFans, site anglais, et Mym, site français. Ces sites proposent à leurs utilisateurs de s’abonner à des profils afin d’avoir accès à des contenus exclusifs sous forme de vidéos, photos ou messages privés. Certains profils offrent du contenu gratuit. La majorité des producteurs de contenu proposent des abonnements qui oscillent entre 4 et 45 euros par mois, avec un tarif dégressif selon la durée de l’abonnement. Les fans peuvent aussi verser des pourboires en échange d’une dédicace ou d’un contenu personnalisé ». L’OCRTEH détecte de plus en plus d’annonces de prostitution mentionnant un lien vers des comptes OnlyFans ou Mym. Une étude réalisée par cet office en juin 2023 mettait par exemple en lumière 496 annonces du site Sexemodel contenant des liens vers des profils OnlyFans ou Mym, et 395 fin 2023. Ces liens sont utilisés par les personnes prostituées pour promouvoir leur profil de camgirl ou de camboy et inversement pour faire de la publicité pour des rencontres physiques et des prestations sexuelles.

L’OCRTEH indique que l’état du droit ne permet pas aux services d’enquête de lutter contre le phénomène du caming, sauf pour les mineurs. En effet, « cette pratique ne peut satisfaire aux exigences posées par la jurisprudence de la Cour de cassation en 1996 et 2022, qui impose la présence d’un contact physique entre le client et la victime pour que la prostitution soit caractérisée ». Dans le cas des camgirls, les victimes sont en général seules face à la caméra ; bien que rémunérées par le client, il n’y a pas de contact physique. Une infraction spécifique a toutefois été créée par la loi du 21 avril 2021, qui vise à protéger les mineurs des crimes et délits sexuels et de l’inceste. Elle réprime notamment le fait, pour un adulte, d’inciter un mineur à se livrer à des pratiques sexuelles sur internet. Le phénomène des camgirls est donc répréhensible, uniquement lorsque la victime est mineure.

M. le président Arthur Delaporte. Pensez-vous qu’une évolution du droit serait souhaitable afin de couvrir également le cas des majeurs ?

M. le lieutenant-colonel Cyril Colliou. En tant que chef par intérim de l’Office mineurs, je ne traite que de la thématique des mineurs et l’exploitation prostitutionnelle n’entre pas dans mon champ d’expertise et de compétence. Chacune et chacun d’entre vous a la réponse politique à cette question.

Mme Laure Miller, rapporteure. Parvenez-vous, au travers des dossiers que vous traitez, à percevoir les principaux impacts de l’usage des réseaux sociaux sur la santé mentale des mineurs ? S’agit-il par exemple essentiellement de cyberharcèlement, d’exposition à des contenus violents ou sexuels ?

M. le lieutenant-colonel Cyril Colliou. L’Office mineurs compte dans ses rangs une psychologue, qui est particulièrement attentive à ces questions et dont la mission principale est la prise en charge des victimes. L’analyse des dossiers que nous traitons permet d’émettre l’hypothèse que l’exposition précoce et répétée à des contenus violents génère une croissance des représentations biaisées de la réalité, avec notamment une banalisation de la violence et une représentation de la sexualité reposant sur des scénarios pornographiques. Il convient également de rappeler que l’exposition à des images et contenus violents conduit à des traumatismes, notamment chez les jeunes, et peut laisser des traces dans l’esprit de l’enfant, éventuellement sujet par la suite au développement de troubles. Dans notre champ de compétence principal, à savoir l’exploitation sexuelle, on observe par exemple des troubles d’hypersexualisation susceptibles de conduire l’enfant à s’exposer à de nouveaux dangers. Les risques sont extrêmement importants et les atteintes psychologiques peuvent être lourdes.

Mme Laure Miller, rapporteure. Bien que votre office soit de création récente, avez-vous observé une évolution en matière de contrôle et de modération des contenus ? Avez-vous le sentiment que les plateformes jouent le jeu ? Les dossiers liés aux réseaux sociaux sont-ils de moins en moins nombreux ou l’évolution vous semble-t-elle au contraire plutôt défavorable ?

M. le lieutenant-colonel Cyril Colliou. Nous observons une croissance quasi exponentielle des signalements, dont près de 165 000 nous ont été transmis par le NCMEC en 2024.

Nous notons chez la plupart des grandes plateformes, dont Meta, des progrès considérables dans les signalements qui nous sont adressés, tant d’un point de vue quantitatif que qualitatif.

Il n’en va pas de même pour la plateforme TikTok. Certes, cette dernière collabore, développe une action en matière de protection des mineurs et transmet ses signalements au NCMEC qui nous les adresse. Mais si l’on observe une explosion du nombre des signalements, il reste à notre sens de nombreux progrès qualitatifs à accomplir pour atteindre les standards des autres plateformes. Beaucoup des signalements qui nous sont transmis sont des faux positifs, qui ne correspondent pas à des contenus pédocriminels : nous passons donc du temps à traiter des signalements qui ne sont pas pertinents. Les signalements adressés sont en outre souvent assez pauvres, en matière notamment d’éléments d’identification et de localisation des auteurs et des victimes. La plupart des plateformes nous communiquent généralement plusieurs adresses IP, ainsi que des pseudonymes et des adresses électroniques vérifiées ; ce n’est pas le cas de TikTok, dont les éléments fournis ne sont pas consolidés, ce qui nécessite de notre part des investigations complémentaires.

Mme Laure Miller, rapporteure. Il existe donc une marge d’amélioration en matière de qualité de la modération et des informations transmises par les plateformes.

M. le lieutenant-colonel Cyril Colliou. TikTok nous a adressé 4 432 signalements en 2023, 6 039 en 2024 et 17 589 au 16 juin 2025 : on observe donc une explosion du nombre de signalements. D’un point de vue opérationnel, le traitement que nous en effectuons est toutefois assez résiduel et ne concerne qu’une minorité d’entre eux, en raison du manque de qualité et de pertinence des éléments qui nous sont fournis.

De nombreux phénomènes ayant cours notamment sur TikTok sont toutefois en lien avec les thématiques que nous traitons. On observe ainsi beaucoup de vidéos et de publications virales contenant par exemple des photos assez suggestives de jeunes filles, avec des renvois vers des messageries cryptées comme Telegram. Cela fait écho à l’évolution des tendances et des pratiques évoquée précédemment. Ces applications sont souvent des portes d’entrée renvoyant vers des outils de communication beaucoup plus confidentiels. Nous avons pu observer cela sur la plateforme TikTok et avons reçu des signalements à ce sujet.

Des particuliers ont par ailleurs signalé à la plateforme Pharos, qui nous a transmis cette information opérationnelle, un phénomène que nous avons qualifié d’« émoji pizza » : des personnes considérées comme pédocriminelles s’identifient sur la plateforme TikTok en insérant dans leurs publications une émoticône en forme de pizza. En anglais, les initiales CP correspondent en effet à la fois à cheese pizza – pizza au fromage – et à child pornography – pédopornographie. Ces publications renvoient les pédocriminels vers des messageries cryptées. Or cela a été très peu signalé par TikTok, alors que le phénomène a donné lieu à de nombreux signalements de la part d’internautes auprès de la plateforme Pharos.

Nous avons également observé le phénomène dit « zizi challenge », qui n’est pas spécifique à TikTok et a été observé également sur YouTube, à la différence près que cette plateforme propose une véritable modération, qui conduit au blocage des vidéos et à de nombreux signalements de la part de la plateforme elle-même. Cette situation a un impact considérable sur notre activité, puisqu’elle nous conduit à transmettre quasiment chaque semaine des signalements opérationnels au parquet pour enquête. Il ne s’agit généralement pas de pédocriminalité, mais de jeunes, voire de très jeunes enfants, âgés parfois de 7 ou 8 ans, qui se mettent en scène, se filment le plus souvent avec le téléphone de leurs parents, dont ils utilisent le compte YouTube, et diffusent les vidéos sur internet, avec un vrai risque. Exerçant son rôle de modération, YouTube bloque ces contenus et nous les signale. Nous envoyons ensuite ces éléments aux juridictions locales pour enquête, afin notamment qu’un contact puisse être établi avec les parents concernés, dans une dimension plus sociale que répressive.

M. le président Arthur Delaporte. Observez-vous ce phénomène sur d’autres plateformes que YouTube ?

M. le lieutenant-colonel Cyril Colliou. Nous savons que le phénomène existe aussi sur TikTok, mais cela nous est très peu signalé. Cette plateforme se prêterait pourtant à ce type de pratique. Le fait que l’on ne puisse pas observer le phénomène faute de signalements nous interpelle donc. Je ne peux pas affirmer que cela traduit un problème de modération, mais la situation permet légitimement de le penser. Cela concerne le « zizi challenge », mais aussi le « challenge maillot ».

Il existe aussi des phénomènes de sextorsion, c’est-à-dire de corruption de mineurs ou grooming. Nous recevons ainsi par l’intermédiaire de Pharos des signalements émanant de particuliers qui relatent des prises de contact et des faits de sextorsion dont sont victimes des mineurs sur le réseau social TikTok. Toutefois, lorsque nous effectuons l’analyse des signalements qui nous parviennent de ce réseau, nous constatons qu’aucun ne concerne de tels faits. Nous pouvons donc affirmer qu’il existe un véritable problème de modération et de détection des phénomènes de sextorsion par la plateforme TikTok.

Concernant enfin les risques suicidaires, nous recevons assez régulièrement, en provenance notamment de Pharos, des signalements de messages de mineurs exprimant des idées noires à tendance suicidaire. Or nous n’avons encore reçu aucune information opérationnelle de ce type de la part de TikTok. Là encore, cela interroge, car on peut légitimement penser que de tels messages peuvent exister sur cette plateforme.

Mme Laure Miller, rapporteure. Pourriez-vous nous apporter des précisions sur les relations de l’Office mineurs avec Pharos ?

Entretenez-vous par ailleurs des liens similaires avec l’ensemble des plateformes ou certaines se montrent-elles plus coopératives et communiquent-elles davantage avec vous ?

M. le lieutenant-colonel Cyril Colliou. Pharos et l’Office mineurs sont tous les deux rattachés à la direction nationale de la police judiciaire. Les contacts sont donc étroits et permanents, quasi quotidiens. Pharos reçoit des signalements transmis par les utilisateurs de plateformes et l’Office mineurs des signalements qui lui sont adressés par les plateformes du numérique. Nous échangeons et croisons les informations reçues. Lorsque nous détectons des contenus illicites dans les signalements qui nous parviennent, nous les transmettons à Pharos pour qu’ils soient supprimés. Lorsque la plateforme Pharos reçoit des signalements correspondant à notre champ de compétence, c’est-à-dire à des infractions à caractère sexuel notamment dont peuvent être victimes des mineurs, elle nous les envoie, ce qui nous permet pour certains faits de transmettre du renseignement opérationnel à nos relais territoriaux et le cas échéant, pour les faits les plus graves et les enquêtes les plus complexes, d’ouvrir des investigations.

L’Ofac dispose d’un réseau d’antennes et de détachements dans les territoires. Quasiment toutes les semaines, l’Ofmin est amené à réaliser des investigations, des enquêtes judiciaires avec interpellation de mis en cause dans des affaires pédocriminelles. Pour procéder aux interpellations, nous nous reposons notamment sur le réseau de l’Ofac et sur ses investigateurs en cybercriminalité (ICC), spécialistes notamment de la saisie et de l’exploitation des supports numériques. Or, dans les contentieux que nous traitons, notamment les infractions pédocriminelles, les perquisitions conduisent systématiquement à la saisie et à l’exploitation des téléphones et des ordinateurs des mis en cause.

Nous avons des contacts constants avec la plateforme Pharos, partenaire privilégié de l’Ofmin. Nous entretenons des liens assez variables avec d’autres plateformes – il en existe tellement ! Nous avons des relations très privilégiées avec Meta, Instagram et Facebook, compte tenu de la qualité de la modération et du nombre de signalements qu’elles nous adressent. Des liens existent avec X et Snapchat. S’agissant de TikTok, je peux dire que la plateforme répond assez rapidement aux réquisitions et aux demandes des enquêteurs, mais qu’il existe une substantielle marge de progression en matière de qualité des retours et de la modération.

M. le président Arthur Delaporte. Avez-vous identifié des flous juridiques ou des qualifications juridiques trop faibles qui nécessiteraient une évolution du droit pénal, afin d’assurer une meilleure appréhension de certains comportements émergents ?

M. le lieutenant-colonel Cyril Colliou. Nous assistons à l’émergence de contenus pédocriminels créés par l’Intelligence artificielle (IA) – nous avons observé le phénomène dans plusieurs enquêtes. Ces contenus peuvent être créés ab initio, mais aussi à partir de contenus pédocriminels existants et modifiés ou bien d’images récupérées, notamment sur les réseaux sociaux, avant d’être détournées de leur usage et sexualisées. Pour nous, c’est un véritable enjeu opérationnel pour les années à venir : l’IA peut rapidement faire exploser le volume des contenus pédocriminels qui circulent en ligne, tant cet outil facilite leur création.

Or nous recevons déjà 170 000 signalements à l’année, que nous nous employons à traiter. Parmi eux, certains dossiers sont considérés comme complexes et prioritaires : les enquêtes dans lesquelles une victime encore non identifiée est potentiellement en cours d’exploitation sexuelle. Nous utilisons la base de données internationale d’images et de vidéos sur l’exploitation sexuelle des enfants (ICSE), gérée par Interpol, et le fichier français Caliope – comparaison et analyse logicielle des images d’origine pédopornographique. Quand les contenus qui circulent sur internet ne sont pas connus de ces bases de données, nous nous efforçons d’identifier les victimes et de les localiser. L’année dernière, nous avons ainsi contribué à l’identification de soixante victimes, dont vingt étaient encore en situation d’exploitation sexuelle – en moyenne âgées de moins de 8 ans, la plus jeune n’ayant que quelques semaines. L’émergence de l’IA dans ce domaine risque d’accroître notre charge de travail et de nous faire travailler sur l’identification de victimes qui n’existent pas. Dans les années à venir, il faudra que nous trouvions un moyen de faire la différence entre les images et contenus pédocriminels produits par l’IA et ceux qui sont réels.

Autre écueil : l’avenir incertain de la législation européenne en matière de détection et de signalements volontaires par les plateformes des abus sexuels commis en ligne contre des enfants. La directive 2002/58/CE du Parlement européen et du Conseil du 12 juillet 2002 concernant le traitement des données à caractère personnel et la protection de la vie privée dans le secteur des communications électroniques (directive e privacy) prévoit des dispositions dérogatoires temporaires, qui prendront fin en avril 2026. Si aucun règlement définitif ne vient la remplacer pour enjoindre aux plateformes de détecter ces contenus, nous risquons de devenir aveugles : une large partie des 165 000 signalements du NCMEC effectués en 2024 risquent de disparaître. Pour nous, il est essentiel de consolider le dispositif actuel de détection par les plateformes. Il faudrait aussi renforcer la responsabilité de ces plateformes concernant l’hébergement et la diffusion de sites et contenus à caractère pédocriminel.

M. le président Arthur Delaporte. Y a-t-il d’autres éléments que vous souhaiteriez aborder avec nous, qu’il s’agisse de préconisations, d’analyses ou de témoignages ? Avez-vous en tête un cas précis, lié à TikTok, que vous pourriez nous relater ?

M. le lieutenant-colonel Cyril Colliou. Nous avons traité peu de dossiers relatifs à TikTok, les signalements ayant été assez rares.

Mais je pense à un dossier qui illustre l’importance de la détection de contenus pédocriminels en ligne et la nécessité d’élaborer et de diffuser de bonnes pratiques au sein des forces de l’ordre, afin d’améliorer le traitement des dossiers de violences faites aux mineurs. L’affaire, qui se déroule dans la moitié nord de la France, commence il y a cinq ou six ans par un signalement à la justice de violences incestueuses commises sur une petite fille. Le service d’enquête saisi auditionne la jeune victime, le mis en cause et quelques personnes de l’entourage. Une expertise pédopsychiatrique est diligentée, qui conclut aux tendances à l’affabulation de la fillette. Le dossier est alors classé sans suite. Le père reste en famille avec ses deux enfants, la fillette et son frère. On peut déjà dire que l’enquête n’a pas été réalisée dans les règles de l’art et que les actes accomplis apparaissent largement insuffisants.

En 2023, à la création de l’Ofmin, une plateforme d’internet nous adresse un signalement avec des vidéos à caractère pédocriminel sur lesquelles nous identifions rapidement cette fillette qui avait dénoncé des faits, rapportés par un enseignant à la justice, quelques années plus tôt. Nous reprenons alors l’enquête depuis le début et nos investigations nous permettent de démontrer que la jeune fille ainsi que son frère ont été violés à de nombreuses reprises pendant des années, le violeur utilisant notamment des sédatifs. Entre le moment où le dossier a été classé sans suite et celui où les vidéos sont arrivées à notre connaissance par le biais le biais du NCMEC, six ou sept enfants se sont ajoutés à la liste des victimes de ce même violeur.

S’agissant de la révélation des faits, je peux vous dire que nous recevons seulement 65 000 plaintes alors que la Ciivise recense 160 000 victimes de violences sexuelles par an, ce qui tend à montrer que les deux tiers des faits ne sont pas signalés aux forces de l’ordre. Il est donc essentiel que nous continuions à disposer d’outils de détection de faits pédocriminels sur les supports numériques, compte tenu de la place que ceux-ci ont pris dans le quotidien de la population.

M. le président Arthur Delaporte. Qu’en est-il des moyens ? Combien d’enquêteurs sont mobilisables pour traiter ce volume vertigineux de contenus pornographiques ou autres ?

M. le lieutenant-colonel Cyril Colliou. Toutes les forces de l’ordre s’occupent du contentieux pédocriminel. À l’Ofmin, nous serons cinquante-huit à la rentrée de septembre 2026, alors que nous devions être quatre-vingt-cinq selon les préfigurations.

Nous sommes en train de développer un réseau d’antennes et de détachements, calqué sur celui de l’Ofac et principalement localisé dans les chefs-lieux de zones de défense. À terme, nous disposerons de dix-sept antennes et détachements, soit 188 personnels spécifiquement dédiés à ce contentieux au sein de la police nationale. On peut ajouter les 1 600 personnes affectées aux brigades de protection des familles et chargées notamment du traitement des violences intrafamiliales, y compris sur des mineurs lorsqu’il n’existe pas d’antenne et de détachement. On pourrait multiplier par deux, trois, quatre ou cinq les effectifs de l’Ofmin, nous serions tous occupés. Même si nous sommes convaincus de ce que nous faisons, nous avons parfois le sentiment de vider la mer avec une petite cuillère.

M. le président Arthur Delaporte. Merci pour ce que vous faites, dans des conditions pas simples, en étant confrontés à un monde très dur.

Mme Laure Miller, rapporteure. Pouvez-vous nous dire un mot sur vos actions de prévention ?

M. le lieutenant-colonel Cyril Colliou. C’est le pôle stratégique, représenté par les personnes qui m’accompagnent, qui est à la manœuvre en ce qui concerne la prévention visant les mineurs. Il nous arrive de conduire quelques actions de sensibilisation, mais force est de constater qu’elles restent marginales car ce n’est pas notre mission première et que nous n’avons que peu de ressources à y consacrer. Nous voudrions conclure une convention de partenariat en matière de prévention avec l’éducation nationale, sachant que nous avons déjà avec elle des partenariats opérationnels concernant l’identification des victimes. Nous avons noué des partenariats et signé des conventions avec des associations de protection de l’enfance telles que e-Enfance et L’Enfant bleu, avec lesquelles nous menons des actions croisées de formation et d’information.

Sur le volet préventif, il y aurait à dire sur la responsabilité cruciale des parents dans l’usage que font leurs enfants des réseaux sociaux et des médias. On pourrait penser, par exemple, à la constitution d’un réseau de parents vigilants. Dans nos interventions à destination des parents, nous avons souvent face à nous des personnes informées et sensibles à ces questions, pas forcément celles qu’il faudrait toucher en priorité. Un réseau pourrait aider les parents en fracture numérique à réagir par rapport à leurs enfants.

Il y a aussi à faire en matière de parentalité, au regard du nombre de photos d’enfants diffusées sur internet. On considère qu’à l’âge de 13 ans, un enfant a en moyenne 1 300 photos de lui en circulation sur les réseaux. Nombre de photos qui apparaissent dans les contenus pédocriminels très explicites et dans les bibliothèques des pédocriminels ont été volées sur les réseaux sociaux. Des photos d’enfants nus sur la plage, anodines pour le commun des mortels, peuvent être détournées par des pédocriminels avec l’aide de l’IA. Il faudrait sensibiliser les parents à ce risque et les conduire à développer une approche pédagogique des réseaux sociaux avec leurs enfants. Normalement, les enfants ne devraient pas avoir accès aux réseaux sociaux avant l’âge de 13 ans, et ils ne devraient y accéder qu’avec le consentement des parents s’ils sont âgés de 13 à 15 ans. Or nombre d’enfants de moins de 15 ans y accèdent en totale autonomie.

M. le président Arthur Delaporte. Cette audition touche à sa fin, mais nous restons à votre disposition et nous sommes preneurs de tout élément complémentaire que vous voudriez porter à notre connaissance.

M. le lieutenant-colonel Cyril Colliou. Nous vous adresserons les réponses que nous avions préparées sur le volet partenarial et stratégique, qui nous semble très important.

M. le président Arthur Delaporte. Tracez-vous des perspectives d’évolution de ces partenariats ?

M. le lieutenant-colonel Cyril Colliou. Nous sommes en relation constante avec nos réseaux et nous voudrions développer certains partenariats, notamment avec l’éducation nationale. La direction nationale de la police judiciaire a posé sa candidature pour assumer le pilotage du projet Impact, portant sur l’animation et la coordination en matière de prévention et de répression des violences faites aux mineurs à l’échelle des forces de l’ordre européennes. L’Ofmin et la DNPJ ont prévu de nombreuses actions.

M. le président Arthur Delaporte. Il me reste à vous remercier pour votre participation à nos travaux.

66. Audition de Mme Sarah Bouchahoua, responsable des affaires publiques France de Snapchat (mardi 24 juin 2025)

Puis la commission auditionne Mme Sarah Bouchahoua, responsable des affaires publiques France de Snapchat ([64]).

M. le président Arthur Delaporte. Nous accueillons Mme Sarah Bouchahoua, responsable des affaires publiques France de Snapchat, qui, pour des raisons personnelles, n’a pas pu participer à la table ronde organisée la semaine dernière avec l’ensemble des plateformes. Invoquant des raisons de sécurité, vous avez demandé, madame, que cette audition se tienne à huis clos : Snapchat n’étant pas au cœur des travaux de notre commission, nous avons accepté de faire une exception.

Je vous remercie de déclarer tout intérêt public ou privé de nature à influencer vos déclarations. Par ailleurs, l’article 6 de l’ordonnance du 17 novembre 1958 relative au fonctionnement des assemblées parlementaires impose aux personnes auditionnées par une commission d’enquête de prêter le serment de dire la vérité, toute la vérité, rien que la vérité.

(Mme Sarah Bouchahoua prête serment.)

Mme Sarah Bouchahoua, responsable des affaires publiques France de Snapchat. Je vous remercie d’avoir accepté de reporter cette audition : Snapchat tenait à participer à cette discussion essentielle car la protection de notre communauté en ligne, en particulier celle des plus jeunes, est notre priorité absolue.

Snapchat a été fondé en 2011 avec une mission claire : reproduire les échanges quotidiens avec nos amis ou notre famille dans un espace numérique que nous voulons sûr, agréable et centré sur une communication authentique. La conception de la plateforme repose donc sur deux principes fondamentaux : la sécurité et la protection de la vie privée par défaut – safety and privacy by design. Nous sommes fermement convaincus que l’espace numérique ne devrait pas se résumer à un terrain de compétition entre utilisateurs, où la quête du sensationnel et la recherche de la viralité l’emporteraient sur l’authenticité des échanges.

Particulièrement attaché à la protection de la santé mentale des jeunes, Snapchat ne propose pas de métrique de comparaison sociale, comme les likes. L’application s’ouvre sur le mode caméra, et non sur un fil d’actualité infini qui inciterait à scroller, et nous n’encourageons pas la désinformation ni les contenus toxiques. Cette philosophie est partagée par notre communauté.

Selon notre dernier rapport de transparence pour l’Union européenne, plus de 850 millions d’utilisateurs uniques au niveau mondial se connectent chaque mois sur la plateforme, dont plus de 26,7 millions en France. Ces snapchateurs disent que l’application les rend heureux – ni anxieux, ni tristes : nous en sommes fiers. Ce sentiment a été confirmé par une étude indépendante, que nous n’avons pas commandée, menée récemment par l’université d’Amsterdam et la professeure Patti Valkenburg, experte ès réseaux sociaux. Pendant 100 jours, elle a évalué le bien-être, l’estime de soi et la qualité des relations de 479 adolescents de 14 à 17 ans suite à leur utilisation de plusieurs plateformes. Selon cette étude, Snapchat est la seule plateforme à avoir eu un impact positif sur le bien-être des jeunes, qui estiment que l’application renforce fortement la proximité entre amis, et n’a entraîné aucun impact négatif sur l’estime de soi.

Conscients des enjeux actuels en matière de protection des mineurs, nous travaillons chaque jour à renforcer nos mécanismes de protection et de sécurité, ainsi qu’à approfondir nos partenariats avec les acteurs publics comme privés. Notre comité consultatif de sécurité – safety advisory board – réunit plus de vingt experts internationaux, dont Mme Justine Atlan, directrice générale de l’association e-Enfance, que vous avez eu l’occasion d’entendre dans le cadre de vos travaux et avec laquelle nous travaillons étroitement pour développer des outils adaptés aux défis du numérique.

Développé avec ce comité, le contrôle parental permet de remettre le parent au cœur de l’activité numérique de son adolescent, tout en respectant la vie privée et l’autonomie de ce dernier. Nous proposons également un outil de signalement, développé avec l’Arcom (Autorité de régulation de la communication audiovisuelle et numérique) suite aux recommandations contenues dans son bilan sur la lutte contre la manipulation de l’information. Facilement accessible sur l’application et le site support, et organisé en catégories claires pour garantir une utilisation simple, cet outil rappelle notamment que les signalements sont confidentiels et essentiels pour encourager un usage responsable de la plateforme.

Bien avant le règlement (UE) 2022/2065 du Parlement européen et du Conseil du 19 octobre 2022 relatif à un marché unique des services numériques et modifiant la directive 2000/31/CE dit Digital services act (DSA), nous avons lancé un programme de signaleurs de confiance auquel participent plusieurs associations en France comme e-Enfance, Point de Contact, Stop Fisha et la Licra (Ligue internationale contre le racisme et l’antisémitisme). Après un lancement réussi aux États-Unis, nous avons récemment étendu à l’Europe notre conseil consultatif de jeunes, qui réunit des adolescents de différents pays membres de l’Union européenne et leurs parents ou tuteurs légaux. Ils rencontrent régulièrement nos équipes pour partager leur expérience et nous aider à améliorer nos outils et notre politique. Cette initiative sera officiellement lancée cette semaine : à cette occasion, les deux représentants français, âgés de 14 et 17 ans, se rendront avec leurs parents dans nos bureaux à Amsterdam.

Comme nous sommes contraints par le temps, je ne détaillerai pas davantage l’ensemble des initiatives prises par Snapchat. Reste que les approches uniformes ont montré leurs limites : il est temps de repenser la conception même des plateformes et le phénomène d’amplification virale au cœur de certains modèles économiques.

En s’ouvrant sur le mode caméra, Snapchat invite à s’exprimer plutôt qu’à faire défiler passivement un flux de contenus. Les surfaces de contenu y sont modérées : Discover propose des contenus publiés par des créateurs certifiés et des médias partenaires vérifiés – notamment Le Monde, Le Nouvel Obs, Le Figaro ou Brut –, qui sont tous soumis à des règles relatives aux contenus ; sur Spotlight, nous mettons en avant des contenus positifs et modérons les vidéos avant qu’elles ne soient visibles d’un large public. Snapchat est conçu pour favoriser un usage actif plutôt que passif. Le cœur de notre application reste la messagerie privée, fondée sur la réciprocité : pour pouvoir échanger, les utilisateurs doivent s’ajouter mutuellement. Contrairement à d’autres plateformes, on ne peut pas recevoir des messages par simple invitation. Toute capture d’écran ou enregistrement des messages est notifié, afin que l’utilisateur soit acteur de sa conversation.

Les adolescents font l’objet de mesures de protection spécifiques : ils n’apparaissent pas dans les résultats de recherche des autres utilisateurs, sauf si un lien mutuel est probable. Si un jeune accepte un inconnu dans sa liste d’amis, un bandeau s’affiche sur la partie conversationnelle pour lui signaler qu’il partage peu d’amis en commun avec cette personne. Une alerte similaire s’affiche si l’interlocuteur se trouve dans une autre zone géographique de celle où réside le mineur, ou si un écart d’âge important est avéré.

Tous ces engagements ne datent pas d’hier : contrairement à ceux de plusieurs plateformes, qui ont souligné avoir renforcé leurs mesures de protection, les comptes Snapchat ont toujours été privés. Comme le confirment notre audit sur les risques systémiques, nos rapports de transparence et nos déclarations auprès de l’Arcom – et auparavant auprès du CSA (Conseil supérieur de l’audiovisuel) – dans le cadre de la lutte contre la manipulation de l’information, Snapchat n’est pas un vecteur de diffusion massive de contenus illicites, un outil de manipulation de l’information ou d’enfermement algorithmique. Nous nous imposons des standards élevés et renforçons en permanence nos dispositifs de sécurité. Conscients du chemin qu’il reste à parcourir, nous continuons de renforcer la coopération avec le public et le privé : il est essentiel d’appeler collectivement à un environnement numérique beaucoup plus éthique, dans lequel chaque acteur assume pleinement ses responsabilités sans se défausser sur les autres.

Les défis actuels appellent une action coordonnée de l’ensemble du secteur du numérique. À cet égard, le règlement (UE) 2022/1925 du Parlement européen et du Conseil du 14 septembre 2022 relatif aux marchés contestables et équitables dans le secteur numérique et modifiant les directives (UE) 2019/1937 et (UE) 2020/1828 dit Digital markets act (DMA) et le DSA offrent des fondations solides : ils doivent désormais être appliqués de manière cohérente et harmonisée dans l’ensemble des États membres. Il est temps d’éviter les initiatives nationales fragmentées, qui nuisent au bon fonctionnement du marché unique numérique. Je note que nous sommes une des seules plateformes à avoir salué l’entrée en vigueur du DSA ; nous avions d’ailleurs travaillé à sa rédaction avec plusieurs eurodéputés.

Il est temps, aussi, de redonner aux parents les moyens de soutenir et accompagner leurs enfants dans leur parcours numérique, sans leur faire de reproches. L’exemple récent de l’interdiction des sites pornographiques en France illustre bien les dangers d’une régulation précipitée ou non concertée : les téléchargements de VPN – réseaux privés virtuels – ont explosé, exposant davantage les mineurs aux risques du numérique. De plus, l’arrêté ministériel interdisant ces sites a été suspendu car il ne respectait pas le droit européen. Il faut trouver des solutions réalistes, applicables, qui protègent les utilisateurs sans les inciter à adopter des comportements encore plus risqués.

Mme Laure Miller, rapporteure. Toutes les plateformes nous ont affirmé, comme vous, que la protection des mineurs était leur priorité absolue. Mais nous nous intéressons moins à tout ce que vous déployez déjà pour protéger les enfants qu’à ce qu’il reste à faire pour mettre fin à ce qui nous paraît problématique.

Pouvez-vous nous en dire plus sur ce qui contribue à capter l’attention des enfants sur Snapchat, notamment l’algorithme et les fonctionnalités qui les incitent à revenir sur la plateforme ? Je pense en particulier aux émojis, qui peuvent être accolés au nom de l’utilisateur – un bébé pour qui vient de rejoindre la plateforme, un cœur jaune pour les meilleurs amis, etc. – et disparaissent au bout de vingt-quatre heures, ou les snapflammes. Avez-vous analysé ces dispositifs ? Avez-vous pleinement conscience qu’ils peuvent contribuer à la dépendance aux écrans, en particulier à votre réseau social ?

Mme Sarah Bouchahoua. Snapchat est conçu principalement pour faciliter la communication entre amis réels et encourager l’authenticité et les échanges entre utilisateurs. À cette fin, l’application s’ouvre directement sur le mode caméra, et non sur un fil d’actualité gouverné par des algorithmes de recommandation totalement opaques.

L’application offre trois espaces publics. Tout d’abord la carte, qui présente l’actualité mondiale et permet de visualiser les stories publiques diffusées par les autres utilisateurs. Plus elle est rouge, plus l’activité est intense – généralement, c’est en raison d’événements sportifs ou culturels, comme des festivals musicaux. Ensuite, la partie Discover fonctionne comme un kiosque à journaux ; elle propose des stories publiées par des médias certifiés et reconnus pour leur éthique journalistique avec lesquels nous avons noué plus de cent partenariats en France, comme Le Monde, Le Nouvel Obs ou Konbini. Enfin, la partie Spotlight affiche des vidéos courtes, généralement humoristiques – un format plébiscité par nos utilisateurs. Ces trois espaces font l’objet d’une modération poussée : avant d’être diffusés, les contenus sont d’abord scannés par un algorithme pour vérifier qu’ils ne contiennent rien d’explicitement illicite – terrorisme ou pédocriminalité –, puis soumis au regard d’un modérateur humain, qui s’assure qu’ils ne contreviennent pas aux règles communautaires de Snapchat, comme un placement de produit non déclaré.

Afin de lutter contre l’enfermement algorithmique et les bulles de filtre, et de proposer aux utilisateurs un contenu diversifié présentant différents points de vue, nous avons beaucoup travaillé avec l’Arcom sur l’algorithme de recommandation. Nous l’avons présenté à plusieurs reprises à la Commission européenne, qui n’a formulé aucune observation négative. Cet algorithme s’appuie à la fois sur des critères subjectifs – temps passé sur le contenu, partage – et objectifs – localisation de l’utilisateur, langue maternelle, âge – pour lui proposer des contenus d’actualité pertinents.

Comme je l’ai expliqué devant la commission d’enquête concernant l’organisation des élections en France, en juillet 2024, nous avons proposé aux utilisateurs des contenus politiques liés à la tenue des élections législatives anticipées et aux Jeux olympiques. Nous nous efforçons de proposer des contenus en lien avec les centres d’intérêt déclarés par l’utilisateur dans les paramètres de l’application mais, pour éviter de le conforter dans ses opinions, Snapchat propose également des contenus diversifiés, sans lien avec ces centres d’intérêt. Par exemple, une personne qui adore le sport se verra certes proposer des contenus sportifs provenant de médias partenaires spécialisés, comme L’Équipe, mais aussi des contenus liés à l’actualité politique ou simplement divertissants. Je n’aime pas trop le football mais, comme vous pouvez le voir dans la partie Discover, Snapchat me propose des contenus sur le joueur Erling Haaland, d’autres au sujet du concert de Beyoncé, que j’ai effectivement apprécié, des actualités proposées par M6 ou des informations sur les nouvelles lunettes Ray-Ban.

Nous proposons également d’autres fonctionnalités, qui peuvent être considérées comme addictives, comme les Snapstreak – les fameuses flammes. Leur utilisation est facultative : nous n’imposons rien et nous n’envoyons aucune notification relative à cette fonctionnalité – pour alerter l’utilisateur qu’une flamme est en train de s’éteindre, par exemple. D’après plusieurs enquêtes menées avec des chercheurs et notre Teen Council – Conseil consultatif de jeunes –, notre audience apprécie ce type d’outils car ils permettent de renforcer l’amitié à travers un petit jeu. Conscients que ces fonctionnalités entraînent des effets de bord, nous nous efforçons de les corriger : une fois par an, les utilisateurs peuvent demander une restauration gratuite de leur flamme directement sur l’application – davantage s’ils disposent de Snapchat + –, ou sur le site support de Snapchat. Je précise que l’utilisateur peut modifier les paramètres de l’application pour désactiver les notifications ou l’algorithme de recommandations spécialisé, afin que les contenus proposés ne reposent que sur l’algorithme objectif.

Mme Laure Miller, rapporteure. Savez-vous quelle part des jeunes a effectivement désactivé l’algorithme spécialisé ?

Mme Sarah Bouchahoua. Je n’ai pas de chiffres précis. La possibilité de personnaliser les paramètres est encore largement méconnue des collégiens et lycéens. Nous avons travaillé avec les médias, comme le magazine Parents, et la Cnil (Commission nationale de l’informatique et des libertés) pour mieux informer les jeunes sur l’existence de ces outils, mais aussi déconstruire les préjugés autour des dispositifs de signalement, trop souvent perçus comme des outils de délation.

Mme Laure Miller, rapporteure. De nombreux influenceurs utilisent Snapchat car le format très court des vidéos les rend plus percutantes, ce qui leur garantit un succès fulgurant. Nous avons auditionné Nasdas, un cas emblématique qui ne compte pas moins de 9 millions d’abonnés. Ne pensez-vous pas que cette mise en valeur est une prime aux contenus choquants ?

Mme Sarah Bouchahoua. Pour être visible sur les espaces Stories ou Spotlight, les contenus doivent respecter les règles d’éligibilité à la recommandation : les contenus violents ou à caractère sexuel, sexiste, raciste ou antisémite sont interdits.

Comme je l’avais expliqué au président Delaporte lors des travaux préparatoires à l’examen de la proposition de loi visant à encadrer l’influence commerciale et à lutter contre les dérives des influenceurs sur les réseaux sociaux, Snapchat applique le principe de la réponse graduée.

M. le président Arthur Delaporte. Selon Nasdas, votre plateforme constitue sa principale source de revenus, notamment grâce à ses contenus viraux. Confirmez-vous cette déclaration ? Le cas échéant, combien gagne-t-il ?

Mme Sarah Bouchahoua. Je ne connais pas le montant exact.

M. le président Arthur Delaporte. Le modèle économique nous intéresse. Comment Snapchat rémunère-t-il les créateurs de contenus ? Nasdas nous a dit qu’il gagnait plusieurs centaines de milliers d’euros par mois : quelles vidéos lui rapportent le plus d’argent ? Plus largement, combien y a-t-il d’influenceurs millionnaires, en nombre de vues mais aussi en argent sonnant et trébuchant ? Plusieurs centaines de milliers d’euros par mois, ça fait plusieurs millions par an !

Par ailleurs, n’est-il pas possible de prévenir la production de contenus problématiques ? Pourquoi Nasdas, dont plusieurs contenus ont été modérés, n’a-t-il pas été banni ? À partir de combien de contenus modérés bannissez-vous un utilisateur ? C’est une des solutions à la main des plateformes.

Mme Laure Miller, rapporteure. Le principe même de la réponse graduée est discutable, car il signifie qu’il est possible d’insulter ou de s’attaquer à quelqu’un plusieurs fois. Le créateur d’un contenu inapproprié ou ne respectant pas vos règles devrait être banni dès la première infraction.

Mme Sarah Bouchahoua. Pour prévenir la production de contenus problématiques, nous avons créé en 2021 des Snap schools, où les créateurs de contenus suivent une formation aux règles communautaires et aux conditions d’utilisation de Snapchat avant leur certification. Des salariés dédiés à la relation avec les créateurs de contenus leur rappellent les règles à respecter, leur fournissent un guide et restent en relation avec eux tout au long de leur expérience.

Comme j’ai déjà eu l’occasion de l’expliquer au président Delaporte, la gradation des sanctions que nous appliquons depuis 2021 dépend de différents critères, notamment de la gravité de l’infraction aux règles de modération. Des audits trimestriels sur les créateurs de contenus qui ont déjà enfreint les règles, qu’ils soient ou non certifiés, ont conduit à bannir plus d’une quinzaine de créateurs.

J’en viens à la politique de monétisation, lancée récemment en France. Elle n’est accordée qu’à certains créateurs de contenus et obéit à des règles strictes : si un utilisateur viole les règles de modération, la monétisation est suspendue – il peut même en être définitivement privé.

M. Thierry Sother (SOC). Vous avez tendance à présenter votre plateforme comme une simple messagerie mais, compte tenu du nombre de fonctionnalités que vous avez décrites, Snapchat s’apparente plutôt à un réseau social.

Vous avez indiqué qu’avant d’être certifiés sur votre plateforme, les influenceurs suivent une formation, ou au moins un temps d’accompagnement, au siège de Snapchat. Combien de personnes ont-elles été formées à ce jour ?

S’agissant de la gradation des sanctions, vous semblez vous contenter de la promesse d’un influenceur de ne plus recommencer. J’ai une fille de six ans qui me fait régulièrement ce genre de promesse et bien souvent, ça ne suffit pas à l’empêcher de recommencer. Jusqu’où vont les sanctions ? Sont-elles limitées à des avertissements à l’infini ? Combien d’influenceurs ou d’utilisateurs certifiés bannissez-vous chaque année ?

Mme Sarah Bouchahoua. Nous distinguons les influenceurs – des personnalités publiques qui peuvent créer un compte sur Snapchat sans être soutenues par la plateforme – des créateurs de contenus certifiés, les Snap stars. Seuls ces derniers, identifiables à leur badge jaune – qui, contrairement à ce qui se fait sur d’autres plateformes, ne peut pas être acheté ni donné à n’importe qui –, suivent la formation dispensée dans les locaux de Snapchat dans le cadre du programme Snap schools.

Pour être certifiées, les personnalités publiques qui en ont fait la demande ou approchées à l’initiative de la plateforme doivent remplir plusieurs critères objectifs. Par exemple, elles doivent être reconnues pour leur talent, qu’elles soient athlètes ou artistes. Une fois certifiés, ces utilisateurs peuvent publier des contenus dans la partie Discover. Les influenceurs, eux, ne sont pas nécessairement certifiés ni formés par la plateforme aux règles de modération et de recommandation.

Le rôle de l’équipe chargée de la relation avec les Snap stars est d’alerter les utilisateurs certifiés d’éventuels problèmes avec leur compte. Il nous arrive également de retirer leur certification à des personnalités publiques qui ne respectent pas les règles de modération.

M. le président Arthur Delaporte. Peut-on parler d’Alex Hitchens ?

Mme Sarah Bouchahoua. À ma connaissance, il n’a pas de compte sur Snapchat.

M. le président Arthur Delaporte. J’ai sous les yeux un compte qui publie sur Spotlight des vignettes comme « Alex Hitchens fait tourner sa copine pour vendre plus », « Des hommes qui se font entretenir par leur femme, leur copine et leur culot » « Alex Hitchens détruit cette femme », etc. Ce ne sont que des vignettes, mais elles méritent une analyse plus contextuelle.

Mme Laure Miller, rapporteure. De combien de modérateurs disposez-vous ? Parmi eux, combien sont des sous-traitants et combien des salariés de Snapchat ? Comment leur nombre a-t-il évolué ces dernières années ?

Vous avez dit tout à l’heure que vous n’encouragiez pas la désinformation et les contenus toxiques ; permettez-vous néanmoins que ces contenus existent et soient diffusés sur la plateforme ?

Mme Sarah Bouchahoua. C’est assez difficile, car nous ne pouvons malheureusement pas contrôler les utilisateurs lorsqu’ils produisent eux-mêmes leurs contenus. En revanche, nous mettons en œuvre une modération combinant l’intelligence artificielle, pour détecter les contenus explicitement violents, et l’intervention humaine : une équipe travaille sur ce qui a été repéré par l’algorithme, pour éviter notamment les faux positifs.

Nous avons 1 108 modérateurs dédiés aux pays membres de l’Union européenne, dont 163 francophones. La plupart sont basés à Londres. Ce chiffre peut sembler faible par rapport à d’autres plateformes, mais notre modèle est fondamentalement différent des autres. Pour diffuser un contenu à une large audience sur Snapchat, il faut être une personnalité publique certifiée – une Snap star – ou avoir déjà un large public. Snapchat étant essentiellement centré sur la communication privée, entre amis et en famille, on y trouve moins de contenus susceptibles d’être considérés comme viraux ou comme des contenus illicites en propagation rapide.

Nos systèmes automatisés permettent de détecter rapidement tout contenu très violent ou explicitement illicite. Nos équipes de modérateurs prennent ensuite le relais pour contrôler. Elles sont assez efficaces et le délai médian entre la détection et l’action finale est très court : 2 minutes pour les contenus à caractère sexuel, 23 minutes pour ceux relevant de l’exploitation sexuelle des mineurs, 7 minutes pour le harcèlement et l’intimidation, 8 minutes pour les menaces et les violences, 10 minutes pour l’automutilation et le suicide, 1 minute pour la désinformation, 6 minutes pour la drogue, 1 minute pour les armes, 27 minutes pour les discours haineux, 5 minutes pour le terrorisme et l’extrémisme violent.

Les modérateurs sont formés pour répondre rapidement et le taux de précision est élevé : d’après les dernières données que nous avons transmises à la Commission européenne, il atteint 95 % s’agissant des contenus entrant en violation avec nos règles communautaires et 85 % pour les contenus non éligibles à la recommandation.

Durant plusieurs semaines, ils suivent régulièrement des modules sur les politiques internes de Snapchat, les outils utilisés, les procédures d’escalade pour remonter le plus rapidement possible les risques, les normes culturelles ou encore les événements d’actualité. Nous les avions prévenus, par exemple, des risques qui pouvaient survenir lors de la fête de la musique ; ils se sont donc tenus prêts à traiter tout signalement à cette occasion.

À la fin de leur apprentissage, les modérateurs doivent obligatoirement obtenir une certification confirmant qu’ils ont les compétences nécessaires pour devenir agent pour Snapchat. Une fois qu’ils l’ont obtenue, ils suivent, comme tous les salariés, une formation continue constituée de sessions hebdomadaires de remise à niveau portant notamment sur les dernières évolutions en matière de régulation et de législation. Pour savoir comment traiter les contenus qui sont dans la zone grise et prendre en compte le contexte, des cas limites sont présentés. Des quiz et des certifications régulières sont proposés, et des procédures d’alerte assez rapides sont mises en œuvre : je fais par exemple des points réguliers avec notre équipe de Londres pour l’alerter sur les tendances que nous percevons.

Au-delà de ces mécanismes internes, nous nous appuyons aussi beaucoup sur l’externe : pour mieux appréhender les tendances observables sur le terrain.

Si nous ne pouvons pas prévenir la publication de certains contenus par les utilisateurs, nous pouvons toutefois essayer de limiter les risques. À l’occasion des Jeux olympiques de Paris 2024, nous avons travaillé trois mois à l’avance. J’ai pris l’initiative de contacter différentes associations – SOS Racisme, la Licra, le Conseil représentatif des institutions juives de France (Crif), Stop Homophobie, SOS Homophobie, etc. Nous avons travaillé avec elles, lors de réunions bilatérales, sur les différents phénomènes qui pourraient se produire. J’ai ensuite transmis l’ensemble des informations obtenues aux équipes de modération, afin qu’elles les prennent en considération.

Mme Laure Miller, rapporteure. Comment est-il possible de laisser passer autant de contenus problématiques avec un tel processus de modération ? L’intelligence artificielle doit être capable d’alerter lorsque sont publiées des vidéos d’un homme piquant des gens dans la rue ! Si certains influenceurs ont été bannis récemment, c’est grâce à l’intervention de personnes dont ce n’est pas le métier – notamment du président Arthur Delaporte. Comment expliquez-vous cet énorme trou dans la raquette ?

Mme Sarah Bouchahoua. Je ne connais pas le détail du dossier concernant Amine Mojito.

Quant aux autres créateurs de contenus évoqués, ils ont été bannis de la plateforme en 2021. Nous n’avons pas attendu la ministre Aurore Bergé pour supprimer le compte d’AD Laurent, par exemple, mais celui-ci continue de revenir et d’être suspendu par les équipes de modération de Snapchat.

Mme Josiane Corneloup (DR). L’absence de vérification des comptes Snapchat permet aux prédateurs en ligne de créer de fausses identités pour tromper les jeunes. Selon les chiffres d’une organisation caritative britannique spécialisée dans la protection des enfants, Snapchat est la plateforme la plus utilisée pour le pédopiégeage en ligne : c’est là que se produisent près de la moitié des délits de ce type.

L’anonymat permet aux prédateurs de cibler, piéger et manipuler leurs victimes d’autant plus facilement que la disparition du contenu public rend les preuves de leurs interventions éphémères et donc difficiles à collecter par la suite. Alors que le nombre de faux comptes augmente sur Snapchat, ne serait-il pas temps de distinguer ceux derrière lesquels il y a de vraies personnes des autres, sans scrupules, qui sont à l’origine d’escroqueries de toute nature ?

Snapchat récompense ses utilisateurs actifs : lorsque deux d’entre eux se sont envoyé des photos ou des vidéos au cours des dernières vingt-quatre heures, ils obtiennent une snapflamme qui continue de brûler à condition qu’ils s’échangent des messages au quotidien. En l’absence d’interaction, leur série disparaît et ils doivent repartir de zéro. Ne pensez-vous pas que de telles pratiques sont de nature à provoquer très vite des addictions ?

Mme Sarah Bouchahoua. D’abord, l’anonymat n’existe pas sur internet. Cela fait plus de huit ans que je travaille sur le sujet, ayant été collaboratrice parlementaire de la députée Laetitia Avia, auteur de la proposition de loi contre les contenus haineux sur internet : à cette occasion, nous avons compris que c’est le régime du pseudonymat qui régnait aujourd’hui dans l’espace numérique. La question est celle de la collaboration entre les plateformes et les autorités judiciaires. Lorsque vous vous connectez, vous livrez une adresse e-mail – fût-elle totalement fictive – et un numéro de téléphone, mais surtout une adresse IP et le type de téléphone utilisé : vous êtes ainsi facilement localisable et identifiable.

Nous luttons depuis plusieurs années contre le phénomène particulièrement affreux du grooming, ou piégeage. Nous avons mis en place plusieurs garde-fous sur Snapchat. D’abord, le profil des mineurs qui s’inscrivent est privé, si bien qu’ils ne peuvent pas apparaître parmi les suggestions d’ajout des inconnus – lesquels peuvent mentir sur leur âge. Si un mineur ajoute une personne qu’il ne connaît pas, qui a déjà été signalée auparavant ou qui est localisée dans un autre territoire, un bandeau s’affiche pour le mettre en garde et lui demander s’il souhaite réellement poursuivre l’échange. Le bouton « bloquer » ou « signaler » apparaît en rouge, alors que le bouton « poursuivre la conversation » apparaît en gris.

À l’avenir, ce mécanisme de signalement sera disponible sur l’ensemble de la plateforme. Si l’utilisateur réalise que l’inconnu lui demande des contenus intimes, il pourra le signaler le plus rapidement possible. Nous avons rédigé un petit laïus avec e-Enfance pour réexpliquer que le signalement est totalement confidentiel – l’interlocuteur n’en est pas alerté – et qu’en cas d’urgence, il faut s’adresser directement à un adulte ou une personne de confiance, et appeler les forces de l’ordre.

Nous sommes conscients que des efforts restent à faire. Nous avons développé un centre parental visant à remettre le parent au cœur de l’expérience numérique de son enfant, qui s’efforce de reproduire leurs échanges quotidiens : ayant accès à la liste d’amis ainsi qu’au degré d’interaction avec chacun d’eux, le parent pourra signaler un ami qu’il ne connaîtrait pas, par exemple.

Nous avons travaillé avec plusieurs associations britanniques – notamment celle que vous avez évoquée, mais aussi StopNCII (Stop Non-Consensual Intimate Image) – spécialisées dans le grooming et le hashing. Lorsque la victime de l’un de ces méfaits leur transmet les photos ou les vidéos qu’elle a partagées avec un inconnu, ces associations nous les signalent. En scannant ensuite l’ensemble des parties publiques de la plateforme, nous pouvons mesurer si elles ont été diffusées à une large échelle et déterminer par qui elles l’ont été, afin de sanctionner directement le prédateur sexuel.

Nous estimons aujourd’hui que la solution réside dans les systèmes d’exploitation (OS) des téléphones portables, qui disposent de l’ensemble des informations relatives aux utilisateurs. Je ne dis pas cela pour me dédouaner, contrairement à certains : les plateformes sont les principales responsables de la vérification de l’âge et nous continuerons d’ailleurs d’investir sur ce sujet. Néanmoins, les OS devraient nous transférer des signaux. Nous nous réjouissons à cet égard que la société Apple ait annoncé la semaine dernière qu’elle allait transmettre aux développeurs d’application la date de naissance de ses utilisateurs, par le biais d’une API – Application Programming Interface.

Aujourd’hui, votre téléphone portable peut vous reconnaître grâce à la biométrie ; il contient vos cartes de fidélité ; il sait exactement ce que vous faites et qui vous êtes. Ce que nous demandons, c’est que dès l’achat du téléphone – que l’appareil soit neuf ou d’occasion –à l’étape du paramétrage, le parent puisse renseigner l’âge de son enfant, donner son consentement pour le téléchargement d’applications et limiter le temps d’écran. Aujourd’hui ces outils existent, ils sont gratuits, mais peu de parents les utilisent. Pour nous, il est essentiel qu’il y ait une seule porte d’entrée et que les OS nous fournissent un signal pour que nous puissions automatiquement activer nos contrôles parentaux. Encore une fois, je ne cherche pas à me dédouaner mais à trouver une solution efficace et effective, en lien avec le DSA et le DMA.

M. le président Arthur Delaporte. Vous voyez bien qu’il y a un problème. Tout ce que vous proposez pour les enfants n’est pas opérant, parce que la plupart mentent au sujet de leur âge. Quel est le pourcentage de mineurs identifiés comme tels sur Snapchat ?

Mme Sarah Bouchahoua. Nous comptons aujourd’hui, en France, 2,6 millions d’utilisateurs mineurs âgés de 13 à 17 ans.

M. le président Arthur Delaporte. Vous n’êtes donc pas capable d’identifier les enfants entre 8 et 13 ans, alors que l’on sait que nombre d’élèves de CM2 ou de sixième utilisent Snapchat. Combien de millions d’utilisateurs avez-vous en France ?

Mme Sarah Bouchahoua. Nous avons 26,9 millions d’utilisateurs.

M. le président Arthur Delaporte. Le pourcentage de mineurs est donc censé s’établir à 10 %, alors que l’on peut estimer qu’il atteint plutôt 20 à 25 %. Cela signifie qu’au moins la moitié de vos utilisateurs mineurs apparaissent comme majeurs et ne bénéficient donc pas des modalités de protection renforcée que vous avez évoquées.

Mme Sarah Bouchahoua. Je ne peux pas me prononcer sur des chiffres non vérifiés mais d’après Médiamétrie, dont vous avez auditionné le président, l’âge moyen déclaré sur Snapchat est de 36 ans. C’est le fameux effet Harry Potter : Snapchat a été créé en 2011, et les adolescents d’alors sont devenus des adultes.

M. le président Arthur Delaporte. Et selon vous, quel est l’âge moyen sur Snapchat ?

Mme Sarah Bouchahoua. Il est de 35 ans.

M. le président Arthur Delaporte. Il est donc à peu près cohérent.

Mme Sarah Bouchahoua. Médiamétrie a une méthode de calcul différente, fondée sur un panel et sur une API directement branchée sur Snapchat, au travers de laquelle ils répondent aux questions des utilisateurs.

Mme Josiane Corneloup (DR). Ce que l’on constate, c’est que les enfants sont seuls devant l’application et que la plupart des parents n’en connaissent pas le fonctionnement. Personne ne vérifie rien et tout se fait dans l’anarchie totale, sans contrôle. Il faudrait que les parents soient au moins formés et avisés des risques que prend leur enfant en se connectant.

Mme Sarah Bouchahoua. C’est un très bon point. Nous organisons des campagnes promotionnelles au sujet des outils que je vous ai présentés, afin d’informer les parents de leur existence.

Nous avons fait réaliser des études indépendantes : d’après le Family Online Safety Institute (FOSI), plus de 75 % des parents ne sont pas au courant des différents outils existant sur les espaces numériques. La plupart d’entre eux disent qu’ils n’ont pas le temps de se connecter et de créer des comptes. C’est la raison pour laquelle nous plaidons pour une solution reposant sur les systèmes d’exploitation : ils offrent une porte unique, qui permettrait aux parents d’autoriser ou non le téléchargement d’applications et de limiter le temps d’écran facilement.

Nous avons développé un site internet, parents.snapchat, qui explique ce qu’est Snapchat, comment l’utiliser, comment en parler avec son enfant et comment activer l’outil de contrôle parental. Nous faisons des efforts, mais le sujet doit aussi être traité au niveau industriel et sociétal : l’éducation nationale – avec laquelle nous essayons de travailler – nous a indiqué, par exemple, que de moins en moins de parents assistaient aux réunions avec les professeurs.

Mme Laure Miller, rapporteure. Qu’est-ce qui vous empêche d’instaurer un dispositif de vérification de l’âge au moment de l’inscription ?

Mme Sarah Bouchahoua. C’est également une bonne question. Nous poursuivons nos discussions avec les différents vérificateurs d’âge. Malheureusement, aucune solution ne permet de distinguer les jeunes de 13 ans de ceux qui ont 15 ans. Pour l’accès aux sites pornographiques, la limite est fixée à 18 ans…

M. le président Arthur Delaporte. Je ne crois pas que cela réponde à la question de Mme la rapporteure. Celle-ci voudrait savoir pourquoi l’âge de l’utilisateur n’est pas vérifié dès son inscription sur la plateforme, ce qui permettrait de certifier – de façon certes imparfaite – l’âge de l’ensemble des utilisateurs. Nous avons posé la même question à TikTok.

Mme Sarah Bouchahoua. Aucun outil, justement, ne permet cette vérification d’âge. Nous avons discuté avec Yoti – je ne sais pas si vous les avez auditionnés…

M. le président Arthur Delaporte. C’est le système utilisé par TikTok, notamment.

Mme Sarah Bouchahoua. Yoti ne permet pas de faire la distinction entre un utilisateur âgé de 14 ans et 7 mois et un autre de 15 ans et 2 mois. En outre, il y a quelques temps, la marge d’erreur était de 30 %.

M. le président Arthur Delaporte. Vous avez donc connaissance de cette marge d’erreur, que Yoti vous a communiquée. Les représentants de TikTok, à qui nous avons posé la même question mot pour mot, ne nous en ont pas parlé.

Mme Sarah Bouchahoua. C’est connu…

M. le président Arthur Delaporte. C’est une question importante. Vous n’utilisez donc pas Yoti ?

Mme Sarah Bouchahoua. Non, nous ne l’utilisons pas en raison de la marge d’erreur, qui n’est pas améliorable aujourd’hui.

M. le président Arthur Delaporte. Ne serait-ce pas un moindre mal ? On pourrait au moins vérifier qu’un utilisateur a entre 14 et 16 ans, et pas 8 ans.

Mme Sarah Bouchahoua. La marge d’erreur concerne le seuil de 18 ans, pas la différence entre 14 ans et 7 mois et 15 ans et 2 mois.

Nous estimons qu’aucun outil ne permet aujourd’hui, dans le respect des droits fondamentaux des adolescents, de mettre en œuvre une vérification de l’âge lors de l’inscription. Mais nous continuons d’échanger avec des vérificateurs d’âge.

Nous travaillons aussi sur la biodata et, avec la Commission européenne, sur le digital wallet. Nous sommes ouverts à tout et nous nous efforçons simplement de trouver la solution la plus efficace pour les adolescents.

Mme Josiane Corneloup (DR). Ne pourraient-ils pas fournir une pièce d’identité, tout simplement ?