rapport d'enquête sur les effets psychologiques de TikTok sur les mineurs — Comptes rendus des auditions

Mme Sarah Bouchahoua. On en parle depuis des années. La Cnil y a apporté une réponse assez claire. D’abord, les utilisateurs n’ont pas forcément de pièce d’identité ; ensuite, une pièce d’identité française vaut-elle une pièce espagnole ? Le DSA s’applique aux vingt-sept pays membres de l’Union, c’est donc au niveau européen que nous devons trouver une solution. Enfin, le risque en matière de cybersécurité est élevé : moi-même, je ne souhaite pas fournir ma pièce d’identité à certains acteurs discutables de l’espace numérique.

Mme Laure Miller, rapporteure. Même si elles sont imparfaites, il existe des solutions. Vous ne pouvez pas commencer votre propos en expliquant que la priorité absolue de Snapchat est la protection des enfants et nous dire ensuite qu’en l’absence de solution tout à fait satisfaisante, vous préférez ne rien faire. C’est totalement contradictoire.

Mme Sarah Bouchahoua. Ce n’est pas que nous préférons ne rien faire. Nous développons des outils de protection, nous lançons des campagnes au sujet des usages et des mesures de protection à disposition des adolescents et des parents. Mais nous devons trouver une solution industrielle à l’échelle européenne. À cet égard, le texte solide adopté à l’initiative de la France est une bonne base.

M. le président Arthur Delaporte. En tant que responsable des affaires publiques de Snapchat, recevez-vous des alertes Google ? Faites-vous de la veille d’actualité pour identifier ce qui pourrait nuire à l’image de l’entreprise ?

Mme Sarah Bouchahoua. Non, je reçois des alertes sur des articles de presse, mais pas d’alertes Google. Pour renforcer nos actions, nous nous appuyons essentiellement sur les alertes transmises par des associations au sujet de phénomènes perçus sur Snapchat ou sur d’autres espaces numériques.

M. le président Arthur Delaporte. Avez-vous lu l’article évoquant l’arrestation par des gendarmes de Corrèze, le 24 avril 2025, de dealers qui avaient ouvert une boutique en ligne sur Snapchat pour vendre de la drogue ?

Pourquoi le trafic de drogue se fait-il sur Snapchat ?

Mme Sarah Bouchahoua. Il ne se fait pas uniquement sur Snapchat.

M. le président Arthur Delaporte. Non, un peu sur Telegram aussi…

Mme Sarah Bouchahoua. Je suis très au fait de cette question. Le trafic commence à se diriger vers d’autres réseaux sociaux. Snapchat a renforcé ses différents outils, notamment en matière de modération.

Enfin, nous travaillons à la sensibilisation. Aujourd’hui, si un utilisateur tape le mot « cannabis », les contenus qui s’affichent, travaillés avec la mission interministérielle de lutte contre les drogues et les conduites addictives (Mildeca), ne promeuvent pas cette substance mais renvoient vers Drogues Info Service.

M. le président Arthur Delaporte. Nous arrivons au terme de l’audition. Nous sommes preneurs de vos réponses écrites au formulaire ainsi que de précisions sur les profils des utilisateurs et sur leurs revenus. Nous sommes très intéressés, notamment, par les éléments qui nous aideraient à comprendre le modèle économique de Nasdas.

67. Audition de M. Tristian Boursier, Docteur associé au Centre de recherches politiques (Cevipof), M. Hugo Micheron, enseignant chercheur en sciences politiques rattachées au Centre de recherches internationales (CERI), maître de conférence à Sciences Po, spécialiste du Moyen Orient, Mme Sophie Taïeb, responsable du pôle cybersécurité au Conseil représentatif des institutions juives de France (CRIF), et M. Valentin Petit, journaliste, agence CAPA (mardi 24 juin 2025)

Enfin la commission auditionne M. Tristian Boursier, docteur associé au Centre de recherches politiques (Cevipof), M. Hugo Micheron, enseignant-chercheur en sciences politiques rattachées au Centre de recherches internationales (CERI), maître de conférence à Sciences Po, spécialiste du Moyen Orient, Mme Sophie Taïeb, responsable du pôle cybersécurité au Conseil représentatif des institutions juives de France (CRIF), et M. Valentin Petit, journaliste, agence CAPA ([65]).

M. le président Arthur Delaporte. Nous reprenons nos auditions sous la forme d’une table ronde sur les radicalités avec M. Tristan Boursier, docteur associé au Centre de recherches politiques (Cevipof) ; M. Hugo Micheron, enseignant-chercheur en sciences politiques, rattaché au Centre de recherches internationales (Ceri), professeur associé à Sciences Po, spécialiste du Moyen-Orient ; Mme Sophie Taïeb, responsable du pôle cybersécurité du Conseil représentatif des institutions juives de France (Crif) ; et M. Valentin Petit, journaliste à l’agence CAPA. Je vous remercie de nous déclarer tout intérêt public ou privé qui serait de nature à influencer vos déclarations, en particulier toute rémunération que vous pourriez percevoir de la part d’un acteur du numérique.

L’article 6 de l’ordonnance du 17 novembre 1958 relative au fonctionnement des assemblées parlementaires impose aux personnes auditionnées par une commission d’enquête de prêter le serment de dire la vérité, toute la vérité, rien que la vérité.

(M. Valentin Petit, Mme Sophie Taïeb, M. Hugo Micheron et M. Tristan Boursier prêtent successivement serment.)

M. Tristan Boursier, docteur associé au Centre de recherches politiques (Cevipof). Je suis chercheur postdoctoral, associé au Cevipof et à l’UQO (Université du Québec en Outaouais). Mes recherches ne sont pas financées par des entreprises privées ou des groupes du numérique.

Dans le cadre de mes recherches, je m’intéresse aux discours et aux idéologies d’extrême droite et antiféministes, plus spécifiquement aux convergences entre ces deux discours sur les médias sociaux. Mes recherches se focalisent sur YouTube, TikTok et, dans une moindre mesure, Instagram. J’associe des méthodes qualitatives – analyse de discours et immersion en ligne, notamment en menant des enquêtes ethnographiques en ligne au sein de communautés d’extrême droite en ligne – à des méthodes quantitatives appliquées sur un nombre important de vidéos YouTube, dont j’analyse les discours.

Je travaille sur le sujet depuis cinq ans et j’ai observé trois changements principaux, notamment chez les influenceurs d’extrême droite qui sont au centre de mes recherches : d’abord, une professionnalisation de ces acteurs, avec une meilleure maîtrise des codes du numérique et du capitalisme de l’attention ; deuxièmement, un phénomène de prolifération – multiplication des microcélébrités, des microacteurs dont les publications sont fortement visibilisées, malgré le faible nombre d’abonnés ou de contenus ; troisièmement, une grande adaptation de ces acteurs aux différentes modes et tendances des médias sociaux et aux évolutions des réglementations des plateformes.

M. Hugo Micheron, enseignant-chercheur en sciences politiques rattaché au Centre de recherches internationales (Ceri), professeur associé à Sciences Po, spécialiste du Moyen-Orient. Je suis professeur associé à Sciences Po, spécialiste du Moyen-Orient. Je travaille abondamment sur le djihadisme et, depuis 2020, je m’intéresse énormément à la question informationnelle, notamment à la diffusion des différentes idéologies en ligne et au pouvoir des algorithmes. Nous avons déployé un outil, Arlequin AI, qui permet de documenter les diffusions d’un certain nombre de ce qu’on appelle désormais les « narratifs » en ligne.

Dans un premier temps, je m’en tiendrai à présenter ce qui me semble être la réalité du monde politique dans lequel nous évoluons tous. L’espace informationnel est en proie à des mutations extrêmement rapides, violentes et profondes, qui redéfinissent en grande partie les attributs de la puissance, notamment publique et politique. Ainsi, des acteurs non étatiques, parfois très minoritaires, se retrouvent à avoir un poids considérable, complètement disproportionné par rapport à leur capacité à représenter les groupes dont ils se réclament.

Parmi eux, on trouve des acteurs de comités dits à risque. Je pense à mon sujet de recherche de ces quinze dernières années : le djihadisme. Nous avons affaire, par définition, à des groupes très minoritaires qui parviennent néanmoins à diffuser en ligne des éléments de propagande, caractéristique très importante de ces groupes. En effet, dès les années 1980, au tout début du djihad contemporain, ces acteurs étaient déjà très investis dans les supports de propagande – cassettes vidéo et audio, pamphlets qui s’échangeaient sous le manteau ou sur les places de marché quand ils y parvenaient. À partir des années 2000, les supports se sont en partie numérisés, ils ont été diffusés sur des forums et stockés sur des formats dématérialisés, comme des fichiers PDF. À partir des années 2010, au moment du pic de Daech, ils sont diffusés sur les réseaux sociaux sous une forme souvent qualifiée d’hollywoodienne, qui reprend tous les codes de la communication culturelle occidentale. Depuis quelques années, on voit apparaître les premières vidéos et les premiers produits propagandiques liés à l’intelligence artificielle. La première vidéo francophone de Daech produite à 100 % par l’intelligence artificielle (IA) a été mise en ligne sur les réseaux sociaux en 2024.

Ce sujet n’est pas à la marge mais au cœur du débat politique. Dans le monde dans lequel nous vivons, les algorithmes forment un pouvoir à part entière. Jusque-là, nous nous sommes projetés dans un certain modèle de séparation des pouvoirs – l’Assemblée nationale fait partie des lieux où ces principes ont été pensés et mis en pratique : le politique s’incarne dans l’exécutif et le législatif, qui sont séparés l’un de l’autre et également distincts du judiciaire. Un autre pouvoir, qui est un contre-pouvoir, a émergé au fil du temps : les médias et la société civile – associations et corps intermédiaires. Au gré du temps, des affrontements et des ajustements, tout cela a constitué un socle démocratique européen et, plus largement, une base démocratique qui est un modèle mondial.

Aujourd’hui, il existe un nouveau pouvoir, le pouvoir algorithmique, qui, pour l’instant, ne fait face à aucun contre-pouvoir. Il redéfinit les attributs de la puissance entre les différents pouvoirs. Dans le cadre de l’étude de l’évolution de la propagande djihadiste, en m’intéressant aux algorithmes, j’ai abordé de nombreux sujets, parmi lesquels la question des grandes plateformes du numérique. M. Elon Musk, le patron de X, a trafiqué l’algorithme de X dont il est le propriétaire afin que, pendant la campagne électorale, les tweets politiques de M. Trump soient vus 17 milliards de fois par les citoyens américains – je ne parviens même pas à concevoir ce que ce chiffre représente. J’ignore quel en a été l’impact. Néanmoins, cette diffusion est énorme, et bien plus importante que la capacité de M. Elon Musk à toucher ces personnes. Dans cette démocratie, comme en France et en Europe, les campagnes électorales sont très encadrées, tant du point de vue du financement que du calendrier – on ne peut pas dire tout et n’importe quoi et à quarante-huit heures du scrutin, la campagne s’arrête. Or ce n’est pas le cas sur les réseaux sociaux.

En Roumanie, pays plus proche de nous, un candidat, considéré à l’extrême droite de l’extrême droite, a fait 100 % campagne sur TikTok et a déclaré zéro euro de frais de campagne. Il n’était connu de personne – il était crédité de moins de 1 % des votes – mais il a fini par obtenir 43 % des votes au premier tour de l’élection présidentielle. Ce qui a sauvé la situation, en quelque sorte, c’est qu’il n’a pas déclaré de frais de campagne alors qu’il a été prouvé qu’il avait été financé à hauteur de 1 million d’euros, notamment par des agents extérieurs. Cet individu, inconnu en Roumanie, a été hissé à la huitième place des tendances mondiales sur TikTok durant cette période. Il existe donc une déformation algorithmique car rien ne laissait présager que sur un réseau social chinois en Roumanie, il s’élèverait au-dessus des contenus relatifs au conflit à Gaza ou aux commentaires portant sur M. Joe Biden ou M. Donald Trump. Ce qui est certain, c’est qu’il a surperformé.

En étudiant des événements antérieurs, on s’est rendu compte que les mêmes méthodes avaient été utilisées neuf mois plus tôt pour pousser la vente d’aspirateurs en ligne, qui ont été en rupture de stock en Roumanie deux semaines plus tard. Des systèmes de marketing ont été mis en place puis appliqués au marketing politique. À partir de cas très concrets, liés aux élections, avec un impact politique direct aux États-Unis ou en Europe, on constate que les algorithmes sont arsenalisés. Ces questions touchent tous les sujets politiques, et les tendances à risque que je couvre en font partie.

L’audition est suspendue de dix-sept heures trente à dix-sept heures trente-cinq.

Mme Sophie Taïeb, responsable du pôle cybersécurité du Conseil représentatif des institutions juives de France (Crif). Je suis chargée de la cybersécurité et des signalements pour le compte du Crif. Le Crif, créé en 1943, est une association universaliste qui fédère soixante-cinq associations. L’une de nos missions statutaires est de lutter contre l’antisémitisme et toutes les formes de haine.

Depuis dix ans, nous sommes partenaires des principales plateformes – X, Meta, Google et TikTok. Nous avons été certifiés signaleurs de confiance par l’Autorité de régulation de la communication audiovisuelle et numérique (Arcom) au printemps 2025. Nous sommes également en relation avec certaines institutions – la plateforme Pharos (d’harmonisation, d’analyse, de recoupement et d’orientation des signalements) et la délégation interministérielle à la lutte contre le racisme, l’antisémitisme et la haine anti-LGBT (Dilcrah). Notre expertise en matière de détection de signalements de contenus haineux est reconnue.

Chaque année, plusieurs milliers de signalements sont reçus par le Crif par mail, via un formulaire sur notre site internet ou la messagerie. Nous les traitons tous manuellement : je décide des contenus qui seront signalés aux plateformes et/ou à Pharos. Nous ne signalons que les contenus illicites qui enfreignent soit la loi française, soit les règles d’utilisation des plateformes. C’est pourquoi notre taux de retrait est d’environ 90 %, toutes plateformes confondues.

Parmi les contenus les plus signalés qui entrent dans notre domaine d’expertise figurent les contenus négationnistes, la discrimination en raison de la race ou de la religion, les discours de haine, l’apologie du terrorisme et le doxxing, à savoir la divulgation d’informations et de données personnelles.

Nous rencontrons des difficultés spécifiques à TikTok. Si vous tapez « Hitler » sur TikTok, les vidéos dans lesquelles ce mot est prononcé n’apparaîtront pas. Selon les études, on estime qu’il y a entre 300 et 400 vidéos téléchargées chaque seconde sur TikTok. Or il est impossible de récupérer les contenus dans lesquels sont prononcés les mots recherchés, contrairement à X où il suffit de saisir le mot-clé Hitler ou Hamas pour qu’apparaissent les tweets qui utilisent ces mots. La recherche de contenus illicites ne s’effectue donc pas à partir du contenu de la vidéo, mais grâce aux signalements que nous recevons et à l’algorithme ultrapuissant. En effet, à force de consulter des contenus antisémites, TikTok me propose automatiquement des vidéos antisémites.

De plus, les utilisateurs savent tromper la modération. Si vous tapez « Hitler was right » – « Hitler avait raison » – sur Tiktok, vous recevrez un avertissement vous invitant à vérifier les faits, notamment dans des livres d’histoire. Mais si vous faites partie de la génération qui sait contourner la modération, vous remplacez le i de Hitler par un point d’exclamation et le e par un trois, et vous accédez alors à des vidéos dont le contenu est potentiellement nazi.

L’antisémitisme sur Tiktok est diffus, il est partout : dans les noms d’utilisateurs, les vidéos, les commentaires. Je vous en donne quelques exemples : des comptes s’intitulent gazeur2juif, des lives sont accompagnés de commentaires tels que « on va attaquer les synagogues jusqu’à la mort », des vidéos très vulgaires sont publiées, que je ne lirai pas ici.

La dissuasion est faible. Voici une vidéo dans laquelle une jeune femme dit : « Vous allez tous finir en enfer, bande de Juifs, vous allez tous cramer […] », avant de prononcer des propos très vulgaires. Il a fallu plusieurs jours pour faire retirer ce contenu, puis plusieurs autres pour faire suspendre le compte. Cette jeune femme de Chambéry est déjà de retour sur TikTok car elle a pu recréer un compte immédiatement.

L’antisémitisme est global. Selon des études, 69 % des Juifs disent avoir été victimes d’antisémitisme sur la plateforme. Les commentaires ne sont pas forcément liés au contexte politique. Sous cette vidéo où l’on voit une famille en train de danser pendant une bar-mitsvah, 3 500 commentaires ont été publiés parmi lesquels « Le grand-père, il a du gaz qui sort de sa bouche, c’est normal ? », « Papy, va à la douche », « Free Palestine », « Ça fête la mort du H », « bande de juifs », etc.

La modération est aléatoire. À mon grand étonnement, on m’a répondu que les deux comptes intitulés gazeur2juif n’enfreignaient aucune règle. Dans ce genre de cas, je fais appel par mail à notre contact chez TikTok France, mais je ne peux le faire à chaque fois que je ne comprends pas une décision de modération.

M. le président Arthur Delaporte. Malgré le fait que vous ayez été désigné signaleur de confiance, si vous n’appelez pas votre contact, le contenu n’est pas retiré.

Mme Sophie Taïeb. Absolument. Il est ici question de la plateforme Trusted flaggers, qui est partenaire de Tiktok, la plateforme Signaleurs de confiance sera, quant à elle, mise en place prochainement.

Le puissant algorithme Tiktok est utilisé comme source d’information par les jeunes. Il suggérera des vidéos allant dans le même sens que celles que l’utilisateur a déjà regardées. S’il commence à regarder des contenus antisémites ou avec des fake news, il lui en proposera davantage. C’est cela qui entraîne une spirale de radicalisation.

Pour finir, j’ai quelques recommandations à vous suggérer. Nous souhaiterions qu’une transparence algorithmique soit instaurée et qu’une interface de programmation d’application (API) en temps réel soit mise à la disposition des chercheurs agréés afin d’extraire les données relatives aux contenus haineux.

Nous imaginons un monde où l’algorithme pourrait être limité et où on pourrait pousser du contenu pédagogique aligné avec les valeurs de la République. Les utilisateurs extrêmes pourraient et devraient être bannis et, dans un monde idéal, ne devraient pas pouvoir recréer un compte aussi facilement qu’ils le peuvent aujourd’hui. Le Crif est également engagé sur la question de la création de l’amende civile qui pourrait dissuader les utilisateurs de poster du contenu haineux.

Enfin, s’agissant de l’éducation – car tout passe aussi par là –, il conviendrait de sensibiliser à la lutte contre l’antisémitisme les créateurs dont les comptes dépassent les 50 000 abonnés ainsi que les modérateurs, par la diffusion des modules.

M. Valentin Petit, journaliste, agence CAPA. Je travaille pour une émission d’investigation numérique, qui est produite par l’agence CAPA et diffusée sur YouTube et arte.tv.

Pour mener une enquête numérique, nous utilisons divers outils, allant de l’analyse d’images satellites et de gigantesques bases de données à celle de réseaux sociaux, notamment de TikTok.

Au mois de janvier 2025, j’ai découvert, complètement par hasard, d’étranges vidéos diffusées sur TikTok : il s’agissait d’extraits de jeux vidéo. Jusque-là, il n’y avait rien d’anormal. Mais en y regardant de plus près, ces jeux étaient des reconstitutions, au détail près, d’attentats djihadistes ou d’extrême droite ayant été commis. Comme on peut le voir sur ces images, il s’agit, d’un côté, de versions vidéoludiques et, de l’autre, d’images filmées par les tueurs eux-mêmes – les tueries dans la synagogue de Halle et dans une mosquée de Christchurch. J’en ai trouvé d’autres, notamment relatives à l’attentat homophobe du Pulse en Floride et à l’attentat raciste de Buffalo, etc.

Pour vous donner la mesure du contexte, ces comptes ne se contentent pas de diffuser ou de republier des extraits de jeux vidéo, ils publient aussi d’autres types de contenus qui sont tout aussi problématiques, voire davantage. Notamment, ils utilisent les codes de la plateforme TikTok pour pousser des contenus particulièrement mortifères et promouvoir des idéologies particulièrement morbides. Ainsi, ils utilisent des stickers, des filtres, et un ensemble d’éléments disponibles sur la plateforme.

Les edits traduisent ce décalage morbide entre l’utilisation des codes de TikTok et les idéologies promues. Il s’agit de petits clips avec des musiques à la mode et des séquences très surcotées, qui visent d’habitude à mettre à l’honneur des personnages ou des stars. Or ils peuvent aussi être utilisés pour glorifier des terroristes et des tueurs de masse. Voici la capture d’écran d’une vidéo mettant en avant le tueur de la synagogue de Halle dans laquelle est incrusté le personnage de Hello Kitty.

Dans les forums d’extrême droite, sont également publiés des mèmes – outil très classique – à savoir des images humoristiques qui reprennent l’iconographie de TikTok, d’internet et de la culture web. Grâce à l’IA, les créateurs créent des contenus dans lesquels ils font danser les terroristes devant les lieux où ils ont commis leurs attentats.

Plus inquiétant encore, on trouve aussi de vraies images déguisées sur ces réseaux. Je pense à un exemple particulièrement révélateur, un contenu violent qui est resté six mois sur la plateforme. Bien que la vidéo ait été supprimée, le compte est encore actif – j’ai vérifié il y a quarante-huit heures. Il s’agit de la vidéo de la tuerie de Buffalo, ce sont les vraies images tournées par le tueur où on voit les personnes s’effondrer. Ce sont de vraies personnes qui ont été tuées. Dans cette vidéo, on voit le tueur tirer une autre balle dans la tête d’une personne. Pour contourner la modération, les personnes qui ont diffusé la vidéo ont ajouté des éléments en lien avec le jeu vidéo Fortnite, par exemple « Let’s play Fortnite », des stickers, etc.

Nous avons bien entendu analysé les comptes qui diffusaient ce genre de contenus. Ils ne se cachent pas de la modération dont ils n’ont pas peur car ils savent qu’ils peuvent recréer très facilement leur compte. Ils arborent des photos de profil sans équivoque, avec des croix gammées, des dignitaires nazis, des terroristes djihadistes – j’ai vu de nombreux comptes avec la photo de Jihadi John ou d’Omar Mateen, l’auteur de la tuerie du Pulse. Dans leur bio, ils parlent de terroristes comme s’il s’agissait de saints – Saint Brenton pour Brenton Tarrant, le tueur de Christchurch, et Saint Breivik pour Anders Behring Breivik – ou de martyrs, par exemple Jihadi John, le tueur de l’État islamique.

Ce qui est intéressant, c’est que ce type de contenus se rencontre moins fréquemment sur d’autres plateformes. Sur Instagram et Facebook, nous avons trouvé très peu de contenus similaires et la modération intervient assez rapidement. Sur TikTok, c’est effarant : la modération n’est pas du tout à la hauteur du problème. Pire encore, la plateforme nous proposait tous les jours de suivre jusqu’à une centaine de comptes problématiques – @j1hadist_pakistan par exemple, et un autre où le i de Hitler est remplacé par un 1 pour échapper à une modération qu’on pourrait qualifier de premier degré.

Sous ce type de contenus, on trouve des commentaires très inquiétants rappelant les attaques au couteau qui ont eu lieu dans un lycée à Nantes ou un collège à Nogent. Par exemple, sous une vidéo représentant, sous forme d’un jeu vidéo, une tuerie, a été publié le commentaire suivant, qui a fait l’objet de 94 likes : « How my school will look like one day » – « c’est ce à quoi ressemblera mon école un jour ». Et le créateur du contenu de répondre : « I hope bro » – je l’espère, mon frère. Sous une vidéo qui rendait hommage à Brenton Tarrant, on peut lire : « Need more people like him in this world. I hope the universe gives me the opportunity to do something terrible but great » – « Nous avons besoin de plus de gens comme lui dans le monde. J’espère que l’univers me donnera l’opportunité de faire quelque chose de terrible mais de grand ». Ce sont deux exemples parmi des centaines et des centaines.

C’est tout un écosystème de radicalisation au sein duquel Tiktok agit comme une vitrine. On pourrait penser que ces contenus sont de simples trolls, des bravades adolescentes un peu subversives avec un humour douteux. Mais non, les commentaires sous les contenus ou la bio de ces comptes TikTok renvoient vers des dizaines et des dizaines de chaînes Telegram dont les contenus sont encore plus violents. On peut trouver notamment les manifestes des tueurs et les vidéos originales qui permettent de créer des contenus qu’on pourra ensuite diffuser sur Tiktok.

Nous nous sommes rendu compte que Tiktok servait à orienter des jeunes vers ces discours et ces contenus. Nous avons pu infiltrer ces différentes chaînes Telegram où des jeunes consommaient ces contenus à outrance, ad nauseam. Au cours de cette infiltration – j’ai infiltré plus de vingt chaînes Telegram –, j’ai assisté au passage à l’acte d’un jeune Afro-Américain de 17 ans, qui a attaqué son lycée et tué une personne avec une arme de poing après avoir consommé ces types de contenus. Il connaissait les administrateurs des chaînes Telegram auxquelles j’étais abonné.

J’ai aussi pu interviewer un Hollandais de 17 ans, qui créait ce type de contenus, à la fois des jeux vidéo et des edits qu’il était possible de republier sur Tiktok. Du haut de ses 17 ans, il m’a dit que les edits, les mèmes qu’il publiait ad nauseam sur Tiktok, c’était une forme de propagande politique car : « Il n’y a aucune solution politique. La seule solution, c’est la violence ».

En conclusion, voici un mème qui montre l’ampleur de l’absence de modération. Le premier contenu s’intitule « beauty inside the mosque » – beauté à l’intérieur d’une mosquée en 2024. Le second, qui a pour titre « beauty inside the mosque on a good day » – la beauté à l’intérieur d’une mosquée dans un bon jour –, est une des vidéos du tueur Brenton Tarrant tirant sur des corps sans vie dans la mosquée de Christchurch.

Ces comptes et ces contenus diffusés en masse sont, dans de nombreux cas, créés par des mineurs pour des mineurs. Ils participent à une glorification de la violence ainsi qu’à une forme de radicalisation puisqu’ils rendent complètement normales des formes de violence extrême.

Pour conclure, sur TikTok, j’ai vu des gens mourir, se prendre des balles dans la tête, le tout agrémenté de musiques à la mode, de stickers rose flashy et de filtres roses. L’utilisation de ces codes sur la plateforme, le manque de modération et le type de contenus qui y est poussé témoignent d’un décalage total.

M. Tristan Boursier. Mon terrain d’étude se distingue de celui de mes collègues car je m’intéresse à des contenus qui sont moins spectaculaires mais plus populaires. Je me focalise sur des acteurs spécifiques, qui produisent et diffusent des contenus en France, et ce, pour les plus anciens d’entre eux, depuis au moins une dizaine d’années. Vous les connaissez sans doute, ils sont devenus populaires : Papacito, qui, en 2021 a publié la fameuse vidéo où il tirait sur un mannequin grimé en électeur de La France insoumise ; Matthieu Valet ; Le Raptor ; Le Lapin du Futur, etc.

Je m’intéresse à la quinzaine d’influenceurs les plus populaires sur le site français de YouTube, que j’ai identifiés comme étant d’extrême droite selon une définition académique. Étant donné que ce sont des acteurs complets ayant adopté une stratégie cross-media, mon analyse porte aussi sur les contenus qu’ils diffusent et produisent sur d’autres plateformes, notamment Tiktok et Instagram.

Je rebondis sur ce que disait Valentin Petit sur le rôle de Tiktok dans cet écosystème social médiatique : Tiktok joue vraiment un rôle de vitrine par rapport aux autres plateformes. Les contenus sont beaucoup plus courts et potentiellement plus viraux que ceux publiés sur d’autres médias sociaux, ce qui permet aux influenceurs d’attirer un public qui ne les connaît pas nécessairement.

TikTok soumet directement des contenus aux utilisateurs, sans qu’ils aient forcément le temps d’identifier leur créateur, ni même leur titre. Vous êtes donc directement exposé à des images et à des discours, ce qui laisse plus de chance à des propos plus radicaux, différents de votre idéologie ou de votre vision du monde, de vous convaincre.

Mme Laure Miller, rapporteure. Estimez-vous, à la suite des recherches que vous avez menées, qu’il existe une spécificité de TikTok, qui serait notamment liée à son algorithme ou à son design ?

Je vais me faire l’avocate du diable : les responsables de TikTok pourraient répondre qu’il faut, pour trouver les contenus radicaux que vous avez évoqués, les chercher – on ne tomberait pas dessus de façon spontanée. Avez-vous des éléments qui démontreraient qu’un enfant de 11 ou 14 ans peut tomber fréquemment, sans les chercher, sur ce type de contenus ?

M. Hugo Micheron. Les deux premiers éléments que je mettrai en avant sont la jeunesse, déjà évoquée, du public de TikTok, plateforme privilégiée des 12-25 ans, et l’abondance du temps qu’ils y passent. La moyenne est, je crois, d’environ quatre heures par jour. J’ai fait un peu de terrain en région parisienne, notamment en Seine-Saint-Denis : quand vous demandez à des enfants, dans une classe, combien de temps ils passent en moyenne sur TikTok, c’est plutôt six ou sept heures par jour. Une enseignante qui fait un travail de conscientisation en classe m’a signalé que certaines réponses étaient même « autant que possible ». Dans les faits, TikTok est une plateforme de socialisation de premier ordre.

Lors d’une étude faite à Sciences Po, dans le 7e arrondissement de Paris, qui n’était pas une recherche au sens propre, devant déboucher sur une publication, mais un test destiné à mettre des étudiants en situation, une cinquantaine de comptes vierges, paramétrés avec le moins d’informations possible, ont été créés sur TikTok. La première recherche de contenu a consisté à taper le mot islam, on ne peut plus générique, dans la barre des tâches. Il s’agissait de voir au bout de combien de vidéos on tomberait sur des contenus indiscutablement – j’insiste sur ce point – salafistes, qui font la promotion, par exemple, des auteurs de référence de cette doctrine radicale de l’islam ou de ses éléments constitutifs, comme le port du voile intégral et de gants par les femmes.

Le résultat n’a jamais été supérieur à cinq vidéos – c’était entre trois et cinq. Quand on prend en considération ce que pèse cette doctrine dans l’islam mondial et de France, il est en soi assez hallucinant de découvrir qu’elle est à ce point présente sur la plateforme privilégiée des jeunes. La visibilité de ces vidéos était très importante, à en juger par le nombre de vues : 300 000 pour une vidéo de jeunes femmes faisant la promotion du corpus salafiste dans une librairie islamique. On ne trouve sur aucune autre plateforme de tels scores – s’ils sont vrais, une autre caractéristique de TikTok étant son opacité. La situation est d’autant plus troublante que la plateforme dispose de moyens, qu’elle utilise, pour déprioriser des contenus en fonction de certains mots-clefs, dont l’usage peut être pénalisant quand il s’agit d’autres causes.

Il y a visiblement un phénomène de viralité sur TikTok, au moins dans ce domaine – mais je crois que les autres présentations étaient tout à fait convergentes. Cette société dit publiquement ne pas avoir la capacité d’agir sur les algorithmes ; on ne pourrait donc rien y faire, et pourtant leur comportement montre clairement l’existence d’une éditorialisation. La logique suivie n’est pas toujours la même que pour les comptes neutres.

Mme Sophie Taïeb. J’ai plusieurs comptes TikTok, organisés par thèmes – selon les types de menaces. Je vois bien la puissance de l’algorithme, très supérieure à ce qu’on trouve sur Instagram, Facebook, X ou YouTube. Vous recevez, sous forme de suggestions, du contenu qui vous entraîne dans une spirale et empêche toute pensée critique, puisqu’il va toujours dans le même sens, qu’il s’agisse de comptes en français ou en anglais. Je ne peux donc que rejoindre M. Micheron.

M. le président Arthur Delaporte. Je reviens sur la question de la rapporteure, qui portait sur la spécificité de TikTok. En voyez-vous une ?

Mme Sophie Taïeb. La spécificité de TikTok, d’après ce que nous voyons, est de diffuser beaucoup plus que toute autre plateforme auprès de la jeunesse, qu’il s’agisse du volume ou du type de contenus. Si on veut comprendre à quoi la jeunesse est exposée, c’est TikTok qu’il faut regarder. Si elle est exposée à trop de désinformation, trop de haine ne faisant pas l’objet d’une modération, des conséquences assez terribles sont malheureusement à craindre.

M. Valentin Petit. Un mot sur la méthodologie. La première fois que ce type de contenus m’a été soumis par l’algorithme, c’était sur un compte qui n’y était pas dédié. J’ai ensuite créé un compte vierge pour essayer de creuser la question. Ce qui est assez symptomatique et problématique sur TikTok, même si on le retrouve aussi sur d’autres plateformes, ce sont les comptes qu’on vous propose de suivre toutes les dix vidéos – on peut alors swiper pour accéder jusqu’à une vingtaine de comptes. Avec le compte plutôt orienté sur le djihadisme que j’avais créé, je tombais sur des influenceurs de cette tendance et des anachid, c’est-à-dire des chants djihadistes. Pour ce qui est de la sphère d’extrême droite, on me conseillait par vingtaines des comptes problématiques avec des photos de profil de phalangistes, de néonazis, d’accélérationnistes, etc.

M. Tristan Boursier. J’irai dans le même sens. Selon des études faites par des équipes de recherche états-uniennes, il faut environ une quinzaine de minutes pour tomber sur des contenus masculinistes radicaux sur TikTok. Mes propres recherches montrent aussi que tout va extrêmement vite s’agissant de l’extrême droite. Pour un des groupes que j’ai infiltrés, tout a commencé sur TikTok : c’est là que j’ai accédé, par un profil dédié à la recherche, à cette communauté.

Mme Laure Miller, rapporteure. Nous avons compris lors de l’audition de responsables de TikTok qu’ils acceptent une espèce de taux d’échec en matière de modération. Nous avons perçu chez eux une absence de volonté de regarder les logiques de contournement utilisées par ceux qui tentent de diffuser des contenus radicaux, comme le recours à des émojis et à des mots-clefs. Ce que nous avions compris en peu de temps, sans être des chercheurs ou des spécialistes mais en travaillant un peu, par exemple, sur les challenges – je sais que ce n’est pas l’objet de vos travaux –, les responsables de TikTok semblaient le découvrir en notre présence. Diriez-vous qu’il n’y a pas forcément grand-chose à attendre de la modération, en particulier de la part de TikTok ? Quels sont les intérêts sous-jacents ? Nos interlocuteurs ont dit qu’il n’y avait pas de question économique derrière, car c’était la publicité qui comptait, mais comment analysez-vous la situation ? Malgré les injonctions de nombreux États, rien n’est fait pour empêcher les contenus radicaux.

Mme Sophie Taïeb. Nous espérons que la mise en œuvre du règlement (UE) 2022/2065 du Parlement européen et du Conseil du 19 octobre 2022 relatif à un marché unique des services numériques et modifiant la directive 2000/31/CE dit Digital services act (DSA), notamment le fait que des associations, dont nous faisons partie, ont été nommées signaleurs de confiance, permettra de faire retirer des contenus haineux, même si nous sommes bien conscients qu’agir dans ce sens sur une plateforme où plusieurs millions de vidéos sont téléchargées tous les jours s’apparente à essayer de vider la mer avec une petite cuillère trouée. C’est aussi pour cette raison que nous avons parlé de dissuasion dans nos recommandations, par des amendes civiles et en empêchant la recréation de comptes très radicaux. Il est certain que cela ne va pas dans le sens du modèle économique de la plateforme, mais on s’expose, en n’agissant pas contre la diffusion des discours de haine, à une situation dans laquelle la jeunesse est inondée de contenus non pas problématiques mais radicaux, avec les conséquences auxquelles cela peut conduire.

M. Valentin Petit. Je vais vous donner un exemple de manque de sérieux en matière de modération. Le sujet que j’ai réalisé a été retiré de la chaîne d’Arte sur YouTube en France, parce qu’il comportait, notamment, des images de tueries – nous avions pourtant pris toutes les précautions journalistiques d’usage. Certaines plateformes arrivent à modérer les contenus, parfois de manière très sévère, mais TikTok dit ne rien pouvoir faire, parce que des comptes utilisent des codes – ce qu’on appelle le leetcode – comme le remplacement de lettres par des chiffres et d’autres formes de contournement telles que l’emploi de stickers. J’ai la prétention d’être né à l’époque du numérique, je suis sur Reddit, Instagram et toutes les autres plateformes : je peux vous dire que ces techniques, qui sont connues depuis vingt ans, sont vraiment le niveau zéro du contournement de la modération.

M. Hugo Micheron. Il y a non seulement la question du modèle économique de cette plateforme, mais aussi celle du modèle politique. La modération se fait a posteriori. Les algorithmes, quant à eux – cela commence à être très bien documenté –, suivent une logique très spécifique dont on pourrait presque dire qu’elle est éditorialisée. Les mêmes algorithmes font la promotion de contenus très radicaux liés au salafisme et au djihadisme, à l’extrême droite et à d’autres mouvances dites à risque, mais censurent en Chine ce qui concerne la répression des Ouïghours et font la promotion des sciences mathématiques auprès des jeunes. Cela signifie que des gens paramètrent les algorithmes dans un sens ou dans un autre, en fonction de leurs intérêts.

La question du modèle politique doit être posée. Il faut, pour cela, évaluer systématiquement les biais de la plateforme, ce qui ne pourra être fait en multipliant des petites études, comme autant de pièces d’un puzzle. Si les démocraties, comme la France, veulent tenir un discours structurant au sujet de la jeunesse, notamment sur la nécessité d’encadrer les contenus auxquels elle est exposée, pour éviter des dérives violentes et polarisantes, il faut produire des algorithmes de contrôle, de supervision, c’est-à-dire un contre-pouvoir algorithmique qui permette de contrôler systématiquement les biais éditoriaux, a priori, de plateformes telles que TikTok. Cela pourrait également s’appliquer, dans le cadre de l’article 40 du DSA, à d’autres algorithmes.

Ces algorithmes, à bien des égards, deviennent des concurrents, des rivaux des enseignants et des éducateurs. D’un côté, on constate une montée des comportements violents chez les adolescents, notamment sous l’influence d’une consommation excessive de contenus sur les réseaux sociaux, comme TikTok, et d’un autre côté on surresponsabilise l’école, alors qu’elle est la première à faire les frais de cette évolution. On pourrait ajouter vingt ou vingt-cinq heures d’éducation civique et citoyenne, mais si les gamins passent six ou sept heures par jour sur TikTok, où ce qui est mis en avant est disproportionnellement du contenu haineux, qu’on cherche précisément à bannir des cours de récréation ou à transcender par des valeurs collectives et universelles, alors on n’arrivera à rien. Il faut donc se poser la question non pas de la modération en aval, mais de la politique qui peut être construite pour traiter ces questions. Pour être tout à fait clair, je suis absolument convaincu qu’on ne réglera pas le problème du djihadisme tant que, dans l’état actuel des choses, on n’aura pas empêché TikTok de fonctionner comme il le fait actuellement.

Quand on regarde la question de la diffusion des idéologies violentes, on voit que des groupes militants, très minoritaires et très radicaux, ont cherché à répandre leurs idées dans leur entourage en passant par des méthodes de prédication classiques. J’ai montré, dans mes travaux, comment le djihadisme s’était construit, en dehors des attentats, par la diffusion d’une idéologie dans des environnements qui n’étaient pas les plus pauvres, ni ceux où il y avait le plus de musulmans en France ou en Europe. Désormais, les machines de prédication sont les algorithmes. Celui de TikTok a, au moins, un biais en la matière, et le djihadisme n’est qu’un exemple de sujets très problématiques pour les sociétés européennes. Une vraie question de fond se pose : ce n’est pas un détail du débat public, mais le cœur des enjeux pour les dix prochaines années en France.

M. Kévin Mauvieux (RN). Mme la rapporteure a évoqué les challenges – ces défis entre utilisateurs qui présentent des risques importants pour les jeunes, selon de précédentes auditions –, en soulignant d’emblée que ce n’était pas la question du jour. C’est vrai, mais M. Boursier a parlé, dans son propos liminaire, de l’adaptation des radicaux aux modes. Comment analysez-vous leur adaptation à la mode des challenges ? Ces derniers sont-ils utilisés pour diffuser auprès des jeunes, d’une manière plus subtile ou plus ludique, en quelque sorte, des idées radicales, qu’elles soient antisémites, islamistes ou d’extrême droite ? Est-ce un des dangers que vous avez identifiés ?

Mme Taïeb a dit avoir détecté que l’algorithme de TikTok était beaucoup plus puissant que ceux d’autres réseaux sociaux, ce qui est un fait indéniable. Au-delà de cette question, constatez-vous, vous qui faites et recevez des signalements, que ceux-ci sont beaucoup plus nombreux proportionnellement en ce qui concerne TikTok que s’agissant d’autres réseaux sociaux et sont-ils plus graves ou, en tout cas, portent-ils sur des contenus d’une plus grande virulence sur TikTok que sur d’autres plateformes ?

Nous n’avons pas du tout parlé d’un élément qui doit pourtant jouer une place prépondérante dans la diffusion des idées radicales – mais vous me contredirez peut-être –, à savoir les lives, qui me semblent beaucoup moins contrôlables que les contenus classiques. Quelle est votre analyse de la diffusion de contenus extrêmes, radicaux au moyen de lives ?

Avez-vous constaté lors de vos recherches ou enquêtes une diffusion de contenus radicaux, en live ou non, par des mineurs ou mettant en scène des enfants ? Il est apparu lors de précédentes auditions que certains influenceurs ou certaines personnes qui souhaitent le devenir utilisaient leurs enfants sur TikTok. Avez-vous vu des contenus mettant en scène un ou des enfants et ayant une visée radicale ?

J’en viens à une dernière question, peut-être provocatrice ou radicale, mais qui fait écho à des propos qui ont été tenus devant nous – je crois que c’était lors de l’audition de parents d’enfants victimes de scarifications ou ayant fait une tentative de suicide. Un père nous a dit qu’il se demandait si la Chine, par l’utilisation de TikTok, n’essayait pas d’affaiblir nos populations pour obtenir une supériorité sur les pays occidentaux en abrutissant, en quelque sorte, leurs nouvelles générations. J’y pense car l’un de vous a déclaré qu’en Chine, et c’est tout à fait vrai, TikTok sait très bien contrôler les contenus diffusés. Quand nous auditionnons les responsables de cette plateforme en France, ils nous regardent un peu en chiens de faïence et disent qu’ils ne comprennent pas et ne savent pas faire. Serait-il possible que ce père ait raison ? Une puissance étrangère propriétaire de TikTok serait-elle désireuse de laisser passer certains contenus pour affaiblir les futures générations dans nos pays et développer une supériorité, technique, technologique ou intellectuelle, par rapport à nous dans les années à venir ?

M. Tristan Boursier. S’agissant de l’adaptation aux modes, je vais vous décevoir car sur mon terrain, les influenceurs d’extrême droite et masculinistes, les challenges n’occupent vraiment pas une place importante – surtout à l’extrême droite.

Quand je parlais d’adaptation aux modes, je pensais plus largement à la stratégie métapolitique qui est employée pour créer des contenus : on se situe en amont de la politique institutionnelle, à un niveau extraparlementaire, pour mobiliser des éléments culturels déjà présents, déjà populaires afin de diffuser des idées. On trouve ainsi beaucoup de références à des mangas chez les influenceurs d’une trentaine d’années : les personnes nées dans les années 1990 ont été des consommateurs importants de mangas, et la France est un des pays européens où les jeunes continuent à en lire beaucoup. Ces influenceurs utilisent, par exemple, une référence aux dragons célestes, dont il a beaucoup été question il y a quelques mois, pour faire passer des messages antisémites. On trouve aussi des références au nuage de One Piece. D’autres références sont liées à la culture populaire : des extraits du film Les Visiteurs évoquent ainsi l’homme viril, le guerrier ou le chevalier d’un Moyen-Âge fantasmé.

Second volet de l’adaptation aux modes, j’ai constaté une évolution des formats. L’usage du podcast semble vraiment exploser, suivant une tendance d’origine états-unienne que j’explique notamment par son modèle économique. Le recours au podcast permet de produire un contenu qui peut être monétisé, notamment sur Spotify, et scindé en séquences un peu plus choc qui sont diffusées sur TikTok et d’autres plateformes. On peut ainsi faire une seule prise, d’un format assez long, qui est diffusée sur des médias sociaux différents et monétisée de diverses manières.

Même si ce n’était pas le centre de mes recherches, j’ai assisté à différents lives : ils offrent beaucoup plus de liberté et donnent lieu à beaucoup plus de dérives, car le contrôle est bien moindre – la modération, déjà faible en général, doit être quasi nulle s’agissant des lives. Je n’ai pas vu de mineurs mis en scène dans ce cadre, mais le public peut interpeller les créateurs de contenu sur des plateformes telles que YouTube, qui est moins utilisée pour les lives, ou Twitch, qui l’est davantage, et je suppose, compte tenu des interactions que j’ai observées, qu’il y avait dans le public beaucoup de mineurs – ils disaient être encore à l’école ou au collège. Des influenceurs que j’identifie comme étant d’extrême droite mais qui se positionnent de plus en plus sur des thématiques antiféministes et masculinistes utilisent leur stature et leur crédibilité pour donner ce qu’ils appellent des conseils de drague – ce sont en fait des conseils de harcèlement, notamment envers les jeunes filles. C’est là que j’ai vu une interaction vraiment concrète avec des mineurs.

Pour le reste, un influenceur qui est récemment devenu père, M. Julien Rochedy, met en scène son enfant sur les médias sociaux, notamment Instagram. Il reprend, ce qui est assez intéressant, l’esthétique des tradwives, les épouses traditionnelles. Au moyen d’une esthétique qui a l’air complètement dépolitisée, ce courant états-unien promeut une façon de vivre conforme à des valeurs conservatrices ou réactionnaires. L’influenceur en question est par ailleurs connu pour des contenus qui, eux, sont complètement politiques. Il se présente même sur Twitter comme un penseur d’extrême droite – il n’y a aucune ambiguïté sur ce point.

En ce qui concerne le rôle de la Chine, je n’ai pas grand-chose à dire, au-delà de la remarque suivante : si TikTok est effectivement un réseau social chinois, la plupart des médias sociaux, qui forment un écosystème avec TikTok, sont états-uniens – la Chine n’est donc pas le seul pays qu’il faut mettre dans la balance.

Mme Sophie Taïeb. S’agissant des signalements que nous faisons, je soulignerai surtout la viralité des contenus. Un tweet qui a 120 ou 200 vues n’est rien par rapport à une vidéo qui en a des millions sur TikTok. L’ampleur est complètement différente et les délais de retrait font que les contenus concernés sont bien trop vus. Il y a du contenu violent partout, sur X, sur Facebook ou sur Telegram ; la différence, c’est le nombre de vues sur TikTok. On ne connaît pas les règles internes des plateformes, mais elles sont censées avoir une sorte de règle des strikes : si vos contenus sont retirés plusieurs fois, à la fin votre compte est suspendu. Comme je ne connais pas la règle, je ne peux vous donner que mon ressenti : j’ai l’impression qu’Instagram suspend plus facilement que TikTok des comptes qui franchissent à répétition la ligne.

Je vais vous donner un exemple. Lorsqu’un couple qui se rendait à une soirée dans un musée de Washington D.C. a été assassiné, il y a quelques semaines, Guy Christensen, un américain qui a des centaines de milliers de followers, a d’abord publié une vidéo dans laquelle il disait condamner toute attaque contre des civils, puis il a publié une autre vidéo dans laquelle il expliquait, en gros, qu’il s’agissait d’agents sionistes, du Mossad, et que c’était bien fait pour eux car ils l’avaient bien cherché. Il a fallu plusieurs jours pour que cette vidéo soit retirée, mais elle est partout tant elle a été partagée, y compris sur d’autres plateformes, et son auteur a toujours son compte. Il apparaît même tout le temps dans mon feed, à cause de l’algorithme, ce qui m’inquiète.

En ce qui concerne les lives, il est quasiment impossible de signaler du contenu parce qu’il n’est pas pérenne. Grâce à notre accès professionnel, nous pouvons envoyer à Pharos des captures d’écran – comme celle que je vous ai montrée tout à l’heure, où il était dit qu’il fallait « attaquer les synagogues jusqu’à la mort » – mais eux ne parviennent pas à retrouver le contenu problématique ni a fortiori à obtenir sa suppression. Pourtant ledit contenu a bien été vu. Nous avons le même problème avec la fonctionnalité Spaces sur X. Il est évidemment hors de question d’enregistrer des heures de live. Faute de pouvoir être signalés comme un post, un commentaire ou un compte, les lives sont dans une zone grise. C’est une difficulté et un autre chantier à ouvrir.

S’agissant des différences entre le TikTok chinois et le TikTok que nous connaissons, je ne fais pas de politique mais il est vrai que la première plateforme pousse des contenus éducatifs et limite le temps d’utilisation quand la seconde laisse diffuser des contenus complètement en roue libre, avec les conséquences que nous évoquons depuis tout à l’heure.

M. Valentin Petit. Tout TikTok, et l’algorithme au premier chef, est basé sur la mode. Les vidéos sont accompagnées de musiques – anachid chez les djihadistes, hardtek ou pop pour les trolls d’extrême droite – et de hashtags, qui ont vocation à pousser des messages. Le montage, effectué grâce aux applications Capcut ou Viggle AI notamment, cette dernière permettant de donner vie à des images, joue aussi un rôle pour créer des phénomènes viraux, qui seront ensuite poussés par la plateforme. Les acteurs radicaux, que ce soient les djihadistes ou l’extrême droite accélérationniste et néonazie, utilisent les codes de la mode pour pousser leurs contenus sur la plateforme. Des contenus auparavant dans les marges, qui apparaissaient dans des forums obscurs réunissant 300 personnes, tel que 4chan, sont désormais vus par 300 000 personnes.

Si l’algorithme est capable de pousser ces contenus viraux, qui associent hashtags, musiques, challenges, etc., il est tout aussi capable de les détecter. La modération pourrait donc facilement être plus active.

M. Hugo Micheron. Les lives sont beaucoup moins faciles à contrôler. L’une des spécificités de TikTok tient au volume des flux vidéo – c’est le principe même de cette plateforme. Il est donc très dur de retrouver une vidéo vieille d’un mois. Cela limite considérablement les possibilités d’analyse a posteriori. C’est aussi ce qui rend la plateforme attrayante aux yeux des jeunes et qui rend très difficile de comprendre ce qui s’y joue.

En ce qui concerne la dimension géopolitique, cela mériterait évidemment une étude approfondie. Ce qui est sûr, c’est que la France, et plus généralement l’Europe, n’est pas du tout souveraine pour exercer un contrôle sur l’espace premier de socialisation de sa jeunesse, qui vient y communier plusieurs heures par jour et ce faisant, est exposée à des contenus dont on ignore tout des conditions de production. Il est question rien de moins que de l’avenir du pays.

Ce que nous savons avec certitude, c’est qu’il existe un alignement, un énorme biais : l’algorithme promeut certains contenus et en disqualifie d’autres, en se fondant sur leur forme – musique, longueur, couleur, etc.– mais aussi sur le fond. C’est ce dernier aspect qu’il faut documenter, et ce n’est pas simple.

Il faut cesser de croire que TikTok est un espace public au motif que tout le monde peut y avoir accès gratuitement et y passer des heures sans avoir l’impression de consommer quoi que ce soit. On ignore tout des ombres dans le décor. C’est là tout le problème. Il y a d’un côté le fonctionnement démocratique, très transparent, qui repose sur la confiance, et de l’autre, une boîte noire qui s’appelle TikTok, qui amuse la galerie, notamment les plus jeunes, et à laquelle on accorde une confiance aveugle.

Il est important de le comprendre si l’on veut agir sur le fond : le fait de demander un contrôle des contenus promus sur TikTok n’est pas attentatoire à la liberté d’expression. Tracer un chemin dans une jungle informationnelle pour pouvoir s’y repérer est bon pour la démocratie. Les démocraties se sont construites contre d’autres jungles informationnelles : au XIXe siècle, il était possible de dire tout et n’importe quoi dans des torchons qui s’appelaient des journaux et qui étaient financés par certaines personnes pour défendre leurs intérêts, lancer des modes et calomnier leurs opposants. À un moment, des lois sont venues encadrer la presse, en imposant notamment une vérification des sources ; une industrie s’est développée et tout d’un coup, la démocratie a été mieux informée. S’agissant des réseaux sociaux, nous sommes encore à l’étape antérieure. La démocratie ne pourra pas s’en sortir, du moins sans violence, si elle ne s’attaque pas frontalement à ces questions et TikTok est un exemple hors pair pour cela.

M. Thierry Sother (SOC). Vous nous livrez des éclairages très inquiétants.

Notre assemblée a adopté il y a quinze jours une résolution appelant la Commission européenne à faire pleinement respecter le DSA face aux ingérences étrangères. Monsieur Micheron, vous avez rappelé l’influence de X et de son propriétaire ainsi que les récents événements en Roumanie. Lorsque nous l’avons interrogée, la représentante de la plateforme X nous a répondu qu’à sa connaissance, il était naturellement impossible que les contenus de son propriétaire soient mis en avant, en dépit des études qui démontrent le contraire. C’est évidemment pour nous une source d’inquiétude importante.

Je reviens aux contenus toxiques et radicaux dont M. David Chavalarias, dans ses études sur X, estime la part très importante – ce doit être analogue sur TikTok. Pourquoi l’algorithme – ce que vous appelez les ombres et moi les amis invisibles – choisit-il de les mettre en avant ? Est-ce une application de l’économie de l’attention, en vertu de laquelle plus les utilisateurs restent captifs longtemps, plus les plateformes peuvent monétiser les espaces publicitaires ? Ou y a-t-il encore d’autres intérêts cachés ?

M. Hugo Micheron. De nombreuses enquêtes montrent – et M. Elon Musk s’en est même vanté publiquement – que l’algorithme de X est programmé pour favoriser les tweets de son propriétaire. Si l’algorithme de Twitter est entre les mains d’une personne, qui peut décider de faire prévaloir sa parole sur toutes les autres, on imagine ce que cela peut donner sur d’autres sujets.

La parole de la représentante de X est importante mais l’avenir de la démocratie ne devrait pas en dépendre. La situation est évidemment anxiogène, mais les possibilités de reprendre le contrôle sont nombreuses. Je ne pense pas que le renforcement de l’éducation aux médias ou le triplement des heures d’éducation civique soit la solution – cela reviendrait à écoper la mer avec une petite cuillère. En revanche, il faut travailler sur les algorithmes, et le DSA nous offre le cadre juridique pour cela. L’article 40, que l’on doit à une plume française, est bien pensé : par la référence qu’il comporte aux risques systémiques, les plateformes sont comptables du contenu toxique qui vient polluer les places algorithmiques auxquelles tout le monde vient s’abreuver. Nous devons prendre à bras-le-corps la question de la souveraineté algorithmique, être capables de contrôler les algorithmes et d’en démontrer systématiquement les biais. Il serait étonnant que dans un pays comme la France, on ne s’accorde pas au moins sur le fait qu’un contenu similaire à 90 % à la propagande de Goebbels ou de l’État islamique ne soit pas propulsé ou mis en avant. La quasi-totalité de la population y serait favorable.

Avant même de s’interroger sur une éventuelle intention maligne ou de quelconques intérêts, sur lesquels de nombreux travaux de recherche restent à mener, l’urgence commande de comprendre car c’est l’avenir de la politique qui est en jeu. Les représentants du peuple ne peuvent pas être à la merci d’une saillie sur les réseaux sociaux, qui vient ruiner tout leur travail ou casser leur dynamique de campagne. Si l’on ne contrôle rien et si l’on se contente de subir, la question de la politique et de sa représentation va se poser à tous les niveaux.

Nous sommes au début d’une transformation. La France a toutes les cartes en main pour agir et apporter une réponse démocratique à ces logiques plutôt autoritaires, je vous l’accorde.

Mme Sophie Taïeb. Nos recherches montrent que les acteurs hostiles qui postent des contenus toxiques maîtrisent parfaitement les codes de la plateforme. Ils les ont étudiés et savent exactement quoi dire et comment pour pouvoir être mis en avant. Ils sont parfaitement au fait de ce qui est viral. Ce sont vraiment des professionnels.

M. Tristan Boursier. Tant que la haine sera rentable sur les plateformes, nous serons confrontés à ce genre de problème. Le concept d’économie de l’attention nous aide à éclairer une bonne partie de la question ainsi que les enjeux de souveraineté.

Puisque je suis les mêmes acteurs depuis cinq ans environ, j’ai pu observer des évolutions stratégiques visant à monétiser du contenu. En ce moment, au sein de l’extrême droite, la mode est à l’antiféminisme parce que les propos de cette nature semblent beaucoup moins sujets à la régulation que d’autres. On constate une percée des propos antiféministes chez des acteurs traditionnellement d’extrême droite. Je pense à Thaïs d’Escufon, une militante de Génération identitaire, qui s’est lancée en ligne avec ce mouvement puis, il y a quelques années, a fait un virage masculiniste pour prodiguer des conseils à des jeunes hommes sur la manière de draguer les femmes dans la rue ou de trouver une épouse. Récemment, elle a pris un nouveau virage après avoir constaté son échec – elle ne le dit pas en ces termes-là, c’est mon interprétation – afin de se lancer dans de nouvelles activités. Sa réorientation aboutit à une association avec un autre influenceur du nom de Valek, qui lance le Valek Studio, une sorte de service-communauté dans lequel il vend des prestations. Pour l’instant, ce n’est pas très clair ; on comprend que le service est monétisé et vise à capter la petite frange de leur communauté qui est prête à les suivre en s’engageant financièrement davantage.

M. le président Arthur Delaporte. Pouvez-vous nous en dire un peu plus sur ce modèle économique ?

M. Tristan Boursier. Les contenus les plus problématiques, en tout cas ceux qui font le plus réagir, qui misent sur l’outrance, créent de l’engagement, ce qui favorise leur visibilité.

Certains ont néanmoins compris qu’ils ne pouvaient pas fonder leur modèle économique sur les seuls médias sociaux. Des recherches, menées notamment en Allemagne, montrent très bien la diversité des sources économiques des influenceurs. Cette diversité concerne bien sûr les réseaux sociaux sur lesquels ils sont présents, mais aussi d’autres supports tels que les caisses de soutien sur les plateformes de crowdfunding ou la création de communautés – les dix plus gros influenceurs français ont tenté ou tentent encore de le faire –, par le biais desquelles ils vont pouvoir capter de l’argent de la partie la plus crédule et manipulable de leurs fans. Ils peuvent ainsi simplement vendre un accès à un espace en ligne fermé. Par exemple, sur Discord, en payant un abonnement régulier ou une somme mirobolante, on peut entrer dans un espace où l’on trouve des services plus ou moins bien structurés, comme des formations aux sports de combat, aux cryptomonnaies ou à l’investissement immobilier. Ces services sortent du cadre politique mais ils sont utilisés dans une stratégie métapolitique. On a affaire à des businessmans, mais des businessmans qui surfent sur une vision du monde assez spécifique. Il faut bien avoir en tête ces deux facettes pour comprendre leur activité et leur succès.

M. le président Arthur Delaporte. Si je comprends bien, la militante dont vous parliez s’associe pour vendre ce type de formations.

M. Tristan Boursier. Elle est ambassadrice du Valek Studio – je suppose que cela passe par une association économique contractuelle – à l’intérieur duquel on trouve apparemment aussi des formations au montage vidéo. Je ne sais pas quel est l’objectif recherché mais on peut supposer qu’il s’agit de former d’autres influenceurs.

Valek a également diffusé dans les médias sociaux des contenus qui reprennent les discours masculinistes. On peut y voir un syncrétisme de différentes tendances réactionnaires. Christine Bard parle d’intersectionnalité des haines dans d’autres contextes. Je reprends volontiers à mon compte l’expression pour le monde numérique.

M. le président Arthur Delaporte. J’ai observé la reprise par certains influenceurs ou responsables politiques d’extrême droite de sujets très mainstream dont on sait qu’ils marchent, comme l’alimentation. Parmi les rares contenus que j’ai diffusés sur TikTok, ceux qui ont eu le plus de succès sont ceux liés à la bouffe. La vidéo où l’on voit le président de la République boire des verres a cartonné ; M. Bardella passe son temps à se mettre en scène avec du pain. Est-ce une tendance que vous avez également constatée ?

M. Tristan Boursier. Tout à fait, et c’est vraiment intéressant parce qu’il est question d’éléments culturels de notre société – un nombre important de Français consomment du vin, par exemple, qui, jusqu’à présent, n’était pas un objet politique. Or le fait de boire du vin ou de manger de la viande est devenu un sujet dans le débat public. Il a d’ailleurs été lié à différents camps politiques. Selon que vous êtes pour ou contre le carnisme, vous pouvez être associé à une tendance politique ou à une idéologie.

M. Baptiste Marchais, un influenceur que j’étudie, a beaucoup joué sur cette tendance en organisant ce qu’il appelle les « repas de seigneur ». Il s’agit d’un format vidéo assez long – environ une heure voire plusieurs heures –, parfois découpé en plusieurs publications, dans lequel il invite des amis, issus de l’extrême droitosphère – Jean Lassalle a aussi été convié dans l’un des épisodes –, à des repas gargantuesques où la viande est vraiment mise en avant. Les convives font beaucoup de plaisanteries sur la viande ; ils disent que les députés écologistes feraient des syncopes en voyant les tablées qui s’empiffrent.

Les propos ne sont pas forcément haineux ou radicaux en tant que tels, mais des choses aussi banales que la consommation de viande sont mises au service d’un appel au drapeau de leur communauté ou servent à interpeller des gens, qui, probablement, ne se reconnaissent pas dans les idéaux d’extrême droite mais qui, par le biais de la viande, peuvent éprouver une sympathie à l’égard des influenceurs.

M. Hugo Micheron. C’est un point clé, commun aux autres réseaux sociaux. Les groupes extrémistes sont très roués à la banalisation. On parle de groupes radicaux extrémistes idéologisés, mais ils se présentent autour d’une blague, d’une situation de la vie quotidienne – les djihadistes en Syrie se mettaient en scène avec des petits chatons qu’ils nourrissaient – dont le sous-titre est : « ils disent qu’on est ceci ou cela alors qu’en fait, on est comme vous, on fait les mêmes choses que vous, on aime les mêmes choses que vous, on rigole aux mêmes choses que vous ». C’est le principe élémentaire de la propagande : banaliser une idéologie et la faire passer pour totalement acceptable et ordinaire.

La réunion, suspendue à dix-huit heures trente, est reprise aussitôt.

Présidence de Mme Josiane Corneloup, vice-présidente de la commission

Mme Josiane Corneloup, présidente. L’un d’entre vous a évoqué une question de fond pour les sociétés européennes, et j’ajoute, pour l’avenir de nos démocraties. Du fait des codes utilisés, il est très difficile de repérer les messages de haine, qui polluent complètement notre jeunesse. Dans vos fonctions respectives, vous en débusquez un certain nombre mais il en reste probablement d’autres. Plutôt que d’agir sur les conséquences et de chercher à faire retirer les contenus, il serait plus opportun d’essayer d’éviter qu’ils soient publiés. Que préconisez-vous pour y parvenir ?

Mme Laure Miller, rapporteure. Lors de son audition, Laurent Marcangeli a parlé du DSA comme d’une ode à l’impuissance publique. Il faisait allusion au fait qu’aucun décret d’application de la loi visant à établir une majorité numérique à 15 ans, dont il était à l’initiative, n’a été pris pour ne pas être en contradiction avec le droit de l’Union européenne.

Monsieur Micheron, vous avez dit que la France pouvait déjà faire beaucoup. Pouvez-vous préciser votre pensée ?

M. Hugo Micheron. J’ai une appréciation différente sur le DSA.

Je ne pense pas qu’il soit difficile d’intervenir sur le contenu. Actuellement, la modération s’opère par mot-clé. C’est la raison pour laquelle vous pouvez y échapper en remplaçant le « e » dans le mot Hitler par un « 3 » : le robot est dupé mais n’importe quel humain va lire Hitler car l’effet visuel est identique. Il est tout à fait possible, grâce à l’intelligence artificielle, de mettre en place une modération basée sur la sémantique dès lors qu’on a répondu par la négative à ces questions : tolère-t-on un propos qui emprunte à 90 % sa sémantique à tel groupe extrémiste et tolère-t-on la visibilité disproportionnée dont bénéficie sur les réseaux sociaux comme nulle part ailleurs ?

On peut tout à fait nourrir l’IA – l’embedder – avec la sémantique de groupes donnés pour pouvoir ensuite la détecter automatiquement – nous le faisons à Sciences Po. Des vidéos qui lancent des appels à la violence atroce peuvent être repérées. Les grandes compagnies de technologies, qu’elles soient chinoises, américaines ou russes, ont les moyens de détecter la sémantique et de la signaler. Si elles ne l’ont pas encore fait, elles ont les moyens de développer les procédés nécessaires.

Le DSA est probablement incomplet mais il est intéressant car, pour la première fois, un cadre juridique dit clairement qu’un contenu illégal n’a rien à faire sur les réseaux sociaux – encore heureux ! Par ailleurs, il existe des groupes très habiles, qui se placent en dessous de la ligne de détection du radar légal, de telle sorte que le contenu, bien que très problématique, n’est pas considéré comme illégal. Le contenu antisémite est un très bon exemple : il y a plein de manières d’être juste en dessous du seuil de détection légale et pourtant de produire un discours totalement toxique. On peut faire en sorte que la machine soit capable de détecter ces stratagèmes.

Si je devais faire une seule recommandation, ce serait celle-là. Nous avons en France tous les ingénieurs tech qu’il faut pour nous outiller et penser une démocratie numérique costaude, capable de résister à du contenu haineux en ligne.

Mme Sophie Taïeb. Il y a en effet une zone grise pour ces contenus qui sont sous la ligne légale mais évidemment problématiques. S’il était possible de retirer ce qui est évident, on aurait bien avancé.

Je souhaiterais revenir sur l’amende civile que j’ai mentionnée parmi nos recommandations. De la même manière que l’installation de radars et le port obligatoire de la ceinture de sécurité, malgré les protestations initiales, ont permis de faire diminuer le nombre d’accidents de la route, nous pensons qu’il serait utile de sanctionner les contenus indiscutablement hors-la-loi ou dangereux par une amende. On ne peut pas laisser dire tout et n’importe quoi sur les réseaux sociaux en toute impunité. Peut-être les gens continueraient-ils à le penser mais peut-être arrêteraient-ils de les diffuser et de les publier sur les plateformes.

M. Valentin Petit. Il n’est pas difficile de repérer les codes, au contraire : c’est très simple. En une semaine, on a compris de quoi il retourne. Quand par exemple l’émoji « jus » est utilisé – parce qu’en anglais le mot juice est proche du mot qui signifie « Juifs » –, accompagné d’un émoji « gaz », on comprend très vite de quoi il est question.

Les codes qui sont utilisés, souvent à destination des jeunes, voire très jeunes pour créer un phénomène d’insider – en leur faisant des clins d’œil, en utilisant des mèmes et l’IA pour faire danser Anders Breivik devant l’île

d’Utøya –, sont loin d’être impossibles à déchiffrer. C’est assez simple et frontal : ces codes ne sont pas impossibles ni même difficiles à déchiffrer.

Il faut évidemment utiliser l’analyse sémantique et l’intelligence artificielle mais je plaide aussi pour un investissement dans le travail humain. Les plateformes sont très peu désireuses de faire appel à des êtres humains pour opérer la modération des contenus. Elles font essentiellement confiance à l’automatisation par mots-clés, notamment TikTok. Mais il y a très peu de personnes chargées d’analyser la sémantique et d’alimenter une IA pour améliorer l’automatisation. Le manque d’outils d’analyse humaine et la prépondérance des outils d’analyse automatiques sur ces plateformes est très problématique.

Mme Sophie Taïeb. Nous fournissons tous les ans à l’ensemble des plateformes avec lesquelles nous travaillons ainsi qu’à Pharos, à la Dilcrah et à d’autres une liste de termes et d’émojis antisémites– le jus, le nez, les savonnettes, etc. – pour qu’ils puissent informer leurs modérateurs. On ne sait pas si tous le font mais tous reçoivent la liste.

Mme Josiane Corneloup, présidente. Avez-vous l’impression que c’est suivi d’effet ?

Mme Sophie Taïeb. Pas forcément. Le plus emblématique d’entre ces termes, « dragon céleste », est désormais connu. Un travail de réflexion a été mené avec Meta sur l’utilisation du terme « sioniste » : quand ce mot a-t-il une connotation politique, et quand devient-il une insulte antisémite ? Si je traite un rabbin de « sale sioniste », suis-je en train de l’insulter en le traitant de sale juif, ou bien est-ce que je m’exprime sur ses prises de position politiques ? Nous avons travaillé avec eux pour différencier le contenu insultant du contenu politique.

L’antisémitisme est une forme de haine compliquée. La pédopornographie, c’en est ou c’en n’est pas ; le terrorisme, c’en est ou c’en n’est pas. En revanche, l’antisémitisme comporte une zone grise assez importante ; c’est une menace qui évolue, parce que de nouveaux termes, de nouvelles tendances émergent, parce qu’il se passe des choses dans le monde. C’est pour cela que nous travaillons avec les plateformes : nous essayons de les informer autant que possible sur les nouvelles tendances. Nos efforts sont parfois suivis d’effet, et parfois un peu moins.

M. Kévin Mauvieux (RN). Madame Taïeb, vous avez indiqué à plusieurs reprises qu’il fallait créer des amendes civiles pour sanctionner l’antisémitisme sur les réseaux sociaux. Je ne suis même pas sûr que ce soit la solution, car l’antisémitisme est déjà interdit et répréhensible. Nous devons nous interroger sur l’existence d’un droit parallèle pour les réseaux sociaux par rapport à la vie de tous les jours. Une personne qui tient des propos ouvertement antisémites dans la rue sera arrêtée, placée en garde à vue, auditionnée et condamnée. Sur les réseaux sociaux, il faut se battre pendant quinze jours pour retirer une vidéo, et cela s’arrête là, alors que le délit est le même que celui commis dans la rue. Il faudrait trouver la solution pour que les peines existantes s’appliquent aussi aux réseaux sociaux.

La monétisation de leurs contenus par les influenceurs radicaux est problématique. Il est en effet possible de payer des publicités sur TikTok pour sponsoriser ses contenus, les mettre en avant et les faire apparaître de manière encore plus extravagante. Qu’Adidas ou McDonald’s se paient une publicité, c’est leur droit et cela ne dérange personne. Mais qu’en est-il pour les influenceurs radicaux ? Avez-vous déjà effectué des recherches sur la modération et sur le contrôle des publicités ?

Je prendrai un exemple simple : les responsables politiques n’ont pas le droit de monétiser le contenu de leurs réseaux sociaux. Je dispose d’un compte sur TikTok qui, très régulièrement, m’envoie des notifications pour m’inciter à le faire. Étant membre de cette commission d’enquête, j’ai fait le test – sans avoir l’intention d’aller jusqu’au bout puisque cela m’aurait mis hors la loi : TikTok m’a bloqué en me rappelant qu’un responsable politique n’avait pas le droit de monétiser ses contenus.

Un système équivalent existe-t-il pour les influenceurs radicaux ? Comment sont contrôlées les publicités d’un utilisateur de TikTok ? Je ne parle pas des entreprises mais bien des utilisateurs lambda, qui n’ont pas forcément de très gros comptes mais créent beaucoup de petits comptes. Ont-ils accès à du sponsoring et, si oui, sont-ils contrôlés ?

Mme Sophie Taïeb. Concernant les amendes civiles, c’est l’absence de dissuasion qui nous dérange. Si, avant de poster, on se dit « soit je vais payer une amende, soit je vais être poursuivi en justice et cela sera suivi d’effets », alors les gens arrêteront de poster. Nous sommes donc d’accord.

Je n’ai pas étudié en revanche la question des publicités.

M. Tristan Boursier. Votre question est très pertinente car elle permet de souligner la difficulté que rencontrent les chercheurs à comprendre ces mécanismes, notamment les relations que ces acteurs ont avec les régies publicitaires. Ils se plaignent souvent de la démonétisation de leurs contenus et du fait que les plateformes les empêchent de faire de l’argent. Or cette affirmation ne repose que sur leur parole ; les plateformes ne collaborent pas pour nous transmettre des informations.

Néanmoins, quand on regarde une vidéo, par exemple sur YouTube, on peut voir si de la publicité apparaît ou non. De plus, même si les plateformes démonétisent une partie des contenus, ce risque est intégré par les plus gros influenceurs, qui ont diversifié leurs sources de revenus. Un écosystème de sponsoring s’est mis en place, avec notamment le fonds Périclès, financé par Pierre-Édouard Stérin. Ce fonds soutient la marque Terre de France, qui sponsorise nombre de vidéos d’influenceurs, notamment Valek et Le Raptor. D’autres entreprises le font aussi, comme Kalos, dont les liens avec Périclès ne sont pas clairs pour moi. Cet écosystème permet de soutenir l’activité économique des influenceurs en dehors des canaux de monétisation classiques des plateformes.

M. Valentin Petit. Les petits comptes n’ont pas besoin de diffuser des publicités : le fonctionnement opaque de la plateforme et de l’algorithme se charge de pousser les contenus problématiques. Ainsi, un compte de moins de 300 abonnés pourra percer et atteindre 300 000 vues grâce à une vidéo glorifiant par exemple un tueur djihadiste ayant fait cinquante morts. C’est un phénomène que l’on voit rarement sur d’autres plateformes, mais qui est très fréquent sur TikTok.

Mme Josiane Corneloup, présidente. Ces vues par milliers sont-elles réelles ou artificielles ? Si elles sont réelles, cela signifie qu’il y a un vrai public.

M. Valentin Petit. Les contenus sur TikTok étant très courts, les vues commencent très rapidement. Cela ne signifie pas que 300 000 personnes ont regardé la vidéo en entier, mais que ce contenu a été conseillé à 300 000 personnes : la nuance est importante.

Ainsi, lors de l’élection présidentielle roumaine, la plateforme a favorisé le candidat Călin Georgescu de façon absolument astronomique, en utilisant notamment des comptes dormants, qui publiaient habituellement du contenu footballistique sur Neymar ou sur Messi et qui se sont mis d’un seul coup à publier des vidéos pro-Georgescu qui atteignaient 400 000 ou 500 000 vues – l’algorithme avait en fait conseillé ces vidéos à toutes ces personnes. L’opacité de l’algorithme repose aussi sur l’opacité des comptes qui poussent ce genre de contenus.

Mme Josiane Corneloup, présidente. Je vous remercie pour votre présence et pour les précisions fort utiles que vous avez apportées à nos travaux.

68. Audition de M. X, ancien modérateur sur les réseaux sociaux (jeudi 26 juin 2025)

La commission auditionne, à huis clos, M. X, ancien modérateur sur les réseaux sociaux.

M. le président Arthur Delaporte (SOC). Pour notre dernière audition, nous recevons à huis clos le témoignage de M. X, ancien modérateur sur les réseaux sociaux, en particulier sur TikTok.

Je vous remercie d’avoir répondu à notre invitation et je vous invite à nous déclarer tout intérêt public ou privé de nature à influencer vos déclarations.

L’article 6 de l’ordonnance du 17 novembre 1958 relative au fonctionnement des assemblées parlementaires impose aux personnes auditionnées par une commission d’enquête de prêter le serment de dire la vérité, toute la vérité, rien que la vérité.

(M. X prête serment.)

M. X. Je vous remercie de me donner la parole. Même si je réside au Portugal, je me sens concerné par les enjeux dont votre commission s’est saisie car je suis non seulement un utilisateur de TikTok, mais aussi un ancien modérateur de cette plateforme, par le biais de son sous-traitant Teleperformance.

Je suis né et j’ai grandi en France. En 2019, j’ai répondu à une offre de travail proposée par un call center au Portugal, dans lequel j’ai travaillé jusqu’en 2023. En août 2023, Teleperformance m’a proposé de travailler pour la plateforme TikTok. J’ai été affecté à une mission de modération, pour laquelle j’ai suivi une formation initiale d’une semaine et trois jours en shadowing.

Cette expérience de quelques semaines a eu un impact sur ma santé physique et mentale. J’ai visionné des contenus assez choquants.

La modération est effectuée par le biais d’un double écran, sur lequel défilent simultanément cinq à six vidéos ; ces contenus doivent être modérés en trente secondes à une minute, ce qui laisse très peu de temps d’analyse. Avec les autres modérateurs, nous subissions une pression en matière de performance, non pas de la part de TikTok mais de celle de Teleperformance.

Après ces quelques semaines, j’ai connu une période assez difficile : j’ai sombré dans une dépression dont je ne suis pas encore totalement sorti et j’ai souffert d’anorexie. Je suis suivi par un service de psychiatrie au Portugal. J’occupe désormais un nouveau poste dans une autre entreprise, mais je souffre encore de séquelles qui m’obligent à télétravailler.

J’ai souhaité témoigner parce que d’autres modérateurs et anciens modérateurs vivent ou ont vécu la même chose, même s’ils sont invisibles et silencieux et que TikTok minimise ses responsabilités à leur égard. Les modérateurs sont en première ligne, directement exposés à une forme de violence psychologique quotidienne. C’est parce qu’ils exercent un métier essentiel au bon fonctionnement des plateformes que j’ai voulu témoigner de mon expérience.

Mme Laure Miller, rapporteure. Merci de votre témoignage, qui est très utile. Pouvez-vous revenir sur la façon dont vous avez été formé à la modération à votre arrivée dans l’entreprise ?

M. le président Arthur Delaporte (SOC). Avez-vous suivi d’autres formations par la suite ? Le cas échéant, à quelle fréquence et avec quel contenu ?

M. X. Ma formation a duré une semaine et trois jours. Le premier jour est consacré à la présentation de la société Teleperformance et de ses locaux, le deuxième à ses outils internes.

Les règles communautaires de TikTok, les outils de ticket et l’utilisation de la plateforme de modération sont présentés le troisième jour. Le quatrième jour est consacré au visionnage de quelques contenus et à des jeux de rôle : il faut donner son avis sur la catégorie dans laquelle classer certains contenus – automutilation, discours politique, etc.

Le cinquième jour est consacré à une formation interne de Teleperformance sur le règlement (UE) 2016/679 du Parlement européen et du Conseil du 27 avril 2016 relatif à la protection des personnes physiques à l’égard du traitement des données à caractère personnel et à la libre circulation de ces données, et abrogeant la directive 95/46/CE dit règlement général sur la protection des données (RGPD) – on ne doit pas transmettre les informations des utilisateurs – et sur la PCI DSS, une norme de sécurité informatique s’appliquant aux organisations stockant et traitant des données de cartes bancaires – on ne doit pas prendre de notes sur les données personnelles des clients.

Les trois derniers jours de formation sont consacrés à du shadowing, aux côtés d’un modérateur qui nous montre comment classer les contenus et nous donne des conseils.

M. le président Arthur Delaporte (SOC). Avez-vous suivi des formations de mise à niveau ? Comment sont transmises les consignes relatives à la modération ?

M. X. Personne de chez TikTok n’est venu sur place nous présenter d’autres règles de modération. La formation initiale se fait avec un outil en ligne mis au point par Teleperformance et TikTok, constitué de slides ; à la fin de la formation, il faut valider un petit questionnaire d’une centaine de questions.

M. le président Arthur Delaporte (SOC). Ces slides sont-elles réactualisées ?

M. X. Non.

M. le président Arthur Delaporte (SOC). Combien de temps êtes-vous resté dans cette entreprise ?

M. X. J’y suis resté un mois et demi, mais certains de mes amis y travaillent encore.

En raison des nombreuses séquelles psychologiques provoquées par un mois et demi à regarder des contenus assez compliqués, je suis tombé en dépression et j’ai demandé à changer d’affectation au sein de Teleperformance.

M. le président Arthur Delaporte (SOC). Vous n’avez bénéficié d’aucun accompagnement psychologique ?

M. X. Teleperformance est une très grande entreprise. Sur le site de Cabo Ruivo, dans la périphérie de Lisbonne, où est basée l’activité de modération pour TikTok, il n’y a aucun psychologue et un seul médecin du travail pour 500 modérateurs. Une demande doit être envoyée par e-mail et approuvée pour obtenir un rendez-vous avec lui.

M. le président Arthur Delaporte (SOC). Avez-vous essayé de le voir ?

M. X. Oui, mais je n’ai pas obtenu de rendez-vous.

Ayant sombré dans la dépression, je me suis présenté aux urgences en expliquant que j’avais des idées suicidaires et que je n’arrivais plus à manger. J’ai été interné dans un service de psychiatrie dans lequel un médecin m’a dit de changer de voie professionnelle. J’ai alors quitté mes fonctions de modérateur.

M. le président Arthur Delaporte (SOC). Faites-vous un lien direct entre vos idées suicidaires et les contenus auxquels vous avez été exposé ?

M. X. Je souffrais déjà de problèmes alimentaires – j’avais du mal à me nourrir –, qui ont été accentués par ces contenus, notamment d’automutilation et de scarification, qui me rendaient très triste. Mes problèmes alimentaires se sont aggravés : j’ai perdu plus de 65 kilos, passant de 130 à 70 kilos. C’est vous dire à quel point cela m’a chamboulé.

Je continue d’être suivi ; la semaine dernière encore, j’avais rendez-vous avec ma nutritionniste. J’ai beau manger, je ne prends pas de poids et ma situation est très compliquée.

Mme Laure Miller, rapporteure. Vos propos sont difficiles à entendre. Pourriez-vous malgré tout nous décrire la journée type d’un modérateur ? À quelle heure commence-t-elle ?

Vous avez expliqué tout à l’heure que vous deviez modérer simultanément plusieurs vidéos dans un temps très restreint : pourriez-vous décrire concrètement comment cela se passait ?

M. X. Tout dépendait du shift – de la rotation – horaire, puisque le service de modération est assuré 24 heures sur 24.

Au Portugal, la durée hebdomadaire de travail est de 40 heures ; une journée de travail dure 9 heures : 8 heures à son poste et 1 heure de pause déjeuner. Je travaillais principalement au service de nuit, de 23 heures à 8 heures. Pendant ce service, il n’y avait pas de team manager, c’est-à-dire de superviseur responsable d’une équipe.

En arrivant à 23 heures, j’allumais mon ordinateur et je me connectais aux outils. Je travaillais de 23 heures à 2 heures du matin avant la pause : quatre ou cinq vidéos défilaient sur le double écran, que je devais classer en moins d’une minute selon différentes catégories, sans possibilité de les revoir. Les vidéos s’enchaînaient automatiquement et on en traitait jusqu’à 600 ou 800 par journée de travail.

Mme Laure Miller, rapporteure. Vous n’aviez donc pas le temps de visionner les vidéos jusqu’à leur terme ? Cela signifie que dès les premières secondes, vous deviez être capable de comprendre de quoi il s’agissait pour les catégoriser ?

M. X. C’est exact : je devais les analyser et les catégoriser rapidement.

Pire encore, Teleperformance demandait à ses modérateurs un rythme élevé, jusqu’à plus de 800 vidéos par jour, sans se soucier d’eux. Cette performance n’était pas atteinte, d’où le fort turnover des modérateurs chez ce sous-traitant. De plus, le team manager faisait une analyse de notre travail trois à quatre fois par semaine, pour vérifier si nous avions bien catégorisé les vidéos.

Mme Laure Miller, rapporteure. Les vidéos qui vous étaient soumises étaient-elles issues d’une présélection en raison de leur caractère problématique, ou était-ce le flux classique des vidéos ?

M. X. C’était un flux continu, constitué de vidéos de tout type – un discours haineux, un utilisateur qui se filme en train de jouer à un jeu vidéo, etc. –, auxquelles on n’est pas préparé.

M. le président Arthur Delaporte (SOC). Comment sont sélectionnées les vidéos qui vous sont présentées ?

M. X. Je ne sais pas comment est calculé l’algorithme pour les modérateurs, mais les vidéos étaient aléatoires et le flux continu. Je travaillais à la modération générale et je n’ai pas été affecté à la modération des lives ou du gaming.

Les vidéos arrivaient sur l’écran de manière aléatoire et je devais les classer. Durant le mois et demi que j’ai passé en production, il y avait beaucoup de contenus relatifs à la guerre en Ukraine.

M. le président Arthur Delaporte (SOC). Vous nous avez expliqué qu’il y avait plusieurs services en fonction du type de contenu. TikTok est-il le seul client de Teleperformance sur ce site ?

M. X. Teleperformance a plusieurs sites à Lisbonne, un par client. Celui de Cabo Ruivo est dédié à TikTok.

M. le président Arthur Delaporte (SOC). Le site où vous travailliez était donc consacré uniquement à TikTok et les 500 modérateurs que vous avez évoqués travaillent tous pour cette plateforme.

M. X. Oui.

M. le président Arthur Delaporte (SOC). Ces 500 modérateurs travaillent-ils uniquement sur des contenus en français ?

M. X. Non, ils travaillent sur des contenus en plusieurs langues pour les marchés indien, anglais, portugais et français.

M. le président Arthur Delaporte (SOC). Vous-même, vous ne travailliez que sur des contenus francophones ?

M. X. Oui.

M. le président Arthur Delaporte (SOC). Combien de modérateurs ne travaillaient que sur des contenus francophones ?

M. X. Une trentaine pour la modération générale pendant le service de nuit, mais il y a plusieurs shifts.

Mme Laure Miller, rapporteure. Lors de nos auditions, il a souvent été question de la façon dont les utilisateurs parviennent à contourner la modération à l’aide d’émojis spécifiques et de mots-clés modifiés – un chiffre remplaçant une lettre. En étiez-vous alertés afin de vous aider à modérer les contenus ?

M. X. Nous avons reçu des alertes de la part du team leader. Par exemple, nous avions reçu une communication au sujet de l’émoji zèbre utilisé pour signifier « automutilation ».

M. le président Arthur Delaporte (SOC). Lorsque vous étiez modérateur, vous saviez donc déjà que cet émoji symbolisait l’automutilation ?

M. X. Après avoir vu plusieurs vidéos défiler avec cet émoji, nous avons fait un rapport auprès de notre équipe de supervision. Malheureusement, après avoir signalé, catégorisé ou autorisé les contenus, nous ne savons pas ce qu’ils deviennent : nous n’avons aucun suivi de la part de nos team leaders ni de la direction de TikTok.

Mme Laure Miller, rapporteure. Je vais reformuler ma question, pour être certaine de bien comprendre.

Lorsque nous avons reçu les dirigeants de TikTok, ils nous ont expliqué qu’ils n’étaient pas toujours au courant de ces contournements, notamment de l’utilisation de l’émoji zèbre. Vous dites avoir signalé certains de ces contournements. Votre hiérarchie vous en avait-elle aussi signalé l’existence et vous avait-elle demandé d’être vigilants à ce sujet ?

M. X. Oui, les signalements ont été faits dans les deux sens. Nous recevions des communications de la part de nos team leaders, mais je n’ai jamais vu aucun responsable de TikTok dans les locaux de Teleperformance.

M. le président Arthur Delaporte (SOC). Quand vous analysiez les contenus, étiez-vous aidé par un outil d’intelligence artificielle proposant une précatégorisation ou une transcription automatique des vidéos pour vous aider à les comprendre ?

M. X. En 2023, nous n’avions pas d’outil d’intelligence artificielle ; je ne sais pas si c’est désormais le cas. Nous utilisions différentes étiquettes prédéfinies : discours haineux, discours politique, automutilations, troubles alimentaires, etc.

M. le président Arthur Delaporte (SOC). Si je comprends bien, les vidéos projetées étaient déjà catégorisées et vous deviez dire si elles correspondaient aux catégories prédéfinies ?

M. X. C’était à nous de les analyser rapidement, sur une base visuelle. Mais avec 600 à 800 vidéos par jour, nous n’avions pas le temps de faire une analyse complète.

Mme Laure Miller, rapporteure. Vous deviez donc confirmer que la vidéo correspondait à la précatégorisation établie – terrorisme, discours haineux –, mais votre mission n’était pas de la supprimer.

M. X. C’est exact. J’avais toutefois la possibilité de signaler la vidéo en question auprès de mon supérieur ou en créant un ticket s’il s’agissait d’un acte terroriste ou d’une tentative d’intimidation, par exemple, mais nous n’avions pas de suivi ; nous étions laissés à l’abandon.

M. le président Arthur Delaporte. Il s’agit d’une entreprise française ?

M. X. Oui. Teleperformance est le premier call center de service clientèle au monde en nombre d’employés.

M. le président Arthur Delaporte. Combien gagniez-vous à ce poste ?

M. X. Au Portugal, les salaires sont plus bas qu’en France. Je touchais 750 euros nets par mois, auxquels s’ajoutaient 4,14 euros par jour pour l’équivalent des tickets-restaurants, soit 130 à 150 euros supplémentaires qui étaient crédités sur une carte bancaire à la fin du mois. L’avantage de Teleperformance, c’est qu’ils fournissent aussi un logement à ceux qui arrivent de France – une chambre à louer. J’avais déjà ma maison, donc je n’en ai pas eu besoin, mais je crois que la plupart des modérateurs acceptent, même si cela les rend un peu prisonniers.

Mme Laure Miller, rapporteure. Au cours du mois et demi que vous avez passé dans cette entreprise, vous avez sans doute eu le temps de tisser des liens avec les autres modérateurs. Avez-vous ressenti le même mal-être chez d’autres salariés ou étaient-ils relativement à l’aise avec ce travail ? Y a-t-il un fort turnover ?

M. X. J’ai encore des contacts là-bas, dont une amie qui a quitté mon entreprise actuelle pour aller chez Teleperformance travailler pour TikTok Live. Elle y est depuis mai et elle s’y sent bien, même si elle considère que le contenu des vidéos de jeu ou des influenceurs n’est pas très constructif pour la société.

J’ai surtout senti un mal-être chez les modérateurs ; énormément de personnes souffrent. Pour ce qui est du turnover, le monde du call center en général attire des Français ou des gens d’autres nationalités qui viennent au Portugal un an pour tester le pays ; chaque mois, il y a cinq ou six départs.

En ce qui me concerne, j’ai décidé de quitter ma fonction au bout d’un mois et demi sur les conseils du service de psychiatrie qui me suivait et j’ai demandé un changement d’affectation comme conseiller technique au sein de Cisco, qui est une entreprise d’IT. J’y ai travaillé jusqu’en septembre 2024. J’occupe actuellement un poste dans une autre entreprise.

Mme Laure Miller, rapporteure. Arriviez-vous à discerner dans quelle mesure la précatégorisation des vidéos était réalisée par l’intelligence artificielle ? Y avait-il d’autres modérateurs avant vous ?

M. X. Nous n’avions pas d’informations sur le sujet, mais je ne crois pas qu’il y ait eu d’autres modérateurs avant nous. C’était sans doute de l’intelligence artificielle.

M. le président Arthur Delaporte. Avez-vous vu des vidéos mettant manifestement en scène des mineurs ?

M. X. Oui, bien sûr. J’ai modéré des vidéos de deux frères YouTubeurs, Néo & Swan ; le plus jeune a moins de quinze ans, mais leurs parents les laissent faire des vidéos sur TikTok.

En tant qu’utilisateur, je vois que même mon neveu de 12 ans est souvent sur TikTok alors que ma sœur, qui lui avait donné un portable pour la contacter après les cours, le lui avait interdit ; elle a fini par le lui confisquer. Les enfants sont intelligents : il suffit qu’un ami dans la cour d’école leur dise comment faire et ils installeront un moyen de contourner le système de contrôle parental.

M. le président Arthur Delaporte. Vous avez dit que vos collègues n’avaient pas eu envie de témoigner. Pourquoi ?

M. X. Oui, j’en ai parlé à mon amie, mais son français n’est pas très bon. Quand on vit au Portugal depuis longtemps, on commence à perdre la langue.

M. le président Arthur Delaporte. Elle modère aussi du contenu en français ?

M. X. Oui. Elle est capable de comprendre, c’est discuter qui est plus compliqué. J’ai une autre amie franco-portugaise qui parle français avec difficulté et qui modère du contenu en français. C’est Teleperformance qui embauche ces personnes, pas TikTok.

Mme Laure Miller, rapporteure. Avez-vous eu connaissance de l’existence de modérateurs chargés de traiter en urgence des vidéos prioritaires qui auraient fait l’objet de nombreux signalements ou qui présenteraient un contenu plus sensible que les autres ?

M. X. Malheureusement, non. C’est nous qui devions signaler ces vidéos à notre superviseur, qui les faisait remonter à TikTok, où elles étaient traitées par une autre équipe de modération. On nous demande énormément de chiffre, mais nous avons peu de formation.

M. le président Arthur Delaporte. Y avait-il une prime de résultat en fonction du nombre de vidéos vues ? Le système vous encourage-t-il à voir plus de vidéos, quitte à détériorer la qualité de la modération ?

M. X. Oui. Nous touchons une prime d’assiduité de 150 euros si nous sommes présents au travail ; elle est quasiment impossible à toucher, car elle saute au premier retard. Nous touchons aussi un bonus de 50 euros si nous dépassons 800 vidéos dans la journée, lui aussi inatteignable, et un bonus de langue de 50 euros.

M. le président Arthur Delaporte. C’est une prime à la productivité et une manière de vous faire tenir, même si j’ai cru comprendre que des sanctions s’appliquaient quand le travail était mal fait.

M. X. C’est tout le problème. Certes, la productivité est importante dans une entreprise, mais la qualité du service aussi. Là, on propose un bonus sans service de qualité. Dans mon nouveau poste, je suis analyste financier et le bonus est lié à la qualité de mon travail.

Mme Laure Miller, rapporteure. Y avait-il des contenus problématiques qui n’entraient dans aucune catégorie ?

M. X. Non. Nous avions toujours la possibilité de classer les contenus sous l’une des étiquettes prédéfinies.

M. le président Arthur Delaporte. Pourriez-vous nous donner des exemples d’étiquettes ?

M. X. Il y avait les catégories « mineurs », « terrorisme », « activités illégales », « troubles alimentaires », « violences graphiques », « violences physiques », « harcèlement », « discours haineux », « comportement dangereux », « challenge à risque », etc.

Mme Laure Miller, rapporteure. De nombreux professionnels ont expliqué en audition que le fait de regarder des vidéos TikTok pouvait dégrader la santé mentale des mineurs, mais que cela n’avait pas forcément d’effet sur les jeunes qui se sentaient bien au préalable. Sans entrer dans votre intimité, diriez-vous que votre mission d’un mois et demi a été la cause essentielle et principale de votre mal-être, ou plutôt qu’elle a participé à la dégradation d’un état qui existait déjà ?

M. X. Je pense que cela affecte forcément les mineurs et les adultes. À l’époque, j’allais avoir 25 ans. La plateforme de modération reçoit de très nombreuses vidéos sur l’anorexie ; elles m’ont fortement perturbé émotionnellement car j’avais pris beaucoup de poids à la suite d’un accident, alors que j’étais auparavant très sportif – j’avais même pratiqué la lutte gréco-romaine plus jeune. Je suis aussi tombé sur les vidéos du YouTubeur Tibo InShape, qui disait qu’il fallait perdre du poids pour se sentir bien dans sa peau. Je pesais 130 kg et j’étais essoufflé quand je me déplaçais. Cela m’a fait un électrochoc : j’ai arrêté de m’alimenter et j’ai perdu 65 kg – j’en pèse 70 maintenant.

J’en ai encore des séquelles : il m’arrive de ne pas réussir à manger et je suis suivi par une nutritionniste. Je souffre également d’insomnies, car le travail de nuit chez TikTok a perturbé mon cycle du sommeil. Ce travail a aussi joué sur ma dépression. Actuellement, je prends cinq médicaments par jour, dont un antidépresseur, un traitement à la kétamine, un somnifère et un traitement qui m’empêche de vomir.

M. le président Arthur Delaporte. Je vous remercie pour votre témoignage et d’avoir pris l’initiative de nous contacter. Nous prenons la mesure des conséquences de ce job impossible pour les modérateurs et de leur manque d’accompagnement, et nous sommes preneurs de tout témoignage complémentaire. En attendant, avez-vous des suggestions d’amélioration du système ?

M. X. Il faudrait demander une pièce d’identité pour accéder à l’application. Les mineurs ont toujours un moyen de contourner les règles avec l’aide de leurs parents ; ces derniers ont une part de responsabilité énorme. On ne va pas se le cacher, la plupart des contenus que l’on trouve sur les applications sont mauvais : par exemple, des influenceurs qui proposent des jeux d’argent.

Mme Laure Miller, rapporteure. Vous avez dit que les contenus nocifs pouvaient avoir un impact sur notre santé mentale à tous, enfants comme adultes. Pensez-vous qu’un nombre plus important de modérateurs et davantage de moyens consacrés à la modération permettraient d’aboutir à un contenu, sinon satisfaisant, du moins mieux nettoyé ?

M. X. Je ne sais pas ce qu’il en est pour les modérateurs directement employés par TikTok, mais on pourrait commencer par améliorer les conditions de travail et le salaire des sous-traitants. Au Portugal, on dit que le niveau de vie est plus bas, mais le litre d’essence coûte 1,80 euro, pour un salaire mensuel de 750 euros. Une cellule psychologique pour les modérateurs serait souhaitable, et un meilleur accompagnement par les responsables de TikTok. Enfin, il serait utile de trouver un système permettant d’interdire l’application aux mineurs.

M. le président Arthur Delaporte. Je vous remercie pour ces propos éclairants.

Il s’agissait, à ce stade, de notre dernière audition programmée, mais nous nous réservons la possibilité d’en réaliser encore quelques-unes au cours de l’été. Au total, nous avons auditionné 163 personnes durant 90 heures cumulées. C’est le fruit d’un travail intense de la part des députés, des administrateurs et de nos collaborateurs, que je remercie pour leur engagement à nos côtés.

Le rapport sera présenté aux membres de la commission dans la première semaine de septembre. Ses conclusions seront rendues publiques la semaine suivante.

([1]) https://assnat.fr/KWc9Yh.

([2]) https://assnat.fr/Df4c3T.

([3]) https://assnat.fr/Df4c3T.

([4]) https://assnat.fr/mzGtBE.

([5]) https://assnat.fr/mzGtBE.

([6]) https://assnat.fr/mzGtBE.

([7]) https://assnat.fr/Aglyvm.

([8]) https://assnat.fr/Aglyvm.

([9]) https://assnat.fr/wjgqjF.

([10]) https://assnat.fr/wjgqjF.

([11]) https://assnat.fr/wjgqjF.

([12]) https://assnat.fr/5qFscc.

([13]) https://assnat.fr/5qFscc.

([14]) https://assnat.fr/avoDq0.

([15]) https://assnat.fr/avoDq0.

([16]) https://assnat.fr/avoDq0.

([17]) https://assnat.fr/nK0M2j.

([18]) https://assnat.fr/WgsUQr.

([19]) https://assnat.fr/DPozaf.

([20]) https://assnat.fr/POuw5X.

([21]) https://assnat.fr/DLIi34.

([22]) https://assnat.fr/DLIi34.

([23]) https://assnat.fr/RQkowU.

([24]) https://assnat.fr/RQkowU.

([25]) https://assnat.fr/RQkowU.

([26]) https://assnat.fr/8tfFNj.

([27]) https://assnat.fr/RQkowU.

([28]) https://assnat.fr/RQkowU.

([29]) https://assnat.fr/L17DL4.

([30]) https://assnat.fr/aMwhl6.

([31]) https://assnat.fr/aMwhl6.

([32]) https://assnat.fr/ewEVw5.

([33]) https://assnat.fr/pPSUDY.

([34]) https://assnat.fr/pPSUDY.

([35]) https://assnat.fr/pPSUDY.

([36]) https://assnat.fr/pPSUDY.

([37]) https://assnat.fr/2tFq8V.

([38]) https://assnat.fr/2tFq8V.

([39]) https://assnat.fr/2tFq8V.

([40]) https://assnat.fr/xyiCRV.

([41]) https://assnat.fr/xyiCRV.

([42]) https://assnat.fr/gPhC4M.

([43]) https://assnat.fr/gPhC4M.

([44]) https://assnat.fr/gPhC4M.

([45]) https://assnat.fr/gPhC4M.

([46]) https://assnat.fr/gPhC4M.

([47]) https://assnat.fr/vGAnjK.

([48]) https://assnat.fr/fFZNcQ.

([49]) https://assnat.fr/MMCq5V.

([50]) https://assnat.fr/MMCq5V.

([51]) https://assnat.fr/MMCq5V.

([52]) https://assnat.fr/MMCq5V.

([53]) https://assnat.fr/MMCq5V.

([54]) https://assnat.fr/5e1hPq.

([55]) https://assnat.fr/5e1hPq.

([56]) https://assnat.fr/e9rNXC.

([57]) https://assnat.fr/ZFZHJs.

([58]) https://assnat.fr/LS5Op6.

([59]) https://assnat.fr/LS5Op6.

([60]) https://assnat.fr/cEvjMM.

([61]) https://assnat.fr/cEvjMM.

([62]) https://assnat.fr/cEvjMM.

([63]) https://assnat.fr/l6hhjo.

([64]) https://assnat.fr/l6hhjo.

([65]) https://assnat.fr/l6hhjo.