rapport sur la proposition de loi, après engagement de la procédure accélérée, de Mme Laetitia Avia et plusieurs de ses collègues visant à lutter contre la haine sur internet (1785).

M. Alexis Corbière. L’un de nos amendements étant tombé, permettez-moi de prendre la parole sur celui-ci qui porte également sur le CSA. Il est question de renforcer le pouvoir du CSA mais je rappelle qu’il s’agit d’une instance extrêmement politique dont le président est nommé par le Président de la République, trois de ses membres par le président de l’Assemblée nationale et trois autres par celui du Sénat. Le fait de confier à cette autorité, dont on ne saurait considérer qu’elle est indépendante du pouvoir politique, des prérogatives quasi-judiciaires lui permettant de retirer tel et tel contenu ne nous semble pas du tout être la bonne méthode. Prenons garde à ce qu’est réellement le CSA, à savoir une instance politique. Nul ne saurait croire que ses membres sont nommés sans qu’il soit tenu compte de leurs convictions personnelles ou de leur proximité avec tel ou tel pouvoir – sans que leurs compétences soient en cause. Cette instance ne me semble pas devoir être habilitée à prendre des décisions qui se substituent quasiment à celles de l’autorité judiciaire. Maintenons ce pouvoir au juge.

Mme Laure de La Raudière. Je suis très ennuyée par ces propos : certes, la nomination des membres du CSA relève des institutions que sont la Présidence de la République, l’Assemblée nationale et le Sénat, mais il me semble excessif d’attaquer ainsi l’indépendance de leur jugement. Ajoutons qu’une juridiction de premier niveau est elle aussi composée de membres dont la nomination pourrait être qualifiée de « politique » : elle s’appelle le Conseil constitutionnel, pourtant garant du respect de la Constitution. Je tenais à faire cette remarque parce que les propos précédents m’ont quelque peu choquée.

Mme la présidente Yaël Braun-Pivet. Vos mots rejoignent ma pensée, madame de La Raudière : ces nominations relèvent de l’article 13 de la Constitution et le fait qu’il en encadre les conditions permet précisément de garantir l’indépendance de ces institutions.

La Commission rejette l’amendement.

Elle examine l’amendement CL96 de la rapporteure.

Mme Laetitia Avia, rapporteure. Cet amendement vise à supprimer les alinéas 3 à 5 afin de procéder à la réorganisation du texte. Encore une fois, il ne s’agit ici que du dispositif judiciaire, alors que ces alinéas visaient des mécanismes de recours interne qui relèvent des obligations de moyens des plateformes. Il convient donc de les décaler plus loin dans le texte.

La Commission adopte l’amendement.

En conséquence, l’amendement CL264 de Mme Laure de La Raudière et les amendements identiques CL25 de Mme Marie-France Lorho et CL257 de Mme Laure de La Raudière tombent.

La Commission examine l’amendement CL71 de Mme George Pau-Langevin.

Mme George Pau-Langevin. Avant d’aborder l’amendement, je tiens à préciser que le CSA a apporté la preuve de la qualité de son travail et que l’on ne peut que se féliciter de son action.

Cet amendement vise à ajouter au rapport annuel du CSA un bilan spécifique de l’application et de l’effectivité des politiques de lutte contre la haine sur internet, qui fera l’objet d’un certain nombre de décisions.

Mme Laetitia Avia, rapporteure. S’agissant des amendements qui viennent de tomber, madame de La Raudière, ils étaient placés au mauvais endroit. En revanche, Mme Kuster a cosigné un amendement identique à l’article 4 qui permettra de satisfaire pleinement votre demande.

Quant à votre amendement, madame Pau-Langevin, il va dans le bon sens mais il me semble nécessaire de le retravailler en vue de la séance sur deux points. Tout d’abord, il convient de l’intégrer à l’article 4, relatif aux pouvoirs du CSA. Ensuite, il faut en limiter le champ aux obligations prévues aux articles 6-2 et 6-3 de la LCEN, et non aux politiques de lutte contre la haine sur internet en général, dont certains pans ne relèvent pas du rapport d’activité du CSA. Demande de retrait.

L’amendement est retiré.

La Commission examine l’amendement CL3 de la commission des Affaires culturelles.

Mme Fabienne Colboc, rapporteure pour avis de la commission des Affaires culturelles. Il s’agit d’un amendement de coordination relatif à l’identité de genre.

Mme Laetitia Avia, rapporteure. Avis favorable.

La Commission adopte l’amendement.

Puis elle adopte l’article 1er modifié.

Après l’article 1er

La Commission examine l’amendement CL97 de la rapporteure, qui fait l’objet des sous-amendements CL289 et CL290 de Mme Laure de La Raudière.

Mme Laetitia Avia, rapporteure. Cet amendement vise à simplifier les mécanismes de notification des contenus illicites auprès des opérateurs de plateformes. Plusieurs éléments sont actuellement demandés ; nous proposons de rapprocher le texte de la pratique. Le notifiant devra fournir ses nom, prénoms et adresse électronique ou, s’il s’agit d’une personne morale, sa forme sociale, sa dénomination sociale et son adresse électronique ; les autorités administratives qui notifient devront quant à elles fournir leur dénomination et leur adresse électronique. Surtout, aucune de ces mentions ne sera nécessaire si le notifiant est enregistré sur la plateforme – d’où la référence à « tout élément d’identification mentionné au II de l’article 6 de la LCEN ». Le mécanisme actuel de notification est assez lourd – les notifiants doivent notamment fournir leur profession et d’autres éléments pour que leur signalement soit pris en compte – et cet amendement permet de le simplifier.

Mme Laure de La Raudière. Le sous-amendement CL289 vise à ajouter aux éléments à fournir une copie numérisée de la pièce d’identité du notifiant. Le Gouvernement souhaite que nous disposions de cartes d’identité numériques d’ici à la fin de l’année. Il me semble utile que les personnes qui notifient des signalements s’identifient afin d’éviter les signalements abusifs et que les notifiants soient responsables de la décision qu’ils prennent de signaler aux plateformes des contenus haineux. Je regretterais que cette modification ne soit pas adoptée car sur le plan technique, il sera bientôt aussi facile de fournir sa pièce d’identité que son adresse électronique, grâce à la carte d’identité électronique. Plaçons-nous dans cette perspective, puisque le présent texte n’entrera sans doute pas en vigueur avant que nous disposions tous d’une carte électronique.

Le sous-amendement CL290 vise les entreprises : il leur est aussi facile de joindre leur extrait K bis, qu’elles ont sous format PDF, que leur adresse électronique et leurs coordonnées.

Mme Laetitia Avia, rapporteure. L’amendement vise à simplifier les mécanismes de signalement. Or les sous-amendements complexifient la procédure actuelle. La LCEN ne prévoit pas la présentation d’une pièce d’identité par les notifiants. Nos deux approches sont donc très différentes. En outre, il se poserait une difficulté en termes de collecte des données personnelles : je serai toujours défavorable à ce qu’il soit demandé aux plateformes de collecter les copies des pièces d’identité des uns et des autres. Avis défavorable aux sous-amendements.

Mme Laure de La Raudière. J’entends ces arguments, mais nous ne pouvons éluder ce débat, notamment le fait que la LCEN assortit les notifications et signalements de la présentation de nombreuses données personnelles. D’autre part, ce problème peut très bien être résolu en imposant aux plateformes de ne pas conserver ces données personnelles. Je ne complexifie pas à outrance le mécanisme de notification : il est archi-simple. Il faut à mon sens responsabiliser les notifiants vis-à-vis des plateformes afin qu’elles retirent des contenus haineux. Il serait autrement plus compliqué d’aller devant le juge. Je suis favorable à cette proposition de loi mais je souhaite également que nous encadrions les notifications et que les notifiants, encore une fois, soient responsabilisés.

Mme Laetitia Avia, rapporteure. En période d’activité intense, je notifie jusqu’à une cinquantaine de signalements par jour. Il va de soi que je ne pourrai pas fournir une pièce d’identité à chaque fois ; c’est impossible. Le problème tient à la fois à la protection des données personnelles et au caractère pratique du mécanisme.

Il existe cependant – Mme Abadie vous en parlera certainement – un réel problème lié aux signalements abusifs, qui doivent faire l’objet d’une information à titre préventif et, le cas échéant, de sanctions.

Mme Caroline Abadie. En effet, cette question a été soulevée au cours de nos auditions : les plateformes nous ont fait part de leur crainte de se trouver inondées par des signalements abusifs. L’excès de signalements légitimes ne présenterait guère de problème, mais la préoccupation des plateformes est compréhensible dès lors que les signalements sont abusifs. Nous proposerons donc un amendement qui vise à limiter ce cas de figure.

En ce qui concerne les sous-amendements, prenons conscience du fait que les plateformes vont proposer aux utilisateurs la possibilité de signaler un contenu, soit un mécanisme bien plus formalisé que le simple pouce en l’air permettant de liker des publications. Y ajouter la présentation d’une pièce d’identité, c’est imposer la responsabilité au notifiant de prendre le temps de fournir son identité alors que nous voulons également responsabiliser les plateformes. En théorie, elles disposent de toutes les données permettant d’identifier les notifiants. N’y ajoutons pas un formalisme supplémentaire qui freinerait potentiellement les notifiants de bonne foi. Telle est la position du groupe La République en Marche.

La Commission rejette les sous-amendements.

Puis elle adopte l’amendement CL97.

En conséquence, l’article 1er bis est ainsi rédigé.

La Commission en vient à l’amendement CL274 de M. Buon Tan, qui fait l’objet du sous-amendement CL284 de la rapporteure.

Mme Caroline Abadie. Cet amendement du groupe La République en Marche, sur lequel M. Tan a travaillé, porte lui aussi sur les notifications abusives. Lorsque le notifiant clique sur le bouton de signalement dont nous parlerons dans un prochain article, nous souhaitons qu’il dispose de l’information à l’instant t, qu’il engage sa responsabilité et qu’il connaisse la peine qu’il encourt en cas de notification abusive, c’est-à-dire le signalement sciemment abusif d’un contenu qu’il sait ne pas être illicite. Nous tâchons de limiter ces comportements abusifs en plaçant les notifiants devant leurs responsabilités, sachant qu’elles sont authentifiées et identifiables par la plateforme.

Mme Laetitia Avia, rapporteure. Avis favorable, moyennant mon sous-amendement de coordination.

La Commission adopte le sous-amendement.

Puis elle adopte l’amendement CL274 sous-amendé.

En conséquence, l’article 1er ter est ainsi rédigé.

Avant l’article 2

La Commission examine l’amendement CL98 de la rapporteure.

Mme Laetitia Avia, rapporteure. Nous proposons de créer par cet amendement un chapitre relatif aux obligations de moyens faites aux plateformes, en l’occurrence le devoir de coopération des opérateurs de plateforme en matière de contenus haineux en ligne.

La Commission adopte l’amendement. Un chapitre II est inséré.

Article 2 (art. 6 de la loi n° 2004-575 du 21 juin 2004 pour la confiance dans l’économie numérique) : Amélioration de la procédure de notification d’un contenu haineux en ligne

La Commission examine l’amendement CL128 de M. Raphaël Gérard.

M. Raphaël Gérard. Cet amendement vise à soumettre les plateformes à une obligation d’informer les notifiants, au moment de la notification, des risques encourus en cas de signalements abusifs répétés. J’insiste bien sur cette notion. L’idée est d’ériger un garde-fou, puisque nous avons bien vu à quel point les mesures prévues à cet article 2 sont salutaires. Il s’agit de faire du signalement un acte citoyen, et pas un acte de délation.

Les dispositions introduites par la rapporteure, qui imposent de décliner nom, prénoms et adresse électronique, me paraissent permettre des opérations de « trolling » qui pourraient être massives. Il s’agirait, en cas de signalement abusif repéré par un opérateur ou une plateforme, d’informer une nouvelle fois le notifiant de ce qu’il encourt.

Mme Laetitia Avia, rapporteure. Comme l’a dit Mme Abadie, le groupe La République en Marche propose un dispositif qui permet une information à chaque signalement. J’ai donc l’impression que votre amendement est satisfait, cher collègue ; j’en demande le retrait.

M. Raphaël Gérard. Je ne suis pas sûr que nous parlions de la même chose. Je crains effectivement que l’amendement CL280 de Mme Abadie, de portée plus large, ne dissuade certains, notamment les mineurs, de signaler des contenus abusifs. Le rappel systématique des risques encourus pourrait les inquiéter et les dissuader d’entreprendre un signalement. Mon amendement a pour objet de réserver ce rappel au cas où une même personne aurait attiré l’attention par des signalements répétés.

Mme Laetitia Avia, rapporteure. La proposition équilibrée de Mme Abadie me paraît permettre de responsabiliser les notifiants. Le dispositif allégé que vous proposez serait peut-être moins adapté.

M. Raphaël Gérard. Je vais retirer l’amendement, mais j’aimerais que nous en rediscutions d’ici à l’examen du texte en séance.

L’amendement est retiré.

La Commission examine, en discussion commune, l’amendement CL99 de la rapporteure et l’amendement CL243 de M. Jean-Félix Acquaviva.

Mme Laetitia Avia, rapporteure. Il s’agit de retirer du dispositif de l’article 2 des dispositions que nous avons ajoutées à l’article 1er bis. C’est l’objet de mon amendement CL99.

M. Jean-Félix Acquaviva. L’amendement CL243 a pour vocation de circonscrire la simplification des mécanismes de signalement aux discours de haine signalés aux opérateurs de plateforme en ligne, en cohérence avec les II et III de l’article 2 et avec l’article 1er de la proposition de loi. L’amendement s’attache également à conserver, au regard des exigences du principe de légalité des délits et des peines, les éléments permettant au signalement d’être complet et fondé. Il nous semble également important, dans la mesure où le domicile pour une personne physique et le siège social pour une personne morale ne sont plus exigés, que les coordonnées téléphoniques de la personne physique ou morale qui procède à un signalement soient aussi communiquées. Enfin, afin de simplifier le plus possible les signalements, nous considérons indispensable de rendre accessible, depuis le site de l’opérateur, la liste des catégories auxquelles pourront être rattachés les contenus litigieux.

Mme Laetitia Avia, rapporteure. Nous venons de voter ces dispositions, cher collègue. Cela étant, le Conseil d’État a pu apprécier leur plein respect du principe de légalité des délits et des peines.

La Commission adopte l’amendement CL99.

En conséquence, l’amendement CL243 tombe, de même que les amendements CL258, CL259 et CL260 de Mme Laure de La Raudière ainsi que l’amendement CL72 de Mme George Pau-Langevin.

La Commission en vient à l’amendement CL125 de M. Jean-François Cesarini.

M. Jean-François Cesarini. Les sites et pages internet pouvant être très vastes, je propose que celui qui rapporte des contenus litigieux en fasse la description la plus précise possible, qu’il s’agisse d’une image ou de mots, afin de permettre une identification plus rapide par l’hébergeur.

Mme Laetitia Avia. Cet amendement se rattache à un énoncé qui, du fait de l’adoption de l’amendement CL99, ne figure plus dans le texte.

Sur le fond, l’amendement que nous avons adopté à l’article 1er bis prévoit effectivement que le contenu litigieux et les motifs pour lesquels il doit être retiré selon le notifiant soient décrits. Cela répond à votre préoccupation, sans obliger à retranscrire tout le contenu litigieux. Je vous invite donc à retirer votre amendement.

L’amendement est retiré.

La Commission examine l’amendement CL100 rectifié de la rapporteure.

Mme Laetitia Avia, rapporteure. Par cet amendement, je propose d’ajouter un nouvel article 6-3 à la LCEN pour mettre en harmonie l’ensemble que forment le devoir de coopération des plateformes et leurs obligations de moyen, avec toutes les dispositions de coordination nécessaires.

Sur le fond, cet amendement ajoute, au début de ces obligations, celle de se conformer aux recommandations du CSA pour la bonne application de l’obligation de retrait que nous venons d’adopter.

La Commission adopte l’amendement.

Elle en vient à l’amendement CL201 de M. Erwan Balanant.

M. Erwan Balanant. Cet amendement vise à obliger les opérateurs mentionnés à l’article 1er à informer tout auteur d’un contenu qui aurait fait l’objet d’un signalement de l’existence dudit signalement.

Ce dispositif reprend une préconisation du Conseil d’État, formulée au point 27 de l’avis qu’il a rendu. En effet, le Conseil d’État a estimé que « ces garanties sont justifiées par le caractère fondamental de la liberté d’expression au regard des risques élevés de censure excessive par les opérateurs de plateformes ». De plus, une telle information des auteurs des contenus litigieux encouragerait une forme d’autocensure et permettrait de faire comprendre à certaines personnes – qui, aujourd’hui, ne le comprennent pas – que leurs propos sont litigieux.

Mme Laetitia Avia, rapporteure. C’est précisément l’objet de mon amendement CL101, qui prévoit qu’à la fois le notifiant et l’utilisateur à l’origine de la publication sont informés du retrait du contenu et du motif dudit retrait.

La Commission rejette l’amendement.

Puis elle examine, en discussion commune, l’amendement CL101 de la rapporteure, qui fait l’objet des sous-amendements CL297 et CL298 de M. Erwan Balanant, et CL291 de Mme Laure de La Raudière, et l’amendement CL160 de Mme Albane Gaillot.

Mme Laetitia Avia, rapporteure. Comme je viens de l’indiquer, l’amendement CL101 vise à pleinement informer les utilisateurs des conséquences des signalements et de celles de leurs publications, ce qui a également une vertu pédagogique. Les opérateurs de plateformes informeront le notifiant et l’utilisateur à l’origine de la publication du contenu notifié des suites données à la notification, ainsi que des motifs des décisions, dans un délai de vingt-quatre heures, lorsqu’ils retirent un contenu ou le font déréférencer. Comme il me paraît important de répondre à tout signalement, ils devront également le faire lorsqu’ils ne retirent pas le contenu signalé – mais alors dans un délai de sept jours à compter de la réception du signalement.

M. Erwan Balanant. Je retire l’amendement CL297 et, par le sous-amendement CL298, je propose de fixer à quarante-huit heures plutôt qu’à sept jours le délai dans lequel les opérateurs doivent tenir informés les auteurs de signalements des suites données à leur demande de suppression de contenus lorsque ceux-ci ne sont finalement pas supprimés. C’est un délai qui me paraît praticable et, contrairement au délai de sept jours – trop long –, évite que le signalement fasse tache d’huile.

Mme Laure de La Raudière. L’amendement reprend l’idée dont procédait un autre, tombé à la suite de la suppression des alinéas 3 à 5 de l’article 1er. Il vise à ce que soient rappelées, par une formulation générale, à l’auteur de la publication supprimée, dans la notification qui lui est envoyée, les sanctions civiles et pénales encourues en cas de publication d’un contenu manifestement illicite. Il s’agit de faire de la pédagogie, car certains auteurs ne sont pas conscients du fait que ce qu’ils écrivent en ligne peut être constitutif d’un délit pénal.

Mme Laetitia Avia, rapporteure. Un délai de quarante-huit heures, cher collègue Balanant, reste assez court, d’autant qu’il s’agit vraiment d’une démarche pédagogique en vue d’expliquer les raisons de l’absence de retrait d’un contenu qui n’est pas manifestement illicite. Je préfère que les plateformes concentrent leur énergie, leurs moyens, leur célérité sur la lutte contre les contenus illicites. Vient ensuite le travail d’information, bien sûr, mais dans des délais moins contraints, et qui restent raisonnables.

Concrètement, si vous signalez un contenu que vous considérez comme manifestement illicite et que vous n’êtes pas informé dans un délai de vingt-quatre heures du retrait de ce contenu, cela veut dire qu’il n’a pas été considéré comme manifestement illicite, ce qui vous permet d’agir ensuite par toutes voies de droit à votre disposition, et vous recevrez, dans un délai de sept jours, le message vous indiquant, avec cette dimension pédagogique, qu’il n’était pas manifestement illicite. Je suis donc défavorable, cher collègue, à votre amendement CL298.

Je me demandais si l’amendement CL291 était placé au bon endroit, mais il me paraît répondre à la même préoccupation que l’amendement CL19 rectifié de notre collègue Kuster à l’article 3, auquel j’allais vous proposer, chère collègue de La Raudière, de vous rallier, mais, finalement, je propose que nous l’adoptions.

Mme la présidente Yaël Braun-Pivet. Je rappelle que cet amendement CL101, objet de plusieurs sous-amendements, était en discussion commune avec l’amendement CL160 de Mme Albane Gaillot.

Mme Albane Gaillot. Dans le rapport « En finir avec l’impunité des violences faites aux femmes en ligne : une urgence pour les victimes » qu’il a rendu en 2018, le Haut Conseil à l’égalité entre les femmes et les hommes constate le manque de transparence et in fine de pédagogie des procédures de traitement des signalements. Je propose, par cet amendement CL160, d’y remédier en imposant aux opérateurs d’informer le notifiant des suites données à sa demande de retrait. Toutefois, et afin de faire preuve de pédagogie, il vise à imposer aux opérateurs non pas seulement d’informer mais plutôt de justifier au notifiant des suites données à sa demande de retrait : infraction concernée, règle de communauté transgressée, etc.

Mme Laetitia Avia, rapporteure. L’amendement me paraît relativement satisfait, car un certain nombre d’informations doivent être données aux utilisateurs, notamment sur les motifs du retrait. Je vous invite donc, chère collègue, à retirer votre amendement.

Les amendements CL297 et CL160 sont retirés.

La Commission rejette le sous-amendement CL298.

Puis elle adopte le sous-amendement CL291.

Puis elle adopte l’amendement CL101 ainsi sous-amendé.

En conséquence, les amendements CL56 de M. M’jid El Guerrab, CL194 de M. Erwan Balanant, CL181 de Mme Marie-France Lorho, CL244 de M. Paul Molac et CL195 de M. Erwan Balanant tombent.

La Commission adopte l’amendement de cohérence CL102 de la rapporteure.

Puis elle examine l’amendement CL268 de Mme Caroline Abadie.

Mme Caroline Abadie. Il est proposé, dans la proposition de loi, que le bouton de signalement soit « facilement accessible », objectif que nous partageons. En revanche, nous considérons que l’adverbe « facilement » peut engendrer de multiples interprétations de la part des plateformes, qui peuvent fort bien placer ce bouton dans ce qu’on appelle le footer – pied de page – ou dans les frequently asked questions (FAQ).

Pour éviter que ce bouton soit dissimulé, nous suggérons qu’il soit « directement » accessible, c’est-à-dire que, sur chaque contenu, sur chaque poste, sur chaque commentaire, sur chaque page du résultat d’un moteur de recherche, il soit visible et directement accessible depuis le contenu jugé illicite par l’utilisateur.

Mme Lætitia Avia, rapporteure. Avis très favorable.

La Commission adopte l’amendement.

Puis elle en vient à l’amendement CL127 de M. Raphaël Gérard.

M. Raphaël Gérard. Cet amendement vise à préciser l’obligation des plateformes en matière de conservation des données permettant aux victimes d’engager des procédures judiciaires à l’encontre des auteurs de contenus haineux sur les réseaux sociaux.

Aujourd’hui, trop souvent, les plateformes ne conservent pas les données nécessaires permettant d’identifier l’auteur des contenus haineux qui ont pu être retirés ou supprimés. À titre d’exemple, Facebook conserve ce type de données pendant une durée d’un mois, ce qui est en total décalage avec le délai de prescription des infractions liées à la loi sur la liberté de la presse et concernant les injures à caractère haineux ou discriminatoire, qui court sur un an. Les plateformes se retranchent souvent derrière le fait que l’obligation de conservation généralisée des données prévues par la LCEN n’est pas conforme au droit européen, et notamment aux dispositions du Règlement général sur la protection des données.

La Cour de justice de l’Union européenne (CJUE) demande, il est vrai, de circonscrire cette obligation dans les limites de ce qui est strictement nécessaire. C’est pourquoi je propose de préciser qu’en cas de retrait de contenus, les plateformes conservent les données utiles aux fins de poursuites judiciaires pour les victimes.

Cette disposition permettra sans doute de briser le sentiment d’impunité qui règne en ligne, y compris dans les cas de cyberharcèlement, où il reste compliqué pour les victimes de produire les preuves nécessaires.

Mme Lætitia Avia, rapporteure. Je comprends la difficulté que vous soulevez, mais les obligations relatives à la conservation des données ne me paraissent pas relever du champ de cette proposition de loi. Par ailleurs, sur le fond, votre rédaction est trop imprécise sur la durée de conservation des données. Demande de retrait ou avis défavorable.

M. Raphaël Gérard. Compte tenu des réelles difficultés pour engager des poursuites quand les preuves ont disparu, j’estime que cette question ne doit pas être écartée. Je vais donc retravailler cet amendement pour la séance.

L’amendement est retiré.

La Commission examine l’amendement CL161 de Mme Albane Gaillot.

Mme Albane Gaillot. Le présent amendement permettrait de faire des progrès en transparence et en pédagogie en imposant aux opérateurs de justifier auprès de l’auteur du contenu litigieux des suites données au signalement qui le vise : infraction concernée, règle de communauté transgressée ou non, etc.

Mme Laetitia Avia, rapporteure. Cet amendement est satisfait par l’adoption de mon amendement CL101 que nous venons d’adopter.

L’amendement est retiré.

La Commission adopte l’amendement de précision CL103 de la rapporteure.

Puis elle en vient à l’amendement CL73 de M. Hervé Saulignac.

M. Hervé Saulignac. Cet amendement concerne les moyens humains qui sont nécessaires à l’identification précise des contenus par les opérateurs. Il rappelle très simplement qu’il n’est pas souhaitable que l’ensemble du traitement des contenus repose exclusivement sur des moyens technologiques. Pour retirer un contenu, il faut la supervision d’un individu, d’un être humain et pas seulement d’une machine.

Mme Laetitia Avia, rapporteure. Je pense que, dans ce domaine, le RGPD est suffisamment complet : le traitement ne peut être totalement automatisé et algorithmique, sauf si les utilisateurs en sont pleinement informés et peuvent formuler certaines demandes. Demande de retrait ou, à défaut, avis défavorable.

La Commission rejette l’amendement.

Puis elle examine l’amendement CL202 de M. Erwan Balanant.

M. Erwan Balanant. Nous souhaitons que les opérateurs mentionnés à l’article 1er mettent à la disposition des visiteurs des pages web qu’ils gèrent une information claire, précise et détaillée sur les recours dont ces derniers disposent à l’encontre de leur décision d’effacer ou de maintenir en ligne un contenu ayant fait l’objet d’un signalement. Les recours détaillés devront correspondre à ceux susceptibles d’être exercés non seulement par le notifiant mais également par l’auteur d’un contenu effacé. Ce dispositif correspond à une recommandation formulée au point 27 de l’avis du Conseil d’État sur la proposition de loi dont nous sommes saisis, en vue d’assurer la pleine effectivité de la liberté d’expression et d’éviter les censures excessives.

Mme Laetitia Avia, rapporteure. C’est l’objet de mon amendement CL109 à l’article 3, auquel je vous invite à vous rallier.

M. Erwan Balanant. Dans un souci de clarté, nous pourrions l’adopter néanmoins et conserver votre article 3.

Mme Laetitia Avia, rapporteure. L’article 3 porte sur le devoir d’information et cette disposition y a sa place. Pour la lisibilité du texte, il vaut mieux structurer les éléments.

La Commission rejette l’amendement.

Elle examine l’amendement CL104 de la rapporteure.

Mme Laetitia Avia, rapporteure. L’amendement reprend les dispositions de l’article 1er relatives aux mécanismes de recours interne contre les décisions prises par les opérateurs de plateforme en ligne à l’égard des contenus manifestement haineux. Cela permettra aussi d’améliorer le traitement des signalements et constituera un retour d’expérience utile auprès du régulateur.

M. Frédéric Reiss. Cet amendement est important. Il ne simplifie pas forcément les choses, mais il contribue à la transparence. Après avoir supprimé les alinéas 3 à 5 de l’article 1er, il fallait réintroduire un dispositif allant dans le même sens, afin qu’un utilisateur dont le contenu est retiré d’une publication puisse contester cette décision, de même qu’il était important de permettre à l’auteur de signalement de contester le fait que sa notification n’avait pas été suivie d’effet. Je suis donc très favorable à cet amendement.

La Commission adopte l’amendement.

Puis elle adopte l’article 2 modifié.

Mme la présidente Yaël Braun-Pivet. Nous allons interrompre nos travaux. Il nous restera 143 amendements à examiner cet après-midi.

Seconde réunion du mercredi 19 juin 2019

Lien vidéo : http://assnat.fr/zzQ116

La Commission poursuit l’examen des articles de la proposition de loi visant à lutter contre la haine sur internet (n° 1785) (Mme Laetitia Avia, rapporteure)

Mme la présidente Yaël Braun-Pivet. Mes chers collègues, nous poursuivons l’examen de la proposition de loi visant à lutter contre la haine sur internet (n° 1785). Nous en étions arrivés aux amendements portant article additionnel après l’article 2.

Après l’article 2

La Commission examine en discussion commune l’amendement CL175 de M. Jean-Michel Mis, les amendements identiques CL50 de Mme Laurence Vichnievsky et CL166 de Mme Cécile Untermaier, ainsi que les amendements identiques CL53 de Mme Laurence Vichnievsky et CL167 de Mme Cécile Untermaier.

M. Rémy Rebeyrotte. L’amendement CL175 vise à offrir aux mineurs, premiers utilisateurs des plateformes en ligne, une protection spéciale lorsqu’ils sont victimes de cyberviolence, que le contenu soit manifestement illicite ou qu’il s’agisse de haine sur internet. Cela peut, en effet, avoir des conséquences extrêmement graves pour les mineurs victimes.

Mme Isabelle Florennes. L’amendement CL50 est similaire. Les mineurs sont seuls face aux réseaux sociaux, notamment quand ils sont victimes d’attaques ou de harcèlement. Ils ne savent pas décrire en quoi les contenus sont manifestement illicites et n’ont pas toujours envie d’en parler à leurs parents. Il serait donc utile qu’une personne morale puisse signaler un contenu haineux. La mission du signaleur de confiance va d’ailleurs bien au-delà du signalement : il agit comme interface entre les plateformes et les mineurs. L’amendement conserve néanmoins le délai de vingt-quatre heures, afin de tenir compte des arguments techniques de Mme la rapporteure.

M. Hervé Saulignac. L’amendement CL166 est identique. Les jeunes peuvent à la fois être victimes de cyberviolence et de cyberharcèlement. Il faut donc leur permettre de saisir, sans autorisation parentale – c’est essentiel – un signaleur de confiance, tel que défini par la recommandation de la Commission européenne du 1er mars 2018 sur les mesures destinées à lutter de manière efficace contre les contenus illicites en ligne. L’amendement CL167 est de repli puisqu’il ne concerne que la cyberviolence.

Mme Isabelle Florennes. L’amendement CL53 est également de repli. Il ne vise que les délits prévus dans le cadre de la loi du 29 juillet 1881 sur la liberté de la presse, les contenus haineux et injurieux étant plus faciles à qualifier que la haine qui s’apprécie au cas par cas.

Mme Laetitia Avia, rapporteure. Ces différents amendements ont le même objectif : permettre à un mineur victime de comportements illicites sur internet de pouvoir faire appel à une association qui assurera, à sa place, le signalement et le suivi. J’y souscris pleinement. Mais les différentes rédactions posent problème – retour dans les douze heures, alors que la proposition de loi prévoit vingt-quatre heures dans tous les cas ; champs différents ; risque de lecture a contrario des dispositions. Sur ce dernier point, alors que la proposition de loi prévoit que toute association peut procéder à des signalements sur la plateforme, je crains que vos amendements restreignent ce droit aux seules associations visées. Je vous propose donc de les retirer, afin que nous puissions trouver une rédaction commune pour la séance, sur la base du délai de vingt-quatre heures et de l’objectif d’accompagnement des mineurs.

M. Rémy Rebeyrotte. Dans cette hypothèse, Jean-Michel Mis m’avait autorisé à retirer l’amendement CL175.

Mme Isabelle Florennes. Nos propositions étaient ajustables. Nous allons retirer les amendements CL50 et CL53.

Mme George Pau-Langevin. Dans votre logique, tout le monde peut procéder à un signalement. Mais nous savons tous que certaines associations ont plus l’habitude et la compétence pour le faire – que ce soit parce qu’elles travaillent avec des mineurs ou traitent des sujets en lien avec le racisme. Il serait dommage de s’en priver et de ne pas leur faire une place spécifique. Dans les codes de bonnes pratiques européens, les signaleurs de confiance ont d’ailleurs un rôle particulier. Pourquoi ne pas prévoir un statut spécifique ? Je retire les amendements mais reprendrai l’idée pour la séance.

Les amendements sont retirés.

Article 3 : Devoir d’information des opérateurs de plateforme en ligne à fort trafic

La Commission adopte l’amendement de cohérence CL105 de la rapporteure.

Elle en vient à l’amendement CL176 de M. Erwan Balanant.

M. Erwan Balanant. Pour faire suite à l’amendement à l’article 2 sur la teneur de l’obligation d’information incombant aux opérateurs, et afin de rendre le dispositif plus opérationnel, le présent amendement vise à compléter l’obligation d’information en imposant aux opérateurs de publier la définition des différentes infractions d’injure et d’incitation à la haine. Un tel dispositif poursuit un double objectif. D’une part, il a une visée pédagogique, puisqu’il sensibilise l’ensemble des utilisateurs à la teneur d’une injure ou d’une incitation à la haine. Confrontés très régulièrement à ces informations au cours de leurs différentes connexions, ils auront ainsi une conscience accrue de ce qu’ils peuvent ou non exprimer sur ces dernières. D’autre part, il permettrait aux victimes de contenus relevant de l’injure ou de l’incitation à la haine de les identifier comme tels. Elles seraient alors incitées à agir.

Mme Laetitia Avia, rapporteure. Je comprends votre intention mais l’amendement pose problème. Votre rédaction ne vise pas l’ensemble des infractions concernées par la proposition de loi. Que couvre-t-on ? L’injure, l’injure discriminatoire, l’incitation ou la provocation à la haine ? C’est très lourd… Je crois à la vertu de la pédagogie et de l’éducation. Je vous demanderai de bien vouloir retirer l’amendement. À défaut, mon avis sera défavorable.

M. Erwan Balanant. Je ne vois pas en quoi le fait de disposer d’informations claires sur ce qu’est l’infraction d’injure ou d’incitation à la haine serait problématique. Vous parlez de pédagogie : la pédagogie, c’est l’art de la répétition ! Plus on répétera, plus il est probable que les utilisateurs – jeunes ou moins jeunes – percevront la signification des mots. M. Cédric O, secrétaire d’État chargé du numérique, nous l’a dit : certaines personnes n’ont pas conscience de la teneur de leurs propos… Nous devons faire un travail de fond, et celui-ci passe par la multiplication des alertes. Je ne retire pas mon amendement.

La Commission rejette l’amendement.

Puis elle adopte l’amendement CL106 de précision de la rapporteure.

Elle en vient à l’amendement CL269 de Mme Caroline Abadie.

Mme Caroline Abadie. L’amendement concerne également l’obligation d’information du public. Nous souhaitons indiquer aux personnes qui notifient des contenus quels sont leurs délais de recours en justice. En effet, ils sont courts. Il est donc utile de disposer de l’information dès la notification.

Mme Laetitia Avia, rapporteure. Mon avis est favorable. Cette information est nécessaire.

La Commission adopte l’amendement.

Elle passe à l’amendement CL86 de M. Hervé Saulignac.

M. Hervé Saulignac. Là encore, il s’agit de mieux informer les usagers. Nous proposons de supprimer la mention de l’alinéa 1 qui distingue les victimes « de contenus mentionnés à l’article 1er ». Même si les contenus signalés dépassent le champ d’application de la présente proposition de loi, il est impératif que les opérateurs informent de leurs droits les victimes qui ont procédé à un signalement.

Mme Laetitia Avia, rapporteure. Je comprends parfaitement votre objectif. Mais je l’ai déjà rappelé ce matin : toutes les obligations de moyens prévues par la proposition de loi sont soumises à la régulation du Conseil supérieur de l’audiovisuel (CSA). Son pouvoir de sanction étant extrêmement important, nous devons rester dans le champ restreint fixé par le Conseil d’État – contenus haineux, injurieux ou offensants.

En outre, d’un point de vue pratico-pratique, j’imagine difficilement les plateformes mettre en place des mécanismes de réponse uniquement sur un certain nombre de contenus. Les bonnes pratiques que nous cherchons à mettre en place vont sans doute permettre de développer un système vertueux.

M. Hervé Saulignac. Le problème n’est ni pratico-pratique ni technique, il s’agit simplement d’un signalement qui ne correspond pas au contenu mentionné à l’article 1er. Mais il peut néanmoins avoir du sens et être fondé. Une réponse – même automatique – pourrait parfaitement indiquer à celui qui se considère comme victime quels sont ses droits. Le pire serait de le laisser seul et sans réponse…

Mme Laetitia Avia, rapporteure. Je me suis sans doute mal exprimée : en pratique, vous avez raison, c’est faisable. La difficulté est d’ordre juridique – nous ne pouvons aller au-delà du champ visé par le texte –, celui soumis à la régulation. Nous avions initialement envisagé de demander aux plateformes de répondre à tout signalement dans un délai de sept jours, mais le Conseil d’État l’a refusé, au motif que cela ne concernait pas les contenus visés dans la proposition de loi. Hors de ce périmètre, il est impossible de fixer des obligations aux plateformes.

J’aimerais beaucoup aller plus loin, mais je ne veux pas mettre en danger la constitutionnalité et la conventionnalité du texte – nous y serions tous perdants. En pratique, je le répète, il serait plus intelligent que les plateformes répondent pour tous les contenus – et non uniquement pour ceux prévus par la proposition de loi. Espérons qu’elles le fassent, encourageons-les à le faire, mais nous ne pouvons pas l’écrire dans la loi.

La Commission rejette l’amendement.

Elle adopte ensuite l’amendement de coordination CL107 puis l’amendement rédactionnel CL108 de la rapporteure.

Elle en vient à l’amendement CL165 de Mme Michèle Victory.

M. Hervé Saulignac. Cet amendement reprend une recommandation du rapport de la commission d’enquête sur la lutte contre les groupuscules d’extrême droite en France, afin de valoriser davantage le rôle des associations qui luttent contre la propagation des discours haineux. Il aurait peut-être été bienvenu de prendre le temps nécessaire pour intégrer dans la proposition de loi certaines recommandations de cette commission d’enquête.

Mme Laetitia Avia, rapporteure. Je crains que l’amendement n’alourdisse la rédaction. La formulation retenue est volontairement générale – « les acteurs en mesure d’assurer leur accompagnement » – et permet de s’adapter à la pluralité des victimes, tout en incluant les associations d’aide aux victimes.

La Commission rejette l’amendement.

Puis elle examine l’amendement CL280 de Mme Caroline Abadie.

Mme Caroline Abadie. Nous l’avons abordé lors de la discussion générale, l’amendement vise à informer la personne qui notifie des risques qu’elle encourt en cas de notification abusive. Il ne s’agit pas d’empêcher un notifiant de bonne foi de signaler un contenu illicite, mais de limiter les notifications abusives – celles faites en parfaite connaissance de cause du caractère non-illicite du contenu.

Mme Laetitia Avia, rapporteure. Mon avis est favorable car cette précision vient compléter le dispositif voté ce matin concernant les notifications abusives.

La Commission adopte l’amendement.

Elle passe à l’amendement CL109 de la rapporteure.

Mme Laetitia Avia, rapporteure. Cet amendement vise à compléter le devoir d’information des plateformes : elles doivent informer les utilisateurs auteurs de contenus retirés des voies de recours – internes et judiciaires – dont ils disposent, et pas seulement les victimes de ces contenus.

La Commission adopte l’amendement.

Puis elle en vient à l’amendement CL19 rectifié de Mme Brigitte Kuster.

Mme Brigitte Kuster. L’article 3 impose à dessein aux opérateurs d’informer leurs utilisateurs qui s’estiment victimes de contenus haineux sur leurs recours, y compris judiciaires. Mais, par parallélisme des formes, l’amendement propose que les opérateurs communiquent auprès des utilisateurs qui publient lesdits contenus sur les sanctions qu’ils encourent. Une telle disposition présenterait un caractère dissuasif. C’est pourquoi nous proposons de compléter l’article 3 par l’alinéa suivant : « Ils mettent à disposition une information publique, claire et détaillée sur les sanctions, y compris judiciaires, que leurs utilisateurs encourent en cas de publication de contenus mentionnés au même article ».

Mme Laetitia Avia, rapporteure. Vous aviez également déposé cet amendement lors des débats en commission des Affaires culturelles et de l’éducation. Il est pertinent et complète utilement le dispositif d’information.

La Commission adopte l’amendement.

Elle examine l’amendement CL270 rectifié de Mme Albane Gaillot.

Mme Albane Gaillot. Le testing des différentes plateformes réalisé par le Haut Conseil à l’égalité entre les femmes et les hommes dans le cadre de son rapport de février 2018 « En finir avec l’impunité des violences faites aux femmes en ligne : une urgence pour les victimes » a mis en lumière le manque de clarté des règles de modération transmises aux équipes de modération des plateformes qui sont chargées de décider si un contenu est conforme au règlement de la plateforme. C’est pourquoi le présent amendement vise à imposer aux plateformes de rendre publiques leurs règles de modération.

Mme Laetitia Avia, rapporteure. C’est une information importante en termes de transparence – selon quelles règles les contenus sont-ils retirés ? L’information est aujourd’hui asymétrique sur les différentes plateformes.

La Commission adopte l’amendement.

La Commission passe à l’amendement CL126 de M. Jean-François Cesarini.

M. Jean-François Cesarini. L’amendement vise à sanctionner les abus de dénonciation de contenus litigieux. Certaines plateformes disposent déjà de moyens de signalement et certains utilisateurs se regroupent pour signaler en bloc des contenus, dans le seul objectif d’empêcher l’autre de communiquer. S’il faut protéger ceux qui sont injuriés, il faut aussi sanctionner pénalement ceux qui signalent de manière malhonnête.

Mme Laetitia Avia, rapporteure. Nous avons voté ce matin un amendement similaire au vôtre, mais avec des peines cohérentes avec les dispositions de la loi pour la confiance dans l’économie numérique (LCEN) – 15 000 euros d’amende. Je vous remercie de bien vouloir le retirer.

L’amendement est retiré.

La Commission examine l’amendement CL110 de la rapporteure qui fait l’objet des sous-amendements CL141 de Mme Isabelle Florennes, CL293 de Mme Laure de La Raudière et CL164 de Mme Isabelle Florennes.

Mme Laetitia Avia, rapporteure. L’amendement CL110 reprend une des préconisations du Conseil d’État en matière de modération et de lutte contre les contenus haineux. Il vise à obliger les plateformes à rendre compte de l’organisation interne et des moyens qu’elles mettent en œuvre pour se conformer à l’obligation de retrait et de leurs moyens et actions dans la lutte contre les contenus illicites.

Le CSA fixera la liste des informations que les plateformes rendent publiques – certaines seront simplement transmises au CSA, d’autres communiquées au grand public.

Mme Isabelle Florennes. Les sous-amendements CL141 et CL164 sont de précision. Il s’agit de prévoir que les informations transmises devront notamment contenir les données quantitatives relatives aux contenus signalés, retirés, aux comptes suspendus ou supprimés, et les motifs ayant conduit à cette décision, ainsi que les actions de prévention mises en œuvre pour lutter contre la haine sur internet et le harcèlement, en particulier celles à destination des utilisateurs mineurs. Nous précisons en outre que les données devront être traitées et intégrées au rapport annuel d’activité du CSA.

Mme Laure de La Raudière. Le sous-amendement CL293 vise à préciser que la communication de ces informations se fera dans le respect du secret des affaires. Bien sûr, le CSA devra disposer d’un pouvoir d’audit des moyens mis en œuvre par les plateformes et comprendre dans le détail le fonctionnement des algorithmes. Mais, pour que la coopération avec les plateformes soit efficace et afin qu’elles soient rassurées, il conviendrait de préciser que la communication des données recueillies respectera le secret des affaires.

Mme Laetitia Avia, rapporteure. Madame de la Raudière, concernant le secret des affaires, je partage votre objectif, mais il va de soi. Les membres et agents du CSA sont astreints à un secret professionnel pour les faits, actes et renseignements dont ils peuvent avoir connaissance dans le cadre de leurs fonctions. Je crains que la rédaction de votre sous-amendement n’entraîne des conséquences mal évaluées. Je vous propose de vérifier si l’état actuel du droit permet d’éviter d’apporter cette précision. Dans l’attente, je vous demanderai de bien vouloir retirer le sous-amendement CL293.

Madame Florennes, le sous-amendement CL141 me semble trop restrictif. En effet, si certaines informations ont vocation à être transmises seulement une fois par an, d’autres pourraient être transmises mensuellement, trimestriellement ou semestriellement. La relation entre le CSA et les plateformes impliquera peut-être des échanges infra-annuels.

Le sous-amendement CL164 précise les informations à transmettre au CSA. Mais le mieux est parfois l’ennemi du bien… S’agissant des données quantitatives relatives aux contenus signalés, retirés, aux comptes suspendus ou supprimés, cela va de soi. Si les rapports de transparence ne contiennent pas ces informations, ils seront inutiles.

Vous souhaitez également la transmission des motifs ayant conduit à la décision – c’est lourd –, les actions de prévention mises en œuvre pour lutter contre la haine sur internet – c’est très large – et le harcèlement – ce n’est pas dans le champ de la loi – en particulier celles à destination des mineurs. Je vous propose soit de mettre à profit le temps qui nous reste avant la séance pour trouver une rédaction satisfaisante, en prenant en compte les préconisations du rapport de Benoit Loutrel, soit de rectifier le sous-amendement en ne le conservant que jusqu’au mot « supprimés ».

Mme Isabelle Florennes. S’agissant du sous-amendement CL141, vous m’indiquez que les informations seront bien intégrées au rapport annuel, et que des rendez-vous réguliers et la mise à jour des informations sont prévus.

S’agissant du sous-amendement CL164, notre groupe est très attaché à la prévention. Mais compte tenu des différentes modifications de la proposition de loi que vous avez opérées par amendement, il était complexe d’intégrer ce volet dans le dispositif. Il serait donc intéressant de réfléchir avec vous sur cet aspect qui nous tient à cœur, pour la séance.

Mme Laetitia Avia, rapporteure. Je m’y engage.

Mme Cécile Untermaier. Comme toute autorité administrative indépendante, le CSA rend un rapport annuel, qui comprendra une partie spécifique relative à ses nouvelles missions. Mais pourriez-vous nous en dire plus sur ce rapport ? S’agira-t-il d’un rapport numérique régulier, qui permettrait à chacun de savoir où en sont les signalements ?

M. Erwan Balanant. Ma question concerne notre sous-amendement CL141. Les autorités administratives indépendantes ont-elles l’obligation de rendre compte annuellement ? Si ce n’était pas le cas, il faudrait rectifier le sous-amendement pour indiquer « a minima annuellement ». Ainsi, nous aurions la certitude de disposer d’un rapport annuel, mais il pourrait y en avoir plus régulièrement. La proposition de Mme Untermaier est également intéressante. Peut-être peut-on y réfléchir pour la séance ?

Mme Laetitia Avia, rapporteure. Je suis toujours prête à faire plaisir à Erwan Balanant ! On peut prévoir dans la loi « au moins annuellement ». Pourquoi pas ?

Pour répondre à la question de Mme Untermaier, il faut distinguer la transparence vis-à-vis du CSA et la transparence vis-à-vis du public. Actuellement, pour ce dernier, la transparence est au moins annuelle. J’espère que, demain, elle pourra être plus régulière. Initialement, j’avais utilisé le terme « périodique » pour l’encourager, mais le Conseil d’État a souhaité qu’une périodicité précise soit indiquée. En pratique, les rapports de transparence seront bien plus réguliers, car la matière évolue rapidement.

Mme Fabienne Colboc, rapporteure pour avis. Peut-être le CSA pourra-t-il nous indiquer la périodicité. En effet, il rédigera les bilans en collaboration avec les plateformes.

Mme Laure de La Raudière. Notre discussion souligne que la rédaction mérite d’être clarifiée, en séparant clairement les informations à destination du public de celles nécessaires au travail du CSA avec les plateformes. Le secret des affaires pourrait ainsi être intégré.

Les sous-amendements CL141, CL293 et CL164 sont retirés.

Mme la présidente Yaël Braun-Pivet. Je prends note de l’engagement de la rapporteure à travailler avec vous sur ces différentes thématiques.

La Commission adopte l’amendement CL110.

La Commission examine l’amendement CL11 de la commission des Affaires culturelles et de l’éducation, qui fait l’objet des sous-amendements CL285 et CL286 de la rapporteure.

Mme Fabienne Colboc, rapporteure pour avis. Afin de renforcer l’efficacité de la lutte contre les contenus haineux en ligne, notre amendement propose d’imposer aux plateformes qui permettent à des mineurs de moins de quinze ans de s’inscrire de délivrer à ces derniers, ainsi qu’à leurs parents, une sensibilisation à l’utilisation civique et responsable de leur service, ainsi qu’une information sur les risques juridiques encourus par le mineur et ses parents en cas de diffusion de contenus haineux.

Mme Laetitia Avia, rapporteure. Le sous-amendement CL285 vise à déplacer votre amendement dans le champ du devoir de coopération des opérateurs de plateforme prévu par l’article 6-3 de la LCEN.

Le sous-amendement CL286 vise à supprimer la seconde phrase de l’amendement. Cette nouvelle obligation figurant à l’article 6-3 précité, dans le champ du devoir de coopération des opérateurs de plateforme, il n’y a pas lieu de faire référence au CSA. En outre, vous souhaitez qu’elle concerne « chaque opérateur », ce qui est très lourd. Nous préférons conserver l’obligation générale, liée au devoir de coopération à la charge des opérateurs.

Mme Fabienne Colboc, rapporteure pour avis. L’objectif de la commission des Affaires culturelles et d’éducation me semble satisfait par vos sous-amendements. Pour autant, et même s’il n’est pas utile de l’inscrire dans la loi, il faudra que cette sensibilisation prenne une forme active, impliquant la participation des utilisateurs, et ne se réduise pas à la diffusion discrète d’un message rapidement oublié…

M. Hervé Saulignac. Je vous avoue que je suis assez étonné, madame la rapporteure. Tout à l’heure, vous avez refusé un amendement visant à donner une simple information aux internautes faisant un signalement qui n’était pas dans les clous. Et là, vous donnez un avis favorable à un amendement qui vise à obliger les plateformes à délivrer des informations pour sensibiliser les parents de mineurs de moins de quinze ans, disposition aussi inutile que difficile à mettre en œuvre. J’ai l’impression que vous faites un tri sélectif dans les amendements et que vous voulez ici faire plaisir à une collègue, ce que je peux comprendre mais il faut le dire clairement.

Mme Fabienne Colboc, rapporteure pour avis. Il est important de rappeler que les parents sont responsables juridiquement de leurs enfants mineurs. Dans le cadre de la prévention, il est important de les impliquer. Ce n’est pas pour me faire plaisir que Mme la rapporteure a donné un avis favorable mais parce que cet amendement est étayé par les arguments avancés par plusieurs des personnes que nous avons auditionnées.

Mme Danièle Obono. Ce qui est en jeu, c’est l’opérationnalité du texte.

Mme Fabienne Colboc, rapporteure pour avis. Les parents étant censés autoriser l’inscription de leurs enfants de moins de quinze ans, autant leur fournir tous les renseignements nécessaires. Beaucoup de parents ne prennent conscience des enjeux attachés à l’utilisation des plateformes qu’une fois que les dégâts sont constatés.

Mme Laetitia Avia, rapporteure. Depuis le début de nos discussions, je donne des avis favorables sans qu’interviennent des considérations sur le groupe à l’origine de l’amendement. Je prends en compte les critères d’opérationnalité et je ne pense pas avoir fait preuve de sectarisme. Il ne s’agit pas de faire plaisir à qui que ce soit. Seules m’importent les dispositions qui vont dans le bon sens.

Par ailleurs, je rappelle que par mon sous-amendement, j’ai proposé de retirer le second alinéa de l’amendement CL11 qui ne me paraît pas opérationnel. J’ai suggéré de faire rentrer le premier alinéa dans l’article 6-3 de la LCEN, c’est-à-dire dans le champ des obligations de moyens imposées aux plateformes. Elles seraient soumises à l’obligation de mettre en œuvre des dispositifs d’information et de sensibilisation des parents.

Au titre du RGPD, les mineurs de moins de treize ans ne peuvent donner leur consentement pour créer un compte sur les réseaux sociaux et ceux qui sont âgés de treize à quinze ans doivent recueillir l’autorisation parentale pour s’inscrire. Concrètement, c’est à cette étape que les informations seraient délivrées aux parents pour les mettre en garde contre les dangers possibles de l’utilisation de la plateforme. Cela me semble aller dans le bon sens.

La Commission adopte successivement les sous-amendements CL285 puis CL286.

Elle adopte ensuite l’amendement CL11 sous-amendé.

La Commission est saisie de l’amendement CL111 de la rapporteure.

Mme Laetitia Avia, rapporteure. Cet amendement reprend, dans le régime instauré par la proposition de loi, l’obligation faite aux opérateurs de plateforme de rendre compte aux autorités publiques des activités haineuses prévue dans la LCEN.

La Commission adopte l’amendement.

La Commission adopte ensuite l’article 3 modifié.

Après l’article 3

La Commission examine ensuite l’amendement CL112 de la rapporteure.

Mme Laetitia Avia, rapporteure. Il s’agit, par cet amendement, de transférer après l’article 3 une partie des dispositions de l’article 5 relatives à la coopération des acteurs numériques avec l’autorité judiciaire. Cela concerne l’aggravation des sanctions pénales en cas de non-coopération, qui passeraient de 75 000 euros à 250 000 euros pour les personnes physiques et à 1,25 million d’euros pour les personnes morales.

Le reste des dispositions de l’article 5 a vocation à figurer au sein de l’article 3, parmi les obligations de moyens auxquelles seront soumis les opérateurs de plateforme visés par la proposition de loi. Je parle ici de l’obligation faite aux plateformes de désigner un représentant légal sur le territoire français, interlocuteur référent du régulateur chargé de répondre aux demandes de l’autorité judiciaire, notamment celles qui portent sur l’identification de ceux de leurs utilisateurs qui commettent des délits.

La Commission adopte l’amendement.

En conséquence, l’article 3 bis est ainsi rédigé.

Puis elle examine l’amendement CL273 de Mme Caroline Abadie.

Mme Caroline Abadie. Cet amendement vise le cyber-harcèlement. Nous souhaiterions que les victimes puissent notifier les contenus en cause aux plateformes qui auraient obligation de conserver l’ensemble des données afin de faciliter les actions en justice.

Cette obligation est davantage une obligation de moyens qu’une obligation de résultat. Nous essayons par ce biais de permettre aux victimes de s’armer mieux, de limiter les attaques et de se préparer aux poursuites judiciaires.

Mme Laetitia Avia, rapporteure. Le harcèlement moral a été évoqué à de nombreuses reprises depuis ce matin. Il est important de travailler à des mécanismes qui permettraient de le rendre plus détectable, notamment lorsqu’il prend la forme de « raids numériques ». Le faire entrer dans le champ du texte pose toutefois problème. Nous savons que le périmètre des obligations de moyens est limité pour respecter l’exigence de conventionnalité soulignée par le Conseil d’État. Par ailleurs, il faudrait retravailler la rédaction concernant la conservation des données.

Je vous demande donc de bien vouloir retirer votre amendement, madame Abadie.

Mme Caroline Abadie. Nous avons conscience des points de faiblesse de cet amendement et nous essaierons de trouver un point de convergence avec ceux de nos collègues qui ont la même préoccupation que nous. J’accepte donc de le retirer.

L’amendement CL273 est retiré.

La Commission est saisie de l’amendement CL182 de M. Michel Larive.

Mme Danièle Obono. Cet amendement vise à éviter que les algorithmes utilisés par les plateformes aient pour conséquence de perpétuer, de produire ou de renforcer des préjugés justifiant et instituant des discriminations entre les personnes en raison de ce qu’elles sont.

Nous savons que les grandes plateformes produisent des biais algorithmiques, qui ont fait l’objet de plusieurs études. Pensons aux analyses de Cathy O’Neil dans son ouvrage Weapons of Math Destruction, dont l’édition française Algorithmes, la bombe à retardement a été préfacée par notre collègue Cédric Villani. Elle y démontre que derrière l’objectivité et la neutralité proclamée des algorithmes se cachent les opinions et les intérêts subjectifs des personnes qui les créent ou qui les utilisent.

Si l’on cherche sur de grands moteurs de recherche les termes « jeune noire », « jeune asiatique » ou « jeune arabe », les premières propositions renvoient à des sites pornographiques tout comme pour le mot « lesbienne ». Certaines associations ont fait récemment campagne pour que ces biais soient corrigés afin d’éviter la perpétuation de stéréotypes et de discriminations.

Ces biais ont des conséquences concrètes. Il a été révélé qu’un système de tri de curriculum vitae (CV) au profit d’entreprises proposé par Amazon pénalisait les CV contenant le mot « femme », soit en les mettant de côté, soit en proposant des salaires plus bas pour elles.

Les preuves s’accumulent et nous voulons obliger les plateformes à rendre publics les moyens qu’elles mettent en œuvre pour que leurs algorithmes ne discriminent plus.

Mme Laetitia Avia, rapporteure. Le problème que vous pointez est réel mais votre amendement soulève plusieurs difficultés.

Le premier alinéa se situe hors du champ du texte.

Par ailleurs, la législation actuelle, qu’il s’agisse de celle applicable au traitement de données à caractère personnel – RGPD, loi « Informatique et libertés » – ou du code pénal, comprend déjà des dispositions qui prohibent les traitements discriminatoires que vous visez. Il appartient aux régulateurs compétents, comme la CNIL ou demain le CSA avec les nouveaux pouvoirs d’enquête dont il sera doté, de s’assurer que l’interdiction des pratiques discriminatoires est respectée.

Avis défavorable donc.

Mme Danièle Obono. Cet amendement fait partie des rares amendements de notre groupe qui n’ont pas été déclarés irrecevables.

Cette proposition de loi se donne pour objectif de lutter contre l’incitation à la haine sur internet, qu’elle ait un caractère raciste, sexiste ou homophobe. Si nous voulons nous attaquer aux sources du problème et non pas seulement à ses manifestations, il nous faut légiférer sur les algorithmes qui propagent des pratiques discriminatoires. Nous sommes donc bien dans le champ du texte.

En outre, cet amendement tend à rendre transparents les ressorts des algorithmes. Nous connaissons le rôle crucial que jouent en ce domaine des lanceuses et lanceurs d’alerte et des associations. Grâce à cette disposition, ils pourraient d’autant mieux contribuer à corriger ces biais.

Cela n’a rien à voir avec le travail des régulateurs. C’est aux plateformes d’agir et la transparence est une manière de les responsabiliser.

La Commission rejette l’amendement.

Elle examine ensuite l’amendement CL180 de M. Ugo Bernalicis.

Mme Danièle Obono. Par cet amendement, nous proposons que les plateformes numériques mettent en place des dispositifs d’information et de communication visant à lutter contre la haine en ligne. Le régime de responsabilité et les obligations qui reposent sur les plateformes ne reflètent pas l’importance de la part qu’elles prennent dans les usages numériques des citoyens. Aujourd’hui, 40 % des jeunes disent avoir été victimes d’une agression en ligne. Pourtant les plateformes, notamment les grandes plateformes de réseaux sociaux, jouent sur l’ambiguïté inhérente à leur statut juridique d’hébergeur et laissent se développer une culture de l’impunité.

Des campagnes ont été diffusées sur les réseaux sociaux pour sensibiliser les utilisateurs aux pratiques discriminatoires. Il est nécessaire d’intensifier ce travail d’information et d’impliquer les plateformes. L’une des pistes possibles pourrait être l’allocation d’une partie de l’espace publicitaire disponible à ces campagnes.

Mme Laetitia Avia, rapporteure. Votre amendement est satisfait par les dispositions que nous avons votées à l’article 3 : « Les opérateurs de plateforme mettent à disposition une information publique, claire et détaillée sur les dispositifs de recours internes, judiciaires, ainsi que sur les délais de recours dont disposent les victimes de contenus mentionnés au premier alinéa de l’article 6-2 et sur les acteurs en mesure d’assurer l’accompagnement de ces victimes ».

Je vous demande donc de retirer votre amendement, madame Obono.

La Commission rejette l’amendement.

Elle est saisie de l’amendement CL210 de Mme Géraldine Bannier.

Mme Géraldine Bannier. Cet amendement prévoit d’obliger les opérateurs de plateforme à mettre en place, outre le dispositif de signalement, un dispositif de prévention afin d’informer leurs utilisateurs des conséquences néfastes de la diffusion de contenus haineux. Le travail de pédagogie n’incombe pas seulement aux familles et à l’école. Les opérateurs doivent aussi y contribuer.

Mme Laetitia Avia, rapporteure. Je vous demanderai de bien vouloir retirer cet amendement car il est trop imprécis. On ne sait pas ce que recouvrent les termes « dispositifs de prévention » ou « conséquences sur les victimes ». Il faut savoir ce que nous pouvons demander comme obligations de moyens aux plateformes. Elles s’exposent en cas de manquement, nous le savons, à des sanctions pouvant aller jusqu’à 4 % de leur chiffre d’affaires.

Mme Géraldine Bannier. Nous tenons à cette disposition sur laquelle nous retravaillerons avec mon groupe d’ici à la séance.

L’amendement CL210 est retiré.

Avant l’article 4

La Commission est saisie de l’amendement CL113 de la rapporteure, qui fait l’objet d’un sous-amendement CL294 de Mme Laure de La Raudière.

Mme Laetitia Avia, rapporteure. L’amendement CL113 insère un troisième chapitre relatif au « Rôle du Conseil supérieur de l’audiovisuel dans la lutte contre les contenus haineux en ligne ».

Mme Laure de La Raudière. Mon sous-amendement vise à remplacer les mots « haineux en ligne » par « manifestement illicites ».

Mme Laetitia Avia, rapporteure. Avis défavorable au sous-amendement : par cohérence avec les autres intitulés de chapitre de la proposition de loi, il faut maintenir les mots « contenus haineux en ligne », plus précis que « contenus manifestement illicites ».

Mme Laure de La Raudière. En ce cas, je retire mon sous-amendement.

Le sous-amendement est retiré.

La Commission adopte l’amendement.

Article 4 (art. 17-3 [nouveau] de la loi n° 86-1067 du 30 septembre 1986

relative à la liberté de communication) : Rôle du Conseil supérieur de l’audiovisuel dans la lutte contre la haine sur internet

La Commission examine l’amendement CL5 de la commission des Affaires culturelles et de l’éducation, qui fait l’objet d’un sous-amendement CL287 de Mme la rapporteure.

Mme Fabienne Colboc, rapporteure pour avis. L’amendement CL5 vise à renvoyer de façon précise aux dispositions de la loi, dans l’attente d’une refonte plus large des missions du CSA, plutôt que de lui donner une compétence générale en matière de haine en ligne.

Mme Laetitia Avia, rapporteure. Le sous-amendement CL287 procède à une coordination.

La Commission adopte le sous-amendement.

Puis elle adopte l’amendement CL5 sous-amendé.

En conséquence, les amendements CL32 de Mme Emmanuelle Anthoine, CL 39 de Mme Valérie Bazin-Malgras, CL34 et CL35 de Mme Emmanuelle Anthoine, CL41 de M. Jacques Marilossian, CL75 de Mme George Pau-Langevin, CL140 de M. Belkhir Belhaddad, CL200 de M. Erwan Balanant, CL248 et CL250 de Mme Aude Bono-Vandorme, CL208 de Mme George Pau-Langevin, CL154 de Mme Aude Luquet, CL47 de M. Christophe Blanchet, CL251 de Mme Aude Bono-Vandorme, CL271 de M. Jacques Marilossian, CL225 de M. Buon Tan, CL67 de Mme Barbara Bessot Ballot, CL196 et CL177 de M. Erwan Balanant, CL230 de M. Buon Tan, CL63 de M. Guillaume Chiche, CL226 de M. Buon Tan, CL138 de Mme Anne Genetet et CL146 de M. Philippe Dunoyer tombent.

Mme Laetitia Avia, rapporteure. L’amendement de la rapporteure pour avis a procédé à une simplification de la rédaction concernant les pouvoirs du CSA. Il fait référence aux dispositions que nous avons votées à l’article 1er, ce qui évite de l’intégrer à cet article.

M. Erwan Balanant. Certains amendements ont été votés ce matin.

Mme Laetitia Avia, rapporteure. Ils seront pris en compte puisqu’ils sont intégrés dans la description que nous avons établie ce matin et à laquelle l’amendement renvoie.

Mme la présidente Yaël Braun-Pivet. Tout vous paraîtra plus clair quand nous disposerons d’une version globale du texte modifié par la commission.

La Commission est saisie de l’amendement CL76 de Mme George Pau-Langevin.

Mme Cécile Untermaier. Cet amendement vise à intégrer dans le champ des missions du CSA le contrôle de la mise en œuvre des moyens technologiques et humains par les opérateurs visés par l’article 1er. L’effectivité des dispositions du texte découle en effet des moyens mis en œuvre par ces plateformes.

Mme Laetitia Avia, rapporteure. Je comprends le sens de votre amendement. Il est satisfait puisque nous avons inclus dans les obligations de moyens qui incombent aux plateformes l’obligation de mettre en œuvre les moyens humains ou technologiques pour traiter les signalements. Par ailleurs, nous venons de préciser que le CSA doit veiller à la bonne application de ces dispositions.

L’amendement CL76 est retiré.

La Commission en vient à l’amendement CL265 de Mme Laure de La Raudière.

Mme Laure de La Raudière. Nous proposons de donner au CSA des pouvoirs d’enquête et d’audit nécessaires à l’exercice de ses missions auprès des opérateurs de plateformes.

Mme Laetitia Avia, rapporteure. Votre amendement m’a permis d’identifier une lacune. Le CSA dispose déjà de pouvoirs d’enquête au titre de l’article 19 de la loi de 1986 mais ce dernier n’intègre pas les plateformes. Une mise à niveau serait donc nécessaire. C’est en ce sens qu’il faudrait proposer une modification en séance, madame de La Raudière.

Mme Laure de La Raudière. Je devrais venir plus souvent à la commission des Lois. Merci de m’y accueillir, madame la présidente. (Sourires.)

L’amendement CL265 est retiré.

La Commission en vient à l’amendement CL247 de M. François Pupponi.

M. François Pupponi. Les discussions sur la définition de l’antisémitisme sont récurrentes et le débat sur la proposition de résolution visant à lutter contre l’antisémitisme a été récemment reporté. Il faut être précis pour permettre que certains propos soient sanctionnés.

Mme Laetitia Avia, rapporteure. Il ne s’agit pas d’expliciter ou de redéfinir les notions de notre droit mais de s’assurer que notre droit puisse bel et bien s’appliquer. La proposition de résolution reviendra bientôt en débat et ce sera le cadre adéquat pour mener cette discussion.

La Commission rejette l’amendement.

Elle est saisie de l’amendement CL261 de Mme Laure de La Raudière.

Mme Laure de La Raudière. La liberté d’expression est une matière délicate et il me paraît audacieux de doter la même autorité indépendante du pouvoir d’enquêter, de constater, de définir la norme et la règle, et du pouvoir de sanctionner. Je considère qu’il revient au juge judiciaire d’assurer la sanction des contenus haineux. Nous devons laisser le CSA améliorer les pratiques et vérifier le respect des normes établies.

Mme Laetitia Avia, rapporteure. Nous laissons le pouvoir de sanction des contenus illicites au juge judiciaire. Je vous renvoie à l’article 1er : nous avons créé un délit pour sanctionner les plateformes qui ne retirent pas les contenus manifestement haineux sous vingt-quatre heures.

Le CSA est doté d’un pouvoir de supervision générale qui porte sur l’accompagnement dans la mise en œuvre de l’obligation de retrait, le contrôle des obligations de moyens et du comportement des plateformes. Seule l’autorité judiciaire peut rentrer dans une approche au cas par cas et statuer sur les relations entre un utilisateur et la plateforme.

Avis défavorable à cet amendement qui va à l’encontre de l’architecture du dispositif de la proposition de loi.

La Commission rejette l’amendement.

Elle examine ensuite l’amendement CL6 de la commission des Affaires culturelles et de l’éducation.

Mme Fabienne Colboc, rapporteure pour avis. Le présent amendement vise à établir un lien plus clair entre la transmission d’informations régulières de la part des plateformes au CSA et les recommandations que ce dernier peut prendre dans le domaine de la lutte contre les contenus haineux.

Je sais que cet ajout n’est pas compatible avec les amendements qui viennent d’être adoptés mais il me paraît important d’obliger les plateformes à transmettre régulièrement des informations.

Mme Laetitia Avia, rapporteure. Votre amendement établit un lien direct entre informations transmises par les plateformes et recommandations. Or le CSA peut en émettre sans se fonder sur cette base.

Je vous demande de bien vouloir retirer cet amendement.

L’amendement CL6 est retiré.

La Commission adopte ensuite l’amendement de coordination CL114 de la rapporteure.

Puis elle examine, en discussion commune, les amendements CL115 de la rapporteure et CL170 de Mme Céline Calvez.

Mme Laetitia Avia, rapporteure. L’amendement CL115 propose de permettre au CSA de formuler non seulement des recommandations mais aussi des bonnes pratiques et des lignes directrices pour la bonne application des obligations mentionnées aux articles 6-2 et 6-3 de la LCEN que nous avons créés. Nous renforçons le rôle d’accompagnement du CSA.

M. Thomas Rudigoz. L’amendement CL170 est défendu.

Mme Laetitia Avia, rapporteure. Je vous demanderai, monsieur Rudigoz, de le retirer au profit de mon amendement.

M. Frédéric Reiss. L’accent mis sur les bonnes pratiques et les lignes directrices va dans le bon sens. Il satisfera ceux qui insistent sur le travail de prévention que doivent aussi mener les plateformes.

Ces nouvelles tâches entraîneront pour le CSA, qui œuvre avant tout dans le domaine audiovisuel, beaucoup de travail supplémentaire. Il devra mobiliser des moyens financiers supplémentaires. Comment cela va-t-il se traduire dans la prochaine loi de finances ?

La Commission adopte l’amendement CL115.

En conséquence, les amendements CL170 et CL7 de la commission des Affaires culturelles et de l’éducation tombent.

La Commission en vient à l’amendement CL147 de M. Philippe Dunoyer.

Mme Laure de La Raudière. L’amendement ouvre la possibilité pour le CSA d’enjoindre sous astreinte les opérateurs qui ne se conformeraient pas aux recommandations qu’il a édictées.

Mme Laetitia Avia, rapporteure. Dans le dispositif actuellement prévu, les opérateurs font l’objet d’une mise en demeure s’ils n’exécutent pas les recommandations du CSA. Il n’est pas prévu de dispositif d’astreinte. Le système est déjà assez lourd et dissuasif car si les plateformes ne s’exécutent pas dans le délai imparti, elles s’exposent à une sanction pouvant aller jusqu’à 4 % de leur chiffre d’affaires mondial. Avis défavorable.

La Commission rejette l’amendement.

Elle examine, en discussion commune, l’amendement CL8 de la commission des Affaires culturelles et de l’éducation, qui fait l’objet d‘un sous-amendement CL288 de la rapporteure, et les amendements identiques CL178 de M. Erwan Balanant et CL237 de M. Paul Molac.

Mme Fabienne Colboc, rapporteure pour avis. L’amendement CL8 tend à rendre explicitement annuelle la publication du bilan du CSA.

Mme Laetitia Avia, rapporteure. Le sous-amendement CL288 vise à préciser que le bilan porte non seulement sur l’application des dispositions par les opérateurs mais aussi sur l’effectivité des obligations qui s’imposent à eux.

M. Erwan Balanant. L’amendement CL178 est défendu.

M. Jean-Félix Acquaviva. Tout comme l’amendement CL237.

La Commission adopte le sous-amendement.

Puis elle adopte l’amendement CL8 sous-amendé.

En conséquence, les amendements CL178 et CL237 tombent.

La Commission en vient à l’amendement CL9 de la commission des Affaires culturelles et de l’éducation.

Mme Fabienne Colboc, rapporteure pour avis. Il s’agit de permettre au CSA de rendre publiques tout ou partie des informations que les opérateurs de plateforme seront tenus de lui transmettre mensuellement.

Mme Laetitia Avia, rapporteure. Je vous demande de bien vouloir retirer votre amendement qui n’est pas cohérent avec l’équilibre auquel nous sommes parvenus.

L’amendement CL9 est retiré.

La Commission examine, en discussion commune, l’amendement CL116 deuxième rectification de la rapporteure et CL10 de la commission des Affaires culturelles et de l’éducation.

Mme Laetitia Avia, rapporteure. Cet amendement décrit la procédure que devra suivre le CSA avant de prononcer une sanction à l’encontre des opérateurs qui n’auraient pas respecté leurs obligations.

La première version de la proposition de loi se contentait d’un paragraphe, à l’article 1er. J’ai fait le choix d’entrer dans les détails pour que l’on puisse bien comprendre ce qui se passe lorsqu’une personne informe le CSA d’un manquement.

Nous précisons d’abord que le CSA intervient en cas de manquement par un opérateur au devoir de coopération résultant de l’article 6-3 modifié par les dispositions que nous avons votées – obligations en termes de moyens humains et technologiques proportionnés, obligations en matière de signalement, d’information, de coopération judiciaire, respect des recommandations émises par le CSA en matière d’obligations de retrait.

La décision du CSA se fondera sur deux éléments.

Il s’agit, d’une part, du respect des obligations détaillées dans le nouvel article 6-3.

Il s’agit, d’autre part, des conditions dans lesquelles l’opérateur se conforme aux recommandations que le CSA a émises. Il appréciera le caractère insuffisant ou excessif du comportement de l’opérateur en matière de retrait des contenus.

Fort des informations qu’il aura reçues, il se saisira pour engager une procédure.

Il enverra d’abord une mise en demeure pour que les opérateurs se conforment aux recommandations. C’est à ce stade qu’ils pourront rectifier le tir. C’est là où nous nous éloignons du système allemand où la sanction est directement appliquée.

Si une fois le délai imparti écoulé, le CSA doit à nouveau se saisir, il peut prononcer une sanction pouvant aller jusqu’à 4 % du chiffre d’affaires mondial.

Il peut rendre publiques à la fois les mises en demeure et les sanctions prononcées. Il peut également ordonner leur insertion dans des publications, journaux ou tout support qu’il désignera.

Par coordination, cet amendement transfère au CSA le contrôle de la mise en œuvre des dispositions de l’article 6-1 de la LCEN, relatives notamment au blocage de sites terroristes, qui relève aujourd’hui de la compétence d’une personnalité qualifiée désignée au sein de la Commission nationale de l’informatique et des libertés.

Mme Fabienne Colboc, rapporteure pour avis. Mon amendement CL10 étant satisfait par celui de la rapporteure, je le retire.

L’amendement CL10 est retiré.

Mme Laure de La Raudière. J’aimerais avoir quelques précisions. Cet article ayant subi plusieurs réécritures, je ne suis pas certaine d’avoir bien compris le dispositif. Les recommandations du CSA ont pour mission de lutter contre la diffusion de contenus manifestement illicites, mais il faut veiller aussi à ce que les plateformes ne remettent pas en cause la liberté d’expression. Cette préoccupation a-t-elle sa place dans votre texte ?

Imaginons qu’une plateforme supprime trop de contenus : dans ce cas, appliquera-t-on la même méthodologie ? Qui va contrôler les recommandations du CSA dans ce domaine ? La jurisprudence relative aux contenus manifestement illicites est assez précise. En revanche, il est parfois plus difficile de qualifier les atteintes à la liberté d’expression. Mes questions sont nombreuses, mais c’est une manière de clarifier les choses en vue du débat en séance.

M. Frédéric Reiss. L’amendement de la rapporteure, qui détaille la procédure que le CSA devra suivre avant le prononcé d’une sanction, rend sans objet l’amendement que nous avons adopté en commission des Affaires culturelles. Le problème, c’est que nous n’avons aucune idée du nombre de situations que le CSA aura à examiner, ni du nombre de mises en demeure qu’il devra prononcer. Ce qui est sûr, c’est qu’il aura beaucoup de travail. J’aimerais donc savoir s’il aura aussi les moyens humains pour y faire face.

Mme Laetitia Avia, rapporteure. Madame de La Raudière, une décision du CSA pourra faire l’objet d’un recours administratif devant le Conseil d’État.

Vous posez également la question des plateformes qui procéderaient à des retraits excessifs : je pensais m’être expliquée clairement à ce sujet, mais je vais y revenir. Le CSA se fondera sur deux éléments pour constater un manquement : la méconnaissance des obligations de moyens et le non-respect de ses recommandations relatives au retrait des contenus illicites, ainsi que des bonnes pratiques qui doivent orienter les plateformes. Le CSA a surtout vocation à sanctionner les plateformes qui n’exercent pas des contrôles suffisants – c’est l’objet de cette loi – mais il pourra évidemment sanctionner celles qui procèdent à des retraits excessifs. Son rôle est d’analyser la conformité de la plateforme aux règles prescrites, dans une logique de régulation administrative.

Monsieur Reiss, il est vrai que la mission du CSA, aujourd’hui, consiste essentiellement à émettre des recommandations. Il devra effectivement être à la hauteur des nouvelles missions que nous lui confions. Le ministre pourra sans doute vous donner des précisions sur ce sujet en séance.

La Commission adopte l’amendement CL116, deuxième rectification.

Elle examine ensuite l’amendement CL77 de Mme George Pau-Langevin.

Mme George Pau-Langevin. Avec cet amendement, nous proposons que le CSA crée une base de données compilant l’ensemble des décisions rendues par les opérateurs mentionnés à l’article 1er sur le fondement de ce même article. Cet amendement rejoint certaines des dispositions que vous avez introduites dans ce texte : il s’agit de disposer d’une collection de bonnes pratiques et de créer des références pour aider les plateformes à prendre les bonnes décisions.

Mme Laetitia Avia, rapporteure. C’est déjà l’objet des recommandations du CSA, qui seront publiques. Votre amendement me paraissant satisfait, je vous invite à le retirer. À défaut, j’émettrai un avis défavorable.

La Commission rejette l’amendement.

Puis elle adopte l’amendement de cohérence CL117 de la rapporteure.

En conséquence, les amendements identiques CL59 de M. M’Jid El Guerrab et CL282 de M. Paul Molac tombent.

La Commission en vient à l’examen de l’amendement CL169 de Mme Céline Calvez.

M. Thomas Rudigoz. Avec cet amendement, nous proposons que les plateformes soient obligées de signaler aux autres plateformes les contenus haineux qu’elles auront repérés, afin d’éviter leur propagation.

Mme Laetitia Avia, rapporteure. Votre amendement vise à renforcer la coopération des plateformes dans la lutte contre la diffusion des contenus haineux, notamment des vidéos en direct. L’attentat de Christchurch a montré combien ce type de coopération était nécessaire pour éviter la propagation de ces contenus.

Cela étant, la rédaction de votre amendement présente plusieurs problèmes. Par ailleurs, il porte sur l’article 4, qui est relatif aux pouvoirs du CSA. Or ce n’est pas son objet, à moins que vous ne souhaitiez confier au CSA l’organisation de la coopération des plateformes… Quoi qu’il en soit, je vous invite à retirer cet amendement.

L’amendement est retiré.

La Commission en vient à l’amendement CL222 de M. Buon Tan.

M. Buon Tan. Cet amendement propose d’appliquer à la lutte contre la haine sur internet le principe du « name and shame ».

L’idée est de doubler les sanctions financières d’une sanction atteignant directement la réputation des sites condamnés. Certaines entreprises, parce qu’elles sont très riches, sont peu sensibles aux sanctions financières, mais elles le sont davantage à celles qui touchent leur réputation. Nous proposons donc que les sanctions prononcées par le CSA soient publiées sur son site internet et, aux frais de l’entreprise sanctionnée, sur d’autres supports.

Mme Laetitia Avia, rapporteure. Votre amendement est partiellement satisfait. L’amendement CL116 deuxième rectification, que nous venons de voter, prévoit déjà la publication des sanctions prononcées par le CSA. Vous proposez d’aller jusqu’à l’astreinte journalière, mais le dispositif que nous proposons me semble déjà suffisamment lourd et dissuasif. Je vous invite donc à retirer votre amendement.

L’amendement est retiré.

La Commission adopte l’article 4 modifié.

Après l’article 4

La Commission examine l’amendement CL132 de M. Éric Ciotti.

M. Éric Ciotti. Je n’ai pas eu l’occasion de le faire ce matin, mais je veux saluer l’esprit de ce texte, l’objectif qu’il poursuit et son exigence. Aujourd’hui, un grand nombre de réseaux sociaux sont devenus des vecteurs de haine et il importait d’agir. J’avais moi-même déposé une proposition de loi sur ce sujet, qui rejoignait totalement vos préoccupations.

Je voterai donc ce texte, mais je pense qu’il y manque une disposition relative à la fin de l’anonymat. Certains réseaux sociaux, notamment Twitter, sont le lieu d’un déferlement de propos haineux absolument insupportables, où s’expriment notamment l’antisémitisme et la propagande islamiste, et dont les auteurs restent anonymes. Il me semblerait donc opportun – je sais que le débat a été ouvert et que vous l’avez envisagé – de mettre fin à l’anonymat. Tel est l’objet de cet amendement.

À partir d’un certain volume d’utilisateurs, dont le seuil pourrait être fixé par décret, nous proposons que les plateformes soient obligées de vérifier l’identité de leurs utilisateurs. Toute personne souhaitant ouvrir un compte sur Twitter ou Facebook devrait déclarer son identité et fournir une déclaration de responsabilité.

Cet amendement mettrait fin à l’anonymat, qui permet de diffuser des discours haineux en toute impunité.

Mme Laetitia Avia, rapporteure. Vous soulevez un point important, qui va me donner l’occasion de corriger une idée reçue. Si certains utilisateurs croient effectivement être anonymes, c’est parce qu’ils méconnaissent les informations dont les plateformes disposent à leur sujet. Nombre d’entre eux profèrent leur discours sans aucune retenue parce qu’ils se croient anonymes. Or le système actuel n’est pas celui de l’anonymat, mais du pseudonymat. L’anonymat véritable est extrêmement rare sur les réseaux sociaux et, plus globalement, sur internet, parce que les plateformes ont les moyens d’identifier les utilisateurs au titre de la LCEN.

En effet, lorsqu’elles font l’objet d’une réquisition judiciaire, les plateformes doivent transmettre, non seulement l’adresse IP, mais des informations relatives à l’identité de la personne qui a commis un délit. Dans certaines matières, par exemple la lutte contre le terrorisme, le taux de réponse aux réquisitions judiciaires est extrêmement élevé, de l’ordre de 95 %. C’est la preuve que les dispositions de la LCEN sont appliquées et qu’elles fonctionnent dans ce domaine. En revanche, face aux types de contenus haineux que nous évoquons depuis ce matin, le taux de réponse est bien moins élevé. C’est la preuve que cela relève de la bonne volonté des plateformes.

Le dispositif que j’ai proposé et que nous avons voté tout à l’heure, en matière de coopération judiciaire, comprend deux volets. Premièrement, nous renforçons la sanction pénale qui s’applique aux plateformes qui ne coopèrent pas, en la faisant passer à 1 250 000 euros. Deuxièmement, nous les obligeons à avoir un référent légal, un interlocuteur sur le territoire national français, qui aura pour mission de recevoir les demandes de l’autorité judiciaire. Cela signifie que les plateformes auront un représentant en France chargé d’échanger avec nos autorités judiciaires. La combinaison de ces deux dispositifs doit nous permettre de régler le problème.

La proposition que vous faites de demander à chaque utilisateur une pièce d’identité présente, de mon point de vue, un risque disproportionné, puisque Facebook disposerait d’une base de données de toutes nos pièces d’identité. Or je ne veux pas aller dans ce sens-là.

M. Alexis Corbière. Bien sûr !

M. Erwan Balanant. La rapporteure a raison de souligner combien il serait dangereux qu’un opérateur privé puisse stocker nos cartes d’identité. Au-delà de la question de l’anonymat, dont elle a justement rappelé qu’il n’existe jamais vraiment, je voudrais appeler votre attention sur la question de l’éducation. Les gens, parce qu’ils pensent s’exprimer de façon anonyme, à visage couvert, se permettent sur internet, et particulièrement sur les réseaux sociaux, des choses qu’ils ne se permettraient jamais dans la vraie vie.

On compare souvent Facebook au café du commerce. Mais, au café du commerce, on ne se permet pas les mêmes choses que sur internet, d’abord parce que cela peut finir en bagarre. Il faut éduquer les gens, leur rappeler ce qui se fait et ce qui ne se fait pas. Vous avez dit, madame la rapporteure, que l’on ne pouvait pas tout interdire et que les simples injures ne seraient pas sanctionnées. Mais dans le monde réel, on ne tolère pas les injures. Il faut donc trouver le moyen qu’elles deviennent également intolérables dans le monde virtuel. Votre texte introduit de belles avancées, mais elles ne suffiront pas, car il faudrait relier tout cela à la question de l’éducation et du savoir-vivre sur internet.

M. Alexis Corbière. Ce débat est intéressant. Nous savons notre collègue Éric Ciotti très attaché à la sécurité de nos concitoyens et nous pouvons partager sa préoccupation, mais j’invite chacun à prendre la mesure de ce dont nous parlons. On ne peut pas accepter qu’un grand opérateur privé, qui maîtrise un réseau social et qui est même en train de lancer une monnaie virtuelle, possède la pièce d’identité de l’ensemble de nos concitoyens, connaisse leurs opinions politiques et leurs modes de consommation… Vous qui êtes attaché à la sécurité, ne fabriquez pas une pieuvre, un monstre qui remettrait en cause nos libertés individuelles. Il faut évidemment que la justice puisse intervenir lorsque c’est nécessaire, mais la mesure que vous proposez aurait des conséquences désastreuses. Sur ce sujet, je marche sur les pas de la rapporteure.

M. Hervé Saulignac. Nous sommes au cœur du débat. Jusqu’ici, nous nous sommes intéressés à la haine et aux messages haineux, mais assez peu à leurs auteurs. Or notre objectif ne doit pas être de condamner une pensée, ce qui serait grave, mais un acte, celui qui consiste à produire un contenu et à le diffuser sur les réseaux sociaux.

L’anonymat est certes relatif, mais il existe des moyens de le préserver. On peut se cacher derrière un réseau privé virtuel – Virtual Private Network (VPN) – ou utiliser une adresse à l’étranger, par exemple aux États-Unis. Il ne faut pas sous-estimer les moyens qui permettent, aujourd’hui, de préserver son anonymat.

J’aimerais réagir aux propos de notre collègue Erwan Balanant. Facebook, c’est tout, sauf le café du commerce ! Ne laissons pas croire une bêtise pareille ! Quand je suis au café du commerce avec mes amis, je peux leur proposer de changer de café. Or ce n’est pas possible avec Facebook, puisqu’il s’agit d’un système captif. Il faudrait que nous ayons un débat sur l’interopérabilité des réseaux sociaux, et ce n’est pas le lieu, mais nous n’arriverons à briser ce système fou que lorsqu’il sera possible de quitter un réseau social avec ses amis pour aller sur un autre réseau social. On se rapprochera un peu, alors, du café du commerce, mais on en est encore très loin… Toute la valeur de Facebook – si je puis dire –, c’est précisément d’avoir réussi à capturer, non seulement une masse considérable de personnes, mais aussi d’informations et de contenus relatifs à leur vie privée.

Mme Caroline Abadie. Il faut faire preuve d’un peu de pragmatisme. On ne peut pas imaginer que les réseaux sociaux mettent brutalement fin au pseudonymat et à l’anonymat. Lorsque Cédric O, le secrétaire d’État chargé du numérique, est venu devant notre commission au début du mois de juin, il a pris plusieurs exemples très parlants, notamment celui des enfants qui jouent à des jeux vidéo en ligne : il a rappelé que c’était une bonne chose qu’ils continuent de s’identifier avec des pseudonymes du type bisounours767.

Si certains internautes ont effectivement un sentiment d’impunité, je pense que cette loi va aider à le combattre. Lorsque plusieurs jugements auront été rendus publics et que des personnes auront été prises la main dans le sac, en train de proférer des injures discriminatoires sur internet, je pense que le message passera.

M. Robin Reda. Je voulais introduire dans notre débat la question de l’usurpation d’identité, qui est aujourd’hui très mal sanctionnée sur un certain nombre de réseaux sociaux, notamment sur le plus connu d’entre eux. L’amendement d’Éric Ciotti aurait le double avantage de renforcer la responsabilité pénale des acteurs qui utilisent les plateformes et de faciliter la lutte contre un certain nombre d’abus, y compris l’usurpation d’identité.

J’ajouterai avec un peu de malice que sur un site qui est très à la mode en ce moment – je veux parler de celui du référendum sur la privatisation des Aéroports de Paris –, à la fin d’un long formulaire, on vous demande votre numéro de carte d’identité ou de passeport, ainsi que d’autres informations. Je ne sais pas si ce site est géré par un prestataire ayant reçu une délégation de l’État, mais cela montre que les dispositifs existent déjà et que l’on peut, en toute confidentialité, vérifier l’identité de ceux qui remplissent le formulaire.

M. Alexis Corbière. C’est le principe ! Il faut déclarer son identité.

M. Robin Reda. Bien sûr, mais si l’on considère que les plateformes sont des lieux d’expression démocratique, des places publiques et qu’un citoyen s’exprime aussi…

M. Alexis Corbière. J’ai plus confiance en Christophe Castaner qu’en Facebook !

M. Robin Reda. Je m’arrête là, car la phrase d’Alexis Corbière conclut magnifiquement ce propos. (Sourires.)

M. Éric Ciotti. Madame la rapporteure, mes chers collègues, j’ai bien entendu vos arguments. Vous avez voté ce matin des dispositions qui renforcent les sanctions pénales applicables, en les portant à 1 250 000 euros, et cela va dans le bon sens. Il est vrai que tout est traçable aujourd’hui et qu’une enquête judiciaire poussée permet d’identifier les auteurs de messages criminels ou les organisateurs d’un attentat. Tout cela est vrai, mais nous sommes déjà, dans ces cas-là, dans le cadre de l’enquête judiciaire et de la sanction pénale. Vous renforcez les outils existants, en imposant une sanction pénale aux plateformes qui ne coopéreraient pas. Je l’avais proposé sous la précédente législature : c’est ce que l’on avait appelé « l’amendement IPhone », parce que je proposais d’interdire la commercialisation des appareils dont les opérateurs ou les constructeurs refusaient de collaborer avec la justice, comme cela était arrivé aux États-Unis, après un attentat.

Je rejoins un peu Erwan Balanant sur l’aspect éducatif : il faut renforcer la prévention et responsabiliser les gens. En revanche, je ne partage pas la crainte, exprimée par plusieurs collègues, de voir se constituer un fichier. Malheureusement, ces réseaux ont déjà des outils beaucoup plus intrusifs et dangereux, qui leur permettent d’influer sur les pratiques et les modes de pensée et de consommation. Ils ont déjà créé un fichier mondial de 2,5 milliards d’utilisateurs qui est tout à fait terrifiant.

J’ai bien conscience que mon amendement peut être difficile à appliquer et qu’il n’est pas parfait. Il me semblerait pourtant opportun de mettre fin à l’anonymat et de responsabiliser les gens.

La Commission rejette l’amendement CL132.

Article 5 (art. 6 de la loi n° 2004-575 du 21 juin 2004 pour la confiance dans l’économie numérique) : Renforcement de l’obligation de coopération des opérateurs numériques avec l’autorité judiciaire en matière de lutte contre les contenus illicites

La Commission examine l’amendement CL118 de la rapporteure tendant à supprimer l’article 5.

Mme Laetitia Avia, rapporteure. Cet amendement tend à supprimer les dispositions relatives à la coopération judiciaire, car nous les avons déplacées dans le chapitre relatif au devoir de coopération des plateformes, où nous avons créé un article additionnel, après l’article 3.

La Commission adopte l’amendement.

En conséquence, l’article 5 est supprimé et les amendements identiques CL211 de Mme Marie-France Lorho et CL238 de M. Jean-Félix Acquaviva tombent, ainsi que les amendements CL241 de M. Jean-Félix Acquaviva, CL60 de M. M’Jid El Guerrab, CL79 de Mme George Pau-Langevin, CL24 de M. Nicolas Démoulin et CL80 de Mme George Pau-Langevin.

Après l’article 5

La Commission examine l’amendement CL119 de la rapporteure.

Mme Laetitia Avia, rapporteure. Cet amendement vise à créer le chapitre IV de cette loi, qui s’intitulera : « Amélioration de la lutte contre la diffusion de contenus haineux en ligne ». Il concerne, non plus les plateformes, mais les sites à caractère haineux.

La Commission adopte l’amendement.

Elle examine ensuite l’amendement CL23 de M. Nicolas Démoulin.

M. Nicolas Démoulin. Je vous remercie, madame la présidente, de m’accueillir dans cette belle commission. Cet amendement concerne les mineurs, un public particulièrement concerné par le cyber-harcèlement, notamment dans le cadre scolaire. Entre 2010 et 2014, la proportion de jeunes âgés de 9 à 16 ans concernés par le cyber-harcèlement est passée de 8 à 12 %.

Dans la mesure où le fait qu’une infraction soit commise sur un mineur constitue une circonstance aggravante en matière pénale, il apparaît logique d’alourdir les sanctions, notamment financières, lorsqu’un opérateur manque à son obligation de retirer un contenu haineux impliquant un ou plusieurs mineurs. Je propose ainsi de porter la peine financière à 300 000 euros.

Mme Laetitia Avia, rapporteure. Je comprends votre objectif et j’y souscris, puisqu’il s’agit de protéger davantage les mineurs. Cela étant, votre amendement me semble poser un double problème, à la fois juridique et opérationnel – et je vous garantis que j’ai passé beaucoup de temps à y réfléchir ! Au moment où un commentaire est publié, une plateforme n’a aucun moyen de savoir s’il vise un mineur. Il faudrait donc prendre en compte les infractions signalées par des mineurs, mais cela n’existe pas en droit : une circonstance aggravante est toujours liée à la victime, et non à la personne qui signale un fait répréhensible.

En dépit du temps que j’y ai passé, je n’ai pas trouvé de solution pour rendre votre amendement opérationnel. Je suis donc au regret de vous demander de le retirer. À défaut, j’émettrai un avis défavorable.

M. Nicolas Démoulin. Je suis ravi que vous ayez passé du temps à trouver une solution. Puis-je continuer à travailler sur le sujet ?

Mme Laetitia Avia, rapporteure. Évidemment !

L’amendement est retiré.

Article 6 (art. 6 de la loi n° 2004-575 du 21 juin 2004 pour la confiance dans l’économie numérique) : Simplification de la procédure de blocage et de déréférencement des sites haineux et possibilité pour l’autorité administrative d’enjoindre le blocage de sites miroirs

La Commission est saisie de l’amendement CL188 de Mme Muriel Ressiguier, tendant à supprimer l’article 6.

M. Alexis Corbière. L’amendement CL188 tend à supprimer l’article 6 qui, d’après nous, présente quelques problèmes, s’agissant de la garantie des droits.

Il attribue à une autorité administrative indéterminée un pouvoir d’injonction, alors que les décisions de justice ont déjà force exécutoire. Cette disposition nous semble être de nature à réduire les libertés fondamentales. Le pouvoir d’injonction accordé à l’autorité administrative semble supplanter les compétences actuellement attribuées au pouvoir judiciaire. Je ne développe pas davantage mon argumentation, car nous avons déjà débattu de cette question.

Suivant l’avis défavorable de la rapporteure, la Commission rejette l’amendement.

Puis elle examine l’amendement CL239 de M. Jean-Félix Acquaviva.

M. Jean-Félix Acquaviva. Cet amendement propose une nouvelle rédaction de l’article 6. Dans sa rédaction actuelle, il supprime en effet de grands principes du droit de l’internet, sans garantir l’efficacité du nouveau dispositif.

L’alinéa 2 prévoit la suppression du principe de subsidiarité, un principe fondamental du droit de l’internet assurant, notamment dans un souci d’efficacité, l’équilibre des responsabilités des acteurs de l’internet. Ce principe dispose que, dans le cas où un juge constate la nécessité de faire disparaître un contenu illicite, il se tourne de manière préalable vers celui qui aura été le plus actif, à savoir l’auteur ou l’éditeur, puis vers celui qui est apte à retirer le contenu ou à en rendre l’accès impossible, à savoir l’hébergeur du site et, enfin, vers le fournisseur d’accès, qui ne fait que transporter passivement des contenus sans pouvoir les supprimer à la source. Ce n’est qu’en cas d’inaction de la part de l’hébergeur, qui est le mieux à même d’agir de façon efficace en cas d’inaction de l’auteur ou de l’éditeur, que le juge judiciaire peut ordonner au fournisseur d’accès de bloquer l’accès au site internet.

Ce principe trouve son fondement dans la nécessité d’agir de la manière la plus proportionnée et efficace possible en matière de retrait de contenus. Il donne la possibilité à l’hébergeur de retirer le contenu illicite, sans impacter les autres contenus hébergés. Les faits incriminés par la présente proposition de loi interviennent, dans la plupart des cas, sur des plateformes hébergeant de très grandes quantités de contenus, auxquels le blocage par le fournisseur d’accès conduirait à empêcher tout accès, ce qui est évidemment disproportionné.

Le présent amendement propose donc le maintien du principe de subsidiarité, en prévoyant la mise en demeure préalable de l’éditeur du contenu haineux illicite par l’autorité administrative et, en cas d’inaction de celui-ci, une saisine de l’autorité judiciaire par l’autorité administrative. Le juge pourra alors demander le retrait du contenu haineux illicite à l’hébergeur ou, à défaut, se tourner vers le fournisseur d’accès en dernier recours.

L’article 6 donne également le pouvoir à l’autorité administrative de décider du blocage d’un site miroir par un fournisseur d’accès, à partir du moment où une décision de justice a déjà été rendue pour des contenus similaires. Or, selon l’avis rendu par le Conseil d’État le 16 mai 2019 sur cette proposition de loi, les exigences constitutionnelles ne permettent pas de procéder à l’interdiction des contenus miroirs, quels que soient le degré et la gravité de leur illicéité, sans l’intervention d’un juge.

Cet amendement propose donc que l’autorité administrative puisse également saisir l’autorité judiciaire par requête – une voie beaucoup plus rapide que le référé, car non contradictoire – pour que le juge ordonne le retrait du contenu illicite miroir ou, à défaut, le blocage de sites miroirs.

Ce modèle de blocage judiciaire sur demande de l’autorité administrative en cas d’inaction des éditeurs et hébergeurs était d’ailleurs mentionné dans le rapport « Renforcer la lutte contre le racisme et l’antisémitisme sur internet », qui a été remis au Premier ministre le 20 septembre 2018, en amont de la présente proposition de loi.

Mme Laetitia Avia, rapporteure. Je vous remercie pour cette présentation exhaustive de votre amendement. Nous sommes d’accord sur de nombreux points, notamment sur le mécanisme de blocage judiciaire et sur le fait que l’autorité administrative ne peut intervenir qu’après décision du juge. Nous pensons également qu’elle doit pouvoir ressaisir le juge par voie de référé ou de requête, pour que le dispositif soit plus efficace. Nous sommes donc d’accord sur toute la deuxième partie de votre exposé.

Nous avons en revanche une divergence sur la première partie, relative au principe de subsidiarité. Je tiens à préciser que nous ne faisons pas évoluer ce principe en ce qui concerne l’éditeur : c’est évidemment à lui que nous nous adressons en tout premier lieu. Cela étant, nous proposons de ne pas retenir les trois étapes – éditeur, hébergeur puis fournisseur d’accès – car cela allonge considérablement les procédures. Pour obtenir la fermeture du premier site « Démocratie participative », il a par exemple fallu neuf mois de procédures. Or nous devons agir vite. C’est pourquoi nous proposons qu’hébergeurs et fournisseurs d’accès soient associés pour créer une barrière de protection sur le territoire national.

Nous visons d’abord l’éditeur. S’il ne répond pas, nous passons aux hébergeurs et aux fournisseurs d’accès, ainsi qu’aux moteurs de recherche, ce qui permet de créer une barrière de protection sur le territoire national. Si le juge prononce une interdiction de reprise de ces contenus, l’autorité administrative, à savoir l’Office central de lutte contre la criminalité liée aux technologies de l’information et de la communication (OCLCTIC), peut adresser une notification aux fournisseurs d’accès et aux hébergeurs, leur demandant de dupliquer cette décision à chaque fois qu’un site miroir se créera.

Du fait de notre désaccord sur la subsidiarité, je vous invite à retirer votre amendement. À défaut, j’émettrai un avis défavorable.

L’amendement est retiré.

La Commission adopte l’amendement rédactionnel CL120 de la rapporteure.

En conséquence, les amendements CL51 de Mme Laurence Vichnievsky et CL227 de M. Buon Tan tombent.

La Commission examine ensuite l’amendement CL121 rectifié de la rapporteure, qui fait l’objet des sous-amendements CL216 et CL217 de M. Jean-Michel Mis.

Mme Laetitia Avia, rapporteure. Cet amendement précise le dispositif que je viens d’exposer dans ma réponse à M. Acquaviva.

M. Jean-Michel Mis. Les sous-amendements CL216 et CL217 visent à inscrire dans le champ des dispositions relatives aux sites miroirs, respectivement le cyber-harcèlement et les vidéos postées dans un esprit de vengeance pornographique, qui concernent parfois des mineurs.

Mme Laetitia Avia, rapporteure. J’ai deux interrogations au sujet de vos sous-amendements. Premièrement, l’article que nous examinons ne concerne pas les obligations qui s’appliquent aux plateformes. Deuxièmement, il me semble que nous sortons ici du champ qui a été défini par le Conseil d’État. Je vous invite donc à retirer votre amendement, pour me laisser le temps d’interroger le Conseil d’État sur ce deuxième point.

Les sous-amendements sont retirés.

La Commission adopte l’amendement CL121 rectifié.

En conséquence, les amendements CL82 et CL81 de M. Hervé Saulignac, CL262 de Mme Laure de La Raudière et CL83 M. Hervé Saulignac tombent.

La Commission en vient à l’examen de l’amendement CL189 de M. Ugo Bernalicis.

M. Alexis Corbière. Cet amendement vise à introduire une possibilité de recours en cas de blocage, lorsqu’il existe un risque d’entrave à la liberté d’expression. On l’a souvent, dit, le premier bilan de la loi allemande du 1er janvier 2018 montre que les plateformes pratiquent une forme de censure très sévère qui, avec le recul, s’avère souvent abusive.

Avec votre texte, les plateformes vont être amenées à jouer un rôle qui est plutôt dévolu aux juridictions, ce qui aura pour effet de limiter la liberté d’expression. Nous entendons, avec cet amendement, nous prémunir de ce danger.

Mme Laetitia Avia, rapporteure. Monsieur Corbière, j’avais un doute en lisant votre amendement, que votre exposé a confirmé : l’article 6 ne concerne pas les plateformes, mais les sites haineux. Nous ne sommes donc pas dans le champ de ce que visait la loi allemande. Nous cherchons seulement à rendre plus effectives certaines dispositions du droit français.

J’insiste sur le fait qu’il s’agira d’une décision judiciaire : c’est un juge qui décidera du blocage ou du déréférencement d’un site. Pour reprendre l’exemple de « Démocratie participative », ce site a utilisé successivement un grand nombre de noms de domaine, comme.bis,.org,.website ou.host. L’auteur de ce site a d’ailleurs twitté qu’il avait acheté plus de 200 noms de domaines : cela signifie qu’il y a 200 sites miroirs à bloquer. Notre objectif est de pouvoir les bloquer plus rapidement, mais le juge interviendra en amont et en aval.

M. Alexis Corbière. Ma collègue Danièle Obono me dit que cela ne correspond pas à la lecture que nous faisons des choses. Je lui fais confiance et vais donc maintenir mon amendement.

La Commission rejette l’amendement.

Puis elle adopte l’article 6 modifié.

Après l’article 6

La Commission examine, en discussion commune, les amendements CL12 de la commission des Affaires culturelles et de l’éducation, CL179 de M. Erwan Balanant, CL131 de M. Raphaël Gérard, CL151 de M. Philippe Dunoyer, CL203 de M. Michel Larive et CL150 de M. Philippe Dunoyer.

Mme Fabienne Colboc, rapporteur pour avis. L’amendement CL12 vise à préciser que la lutte contre la diffusion de messages haineux en ligne, que ce soit en tant qu’émetteur ou que simple utilisateur, doit impérativement faire partie du programme scolaire, en particulier de la formation à l’utilisation responsable des outils et ressources numériques.

M. Erwan Balanant. Dans la continuité des débats que nous avons eus et des propositions que je vous ai faites sur le cyber-harcèlement et le harcèlement scolaire, l’amendement CL179 vise à renforcer la prévention autour de la haine sur internet, en en faisant une partie intégrante de la mission d’information sur les violences, qui incombe aux écoles, aux collèges et aux lycées, au sens de l’article L. 121-1 du code de l’éducation.

En effet, un collégien sur cinq est concerné par la cyber-violence. Expliquer ce qui peut constituer un acte entrant dans le champ de la proposition de loi qui nous est soumise, ainsi que le dispositif créé par cette dernière, permettrait indéniablement d’augmenter les prises de conscience et de dissuader certains auteurs de diffuser des contenus susceptibles d’être effacés. Plus généralement, cela renforcerait la prévention autour des violences commises sur internet.

M. Raphaël Gérard. L’amendement CL131 vise à compléter celui que vient de présenter Mme Fabienne Colboc, en faisant de l’éducation au signalement et aux conséquences de celui-ci un élément du programme éducatif des jeunes dans le cadre du code de l’éducation.

Aujourd’hui, on s’aperçoit que les jeunes ont peu tendance à signaler et que, lorsqu’ils le font, c’est surtout en manifestant leur « dislike » – par opposition au « like ». Nous proposons de faire du signalement un acte citoyen, qui donnerait lieu à une formation et qui permettrait de pallier la méconnaissance des conséquences que peut avoir le signalement. Cela nous ramène au débat de ce matin. Nous devons faire œuvre de pédagogie sur ce sujet. Certaines associations, comme InitiaDroit, pourraient par exemple présenter des cas concrets pour asseoir cette éducation au bon usage du signalement et à ses conséquences.

Mme Laure de La Raudière. La lutte contre les propos haineux en ligne passe en effet par la pédagogie et la prévention. L’amendement CL151 propose de sensibiliser les jeunes aux discours de haine sur internet, et donc d’inscrire cet objectif dans le code de l’éducation.

L’amendement CL150 complète, quant à lui, le code de l’éducation en ajoutant un module de formation consacré à la sensibilisation aux discours de haine en ligne.

M. Alexis Corbière. Nous souhaitons que les plus jeunes soient formés à l’aide d’outils efficaces pour se protéger des discours et de la propagande raciste, antisémite, sexiste et homophobe. Ils sont plus facilement exposés aux contenus haineux et il nous paraît essentiel de leur permettre d’acquérir le discernement nécessaire pour se prémunir face à ces violences.

L’amendement CL203 complète donc le code de l’éducation en prévoyant l’enseignement des mesures visant à lutter contre tout type de propagande raciste, sexiste ou antisémite en ligne, ainsi que des modules contre le cyberharcèlement.

Mme Laetitia Avia, rapporteure. Tous ces amendements ont pour objet d’agir dans le cadre du code de l’éducation afin que les jeunes soient formés et sensibilisés à la question de la haine en ligne. Je souscris pleinement à cet objectif.

Il faut arbitrer parmi les différentes propositions et déterminer où ces enseignements auront la meilleure efficacité.

La rédaction proposée par la commission des Affaires culturelles et de l’éducation, qui ajoute la mention de la lutte contre la haine en ligne à l’article L. 312-9 du code de l’éducation, me semble la meilleure solution car elle a une portée générale. Je suis donc favorable à l’amendement CL12.

L’amendement CL131, pour sa part, est trop précis et il serait satisfait par l’adoption du CL12. L’amendement CL179 modifie les principes généraux du code de l’éducation, et il semble étrange d’y mentionner la haine sur internet alors que d’autres éléments n’y figurent pas. L’amendement CL150 est de moindre portée que l’amendement CL12 et concerne uniquement le second degré. Quant aux amendements CL151 et CL203, ils sont tous deux satisfaits.

L’objectif de tous ces amendements est de sensibiliser les plus jeunes à cette question en l’insérant dans les programmes scolaires : il sera atteint par l’adoption de l’amendement CL12.

La Commission adopte l’amendement CL12.

Puis elle rejette successivement les amendements CL179, CL131, CL151, CL203 et CL150.

En conséquence, l’article 6 bis est ainsi rédigé.

La Commission est saisie de l’amendement CL13 de la commission des Affaires culturelles et de l’éducation.

Mme Fabienne Colboc, rapporteure pour avis. Cet amendement a pour objet de renforcer la formation des enseignants en matière de lutte contre les contenus haineux en ligne, qui nécessite l’acquisition d’un savoir spécifique et technique que les enseignants, en formation initiale ou continue, n’ont pas nécessairement.

Mme Laetitia Avia, rapporteure. Il est important de s’assurer de la formation des enseignants. Avis favorable.

La Commission adopte l’amendement.

En conséquence, l’article 6 ter est ainsi rédigé.

Elle est saisie de l’amendement CL130 de M. Raphaël Gérard.

M. Raphaël Gérard. Il est proposé de qualifier juridiquement la notion de « cyberharcèlement scolaire » dans le code de l’éducation pour donner une légitimité à agir au chef d’établissement. Le phénomène de haine en ligne est souvent lié au cyberharcèlement, et prolonge souvent le harcèlement scolaire. Des dispositions sont déjà prévues par le code pénal, mais une sanction judiciaire est peu dissuasive pour un public de mineurs, et le temps de la justice n’est pas comparable au temps scolaire.

Les travaux de Jean-Pierre Bellon, président de l’Association pour la prévention des phénomènes de harcèlement entre élèves, ont montré qu’une sanction n’est pas toujours efficace, même lorsqu’elle est prononcée par un juge. C’est pourquoi cet amendement prévoit les procédures disciplinaires, qui incluent des mesures de responsabilisation de l’élève, et pas uniquement les sanctions disciplinaires.

Notons qu’il existe bien une circulaire du ministère de l’éducation nationale en matière de prévention et de traitement de la cyberviolence entre les élèves, mais elle est insuffisamment appliquée et ne repose pas sur une définition juridique du harcèlement scolaire, c’est la raison pour laquelle je propose de clarifier cette notion.

Mme Laetitia Avia, rapporteure. Les dispositions relatives à la commission éducative et au règlement intérieur sont de nature réglementaire. En outre, cet amendement est d’ores et déjà satisfait.

M. Raphaël Gérard. Les dispositions réglementaires existent bien, mais dans la réalité, elles sont très mal appliquées et les chefs d’établissements ne s’en sont pas toujours emparés.

La Commission rejette l’amendement.

La Commission est saisie de l’amendement CL149 de M. Philippe Dunoyer.

Mme Laure de La Raudière. En Nouvelle-Calédonie, un référent en matière de lutte contre la haine et de harcèlement sur internet a été désigné au sein de chaque établissement scolaire, et les résultats sont probants. Il est proposé de généraliser cette expérience.

Cette fonction pourrait être confiée au responsable du centre de documentation et d’information : il ne s’agit pas de créer un nouveau poste dans les établissements mais de confier une responsabilité spécifique identifiée à une personne référente.

Mme Laetitia Avia, rapporteure. La création d’un référent au sein de chaque établissement du second degré serait assez lourde. De plus, des référents égalité ont été mis en place sans disposition législative ou réglementaire.

Je prends note du succès de cette expérience en Nouvelle-Calédonie, nous verrons ce qu’il est possible de faire pour la généraliser, mais ce n’est pas du domaine de la loi.

La Commission rejette l’amendement.

La Commission est saisie de l’amendement CL42 de M. Éric Bothorel.

M. Éric Bothorel. Cet amendement vise à empêcher la prolifération de contenus haineux sur internet en privant leurs auteurs de l’incitation financière que constitue la monétisation de leur audience par la publicité en ligne.

Pour le dire sous une autre forme, des crapules gagnent de l’argent grâce aux publicités déposées sur leur site, cet amendement cherche à assécher les revenus qu’ils peuvent tirer de leurs viles activités.

Mme Laure de La Raudière. Excellent !

Mme Laetitia Avia, rapporteure. Excellente idée, mais je ne pense pas que le dispositif que vous proposez soit suffisamment abouti. Je ne sais pas si une telle mesure relève de la loi. En outre, aux termes de votre rédaction, dès qu’un contenu haineux apparaîtrait, il serait impossible d’afficher de la publicité. Tout ce qui existe actuellement sur internet ne pourrait plus fonctionner. Il faut y retravailler et attendre la réponse du Gouvernement sur cette question.

M. Éric Bothorel. C’est sage et raisonnable car je conçois que la rédaction que je propose soulève quelques problèmes. J’en veux pour preuve les nombreuses sollicitations que je reçois depuis deux jours de la part d’organisations qui insistent sur le fait que chacun sait à qui il s’adresse et qu’il n’y a pas de secret dans le monde de la publicité en ligne. Il reste que, dès que l’on brandit une menace de ce type, les choses deviennent plus compliquées.

Madame la rapporteure, j’ai beaucoup de respect pour la ténacité dont vous faites preuve pour lutter contre la haine sur internet : j’aurais la même pour m’assurer que ceux qui l’utilisent ne puissent plus en tirer le moindre profit.

L’amendement est retiré.

Avant l’article 7

La Commission est saisie de l’amendement CL122 de la rapporteure.

Mme Laetitia Avia, rapporteure. Cet amendement insère un dernier chapitre consacré aux dispositions finales.

La Commission adopte l’amendement.

Article 7 : Rapport sur l’exécution de la loi et les moyens consacrés à la lutte contre les contenus illicites

La Commission est saisie de l’amendement CL174 de Mme Danièle Obono.

M. Alexis Corbière. Les cyberagressions commencent de plus en plus tôt. Certaines plateformes dédiées à ce jeune public sont souvent les lieux dans lesquels les agressions ciblées contre une personne sont les plus fortes.

Or le harcèlement scolaire, qui passe souvent par des « raids » sur internet, a des conséquences dramatiques. Il faut absolument diagnostiquer ce phénomène pour être en mesure de mettre en œuvre la prévention adaptée : c’est ce que nous proposons dans cet amendement.

Mme Laetitia Avia, rapporteure. Votre amendement aurait pour effet de limiter le champ du rapport demandé au Gouvernement, en le cantonnant aux victimes de cyberagressions et de harcèlement scolaire en ligne, alors que ce rapport doit traiter de l’ensemble de la question de la haine en ligne.

La Commission rejette l’amendement.

La Commission est saisie de l’amendement CL209 de Mme Muriel Ressiguier.

M. Alexis Corbière. Cet amendement est proposé par Mme Ressiguier, qui a présidé une commission d’enquête parlementaire sur les groupuscules d’extrême droite. Il a été établi que ces groupuscules sont particulièrement actifs sur les réseaux sociaux, qui constituent leur moyen de communication privilégié. Nous souhaitons donc que le Gouvernement inclue dans son rapport annuel au Parlement contre la cyberhaine un volet sur la propagande xénophobe des groupuscules d’extrême droite.

Mme Laetitia Avia, rapporteure. Cette disposition s’insérerait mal dans l’ensemble du texte. Sur le fond, le rapport porte sur tous les contenus illicites, donc il inclut déjà ces éléments.

La Commission rejette l’amendement.

Elle est ensuite saisie de l’amendement CL144 de M. Philippe Dunoyer.

Mme Laure de La Raudière. La pratique de la commission des Lois lors des précédents mandats était de supprimer toutes les demandes de rapport au Gouvernement. Je suis donc étonnée qu’une proposition de loi déposée par une commissaire aux lois contienne une telle demande de rapport, d’autant qu’il sera redondant avec le rapport du CSA sur les moyens consacrés à la lutte contre les contenus illicites. En outre, j’entends souvent dire dans l’hémicycle qu’il faut non pas demander de rapport au Gouvernement, mais procéder nous-mêmes au contrôle de l’application de la loi. Cela étant, je défends l’amendement CL144.

Mme Laetitia Avia, rapporteure. Moi, j’aime bien les rapports. Mais peut-être que Mme la présidente ne partage pas mon avis. Quant à l’amendement présenté, j’y suis défavorable car PHAROS n’a pas d’existence légale.

Mme la présidente Yaël Braun-Pivet. S’agissant des demandes de rapport, je suis plus nuancée que mes prédécesseurs et j’ai notamment intégré de telles demandes dans le projet de loi sur la justice pour évaluer l’efficacité des peines.

La Commission rejette l’amendement.

Puis elle adopte l’article 7 sans modification.

Après l’article 7

La Commission est saisie de l’amendement CL168 de Mme Michèle Victory.

Mme George Pau-Langevin. Il est défendu.

Suivant l’avis défavorable de la rapporteure, la Commission rejette l’amendement.

Article 8 : Gage financier

La Commission est saisie de l’amendement CL296 du Gouvernement tendant à supprimer l’article 8.

Mme Laetitia Avia, rapporteure. Le Gouvernement propose de supprimer le gage financier, j’y suis évidemment favorable.

La Commission adopte l’amendement.

En conséquence, l’article 8 est supprimé.

Après l’article 8

La Commission est saisie de l’amendement CL124 de la rapporteure.

Mme Laetitia Avia, rapporteure. Cet amendement prévoit une entrée en vigueur immédiate des dispositions relatives à l’obligation de retrait en vingt-quatre heures des contenus manifestement haineux. Le reste du texte entrera en vigueur au 1er janvier 2020, et au 1er janvier 2021 s’agissant des mesures portant sur la personnalité qualifiée chargée de contrôler l’application des dispositions relatives au blocage des contenus terroristes et pédopornographiques sur demande de l’autorité administrative.

La Commission adopte l’amendement.

En conséquence, l’article 9 est ainsi rédigé.

Titre

La Commission est saisie de l’amendement CL68 de Mme Michèle Victory.

M. Hervé Saulignac. Cet amendement n’est pas anodin. Le titre proposé n’est pas conforme, selon nous, à l’objectif réel de ce texte. En effet, on ne peut pas lutter contre la haine, qui est un sentiment – si méprisable soit-il – et non une notion juridique. Si je ressentais de la haine pour certains d’entre vous dans cette salle – ce qui n’est évidemment pas le cas –, rien ne vous permettrait de me condamner. En revanche, si j’exprime publiquement cette haine sur internet, l’acte pourrait être condamné.

Il faut donc corriger le titre, pour ne pas laisser penser que nous légiférons sur un sujet relevant de la conscience. Ce serait extrêmement dangereux. Cet amendement vise donc à substituer au mot « haine », les mots « diffusion de contenus haineux ».

Mme Laetitia Avia, rapporteure. Il est difficile de changer le titre de sa proposition de loi… J’entends vos arguments mais je ne peux pas prendre une décision tout de suite. Je vais y réfléchir et je vous propose, en attendant, de retirer votre amendement.

M. Hervé Saulignac. Je préfère le maintenir, et j’invite chacun à réfléchir à ce sujet. Ne donnons pas le sentiment que l’Assemblée nationale s’ingère dans ce qui relève de la pensée intime. Nous souhaitons tous combattre la haine, mais ce n’est pas une notion juridique. Penser est une chose, agir en est une autre. Condamnons les mauvais actes.

La Commission rejette l’amendement.

Puis elle adopte l’ensemble de la proposition de loi ainsi modifiée.

*

En conséquence, la commission des Lois constitutionnelles, de la législation et de l’administration générale de la République vous demande d’adopter la proposition de loi visant à lutter contre la haine sur internet (n° 1785) dans le texte figurant dans le document annexé au présent rapport.

ANNEXE N° 1 : AVIS DU CONSEIL D’ÉTAT

AVIS SUR LA PROPOSITION DE LOI

visant à lutter contre la haine sur Internet

Le Conseil d’État a été saisi le 25 mars 2019, sur le fondement du cinquième alinéa de l’article 39 de la Constitution, de la proposition de loi n° 1785 enregistrée le 20 mars 2019 à la présidence de l’Assemblée nationale. Cette proposition de loi, présentée par Mme Laetitia Avia, députée, a pour objectif de lutter contre la haine sur Internet, en mettant en œuvre les principales recommandations du rapport intitulé « Renforcer la lutte contre le racisme et l’antisémitisme » remis au Premier ministre le 20 septembre 2018. Le Conseil d’Etat, après en avoir examiné le contenu, formule les observations et suggestions qui suivent.

Cadre juridique en vigueur.

Au-delà des fondements constitutionnels et conventionnels protégeant la liberté de la communication et des instruments législatifs l’ayant mise en œuvre d’abord pour la presse (loi du 29 juillet 1881) puis pour l’audiovisuel (loi n° 82-652 du 29 juillet 1982 sur la communication audiovisuelle et loi n° 86-1067 du 30 septembre 1986 relative à la liberté de communication), le législateur de l’Union européenne puis le législateur national sont intervenus spécifiquement pour gouverner les obligations des opérateurs sur Internet.

La directive 2000/31/CE du 8 juin 2000, plus connue sous le nom de directive e-commerce, pose plusieurs principes dans un objectif de création d’un marché unique du commerce électronique :

– les prestataires de services de la société de l’information (fournisseurs d’accès à Internet et hébergeurs) dont l’activité revêt un caractère purement technique, automatique et passif ne peuvent être tenus responsables à raison du contenu, édité par leurs utilisateurs, qu’ils se bornent à transmettre ou stocker qu’à partir du moment où ils acquièrent une connaissance effective du caractère illicite de ce contenu (art. 12 à 14) ;

– aucun État membre ne peut imposer à ces prestataires une obligation générale de surveiller les informations qu’ils transmettent ou stockent, ni une obligation générale de rechercher activement les faits ou les circonstances révélant des activités illicites (art. 15) ;

– chaque État membre veille à ce que les services de la société de l’information fournis par un prestataire établi sur son territoire respectent, dans les limites de la directive, ses dispositions nationales, et aucun État membre ne peut restreindre la libre circulation des services de la société de l’information en provenance d’un autre Etat membre de l’Union européenne (1 et 2 de l’art. 3) ;

– lorsqu’un motif d’ordre public, de santé publique, de sécurité publique ou de protection des consommateurs l’exige, la réglementation de l’activité d’un prestataire de services établi dans un autre État membre n’est possible qu’en cas de carence ou d’insuffisance de celui-ci, et après notification à la Commission, qui appréciera la conformité des restrictions apportées aux objectifs de la directive (4 à 6 de l’art. 3).

C’est dans le cadre de la loi n° 2004-575 du 21 juin 2004 pour la confiance dans l’économie numérique (LCEN) que la directive e-commerce a été transposée.

En premier lieu, l’article 6 de la loi, qui étend la loi de 1881 et les infractions prévues par celle-ci aux contenus diffusés par voie électronique, transpose le principe de responsabilité allégée des prestataires de services de communication au public en ligne, qu’ils soient fournisseurs d’accès ou hébergeurs. S’agissant de ces derniers, il n’admet l’engagement de leur responsabilité civile ou pénale à raison des contenus qu’ils stockent que si, après avoir été informés de leur caractère illicite par un dispositif de signalement enserré dans de strictes conditions de forme (5 du I), ils n’ont pas promptement agi pour les retirer ou en interdire l’accès (2 et 3 du I). Dans sa décision n° 2004-496 DC du 10 juin 2004, le Conseil constitutionnel a souligné, par une réserve d’interprétation, que ces dispositions ne sauraient avoir pour effet d’engager la responsabilité d’un hébergeur qui n’a pas retiré une information dénoncée comme illicite par un tiers si celle-ci ne présente pas manifestement un tel caractère ou si son retrait n’a pas été ordonné par un juge. Les pratiques abusives de signalement sont par ailleurs spécifiquement réprimées (4 du I de l’article 6).

Outre l’obligation de conservation et de communication des données d’identification des utilisateurs de leurs services qui leur incombe (II et III), la loi pose également le principe d’une coopération de ces prestataires à la lutte contre les contenus les plus gravement réprimés, dits « contenus odieux » (telles que l’apologie des crimes contre l’humanité, la provocation au terrorisme, l’incitation à la haine raciale, ou à l’égard de personnes à raison de leur sexe, de leur orientation sexuelle, de leurs opinions religieuses ou de leur handicap, la pornographie enfantine, l’incitation à la violence notamment envers les femmes et les autres atteintes à la dignité humaine). Ce devoir de concours les oblige à disposer d’un mécanisme de signalement aisément accessible de ces contenus, à informer les autorités publiques de leurs signalements, et à rendre publics les moyens qu’ils consacrent à la prévention de leur diffusion (7 du I de l’article 6). Le manquement à l’ensemble de ces obligations est pénalement réprimé (VI de l’article 6).

En deuxième lieu, deux dispositions particulières peuvent contraindre à un retrait de contenu ou un blocage d’accès au service de communication au public en ligne : d’une part (8 du I de l’article 6), l’autorité judiciaire peut prescrire en référé ou sur requête toute mesure propre à prévenir un dommage ou à faire cesser un dommage occasionné par le contenu d’un service de communication au public en ligne, ce qui peut aller jusqu’au blocage temporaire de l’accès à un site (art. 50-1 de la loi du 29 juillet 1881 sur la liberté de presse) ; d’autre part (art. 6-1), l’autorité administrative peut demander aux fournisseurs de contenus ou aux hébergeurs de retirer les contenus relatifs à la provocation ou à l’apologie du terrorisme ou à la pédopornographie et, en cas de refus de retrait ou de défaut de réponse, peut, sous le contrôle d’une personnalité qualifiée membre de la CNIL, enjoindre aux fournisseurs d’accès à Internet de couper l’accès à ces sites. La méconnaissance de cette injonction entraîne les mêmes sanctions pénales que celles prévues au VI de l’article 6. Ce dispositif, dans sa rédaction issue de la loi n° 2011-267 du 14 mars 2011, a été déclaré conforme à la Constitution par la décision n° 2011-625 DC du Conseil constitutionnel en date du 10 mars 2011.

L’apparition de nouveaux acteurs (réseaux sociaux et moteurs de recherche) qui, en tant qu’intermédiaires actifs permettant le partage de contenus et en accélérant l’accès par leurs processus algorithmiques de hiérarchisation et d’optimisation, ne se bornent pas à un rôle purement technique, sans pour autant pouvoir être qualifiés d’éditeurs de contenus, rend le régime actuel, fondé sur la neutralité des prestataires de services de communication au public en ligne à l’égard des contenus, en partie dépassé.

La loi n° 2016-1321 du 7 octobre 2016 pour une République numérique a cherché à répondre à cette difficulté en introduisant un article L. 111-7 dans le code de la consommation. Celui-ci impose à une catégorie particulière de services de communication au public en ligne reposant sur un service de classement, de référencement ou de mise en relation en vue de la fourniture de biens, de services ou la diffusion de contenus, appelés opérateurs de plateforme en ligne, des obligations renforcées de clarté, de transparence et de loyauté au titre de la protection des consommateurs dans les activités de commerce en ligne. La conformité de ces dispositions législatives au droit de l’Union européenne comme aux exigences constitutionnelles est établie ou du moins à ce stade n’a pas été remise en cause. C’est à ces mêmes opérateurs de plateforme en ligne que la loi n° 2018-1202 du 22 décembre 2018 relative à la lutte contre la manipulation de l’information impose des obligations de loyauté et de transparence renforcées en période électorale.

Les limites de cette distinction binaire entre prestataires purement techniques et éditeurs de contenus ont également été atténuées dans un secteur voisin par la directive 2018/1808 du 14 novembre 2018 modifiant la directive 2010/13 du 10 mars 2010, dite directive « services médias audiovisuels » (SMA). Tout en concernant principalement le secteur de l’audiovisuel, cette directive fait obligation aux États membres de veiller à ce que les opérateurs de plateforme de partage de vidéos établis sur leurs territoires ou réputés y être établis prennent les mesures appropriées pour protéger le grand public des vidéos et programmes créés par l’utilisateur comportant une incitation à la violence ou à la haine visant un groupe de personnes fondée sur l’un des motifs visés à l’article 21 de la Charte des droits fondamentaux.

Reste que, limitée par les moyens disponibles de police et de justice, par les difficultés de qualifier l’intention pénale des organes dirigeants des prestataires concernés souvent domiciliés à l’étranger, par les possibilités de contournement des décisions de justice propres aux technologies des réseaux en ligne et par les contraintes des exigences procédurales qui lui sont propres, la répression de la diffusion des contenus haineux demeure insuffisante et insatisfaisante.

Confronté aux mêmes questions, le législateur allemand a cherché à imposer aux plateformes de partage de contenus en ligne comportant plus de deux millions d’utilisateurs enregistrés en Allemagne un large éventail d’obligations de signalement de contenus illicites, de transparence et de coopération administrative avec les autorités compétentes dans la loi « NetzDG » du 1er septembre 2017. Cette loi met notamment à la charge des plateformes une obligation de retrait de tout contenu illicite dans un délai de sept jours, et de tout contenu manifestement illicite dans un délai de 24 heures. Seul le juge, susceptible d’être saisi par l’autorité administrative (Office fédéral de la justice), peut obliger au retrait. La loi prévoit que des amendes financières peuvent être infligées aux plateformes par l’Office en cas de comportement globalement non coopératif. La conformité au droit de l’Union européenne de ce dispositif, notifié à la Commission, ne semble pas avoir été remise en cause à ce stade. Il convient de relever que celle-ci a, le 1er mars 2018, adopté une recommandation sur les mesures destinées à lutter de manière efficace contre les contenus illicites en ligne.

Contenu et objectifs de la proposition de loi.

La proposition de loi s’assigne les quatre objectifs suivants :

– créer, pour les plateformes en ligne à fort trafic, une obligation positive de retrait des contenus manifestement illicites comportant une incitation à la haine ou une injure à raison de la race, de la religion, de l’ethnie, du sexe, de l’orientation sexuelle ou du handicap ;

– faciliter et aggraver la répression pénale déjà prévue par la loi du 21 juin 2004 pour la confiance dans l’économie numérique ;

– mettre en place une régulation administrative visant à prévenir la diffusion de tels contenus, en soumettant ces mêmes grandes plateformes à des obligations d’organisation, de coopération et de transparence ;

– créer des mécanismes assurant, lorsqu’une décision judiciaire a interdit un contenu ou un site, que leur duplication puisse être efficacement combattue.

Pour mettre en œuvre ces objectifs, la proposition de loi comprend les dispositions suivantes :

– l’article 1er définit un nouveau régime de régulation administrative des opérateurs de plateformes à fort trafic, défini par référence à un seuil de connexion mensuel sur le territoire français qui sera déterminé par décret. Il prévoit une obligation de retrait sous 24 heures des contenus odieux manifestement illicites visés aux 5ème, 7ème et 8ème alinéas de l’article 24 de la loi de 1881 et des injures réprimées par les 3ème et 4ème alinéas de l’article 33 de la même loi ainsi que la possibilité de sanctions administratives des refus irréguliers de retrait par le CSA ;

– l’article 2 simplifie les modalités de signalement de contenus illicites ;

– l’article 3 impose aux opérateurs de plateformes en ligne de mettre à disposition du public une information claire et détaillée sur les dispositifs de recours ;

– l’article 4 confie au CSA la mission de régulation ;

– l’article 5 oblige les plateformes visées à avoir un représentant légal en France, et quadruple les sanctions pénales aux obligations existantes ;

– l’article 6 aligne la lutte contre les sites miroirs sur celle contre les sites interdits par des injonctions administratives de retrait ;

– l’article 7 prévoit un rapport annuel au Parlement.

Le Conseil d’État estime légitime, compte tenu de l’ampleur atteinte par la diffusion rapide et massive de contenus en ligne reposant sur le racisme, l’antisémitisme ou la discrimination qui restent très largement impunis, la poursuite de ces objectifs. Toutefois, l’intervention du législateur se heurte :

– d’une part, dans le choix du champ d’application territorial des nouvelles obligations prévues, à de très sérieux obstacles au regard de la directive 2000/31/CE, même s’il pourrait exister, comme le législateur allemand a semblé l’emprunter dans sa loi « NetzDG » du 1er septembre 2017, une voie permettant de la regarder, malgré tout, comme raisonnablement fondée (III) ;

– d’autre part, dans l’articulation des sanctions judiciaires et administratives, à des exigences constitutionnelles dont la satisfaction conduit le Conseil d’État à proposer des précisions quant à la rédaction des dispositions relatives à la répression judiciaire (IV) et à la régulation et la répression administratives (V).

Champ d’application des mesures envisagées.

Sur les opérateurs concernés

La nouvelle obligation spécifique de retrait sous 24 heures vise, dans la proposition, les seuls opérateurs de plateforme de mise en relation de plusieurs parties en vue du partage de contenus publics mentionnés au 2° du I de l’article L. 111-7 du code de la consommation. Le champ organique de la proposition de loi exclut donc ceux des opérateurs visés au 2° du I dont l’activité repose sur la mise en relation en vue de la vente d’un bien, de la fourniture d’un service, et de l’échange ou du partage d’un bien ou d’un service, ce qui se justifie au regard de leur objet, mais aussi les opérateurs visés au 1° du I du même article dont l’activité repose sur le classement ou le référencement, au moyens d’algorithmes informatiques, de contenus, de biens ou de services proposés ou mis en ligne par des tiers.

Au regard de l’objet que s’assigne la proposition de loi, qui vise à réprimer la diffusion rapide et potentiellement massive de contenus manifestement illicites, la fixation d’un seuil de connexions en France (que les auteurs proposent de fixer à deux millions par mois) pour délimiter le champ d’application de la loi est en rapport avec cet objet et ne se heurte à aucune difficulté de principe. Cependant, dans la mesure où la proposition de loi entend regarder les opérateurs qu’elle désigne responsables à raison de leur interaction active avec les contenus, dont ils favorisent la diffusion accélérée, la question de l’exclusion de son champ d’application des opérateurs dont l’activité aboutit à des résultats voisins, doit être examinée par rapport aux principes d’égalité et de non-discrimination au regard de l’objectif poursuivi. Par conséquent, la référence aux opérateurs de l’article L. 111-7 du code de la consommation dont l’activité repose sur le classement ou le référencement de contenus au moyen d’algorithmes, ou la mise en relation de plusieurs parties en vue de l’échange ou du partage d’un contenu mis en ligne par des tiers, limitée à ceux d’une certaine taille, définie par un seuil de connexions mensuelles sur le territoire français, afin de ne viser que ceux dont l’impact est le plus important, apparaît plus sûre. Le Conseil d’État souligne par ailleurs la nécessité de veiller à ce que des mécanismes de lutte contre les contournements abusifs de ce seuil soient envisagés.

Sur les contenus concernés

Par souci de clarté, le champ des contenus concernés par l’article 1er de la présente proposition de loi pourrait être rattaché à celui des contenus concernés par les obligations spécifiques de concours des prestataires de services de communication au public en ligne visées au 7 du I de l’article 6 de la loi du 21 juin 2004 (contenus dits « odieux »), qui visent notamment l’apologie du terrorisme, des crimes contre l’humanité ou des crimes d’esclavage, l’incitation à la haine à l’égard de personnes à raison de leur origine ou de leur appartenance ou non appartenance à une ethnie, une nation, une race ou une religion, de leur sexe, de leur orientation ou identité sexuelle, de leur handicap, ou encore la diffusion de la pornographie enfantine, en incluant les injures visées aux 3ème et 4ème alinéas de l’article 33 de la loi de 1881 lorsqu’elles ont un contenu odieux de même nature que ceux mentionnés ci-dessus.

Pour assurer la cohérence et l’efficacité de l’ensemble du dispositif, l’obligation de retrait ou de déréférencement des contenus visés au point 18 du présent avis imposée aux grandes plateformes devrait être intégrée à la loi pour la confiance dans l’économie numérique, et la coordination avec les obligations qu’elle prévoit déjà mieux assurée. Le Conseil d’État recommande la création d’une nouvelle disposition dans la loi pour la confiance dans l’économie numérique, applicable aux seuls opérateurs visés par la présente proposition de loi, et dont le régime pourra utilement, en tant que de besoin, renvoyer aux dispositions de droit commun applicables à l’ensemble des services de communication au public en ligne établis en France.

Sur le champ territorial

Quels que soient les opérateurs et les comportements visés, une lecture stricte de l’article 3 de la directive e-commerce, dont le mécanisme a été confirmé, en ce qui concerne les plateformes de partage de vidéos, par la directive SMA modifiée, limite aux opérateurs établis en France ceux auxquels la loi nationale pourrait imposer de nouvelles obligations. À supposer même que les opérateurs établis hors de l’Union européenne puissent cependant aussi être visés par la loi nationale, il leur suffirait de s’établir dans un autre pays de l’Union – ce qui est d’ailleurs le cas de la plupart des réseaux sociaux – pour paralyser l’effet de ces dispositions.

Or, la proposition de loi prévoit d’imposer des obligations spécifiques aux opérateurs de plateforme en ligne en fonction, non de leur établissement sur le territoire français, mais d’un seuil déterminé de nombre de connexions mensuelles, sur le territoire français, à leurs services. À supposer que les dispositions envisagées relatives à la répression pénale de l’obligation renforcée de retrait puissent être regardées comme relevant de la seule loi pénale, plutôt que comme une réglementation spécifique des opérateurs de plateforme en ligne entrant dans le champ de la directive 2000/31/CE, auquel cas l’État sur le territoire duquel l’infraction a été commise serait alors compétent pour la réprimer, le régime de régulation administrative des grandes plateformes entre en tout état de cause directement dans le champ de la directive 2000/31/CE et constitue, à ce titre, une entrave à la libre prestation des services de la société de l’information, y compris ceux en provenance d’un autre État membre. La proposition de loi pourrait alors être regardée comme incompatible avec l’article 3 de la directive 2000/31/CE.

Toutefois, le Conseil d’État estime qu’un fondement juridique peut être trouvé à la dérogation à la libre prestation de service que nécessitent les dispositions envisagées en la rattachant à l’exception générale de protection des droits fondamentaux. Le déferlement de contenus particulièrement odieux par le biais de plateformes en ligne mondialisées et ses conséquences graves, autant pour la vie démocratique que par ses impacts sur les comportements ou la vie des utilisateurs, constituent une atteinte à la dignité humaine protégée par l’article premier de la Charte des droits fondamentaux ainsi qu’une méconnaissance du principe de non-discrimination protégé par l’article 21 de cette Charte. Or une protection effective des droits fondamentaux suppose que soient mis en place, quel que soit le lieu d’établissement des opérateurs, des mécanismes permettant, de manière urgente et efficace, le retrait de contenus qui portent manifestement atteinte aux valeurs qu’expriment ces droits fondamentaux.

L’analyse présentée ci-dessus peut se réclamer des précédents à l’occasion desquels la Cour de justice des Communautés européennes, après avoir dégagé cette exception de façon prétorienne dans son arrêt Eugen Schmidberger (12 juin 2003, C-112/00) à propos de la libre circulation des marchandises, a admis, dans l’arrêt Omega (14 octobre 2004, C-36/02), qu’elle s’appliquait à la libre prestation de services. Dans ces arrêts, la Cour précise que, si les mesures envisagées ne sont pas prises sur le fondement d’un critère de nationalité, la protection des droits fondamentaux constitue, notamment lorsqu’elle est assise sur des dispositions constitutionnelles nationales, et même si elles ne sont propres qu’à certains Etats membres, un intérêt légitime de nature à justifier, en principe, une restriction à la libre prestation de services. Dans l’ordre constitutionnel français, si la Déclaration des droits de l’homme et du citoyen énonce en son article 11 que la liberté d’expression et de communication est l’un des « droits les plus précieux de l’homme » et si toute atteinte à cette liberté fondamentale doit être, sous le contrôle du juge, nécessaire, adaptée et proportionnée, la préservation de l’ordre public et des droits des tiers peut justifier de telles atteintes. La sauvegarde de la dignité de la personne humaine contre toute forme d’asservissement ou de dégradation, principe constitutionnel plus particulièrement affirmé dans le préambule de la Constitution de 1946, est une composante de l’ordre public.

Si l’objectif poursuivi par la proposition de loi est ainsi regardé comme relevant de la protection des droits fondamentaux, les autres conditions auxquelles la jurisprudence de la Cour de justice de l’Union européenne subordonne la validité des mesures prises sur son fondement semblent satisfaites. En effet, d’une part, ni la directive e-commerce, ni la directive SMA modifiée, dans ses dispositions portant spécifiquement sur les plateformes de partage de vidéos en ligne, ne sont d’harmonisation exhaustive. D’autre part, les dispositions prévues par la proposition de loi, limitées à certains seulement des opérateurs de plateformes en ligne parmi les prestataires de services de la société de l’information, et uniquement à ceux qui dépassent un seuil élevé de connexions mensuelles sur le territoire français, ne visent aucun opérateur à raison de sa nationalité et paraissent nécessaires pour la protection des intérêts qu’elle vise à garantir, sans que cette protection ne puisse être atteinte par des mesures moins restrictives dès lors qu’aucun dispositif directement applicable dans l’Union européenne ne permet d’assurer la répression et la régulation effectives de ces comportements condamnables. Le Conseil d’État souligne au surplus que le dispositif de la directive e-commerce est antérieur de plusieurs années à la création des réseaux sociaux et que l’ampleur du déferlement de contenus odieux appelle une action urgente de défense des personnes que le processus d’adoption de nouveaux textes par l’Union, mentionné au point 38 du présent avis, ne permet pas aisément.

Pour ces motifs, l’adoption de nouvelles dispositions, qu’elles soient de nature pénale ou se rattachent à la régulation administrative, centrées sur la prévention et la répression de la diffusion de contenus mentionnés au point 18 du présent avis, peut raisonnablement, comme l’exemple allemand l’a montré, être regardée comme ne méconnaissant pas les exigences du droit de l’Union européenne. Le Conseil d’État précise que cette proposition de loi devrait, en raison de ces enjeux, faire l’objet d’une information aux services compétents de la Commission européenne.

L’obligation de retrait renforcée et le renforcement de la répression judiciaire

Sur la sanction du refus de retrait

Une lecture littérale de la proposition de loi laisserait entendre qu’elle envisage de faire sanctionner par le Conseil supérieur de l’audiovisuel le refus, opposé au cas par cas, de retirer des contenus odieux manifestement illicites. Le Conseil d’État relève qu’une telle hypothèse se heurte à un obstacle constitutionnel. La suppression d’un contenu odieux sur Internet est un acte particulièrement radical au regard de la protection dont jouit la liberté d’expression consacrée à l’article 11 de la Déclaration des droits de l’homme et du citoyen. Le retrait de contenu ne peut donc généralement être opéré que par le juge judiciaire ou à tout le moins sous son contrôle : c’est l’équilibre traditionnel que valide le Conseil constitutionnel, qui n’a accepté des injonctions administratives que lorsqu’elles portent sur un blocage d’adresses Internet pour des sujets en relation avec des crimes graves (pédopornographie et terrorisme) et sont prononcées sous le contrôle étroit du juge (10 mars 2011, 2011-625 DC), mais a en revanche exclu un dispositif de sanctions administratives pouvant interdire un accès à Internet (10 juin 2009, 2009-580 DC).

Le Conseil d’État estime que l’objectif poursuivi serait mieux servi par la création d’un délit autonome incriminant le refus de retrait ou de déréférencement des contenus décrits au point 18 du présent avis, puni au titre du VI de l’article 6 de la loi pour la confiance dans l’économie numérique. L’instauration d’un tel délit, qui ne viendrait que donner une portée effective aux dispositions des articles 12 à 14 de la directive e-commerce, ne soulèverait pas de difficulté au regard du droit constitutionnel et des obligations conventionnelles de la France. Le Conseil d’État précise toutefois, pour les raisons mentionnées au III et celles qui précèdent, que l’instauration d’une même obligation de retrait ou de déréférencement de contenus simplement illicites dans un délai de sept jours sans intervention préalable d’une autorité judiciaire ne paraît pas conforme aux exigences constitutionnelles.

Sur l’exigence de voies de recours internes

Le Conseil d’État estime nécessaire l’obligation faite aux opérateurs de plateforme en ligne visés par la proposition de loi de prévoir un dispositif de recours internes permettant à l’auteur du signalement de contester un éventuel refus de retrait et symétriquement à l’auteur du contenu litigieux de contester un éventuel retrait. Il note que ce dispositif suppose que l’auteur du contenu litigieux soit systématiquement informé du signalement de son contenu, ce qu’il conviendrait de préciser explicitement. Ces garanties sont justifiées par le caractère fondamental de la liberté d’expression au regard des risques élevés de censure excessive par les opérateurs de plateforme. La proposition de loi pourrait utilement prévoir qu’il incombe à l’opérateur de plateforme en ligne de s’expliquer sur les motifs de sa décision, quel qu’en soit le sens, dans les sept jours qui suivent l’expiration du délai de 24 heures, et de faire explicitement mention de l’existence de voies de recours, internes et contentieuses, contre ces décisions, y compris au bénéfice de l’auteur dont le contenu serait supprimé.

Sur le contenu des signalements

Le Conseil d’État estime appropriées et conformes au droit constitutionnel et au droit de l’Union européenne les évolutions envisagées, consistant à quadrupler les sanctions financières pénales applicables prévues au VI de l’article 6 de la loi pour la confiance dans l’économie numérique en cas de méconnaissance par les prestataires de services de communication en ligne de leurs obligations de concours à la lutte contre l’ensemble des contenus mentionnés au point 18 du présent avis et à faciliter le signalement de ces contenus, tel qu’il est décrit au 5 du I du même article. Toutefois, sur ce dernier point, au regard des exigences du principe de légalité des délits et pour éviter une incompétence négative du législateur, il estime que la loi devrait préciser, sans pouvoir renvoyer au pouvoir réglementaire le soin de le faire, que le signalement, qui marque le début d’une éventuelle phase judiciaire, doit indiquer la description des faits litigieux et les motifs pour lesquels, aux yeux de son auteur, le contenu qu’il signale lui paraît relever de ceux décrits au point 18 du présent avis. De plus, le Conseil d’Etat suggère que l’obligation de prévoir un dispositif de signalement simple et lisible soit plus clairement étendue aux opérateurs de plateforme en ligne visés par la proposition de loi que n’envisage de le faire, en l’état, le second alinéa du II de son article 2.

Autres commentaires

Pour assurer l’effectivité de la procédure judiciaire, la proposition reproduit, à l’instar du législateur allemand, des dispositions adoptées dans la loi relative à la lutte contre la manipulation de l’information, imposant aux opérateurs concernés de désigner un représentant sur le seul territoire français (II de l’article 5 de la proposition de loi). Des précisions quant au rôle attendu de ce représentant légal paraissent nécessaires.

De manière plus générale et au service d’un même objectif d’effectivité et de clarification, la proposition pourrait utilement préciser les délais dans lesquels l’ensemble des prestataires de services de communication au public en ligne concernés par l’article 6 de la loi pour la confiance dans l’économie numérique sont tenus de retirer les autres contenus manifestement illicites sous peine d’engager leur responsabilité civile et pénale en vertu des 2 et 3 du I. du même article, ou de communiquer les données d’identification (II du même article) ou encore d’informer les autorités des signalements de certains contenus particulièrement graves (7 du I du même article). Elle pourrait également prévoir des délais de conservation des données supprimées, en vue de faciliter les enquêtes pénales.

Régulation administrative

Le seul volet judiciaire de l’action publique ne suffira pas à traiter entièrement un problème dont l’ampleur dépassera toujours les capacités et moyens de la répression. La mise en place d’une régulation pour les seuls opérateurs relevant du champ de la répression judiciaire du refus de retrait ou de déréférencement sous 24 heures, visant à prévenir la diffusion des contenus manifestement illicites décrits au point 18 du présent avis et à en traiter rapidement l’occurrence, complète utilement l’action publique. Son insertion dans la loi n° 86-1067 du 30 septembre 1986 est appropriée. Le choix, comme dans la loi sur la manipulation d’informations électorales, de confier cette régulation au Conseil supérieur de l’audiovisuel, du reste cohérent au regard de la directive SMA, ne paraît pas critiquable dès lors que la création d’un nouveau régulateur est écartée. Il conviendra dans ce cas de modifier l’article 6-1 de la loi pour la confiance dans l’économie numérique qui prévoit l’intervention d’un membre de la Commission nationale de l’informatique et des libertés pour la supervision des retraits en matière de terrorisme.

Sur la nature des obligations administratives imposées aux grandes plateformes

Le Conseil d’État recommande que les obligations administratives pesant sur les seuls opérateurs visés par la proposition de loi et susceptibles de faire l’objet d’une sanction par le Conseil supérieur de l’audiovisuel soient précisées et clarifiées. Elles pourraient utilement se fonder sur le devoir de coopération administrative que le 7 du I de l’article 6 impose déjà aux services de communication au public en ligne établis en France (dispositifs de signalement, d’information des autorités publiques et de transparence) en supprimant, pour les seuls opérateurs visés par la proposition de loi, la répression pénale dont il est assorti. Ce devoir pourrait être complété par une liste des obligations que la proposition de loi envisage de prescrire : instauration de voies de recours internes (III de l’article premier), respect des obligations de retrait, des modalités de traitement des signalements et des délais de réponse (II de l’article 2), engagement de moyens proportionnés pour traiter ces signalements (III de l’article 2), mise à disposition du public des informations sur les dispositifs de recours, y compris judiciaires, dont disposent les victimes de contenus et leurs auteurs (article 3), reddition de comptes au Conseil supérieur de l’audiovisuel et transparence au public (article 4), et désignation d’un représentant légal exerçant les fonctions d’interlocuteur référent (II de l’article 5). La proposition de loi pourrait également rendre obligatoire la communication au régulateur de l’organisation interne adoptée pour procéder au retrait en 24 heures des contenus mentionnés au point 18 du présent avis et des moyens qu’y sont consacrés.

Sur l’exercice par le CSA d’un pouvoir de sanction

Le Conseil supérieur de l’audiovisuel devrait pouvoir disposer de la compétence pour fixer des orientations, diffuser des bonnes pratiques, et adopter des lignes directrices. Il pourrait également procéder à des investigations, dont il conviendrait de s’assurer qu’elles n’appellent pas un renforcement de ses pouvoirs d’enquête, à ce stade plus restreints que ceux de régulateurs analogues.

Le Conseil d’État souligne également la nécessité de rendre publique, dans un rapport annuel, l’appréciation critique du Conseil supérieur de l’audiovisuel sur la manière dont les opérateurs se conforment à leurs obligations mentionnées au point 32, tant l’effet de cette appréciation sur l’image commerciale des opérateurs constitue un levier puissant d’influence et d’incitation.

La crédibilité de la régulation administrative confiée au CSA repose sur un pouvoir de sanction dont le Conseil d’État estime qu’il devra cibler, après mise en demeure et dans le respect des garanties prévues dans la loi n° 86-1067 du 30 septembre 1986, l’attitude systémique non coopérative de l’opérateur, après prise en compte des moyens qu’il met en œuvre pour prévenir la diffusion des contenus odieux manifestement illicites et la faire cesser. Dans cette appréciation qui sera soumise au contrôle du juge, il appartiendra au CSA de tenir également compte de comportements répétés de refus de retrait ou de retraits timorés, pusillanimes, ou au contraire excessifs. Le plafond de la sanction, fixé à 4 % du chiffre d’affaires mondial, n’appelle pas de réserves. Il sera cependant nécessaire de préciser explicitement que son montant tiendra compte de la gravité des manquements commis et de leur éventuelle réitération. En outre, la proposition de loi gagnerait, d’une part, à préciser plus clairement si la mise en conformité des opérateurs de plateforme à la mise en demeure qui leur a été adressée doit les exonérer de toute sanction et, d’autre part, à décrire les modalités de saisine du Conseil supérieur de l’audiovisuel, y compris éventuellement d’une saisine d’office.

Prévention du contournement des injonctions judiciaires.

Après l’intervention d’une décision judiciaire aboutissant au retrait d’un contenu ou à la fermeture d’un site, il est fréquent de voir réapparaître, quasi instantanément, tout ou partie de ceux-ci sous une autre dénomination. Il n’existe aujourd’hui pas d’autre manière de réprimer ces résurgences que de recommencer la même procédure judiciaire.

Les exigences constitutionnelles ne permettent pas de procéder à l’interdiction de ces « contenus miroirs », quels que soient le degré et la gravité de leur illicéité, sans l’intervention d’un juge. Le droit de l’Union européenne pourrait par ailleurs s’opposer à l’obligation générale de surveillance susceptible d’incomber, en conséquence de cette interdiction, aux prestataires de services de la société de l’information en raison du caractère général et indéterminé de ce qui constitue un « contenu miroir » en matière de délits de presse. Aussi, pour atteindre l’objectif que s’assigne la proposition, le Conseil d’État, plutôt que de prévoir une injonction administrative, propose que le juge saisi de conclusions visant au retrait de contenu ou à l’interdiction d’accès à un site puisse également être saisi d’une demande d’interdiction de toute reprise partielle ou totale de ce qu’il aura interdit. S’il y fait droit, les autorités et services administratifs compétents, le cas échéant saisis par toute personne, pourraient intervenir auprès d’un hébergeur en indiquant que tout ou partie des données qu’il stocke relève de cette interdiction et en lui demandant de procéder immédiatement à leur retrait. À défaut, le juge initial serait saisi et pourrait, par ordonnance, confirmer l’obligation de retrait. Une réflexion pourrait également être engagée afin de responsabiliser, par la création d’un nouveau délit, les opérateurs de plateforme dans la suppression des contenus miroirs qui leur sont signalés comme ayant déjà fait l’objet d’une condamnation.

Considérations finales.

Le Conseil d’État souligne enfin, comme il l’avait déjà fait dans son étude annuelle de 2017, « Puissance publique et plateformes numériques : accompagner l’ubérisation », invitant à l’adoption d’un ensemble de normes européennes traitant de la mise en œuvre de la charte des droits fondamentaux dans le numérique, que seule l’adoption de nouvelles dispositions par l’Union européenne donnerait un fondement commun et une efficacité considérablement accrue à une lutte que les valeurs inscrites dans les Traités imposent de conduire en même temps que le marché se développe.

Cet avis a été délibéré par l’assemblée générale du Conseil d’État dans sa séance du jeudi 16 mai 2019.

ANNEXE N° 2 : SYNTHÈSE DE LA CONSULTATION

Pour préparer l’examen de la présente proposition de loi, la commission des Lois, à l’initiative de sa présidente, a organisé, sur le site internet de l’Assemblée nationale, une consultation.

Ouverte du 18 avril au 12 mai 2019, cette consultation a donné la possibilité aux personnes interrogées de partager leur expérience face aux contenus haineux en ligne et de donner leur avis à propos de la lutte contre ces contenus. 1 415 personnes ont participé à cette consultation, dont 1 322 ont répondu à l’ensemble des questions posées, y compris celles n’appelant pas obligatoirement une réponse.

Les principaux résultats de la consultation sont présentés ci-après ([141]), l’ensemble des réponses à la consultation étant rendu public sur le site open data de l’Assemblée nationale ([142]).

A. LE PROFIL DES PARTICIPANTS

Parmi les 1 317 participants ayant donné leur tranche d’âge, 80 % ont entre 18 et 59 ans, les 25-39 ans et les 40-59 ans étant les classes d’âge les plus représentées.

Sur les 1 238 personnes ayant indiqué leur genre, près des deux tiers ont déclaré être un homme (762 hommes contre 476 femmes).

B. L’EXPOSITION AUX CONTENUS HAINEUX OU INJURIEUX

Question n° 1 : Avez-vous été confronté, que ce soit en tant que victime ou témoin, à des contenus haineux ou injurieux sur internet ?

Une nette majorité des personnes interrogées (86 % au total) a répondu avoir déjà été confrontée à des contenus haineux ou injurieux sur internet, 43 % d’entre elles indiquant même être souvent confrontés à de tels contenus.

Question n° 2 : De quelle nature étaient-ils ?

75 % des personnes interrogées ont qualifié les contenus dont ils ont été victimes ou témoins d’injurieux, 50 % de diffamatoires et 39 % ont jugé qu’ils relevaient de la menace. Les contenus auxquels ont été exposées ces personnes étaient, selon elles, racistes à 63 %, sexistes à 51 %, LGBTphobes à 40 %, xénophobes à 38,5 % et antisémites à 38 %. Les participants ayant répondu « Autre » à cette question estiment avoir été confrontés, en tant que victimes ou témoins, majoritairement à des contenus négationnistes. Dans une moindre mesure, ils ont également affirmé avoir été confrontés à des contenus anti-blancs et anti-athéistes. Une part résiduelle d’entre eux considère avoir été confrontés à des contenus grossophobes.

C. LES POURSUITES ENGAGÉES

Questions nos 3, 4 et 5 : Les avez-vous signalés au site qui les hébergeait ? Si oui, quelle suite a été donnée à votre signalement ? Si non, pourquoi ?

Le signalement à la plateforme d’hébergement a été effectué par 51 % des internautes interrogés. Parmi ces personnes, une minorité considère avoir obtenu une véritable réponse du site hébergeur.

La majorité des réponses libres (« Autre ») a formulé la réponse suivante : « Cela dépend ». Il est possible d’en déduire que la suite donnée au signalement a pu déboucher sur une réponse de la part du site hébergeur mais que celle-ci n’est pas systématique. D’autres personnes ont précisé que leur signalement avait entraîné la suspension du compte de l’auteur du contenu litigieux.

77 % des internautes interrogés qui ont indiqué ne pas avoir signalé les contenus haineux ou injurieux au site hébergeur ont fait valoir leur méconnaissance de l’existence, de l’effectivité ou du fonctionnement d’un dispositif de signalement.

Questions nos 6, 7 et 8 : Les avez-vous signalés à la justice ? Si oui, une réponse judiciaire satisfaisante vous a-t-elle été apportée ? Si non, pourquoi ?

Parmi les personnes ayant déclaré avoir déjà été victimes ou témoins de contenus odieux en ligne, seules 8 % ont effectué un signalement à la justice, dont une faible part (12 %) estime avoir reçu une réponse judiciaire satisfaisante.

17 % d’entre elles ont choisi la réponse « Autre ». Il ressort de leurs commentaires que la plateforme PHAROS a grandement été sollicitée. Néanmoins, aucune ne précise si une réponse judiciaire a pu finalement leur être apportée.

D’autres internautes, par la mention « En cours », semblent signifier que la justice est toujours saisie de leur demande.

Parmi les internautes interrogés n’ayant pas signalé à la justice les contenus haineux ou injurieux dont ils auraient été témoins ou victimes, près de 81 % d’entre eux ne l’ont pas fait par méconnaissance de l’existence, de l’effectivité, ou du fonctionnement du dispositif de signalement.

Question n° 9 : Connaissez-vous la plateforme PHAROS, qui permet de signaler à la police et à la gendarmerie certains contenus et comportements illégaux observés sur internet ?

40 % des internautes interrogés affirment avoir connaissance de l’existence de la plateforme PHAROS, contre 59 % ignorent son existence, ce qui témoigne de la relative méconnaissance de cette structure.

D. LES PISTES D’AMÉLIORATION

Question n° 10 : Comment, selon vous, mieux identifier les contenus haineux ou injurieux sur internet et leurs auteurs ?

L’amélioration des dispositifs de signalement en vue de les rendre plus accessibles et simples d’usage (41 %) constitue la piste privilégiée par les personnes interrogées pour renforcer l’identification des contenus odieux en ligne et leurs auteurs. La mise en place par les opérateurs numériques d’outils de détection automatique et la suppression de l’anonymat sur internet arrivent, loin derrière, en deuxième position.

Les 10 % de réponses libres (« Autre ») expriment majoritairement les craintes des internautes concernant l’automatisation de la modération. Ces réponses invitent également à préserver l’anonymat aussi bien pour la protection des victimes que la liberté d’expression. Certains internautes appellent à améliorer la prévention et l’éducation, notamment auprès des mineurs, ainsi que les outils de détection existants.

Question n° 11 : Qui doit, selon vous, réguler les contenus haineux ou injurieux sur internet ?

Selon les internautes consultés, la régulation des contenus haineux ou injurieux sur internet doit être de la compétence, dans une proportion similaire :

–– d’une autorité indépendante (42 %) ;

–– des opérateurs eux-mêmes (40 %) ;

–– de l’autorité judiciaire (38 %).

Dans les commentaires libres (« Autre ») les internautes ont évoqué l’idée d’une régulation « citoyenne » par les utilisateurs eux-mêmes mais également la création d’une « police dédiée » à ces questions. Étaient également exprimés, de la part de certaines personnes, une crainte de déléguer ce pouvoir à une entité privée ou à une autorité administrative mais également, de la part d’autres personnes, le souhait de renforcer la modération par les plateformes.

E. LA RÉPRESSION

Question n° 12 : Quelles sanctions doivent être prioritairement prononcées contre les auteurs de contenus haineux ou injurieux sur internet ?

Les personnes consultées semblent montrer une préférence pour l’interdiction temporaire d’accéder à internet ou à un ou plusieurs sites internet (47 %), pour la peine de mise à l’épreuve, de travail d’intérêt général ou de stage (45 %) et pour la peine d’amende (40 %). La peine de prison a, en revanche, été peu soutenue par les internautes.

Les réponses dans l’espace de commentaires libres (« Autre ») formulaient notamment une demande de proportionnalité de la sanction en fonction de la gravité du contenu et, dans une moindre mesure, comportaient des propositions de sensibilisation à la citoyenneté et au vivre ensemble.

Les réponses évoquaient également le recours à la suspension de compte. Certains internautes ont déclaré qu’aucune sanction n’était nécessaire, alors que d’autres ont préféré rappeler que le droit français actuel comportait déjà des sanctions.

Question n° 13 : Quelles sanctions doivent être prioritairement prononcées contre les opérateurs numériques ne respectant pas leurs obligations en matière de lutte contre les contenus haineux ou injurieux sur internet ?

Les personnes interrogées ont massivement plébiscité la peine d’amende comme peine adéquate à l’égard des opérateurs numériques ne respectant pas leurs obligations. Un grand nombre de personnes s’est également prononcé en faveur de l’interdiction temporaire d’exercer leur activité. En revanche, les peines de prison ou de mise à l’épreuve ont recueilli peu de suffrages.

Dans l’espace de commentaires libres (« Autre »), la majorité des internautes indiquait ne vouloir « Aucune sanction » et paraissait défendre l’idée que la présence de contenus haineux ou injurieux sur internet ne relève pas de la responsabilité des sites hébergeurs, aucune faute ne devant donc leur être imputée.

L’absence de sanctions à l’encontre des sites hébergeurs et l’irresponsabilité de ces derniers sont également revenues à de très nombreuses reprises dans les réponses libres à cette question et à la précédente.

D’autres personnes interrogées, en plus faible nombre, préconisaient une publicité de la sanction pour altérer l’image des plateformes ou proposaient une amende particulièrement sévère à leur encontre.

PERSONNES ENTENDUES

ASSOCIATIONS

Association E-Enfance

 Mme Justine Atlan, directrice générale

Coexister

 M. Théophile Grzybowski, vice-président de Coexister France

FLAG

 M. Mickaël Bucheron, président

 M. Johan Cavirot, vice-président

Fondation des Femmes

 Mme Sylvie Pierre Brossolette, membre

 Mme Saskia Lux, membre de la force juridique de la fondation et de son comité de pilotage

Génération Numérique

 M. Cyril di Palma, délégué général

La Quadrature du Net

 M. Martin Drago, juriste salarié de l’association

 M. Alexis Fitzjean O’Cobhthaigh, avocat, membre de l’association

 M. Arthur Messaud, juriste salarié de l’association

Ligue des droits de l’Homme

 Mme Maryse Artiguelong, vice-présidente

Ligue internationale contre le racisme et l’antisémitisme

 Mme Ilana Soskin, avocat à la Cour

 M. Stéphane Nivet, directeur de la communication

 Mme Mireille Flam, 1ère vice-présidente

 Mme Claire Lopez, permanente de la commission juridique

Respect zone

 M. Philippe Coen, président

 M. Eric Lauvaux, juriste

 Mme Anne-Charlotte Gros, membre

SOS Racisme

 M. Dominique Sopo, président

 M. Michaël Ghnassia, avocat au Conseil d’État et à la Cour de cassation

Stop Homophobie

 Mme Valérie Ple, présidente

 M. Lyes Alouane, délégué Île-de-France

 M. Etienne Deshoulières, avocat

Union des étudiants juifs de France

 M. Sacha Ghozlan, président

 M. Stéphane Lilti, avocat

AUTORITÉS ADMINISTRATIVES INDÉPENDANTES ET ORGANISMES PUBLICS

Défenseur des droits

 M. Jacques Toubon, Défenseur des droits

 Mme Nepheli Yatropoulos, conseillère internationale

Autorité de régulation des communications électroniques et des postes

 M. Sébastien Soriano, président

 M. Serge Abiteboul, membre du collège

 M. Jean Cattan, conseiller du président

Commission nationale de l’informatique et des libertés

 M. Jean Lessi, secrétaire général

 Mme Guilda Rostama, juriste au service des affaires économiques

Conseil supérieur de l’audiovisuel

 M. Roch-Olivier Maistre, président

 M. Yannick Faure, directeur de cabinet du président

Commission nationale consultative des droits de l’homme

 M. Jean-Marie Delarue, président

 Mme Ophélie Marrel, conseillère juridique

Conseil national du numérique

 Mme Annie Blandin, membre

 M. Théodore Christakis, membre

 M. Charles-Pierre Astolfi, sécrétaire général

 Mme Marylou Le Roy, rapporteure

Haut Conseil à l’égalité entre les femmes et les hommes

 Mme Claire Guiraud, secrétaire générale

 Mme Marion Muracciole, chargée des travaux de la commission violences

ACTEURS NUMÉRIQUES

Bing (Microsoft (*))

 Mme Camille Vaziaga, responsable des affaires publiques

Bodyguard

 M. Charles Cohen, fondateur et président

Cdiscount (*)

 Mme Marie Even, secrétaire générale

Daily Motion (*)

 M. Clément Reix, chargé des affaires publiques et règlementaires

E Bay (*)

 Mme Charlotte Cheynard, responsable des affaires institutionnelles

EDIMA

 Mme Siada El Ramly, directrice générale

 M. Romain Digneaux, chargé de mission « Affaires publiques »

Facebook (*)

 M. Anton Maria Battesti, responsable de la stratégie

 Mme Béatrice Oeuvrard, responsable des affaires publiques

 Mme Clotilde Briend, chargée des affaires publiques

Fédération du e-commerce et de la vente à distance (*)

 M. Marc Lolivier, secrétaire général

 Mme Marie Audren, responsable des affaires publiques

Fédération française des télécoms (FFT) (*)

 M. Olivier Riffard, directeur des affaires publiques de la FFT

 Mme Alexandra Laffitte, chargée de mission « Contenus et usages » à la FFT

 Mme Claire Chalvidant, directrice des relations institutionnelles d’Orange

 Mme Marie Liane Lekpeli, chargée des affaires réglementaires d’EITelecoms

 Mme Claire Perset, directrice des relations institutionnelles de SFR

Jeuxvideos.com

 Mme Isabelle Jacquemet, directrice des opérations gaming

Google France (*)

 M. Thibault Guiroy, chargé des relations institutionnelles

IAB France

 M. Jean-Marie Le Guen, directeur général

Le Bon Coin (*)

 Mme Servane Forest, directrice juridique

 M. Arnaud Jacques, responsable des affaires publiques

Netino By Webhelp

 Mme Chloé de Mont Serrat, directrice générale

 M. Jean-Marc Royer, fondateur

Pointdecontact.net

 M. Quentin Aoustin, directeur des opérations

 Mme Louise Florand, juriste analyste

Qwant (*)

 M. Sébastien Ménard, conseiller stratégie

 M. Guillaume Champeau, directeur juridique et éthique

Rakuten France (*)

 M. Benjamin Moutte-Caruel, directeur des affaires juridiques et réglementaires

Snapchat

 M. Jean Gonié, directeur Europe

Tech in France

 M. Loïc Rivière, délégué général

 Mme Marjorie Volland, responsable des affaires publiques

 Mme Nina Gosse, avocate

TripAdvisor

 Mme Véronique Corduant, directrice des politiques publiques Europe

Twitter (*)

 Mme Audrey Herblin Stoop, directrice des affaires publiques France et Russie

Wikimédia France (*)

 M. Pierre-Yves Beaudoin, membre

Youtube (Google (*))

 M. Thibault Guiroy, chargé des relations institutionnelles

AVOCATS SPÉCIALISÉS

Barreau de Paris

 M. Basile Ader, vice-bâtonnier

 M. Paul Rechter, directeur de la communication et des affaires publiques

Conférence des bâtonniers (*)

 Mme Hélène Moutardier, membre

Conseil national des barreaux (*)

 Mme Sophie Ferry, membre de la commission « Droit et entreprise »

 M Jacques-Edouard Briand, directeur des affaires législatives

MAGISTRATS SPÉCIALISÉS

17ème chambre du tribunal de grande instance (TGI) de Paris

 M. Thomas Rondeau, président

Parquet de Paris

 M. Rémi Heitz, procureur de la République près le TGI de Paris

 Mme Aude Duret, vice-procureure, cheffe de la section de la presse et de la protection des libertés publiques au parquet de Paris

ADMINISTRATIONS

Délégation interministérielle à la lutte contre le racisme, l’antisémitisme et la haine anti-LGBT

 M. Frédéric Potier, délégué interministériel

(*) Ces représentants d’intérêts ont procédé à leur inscription sur le registre de la Haute Autorité pour la transparence de la vie publique, s’engageant ainsi dans une démarche de transparence et de respect du code de conduite établi par le Bureau de l’Assemblée nationale.

DÉPLACEMENT

Office central de lutte contre la criminalité liée aux technologies de l’information et de la communication (OCLCTIC)

 M. Benoît Nau, adjoint au chef de l’OCLCTIC

 Mme Aude Signourel, conseillère juridique à la sous-direction de la lutte contre la cybercriminalité

([1]) J-P. Sartre, Le Diable et le Bon Dieu, Gallimard.

([2]) Déclaration de M. Emmanuel Macron, Président de la République, sur la lutte contre l’antisémitisme, à Paris, le 7 mars 2018.

([3]) K. Amellal, L. Avia et G. Taïeb, Renforcer la lutte contre le racisme et l’antisémitisme sur internet, rapport remis au Premier ministre le 20 septembre 2018.

([4]) Avis n° 397368 du 16 mai 2019 sur la proposition de loi visant à lutter contre la haine sur Internet, annexé au présent rapport.

([5]) L’ensemble des réponses à la consultation est rendu public sur le site open data de l’Assemblée nationale : http://data.assemblee-nationale.fr/autres/consultations-citoyennes.

([6]) Directive 2000/31/CE du 8 juin 2000 relative à certains aspects juridiques des services de la société de l’information, et notamment du commerce électronique, dans le marché intérieur.

([7]) Mission « Régulation des réseaux sociaux – Expérimentation Facebook », Créer un cadre français de responsabilisation des réseaux sociaux : agir en France avec une ambition européenne, mai 2019.

([8]) Article XI de la Déclaration des droits de l’Homme et du citoyen de 1789.

([9]) CEDH, 7 décembre 1976, Handyside c. Royaume-Uni, n° 5493/72.

([10]) Source : CNCDH, Rapport sur la lutte contre le racisme, l’antisémitisme et la xénophobie : les essentiels (année 2018), avril 2019 ; CNCDH, Rapport sur la lutte contre le racisme, l’antisémitisme et la xénophobie (année 2017), avril 2018.

([11]) Commission nationale consultative des droits de l’homme, La lutte contre le racisme, l’antisémitisme et la xénophobie (année 2017), mai 2018, pp. 38-50.

([12]) P-A. Taguieff, La force du préjugé, essai sur le racisme et ses doubles, La Découverte, 1987 ; P-A. Taguieff (dir.), Dictionnaire historique et critique du racisme, PUF, 2013.

([13]) P-A. Taguieff, La nouvelle judéophobie, Fayard, 2002.

([14]) V. Geisser, La nouvelle islamophobie, La Découverte, 2003.

([15]) Interstats, Les victimes d’atteintes à caractère raciste, antisémite ou xénophobe dans l’enquête Cadre de vie et sécurité, Info rapide n° 9, mars 2018.

([16]) Rapport n° 2018-01-07-STER-038 du 17 janvier 2019 du Haut Conseil à l’égalité entre les femmes et les hommes, 1er état des lieux du sexisme en France, pp. 6-7.

([17]) SOS Homophobie, Rapport sur l’homophobie 2019, mai 2019.

([18]) Proportion des affaires donnant lieu à poursuites ou à une mesure alternative aux poursuites.

([19]) Source : ministère de la justice / SG-SDSE-SID pénal, traitement DACG-PEPP, 2018.

([20]) Source : rapports de transparence de Facebook (https://transparency.facebook.com/community-standards-enforcement#hate-speech).

([21]) Source : rapports de transparence de Google (https://transparencyreport.google.com/youtube-policy/removals?hl=fr&total_channels_removed=period:Y2018Q3&lu=videos_by_reason&channels_by_reason=period:Y2018Q3&videos_by_reason=period:Y2018Q3).

([22]) Au troisième trimestre 2018, Youtube avait supprimé près de 3 300 chaînes et 10 400 vidéos incitant à la violence ou à l’extrémisme violent et 1 750 chaînes ainsi que 18 850 vidéos pour harcèlement et cyberintimidation, auxquelles il faut ajouter les 94 400 vidéos violentes et les 6 200 vidéos avec des contenus offensants ou haineux retirées.

([23]) Relevant de l’Office central de lutte contre la criminalité liée aux technologies de l’information et de la communication, cette plateforme permet de signaler en ligne certains contenus et comportements illicites observés sur internet (pédophilie, pédopornographie, racisme, antisémitisme, xénophobie, incitation à la haine raciale, ethnique ou religieuse, terrorisme et apologie du terrorisme, escroqueries et arnaques financières en ligne).

([24]) Mission « Régulation des réseaux sociaux – Expérimentation Facebook », Créer un cadre français de responsabilisation des réseaux sociaux : agir en France avec une ambition européenne, mai 2019, pp. 11-13.

([25]) La loi n° 2018-703 du 3 août 2018 renforçant la lutte contre les violences sexuelles et sexistes a assimilé au harcèlement sexuel ou moral « les propos ou comportements (…) imposés à une même victime par plusieurs personnes, de manière concertée ou à l’instigation de l’une d’elles, alors même que chacune de ces personnes n’a pas agi de façon répétée » ou « les propos ou comportements (…) imposés à une même victime, successivement, par plusieurs personnes qui, même en l’absence de concertation, savent que ces propos ou comportements caractérisent une répétition ».

([26]) Directive 2000/31/CE du 8 juin 2000 relative à certains aspects juridiques des services de la société de l’information, et notamment du commerce électronique, dans le marché intérieur.

([27]) Avis n° 397368 du 16 mai 2019 sur la proposition de loi visant à lutter contre la haine sur Internet, § 8.

([28]) Le Conseil supérieur de l’audiovisuel s’agissant de la lutte contre les fausses informations, la Commission nationale de l’informatique et des libertés en matière de protection des données personnelles, l’Autorité de régulation des communications électroniques et des postes à l’égard des opérateurs de communications électroniques ou encore la Haute Autorité pour la diffusion des œuvres et la protection des droits sur internet pour la lutte contre le piratage.

([29]) Enquête conduite par Renaissance numérique et Génération numérique en association avec la DILCRAH et le Comité interministériel à la prévention de la délinquance et de la radicalisation sur l’exposition des jeunes aux contenus choquants sur internet, mars 2018.

([30]) Avis n° 397368 du 16 mai 2019 précité, § 22.

([31]) Respectivement aux articles 1er, 21 et 23.

([32]) https://www.interieur.gouv.fr/Actualites/Communiques/G7-des-ministres-de-l-Interieur.

([33]) Proposition de règlement du Parlement européen et du Conseil relatif à la prévention de la diffusion de contenus à caractère terroriste en ligne.

([34]) Article 28 ter de la directive 2010/13/UE visant à la coordination de certaines dispositions législatives, réglementaires et administratives des États membres relatives à la fourniture de services et médias audiovisuels telle que modifiée par la directive (UE) 2018/1808 du 14 novembre 2018.

([35]) Gesetz zur Verbesserung der Rechtsdurchsetzung in sozialen Netzwerken.

([36]) Online Harms White Paper, avril 2019.

([37]) Commission nationale consultative des droits de l’homme, op. cit., pp. 48-49.

([38]) https://www.lejdd.fr/Medias/exclusif-mark-zuckerberg-quatre-idees-pour-reguler-internet-3883274.

([39]) Rapport de la mission « Régulation des réseaux sociaux – Expérimentation Facebook » précité, p. 3.

([40]) Lorsqu’ils ne contribuent pas à la lutte contre les contenus les plus gravement réprimés, les activités illégales d’argent en ligne, la provocation au terrorisme ou son apologie et la pédopornographie, lorsqu’ils ne conservent pas les éléments d’identification des contenus qu’ils transmettent ou hébergent ou lorsqu’ils ne défèrent pas à la demande d’une autorité judiciaire visant à obtenir communication de ces éléments.

([41]) À titre d’exemple, Facebook a lancé en février 2019 un fonds pour le civisme en ligne destiné à soutenir des projets contre le harcèlement et la haine et en faveur de l’esprit critique.

([42]) Cette voie procédurale permet au ministère public qui choisit de l’employer de communiquer le dossier de la poursuite et ses réquisitions au président de la juridiction, qui statue sans audience ni débat par une ordonnance portant relaxe ou condamnation à une amende et, le cas échéant, à une peine complémentaire.

([43]) http://www.justice.gouv.fr/bo/2019/20190430/JUSD1910196C.pdf.

([44]) Avis n° 397368 du 16 mai 2019 précité, § 38.

([45]) Déclaration de M. Emmanuel Macron, Président de la République, sur la lutte contre l’antisémitisme, à Paris, le 7 mars 2018.

([46]) Les observations formulées par le Conseil d’État dans son avis, qui figure en annexe du présent rapport, sont détaillées dans le commentaire de chaque article de la proposition de loi.

([47]) 1° du nouvel article 6-3 de la loi du 21 juin 2004 pour la confiance dans l’économie numérique.

([48]) 2° du même article.

([49]) 3° du même article.

([50]) 4° du même article.

([51]) 5° du même article.

([52]) 6° du même article.

([53]) 7° du même article.

([54]) 8° du même article.

([55]) 9° du même article.

([56]) 10° du même article.

([57]) Ils ne sont soumis à aucune obligation de déclaration préalable ou d’autorisation. Ils doivent désigner un directeur de publication (III) et un droit de réponse de la personne mentionnée par cet éditeur sur son site est prévu (IV). Les limites à leur liberté d’expression sont définies par le chapitre IV de la loi du 29 juillet 1881 ; elles sont poursuivies et réprimées dans les conditions définies par le chapitre V de cette loi (V).

([58]) Il s’agit des personnes assurant une activité de transmission de contenus sur un réseau de communications électroniques ou de fourniture d’accès à un réseau de communications électroniques ou assurant, dans le seul but de rendre plus efficace leur transmission ultérieure, une activité de stockage automatique, intermédiaire et temporaire des contenus qu’un prestataire transmet.

([59]) Loi n° 2016-1321 du 7 octobre 2016 pour une République numérique.

([60]) CJUE, 23 mars 2010, Google c. Louis Vuitton Malletier, nos C-236/08 à C-238/08.

([61]) La responsabilité de ces opérateurs peut être engagée s’ils ont modifié ces contenus, ne se sont pas conformés à leurs conditions d’accès et aux règles usuelles concernant leur mise à jour ou ont entravé l’utilisation licite et usuelle de la technologie utilisée pour obtenir des données ainsi que s’ils n’ont pas agi promptement pour retirer les contenus stockés ou pour en rendre l’accès impossible, dès qu’ils avaient effectivement eu connaissance du fait que les contenus avaient été retirés du réseau, que l’accès aux contenus avait été rendu impossible ou que la justice avait ordonné de retirer du réseau les contenus ou d’en rendre l’accès impossible.

([62]) Décision n° 2004-496 DC du 10 juin 2004, Loi pour la confiance dans l’économie numérique, cons. 9.

([63]) CEDH, 16 juin 2015, Delfi AS c. Estonie n° 64569/09 et 2 février 2016, Index.hu c. Hongrie, n° 22947/13.

([64]) Groupe de travail interministériel sur la lutte contre la cybercriminalité, Protéger les internautes : rapport sur la cybercriminalité, février 2014, p. 185.

([65]) CJUE, 24 novembre 2011, Scarlet Extended c. SABAM, n° C-70/10 et 16 février 2012, Netlog c. SABAM, n° C-360/10.

([66]) Cass. Civ. 1ère, 12 juillet 2012, n° 11-13.666.

([67]) 8 du I de l’article 6 de la loi n° 2004-575 du 21 juin 2004 pour la confiance dans l’économie numérique.

([68]) Voir infra, le commentaire de l’article 3.

([69]) Avis n° 397368 du 16 mai 2019 précité, § 17.

([70]) Ce principe figure à l’article 3 de la directive « e-commerce » et a été repris aux articles 28 bis et 28 ter de la directive 2010/13/UE du 10 mars 2010 visant à la coordination de certaines dispositions législatives, réglementaires et administratives des États membres relatives à la fourniture de services de médias audiovisuels, telle que modifiée par la directive 2018/1808/UE du 14 novembre 2018.

([71]) Avis n° 397368 du 16 mai 2019 précité, § 22.

([72]) Même avis, § 25.

([73]) Même avis, § 35.

([74]) Même avis, § 27.

([75]) Même avis, § 35.

([76]) La fixation, l’enregistrement ou la transmission de l’image ou de la représentation pornographique d’un mineur en vue de sa diffusion ainsi que l’offre, la mise à disposition, la diffusion, l’importation ou l’exportation d’une telle image ou représentation.

([77]) La fabrication, le transport ou la diffusion d’un message à caractère violent, incitant au terrorisme, pornographique ou de nature à porter gravement atteinte à la dignité humaine ou à inciter des mineurs à se livrer à des jeux les mettant physiquement en danger ainsi que le commerce d’un tel message lorsqu’il est susceptible d’être vu ou perçu par un mineur.

([78]) Amendement de votre rapporteure.

([79]) Amendement de M. Jacques Marilossian (La République en marche).

([80]) Amendement de M. Belkhir Belhaddad et des membres du groupe La République en marche.

([81]) Amendement de M. Jacques Marilossian et des membres du groupe La République en marche.

([82]) Amendement de M. Buon Tan (La République en marche).

([83]) Amendement de Mme George Pau-Langevin et des membres du groupe Socialistes et apparentés.

([84]) Trois amendements identiques de la commission des Affaires culturelles et de l’éducation, de M. Erwan Balanant (Mouvement Démocrate et apparentés) et de M. Buon Tan (La République en marche).

([85]) Votre rapporteure renvoie au commentaire de l’article 2 pour plus de précisions.

([86]) Décision n° 2004-496 DC du 10 juin 2004, Loi pour la confiance dans l’économie numérique, cons. 9.

([87]) CEDH, 16 juin 2015, Delfi AS c. Estonie, n° 64569/09.

([88]) Loi n° 2007-297 du 5 mars 2007 relative à la prévention de la délinquance.

([89]) Loi n° 2016-444 du 13 avril 2016 visant à renforcer la lutte contre le système prostitutionnel et à accompagner les personnes prostituées.

([90]) Loi n° 2010-769 du 9 juillet 2010 relative aux violences faites spécifiquement aux femmes, aux violences au sein des couples et aux incidences de ces dernières sur les enfants.

([91]) Loi n° 2014-873 du 4 août 2014 pour l’égalité réelle entre les femmes et les hommes.

([92]) Loi n° 2014-1353 du 13 novembre 2014 renforçant les dispositions relatives à la lutte contre le terrorisme.

([93]) Loi n° 2018-703 du 3 août 2018 renforçant la lutte contre les violences sexuelles et sexistes.

([94]) Pour plus de précisions sur les infractions concernées, voir supra, le commentaire de l’article 1er.

([95]) Loi n° 2007-297 du 5 mars 2007 précitée.

([96]) Groupe de travail interministériel sur la lutte contre la cybercriminalité précité, pp. 186-187.

([97]) Avis n° 397368 du 16 mai 2019 précité, § 28.

([98]) Voir supra, le commentaire de l’article 1er.

([99]) Votre rapporteure renvoie au commentaire de l’article premier pour plus de précisions.

([100]) Voir supra, le commentaire des articles 1er et 2.

([101]) 1 du I de l’article 6 de la loi n° 2004-575 du 21 juin 2004 pour la confiance dans l’économie numérique.

([102]) Loi n° 2007-297 du 5 mars 2007 relative à la prévention de la délinquance.

([103]) Cinquième alinéa du 7 du I de l’article 6 de la loi n° 2004-575 du 21 juin 2004 pour la confiance dans l’économie numérique.

([104]) Loi n° 2018-898 du 23 octobre 2018 relative à la lutte contre la fraude.

([105]) Avant-dernier alinéa du 7 du I de l’article 6 de la loi n° 2004-575 du 21 juin 2004 précitée.

([106]) Votre rapporteure renvoie au commentaire de l’article 3 pour plus de précisions.

([107]) Votre rapporteure renvoie au commentaire de l’article 5 pour plus de précisions.

([108]) Ils sont énoncés à l’article 3-1 de la loi n° 86-1067 du 30 septembre 1986 relative à la liberté de communication.

([109]) Article 13 de la loi n° 86-1067 du 30 septembre 1986 précitée.

([110]) Article 14 de la loi n° 86-1067 du 30 septembre 1986 précitée.

([111]) Article 15 de la loi n° 86-1067 du 30 septembre 1986 précitée.

([112]) L’article 11 de la loi n° 2018-1202 du 22 décembre 2018 relative à la lutte contre la manipulation de l’information prévoit que ces opérateurs :

– mettent en place un dispositif facilement accessible et visible permettant à leurs utilisateurs de signaler de telles informations ;

– prennent des mesures complémentaires, notamment la transparence de leurs algorithmes, la promotion des contenus issus d’entreprises et d’agences de presse et de services de communication audiovisuelle, la lutte contre les comptes propageant massivement de fausses informations, l’information des utilisateurs sur l’identité de la personne leur versant des rémunérations en contrepartie de la promotion de contenus d’information se rattachant à un débat d’intérêt général, l’information des utilisateurs sur la nature, l’origine et les modalités de diffusion des contenus ainsi que l’éducation aux médias et à l’information ;

– rendent publics ces mesures et les moyens qu’ils y consacrent, en adressant une déclaration annuelle au Conseil supérieur de l’audiovisuel.

([113]) K. Amellal, L. Avia et G. Taïeb, Renforcer la lutte contre le racisme et l’antisémitisme sur internet, rapport remis au Premier ministre le 20 septembre 2018, p. 18.

([114]) Voir supra, le commentaire de l’article 1er.

([115]) Avis n° 397368 du 16 mai 2019 précité, § 31.

([116]) Même avis, § 34.

([117]) Voir supra, le commentaire de l’article 2.

([118]) Voir supra, le commentaire de l’article 3.

([119]) Voir infra, le commentaire de l’article 9.

([120]) Notamment la dissolution, l’interdiction d’exercer une activité professionnelle, le placement sous surveillance judiciaire, la fermeture d’un établissement, l’affichage de la décision prononcée ou la diffusion de celle-ci par la presse écrite ou tout moyen de communication au public par voie électronique.

([121]) Quatrième et cinquième alinéas du 7 du I de l’article 6 de la loi n° 2004-575 du 21 juin 2004 pour la confiance dans l’économie numérique.

([122]) Article 6-1 de la loi n° 2004-575 du 21 juin 2004 précitée.

([123]) II de l’article 6 de la loi n° 2004-575 du 21 juin 2004 précitée.

([124]) III du même article.

([125]) Cet article prévoit notamment que « le taux maximum de l’amende applicable aux personnes morales est égal au quintuple de celui prévu pour les personnes physiques par la loi qui réprime l’infraction ».

([126]) Il existe également, à côté de ce référé « internet », un référé spécifique « droit d’auteur » dans le domaine de la lutte contre la contrefaçon de droits d’auteur ou de droits voisins, en application de l’article L. 336-2 du code de la propriété intellectuelle.

([127]) Cass. Civ. 1ère, 19 juin 2008, n° 07-12.244.

([128]) Voir, par exemple, TGI Paris, ord. Réf., 10 février 2012, n° 12/51224.

([129]) CJUE, 24 novembre 2011, Scarlet c. SABAM, n° C-70/10 et 16 février 2012, SABAM c. Netlog, n° C-360/10.

([130]) Article 50-1 de la loi du 29 juillet 1881 sur la liberté de la presse.

([131]) Article 706-23 du code de procédure pénale.

([132]) Lequel prévoit que le président du tribunal de grande instance « peut toujours, même en présence d’une contestation sérieuse, prescrire en référé les mesures conservatoires ou de remise en état qui s’imposent, soit pour prévenir un dommage imminent, soit pour faire cesser un trouble manifestement illicite ».

([133]) Loi n° 2014-1353 du 13 novembre 2014 renforçant les dispositions relatives à la lutte contre le terrorisme.

([134]) A. Linden, Rapport d’activité 2018 de la personnalité qualifiée prévue par l’article 6-1 de la loi n° 2004-575 du 21 juin 2004 créé par la loi n° 2014-1353 du 13 novembre 2014 renforçant les dispositions relatives à la lutte contre le terrorisme (mars 2018 – février 2019), mai 2019.

([135]) Article 61 de la loi n° 2010-476 du 12 mai 2010 relative à l’ouverture à la concurrence et à la régulation du secteur des jeux d’argent et de hasard en ligne.

([136]) Loi n° 2016-1691 du 9 décembre 2016 relative à la transparence, à la lutte contre la corruption et à la modernisation de la vie économique.

([137]) Article L. 621-13-5 du code monétaire et financier.

([138]) Loi n° 2014-344 du 17 mars 2014 relative à la consommation.

([139]) Article L. 524-3 du code de la consommation.

([140]) Avis n° 397368 du 16 mai 2019 précité, § 37.

([141]) Certaines questions posées offraient la possibilité pour les internautes de rédiger librement une réponse. Pour chaque question de ce type, il a été dégagé les principales tendances des propositions formulées, à l’exception des réponses sans lien avec la question ou de celles répétant des éléments déjà mentionnés par le questionnaire.

([142]) http://data.assemblee-nationale.fr/autres/consultations-citoyennes.