Avis relatif à la proposition de loi visant à lutter contre la haine sur internet

JORF n°0161 du 13 juillet 2019
texte n° 107



Avis relatif à la proposition de loi visant à lutter contre la haine sur internet

NOR: CDHX1920513V
ELI: Non disponible


(Assemblée plénière du 9 juillet 2019 - adoption : 47 voix « pour », une voix « contre »)


La CNCDH recommande le retrait de l'article 1er de la proposition de loi visant à lutter contre la haine sur internet et la réécriture des autres articles. Cet article enjoint les plateformes et les moteurs de recherche de supprimer des contenus « manifestement » contraires à un certain nombre d'infractions, sous peine d'être sanctionnés pénalement. La commission considère que ce texte fait peser une menace disproportionnée sur la liberté d'expression en raison de la procédure envisagée. Celle-ci fait reposer l'appréciation du caractère illicite d'un contenu sur les plateformes, via des algorithmes et des modérateurs peu formés, en lieu et place de l'autorité judiciaire. Ce dispositif renforce le pouvoir des grandes plateformes au détriment des autres acteurs qui n'auront pas tous les moyens d'appliquer la loi. En outre, la lourdeur de la sanction encourue risque d'encourager des retraits excessifs, faisant peser un risque de censure.
Par ailleurs, la CNCDH regrette le manque de dispositions de prévention dans le projet de loi et notamment de mesures ambitieuses concernant l'éducation au numérique. Dès lors, la CNCDH recommande la mise en place d'un plan national d'action sur l'éducation et la citoyenneté numérique, à destination de l'ensemble des utilisateurs. La CNCDH s'inquiète aussi du processus de régulation proposé. Le CSA, dans son organisation actuelle, ne semble pas équipé pour une telle mission. La Commission insiste tout particulièrement sur la nécessité d'assurer un contrôle effectif sur le fonctionnement des systèmes algorithmiques. Enfin, en raison du caractère transfrontalier d'Internet, la CNCDH appelle à une réflexion plus globale au niveau européen, incluant toutes les parties prenantes, en faveur d'une harmonisation du cadre de la régulation des plateformes et des moteurs de recherche.
1. Le 20 mars 2019, une proposition de loi visant à lutter contre la haine sur internet (PPL) a été déposée à l'Assemblée nationale. Cette initiative dresse le constat d'une « libération de la parole haineuse » (1) sur internet, face à laquelle la réponse judiciaire s'avère le plus souvent démunie (2), tandis que les plateformes de réseaux sociaux s'abritent derrière la responsabilité limitée qui leur est conférée en la matière par le statut d'hébergeur (3).
2. La CNCDH souscrit évidemment pleinement à l'objectif affiché par cette PPL. Elle rappelle toutefois son attachement au respect d'une conciliation équilibrée entre cet objectif et la liberté d'expression, une conciliation conforme au régime libéral tel qu'il est consacré en France depuis 1789 en matière de presse et de publication (4). La spécificité d'internet par rapport aux autres médias - volatilité, ubiquité, prolifération des messages notamment - ne saurait justifier pour la CNCDH une remise en cause fondamentale de ce régime à travers la consécration d'une quasi-censure privée. Or, en faisant des plateformes des acteurs centraux de la lutte contre la haine, la PPL s'en remet à des acteurs privés en position dominante (5), susceptibles d'avoir un impact conséquent sur la liberté d'expression. Forte d'une doctrine forgée dans l'exercice de son mandat de rapporteur national sur la lutte contre le racisme (6), la CNCDH s'est auto-saisie de la question.
3. A titre liminaire, la CNCDH regrette que cette PPL, à laquelle il appartient de concilier des droits et libertés fondamentaux, souffre d'une préparation hâtive, d'une rédaction approximative, d'un dispositif inutilement complexe et de n'être en fin de compte qu'un palliatif à l'insuffisance de moyens budgétaires. La commission regrette que la proposition de loi s'attache plus à une approche répressive centrée sur le retrait des contenus - le symptôme - plutôt que d'en prévenir la cause en cherchant à faire changer les comportements. La CNCDH s'interroge également sur la présence dans un texte consacré aux contenus haineux d'infractions telles que le proxénétisme ou la traite des êtres humains.
4. S'agissant d'une problématique qui déborde largement le cadre national, la CNCDH regrette aussi l'absence de coordination des Etats, tant au niveau de l'Union européenne qu'au niveau international. A l'exception d'un projet de règlement en cours d'adoption relatif à la lutte contre les contenus en lien avec le terrorisme, l'UE a opté pour l'autorégulation des plateformes en ligne. Ainsi, sur l'initiative de la Commission européenne, quatre acteurs importants du Net : Facebook, Twitter, YouTube et Microsoft se sont engagés en 2016, dans le cadre d'un « code de conduite pour contrer le discours de haine illégal en ligne » (7). Or, si les engagements de ces acteurs privés sont louables, ils ne sauraient constituer une réponse suffisante à la poursuite d'un objectif d'intérêt général comme celui-ci. Il serait par conséquent opportun de susciter au niveau de l'UE une réflexion transversale afin de définir des principes généraux uniformisés, dans le cadre d'une directive ou d'un règlement, susceptibles de garantir une régulation cohérente de l'activité des plateformes au sein de l'espace européen (8).
5. Consciente des difficultés représentées par la lutte contre la haine en ligne, mais tout autant attachée à la préservation des libertés fondamentales, la CNCDH souhaite d'abord insister sur la nécessité d'éduquer et de sensibiliser davantage les utilisateurs aux réalités du numérique. La Commission est très préoccupée par le risque d'une censure excédant ce qui est nécessaire à la protection des droits d'autrui, induit par l'article 1er de la PPL. Elle recommande de privilégier une régulation renforcée des réseaux sociaux et des moteurs de recherche. Elle exprime la nécessité de renforcer, par l'attribution de moyens adaptés, la place du juge judiciaire dans la poursuite et la sanction des contenus haineux.


Une éducation au numérique plus ambitieuse


6. Internet offre un espace de liberté inédit, mais cet espace, parfois qualifié à tort de « virtuel » (9), est régi par des opérateurs privés et répond à des règles de fonctionnement dont les internautes ne sont pas toujours conscients. La CNCDH insiste sur la nécessité d'éduquer les utilisateurs d'internet à l'analyse critique d'un document ou d'un message, aux enjeux soulevés par les aspects techniques qui régissent, notamment, le partage et la visibilité des contenus sur le web, mais également par le modèle économique des réseaux sociaux, propice à la prolifération des messages choquants ou extrémistes (10). Dans le même sens, il convient d'attirer l'attention des internautes sur la responsabilité collective qui est à l'œuvre à travers la circulation réticulaire des contenus postés sur internet (11).
7. Il est important également de rappeler qu'internet ne constitue pas une zone de « non-droit ». Les observateurs des réseaux sociaux mettent souvent en avant la libération de la parole engendrée par l'anonymat des personnes, pour le meilleur et pour le pire. Le sentiment d'impunité, ressenti par certains internautes, n'est toutefois qu'un leurre qui repose sur une confusion entre anonymat et pseudonymat. Il convient donc de rappeler aux internautes qu'ils sont toujours susceptibles d'être identifiés et de devoir répondre de leurs actes, éventuellement devant la justice.
8. Eclairer les jeunes sur les ressorts techniques et économiques des réseaux sociaux, renforcer leur esprit critique et civique, doit relever de l'Education nationale. Les responsabiliser à l'égard des contenus et des propos illicites également. A cet égard, les deux insertions dans le code de l'éducation prévues par la PPL (12) paraissent insuffisantes à la CNCDH. Elles peuvent laisser entendre que les efforts pédagogiques seront focalisés sur l'apprentissage de la tolérance et de la lutte contre les discriminations, bien évidemment nécessaires mais insuffisantes : la CNCDH préconise une éducation au numérique plus ambitieuse, destinée notamment à une meilleure compréhension des modes d'organisation d'internet en particulier des réseaux sociaux et des moteurs de recherche.
9. La CNCDH relève toutefois que l'Education nationale, si elle doit renforcer son action éducative en matière de numérique, ne doit pas être le seul acteur mobilisé sur le sujet. Tous les acteurs d'internet, en particulier les réseaux sociaux, devraient également agir davantage en ce sens. A ce titre, la CNCDH salue l'obligation mise à la charge des réseaux sociaux, par la proposition de loi, de sensibiliser les utilisateurs mineurs à une « utilisation civique et responsable » de ces réseaux (13). Elle regrette toutefois que cette nouvelle mesure ne vise que les mineurs et, de surcroît, qu'elle soit limitée à la « première utilisation », ou selon la dernière rédaction retenue par l'Assemblée nationale le 9 juillet, au moment de « l'inscription à ces services » : la CNCDH estime en effet que cette sensibilisation devrait être conçue de manière plus large, en concernant tous les utilisateurs, quel que soit leur âge, et de manière régulière.
10. C'est pourquoi la CNCDH renouvelle le vœu qu'elle formulait déjà il y a quelques années d'un plan d'action national sur l'éducation et la citoyenneté numérique (14).


Un équilibre rompu au détriment de la liberté d'expression


11. La CNCDH rappelle régulièrement, à l'instar du Conseil constitutionnel (15) et de la Cour européenne des droits de l'homme (CourEDH) (16), que la liberté d'expression, garantie respectivement par l'article 11 de la Déclaration des droits de l'homme et du citoyen et l'article 10 de la Convention européenne des droits de l'homme (CEDH), constitue l'un des fondements essentiels d'une société démocratique (17). Elle « vaut non seulement pour les informations ou idées accueillies avec faveur ou considérées comme inoffensives ou indifférentes, mais aussi pour celles qui heurtent, choquent ou inquiètent l'État ou une fraction quelconque de la population. Ainsi le veulent le pluralisme, la tolérance et l'esprit d'ouverture sans lesquels il n'est pas de société démocratique » (18). Pour autant, comme toute liberté, elle peut être restreinte pour des motifs d'ordre public et de protection des droits d'autrui. La CourEDH condamne très fermement les discours de haine en affirmant que les allégations racistes ou xénophobes ne bénéficient pas de la protection de l'article 10 de la CEDH (19). Il en est de même s'agissant des « propos visant à inciter la société à la haine raciale et à propager l'idée d'une race supérieure » (20) ou « des expressions visant à propager, inciter ou à justifier la haine fondée sur l'intolérance, y compris l'intolérance religieuse » (21).
12. Les restrictions à la liberté d'expression figurent en grande partie dans la loi de 1881 sur la liberté de la presse. La PPL renvoie d'ailleurs à certaines de ses dispositions pour définir les contenus haineux : notamment s'agissant des injures aggravées, des incitations à la haine à l'égard de certaines catégories de personnes.
13. La faculté donnée à chacun de s'exprimer librement, de publier des vidéos ou des photos, et plus largement de partager des contenus, suppose un équilibre délicat entre la liberté reconnue aux personnes et la protection des droits d'autrui. L'une des garanties essentielles pour assurer cet équilibre repose sur l'intervention de l'autorité judiciaire. Autrement dit, c'est au juge, et à lui seul, d'apprécier le caractère abusif de l'exercice de la liberté d'expression.
14. La PPL attribue aux plateformes en ligne le soin de retirer des contenus haineux, plus précisément des contenus « manifestement » contraires à des dispositions incriminant certains propos. Le juge n'est mis à contribution qu'a posteriori pour garantir l'effectivité de la nouvelle mission de ces opérateurs privés : le non-retrait par une plateforme d'un message de haine, dans les 24h suivant sa notification, est passible d'une peine de 250 000 euros. Ce nouveau dispositif inquiète fortement la CNCDH parce que, d'une part, il encourage les plateformes, par excès de prudence et, éventuellement, avec une intervention humaine minimale (22), à retirer des contenus n'étant pas « manifestement » haineux et, d'autre part, il renforce le pouvoir des plateformes les plus importantes au détriment des plus petites, qui n'ont pas les moyens de réagir dans un tel délai (23).
15. C'est à l'autorité judiciaire qu'il appartient de statuer sur le caractère illicite d'un contenu. Le contentieux relatif à la loi sur la liberté de la presse est particulièrement complexe, en partie en raison de l'appréciation du contexte, du caractère polysémique du langage, et de l'intentionnalité parfois équivoque qui préside à la communication d'un message. La PPL prend le soin de préciser que les plateformes en ligne auront un champ de compétence limité aux contenus « manifestement » illicites. Ce faisant, les députés s'efforcent de s'aligner sur la jurisprudence du Conseil constitutionnel (24).
Si l'on comprend aisément la limite introduite par l'adjonction de l'adverbe « manifestement », cela ne constitue toutefois pas, en pratique, une garantie suffisante. D'abord, parce que la complexité attachée à l'identification d'un message haineux, vaut également pour l'appréhension de son caractère « manifeste » : les agents en charge de la modération, au sein d'un réseau social, ne disposent pas nécessairement des compétences juridiques requises en la matière, d'autant plus nécessaire pourtant que l'usage généralisé des algorithmes conduit à s'interroger sur ce que sera pour ceux-ci le « manifestement illicite ». Ensuite, et surtout, parce qu'en raison de la sanction pénale conséquente qui pèse sur les réseaux sociaux en cas de non-retrait, ces agents auront tendance à retenir une acception large de ce caractère « manifeste ». Enfin, la brièveté du délai laissé aux opérateurs privés ne permet pas d'exercer un recours effectif contre un retrait abusif.


Un mode de régulation à améliorer


16. Le dispositif mis en place par la PPL intègre un nouvel acteur à la lutte contre les discours de haine sur internet : le Conseil supérieur de l'audiovisuel (CSA) (25). Dans son avis de 2015 relatif à la lutte contre la haine sur internet, la CNCDH avait déjà préconisé la création d'une autorité administrative indépendante (AAI), un « interlocuteur unique et indépendant chargé d'assurer la protection-prévention auprès des internautes et de faire respecter un socle d'obligations uniformes aux usagers et aux entreprises ». De ce point de vue, la Commission ne peut qu'accueillir favorablement l'idée de régulation ex ante introduite par la PPL.
17. Soucieuse de protéger la dignité humaine, de favoriser les conditions d'établissement et du maintien d'un espace d'échanges respectueux des personnes, et consciente par ailleurs des limites de l'auto-régulation, la CNCDH préconise en effet la mise en place d'un système de régulation. Néanmoins, compte tenu de l'organisation et des ressources humaines du CSA, ce dernier aurait les plus grandes difficultés en pratique à assurer la mission qui lui est dévolue par la PPL de contrôler les opérateurs privés qui gèrent les réseaux sociaux. Si la CNCDH n'ignore pas qu'une réforme du CSA est envisagée, l'intervention de cette AAI en la matière ne lui paraît pas représenter une garantie suffisante. Alors qu'une réflexion est en cours pour confier cette fonction de régulation à une autre AAI, dédiée à la régulation transversale du numérique (26), le caractère indivisible et interdépendant des droits de l'homme justifierait que la CNCDH soit étroitement associée à cette réflexion.
18. La CNCDH regrette l'absence dans la PPL d'une obligation pour les plateformes de proposer un renvoi vers les dispositifs publics de signalement tels que PHAROS.
19. Afin d'exercer une régulation effective, l'obligation d'information qui incombera aux réseaux sociaux, telle qu'elle est prévue par la PPL (27), devra notamment porter sur les « fonctions clés des réseaux sociaux » (28) : d'une part, la fonction d'ordonnancement des contenus et, d'autre part, la fonction de mise en œuvre des conditions générales d'utilisation (CGU) et de modération des contenus. Parmi les éléments susceptibles d'être contrôlés par la future AAI, la CNCDH invite à prêter une attention toute particulière aux algorithmes impliqués dans ces fonctions. Les opérateurs devraient être en mesure de fournir au régulateur leur mode de fonctionnement et d'en expliquer les « choix » a posteriori. Cette exigence d'explicabilité (29) et d'intelligibilité impliquerait d'étendre également les pouvoirs du régulateur à la possibilité de procéder aux audits des algorithmes utilisés par les plateformes en ligne (30) et d'apprécier les moyens humains mis en œuvre par le régulateur pour contrôler le traitement réservé aux résultats issus des systèmes algorithmiques.
20. En permettant les abus de la liberté d'expression et de communication, en favorisant la prolifération des contenus illicites, internet peut parfois être perçu comme une menace pour la cohésion sociale. La CNCDH souhaiterait toutefois souligner que ces phénomènes demeurent largement minoritaires, et pour répréhensibles qu'ils soient, ils ne doivent pas appeler une réponse disproportionnée qui remettrait en cause l'esprit libéral au cœur du régime juridique encadrant la liberté d'expression. La CNCDH plaide en conséquence pour plus de transparence de la part des opérateurs privés, pour une responsabilité individuelle et collective accrue de la part des utilisateurs des réseaux sociaux, et par la mise en place d'une instance de régulation en capacité d'exercer sa mission de prévention des contenus illicites. Cette prévention sera favorisée par une connaissance approfondie des mécanismes sociaux, psychologiques, et technologiques à la source de la production de tels contenus ; cette instance pourrait donc être également chargée de promouvoir des recherches pluridisciplinaires sur ces mécanismes et sur leur contrôle par la société. Au-delà du cadre national, cette instance pourrait agir au sein d'une organisation européenne comparable au CEPD (Comité européen de protection des données) qui réunit les homologues de la Commission nationale de l'informatique et des libertés au sein de l'Union Européenne.
21. Pour toutes ces raisons, la CNCDH recommande le retrait de l'article 1er de la PPL et la réécriture des autres articles.


Liste des personnes auditionnées


- M. Serge Abiteboul, chercheur Inria, membre du collège de l'ARCEP ;
- Mme Virginie Aubrée, la Quadrature du Net ;
- Mme Annie Blandin-Obernesser, Conseil national du numérique ;
- Mme Jennifer Chrétien, Renaissance numérique ;
- M. Benoit Darde, président de la commission Relations institutionnelles de Syntec Numérique ;
- M. Alexis Fitzjean O Cobhthaigh, avocat, La Quadrature du Net ;
- Mme Audrey Herblin-Stoop, directrice des affaires publiques, Twitter France ;
- M. Donatien Le Vaillant, Conseiller pour la justice et les relations internationales, Délégation interministérielle à la lutte contre le racisme, l'antisémitisme, et la haine anti-LGBT ;
- Mme Béatrice Oeuvrard, directrice des affaires publiques, Facebook France ;
- Mme Annabelle Richard, avocate associée au cabinet Pinsent Masons ;
- Mme Philippine Lefèvre-Rottmann, déléguée aux relations institutionnelles de Syntec Numérique.


(1) L'exposé des motifs de la PPL considère que le phénomène des discours de haine en ligne est « décuplé par la libération d'une parole haineuse décomplexée car trop souvent tolérée sous l'artifice du virtuel ».


(2) Sur ce point, la CNCDH a déjà pu relever, dans les différentes éditions de son rapport annuel relatif à la lutte contre racisme, l'insuffisance des moyens alloués à la plateforme de signalement des contenus illicites de l'Internet, PHAROS.


(3) Loi n° 2004-575 du 21 juin 2004 pour la confiance dans l'économie numérique, art. 6.


(4) Comme l'ont également rappelé certaines études et rapports. Voir not. : Conseil d'Etat, Etude annuelle « Le numérique et les droits fondamentaux », Etude annuelle 2014, La Documentation française, 2014 ; « Renforcer la lutte contre le racisme et l'antisémitisme sur Internet », Rapport à Monsieur le Premier ministre, septembre 2018 ; « Créer un cadre français de responsabilisation des réseaux sociaux : agir en France avec une ambition européenne », Rapport remis au Secrétaire d'Etat en charge du numérique, mai 2019.


(5) D'après l'universitaire Jeffrey Rosen, « la personne ayant aujourd'hui le plus de pouvoir pour décider qui a le droit d'être entendu de par le monde n'est pas le président de la Cour suprême des Etats-Unis, mais le responsable de la politique des contenus chez Google ». Cité par le Conseil d'Etat : Etude annuelle, op cit., p. 227.


(6) Voir les rapports annuels de la CNCDH consacrés à la lutte contre le racisme et plus particulièrement l'avis de 2015 sur la lutte contre les discours de haine sur internet.


(7) Quatre autres entreprises ont décidé d'adhérer au code en 2018 : Google+, Instagram, Snapchat et Dailymotion. La plateforme française Webedia (jeuxvideo.com) a annoncé sa participation au début de l'année 2019.


(8) Sur le modèle de ce que l'on trouve dans la proposition de règlement du Parlement et du Conseil promouvant l'équité et la transparence pour les entreprises utilisatrices des services d'intermédiation en ligne, COM (2018) 238 final.


(9) Cette caractérisation renvoie souvent à une opposition avec le « réel » : les liens sociaux sur internet seraient « virtuels » par opposition aux liens « réels » du monde sensible. Cette dichotomie entretient l'idée qu'internet représenterait un mode relationnel spécifique, que la nature des rapports sociaux seraient différents.


(10) Le rapport de septembre 2018 consacré au renforcement de la lutte contre le racisme et l'antisémitisme sur Interne souligne le « lien pervers entre propos haineux et impact publicitaire : les personnes tenant des propos choquants ou extrémistes sont celles qui « rapportent » le plus car l'une d'entre elles peut en provoquer cinquante ou cent autres. Sous cet angle, l'intérêt financier des réseaux sociaux est d'en héberger le plus possible ». « Renforcer la lutte contre le racisme et l'antisémitisme sur Internet », Rapport à Monsieur le Premier ministre, septembre 2018, p. 36.


(11) Sur ce point, voir not. : Rapport « Villani », Donner un sens à l'intelligence artificielle, 28 mars 2018, p. 149.


(12) Art. 6 bis et 6 ter.


(13) Art. 3, al. 7.


(14) CNCDH, Avis sur la lutte contre les discours de haine sur internet, §38.


(15) Cons. const. 10 juin 2009, n° 2008-580 DC.


(16) Voir notamment Cour EDH 7 décembre 1976, Handyside c. Royaume-Uni, req. n° 5493/72, § 49 ; Cour EDH, 28 juin 2012, Ressiot & autres c. France, req. n° 15054/07 et 15066/07.


(17) CNCDH 25 avril 2013, Avis sur la réforme de la protection du secret des sources, JORF n° 0134 du 12 juin 2013, texte n° 90 ; Avis sur la lutte contre les discours de haine sur internet.


(18) Cour EDH 7 décembre 1976, Handyside c. Royaume-Uni, op. cit.


(19) Cour EDH 23 septembre 1994, Jersild c. Danemark, req. n° 15890/89.


(20) Cour EDH 10 octobre 2000, Ibrahim Aksoy c. Turquie, req. n° 28635/95.


(21) Cour EDH 4 décembre 2003, Günduz c. Turquie, req. n° 35071/97.


(22) Sur cette question, voir not. : CNIL, « Comment permettre à l'homme de garder la main ? Les enjeux éthiques des algorithmes et de l'intelligence artificielle », 2017.


(23) Cette inquiétude est largement partagée par d'autres institutions et instances de réflexion. Voir not. : Rapport n° 3119 remis à l'Assemblée nationale par la commission présidée par P. Bloch et C. Féral-Schuhl, Numérique et libertés : un nouvel âge démocratique, p. 76 et s ; Conseil national du numérique (CNNum), « Le CNNum exprime ses interrogations sur la proposition de loi visant à lutter contre la haine sur internet », CP du 21 mars 2019.


(24) Décision n° 2004-496 DC du 10 juin 2004, Loi pour la confiance dans l'économie numérique, § 9


(25) Son rôle et ses missions ont été réaménagés, entre le texte d'origine et celui qui est issu des travaux de la Commission, afin de tenir compte, notamment, de l'avis du Conseil d'Etat.


(26) Pour rappel, cette approche transversale était préconisée par le Conseil d'Etat dans son étude de 2014 consacrée au numérique : Conseil d'Etat, Etude annuelle, « Le numérique et les droits fondamentaux », La documentation française, 2014, p. 225. Cette AAI pourrait formuler des recommandations relatives, par exemple, aux procédures de notification applicables en cas de contenu haineux, de « fake news », de violation du droit d'auteur, etc


(27) Art. 3.


(28) Sur ce point, la CNCDH partage largement le point de vue défendu dans le rapport consacré à la régulation des réseaux sociaux, remis au Secrétaire d'Etat en charge du numérique en mai dernier : « Créer un cadre français de responsabilisation des réseaux sociaux : agir en France avec une ambition européenne », Rapport de la mission « Régulation des réseaux sociaux - Expérimentation Facebook », mai 2019.


(29) Cette notion renvoie à la nécessité de comprendre la logique générale de fonctionnement d'un algorithme.


(30) Pour être en mesure de réaliser les audits, cette AAI devra pouvoir s'appuyer sur des spécialistes des algorithmes.