Avis relatif à la lutte contre la haine en ligne (A - 2021 - 9)

JurisdictionFrance
CourtCOMMISSION NATIONALE CONSULTATIVE DES DROITS DE L'HOMME
Official Gazette PublicationJORF n°0170 du 24 juillet 2021
Published date24 juillet 2021
Record NumberJORFTEXT000043851103

Assemblée plénière du 8 juillet 2021 - Résultat du vote : adoption à l'unanimité



Résumé

Dans cet avis, la Commission nationale consultative des droits de l'homme (CNCDH) rappelle son attachement au respect d'un équilibre entre la liberté d'expression et l'objectif légitime de la lutte contre la haine en ligne. Afin d'appréhender au mieux la diversité des approches préventives et répressives, la CNCDH envisage le phénomène dans sa globalité et en livre une analyse transversale.

Après avoir identifié les principaux enjeux de la lutte contre la haine en ligne la CNCDH formule 24 recommandations afin de renforcer la lutte contre la haine en ligne. Elle invite ainsi au renforcement du rôle de l'Etat, à la création de nouvelles obligations à l'égard des plateformes, et à la prévention notamment par l'accompagnement et la responsabilisation des utilisateurs, dès leur plus jeune âge.


Résumé

Introduction

1. Le renforcement du rôle de l'Etat dans la lutte contre la haine en ligne

1.1. La place de l'autorité judiciaire dans la lutte contre la haine en ligne

1.1.1. Un arsenal juridique complet mais complexe

1.1.2. Le rôle indispensable du juge

1.1.3. Des difficultés procédurales distinctes à résoudre

1.1.4. Une aide à l'identification des auteurs d'infractions pénales

1.2. Créer un organisme public indépendant dédié à la lutte contre les contenus haineux en ligne

1.2.1. Renationaliser la lutte contre la haine en ligne

1.2.2. Promouvoir le partage de bonnes pratiques au niveau européen

2. La création d'obligations positives à l'égard des plateformes

2.1. Les obligations de modération et de lutte contre la viralité des contenus haineux

2.1.1. Permettre un signalement qualitatif des contenus et modérer le contenu signalé

2.1.2. Encadrer le recours aux instruments de modération des contenus haineux

2.1.3. Lutter contre la propagation des contenus haineux en limitant leur viralité

2.2. Les obligations de transparence concernant la modération des contenus haineux

2.2.1. Favoriser la transparence des politiques et outils de modération

2.2.2. Créer un recours effectif en cas de modération d'un contenu

2.3. Accéder aux données des outils de modération algorithmiques

2.4. Accéder aux contenus retirés

3. Protéger et responsabiliser l'utilisateur

3.1. Renforcer la formation et la protection de l'utilisateur

3.1.1. Améliorer la formation au numérique

3.1.2. Prendre en compte les vulnérabilités particulières

3.1.3. Accompagner les victimes

3.2. Développer des outils de mise en capacité d'agir de l'utilisateur

3.2.1. Adapter l'information au parcours utilisateur

3.2.2. Consacrer un droit au paramétrage au profit de l'utilisateur

3.3. Responsabiliser l'utilisateur

3.3.1. Promouvoir la réflexivité de l'utilisateur

3.3.2. Inciter l'utilisateur à lutter contre la haine en ligne

Personnes auditionnées


Introduction


1. internet est un formidable espace, souvent qualifié à tort de virtuel (1), au sein duquel chacun exerce ses droits et libertés. La capacité offerte aux internautes de s'exprimer aisément et librement, parfois sous pseudonyme, l'ubiquité d'internet ou encore l'échelle à laquelle certains contenus peuvent être diffusés, représentent autant d'occasions d'exercer sa liberté d'expression et de communication (2), ferment de la démocratie. Régi par une diversité d'acteurs ainsi que par des règles de gouvernance et de fonctionnement dont les internautes ne sont pas toujours conscients, il peut dans le même temps être source d'abus dans l'exercice de ces droits et libertés. En témoignent la multiplication des contenus haineux dans le contexte de la crise sanitaire de la Covid-19, notamment durant le mois de mars 2020 (3) et, surtout, l'assassinat du professeur Samuel Paty en novembre 2020 et l'affaire Mila, particulièrement emblématiques de la diffusion virale et de la virulence des discours de haine en ligne. De tels événements illustrent les menaces que fait peser le discours haineux sur la liberté d'expression, de communication, le respect de la dignité humaine et le droit à la vie. Ces considérations sont particulièrement valables concernant les réseaux sociaux qui permettent à tout un chacun de s'exprimer, de rendre publiques et de diffuser ses opinions ou les contenus de son choix et d'accéder à de nouvelles sources d'informations (4). Certains d'entre eux constituent des espaces monétisés dont le modèle économique (ou modèle d'affaire) repose sur la viralité des contenus publiés par leurs utilisateurs et dont l'audience génère d'importants revenus, en particulier s'agissant des contenus choquants qui captent l'attention des internautes en ce qu'ils suscitent une forte émotion.

2. Forte d'une doctrine forgée dans l'exercice de son mandat de rapporteur national sur la lutte contre le racisme et dans le cadre de ses précédents avis (5), la Commission nationale consultative des droits de l'homme (CNCDH) souscrit pleinement à l'objectif de lutte contre la haine en ligne et rappelle avec vigueur son attachement au respect de l'équilibre entre cet objectif et la liberté d'expression, conforme au régime libéral tel qu'il est consacré en France depuis 1789 en matière de presse et de publication (6). Ainsi, la CNCDH s'est auto-saisie des différentes initiatives nationales et européennes en cours de discussion.

3. Au plan national, une proposition de loi visant à lutter contre les contenus haineux sur internet a été déposée à l'Assemblée nationale en 2019 (7). A cet égard, la CNCDH s'est prononcée à l'encontre de certaines des dispositions de ce texte, craignant qu'elles ne remettent en cause l'équilibre entre la lutte contre la haine en ligne et la liberté d'expression (8). Sensible à cette analyse, le Conseil constitutionnel a largement censuré son dispositif (9). En subsistent des dispositions préventives et éducatives, que la CNCDH salue. Parmi celles-ci, la création de l'Observatoire de la haine en ligne placé sous l'égide du Conseil supérieur de l'audiovisuel (CSA) ayant pour objet " le suivi et l'analyse de l'évolution des contenus " haineux, et dont l'un des groupes de travail porte sur la définition du contenu haineux. Le projet de loi confortant le respect des principes de la République, déposé à l'Assemblée nationale le 9 décembre 2020, comporte de nouvelles dispositions visant à " lutter contre la haine en ligne et les contenus illicites " afin, notamment, de réguler l'activité des plateformes en ligne (10). Il entend ainsi s'inscrire dans le cadre de la réflexion européenne. Alors que, dès 2016, la Commission européenne a promu l'adoption d'un code de conduite visant à combattre les discours de haine illégaux en ligne dont la plupart des grandes plateformes sont signataires (11), elle préconise désormais l'adoption d'un dispositif transversal de régulation des contenus avec la proposition de règlement relatif à un marché intérieur des services numériques, publiée le 15 décembre 2020 (12) (DSA). La CNCDH se félicite de la réflexion menée à l'échelle européenne sur la régulation des services numériques permettant de préserver les droits et libertés fondamentaux des utilisateurs de ces services. Elle s'est toutefois prononcée à l'encontre de certaines dispositions du projet de loi confortant le respect des principes de la République, notamment celles remettant en cause les garanties spécifiques prévues par la loi de 1881 s'agissant de l'exercice de la liberté d'expression (13).

4. La CNCDH relève que plusieurs difficultés se posent à ce jour dans l'appréhension de la propagation en ligne de ces discours haineux. La principale repose sur l'absence d'une définition unanime de la haine en ligne, qui s'explique non seulement par des divergences culturelles et contextuelles, mais également par les variations de ressenti que peut susciter un contenu chez un internaute, complexifiant son appréciation objective. Ces difficultés se matérialisent notamment dans les différentes approches retenues par les plateformes afin de définir les contenus haineux, rendant dès lors difficile la mesure exacte du volume des discours de haine en ligne. La CNCDH regrette en outre qu'en l'état actuel des textes, la pluralité des modèles économiques des plateformes, les mécanismes concourant à la propagation des contenus haineux et les instruments visant à les réguler, ne soient pas suffisamment pris en compte, alors qu'ils jouent indéniablement un rôle déterminant dans la prévention et la lutte contre la haine en ligne.

5. Afin d'appréhender la globalité du phénomène ainsi que la diversité des approches tant au niveau national qu'international, la CNCDH préconise, dans ce nouvel avis, d'en livrer une analyse transversale. L'objectif poursuivi est de contribuer au débat public par l'identification des principaux enjeux de la lutte contre la haine en ligne et la formulation de recommandations. Dans un premier temps, la CNCDH recommande de renforcer le rôle de l'Etat face à ces enjeux (I). De surcroît, cette responsabilité étatique doit s'articuler avec celle des plateformes qui se voient imputer de nouvelles obligations (II). Enfin, la Commission rappelle la nécessité de respecter et de protéger les droits fondamentaux des utilisateurs. En ce sens, elle appelle à renforcer la prévention de la haine en ligne, notamment par l'accompagnement et la responsabilisation des utilisateurs des plateformes, dès leur plus jeune âge (III).


1. Le renforcement du rôle de l'Etat dans la lutte contre la haine en ligne


6. Ces dernières années ont été marquées par l'émergence d'initiatives, tant au niveau international que national, afin de lutter contre la diffusion de contenus illicites en ligne (14). Prenant diverses formes, elles visent à réunir un grand nombre d'acteurs représentant le secteur public, le secteur privé du numérique ainsi que la société civile. Tout en saluant le fait que ces nouvelles structures permettent de bénéficier d'un plus grand savoir-faire technique, la CNCDH s'inquiète de leur...

Pour continuer la lecture

SOLLICITEZ VOTRE ESSAI

VLEX uses login cookies to provide you with a better browsing experience. If you click on 'Accept' or continue browsing this site we consider that you accept our cookie policy. ACCEPT