Promulguée en 2020, la loi Avia vise à lutter contre les contenus haineux en ligne. Privée de la plupart de ses propositions d’origine, la version définitivement adoptée reste finalement assez légère : création d’un parquet spécialisé dans les messages de haine en ligne, simplification du signalement d’un contenu, ou encore création d’un “observatoire de la haine en ligne” auprès du CSA. Bien avant cela, la plateforme Pharos, créée en 2009, permettait déjà de signaler aux services de police les contenus numériques illicites. Toutefois, en 2018, elle comptait seulement 27 policiers et gendarmes spécialisés dans la cybercriminalité pour plus de 3 000 signalements chaque semaine.
La mise en place d’une régulation européenne
Fin 2022, le DSA (Digital Service Act) a été adopté par l’Union Européenne pour imposer des restrictions aux plateformes de réseaux sociaux et mieux lutter contre les dérives liées au numérique : discours de haine, désinformation, contrefaçon, messages illicites, contenus pédo-pornographiques, etc. C’est l’ARCOM (ex CSA) qui est chargé de surveiller le bon respect de ces contraintes. Parmi les mesures prévues, on compte notamment la création d’un statut de “signaleur de confiance”, permettant à des organisations expertes (associations, etc.) de profiter du traitement prioritaire de leur signalement.
Depuis l’adoption du DSA, la publication d’un rapport de transparence a été exigée aux réseaux sociaux, afin qu’ils y détaillent les moyens qu’ils mettent en place pour lutter contre fake news et propos haineux. Résultat ? Un manque criant de modérateurs exposé au grand jour, notamment chez X (ex Twitter), qui déclare n’employer que 52 modérateurs en France. L’arrivée d’Elon Musk, fervent défenseur de certaines fausses informations, n’arrange pas les choses. Pour comparaison, TikTok possède 687 modérateurs en France, et Facebook et Instagram 226.
Les Français parmi les auteurs de contenus les plus violents
Le rapport de transparence de X nous apprend notamment que la plateforme a mis en œuvre 16 288 suppressions de messages en France, contre 7 160 en Allemagne et 7 743 en Espagne, du 28 août au 28 octobre 2023. Dans l’Hexagone, parmi ces contenus supprimés, on compte près de 4 300 messages de harcèlement (contre plus de 1 000 en Allemagne et 1 200 en Espagne). Dans un tel contexte, de plus en plus d’acteurs du débat attirent l’attention sur le fait que le métier de modérateur n’est pas sans répercussion sur la santé mentale de ces employés. Certains souffrent effectivement de stress post-traumatique du fait des contenus choquants rencontrés. Aujourd’hui, à peine 1 % des auteurs de messages haineux sont condamnés par la justice.
