Il est grand temps que les réseaux sociaux et les plateformes numériques prennent leurs responsabilités et protègent, conformément au droit international relatif aux droits humains, leurs utilisateurs et utilisatrices. Mais quelles sont les solutions ?
Combattre la désinformation genrée en ligne
Les femmes qui exercent des professions impliquant une présence publique en ligne, telles que les politiques, les artistes, les journalistes et les défenseures des droits humains et de l’égalité des genres sont particulièrement visées par des campagnes de désinformation genrée, le harcèlement, les discours de haine, voire les menaces de mort ou de viol.
Les menaces que je recevais ne parlaient pas simplement des différentes façons dont je pourrais être tuée. C’étaient des menaces tout à fait genrées puisqu’il s’agissait de la façon dont je serais violée avant d’être tuée, la façon dont je serai agressée sexuellement, violée et maltraitée.
Nous faisons les choses différemment lorsque nous sommes menacées. C’est presque une sorte d’autocensure, nous faisons même attention à notre apparence… Cela devient si grave que certaines streameuses envisagent le suicide, elles pensent vraiment à mettre fin à leurs jours à cause du harcèlement.
Une étude récente de l’UNESCO montre que 73% des femmes journalistes interrogées ont subi des violences en ligne et qu’une sur cinq a été attaquée ou maltraitée dans la vie réelle en lien avec ces violences. Maria Ressa, Lauréate du prix Nobel de la paix (2022) est, depuis 2016, quotidiennement victime de menaces de mort et de viol, de doxing, d’injures racistes, sexistes et misogynes sous forme de texte, d’image et de mèmes, recevant plus de 90 messages haineux par heure sur Facebook, suite à la publication de sa série d’enquêtes dénonçant des campagnes de désinformation menées par l’État.
Une autre étude de l’UNESCO une augmentation des signalements d’attaques en ligne contre les femmes artistes, attaques qui les amènent à quitter l’espace numérique, ou même pire. Zere Asylbek, musicienne kirghize, a été victime d’une campagne de harcèlement en ligne massive après avoir publié sur Youtube un clip dénonçant le sexisme dans son pays. Pendant les dix jours qui ont suivi sa sortie, l’artiste a reçu environ 2 000 commentaires et messages injurieux sur YouTube, Facebook et Instagram, disant que ses harceleurs allaient la retrouver et la violer (Arab News et Freemuse).
Le cercle vicieux des discours de haine, des représailles, de l’autocensure…
Les recherches suggèrent que le modus operandi des réseaux sociaux amplifie la désinformation genrée et les discours de haine, avec des effets dévastateurs sur la vie des femmes. Les femmes peuvent subir des dommages sur le plan professionnel et réputationnel, ce qui les amène à censurer ou à s’autocensurer et les décourage à se lancer dans des domaines professionnels impliquant une exposition publique. Leur santé mentale peut être aussi fortement impactée. 30% des femmes journalistes interrogées par l’UNESCO ont déclaré qu’elles s’autocensuraient sur les réseaux sociaux et 20% ont renoncé à toute interaction en ligne en raison du harcèlement et des menaces subies.
Les attaques en ligne qui ciblent les femmes ont un effet ricochet puisqu’elles sont diffusées entre plusieurs plateformes en utilisant un langage codé pour échapper à la détection, et ont ainsi une croissance exponentielle. Elles se déplacent entre le réel et le virtuel d’une manière qui peut aussi parfois conduire à la violence physique.
Les femmes qui osent s’exprimer peuvent ne pas être soutenues ou risquer des représailles ; les femmes journalistes peuvent craindre de partager des informations vitales, les scientifiques d’explorer de nouvelles recherches et les artistes de créer des formes d’expression innovantes ou polémiques. Exclure les femmes et les filles de l’espace public numérique affecte l’ensemble du système démocratique. Il s’agit d’un problème complexe pour lequel toutes les parties prenantes doivent assumer collectivement leur part de responsabilité afin de protéger les femmes et les filles dans l’environnement numérique.
Tout cela est de la violence, c’est de la violence sexiste qui n’a pas qu’un impact sur les femmes qui sont harcelées en ligne, toute la démocratie est en péril.
Javiera Olivares MardonesResponsable de contenu programmatique en communication et information, Ministère du Secrétariat Général du Gouvernement du Chili
De nombreuses plateformes ont mis en place des mécanismes permettant aux utilisateurs de signaler les abus, mais la plupart du temps ceux-ci ne sont pas assez réactifs et efficaces. En plus, il a été avancé que les plateformes autorisent délibérément la désinformation liée au genre afin de répondre aux ‘résultats’ et exigences des investisseurs.
Le modèle économique des plateformes de médias sociaux pose un problème de taille, car la désinformation en ligne est ‘monétisée’ par nombre de ces entreprises et par de nombreux autres acteurs plus modestes qui vendent des ‘listes de followers’ pour attaquer les femmes et d’autres individus. Il s’agit d’un marché énorme. Il est difficile de demander aux plateformes de s’autoréguler, car il n’est pas dans leur intérêt d’aller à l’encontre de campagnes de désinformation très graves, mais rentables.
Quelles sont les solutions ?
Il est nécessaire de mettre en place des réglementations ou des co-régulations au niveau mondial qui soient appliquées en cohérence avec le droit international relatif aux droits humains.
…des réglementations bien intentionnées mises en œuvre là où l’État de droit est ferme peuvent être copiées-collées avec de mauvaises intentions dans d’autres juridictions… les réglementations sont essentielles, mais elles doivent être mises en œuvre de manière à respecter réellement le cadre international des droits humains.
L’IA et les modèles d’apprentissage automatique offrent certaines solutions pour identifier les discours haineux et toxiques caractéristiques aux campagnes de désinformation genrée en ligne. Les modèles purement basés sur l’IA présentent toutefois des lacunes. Une combinaison d’examen humain et algorithmique pour détecter les contenus violents ciblant les femmes et les filles dans toute leur diversité est nécessaire pour inverser les biais et les stéréotypes liés au genre et prendre en compte les contextes et les nuances culturelles et linguistiques.
Il faut un degré important d’apport humain dans ces types de mécanismes de détection et de signalement et dans leur application globale.
Une plus grande diversité parmi les concepteurs et conceptrices d’outils de détection de contenu indésirable basés sur l’IA est aussi cruciale, or les femmes ne représentent que 12% des chercheurs en apprentissage automatique et 22% des développeurs d’IA (World Economic Forum, 2018). Leurs perspectives risquent donc d’être occultées dans la conception des nouveaux logiciels et programmes d’IA générative. Trouver des solutions aux obstacles structurels à la participation des femmes et assurer la diversité dans les entreprises de technologie numérique et parmi les équipes de modération de contenu pourrait également ne pas suffire pour atteindre le niveau d’impact souhaité.
Nous devons cibler les personnes qui détiennent le pouvoir de faire changer les choses, à savoir les ingénieurs et les investisseurs. Aussi, l’IA est utilisée aujourd’hui pour détecter les discours de haine, les propos violents et les discours toxiques. Nous pouvons mettre en place des moyens inclusifs pour obtenir des retours structurés de la communauté internationale par le biais, par exemple, d’algorithmes bias bounties [pour identifier et atténuer la désinformation genrée].
Des investissements à long terme visant à modifier les récits ainsi que des moyens innovants s’attaquant aux normes sociales néfastes sont nécessaires pour traiter une question aussi urgente et complexe. Il faut d’abord aborder causes profondes de la désinformation et de la violence en ligne basées sur le genre en intervenant auprès des hommes et des garçons au sein des familles, à l’école et dans l’environnement numérique. Il faut également déplacer la responsabilité qui pèse sur les épaules des victimes et se concentrer sur les auteurs et leurs complices. Il est urgent de les tenir pour responsables, sans impunité.
Commentaires récents