Troll Patrol, le projet qui met enfin Twitter face à son inaction contre les messages lgbtphobes, racistes et misogynes

C’est certainement l’un des plus gros défis pour Twitter : contrôler la haine véhiculée par de nombreux messages publié sur le réseau social. Amnesty International s’est employée à le dénoncer avec force lundi 17 décembre. À partir des résultats d’une étude menée avec Element AI, entreprise mondiale de logiciels d’intelligence artificielle, l’ONG a pointé le manque de régulation de Twitter, lieu où « le racisme, la misogynie et l’homophobie » peuvent évoluer « sans contrôle ». Selon l’organisation, un tweet sur 10 mentionnant des femmes politiques et des journalistes noires est « injurieux ou problématique. »

Pour mener à bien l’étude, 6 500 personnes se sont portées volontaires à travers 150 pays pour vérifier le contenu de 228 000 tweets envoyés à 778 femmes noires, politiciennes ou journalistes au Royaume-Uni et aux États-Unis en 2017. Amnesty a nommé ce projet Troll Patrol et le définit comme « un projet unique à caractère participatif destiné à traiter un très grand nombre de données sur les violences en ligne. » Les données recueillies ont ensuite fait l’objet de techniques approfondies « afin d’extrapoler les données sur l’ampleur des violences dont les femmes sont victimes sur Twitter. »

« Étayer ce que les femmes nous disent depuis longtemps »

« Grâce à Troll Patrol, nous disposons de données permettant d’étayer ce que les femmes nous disent depuis longtemps – que Twitter est un espace où on laisse le racisme, la misogynie et l’homophobie prospérer quasiment sans contrôle », a déclaré Milena Marin, conseillère principale sur les recherches tactiques à Amnesty International. Ce serait donc 1,1 million de tweets « violents, injurieux ou problématiques » envoyés aux femmes sur la période de l’étude, soit un toutes les 30 secondes.

Probléma-quoi ?

Milena Marin a précisé que « si les violences ciblent des femmes de tous bords politiques, les femmes de couleur sont beaucoup plus susceptibles d’être touchées et les femmes noires sont ciblées de manière disproportionnée. » L’immobilisme de Twitter est largement pointé du doigt : « En se montrant incapable de sévir contre ce fléau, Twitter contribue à faire taire des voix déjà marginalisées. » Sans contraindre le réseau social à supprimer du contenu, Amnesty appelle à plus de transparence et dit avoir fait part de ses conclusions à l’entreprise concernée. Ce à quoi il a été demandé de préciser la définition de « problématique ».

Les principales conclusions du projet Troll Patrol mené par Amnesty International et Element AI pour mesurer l’ampleur des messages de haine sur Twitter.