La modération, ce problème insoluble du web

[RICKROLL]
Corentin : mais enfin Lucie, qu’est-ce que tu fiches à nous rickroller en 2018 ?
Lucie : Bon, ok, j’admets que l’utilisation de ce mème est un peu old-school, mais c’est pour la bonne cause. Car mon sujet du jour, ce sont les trolls. C’est un terme dont vous avez sans doute déjà entendu parler. Un “troll”, c’est déjà un monstre de la mythologie nordique, qui est encore aujourd’hui populaire dans la littérature fantastique ou pour enfant. Mais sur Internet, le troll est synonyme de toute autre chose.
C : Par exemple, une journaliste qui passe du Rick Astley en 2018, c’est une troll.
L : Effectivement. La première définition d’un troll sur Internet était plutôt bon enfant. Dans les années 90, et jusqu’au milieu des années 2000, le “trolling” désignait l’art d’agacer les internautes en ligne. Il s’agissait de provoquer l’autre, de jouer au sale gosse, en déraillant une conversation par des propos outranciers ou complètement hors-sujet. Le cas de la chanson “Never Gonna Give You Up”, de Rick Astley, est un exemple populaire de “trolling”. Pendant des années, les internautes se sont amusés à envoyer cette chanson kitsch et entêtante à des personnes qui n’avaient rien demandé. Le but, c’était qu’elles cliquent sur le lien de la chanson, sans s’en rendre compte. C’était très agaçant. Et donc, du trolling.
Petit à petit, avec la propagation d’Internet dans de nombreux foyers, le sens du mot “troll” s’est modifié. Le terme est désormais associé à des affaires beaucoup plus morbides et sérieuses. Il peut être utilisé pour désigner des fans de Donald Trump qui s’en prennent aux militants de gauche sur Internet, ou des autorités russes qui créent des faux comptes sur les réseaux sociaux pour peser sur l’opinion publique américaine. Le mot “troll” est utilisé, parfois à tort, pour qualifier tout ce que l’Internet compte de personnes mal intentionnées.
Cette transformation du mot “troll” est symptomatique de l’évolution du Web. Avant, les fauteurs de trouble faisaient moins de dégâts. Internet était plus petit. Les communautés en ligne, aussi, étaient souvent autogérées. Par exemple, les forums avaient leurs propres modérateurs, des membres d’une communauté qui se chargeaient de faire la police. Mais aujourd’hui, le Web est dominé par d’immenses plateformes. Et elles sont complètement dépassées par leurs problèmes de modération.
[TROLOLOLO]
Twitter, par exemple, souffre beaucoup de ces “nouveaux trolls”, qui sont en fait un autre nom pour parler de harceleurs. Pourquoi Twitter en particulier ? ll s’agit d’un réseau social public: n’importe qui peut y lire et commenter des messages.Il est donc malheureusement très facile de se retrouver la cible de harceleurs qui auraient décidé d’en découdre avec vous. Depuis le mois de mai, Twitter teste un nouveau système pour faire la chasse à ces “trolls”. Si leur comportement est considéré comme problématique, grâce à une analyse par un algorithme, leurs tweets seront placés plus bas dans les résultats de recherche ou les recommandations des algorithmes de Twitter. Une manière de cacher les éléments perturbateurs, en quelque sorte.
C : mais Twitter ne peut pas simplement bannir ces personnes ?
L : C’est plus compliqué que cela. Beaucoup de “trolls” n’enfreignent pas les règles de Twitter. Ils participent à un mouvement de groupe, avec un ou deux tweets qui, pris tout seul, ne sont pas forçément très violents ou problématiques. C’est l’effet de masse qui fait mal.
Par ailleurs, le fait même d’avoir des règles de modération, et donc de les faire respecter, n’est pas si simple que ça. Prenez l’exemple de Facebook. La modération est un problème récurrent pour le réseau social. On lui reproche pêle-mêle d’être trop laxiste - par exemple sur les contenus de propagande terroriste ou les propos racistes et misogynes - ou au contraire injuste avec certains contenus, comme les œuvres d’Art montrant des personnes nues. Face aux polémiques à répétition, le réseau social a été forcé à plus de transparence. Fin avril, il a publié pour la première fois des chiffres sur ses efforts de modération. On apprend par exemple qu’il a supprimé 3,5 millions de contenus violents ou haineux et 1,9 million de documents de propagande terroriste au premier trimestre 2018. Son plus gros problème est néanmoins le spam : Facebook a supprimé 837 millions de contenus indésirables au premier trimestre 2018.
Aujourd’hui, on sait que 7500 personnes dans le monde contrôlent les contenus publiés sur Facebook. Ce chiffre a plus que doublé en un an.
C : on sait comment ces modérateurs travaillent ?
L : Pas vraiment. On ne sait même pas leur localisation, pour la plupart. Par ailleurs, jusqu’il y a peu, on ignorait tout des règles de modération de Facebook. Elles étaient tenues secrètes. Face aux nombreuses polémiques, le réseau social américain les a rendu publiques fin avril. Le but est d’instaurer un dialogue autour de ces règles et de les améliorer. Ce n’est pas une tâche simple. Comment instaurer des règles valables pour toutes les versions d’un réseau social, quel que soit son pays ? Est-ce qu’on peut autoriser les poitrines de femmes nues en France comme en Inde ? Avant de supprimer la propagande terroriste, comment décider qui est une organisation terroriste ? Les sensibilités, la culture, et surtout les lois, ne sont pas les mêmes d’un endroit à un autre. Facebook, et les autres sites, souffrent donc d’un double problème : de recrutement, et de définition.
Pour améliorer cette piètre modération, Facebook et les autres s’appuient de plus en plus sur des technologies d’intelligence artificielle, afin de repérer automatiquement les contenus problématiques sans que l’utilisateur n’ait besoin de les signaler. Mais ce n’est pas une solution parfaite. Une IA repérera très facilement les contenus sexuels. C’est beaucoup plus difficile pour des cas complexes comme, justement, le harcèlement en ligne…
C : Un véritable nœud gordien en tout cas. Quelque chose me dit que ça ne se résoudra pas d’un grand coup de baguette magique. Merci Lucie pour nous avoir exposé ce grand problème des réseaux. À bientôt.