Partisanerie, dissidence des employés et « corps morts » : à l’intérieur de la lutte de Facebook pour lutter contre la désinformation et les discours de haine en Inde

Une personne interrogée par les chercheurs a déclaré : « En tant que partisan, vous croyez tout ce que votre camp dit. Une autre personne interrogée, faisant référence au Premier ministre indien populaire mais controversé Narendra Modi, a déclaré: “Si je reçois 50 notifications Modi, je les partagerai toutes.”

Facebook a également été confronté à deux problèmes fondamentaux en Inde qu’il n’avait pas aux États-Unis, où l’entreprise est basée : comprendre les nombreuses langues locales et lutter contre la méfiance à l’égard d’opérer en tant qu’étranger.

“Nous avons été confrontés à de sérieux problèmes de langue”, ont écrit les chercheurs, ajoutant que les utilisateurs qu’ils ont interrogés avaient pour la plupart leurs profils Facebook définis en anglais, “bien qu’ils reconnaissent à quel point cela entrave leur compréhension et influence leur confiance”.

Certains utilisateurs indiens interrogés par les chercheurs ont également déclaré qu’ils ne faisaient pas confiance à Facebook pour leur fournir des informations précises sur les questions locales. “Facebook était considéré comme une grande entreprise internationale qui serait relativement lente à communiquer les meilleures informations liées à l’actualité régionale”, ont écrit les chercheurs.

Le porte-parole de Facebook, Andy Stone, a déclaré à CNN Business que l’étude faisait “partie d’un effort plus large” pour comprendre comment les utilisateurs indiens réagissaient aux étiquettes d’avertissement de désinformation sur le contenu signalé par les vérificateurs de faits tiers de Facebook.

“Ce travail a informé un changement que nous avons effectué”, a déclaré Stone. « En octobre 2019 aux États-Unis, puis dans le monde entier peu de temps après, nous avons commencé à appliquer des labels plus importants. »

Stone a déclaré que Facebook ne répartissait pas les données d’examen du contenu par pays, mais il a déclaré que la société comptait plus de 15 000 personnes examinant le contenu dans le monde, “y compris dans 20 langues indiennes”. La société est actuellement partenaire de 10 organisations indépendantes de vérification des faits en Inde, a-t-il ajouté.

Avertissements concernant les discours de haine et la désinformation sur le plus grand marché de Facebook

Mais la taille et la diversité du pays, ainsi qu’une augmentation du sentiment anti-musulman sous le gouvernement nationaliste hindou de droite de Modi, ont amplifié les luttes de Facebook pour assurer la sécurité des gens et ont servi d’exemple parfait de ses faux pas dans les pays en développement plus instables.

Par exemple, les chercheurs de Facebook ont ​​publié un rapport interne plus tôt cette année de l’État indien d’Assam, en partenariat avec des chercheurs locaux de l’organisation Global Voices avant les élections d’État en avril. Il a signalé des inquiétudes concernant “l’alarmisme ethnique, religieux et linguistique” dirigé vers “des cibles perçues comme des “immigrants bengalis”” franchissant la frontière depuis le Bangladesh voisin.

Les chercheurs locaux ont trouvé des publications sur Facebook contre les locuteurs bengali à Assam avec « de nombreux commentaires racistes, dont certains appelant à renvoyer les Bengalis hindous au Bangladesh ou à les tuer ».

“Les musulmans de langue bengali sont confrontés au pire en Assam”, ont déclaré les chercheurs locaux.

Les chercheurs de Facebook ont ​​signalé d’autres discours de haine anti-musulmans et de désinformation à travers l’Inde. D’autres documents ont noté “un certain nombre de messages déshumanisants” qui comparaient les musulmans à des “cochons” et des “chiens” et de fausses affirmations selon lesquelles le “Coran appelle les hommes à violer les membres féminins de leur famille”.

La société a également rencontré des problèmes de langue sur ces publications, les chercheurs notant que “notre manque de classificateurs hindi et bengali signifie qu’une grande partie de ce contenu n’est jamais signalée ou traitée”.

“La descente d’un utilisateur de test indien dans une mer de messages polarisants et nationalistes”

Les efforts de Facebook autour des élections de 2019 semblaient largement porter leurs fruits. Dans une note de mai 2019, les chercheurs de Facebook ont ​​salué les “40 équipes et près de 300 personnes” qui ont assuré une “période électorale étonnamment calme et sans incident”.

Facebook a mis en œuvre deux « mesures brise le verre » pour mettre fin à la désinformation et a supprimé plus de 65 000 éléments de contenu pour violation des politiques de suppression des électeurs de la plate-forme, selon la note. Mais les chercheurs ont également noté certaines lacunes, notamment sur Instagram, qui n’avait pas de catégorie de signalement de désinformation à l’époque et n’était pas pris en charge par l’outil de vérification des faits de Facebook.

Une note de recherche de février 2019, intitulée « La descente d’un utilisateur de test indien dans une mer de messages polarisants et nationalistes », a détaillé un compte de test créé par des chercheurs de Facebook qui suivait les pages et les groupes recommandés par l’entreprise. En trois semaines, le fil du compte s’est rempli d’« un barrage presque constant de contenu nationaliste polarisant, de désinformation, de violence et de gore ».

De nombreux groupes avaient des noms bénins, mais les chercheurs ont déclaré qu’ils avaient commencé à partager du contenu préjudiciable et de la désinformation, en particulier contre les citoyens du Pakistan voisin et rival de l’Inde, après une attaque terroriste du 14 février dans la région contestée du Cachemire entre les deux pays.

“J’ai vu plus d’images de personnes décédées au cours des 3 dernières semaines que j’en ai vu au cours de toute ma vie”, a écrit l’un des chercheurs.

“Comme il y a un nombre limité de politiciens, je trouve inconcevable que nous n’ayons même pas mis en place une détection de base des mots clés pour détecter ce genre de chose”, a commenté un employé. “Après tout, nous ne pouvons pas être fiers en tant qu’entreprise si nous continuons à laisser une telle barbarie s’épanouir sur notre réseau.”