Comment Facebook et Google financent la désinformation mondiale

Ils étaient des centaines, cumulant des dizaines de milliers d’engagements et des centaines de milliers de vues. Début novembre, MIT Technology Review a trouvé des dizaines de fausses vidéos en direct en double à partir de cette période. Une paire en double avec plus de 200 000 et 160 000 vues, respectivement, proclamée en birman : « Je suis le seul à diffuser en direct de tout le pays en temps réel. Facebook a supprimé plusieurs d’entre eux après que nous les ayons portés à son attention, mais des dizaines d’autres, ainsi que les pages qui les ont publiés, sont toujours là. Osborne a déclaré que la société était consciente du problème et avait considérablement réduit ces fausses vies et leur distribution au cours de la dernière année.

Ironiquement, selon Rio, les vidéos ont probablement été extraites d’images de la crise téléchargées sur YouTube en tant que preuves des droits humains. Les scènes, en d’autres termes, sont bien du Myanmar, mais elles ont toutes été postées du Vietnam et du Cambodge.

Au cours du dernier semestre, Rio a suivi et identifié plusieurs groupes de pages provenant du Vietnam et du Cambodge. Beaucoup ont utilisé de fausses vidéos en direct pour augmenter rapidement leur nombre d’abonnés et inciter les téléspectateurs à rejoindre des groupes Facebook déguisés en communautés pro-démocratie. Rio craint maintenant que le dernier déploiement de Facebook d’annonces in-stream dans les vidéos en direct n’incite davantage les acteurs clickbait à les simuler. Un cluster cambodgien de 18 pages a commencé à publier de la désinformation politique très préjudiciable, atteignant un total de 16 millions d’engagements et une audience de 1,6 million en quatre mois. Facebook a supprimé les 18 pages en mars, mais de nouveaux clusters continuent de croître tandis que d’autres restent.

Pour autant que Rio sache, ces acteurs vietnamiens et cambodgiens ne parlent pas birman. Ils ne comprennent probablement pas la culture birmane ou la politique du pays. L’essentiel est qu’ils n’en ont pas besoin. Pas quand ils volent leur contenu.

Rio a depuis trouvé plusieurs des groupes Facebook et Telegram privés des Cambodgiens (un avec plus de 3 000 personnes), où ils échangent des outils et des conseils sur les meilleures stratégies pour gagner de l’argent. MIT Technology Review a examiné les documents, les images et les vidéos qu’elle a rassemblés et a engagé un traducteur khmer pour interpréter un didacticiel vidéo qui guide les téléspectateurs étape par étape à travers un flux de travail clickbait.

Les documents montrent comment les opérateurs cambodgiens rassemblent des recherches sur le contenu le plus performant dans chaque pays et les plagient pour leurs sites Web clickbait. Un dossier Google Drive partagé au sein de la communauté contient deux douzaines de feuilles de calcul de liens vers les groupes Facebook les plus populaires dans 20 pays, dont les États-Unis, le Royaume-Uni, l’Australie, l’Inde, la France, l’Allemagne, le Mexique et le Brésil.

Le didacticiel vidéo montre également comment ils trouvent les vidéos YouTube les plus virales dans différentes langues et utilisent un outil automatisé pour convertir chacune d’entre elles en un article pour leur site. Nous avons trouvé 29 chaînes YouTube diffusant de la désinformation politique sur la situation politique actuelle au Myanmar, par exemple, qui étaient converties en articles clickbait et redistribuées à de nouveaux publics sur Facebook.

L’une des chaînes YouTube diffusant de la désinformation politique au Myanmar. Google l’a finalement retiré.

Après que nous ayons porté les chaînes à son attention, YouTube les a toutes supprimées pour avoir enfreint les règles de sa communauté, dont 7 d’entre elles faisaient partie d’opérations d’influence coordonnées liées au Myanmar. Choi a noté que YouTube avait également cessé de diffuser des publicités sur près de 2 000 vidéos sur ces canaux. « Nous continuons de surveiller activement nos plateformes pour empêcher les mauvais acteurs de chercher à abuser de notre réseau à des fins lucratives », a-t-elle déclaré.

Ensuite, il existe d’autres outils, dont un qui permet aux vidéos préenregistrées d’apparaître comme de fausses vidéos Facebook Live. Un autre génère au hasard les détails du profil des hommes américains, y compris l’image, le nom, la date de naissance, le numéro de sécurité sociale, le numéro de téléphone et l’adresse, de sorte qu’un autre outil peut produire en masse de faux comptes Facebook en utilisant certaines de ces informations.

C’est maintenant si facile à faire que de nombreux acteurs cambodgiens opèrent en solo. Rio les appelle des micro-entrepreneurs. Dans le scénario le plus extrême, elle a vu des individus gérer eux-mêmes jusqu’à 11 000 comptes Facebook.

Les micro-entrepreneurs qui réussissent forment également d’autres personnes à faire ce travail dans leur communauté. «Ça va empirer», dit-elle. « N’importe quel Joe dans le monde pourrait affecter votre environnement d’information sans que vous vous en rendiez compte. »