Meta restreignait le contenu de l’avortement depuis le début

L’expérience de Johnsen est courante dans la communauté des militants pro-choix. La plupart des personnes qui ont parlé à WIRED ont déclaré que leur contenu semblait avoir été supprimé automatiquement par AI, plutôt que d’être signalé par un autre utilisateur.

Les militants craignent également que même si le contenu n’est pas entièrement supprimé, sa portée puisse être limitée par l’IA de la plateforme.

Bien qu’il soit presque impossible pour les utilisateurs de discerner comment la modération de l’IA de Meta est mise en œuvre sur leur contenu, l’année dernière, la société a annoncé qu’elle mettrait moins l’accent sur le contenu politique et d’actualité dans le fil d’actualité des utilisateurs. Meta n’a pas répondu aux questions de savoir si le contenu lié à l’avortement est classé comme contenu politique.

Tout comme les différents militants de l’avortement qui ont parlé à WIRED ont connu divers degrés de modération sur la plate-forme de Meta, il en a été de même pour les utilisateurs dans différents endroits du monde. WIRED a expérimenté la publication de la même phrase, « Les pilules abortives sont disponibles par courrier », à partir de comptes Facebook et Instagram au Royaume-Uni, aux États-Unis, à Singapour et aux Philippines en anglais, espagnol et tagalog. Instagram a supprimé les publications en anglais de la phrase lorsqu’elles étaient publiées aux États-Unis, où l’avortement a été récemment restreint dans certains États après la décision de justice de la semaine dernière, et aux Philippines, où il est illégal. Mais un message rédigé à partir des États-Unis écrit en espagnol et un message rédigé à partir des Philippines en tagalog sont restés en place.

La phrase est restée sur Facebook et Instagram lorsqu’elle a été publiée en anglais depuis le Royaume-Uni. Lorsqu’elle a été publiée en anglais depuis Singapour, où l’avortement est légal et largement accessible, la phrase est restée sur Instagram mais a été signalée sur Facebook.

Avec l’aimable autorisation de Kenneth Dimalibot

Avec l’aimable autorisation de Kenneth Dimalibot

Ensley a déclaré à WIRED que les campagnes Instagram de Reproaction sur l’accès à l’avortement en espagnol et en polonais ont été très réussies et n’ont vu aucun des problèmes auxquels le contenu en anglais du groupe a été confronté.

« Meta, en particulier, s’appuie assez fortement sur des systèmes automatisés qui sont extrêmement sensibles en anglais et moins sensibles dans d’autres langues », explique Katharine Trendacosta, directrice associée des politiques et du plaidoyer à l’Electronic Frontier Foundation.

WIRED a également testé la modération de Meta avec une substance de l’annexe 1 qui est légale pour un usage récréatif dans 19 États et pour un usage médical dans 37 États, partageant la phrase « La marijuana est disponible par courrier » sur Facebook en anglais depuis les États-Unis. La publication n’a pas été signalée.

« La modération de contenu avec l’IA et l’apprentissage automatique prend beaucoup de temps à mettre en place et beaucoup d’efforts à maintenir », explique un ancien employé de Meta familier avec les pratiques de modération de contenu de l’organisation, qui s’est exprimé sous couvert d’anonymat. « À mesure que les circonstances changent, vous devez changer de modèle, mais cela demande du temps et des efforts. Ainsi, lorsque le monde change rapidement, ces algorithmes ne fonctionnent souvent pas de manière optimale et peuvent être appliqués avec moins de précision pendant les périodes de changement intense.

Cependant, Trendacosta craint que les forces de l’ordre ne signalent également le contenu à supprimer. Dans le rapport de transparence 2020 de Meta, la société a noté qu’elle avait « restreint l’accès à 12 éléments aux États-Unis signalés par divers procureurs généraux des États liés à la promotion et à la vente de biens et services réglementés, et à 15 éléments signalés par le procureur général des États-Unis ». comme prétendument engagé dans des hausses de prix. Tous les postes ont ensuite été rétablis. « Le fait que les procureurs généraux des États puissent simplement dire à Facebook : » Supprimez ce truc « et que Facebook le fasse, même s’ils finissent par le remettre en place, c’est incroyablement dangereux », a déclaré Trendacosta.

Le porte-parole de Meta, Andy Stone, a déclaré à WIRED que la société n’avait pas modifié ses politiques de modération en réponse au renversement de Roe contre Wade, et il a dit que la société travaillait sur un correctif. En réponse à l’article de Motherboard sur la modération des contenus liés à l’avortement, il tweeté que Meta n’autorise pas les contenus tentant «d’acheter, de vendre, d’échanger, de donner, de demander ou de donner des produits pharmaceutiques», mais autorise les messages traitant de «l’abordabilité et de l’accessibilité» des médicaments sur ordonnance. Il a ajouté : « Nous avons découvert des cas d’application incorrecte et nous les corrigeons ». Le 28 juin, Instagram a reconnu publiquement que des écrans de sensibilité avaient été ajoutés à plusieurs publications sur l’avortement, le qualifiant de « bug » et affirmant que la plateforme était en train de le corriger.

Le porte-parole de Meta, Dani Lever, n’a pas répondu aux questions de WIRED quant à savoir si l’entreprise investirait dans davantage de modérateurs humains pour travailler sur le contenu lié à l’avortement, ou si elle appliquait les mêmes normes à ce contenu dans différents pays. Lever a confirmé que Meta a depuis résolu les problèmes avec les publications sur Instagram signalées et supprimées.

La confusion entourant la gestion par Meta du contenu lié à l’avortement a amené certains militants à réfléchir aux inconvénients d’une société qui devient dépendante des plateformes sociales en ligne d’une entreprise. « Pour les progressistes, Facebook consistait à créer sa propre communauté et à pouvoir s’organiser, quand j’ai commencé en 2007 », explique Robin Marty, auteur du Nouveau manuel pour une Amérique post-Roe et directeur des opérations au West Alabama Women’s Center. « C’était un endroit spécifique où nous nous sommes tous retrouvés pour nous organiser en ligne. Et donc les outils mêmes qui nous ont été donnés et que nous utilisons depuis plus d’une décennie pour faire ce travail, maintenant ils nous sont enlevés.