C’est aussi extrêmement vague et subjectif, surtout quand protéger certaines personnes peut signifier en critiquer d’autres. Remettre en question un certain point de vue – même d’une manière qui semble critique ou méchante – peut parfois être nécessaire. Ceux qui commettent des microagressions devraient savoir ce qui ne va pas dans leurs actions. Quelqu’un qui répète une insulte doit être confronté et éduqué. Dans une année électorale volatile aux États-Unis qui a vu un calcul racial différent de rien depuis les années 1970 et une pandémie unique en une génération aggravée par la désinformation, il ne suffit peut-être plus d’être gentil.

Comment Telepath enfilera-t-il cette aiguille? Ce sera à l’équipe de modération de contenu interne, dont le travail sera de contrôler la «gentillesse» sur la plate-forme.

Ce ne sera pas forcément facile. Nous n’avons que récemment commencé à comprendre à quel point la modération de contenu peut être traumatisante grâce à une série d’articles de Casey Newton, anciennement à The Verge, qui a exposé les conditions de type atelier de misère auxquelles sont confrontés les modérateurs qui travaillent sous contrat au salaire minimum. Même si ces travailleurs étaient mieux payés, le contenu dont beaucoup traitent est indéniablement dévastateur. «La société cherche encore à rendre la modération de contenu gérable pour les humains», dit Matias.

Interrogé sur ces questions, Estévez souligne que chez Telepath la modération de contenu sera «holistique» et que le travail se veut une carrière. «Nous ne cherchons pas à ce que les gens fassent cela pendant quelques mois et partent», dit-elle. «Je n’ai pas de gros soucis.»

Les organisateurs de Telepath estiment que le modèle sur invitation seulement aidera à cet égard (la plate-forme prend actuellement en charge environ 3 000 personnes). «En étouffant dans une certaine mesure la croissance, nous allons l’améliorer pour nous-mêmes», déclare Estévez.

Mais le modèle présente un autre problème. «L’un des problèmes omniprésents rencontrés par de nombreuses plates-formes sociales lancées aux États-Unis est un problème de diversité», dit Matias. «S’ils commencent avec un groupe d’utilisateurs qui ne sont pas diversifiés, alors des cultures peuvent se développer dans le réseau qui ne sont pas accueillantes et dans certains cas hostiles aux personnes marginalisées.»

Cette peur d’une culture hostile au sein du groupe est bien fondée. Clubhouse, une première application audio de médias sociaux utilisée par beaucoup de personnes ayant des liens avec la Silicon Valley, a été lancée avec des critiques élogieuses plus tôt cette année, pour évoluer dans le type de vitriol misogyne qui s’est infiltré dans tous les coins d’Internet. La semaine dernière, il a été critiqué pour antisémitisme.

Jusqu’à présent, Telepath a été dominé par des types de la Silicon Valley, des journalistes et d’autres personnes ayant des sphères d’influence en dehors de l’application. Ce n’est pas une foule diversifiée, et Estévez dit que l’équipe le reconnaît. «Il ne s’agit pas seulement d’inviter les gens; il ne s’agit pas seulement d’inviter les femmes et les Noirs », dit-elle. «C’est pour qu’ils [women and Black people] ont une bonne expérience, donc ils voient d’autres femmes et des Noirs et ne se font pas expliquer ou ne subissent pas de microagressions. »

C’est un équilibre délicat. D’une part, maintenir une communauté de membres partageant les mêmes idées, sur invitation uniquement, permet à Telepath de contrôler le nombre de messages et de membres sur lesquels il doit garder un œil. Mais ce type d’environnement peut également devenir une chambre d’écho qui ne remet pas en question les normes, en défaisant l’objectif de la conversation en premier lieu et en offrant potentiellement un accueil hostile aux étrangers.

Tan, le premier adoptant, dit que les personnes avec lesquelles elle interagit tombent certainement dans un type: elles sont de gauche et techno. «Les premières personnes qui l’utilisaient venaient de Marc [Bodnick] ou Richard [Henry]les réseaux », dit-elle, faisant référence aux cofondateurs. «Cela a tendance à être beaucoup de techniciens.» Tan dit que les conversations de l’application sont très variées, cependant, et qu’elle a été «agréablement surprise» par la profondeur de la discussion.

«Tout site de média social peut être une chambre d’écho, selon qui vous suivez», ajoute-t-elle.

Telepath est finalement dans une lutte acharnée: est-il possible d’encourager un débat animé mais décent sur une plate-forme sans le voir se transformer en harcèlement? La plupart des utilisateurs supposent qu’être en ligne implique de subir un certain nombre d’abus, en particulier si vous êtes une femme ou si vous appartenez à un groupe marginalisé. Idéalement, cela ne doit pas être le cas.

«Ils doivent s’engager à ce que ce ne soit pas seulement du bout des lèvres sur le fait d’être« gentil »», dit Citron. «Les gens déploient souvent des produits en version bêta à partir de la version bêta, puis pensent aux dommages, mais il est alors trop tard. C’est malheureusement l’histoire d’Internet. » Jusqu’à présent, mais ce n’est peut-être pas nécessaire.

LAISSER UN COMMENTAIRE

Rédigez votre commentaire !
Entrez votre nom ici