Lors d’une audience du House Intelligence Committee en juin 2019, des experts ont mis en garde contre le potentiel de distorsion de la démocratie des vidéos générées par l’intelligence artificielle, connues sous le nom de deepfakes. Le président Adam Schiff (D-Californie) a diffusé un clip usurpant la sénatrice Elizabeth Warren (D-Massachusetts) et a appelé les entreprises de médias sociaux à prendre la menace au sérieux, car «après que les deepfakes viraux aient pollué les élections de 2020, il sera alors trop tard. . » Danielle Citron, alors professeur de droit à l’Université du Maryland, a déclaré que «les vidéos et audios deepfake pourraient saper le processus démocratique en faisant basculer une élection».

La campagne 2020 est désormais de l’histoire ancienne. Il y a eu des bouleversements, mais les deepfakes n’ont pas contribué. «Pas vraiment, non», déclare Giorgio Patrini, fondateur de la start-up de suivi de deepfake Sensity. Angie Hayden, directrice des produits à la AI Foundation, qui teste un outil de détection des faux en profondeur avec des organisations médiatiques et des organisations à but non lucratif, y compris la BBC, a également signalé une campagne silencieuse. «C’est bien quand votre technologie sauve la situation, mais c’est mieux quand la journée n’a pas besoin d’être sauvée», dit-elle.

Beaucoup de désinformation a tourbillonné, et tourbillonne encore, autour du récent vote, mais les vidéos trompeuses qui ont contribué semblaient être artisanales et non algorithmiques. Les vérificateurs de faits ont trouvé des vidéos qui avaient été décrites ou éditées de manière trompeuse avec des outils conventionnels, comme un clip édité pour donner l’impression que Joe Biden avait accueilli les Floridiens comme des Minnesota. Une photo de profil générée par l’IA a été découverte attachée à un faux personnage poussant un frottis confus et discrédité contre le fils de Biden, mais elle n’a joué qu’un rôle périphérique dans la cascade.

Twitter et Facebook ont ​​ajouté des règles spécifiques aux deepfakes à leurs politiques de modération au début de 2020, mais aucun ne semble les avoir utilisées. UNE Article de blog Twitter la semaine dernière, en arrondissant ses efforts électoraux, il a déclaré avoir ajouté des étiquettes mettant en garde contre un contenu trompeur à 300 000 tweets depuis le 27 octobre, soit 0,2% de tous les messages liés aux élections au cours de cette période. Il n’a pas mentionné deepfakes, et un porte-parole de l’entreprise a déclaré qu’il n’avait «rien de spécifique» sur le sujet. Facebook n’a pas répondu à une demande de commentaire.

Deux campagnes vidéo deepfake qui ont tenté de persuader les électeurs américains l’ont fait ouvertement, comme des efforts pour mettre en garde contre le potentiel de la technologie.

Phil Ehr, un candidat démocrate à la Chambre des représentants de la Floride, a publié une annonce de campagne mettant en vedette une version deepfake de son adversaire, le républicain sortant Matt Gaetz, en prononçant des phrases inhabituelles telles que «Fox News suce» et «Obama est bien plus cool que moi». Le propre visage d’Ehr – apparemment entièrement humain – fait irruption pour livrer un message d’intérêt public sur les deepfakes et la désinformation soutenue par l’État-nation. «Si notre campagne peut faire une vidéo comme celle-ci, imaginez ce que fait Poutine en ce moment», dit-il.

image de l'article

Le guide WIRED de l’intelligence artificielle

Les algorithmes supersmart ne prendront pas tous les emplois, mais ils apprennent plus vite que jamais, faisant tout, du diagnostic médical à la diffusion d’annonces.

Le conseiller de campagne Keith Presley a déclaré qu’Ehr, un vétéran de la marine qui avait travaillé sur la guerre électronique, voulait pousser Gaetz à s’engager sur le sujet de la désinformation, ce qu’Ehr pensait que Gaetz avait minimisé. La campagne a contacté RosebudAI, une startup qui utilise la technologie deepfake pour créer des images et des vidéos pour des séances de mode et du commerce en ligne. Presley dit que la campagne a conçu le spot de 60 secondes pour minimiser les chances qu’il puisse être malicieusement réutilisé, ne montrant l’algorithmique Gaetz que sur un téléviseur dans les salons des électeurs, pas en plein écran, et y compris des problèmes de cadeaux. Le bureau de Gaetz n’a pas répondu à une demande de commentaire.

Malgré sa publicité sophistiquée, Ehr a beaucoup perdu. Presley dit que même si aucun deepfake malveillant n’est apparu pendant la campagne, il est toujours important d’éduquer les gens. Il a souligné le paradoxe de la recherche des fruits de la technologie prétendument capable d’imiter la réalité de manière transparente: «Comment le saurait-on?»

LAISSER UN COMMENTAIRE

Rédigez votre commentaire !
Entrez votre nom ici