Les deepfakes de vos proches décédés sont une activité chinoise en plein essor

Dans les foyers chinois, il est courant d'afficher le portrait d'un parent décédé quelques années après son décès. Zhang Zewei, fondateur d'une société basée à Shanghai appelée Super Brain, affirme que lui et son équipe voulaient réorganiser cette tradition avec un « cadre photo IA ». Ils créent des avatars de proches décédés qui sont préchargés sur une tablette Android, qui ressemble à un cadre photo lorsqu'elle est debout. Les clients peuvent choisir une image animée qui prononce des mots tirés d'une base de données hors ligne ou d'un LLM.

« Dans son essence, ce n'est pas très différent d'un portrait traditionnel, sauf qu'il est interactif », explique Zhang.

Zhang affirme que l'entreprise a réalisé des répliques numériques pour plus de 1 000 clients depuis mars 2023 et facture entre 700 et 1 400 dollars, selon le service acheté. La société prévoit de lancer prochainement un produit réservé aux applications, afin que les utilisateurs puissent accéder aux avatars sur leurs téléphones, et pourrait encore réduire le coût à environ 140 dollars.

Super Brain présente la version application uniquement avec un avatar de Zhang Zewei répondant à ses propres questions.

SUPER CERVEAU

Le but de ses produits, dit Zhang, est thérapeutique. «Lorsque quelqu'un vous manque vraiment ou que vous avez besoin de consolation pendant certaines vacances, vous pouvez parler aux vivants artificiels et panser vos blessures intérieures», dit-il.

Et même si cette conversation est largement unilatérale, cela reste conforme à une forte tradition culturelle. Chaque mois d'avril, lors du festival de Qingming, les Chinois balayent les tombes de leurs ancêtres, brûlent des bâtons d'encens et du faux papier-monnaie, et leur racontent ce qui s'est passé au cours de l'année écoulée. Bien entendu, ces conversations ont toujours été à sens unique.

Mais ce n'est pas le cas de tous les services Super Brain. L'entreprise propose également des appels vidéo truqués dans lesquels un employé de l'entreprise ou un thérapeute contractuel se fait passer pour le parent décédé. Grâce à DeepFace, un outil open source qui analyse les traits du visage, le visage de la personne décédée est reconstruit en 3D et remplacé par le visage de la personne vivante avec un filtre en temps réel.

Exemple d'un appel vidéo deepfake que Super Brain a effectué en juillet 2023. Le visage dans le coin supérieur droit est celui du fils décédé de la femme.

SUPER CERVEAU

À l’autre bout de la ligne se trouve généralement un membre âgé de la famille qui ne sait peut-être pas que son proche est décédé et dont la famille a organisé la conversation comme une ruse.

Jonathan Yang, un habitant de Nanjing qui travaille dans l'industrie technologique, a payé ce service en septembre 2023. Son oncle est décédé dans un accident de construction, mais la famille a hésité à en parler à la grand-mère de Yang, âgée de 93 ans et en mauvaise santé. Ils craignaient qu’elle ne survive pas à cette nouvelle dévastatrice.

François Zipponi
Je suis François Zipponi, éditorialiste pour le site 10-raisons.fr. J'ai commencé ma carrière de journaliste en 2004, et j'ai travaillé pour plusieurs médias français, dont le Monde et Libération. En 2016, j'ai rejoint 10-raisons.fr, un site innovant proposant des articles sous la forme « 10 raisons de... ». En tant qu'éditorialiste, je me suis engagé à fournir un contenu original et pertinent, abordant des sujets variés tels que la politique, l'économie, les sciences, l'histoire, etc. Je m'efforce de toujours traiter les sujets de façon objective et impartiale. Mes articles sont régulièrement partagés sur les réseaux sociaux et j'interviens dans des conférences et des tables rondes autour des thèmes abordés sur 10-raisons.fr.