ALCON ENTERTAINMENT VIA ALAMY
À peu près à la même époque, Tegmark a fondé le Future of Life Institute, dont la mission est d’étudier et de promouvoir la sécurité de l’IA. La co-star de Depp dans le film, Morgan Freeman, faisait partie du conseil d’administration de l’institut, et Elon Musk, qui a fait une apparition dans le film, a fait don de 10 millions de dollars la première année. Pour Cave et Dihal, Transcendance est un parfait exemple des multiples interdépendances entre la culture populaire, la recherche universitaire, la production industrielle et « la lutte financée par des milliardaires pour façonner l’avenir ».
L’année dernière, lors de l’étape londonienne de sa tournée mondiale, on a demandé à Altman ce qu’il voulait dire par son tweet : « L’IA est la technologie que le monde a toujours voulue. » Debout au fond de la salle ce jour-là, derrière un public de centaines de personnes, je l’ai écouté raconter sa propre histoire d’origine : « J’étais un enfant très nerveux. Je lisais beaucoup de science-fiction. Je passais beaucoup de vendredis soir à la maison, à jouer sur l’ordinateur. Mais j’ai toujours été très intéressé par l’IA et je pensais que ce serait très cool. » Il est allé à l’université, est devenu riche et a vu les réseaux neuronaux s’améliorer de plus en plus. « Cela peut être extrêmement bien, mais aussi très mauvais. Que va-t-on faire à ce sujet ? », se souvient-il avoir pensé en 2015. « J’ai fini par créer OpenAI. »
Pourquoi vous devriez vous soucier du fait qu’un groupe de nerds se battent à propos de l’IA
Bon, vous l’avez compris : personne ne s’accorde sur ce qu’est l’IA. Mais tout le monde semble s’accorder sur le fait que le débat actuel autour de l’IA a largement dépassé le cadre académique et scientifique. Il y a des composantes politiques et morales en jeu, ce qui n’aide pas à ce que tout le monde pense que tout le monde a tort.
Il est difficile de démêler tout cela. Il peut être difficile de comprendre ce qui se passe lorsque certaines de ces conceptions morales englobent l’avenir de l’humanité dans son intégralité et l’ancrent dans une technologie que personne ne peut vraiment définir.
Mais nous ne pouvons pas baisser les bras et nous en aller. Quelle que soit la technologie, elle est en marche et, à moins de vivre dans une grotte, nous l’utiliserons sous une forme ou une autre. La forme que prendra cette technologie, ainsi que les problèmes qu’elle résoudra et créeront, seront façonnés par la pensée et les motivations de personnes comme celles dont vous venez de lire l’histoire. En particulier, par les personnes qui ont le plus de pouvoir, le plus d’argent et les plus grands porte-voix.
Ce qui m’amène aux TESCREALists. Attends, reviens ! Je me rends compte qu’il est injuste d’introduire un nouveau concept aussi tard dans le jeu. Mais pour comprendre comment les personnes au pouvoir peuvent façonner les technologies qu’elles créent et comment elles les expliquent aux régulateurs et aux législateurs du monde entier, il faut vraiment comprendre leur état d’esprit.
WIKIMEDIA
Gébru, Émile Torres, fondateur du Distributed AI Research Institute après avoir quitté Google, et Émile Torres, philosophe et historien à la Case Western Reserve University, ont retracé l’influence de plusieurs systèmes de croyances techno-utopiques sur la Silicon Valley. Ils soutiennent que pour comprendre ce qui se passe actuellement dans le domaine de l’IA (à la fois pourquoi des entreprises comme Google DeepMind et OpenAI sont dans une course pour créer l’AGI et pourquoi des pessimistes comme Tegmark et Hinton mettent en garde contre une catastrophe à venir), il faut voir le domaine à travers le prisme de ce que Torres a appelé le cadre TESCREAL.
L’acronyme maladroit (prononcé tes-cree-tous) remplace une liste d’étiquettes encore plus compliquée : transhumanisme, extropianisme, singularitarisme, cosmisme, rationalisme, altruisme efficace et long-termisme. Beaucoup a été écrit (et sera écrit) sur chacune de ces visions du monde, je vous épargnerai donc ici. (Il y a des terriers de lapin dans des terriers de lapin pour quiconque souhaite plonger plus profondément. Choisissez votre forum et emportez votre équipement de spéléologie.)