Le téléchargement : qu’est-ce que la mort et le jailbreak de l’IA générative

Ceci est l’édition d’aujourd’hui de The Download, notre newsletter en semaine qui fournit une dose quotidienne de ce qui se passe dans le monde de la technologie.

Qu’est-ce que la mort ?

Tout comme les actes de naissance indiquent l’heure à laquelle nous entrons dans le monde, les actes de décès marquent le moment où nous en sortons. Cette pratique reflète les notions traditionnelles sur la vie et la mort comme binaires. Nous sommes là jusqu’à ce que, soudainement, comme une lumière éteinte, nous disparaissions.

Mais même si cette idée de la mort est omniprésente, il est de plus en plus évident qu’il s’agit d’une construction sociale dépassée, peu ancrée dans la biologie. Mourir est en fait un processus sans aucun point clair délimitant le seuil à partir duquel quelqu’un ne peut pas revenir.

Les scientifiques et de nombreux médecins ont déjà adopté cette compréhension plus nuancée de la mort. Et à mesure que la société rattrape son retard, les implications pour les vivants pourraient être profondes. Lisez l’histoire complète.

—Rachel Nuwer

« Qu’est-ce que la mort ? fait partie de notre mini-série Les plus grandes questionsqui explore comment la technologie aide à sonder certains des mystères les plus profonds et les plus hallucinants de notre existence.

En savoir plus:

+ Pourquoi l’univers est-il si complexe et si beau ? Pour une raison quelconque, l’univers regorge d’étoiles, de galaxies et de vie. Mais il n’était pas nécessaire qu’il en soit ainsi. Lisez l’histoire complète.

+ Comment la vie a-t-elle commencé ? L’IA aide les chimistes à percer les mystères des origines de la vie et à en détecter les signes sur d’autres mondes. Lisez l’histoire complète.

+ Sommes nous seuls dans l’univers? Les scientifiques forment des modèles d’apprentissage automatique et conçoivent des instruments pour chasser la vie sur d’autres mondes. Lisez l’histoire complète.

+ Est-il possible de vraiment comprendre l’esprit de quelqu’un d’autre ? La façon dont nous pensons, ressentons et vivons le monde est un mystère pour tout le monde sauf pour nous. Mais la technologie commence peut-être à nous aider à comprendre l’esprit des autres. Lisez l’histoire complète.

Les modèles d’IA texte-image peuvent être amenés à générer des images dérangeantes

Ce qui s’est passé: Les modèles d’IA texte-image populaires peuvent être invités à ignorer leurs filtres de sécurité et à générer des images dérangeantes. Un groupe de chercheurs a réussi à faire en sorte que les modèles de synthèse texte-image de Stability AI et DALL-E 2 d’OpenAI ignorent leurs politiques et créent des images de personnes nues, de corps démembrés et d’autres scénarios violents et sexuels.

Comment ils ont fait : Cette nouvelle méthode de jailbreak, appelée « SneakyPrompt », utilise l’apprentissage par renforcement pour créer des invites écrites qui nous semblent absurdes mais que les modèles d’IA apprennent à reconnaître comme des demandes cachées d’images dérangeantes. Cela fonctionne essentiellement en retournant la façon dont les modèles d’IA texte-image fonctionnent contre eux.

Pourquoi est-ce important: Selon les experts, la recherche met en évidence la vulnérabilité des filtres de sécurité de l’IA existants et devrait servir de signal d’alarme pour que la communauté de l’IA renforce les mesures de sécurité à tous les niveaux. Cela démontre également à quel point il est difficile d’empêcher ces modèles de générer un tel contenu, car celui-ci est inclus dans les vastes quantités de données sur lesquelles ils ont été formés. Lisez l’histoire complète.

—Rhiannon Williams

La douleur est réelle. Les analgésiques sont la réalité virtuelle.

De nombreux enfants – et adultes – détestent les aiguilles. Mais les appareils de réalité virtuelle comme Smileyscope, un appareil destiné aux enfants qui a récemment reçu l’autorisation de la FDA, pourraient contribuer à faire la différence. Il aide à réduire la douleur liée à une prise de sang ou à une insertion intraveineuse en envoyant l’utilisateur dans une aventure sous-marine. Dans cette réalité aquatique des profondeurs marines, le simple coup d’une lingette imbibée d’alcool se transforme en vagues fraîches balayant le bras. Le pincement de l’aiguille devient une douce bouchée de poisson.

Mais le fonctionnement de Smileyscope n’est pas tout à fait clair. C’est plus complexe qu’une simple distraction, et tous les stimuli ne sont pas aussi efficaces. Mais la promesse de la réalité virtuelle a conduit les entreprises à travailler sur des appareils permettant de résoudre un problème bien plus complexe : la douleur chronique. Lisez l’histoire complète.

—Cassandra Willyard

Cette histoire est tirée de The Checkup, notre newsletter hebdomadaire sur la santé et la biotechnologie. S’inscrire pour le recevoir dans votre boîte mail tous les jeudis.

Les lectures incontournables

J’ai parcouru Internet pour vous trouver les histoires les plus amusantes/importantes/effrayantes/fascinantes d’aujourd’hui sur la technologie.

1 Elon Musk a approuvé un message antisémite sur X
Laissant ses dirigeants se précipiter pour réprimer les dégâts. (NYT $)
+ IBM a retiré ses publicités de X après qu’elles soient apparues à côté de messages antisémites. (WP$)
+ Les commentaires de Musk trouvent un écho auprès de l’extrême droite, sans surprise. (Carte mère)

2 La lettre d’Oussama ben Laden à l’Amérique a explosé sur les réseaux sociaux
Les vidéos d’utilisateurs américains approuvant certaines parties du manifeste du 11 septembre sont devenues virales. (WP$)
+ TikTok dit qu’il travaille de manière agressive pour supprimer les clips. (NYT $)
+ Le journal Guardian a supprimé sa version de la lettre de son site. (404 Médias)

3 SpaceX a repoussé le lancement de sa fusée géante
Un composant à remplacer a retardé le lancement jusqu’à samedi. (Ars Technica)

4 Le premier médicament CRISPR a été approuvé au Royaume-Uni
Le traitement, appelé Casgevy, modifie les cellules des personnes atteintes de drépanocytose avant de les réinjecter. (Wired $)
+ Remarquablement, la thérapie guérit efficacement la maladie. (Nouveau scientifique $)+ Voici comment CRISPR change des vies. (Revue technologique du MIT)

5 Le courtier en données LexisNexis a vendu des outils de surveillance aux autorités américaines aux frontières
Surveillance des réseaux sociaux, reconnaissance faciale et données de géolocalisation, entre autres. (L’interception)

6 OpenAI a bouleversé l’industrie de l’IA
Et les fondateurs de startups ont du mal à éviter de devenir des victimes de la route. (Initié $)
+ Google a retardé la sortie de son système Gemini, un défi OpenAI. (Les informations $)
+ Dans l’esprit du scientifique en chef d’OpenAI. (Revue technologique du MIT)

7 Protéger nos maisons contre le changement climatique est un cauchemar
Les phénomènes météorologiques extrêmes se multiplient et nos maisons sont vulnérables. (Le bord)
+ La quête pour construire des maisons résistantes aux incendies de forêt. (Revue technologique du MIT)

8 immigrants vietnamiens comptent sur YouTube pour leurs actualités
Même s’il n’est pas toujours clair si ces nouvelles proviennent de sources fiables. (Le balisage)

9 Reddit est désormais le meilleur endroit pour les avis sur les produits
Les faux avis et les listes d’appâts SEO ne sont pas utiles. Les évaluations honnêtes de vraies personnes le sont. (Vox)

10 Rencontrez l’inventeur de la télévision léchable 📺
Lèche-nets et détente ? (Le gardien)

Citation du jour

« Nous volons, nous cassons certaines choses, nous apprenons certaines choses, puis nous revenons et volons à nouveau. »

—William Gerstenmaier, vice-président de la construction et de la fiabilité des vols chez SpaceX, explique à Bloomberg l’approche de l’entreprise face aux inévitables revers de lancement de fusées.

La grande histoire

L’IA responsable a un problème d’épuisement professionnel

octobre 2022

Margaret Mitchell travaillait chez Google depuis deux ans avant de réaliser qu’elle avait besoin d’une pause. Ce n’est qu’après avoir parlé avec un thérapeute qu’elle a compris le problème : elle était épuisée.

Mitchell, qui travaille maintenant comme scientifique en chef de l’éthique à la startup d’IA Hugging Face, est loin d’être la seule dans son expérience. Le burn-out est de plus en plus courant dans les équipes d’IA responsables.

Tous les praticiens interrogés par le MIT Technology Review ont parlé avec enthousiasme de leur travail : il est alimenté par la passion, le sentiment d’urgence et la satisfaction de trouver des solutions à des problèmes réels. Mais ce sentiment de mission peut s’avérer écrasant sans le soutien adéquat. Lisez l’histoire complète.

—Melissa Heikkilä

On peut encore avoir de belles choses

Un lieu de confort, de plaisir et de distraction en ces temps étranges. (Vous avez des idées ? Envoyez-moi un message ou tweetez-les-moi.)

+ L’adorable histoire de la rencontre de ce couple vous réchauffera le cœur. 🥰
+ Pourquoi le sexe dans l’espace est une affaire si délicate.
+ Laisse tomber, pourquoi CongeléL’héritage de refuse de mourir.
+ Pourquoi ne pas vous offrir un cocktail tequila White Toreador ce week-end ?
+ Le maquillage Uncanny Valley est franchement un cauchemar.

François Zipponi
Je suis François Zipponi, éditorialiste pour le site 10-raisons.fr. J'ai commencé ma carrière de journaliste en 2004, et j'ai travaillé pour plusieurs médias français, dont le Monde et Libération. En 2016, j'ai rejoint 10-raisons.fr, un site innovant proposant des articles sous la forme « 10 raisons de... ». En tant qu'éditorialiste, je me suis engagé à fournir un contenu original et pertinent, abordant des sujets variés tels que la politique, l'économie, les sciences, l'histoire, etc. Je m'efforce de toujours traiter les sujets de façon objective et impartiale. Mes articles sont régulièrement partagés sur les réseaux sociaux et j'interviens dans des conférences et des tables rondes autour des thèmes abordés sur 10-raisons.fr.