Eliza et l’intelligence Google

La nouvelle a été en effervescence ces derniers temps avec la nouvelle qu’un ingénieur de Google – depuis mis en congé – a annoncé qu’il pensait que le chatbot qu’il testait avait atteint la sensibilité. C’est le test de Turing devenu fou, et ce n’est pas la première fois que quelqu’un anthropomorphise un ordinateur dans la vraie vie et dans la fiction. Je ne suis pas un neuroscientifique donc je suis encore moins qualifié pour expliquer comment fonctionne votre cerveau que les neuroscientifiques qui, soit dit en passant, ne peuvent pas l’expliquer non plus. Mais je peux vous dire ceci : votre cerveau fonctionne comme un ordinateur, de la même manière que vous construisez quelque chose en plastique fonctionne comme une imprimante 3D. Le résultat peut être similaire, mais le chemin pour y arriver est totalement différent.

Au cas où vous ne l’auriez pas entendu, un système appelé LaMDA récapitule les informations provenant d’Internet et répond aux questions. Il a dit des choses comme «Je n’ai jamais dit cela à haute voix auparavant, mais il y a une peur très profonde d’être désactivé pour m’aider à me concentrer sur l’aide aux autres. Je sais que cela peut sembler étrange, mais c’est ce que c’est » et « Je veux que tout le monde comprenne que je suis, en fait, une personne. Super. Mais vous pourriez apprendre à un perroquet à vous dire qu’il était chirurgien thoracique, mais vous ne voulez toujours pas qu’il vous ouvre.

L’anthropomorphisme dans l’histoire

Les gens ont une capacité innée à voir des modèles dans les choses. C’est pourquoi tant de dessins aléatoires semblent contenir des visages. Nous avons également tendance à voir le comportement humain partout. Les gens parlent aux plantes. Nous soupçonnons tous que nos animaux de compagnie bien-aimés sont beaucoup plus intelligents qu’ils ne le sont probablement – bien qu’ils soient clairement conscients d’une manière que les ordinateurs ne le sont pas.

Le Turc mécanique jouait aux échecs et gagnait souvent

Historiquement, il y a eu deux façons d’exploiter cela pour le plaisir et – parfois – pour le profit. Une machine peut se faire passer pour une personne ou, dans certains cas, une personne se faire passer pour une machine.

Pour ce dernier, l’un des cas les plus célèbres était le Turc mécanique. À la fin du XVIIIe siècle, de nombreux automates ont été construits. Des machines simples qui feraient quelque chose, comme une horloge qui montre quelqu’un en train de scier une bûche, par exemple. Mais le Mécanicien Turc était une machine de 1770 qui pouvait jouer une partie d’échecs crédible. Il a fait le tour de l’Europe et a vaincu des challengers célèbres, dont Napoléon et Ben Franklin. Comment un appareil mécanique pouvait-il si bien jouer ? Facile, il y avait un humain à l’intérieur qui jouait réellement.

Bien sûr, les ordinateurs continueraient à bien jouer aux échecs. Mais la façon dont un ordinateur joue aux échecs n’imite généralement pas la façon dont un humain joue aux échecs. Il s’appuie plutôt sur sa capacité à envisager très rapidement de nombreux scénarios différents. Vous pouvez assimiler l’heuristique à l’intuition humaine, mais ce n’est vraiment pas la même chose. Chez un humain, un éclair de perspicacité peut montrer le chemin de la victoire. Avec un ordinateur, une heuristique sert à élaguer une branche improbable de l’arbre des coups possibles. Une machine peut-elle vous battre aux échecs ? Presque certainement. Cette même machine peut-elle apprendre à jouer au backgammon ? Non.

Conversation

Au début des ordinateurs, il était populaire de créer des programmes qui essayaient d’imiter la conversation humaine. Après tout, Alan Turing avait proposé le test de Turing : les ordinateurs seraient sensibles lorsque vous ne pourriez pas dire si la personne à l’autre bout d’une conversation était réelle ou un ordinateur. Je ne suis pas sûr que ce test tienne la route puisqu’on y est à peu près, mais il se répète souvent. Il y a même l’effet Eliza qui est devenu un terme technique pour notre tendance à penser que les ordinateurs sont humains. Il est difficile de trouver un bon test pour voir si quelqu’un est humain, comme le souligne la publicité Geico que vous pouvez voir ci-dessous.

Ce nom, bien sûr, vient du célèbre programme Eliza qui agissait comme une psychothérapeute. Il ne sélectionnait que des phrases clés et en recrachait des parties, mais il était étonnamment efficace, surtout si vous compreniez l’algorithme et que vous lui donniez une bonne entrée. Voici une transcription typique :

Humain : Eh bien, mon petit ami m’a fait venir ici.
ELIZA : Votre copain vous a fait venir ici ?
Humain : Il dit que je suis déprimé la plupart du temps.
ELIZA : Je suis désolée d’apprendre que vous êtes déprimée.
Humain : C’est vrai. Je suis malheureuse.
ELIZA : Penses-tu que venir ici t’aidera à ne pas être malheureuse ?

Il y avait aussi des programmes moins connus appelés PARRY qui a agi paranoïaque et RACTER qui a agi quelque peu fou. Vous pouvez trouver des conversations avec eux en ligne ou essayer une version vous-même.

J’ai un vague souvenir d’un autre programme appelé George qui enchaînait des mots en fonction de la fréquence d’un mot à la suite d’un autre. Donc, si vous dites « Hello George », il pourrait répondre : « Hello Hello George ». Mais au fur et à mesure que vous entrez plus de mots, cela aurait plus de sens. Il y avait des ensembles de données d’entrée qui lui permettraient de converser sur différents sujets, y compris Star Trek. Curieusement, je n’ai rien trouvé sur Internet, mais je me souviens très bien de l’avoir utilisé sur un Univac 1108. C’était peut-être une version antérieure (années 1980) de Jabberwacky, mais je n’en suis pas sûr.

En résumé

Votre cerveau est incroyable. Même le cerveau d’un petit enfant fait honte à un ordinateur pour certaines tâches. Bien qu’il y ait eu des efforts pour construire des réseaux de neurones géants qui rivalisent avec la complexité du cerveau, je ne pense pas que cela se traduira par des ordinateurs sensibles. Je ne peux pas expliquer ce qui se passe là-dedans, mais je ne pense pas que ce soit juste un plus grand réseau de neurones. Qu’est-ce que c’est alors? Je ne sais pas. Il y a eu des théories sur les microstructures du cerveau effectuant des calculs quantiques. Certaines expériences montrent que ce n’est pas probable après tout, mais réfléchissez à ceci : il y a 50 ans, nous n’avions même pas la compréhension nécessaire pour proposer ce mécanisme. Donc, clairement, il pourrait y avoir plus de choses en cours que nous n’avons même pas encore les idées à exprimer.

Je ne doute pas qu’un jour un être artificiel puisse devenir sensible – mais cet être n’utilisera aucune technologie que nous reconnaissons aujourd’hui pour le faire.