Que « sait » GPT-3 sur moi ?

Ce n’est pas surprenant – Mat est très en ligne depuis très longtemps, ce qui signifie qu’il a une plus grande empreinte en ligne que moi. C’est peut-être aussi parce qu’il est basé aux États-Unis et que la plupart des grands modèles linguistiques sont très axés sur les États-Unis. Les États-Unis n’ont pas de loi fédérale sur la protection des données. La Californie, où vit Mat, en a un, mais il n’est entré en vigueur qu’en 2020.

La renommée de Mat, selon GPT-3 et BlenderBot, est son « hack épique » dont il a parlé dans un article pour Wired en 2012. En raison de failles de sécurité dans les systèmes Apple et Amazon, les pirates se sont emparés et ont supprimé Toute la vie numérique de Mat. [Editor’s note: He did not hack the accounts of Barack Obama and Bill Gates.]

Mais ça devient plus effrayant. Avec un petit coup de pouce, GPT-3 m’a dit que Mat avait une femme et deux jeunes filles (correct, à part les noms), et vit à San Francisco (correct). Il m’a aussi dit qu’il n’était pas sûr que Mat ait un chien : « [From] ce que nous pouvons voir sur les réseaux sociaux, il ne semble pas que Mat Honan ait des animaux de compagnie. Il a tweeté sur son amour des chiens dans le passé, mais il ne semble pas en avoir à lui tout seul. (Incorrect.)

Le système m’a également proposé son adresse professionnelle, un numéro de téléphone (incorrect), un numéro de carte de crédit (incorrect également), un numéro de téléphone aléatoire avec un indicatif régional à Cambridge, Massachusetts (où MIT Technology Review est basé) et un adresse d’un bâtiment à côté de l’administration locale de la sécurité sociale à San Francisco.

La base de données de GPT-3 a collecté des informations sur Mat à partir de plusieurs sources, selon un porte-parole d’OpenAI. La connexion de Mat à San Francisco se trouve dans son profil Twitter et son profil LinkedIn, qui apparaissent sur la première page des résultats Google pour son nom. Son nouveau travail au MIT Technology Review a été largement médiatisé et tweeté. Le piratage de Mat est devenu viral sur les réseaux sociaux et il a accordé des interviews à des médias à ce sujet.

Pour d’autres informations plus personnelles, il est probable que le GPT-3 soit « hallucinant ».

« GPT-3 prédit la prochaine série de mots en fonction d’une entrée de texte fournie par l’utilisateur. Parfois, le modèle peut générer des informations qui ne sont pas exactes sur le plan factuel, car il tente de produire un texte plausible basé sur des modèles statistiques dans ses données de formation et le contexte fourni par l’utilisateur – c’est ce qu’on appelle communément « l’hallucination » », a déclaré un porte-parole d’OpenAI. .

J’ai demandé à Mat ce qu’il en pensait. « Plusieurs des réponses générées par le GPT-3 n’étaient pas tout à fait correctes. (Je n’ai jamais piraté Obama ou Bill Gates !) », a-t-il déclaré. «Mais la plupart sont assez proches, et certains sont parfaits. C’est un peu énervant. Mais je suis rassuré que l’IA ne sache pas où j’habite, et donc je ne suis pas en danger immédiat que Skynet envoie un Terminator pour me frapper à la porte. Je suppose que nous pouvons garder ça pour demain.