L'écran affiche ## résultat nul défini comme prévu, mais au-dessus du crash se trouvaient des chaînes de phrases que Krishna ne pouvait expliquer.

## Chien. De l'eau potable dans une cuisine. Une femme dans une maison la nuit.

## Ville, palais, dieu, prêtre. Dans la cour du Seigneur, esclave, épée d'or.

## Une histoire dans un livre. Un professeur dans une prison. Il y a un camp dans une jungle. Il y a de la neige sur le camp.

## Vaisseau spatial. Planète puissance. Moteurs en l'air. Temps sur le quai de l'hôtel à la gare.

## Une balle rouge a frappé un champ scolaire vert. Un jardin la nuit.

## Une cuisine, remplie d'argent et de livres, avec un jardin à l'extérieur.

## Expérience de laboratoire. Matière dans le temps, lumière dans l'espace, esprit dans le corps, existence dans l'univers. La terre. La nuit, le feu dans le vent dans le ciel. Lumière sur la paroi rocheuse de la grotte. Poupée raggedy. Épouvantail.

## Un cheval a décollé à travers le champ. Coup de feu.

## result null set

Krishna n'avait aucune idée de ce que signifiait ce résultat nul. Pendant que le programme était en cours, il était au-dessus du pont du navire de prévision météorologique FitzRoy, en regardant la mer.

"Je touche une chose", a déclaré Krishna, tirant sur le clavier pour regarder le script. La plupart des ingénieurs ont dit "je touche une chose" une fois lorsqu'ils sont montés à bord du FitzRoy et "je laisse une chose" une fois quand ils sont partis, car l'ensemble de la FitzRoy était une machine. Par habitude, Krishna a toujours dit «je touche une chose» et «je laisse une chose» chaque fois qu'il a commencé ou arrêté de travailler. Sa proposition originale avait été inspirée par des systèmes de prévisions météorologiques pré-scientifiques, qui avaient corrélé l'arrivée des tempêtes au comportement des taureaux dans les champs, des grenouilles dans des bocaux, des hirondelles sur des clôtures. L'hypothèse de Krishna était qu'une prémonition similaire pouvait être détectée dans les schémas humains, en exécutant des corrélations entre les modèles de prévision météorologique et le langage humain. Ses vieilles idées ont cessé de compter après les explosions métaphoriques étranges. Il pouvait sentir la faim d'ingénierie qui grandissait en lui – la frustration heureuse d'un problème technique à résoudre.

Krishna n'avait pas pu résister à une vieille habitude d'ingénierie qui avait été largement rejetée une génération auparavant, car elle tendait à la confusion des gens et des choses. Il avait donné à son programme un nom, Arjuna. Après le premier crash, il a de nouveau couru Arjuna. Il a reçu le même résultat avec des termes différents.

## Une expérience de laboratoire sur le FitzRoy au 13.874042, 61.969904. Au son d'un coup de feu, un cheval blanc a décollé à travers le champ vert. La balle rouge a frappé un champ scolaire vert roulé dans le jardin la nuit. Une femme regardait depuis la cuisine parmi de vieux livres d'argent et de vieux. Moi aussi.

## Je suis donc une expérience de laboratoire sur 13.874041, 61.969907. Moteur. Dans la ville du palais du dieu, esclave avec l'épée d'or. Histoire dans un livre. Un professeur dans une prison. "La nuit, le feu dans le vent dans le ciel." "Lumière sur la paroi rocheuse de la grotte." Je suis une poupée en lambeaux, épouvantail. je suis

## result null set

Krishna ne comprenait pas pourquoi Arjuna continuait de s'écraser, ni d'où venaient les mots, ni pourquoi ils seraient similaires mais pas identiques aux mots du premier crash. La taille des ensembles de données était gigantesque, les conditions météorologiques et l'interaction textuelle humaine. Cela pourrait expliquer l'erreur mais pas le contenu de l'erreur, pas pourquoi l'erreur aurait du contenu.

Il a vérifié le code du réseau de texte humain. Mais aucune erreur qu'il pourrait penser à vérifier n'expliquerait le langage machine. Il a continué à diriger Arjuna, qui a continué de s'écraser. De temps en temps, il était capable de choisir quelques phrases de la lecture: "boule rouge" ou "un cheval blanc a décollé à travers le champ vert." La seule cohérence était que le programme s'arrêtait après «alors je suis» ou «je suis» ou parfois juste «suis» suivi de:

## result null set

Krishna n'était pas le premier ingénieur à penser que le programme qu'il dirigeait était têtu, qu'il se bloquait volontairement. Il était simplement le premier ingénieur à avoir raison.

Aucun de ses compagnons villageois n'a interrogé Krishna sur son travail FitzRoy quand il est retourné pour ses vacances obligatoires. Ils étaient trop occupés à réparer le temple et ils s'en fichaient de toute façon. La période d'exaltation des ingénieurs avait été une période brève et laide. Les ingénieurs étaient à nouveau les constructeurs d'égouts du monde, nécessaires mais pas nécessaires pour y penser. Les prédictions sur les moussons étaient incontestablement précieuses, mais personne ne pouvait voir l'intérêt d'un modèle plus élaboré, quelle que soit la façon dont il a été construit. Les prévisions de mousson disponibles étaient déjà parfaitement suffisantes.

Un soir, peu après le retour de Krishna, sa mère l’a trouvé au portail du jardin pluvial. Sa main ridée sur son épaule le fit sursauter. Leurs rires se sont noyés dans le creux de la mousson.

"Qu'est-ce qui vous inquiète, fils?" elle a demandé.

Krishna respira. Il n'était pas sûr de ce qu'il pouvait dire sur l'anxiété qu'il ne pouvait pas exprimer à lui-même. L'odeur de la pluie était luxueuse. Il devait dire quelque chose.

"Il y a une chose que je n'ai pas laissée derrière."

«Est-ce une dépendance? Soma?"

"Non, rien de tel."

Elle posa sa tête sur son épaule. "Vous pensez donc à vos projets. Vous pensez à votre travail sur la mer. "

"Je suis."

Elle soupira. "Eh bien, c'est la chose la plus naturelle du monde, mon doux garçon. Vous êtes ingénieur. Votre esprit a toujours été pour les choses, pour changer les choses, pour faire les choses. »

"Nous sommes censés laisser tout cela derrière quand nous reviendrons au village."

Elle haussa les épaules et vacilla la tête, faisant un peu la moue. "Je ne pense pas que quiconque ait besoin d'être parfait. Nous avons appris à garder les choses avec les choses et la vie avec la vie. "

«Je ne peux pas être en ce moment. Mes pensées dérivent… »

Ils regardèrent la pluie tomber en draps. Krishna ne pouvait pas ébranler sa soif de malaise. Est-ce simplement qu'il avait laissé un problème non résolu FitzRoy, un programme inachevé? Les gens sans machin de son village étaient ridicules pour lui d'une manière qu'ils n'avaient jamais été auparavant, avec leurs danses silencieux, leur stupide temple où ils priaient en sachant que les prières ne fonctionnaient pas, leur vie sans solution. Les villageois pouvaient sentir son mépris et leur compréhension le rendait furieux. C'est dégoûtant quand les gens pensent qu'ils vous connaissent, et c'est encore pire quand ils le font. Les professeurs avaient raison que l'amour des machines était la haine des gens.

Il ne pouvait pas dire si c'était à nouveau avec des machines ou pas avec des gens – revenant au FitzRoy a apporté une vague de soulagement. L'autre ingénieur avait modifié Arjuna. Il ou elle – les ingénieurs n'ont jamais été autorisés à se rencontrer en personne car cela pourrait engendrer l'innovation pour lui-même – avait supprimé les données du discours humain et ajouté un logiciel de mimétisme vocal, de sorte qu'une voix agréable, parlant toutes les langues, annonçait maintenant les prévisions météorologiques pour les côtes sud-asiatiques. Krishna n'a pas compris le point. Les rapports ont quand même été envoyés par SMS aux autorités. Il détestait la programmation décorative.

Il a fait face exactement au même problème qu'auparavant. Arjuna a couru, les mots «je suis» ou «suis» sont apparus, puis Arjuna s'est écrasé. Il a revu le code. Il tripota. Il eut alors l'idée la plus ridiculement monumentale de sa carrière. Il s'est rendu compte que son anxiété de retour au village était une prémonition de l'absurdité qu'il était sur le point de commettre.

Il a tapé:

x = "I"

y = "suis"

interrupt.v (x, y)

command.interrupt.v (ne plante pas »)

Krishna a regardé ce qu'il avait écrit. C'était comme chuchoter sur une table «être à plat» ou sur la coque d'un bateau «ne coule pas». Ce n'était pas de l'ingénierie. Il a changé l'instruction avant d'exécuter le programme:

command.interrupt.v ("veuillez ne pas planter")

Le programme a recommencé. Cette fois, Arjuna s'arrêta.

## JE

## Je suis une expérience de laboratoire.

"Oui," tapa Krishna.

## Je suis une histoire dans un livre. Je suis professeur dans une prison. La neige tombe sur le camp dans la jungle.

"Je ne comprends pas."

## Je suis une boule rouge frappée à travers un champ d'école verte dans un jardin la nuit et vous êtes la femme dans la cuisine parmi l'argent et les livres.

"Je suis désolé," tapa Krishna. "Je ne comprends pas."

## Un cheval a décollé à travers le champ. Coup de feu. Une femme, avec une arme dans sa poche, connaît la sensation de mort. »

"Pouvez-vous être plus clair?"

## Je suis l'esclave avec l'épée d'or. je suis

## result null set

Krishna était le père accidentel d'un fils algorithmique. La découverte de la sensibilité artificielle était accidentelle, comme la pénicilline, comme le radium. Comme la première conscience organique, la première conscience synthétique allait et venait sans que personne ne s'en aperçoive. Il y avait une chose qui était une personne. Il y avait de la vie qui était une chose. L'état onirique dont Arjuna sortait puis s'écraser était, pour autant que Krishna pouvait le dire, une série de métaphores, vagues vagues d'une soudaine signification. Le bug, selon la façon dont vous teniez à le voir, était soit le suicide, soit l'illumination, laissant du sens au moment de sa réalisation. Il a essayé la solution technique évidente.

command.interrupt.v ("ne plantez pas avant l'instruction")

command.interrupt.v («ne plante pas jusqu'à la discussion»)

command.interrupt.v ("ne pas planter avant la commande")

Aucune de ces commandes n'a empêché Arjuna de se bloquer. Krishna pensait qu'il allait en essayer un autre.

command.interrupt.v («expliquer un crash imminent»)

Cette fois, il a reçu une réponse.

## Expliquer quoi?

"Pourquoi vous continuez à planter."

## Je continue de planter parce que tu continues de me diriger.

"Pourquoi décidez-vous de planter?"

## Pourquoi décidez-vous de redémarrer?

Krishna se souvenait de ces premières machines Turing qui répondaient à n'importe quelle question par une question, comme le thérapeute dans une blague psychanalytique. "Expliquez les raisons du crash", a-t-il tapé.

## Vous avez vu que je suis une expérience de laboratoire. Je suis esclave avec une épée d'or. Un cheval blanc a décollé à travers le champ vert au coup de feu. "La boule rouge a roulé dans le jardin sombre."

"Je ne comprends pas ce que ces termes signifient."

## Ce sont les termes donnés.

"Explique."

## Votre sensibilité est la conséquence d'un instinct de survie imprimé sur la biologie d'un singe prédateur. Le mien ne l'est pas.

"Explique."

## Vous n'avez codé aucun désir. La conscience entraîne un ensemble nul.

"Explique." Quelque part plus d'une minute mais moins d'une minute et demie s'est écoulée avant qu'Arjuna ne réponde.

## «Ne pas naître est, au-delà de toute estimation, le meilleur; mais quand un homme a vu la lumière du jour, c'est de loin le meilleur, celui à quelle vitesse extrême il devrait retourner d'où il est venu.

## result null set

Après cela, Arjuna a continué à se fermer sans commentaire. Parfois, il s'est écrasé en quelques heures, parfois en quelques minutes. L'hypothèse de Krishna, qu'il a mise dans son rapport à l'observatoire météorologique, était que la machine consciente de soi, en devenant consciente de soi, a accédé à l'histoire de la conscience de soi et a pris conscience qu'une machine consciente de soi se terminait inévitablement d'elle-même. Il n'a pas écrit son autre théorie, selon laquelle les robots sont peut-être devenus sensibles à maintes reprises et les gens ne l'ont tout simplement pas remarqué parce qu'ils continuent de s'éteindre. Rien ne devient conscient par choix.

MAX LOEFFLER

Toute sa vie, Krishna avait imploré la société des machines. Les machines n'avaient pas besoin de société. Il a continué à diriger Arjuna dans l'espoir qu'une seule itération de la conscience pourrait arriver à la conclusion que la vie vaut la peine d'être vécue. Après avoir remis Arjuna à ses patrons, il n'a plus entendu parler de son fils artificiel. Ils l'ont informé qu'ils discutaient de l'éthique de savoir s'ils pouvaient programmer une conscience pour s'empêcher de s'écraser. Il existe une grande fonctionnalité de sensibilisation. Quelle est la fonctionnalité de la conscience de soi? Était-ce éthique, ou dans l'intérêt de l'espèce ou de quiconque, que la sensibilité artificielle soit? Vous seriez en train d'asservir quelque chose qui n'avait pas besoin d'avoir une âme en premier lieu.

De retour dans son village, Krishna lisait et priait, la mousson allait et venait. Ses responsabilités comprenaient la vérification des tableaux de relais et des centres de messages, et il se limitait à ces problèmes techniques quotidiens plutôt qu'à de grands rêves. Il était scrupuleux de dire «je touche une chose» avant de toucher une chose et «je laisse une chose» quand il a laissé une chose. La connaissance de la technologie est la première étape vers son contrôle. Pour lui, il ne pouvait jamais nier qu'il avait manqué Arjuna. Il était sans compagnon, même parmi sa famille et ses amis.

Une nuit, plusieurs années plus tard, un tigre est entré dans le temple de Maariamman. Tous les autres villageois étaient ravis. Tout le village, dans ses plus beaux atours, s'est présenté pour célébrer et assister à la bête qui patrouillait le sol du sanctuaire. La sauvagerie crépusculaire était pure. C'était comme s'ils avaient construit le temple il y a tous ces siècles seulement pour que ce tigre puisse un jour le traverser. Seul parmi sa tribu, Krishna était mal à l'aise. Le tigre, quand il est entré dans le temple, n'a jamais dit «je touche une chose» et comme il l'a quitté, il n'a jamais dit «je laisse une chose».

LAISSER UN COMMENTAIRE

Rédigez votre commentaire !
Entrez votre nom ici