Nous avions l’habitude d’être enthousiasmés par la technologie. Qu’est-il arrivé?

J’avais cligné des yeux devant la pauvreté esthétique du dernier pitch du jeu Meta’s Horizon Worlds VR, mettant en vedette l’avatar de dessin animé aux yeux morts de Mark Zuckerberg sur un fond visuel qu’un Twitter remue charitablement comparé aux « murs peints d’une garderie abandonnée ». ” J’avais laissé échapper un soupir silencieux à la nouvelle de Anneau Nation, une émission télévisée produite par Amazon présentant un « contenu viral léger » capturé par l’empire de surveillance Ring. j’avais serré la mâchoire à une capture d’écran du modèle texte-image Stable Diffusion offrant des œuvres d’art d’IA dans les styles de dizaines d’artistes humains non rémunérés, dont le travail collectif avait été versé dans les données de formation du modèle, broyé et recraché.

J’ai reconnu le sentiment et je connaissais son nom. C’était de la résignation – ce sentiment d’être coincé dans un endroit où vous ne voulez pas être mais que vous ne pouvez pas quitter. J’ai été frappé par l’ironie du fait que j’ai étudié la technologie toute ma vie afin d’éviter ce genre de sentiment. La technologie était mon endroit heureux.

Naturellement, j’ai déversé mon émotion dans un tweetstorm :

La chose la plus triste pour moi à propos de la longue spirale de la technologie moderne dans la manipulation et la surveillance des utilisateurs est la façon dont elle vient de tuer lentement la joie que les gens comme moi ressentaient à propos des nouvelles technologies.  Chaque produit annoncé par Meta ou Amazon rend l'avenir plus sombre et plus gris.  t utilisé pour être le contraire.  La technologie était l'une des choses que j'aimais le plus.  Je me souviens encore de la sensation que j'ai ressentie lorsque j'ai pris les premiers trains BART à SF.  Quand j'ai vu mon premier Concorde, ma petite tête a explosé.  Mon Commodore PET.  La dernière fois que la technologie m'a rendu vraiment joyeux, c'était ces gloires.  Que faudra-t-il pour que nous retrouvions ce sentiment?  Je ne pense pas que ce soit juste ma nostalgie, n'est-ce pas ?  Les entreprises technologiques ne nous promettent plus rien dont nous ayons réellement besoin ou demandé.  Juste plus de surveillance, plus de coups de coude, plus de vidange de nos données, de notre temps, de notre joie.

SHANNON VALLOR SUR TWITTER

J’ai touché une corde sensible. Alors que mes notifications commençaient à exploser et que des milliers de réponses et de retweets commençaient à affluer, la récompense initiale de dopamine pour la viralité a cédé la place à une tristesse plus profonde. UN parcelle de personnes étaient assises avec cette même sensation de lourdeur dans l’estomac.

Pourtant, il y avait une catharsis dans la lecture, tant d’autres l’expriment.

Il manque quelque chose à nos vies et à notre technologie. Son absence alimente un malaise croissant exprimé par de nombreuses personnes qui travaillent dans la technologie ou l’étudient. C’est ce qui motive la nouvelle génération de chercheurs doctorants et postdoctoraux avec lesquels je travaille à l’Université d’Édimbourg, qui rassemblent des connaissances issues des arts techniques, des sciences et des disciplines humanistes pour essayer de comprendre ce qui a mal tourné avec notre écosystème technologique et comment réparer. Pour ce faire, nous devons comprendre comment et pourquoi les priorités de cet écosystème ont changé.

L’objectif du développement des technologies grand public était autrefois assez simple : concevoir et construire quelque chose de valeur pour les gens, en leur donnant une raison de l’acheter. Un nouveau réfrigérateur est brillant, réduit mes factures d’énergie, fait des glaçons cool. Alors je l’achète. Fait. Un Roomba promet d’aspirer les poils de chat sous mon canapé pendant que je fais une sieste. Vendu! Mais cette vision de la tech est de plus en plus dépassée. Il ne suffit pas qu’un réfrigérateur garde les aliments au frais ; la version d’aujourd’hui propose des caméras et des capteurs qui peuvent surveiller comment et ce que je mange, tandis que le Roomba peut désormais envoyer une carte de ma maison à Amazon.

Le problème ici va bien au-delà des risques évidents pour la vie privée. C’est un changement radical dans l’ensemble du modèle d’innovation et des incitations qui l’animent. Pourquoi se contenter d’une seule transaction à but lucratif pour l’entreprise alors que vous pouvez plutôt concevoir un produit qui extraira un flux de données monétisable de chaque acheteur, rapportant des revenus à l’entreprise pendant des années ? Une fois que vous aurez capturé ce flux de données, vous le protégerez, même au détriment de votre client. Après tout, si vous achetez une part suffisante du marché, vous pouvez vous permettre d’endurer la colère et la frustration de vos clients. Demandez à Mark Zuckerberg.

Ce ne sont pas seulement les technologies grand public et les plateformes de médias sociaux qui ont opéré ce changement. La grande marque agro-technologique John Deere, par exemple, autrefois appréciée de ses clients, combat un mouvement de « droit à réparer » impulsé par des agriculteurs en colère contre l’interdiction de réparer leurs propres machines, de peur de perturber les logiciels propriétaires qui envoient des produits à haute valeur ajoutée. les données sur les terres et les cultures des agriculteurs au fabricant. Comme l’ont noté plus d’un commentateur sur mon fil Twitter, aujourd’hui dans la technologie nous sont le produit, pas le premier bénéficiaire. Les dispositifs mécaniques qui étaient autrefois le produit ne sont de plus en plus que des intermédiaires.

Il y a aussi un changement dans la destination des innovations technologiques d’aujourd’hui. Plusieurs personnes interrogées se sont opposées à mon sujet en attirant l’attention sur le marché dynamique actuel des nouvelles technologies pour les « geeks » et les « nerds » – Raspberry Pis, outils logiciels open source, robots programmables. Bien que bon nombre d’entre eux soient destinés à ceux qui ont le temps, les compétences et l’intérêt de les utiliser, ce sont des outils conçus pour un public restreint. Le frisson de voir une véritable innovation dans la technologie biomédicale, comme les vaccins à ARNm, est également atténué lorsque nous voyons les avantages concentrés dans les pays les plus riches, ceux qui sont déjà les mieux servis par la technologie.