« Le présent n’est pas une peine de prison, mais simplement notre instantané actuel », écrivent-ils. « Nous ne avoir d’utiliser des systèmes de décision algorithmiques contraires à l’éthique ou opaques, même dans des contextes où leur utilisation peut être techniquement réalisable. Les publicités basées sur la surveillance de masse ne sont pas des éléments nécessaires de notre société. Nous n’avons pas besoin de construire des systèmes qui apprennent les stratifications du passé et du présent et les renforcent dans le futur. La confidentialité n’est pas morte à cause de la technologie ; il n'est pas vrai que la seule façon de soutenir le journalisme, l'écriture de livres ou tout autre métier qui vous tient à cœur est de vous espionner pour diffuser des publicités. Il existe des alternatives.
Un besoin urgent de régulation
Si l'objectif de Wiggins et Jones était de révéler la tradition intellectuelle qui sous-tend les systèmes algorithmiques d'aujourd'hui, y compris « le rôle persistant des données dans la réorganisation du pouvoir », Josh Simons s'intéresse davantage à la manière dont le pouvoir algorithmique s'exerce dans une démocratie et, plus particulièrement, à la façon dont nous pourrait s’agir de réglementer les entreprises et les institutions qui l’exercent.
PRESSE UNIVERSITAIRE PRINCETON
Actuellement chercheur en théorie politique à Harvard, Simons possède une formation unique. Non seulement il a travaillé pendant quatre ans chez Facebook, où il a été membre fondateur de ce qui est devenu l'équipe Responsible AI, mais il a également été conseiller politique du parti travailliste au Parlement britannique.
Dans Des algorithmes au service du peuple : la démocratie à l'ère de l'IASimons s'appuie sur les travaux fondateurs d'auteurs comme Cathy O'Neil, Safiya Noble et Shoshana Zuboff pour affirmer que la prédiction algorithmique est intrinsèquement politique.. « Mon objectif est d’explorer comment faire fonctionner la démocratie à l’ère de l’apprentissage automatique », écrit-il.. « Notre avenir ne sera pas déterminé par la nature même de l’apprentissage automatique – les modèles d’apprentissage automatique font simplement ce que nous leur demandons de faire – mais par notre engagement en faveur d’une réglementation garantissant que l’apprentissage automatique renforce les fondements de la démocratie. »
Une grande partie de la première moitié du livre est consacrée à révéler toutes les façons dont nous continuons à mal comprendre la nature de l’apprentissage automatique et comment son utilisation peut profondément miner la démocratie. Et si une « démocratie prospère » – un terme que Simons utilise tout au long du livre mais ne définit jamais – n'était pas toujours compatible avec une gouvernance algorithmique ? Eh bien, c'est une question qu'il n'aborde jamais vraiment.
Qu'il s'agisse d'angles morts ou que Simons pense simplement que la prédiction algorithmique est et restera une partie inévitable de nos vies, le manque de clarté ne rend pas service au livre. Bien qu'il soit sur un terrain beaucoup plus solide lorsqu'il explique le fonctionnement de l'apprentissage automatique et déconstruit les systèmes derrière le PageRank de Google et le flux de Facebook, il reste des omissions qui n'inspirent pas confiance. Par exemple, il faut un temps inconfortablement long à Simons pour reconnaître l'une des principales motivations derrière la conception des algorithmes PageRank et Feed : le profit. Ce n’est pas quelque chose à négliger si vous souhaitez développer un cadre réglementaire efficace.
« La vérité ultime et cachée du monde est que c’est quelque chose que nous fabriquons et que nous pourrions tout aussi bien le faire différemment. »
Une grande partie de ce qui est discuté dans la seconde moitié du livre sera familière à quiconque suit l'actualité autour de la réglementation des plateformes et d'Internet (indice : nous devrions traiter les fournisseurs davantage comme des services publics). Et même si Simons a des idées créatives et intelligentes, je soupçonne que même les passionnés de politique les plus ardents en repartiront un peu démoralisés compte tenu de l’état actuel de la politique aux États-Unis.
En fin de compte, le message le plus prometteur qu’offrent ces livres réside dans la nature même des algorithmes. Dans Filtrer le monde, Chayka inclut une citation du regretté grand anthropologue David Graeber : « La vérité ultime et cachée du monde est que c'est quelque chose que nous fabriquons, et pourrions tout aussi bien le faire différemment. » C'est un sentiment qui se retrouve dans les trois livres, peut-être sans le côté « facilement ».
Les algorithmes peuvent consolider nos préjugés, homogénéiser et aplatir la culture, et exploiter et supprimer les personnes vulnérables et marginalisées. Mais il ne s’agit pas de systèmes totalement impénétrables ni de résultats inévitables. Ils peuvent aussi faire le contraire. Examinez attentivement n'importe quel algorithme d'apprentissage automatique et vous trouverez inévitablement des personnes : des personnes qui font des choix sur les données à collecter et sur la manière de les évaluer, des choix sur la conception et les variables cibles. Et, oui, même le choix de les utiliser ou non. Tant que les algorithmes sont une création humaine, nous pouvons également choisir de les créer différemment.
Bryan Gardiner est un écrivain basé à Oakland, en Californie.
