Grand frère ou frère muet ? Les chauffeurs de bus de Pékin sont obligés de porter des « moniteurs émotionnels »

Les humains ne sont pas toujours doués pour respecter la vie privée de l’autre. Cependant, le bon sens dit qu’il y a une frontière claire entre les pensées dans sa propre tête et les sentiments dans son cœur.

Pour les chauffeurs de bus à Pékin, il semble que ce ne soit plus le cas. On demande maintenant à ces chauffeurs professionnels de porter des moniteurs émotionnels au travail, ce qui soulève des inquiétudes de la part des défenseurs des droits et de la vie privée. Mais les appareils ne sont rien de plus que des moniteurs d’entraînement, et il reste à voir s’ils peuvent réellement tenir leur promesse orwellienne.

Dans ta tête, dans ta tête !

Les bracelets de surveillance ont été distribués à certains chauffeurs de bus longue distance de Pékin. Crédit : Cypp0847, CC-BY-SA-4.0

Quand George Orwell a écrit 1984, nous n’étions qu’en 1949. Cependant, il a pu prévoir un monde dans lequel la surveillance serait omniprésente et incontournable. Il a également imaginé le concept de crime de pensée, où le simple fait d’envisager les mauvaises choses pourrait vous causer de sérieux ennuis avec les autorités.

Comme nous le savons tous, Orwell était loin – ces prédictions ne sont devenues réalité que bien avant les années 2000. Dans le dernier développement horrifiant, il existe maintenant des technologies qui prétendent être capables de surveiller l’état émotionnel d’une personne. Maintenant, le secteur des transports chinois se précipite pour les pousser sur leurs effectifs.

Les chauffeurs de bus longue distance de Pékin doivent désormais porter des bracelets électroniques lorsqu’ils sont au travail. Ces bracelets prétendent être capables de capturer l’état émotionnel du porteur, en le surveillant au nom de l’employeur. Le projet était une idée du Beijing Public Transport Holding Group. L’organisation gérée par l’État affirme que la technologie est destinée à la sécurité du public, et un essai des bracelets a commencé en juillet de cette année.

La technologie est relativement rudimentaire. Il ne scanne pas les ondes cérébrales et ne s’interface pas directement avec l’individu à un niveau conscient. Au lieu de cela, il surveille les signes vitaux du conducteur un peu comme une montre intelligente commune. Les bracelets capturent la température corporelle, la fréquence cardiaque, les niveaux d’oxygène dans le sang et les données respiratoires. Ils auraient également mesuré la tension artérielle, les niveaux d’exercice et les habitudes de sommeil de l’utilisateur.

Toutes ces données sont ensuite traitées pour générer une idée de l’état émotionnel du porteur. Les bracelets peuvent être surveillés en temps réel par l’organisation pour suivre ses employés en direct.

Des experts juridiques ont mis en doute la valeur du système de surveillance. Les enjeux portent sur la validité des conclusions tirées par les bracelets, et l’impact que cela pourrait avoir sur les salariés. Ceux qui sont régulièrement classés comme « en colère » ou « bouleversés » par les bracelets pourraient être discriminés ou perdre leur emploi, que leur état émotionnel ait été évalué avec précision ou même qu’ils aient un impact sur leur travail. Avec quelque chose d’aussi subjectif et malléable que les états émotionnels, il est également difficile de voir comment une machine pourrait tirer des conclusions de manière fiable.

Quant aux données, on ne sait pas non plus comment elles seraient réellement utilisées dans la pratique. Si un accident se produit et que le bracelet d’un employé signale qu’il était « agité » ou « triste », comment cela se répercute-t-il sur ce qui se passera ensuite ? Beaucoup d’entre nous peuvent devenir agacés et frustrés par la mauvaise circulation, après tout, et cela ne signifie absolument rien si un autre conducteur provoque un accident avec notre véhicule. Il est difficile d’imaginer que la technologie soit utilisée autrement que de manière punitive.

Une tendance inquiétante

Que le schéma ait ou non un sens ne semble pas avoir d’importance dans le schéma plus large des choses. Les bracelets correspondent à un thème écrasant de la société chinoise moderne – celui de la surveillance écrasante et omniprésente. Le pays gère déjà des systèmes de « crédit social » qui évaluent les citoyens en fonction de leurs antécédents criminels, de leur activité économique et de leur comportement en public. Tombez à l’encontre de ceux-ci et vous pourriez soudainement avoir du mal à demander des permis gouvernementaux ou même à voyager par train, mer ou air. Ces bracelets de surveillance ne sont qu’une autre extension de la surveillance qui a déjà lieu en Chine.

Cependant, d’autres pays ne devraient guère se considérer comme exempts de telles préoccupations. Les employés des entrepôts du monde entier sont régulièrement surveillés pour leur comportement et peuvent être pénalisés s’ils travaillent trop lentement ou prennent trop de pauses aux toilettes. De même, les travailleurs d’applications comme Uber et Doordash voient chacune de leurs actions surveillées, classées et analysées de manière critique. Encore une fois, les sanctions sont rapides en cas de mauvaise performance ou de comportement. En effet, les exemples sont trop nombreux pour être cités, mais cela ne le rend pas acceptable.

Les entreprises et les gouvernements sont souvent impatients de mettre en œuvre ces technologies dès qu’elles sont disponibles. En l’absence de solides protections de la vie privée pour l’individu, il y a toujours un grand risque que ces technologies portent atteinte à ses libertés personnelles. Dans la plupart des pays, ceux-ci n’existent tout simplement pas. Bien sûr, parfois, la conformité est imposée non pas avec des menaces à son travail ou à sa liberté, mais aussi de manière plus douce. Il est trop courant que notre accès aux médias sociaux, aux services de streaming ou aux recherches sur le Web dépende de la possibilité pour les entreprises de collecter de grands dossiers d’informations sur nos activités quotidiennes.

Dans le cas de ces bracelets, la menace ne vient même pas d’une nouvelle technologie de pointe. Le système est uniquement capable de collecter les mêmes données que quelque chose comme une smartwatch typique, et il est associé à un algorithme de correspondance des émotions qui est sophistiqué ou idiot selon votre point de vue.

La vraie menace est le fait que les moyens de subsistance des gens sont mis en danger sur la base de mesures et de calculs fallacieux d’un bracelet qu’ils n’ont guère le choix de porter. Cela crée un mauvais précédent pour ceux qui apprécient que leur propre corps, esprit et âme doivent être un lieu privé.

Photo de bannière : « Chauffeuse de bus de Pékin » par Ole Bendik Kvisberg.

Vignette : « Beijing bus » de Michael Wood