Comme les États-Unis Le gouvernement fédéral a du mal à réglementer de manière significative l’IA – ou même son fonctionnement – et la ville de New York s’engouffre dans le fossé de la gouvernance.
La ville a présenté cette semaine un plan d’action sur l’IA que le maire Eric Adams qualifie de premier du genre dans le pays. L’ensemble d’environ 40 initiatives politiques est conçu pour protéger les résidents contre les préjudices tels que les préjugés ou la discrimination liés à l’IA. Il comprend l’élaboration de normes pour l’IA achetée par les agences municipales et de nouveaux mécanismes pour évaluer le risque lié à l’IA utilisée par les services municipaux.
La réglementation new-yorkaise sur l’IA pourrait bientôt s’étendre encore davantage. Jennifer Gutiérrez, membre du conseil municipal et présidente du comité technologique de l’organisme, a présenté aujourd’hui un projet de loi qui créerait un bureau d’intégrité des données algorithmiques pour superviser l’IA à New York.
S’il était créé, le bureau offrirait aux citoyens un lieu où ils pourraient déposer des plaintes concernant les systèmes de prise de décision automatisés utilisés par les agences publiques, fonctionnant comme un médiateur pour les algorithmes dans les cinq arrondissements. Il évaluerait également les systèmes d’IA avant leur déploiement par la ville pour détecter les préjugés et la discrimination.
Plusieurs sénateurs américains ont suggéré de créer une nouvelle agence fédérale pour réglementer l’IA plus tôt cette année, mais Gutiérrez dit avoir appris qu’il ne sert à rien d’attendre une action à Washington, DC. « Nous avons une responsabilité unique car une grande partie de l’innovation réside ici », dit-elle. « Il est vraiment important pour nous de prendre les devants. »
Gutiérrez soutient l’exigence de tests pour les algorithmes utilisés par le gouvernement municipal, car l’IA commence à être largement utilisée, dit-elle. Les services municipaux souhaitent utiliser des logiciels d’IA pour des tâches administratives telles que l’évaluation du risque qu’un enfant soit victime d’abus ou les taux d’apprentissage des élèves. Elle se méfie également du penchant du maire Eric Adams pour la technologie comme les chiens robotiques et l’IA pour effectuer des appels automatisés dans des langues qu’il ne parle pas. La ville de New York a la réputation d’être un terrain d’essai pour les technologies de surveillance, depuis l’augmentation récente de l’utilisation des drones jusqu’à l’utilisation discutable de la reconnaissance faciale dans les logements, les stades et par la police.
New York était en avance sur le gouvernement fédéral en matière de réglementation de l’IA avant même cette semaine. Un groupe de travail municipal a été formé en 2018 pour évaluer son utilisation de la technologie. Une loi exigeant que les algorithmes de recrutement utilisés par les entreprises soient vérifiés pour détecter tout biais est entrée en vigueur plus tôt cette année. Mais certaines protections ont été rappelées. En janvier 2022, Adams a annulé un décret signé par son prédécesseur, Bill de Blasio, qui créait un responsable de la gestion et des politiques des algorithmes pour travailler avec les agences municipales au déploiement de l’IA de manière équitable. Un rapport publié par l’officier en 2020 indiquait que les agences municipales utilisaient 16 types d’algorithmes qui avaient un impact potentiellement substantiel sur les droits des personnes, mais n’avaient pas étudié tous les modèles d’IA utilisés par la police de la ville de New York.
Gutiérrez dit qu’elle n’a toujours pas une compréhension globale des algorithmes utilisés par les agences municipales. Un audit publié en février par le contrôleur de l’État de New York a révélé que la ville avait une approche ponctuelle et incomplète de la gouvernance de l’IA. Cela signifie que la ville ne peut pas « garantir que l’utilisation de l’IA par la ville est transparente, précise et impartiale et qu’elle évite des impacts disparates ».
