Trois groupes concentrés sur l’augmentation de la diversité dans l’intelligence artificielle disent qu’ils ne prendront plus de financement de Google. Dans une déclaration commune publiée lundi, Black in AI, Queer in AI et Widening NLP ont déclaré avoir agi pour protester contre le traitement par Google de ses anciens chefs d’équipe d’IA éthique, Timnit Gebru et Margaret Mitchell, ainsi que de l’ancienne recruteur April Christina Curley, une homosexuelle noire. femme.

«Le potentiel des technologies d’IA de causer des dommages particuliers aux membres de nos communautés pèse lourdement sur nos organisations», indique le communiqué. «Les actions de Google au cours des derniers mois ont infligé d’énormes préjudices qui se sont répercutés dans toute notre communauté. Non seulement ils ont causé des dommages, mais ils ont créé un dangereux précédent pour le type de recherche, de plaidoyer et de représailles autorisé dans notre communauté. »

Dans la déclaration, les groupes approuvent les appels lancés en mars par les employés actuels et anciens de Google pour que des conférences universitaires rejettent le financement de Google et pour que les décideurs politiques adoptent des protections plus strictes contre les dénonciateurs pour les chercheurs en IA.

C’est la première fois dans la brève histoire de chacune des trois organisations qu’ils refusent le financement d’un commanditaire.

L’annonce de lundi marque les dernières retombées en réponse au traitement par Google des Noirs et des femmes et aux accusations d’ingérence dans des documents de recherche sur l’IA qui devraient être publiés lors de conférences universitaires.

En mars, les organisateurs de la conférence sur l’équité, la responsabilité et la transparence (FAccT) ont refusé le financement de Google et le chercheur Luke Stark a refusé 60 000 $ de financement de Google. Luca Soldaini, organisateur de Queer in AI, a déclaré à WIRED que l’organisation avait reçu 20 000 dollars de Google l’année dernière; L’élargissement de la PNL a reçu 15 000 $ de Google.

Cochair Xandra Schofield a déclaré que Widening NLP, fondée en 2017 dans le but d’attirer plus de femmes sur le terrain, ressentait le besoin de signer la déclaration conjointe car les actions de Google étaient incompatibles avec la mission du groupe de soutenir les chercheurs sous-représentés. Mitchell était un cofondateur de l’organisation. L’élargissement de la coprésidente de la PNL Haley Lepp a ajouté que «en soutenant ces chercheurs, nous voulons également soutenir leurs recherches et leur capacité à faire des recherches qui pourraient être critiques sur les effets de l’IA».

Les groupes d’affinité comme Black in AI, Queer in AI et Widening NLP sont des organisations à but non lucratif créées pour protéger et représenter les personnes qui ont été historiquement sous-représentées dans la communauté d’apprentissage automatique. Ils fonctionnent séparément des conférences d’apprentissage automatique, mais peuvent attirer des centaines de participants à des ateliers ou à des événements sociaux co-localisés lors des conférences les plus fréquentées. Ces dernières années, des groupes d’affinité se sont formés pour les personnes handicapées et pour les juifs et les musulmans.

Queer in AI s’est également opposé à l’approche de Google Scholar envers les auteurs trans et non binaires qui souhaitent mettre à jour des publications après avoir changé de nom, a déclaré Soldaini.

«Nous avons eu de très mauvaises expériences avec cela, et Google a été du très mauvais côté», a-t-il déclaré. Les demandes de changement de nom adressées à Google n’obtiennent souvent aucune réponse, a-t-il déclaré.

Gebru est cofondateur de Black in AI. Le document en litige au moment où elle dit avoir été licenciée, sur les dangers que représentent les grands modèles linguistiques pour les communautés marginalisées, a finalement été publié en l’identifiant comme une auteure avec Black in AI. Lors d’une conférence la semaine dernière à la Conférence internationale sur les représentations d’apprentissage, qui répertorie Google comme sponsor platine, Gebru a encouragé les universitaires à refuser d’examiner les articles soumis à des conférences d’apprentissage automatique qui ont été édités par des avocats.

« Les universitaires ne devraient pas couvrir leurs paris mais prendre position », a déclaré Gebru. «Il ne s’agit pas d’intentions. C’est une question de pouvoir, et les multinationales ont trop de pouvoir et elles doivent être réglementées. »

Rediet Abebe, cofondatrice de Black in AI, qui deviendra la première femme noire membre du corps professoral du département de génie électrique et d’informatique de l’Université de Californie à Berkeley, s’est engagée l’année dernière à ne pas prendre d’argent à Google pour diminuer l’influence de l’entreprise sur la recherche en IA.