Ed Newton-Rex affirme que l’IA générative a un problème d’éthique. Il devrait le savoir, car il faisait partie d’une industrie en croissance rapide. Newton-Rex était concepteur en chef de l’IA de TikTok, puis cadre chez Stability AI jusqu’à ce qu’il démissionne avec dégoût en novembre à cause de la position de l’entreprise sur la collecte de données de formation.
Après son départ très médiatisé, Newton-Rex s’est lancé dans conversation après conversation sur ce à quoi ressemblerait la construction éthique de l’IA dans la pratique. « J’ai été frappé par le fait que beaucoup de gens souhaitent utiliser des modèles d’IA générative qui traitent les créateurs de manière équitable », dit-il. « Si vous pouvez leur fournir de meilleurs outils de prise de décision, c’est utile. »
Aujourd’hui, Newton-Rex a lancé une nouvelle organisation à but non lucratif, Fairly Trained, pour offrir aux gens exactement ce type d’outil de prise de décision. Il propose un programme de certification pour identifier les entreprises d’IA qui autorisent leurs données de formation. L’industrie de l’IA possède désormais sa propre version de ces labels de certification « commerce équitable » que l’on voit sur le café.
Pour obtenir le label de certification Fairly Trained, qu’elle appelle L Certification, une entreprise doit prouver que ses données de formation ont été explicitement autorisées à des fins de formation, dans le domaine public ou proposées sous une licence ouverte appropriée, ou appartiennent déjà à l’entreprise.
Jusqu’à présent, neuf entreprises ont reçu la certification, dont le générateur d’images Bria AI, qui s’entraîne exclusivement sur des données sous licence provenant de sources telles que Getty Images, et la plateforme de génération de musique LifeScore Music, qui autorise le travail de toutes les grandes maisons de disques. Plusieurs autres sont sur le point d’obtenir leur certification. L’organisation à but non lucratif facture des frais allant de 500 $ à 6 000 $, selon la taille de l’entreprise du demandeur.
OpenAI, leader mondial de l’IA générative, a récemment affirmé qu’il était impossible de créer des services d’IA générative comme ChatGPT sans utiliser de données sans licence. Newton-Rex et les premières entreprises à obtenir le sceau d’approbation de Fairly Certified ne sont pas d’accord. «Nous considérons déjà cela comme une chose obligatoire à faire», déclare Yair Adato, PDG de Bria, à propos des données de licence. Il compare les modèles d’IA construits sur des données sans licence à Napster et Pirate Bay, et sa propre entreprise à Spotify. « Il est très facile pour nous de nous conformer », déclare Tom Gruber, cofondateur de Lifescore Music, qui est également conseiller chez Fairly Certified. « Le secteur de la musique se soucie vraiment de la provenance et des droits. »
Newton-Rex affirme bénéficier du soutien de groupes professionnels tels que l’Association of American Publishers et l’Association of Independent Music Publishers, ainsi que de sociétés comme Universal Music Group. Mais le mouvement visant à renverser l’approche standard de l’industrie de l’IA consistant à récupérer les données d’entraînement à volonté en est encore à ses balbutiements. Et Fairly Trained est l’affaire d’un seul homme. Cela ne dérange pas Newton-Rex ; il a toujours l’état d’esprit d’un fondateur de startup. «Je crois qu’il faut expédier les choses tôt», dit-il.
L’organisation à but non lucratif n’est pas non plus la seule à tenter de standardiser l’idée d’étiqueter les produits d’IA avec des informations sur leurs ingrédients. Howie Singer, ancien dirigeant de Warner Music Group, qui étudie désormais comment la technologie change l’industrie musicale, voit des similitudes entre Fairly Trained et la Content Authority Initiative, un projet dirigé par Adobe pour aider les gens à suivre l’authenticité des images. «C’est une bonne étape», dit-il à propos du projet de Newton-Rex.
