Les promesses ne manquent pas en matière d'IA. Certains disent que cela résoudra tous les problèmes tandis que d'autres préviennent que cela entraînera la fin du monde tel que nous le connaissons. Les deux positions se jouent régulièrement dans des intrigues hollywoodiennes comme Westworld, noir de carbone, Rapport minoritaire, Sa, et Ex Machina. Ces histoires sont convaincantes, car elles nous obligent, en tant que créateurs et consommateurs de la technologie de l'IA, à décider si nous faisons confiance à un système d'IA ou, plus précisément, à ce que le système fait avec les informations qui lui ont été fournies.

Ce contenu a été produit par Nuance. Il n’a pas été rédigé par la rédaction du MIT Technology Review.

Joe Petro est CTO chez Nuance.

Ces histoires fournissent également une leçon importante pour ceux d'entre nous qui passent nos journées à concevoir et à créer des applications d'IA: la confiance est un facteur essentiel pour déterminer le succès d'une application d'IA. Qui veut interagir avec un système auquel il ne fait pas confiance?

La boîte noire et comprendre les inconnues

Même en tant que technologie naissante, l'IA est incroyablement complexe et puissante, offrant des avantages en effectuant des calculs et en détectant des modèles dans d'énormes ensembles de données avec rapidité et efficacité. Mais ce pouvoir, combiné aux perceptions de la «boîte noire» de l'IA et de son appétit pour les données utilisateur, introduit de nombreuses variables, des inconnues et des conséquences involontaires possibles. Les applications pratiques de l'IA cachent le fait que la confiance peut avoir un effet profond sur la perception qu'ont les utilisateurs du système, ainsi que sur les sociétés, fournisseurs et marques associés qui commercialisent ces applications.

Des avancées telles que la puissance de calcul omniprésente du cloud et des périphéries rendent l'IA plus performante et plus efficace tout en facilitant et accélérant la création et le déploiement d'applications. Historiquement, l'accent a été mis sur le développement de logiciels et la conception de l'expérience utilisateur. Mais il ne s'agit plus simplement de concevoir un système qui résout X. Il est de notre responsabilité de créer une expérience engageante, personnalisée, sans frottement et digne de confiance pour chaque utilisateur.

L'IA est avide de données: sachez ce que vous lui donnez

La capacité de le faire avec succès dépend largement des données utilisateur. Les performances du système, la fiabilité et la confiance des utilisateurs dans la sortie du modèle AI sont affectées autant par la qualité de la conception du modèle que par les données qui y sont entrées. Les données sont le carburant qui alimente le moteur AI qui convertit virtuellement l'énergie potentielle des données utilisateur en énergie cinétique sous la forme d'informations exploitables et de sorties intelligentes. Tout comme le remplissage d'une voiture de course de Formule 1 avec du carburant pauvre ou contaminé diminuerait les performances et la capacité du pilote à concourir, un système d'IA formé avec des données incorrectes ou inadéquates peut produire des résultats inexacts ou imprévisibles qui brisent la confiance des utilisateurs. Une fois brisée, la confiance est difficile à retrouver. C'est pourquoi des pratiques rigoureuses de gestion des données par les développeurs et les fournisseurs d'IA sont essentielles pour créer des modèles d'IA efficaces ainsi que pour créer l'acceptation, la satisfaction et la rétention des clients.

La gestion responsable des données établit une chaîne de confiance qui s'étend des consommateurs aux entreprises qui collectent les données des utilisateurs et à ceux d'entre nous qui construisent des systèmes basés sur l'IA. Il est de notre responsabilité de connaître et de comprendre les lois et politiques de confidentialité et de prendre en compte la sécurité et la conformité pendant la phase de conception principale. Nous devons avoir une compréhension approfondie de la façon dont les données sont utilisées et qui y a accès. Nous devons également détecter et éliminer les biais cachés dans les données grâce à des tests complets.

Traiter les données utilisateur comme un «code source» propriétaire

Traitez les données des utilisateurs comme une propriété intellectuelle (IP) sensible. Il s'agit du code source propriétaire utilisé pour créer des modèles d'IA qui résolvent des problèmes spécifiques, créent des expériences sur mesure et atteignent les résultats souhaités ciblés. Ces données sont dérivées des interactions personnelles des utilisateurs, telles que les conversations entre les consommateurs et les agents d'appel, les médecins et les patients, les banques et les clients. Il est sensible car il crée des profils d'utilisateurs numériques intimes et très détaillés basés sur des informations privées financières, sanitaires, biométriques et autres.

Les données des utilisateurs doivent être protégées et utilisées avec autant de soin que toute autre adresse IP, en particulier pour les systèmes d'IA dans des secteurs hautement réglementés tels que les soins de santé et les services financiers. Les médecins utilisent la parole de l'IA, la compréhension du langage naturel et les agents virtuels conversationnels créés avec les données de santé des patients pour documenter les soins et accéder aux conseils de diagnostic en temps réel. Dans les services bancaires et financiers, les systèmes d'IA traitent des millions de transactions clients et utilisent l'empreinte vocale biométrique, les mouvements oculaires et les données comportementales (par exemple, la vitesse à laquelle vous tapez, les mots que vous utilisez, la main avec laquelle vous glissez) pour détecter une fraude ou une authentification possible identités des utilisateurs.

Les fournisseurs de soins de santé et les entreprises créent leur propre «porte d'entrée numérique» qui offre des expériences utilisateur efficaces et personnalisées par SMS, Web, téléphone, vidéo, applications et autres canaux. Les consommateurs optent également pour des interactions numériques en temps réel qui font gagner du temps. Les organisations de santé et commerciales veulent à juste titre contrôler et protéger leurs relations avec leurs patients et clients et leurs données dans chaque méthode d'engagement numérique pour renforcer la notoriété de la marque, les interactions personnalisées et la fidélité.

Chaque fournisseur et développeur d'IA doit non seulement être conscient de la nature intrinsèquement sensible des données utilisateur, mais également de la nécessité de fonctionner avec des normes éthiques élevées pour construire et maintenir la chaîne de confiance requise.

Voici les questions clés à considérer:

Qui a accès aux données? Ayez une politique claire et transparente qui inclut des protections strictes telles que la limitation de l'accès à certains types de données et l'interdiction de la revente ou du partage par des tiers. Les mêmes politiques devraient s'appliquer aux fournisseurs de cloud ou à d'autres partenaires de développement.

Où sont stockées les données et pendant combien de temps? Demandez où vivent les données (cloud, périphérie, appareil) et combien de temps elles seront conservées. La mise en œuvre du règlement général sur la protection des données de l'Union européenne, la California Consumer Privacy Act et la perspective de protections supplémentaires de la vie privée aux États et au niveau fédéral devraient faire des pratiques de stockage et de conservation des données une priorité lors du développement de l'IA.

Comment les avantages sont-ils définis et partagés? Les applications d'IA doivent également être testées avec divers ensembles de données pour refléter les applications réelles prévues, éliminer les biais involontaires et garantir des résultats fiables.

Comment les données se manifestent-elles dans le système? Comprenez comment les données circuleront dans le système. Les données sensibles sont-elles accessibles et essentiellement traitées par un réseau neuronal sous la forme d'une série de 0 et de 1, ou sont-elles stockées dans leur forme d'origine avec des informations médicales ou d'identification personnelle? Établissez et suivez des politiques appropriées de conservation et de suppression des données pour chaque type de données sensibles.

Qui peut réaliser une valeur commerciale à partir des données des utilisateurs? Tenez compte des conséquences potentielles du partage de données à des fins en dehors de la portée ou de la source d'origine des données. Tenir compte des fusions et acquisitions possibles, des produits de suivi possibles et d'autres facteurs.

Le système est-il sécurisé et conforme? Concevez et construisez pour la confidentialité et la sécurité en premier. Considérez comment la transparence, le consentement de l'utilisateur et les performances du système peuvent être affectés tout au long du cycle de vie du produit ou du service.

La réalité de l'IA en action

Les applications biométriques aident à prévenir la fraude et à simplifier l'authentification. Le système de biométrie vocale VoiceID de HSBC a réussi à empêcher le vol de près de 400 millions de livres sterling (environ 493 millions de dollars) par des fraudeurs téléphoniques au Royaume-Uni. Il compare l'empreinte vocale d'une personne avec des milliers de caractéristiques vocales individuelles dans un enregistrement vocal établi pour confirmer l'identité d'un utilisateur. D'autres sociétés utilisent la biométrie vocale pour valider l'identité des employés des centres d'appels distants avant qu'ils ne puissent accéder aux systèmes et données propriétaires. Le besoin de telles mesures augmente à mesure que les consommateurs effectuent davantage d'interactions numériques et téléphoniques.

Les applications intelligentes offrent un service client sécurisé, personnalisé et axé sur le numérique. Une entreprise mondiale de télécommunications utilise l'IA conversationnelle pour créer des expériences client cohérentes, sécurisées et personnalisées à travers son portefeuille de marques large et diversifié. Les clients s'engageant de plus en plus sur les canaux numériques, la société s'est tournée vers des partenaires technologiques pour étendre sa propre expertise en interne tout en veillant à conserver le contrôle de ses données en déployant un assistant virtuel pour le service client.

Un détaillant parmi les trois premiers utilise la technologie d'assistance virtuelle à commande vocale pour permettre aux acheteurs de télécharger des photos d'articles qu'ils ont vus hors ligne, puis présente des articles pour qu'ils envisagent d'acheter en fonction de ces images.

Les applications cliniques basées sur l'IA ambiante améliorent les expériences de soins de santé tout en réduisant l'épuisement professionnel des médecins. EmergeOrtho en Caroline du Nord utilise l'application Nuance Dragon Ambient eXperience (DAX) pour transformer la façon dont ses pratiques orthopédiques à travers l'État peuvent interagir avec les patients et documenter les soins. L'application de télésanté à intelligence clinique ambiante capture avec précision chaque interaction médecin-patient dans la salle d'examen ou lors d'un appel de télésanté, puis met automatiquement à jour le dossier de santé du patient. Les patients ont toute l’attention du médecin tout en rationalisant la paperasse électronique causant l’épuisement professionnel que les médecins doivent remplir pour être payés pour la prestation des soins.

Les systèmes d'imagerie diagnostique pilotés par l'IA garantissent que les patients reçoivent les soins de suivi nécessaires. Les radiologues de plusieurs hôpitaux utilisent l'IA et le traitement du langage naturel pour identifier et extraire automatiquement des recommandations pour les examens de suivi des cancers suspectés et d'autres maladies observées aux rayons X et autres images. La même technologie peut aider à gérer une augmentation de l'imagerie en attente et de suivi à mesure que les restrictions de covid-19 se relâchent, permettant aux fournisseurs de planifier des procédures, de commencer le recouvrement des revenus et de maintenir les soins aux patients.

Alors que la transformation numérique s'accélère, nous devons résoudre les défis auxquels nous sommes confrontés aujourd'hui tout en nous préparant à une multitude d'opportunités futures. Au cœur de cet effort se trouve l'engagement de renforcer la confiance et la gestion des données dans nos projets et organisations de développement de l'IA.

LAISSER UN COMMENTAIRE

Rédigez votre commentaire !
Entrez votre nom ici