Quand pouvez-vous vous attendre à ce que votre requête déclenche un résumé des résultats généré par l’IA ? « Les aperçus de l'IA apparaissent pour les requêtes complexes », explique Mallory De Leon, porte-parole de Google. « Vous trouverez des aperçus de l'IA dans vos résultats de recherche Google lorsque nos systèmes déterminent que l'IA générative peut être particulièrement utile, par exemple, lorsque vous souhaitez comprendre rapidement des informations provenant d'une gamme de sources. » Lors de mes premiers tests, j'avais l'impression que les aperçus de l'IA apparaissaient presque au hasard pour les requêtes, et que les résumés apparaissaient pour des questions simples ainsi que pour des demandes plus complexes.
Selon De Leon, l'AI Overview est alimenté par une version personnalisée du modèle Gemini de Google qui est complétée par des aspects du système de recherche de l'entreprise, comme le Knowledge Graph qui contient des milliards de faits généraux.
L’une de mes principales hésitations à propos de cette fonctionnalité lors de son déploiement est le potentiel persistant d’hallucinations de l’IA, plus communément appelées mensonges. Lorsque vous interagissez avec le chatbot Gemini de Google, un avertissement en bas indique : « Gemini peut afficher des informations inexactes, y compris sur des personnes, alors vérifiez ses réponses. » Aucune clause de non-responsabilité n'est ajoutée au bas de l'aperçu de l'IA, qui se lit souvent simplement : « L'IA générative est expérimentale ».
Lorsqu'on lui demande pourquoi il n'y a aucune mention d'hallucinations potentielles pour les aperçus de l'IA, De Leon souligne que Google souhaite toujours offrir des résultats de recherche de haute qualité et mentionne que la société a effectué des tests contradictoires d'équipe rouge pour découvrir les points faibles potentiels de la fonctionnalité.
«Cette mise en œuvre de l'IA générative est ancrée dans les systèmes de qualité et de sécurité de base de Search, avec des garde-fous intégrés pour empêcher que des informations de mauvaise qualité ou nuisibles ne fassent surface», dit-elle. « Les aperçus de l'IA sont conçus pour mettre en évidence des informations qui peuvent être facilement vérifiées par les informations complémentaires que nous présentons. »
Sachant cela, vous souhaiterez peut-être toujours cliquer sur les liens des pages Web pour vérifier que les informations sont réellement correctes. Bien qu'il soit difficile d'imaginer que de nombreux utilisateurs, qui recherchent souvent des réponses rapides, passeront plus de temps à lire le matériel source de la réponse générée par l'IA de Google.
Liz Reid, responsable de la recherche chez Google, a récemment déclaré à ma collègue Lauren Goode que les aperçus de l'IA devraient arriver pour les pays en dehors des États-Unis avant la fin de 2024, donc plus d'un milliard de personnes seront probablement bientôt confrontées à cette nouvelle fonctionnalité. En tant que personne dont le travail repose sur le fait que les lecteurs cliquent sur des liens et passent du temps à lire les articles, j'appréhende bien sûr ce changement – et je ne suis pas seul.
Au-delà des préoccupations des éditeurs, on ne sait pas non plus quels impacts supplémentaires pourraient avoir sur les utilisateurs à partir des aperçus de l'IA de Google. Oui, ChatGPT d'OpenAI et d'autres outils d'IA sont très populaires dans les cercles technologiques de la Silicon Valley, mais cette fonctionnalité exposera probablement des milliards de personnes, qui n'ont jamais utilisé de chatbot auparavant, au texte généré par l'IA. Même si les aperçus de l’IA sont conçus pour vous faire gagner du temps, ils peuvent conduire à des résultats moins fiables.
