Une enquête du Guardian a révélé que les résumés générés par l'IA de Google fournissaient des informations de santé inexactes aux utilisateurs.
Google aurait retiré certains AI Overviews pour des questions liées à la santé, à la suite d’une enquête ayant révélé que certaines informations étaient trompeuses.
Les AI Overviews sont des synthèses générées par l’intelligence artificielle qui apportent des informations en réponse à un sujet ou à une question, en tête des résultats de recherche.
Une enquête du quotidien The Guardian a révélé que certaines de ces synthèses contenaient des informations de santé inexactes, mettant les personnes en danger.
Le journal a constaté que les AI Overviews livraient quantité de chiffres avec peu de contexte en réponse à des questions telles que « quelles sont les valeurs normales pour les analyses sanguines du foie ? » et « quelles sont les valeurs normales des tests de fonction hépatique ? ». Les réponses ne prenaient pas non plus en compte les variations possibles selon la nationalité, le sexe, l’origine ethnique ou l’âge.
Pour ces deux questions, le résultat de recherche Google affichait un extrait optimisé, un paragraphe tiré du site le plus pertinent par rapport à la requête de l’utilisateur, en haut des résultats de recherche.
Pour ces deux questions, Google a choisi d’extraire, dans cet extrait, les plages de valeurs considérées comme saines pour différents types de substances présentes dans le foie, comme l’alanine aminotransférase (ALT), qui régule la production d’énergie, l’aspartate aminotransférase (AST), qui détecte des cellules sanguines endommagées, et la phosphatase alcaline (ALP), qui aide à décomposer les protéines.
Selon The Guardian, Google a tiré ces chiffres de Max Healthcare, une chaîne indienne d’hôpitaux à but lucratif basée à New Delhi.
Les extraits optimisés se distinguent des AI Overviews, car le texte de l’extrait n’est pas généré par une IA.
L’enquête de The Guardian a montré que des variantes de ces questions, comme « [liver function test] lft reference range » ou « lft test reference range », généraient toujours des synthèses IA. Les tests de fonction hépatique sont des analyses sanguines qui mesurent des protéines et des enzymes afin d’évaluer le bon fonctionnement du foie.
Google aurait conseillé aux personnes atteintes d’un cancer du pancréas d’éviter les aliments riches en graisses, ce que des experts ont déclaré au Guardian ne pas être une bonne recommandation, car cela pourrait augmenter le risque de décès des patients.
L’enquête de The Guardian intervient alors que des experts tirent la sonnette d’alarme sur la manière dont les chatbots d’IA « hallucinent », c’est-à-dire qu’ils inventent de fausses réponses lorsqu’ils ne disposent pas des bonnes informations.
Euronews Next a contacté Google pour savoir si des AI Overviews avaient été retirés de certaines requêtes liées à la santé, mais n’a pas reçu de réponse immédiate.
Google a annoncé ce week-end l’ajout des AI Overviews à son service de messagerie Gmail.
Cette nouvelle fonctionnalité permet aux utilisateurs de poser des questions et d’obtenir une réponse à propos de leurs e-mails, plutôt que d’y chercher via des mots-clés.