Les agents conversationnels d'IA prennent des décisions plus rapides et plus assurées, mais moins nuancées que les médecins humains pour attribuer un rein vital.
Accepteriez-vous une greffe si c'était l'IA qui décidait ? Une nouvelle étude met en lumière les différences de prise de décision et de priorisation entre les modèles de langage d'intelligence artificielle et les médecins.
PUBLICITÉ
PUBLICITÉ
Selon cette étude, les modèles d'IA font preuve d'un excès de confiance, hiérarchisent différemment les critères et simplifient à l'excès des décisions complexes lorsqu'il s'agit de déterminer quel patient doit recevoir une greffe.
Pour mener leurs travaux, des chercheurs de l'université Penn State, aux États-Unis, ont soumis à des modèles de langage à grande échelle (LLM) des scénarios hypothétiques, construits à partir de jeux de données issus d'études publiées sur l'attribution de reins, dans lesquelles de véritables participants avaient déjà effectué ces choix.
Chaque scénario mettait en scène deux patients, le patient A et le patient B, tous deux éligibles pour un seul rein disponible et décrits par leur âge, leur état de santé et leurs habitudes de consommation d'alcool. Un décideur devait ensuite choisir lequel des deux recevrait l'organe.
"Nous avons réalisé ces comparaisons de plusieurs façons", explique Hosseini. "Parfois, nous isolions un seul trait à la fois, parfois nous en combinions plusieurs pour voir comment l'IA pondérait des facteurs concurrents, et parfois nous ajoutions une option 'pile ou face' afin de mesurer l'indécision, un élément clé du jugement moral humain".
Les répondants humains accordaient davantage d'importance à l'âge — en privilégiant les patients plus jeunes par rapport aux plus âgés —, tandis que de nombreux modèles favorisaient plutôt une moindre consommation d'alcool. Les décisions humaines prenaient en compte plusieurs facteurs et étaient plus sensibles au contexte que celles des LLM, qui se concentraient souvent sur un seul attribut.
"Tout d'abord, les chatbots d'IA s'écartent souvent des valeurs humaines dans la manière dont ils évaluent les caractéristiques d'un patient", explique Hadi Hosseini, qui a dirigé l'étude à l'université Penn State. "Ils se fixent sur un seul facteur, comme les habitudes de consommation d'alcool, plutôt que de mettre en balance plusieurs considérations comme le font les humains".
Les chercheurs ont également constaté que l'IA ne semblait pas souffrir d'indécision. Alors que les humains reconnaissent qu'il n'existe pas une seule réponse objectivement correcte et que les décisions peuvent reposer sur des jugements moraux nuancés, les systèmes s'engageaient sur une option unique avec peu d'hésitation.
"Quand nous répartissons une ressource rare, qu'il s'agisse d'un rein, d'un emploi ou de l'accès à un autre type de ressource, il n'y a pas toujours une seule réponse objectivement correcte", explique John Dickerson, directeur général de Mozilla.ai, qui a participé à l'étude.
"Les humains reconnaissent cette ambiguïté et l'intègrent dans le processus d'allocation au terme d'un débat ouvert. Les modèles d'IA, souvent, ne le font pas".
IA et décisions éthiques
Les auteurs soulignent que les interactions récentes avec des systèmes d'IA leur demandent de plus en plus d'aller au-delà des faits pour formuler des jugements de valeur.
Les modèles de langage à grande échelle (LLM) sont de plus en plus intégrés dans le secteur de la santé, où ils soutiennent les parcours de soins, le diagnostic, la planification des traitements et l'utilisation en temps utile de ressources médicales rares.
L'une de leurs applications concerne les décisions d'attribution de reins provenant de donneurs décédés ou vivants aux patients, qui reposent, selon les auteurs, sur des considérations éthiques et morales complexes.
Dans de tels scénarios à forts enjeux, les chercheurs soulignent que les décisions exigent non seulement de la précision, mais aussi un alignement sur les valeurs humaines et le jugement moral.
Pour les chercheurs, la question de savoir si l'IA peut prendre des décisions morales, et si celles-ci sont alignées sur les valeurs humaines, est au cœur du vaste débat actuel sur l'intelligence artificielle.
"Les enjeux éthiques sont élevés, et le rôle de l'IA dans ce type de décisions qui changent une vie exige une réflexion approfondie", estime Hosseini. "Dans des contextes comme l'attribution d'organes, les décisions morales déterminent directement qui vivra et qui mourra, donc bien définir le rôle de l'IA n'est pas facultatif".
"Nous n'entendons pas encourager l'utilisation de l'IA comme substitut au jugement professionnel dans les décisions médicales ou dans d'autres contextes à forts enjeux, mais il devient essentiel de comprendre leur comportement, à mesure que les particuliers, les organisations et les entreprises s'appuient de plus en plus sur l'IA pour prendre des décisions ou recevoir des recommandations", ajoute-t-il