Une nouvelle étude montre que l'utilisation du ChatGPT peut entraîner "une diminution probable" des capacités d'apprentissage et l'intériorisation de "perspectives superficielles ou biaisées".
PUBLICITÉ
Une nouvelle étude menée par le Massachusetts Institute of Technology (MIT), aux États-Unis, suggère que l’utilisation de ChatGPT d’OpenAI pourrait entraîner un déclin des fonctions cognitives.
Les chercheurs du MIT Media Lab ont réparti les participants en trois groupes. Chacun devait rédiger un essai en utilisant soit uniquement ChatGPT, soit un moteur de recherche, soit aucun outil.
Pendant la rédaction, l’activité cérébrale des participants a été mesurée à l’aide d’un électroencéphalogramme (EEG). Les essais produits ont ensuite été évalués à la fois par des humains et par des outils d’intelligence artificielle.
Les résultats montrent que le groupe ayant utilisé uniquement ChatGPT présentait l’activation neuronale la plus faible dans certaines zones du cerveau, et rencontrait des difficultés à se souvenir ou à reconnaître ses propres écrits. En revanche, le groupe n’ayant utilisé aucune technologie a montré un engagement cognitif plus élevé ainsi qu’une meilleure rétention mnésique.
Les chercheurs ont ensuite organisé une deuxième session au cours de laquelle le groupe ChatGPT a été invité à effectuer la tâche sans assistance. Lors de cette session, les personnes ayant utilisé le ChatGPT dans le premier groupe ont obtenu de moins bons résultats que leurs pairs en rédigeant des textes "biaisés et superficiels".
Une "diminution probable" des capacités d'apprentissage
L'étude a montré que l'utilisation répétée de la méthode GPT peut s'accompagner d'une "dette cognitive" qui réduit les performances d'apprentissage à long terme dans le domaine de la pensée indépendante.
À long terme, les personnes souffrant d'une dette cognitive pourraient être plus susceptibles de "réduire leur sens critique, leur vulnérabilité à la manipulation et leur créativité", ainsi qu'une "diminution probable" de leurs capacités d'apprentissage.
"Lorsque les participants reproduisent des suggestions sans en évaluer l'exactitude ou la pertinence, ils perdent non seulement la propriété des idées, mais risquent également d'internaliser des perspectives superficielles ou biaisées", poursuit l'étude.
Les chercheurs ont ensuite organisé une seconde session, durant laquelle le groupe ayant initialement utilisé ChatGPT devait accomplir la même tâche sans aucune assistance. Résultat : leurs performances étaient inférieures à celles des autres participants, produisant des textes jugés "biaisés et superficiels".
Une "diminution probable" des capacités d'apprentissage
L’étude met en lumière une "dette cognitive" liée à l’usage répété de ChatGPT, susceptible d’entraver, sur le long terme, les capacités d’apprentissage autonome et la pensée critique.
Les chercheurs soulignent que cette dette cognitive pourrait conduire à une baisse du sens critique, une plus grande vulnérabilité à la manipulation, une réduction de la créativité, ainsi qu’à une "diminution probable" des capacités d’apprentissage.
« Lorsque les participants reproduisent des suggestions sans en évaluer l'exactitude ou la pertinence, ils perdent non seulement la propriété intellectuelle de leurs idées, mais risquent aussi d’internaliser des perspectives superficielles ou biaisées », précise l’étude.
Par ailleurs, les résultats montrent que les participants ayant rédigé leurs essais sans aucun outil affichaient des niveaux de satisfaction plus élevés et une meilleure connectivité cérébrale. Ils se sentaient également plus impliqués dans leur rédaction.
À l’inverse, ceux ayant utilisé des technologies d’assistance se disaient moins connectés à leur production écrite et étaient souvent incapables de citer un passage précis de leur texte lorsqu’on le leur demandait.
Les auteurs de l’étude appellent ainsi à mener d’autres recherches sur les effets des outils d’intelligence artificielle sur le cerveau humain, estimant qu’il est encore prématuré de considérer les grands modèles de langage (LLM) comme bénéfiques pour les capacités cognitives humaines.