ChatGPT vous rendrait bête, fainéant et amnésique, selon une étude
Une étude du MIT Media Lab pointe que ChatGPT entraine une baisse significative de l'activité cérébrale chez les utilisateurs. Et cela va jusqu'à modifier l'architecture cognitive pour un excercice donné. La mémoire est également impactée de plein fouet par l'utilisation des LLM, les modèles de langage.
L’inutile n’a pas sa place dans le corps humain. Et si cela est vrai pour les muscles, comme en témoignent les astronautes à bord de l’ISS obligés de faire du sport quotidiennement, la règle s'applique-t-elle aussi… au cerveau ? La question est de mise avec une étude du MIT Media Lab. Selon cette dernière, l'utilisation de ChatGPT provoque une baisse significative de l'activité neuronale chez les utilisateurs.
Un cerveau moins actif...
Pour parvenir à une telle affirmation, Nataliya Kosmyna et ses co-auteurs ont recruté 54 volontaires (entre 18 et 39 ans) de la région de Boston répartis en trois groupes. Ils doivent rédiger un essai fictif pour le SAT, le Scholastic Assessment Test, un examen très souvent requis pour entrer en première année d'études universitaires aux États-Unis. Le premier groupe doit rédiger son essai à la seule force du cerveau humain, le second s'aide d'un moteur de recherche, et le dernier d'un LLM, un modèle de langage, en l'occurence ChatGPT. Chaque volontaire est équipé d'un électroencéphalogramme (EEG) pour mesurer et enregistrer l'activité électrique du cerveau.
Au terme d'une expérience de plusieurs mois, les résultats sont sans appel. "Nous démontrons l’urgence de la situation : une baisse significative des capacités d’apprentissage a été constatée. Sur quatre mois, le groupe ayant utilisé l’IA a obtenu de moins bons résultats que les autres à tous les niveaux : activité neuronale, qualité linguistique, notation", affirme Nataliya Kosmyna.
Sans surprise, le groupe "Brain only", sans aucune aide, a l'activité cérébrale la plus élevée, le groupe aidée d'un moteur de recherche voit une chute située entre 34% et 48%, et le groupe LLM frôle les 55% de baisse d'activité cérébrale pour réaliser le même exercice. Mais ce n'est pas tout : l'utilisation d'un LLM a également un effet sur l'architecture cognitive.
Comme le montre le visuel ci-dessus, le groupe sans aide (à droite) a mobilisé un vaste réseau neuronal lors de la rédaction de l'essai. Avec le groupe "moteur de recherche" (au centre) on voit nettement une baisse de l'ampleur de ce réseau. Baisse qui est encore plus importante pour le groupe LLM (à gauche). Mais le type d'activité cérébrale est également différent.
... et plus fainéant
Le groupe sans aide montre une activité forte "dans les régions du cerveau impliquées dans l’intégration sémantique, l’idéation créative et l’autocontrôle exécutif". Le groupe moteur de recherche a une activité accrue dans le cortex occipital, qui traite les informations visuelles, mais témoigne également d'une activité de tri des informations. Quant au groupe ChatGPT, l'étude ne démontre pas de "niveaux comparables d’activation corticale visuelle". Concrètement, il ne cherche pas à trier l'information, mais simplement à optimiser l'intégration des suggestions de l'IA dans l'essai, affirme l'étude.
Mais le pire est peut-être ailleurs, car la baisse d'activité cérébrale et la paresse cognitive qu'elle entraîne n'est pas sans conséquence. Une large majorité du groupe IA a par exemple eu du mal à citer leur essai, sans compter qu'ils ont peiné à réécrire leur texte sans IA. L'étude note d'ailleurs que dans ce cas, l'activité cérébrale des volontaires reste basse. Pour les chercheurs, cela "reflète probablement un contournement des processus d’encodage profond de la mémoire, les participants lisant, sélectionnant et transcrivant les suggestions générées par l’outil sans les intégrer dans les réseaux de mémoire épisodique".
A contrario, Nataliya Kosmyna note que l'activité cérébrale du groupe "Brain only" a grimpé en flèche quand ils ont pu utiliser l'IA pour rédiger de nouveau leur essai.
De nombreuses questions encore sans réponse
Dans sa conclusion, l'étude pointe que "le LLM a indéniablement réduit les obstacles auxquels étaient confrontés les participants pour obtenir des réponses à leurs questions, comparé aux moteurs de recherche. Cependant, cette commodité a un coût cognitif : elle réduit l’inclination des utilisateurs à évaluer de manière critique les réponses ou "opinions" du LLM (des réponses probabilistes basées sur les ensembles de données d'entraînement)."
Et d'ajouter : "Bien que ces outils offrent des opportunités sans précédent pour améliorer l'apprentissage et l'accès à l'information, leur impact potentiel sur le développement cognitif, la pensée critique et l’indépendance intellectuelle exige une attention très soigneuse et des recherches continues."
Alors que l'IA a tendance à se répandre dans de plus en plus de secteurs, même les jouets des enfants, cette étude soulève de nombreuses questions sur son impact, notamment en ce qui concerne l'éducation. Si l'IA est indéniablement un formidable outil, elle ne doit pas se substituer à la réflexion humaine. Le travail de Nataliya Kosmyna et de son équipe se conclut d'ailleurs sur ce point : "Nous pensons que des études longitudinales sont nécessaires afin de comprendre l’impact à long terme des LLM sur le cerveau humain, avant que les LLM soient considérés comme un apport globalement positif pour l’humanité."
