ChatGPT nous rend-il stupides ? L’IA générative est-elle mauvaise pour notre cerveau ? Ces questions alarmistes ne sont que quelques-uns des titres d’articles qui ont rapporté les résultats d’une étude du MIT (le prestigieux Massachusetts Institute of Technology) sur les conséquences de la génération IA sur les capacités cognitives humaines.
L’étude a relancé un débat qui a toujours accompagné l’humanité chaque fois qu’elle a été confrontée à des innovations technologiques : de l’écriture à Internet – le livre Internet nous rend-il stupide ? de l’écrivain Nicholas Carr remonte à 2011 – jusqu’à l’intelligence artificielle. La question est toujours la même : est-ce que déléguer certaines tâches mentales à la technologie affaiblit notre cerveau ?
Le titre de l’étude du MIT, Votre cerveau sur ChatGPT : Accumulation de dette cognitive lors de l’utilisation d’un assistant IA pour la tâche de rédaction d’essais, semble suggérer que oui.
Mais les résultats de l’étude ne sont en réalité ni inattendus ni aussi apocalyptiques que de nombreux médias l’ont dépeint. Dans cet article, nous résumons les preuves de l’étude du MIT et proposons une interprétation moins claire, rapportant également ce que l’expert en IA Ethan Mollick dit sur le sujet.
Qu’est-ce que le déchargement cognitif
La technologie est (ou devrait être) conçue pour résoudre des problèmes et faciliter la vie des humains. Cependant, l’externalisation de certaines de nos capacités peut nécessairement entraîner une perte. C’est le processus que certains chercheurs appellent le délestage cognitif : c’est-à-dire déléguer certaines tâches à des systèmes externes pour réduire la charge cognitive de notre cerveau.
Dans certains cas, la perte peut être limitée et, dans l’ensemble, acceptable. Se fier à la calculatrice nous fait oublier comment faire certains calculs dans notre tête. Mais de nos jours, avec des calculatrices désormais intégrées dans tous les smartphones, qui compterait sur son esprit pour faire des calculs compliqués ?
Dans d’autres cas, la prudence est de mise. Suivre un itinéraire sur des navigateurs par satellite nous fait perdre l’habitude de mémoriser des points de repère et, à long terme, peut affecter notre sens de l’orientation. Peu de gens reviendraient aux cartes routières en papier (fascinantes, mais peu pratiques), au lieu de se fier aux navigateurs par satellite intégrés à nos voitures. Mais il ne faut pas non plus faire aveuglément confiance aux navigateurs, en arrêtant de penser et en regardant autour de soi, comme le savent bien ceux qui, comme le rapportent plusieurs médias, se retrouvent avec leur voiture dans des escaliers ou dans des rues étroites trop étroites.
Le délestage cognitif n’est donc pas forcément mauvais, car il nous permet de nous concentrer sur des tâches plus complexes. Cependant, il est problématique lorsqu’il devient automatique et passif, réduisant les possibilités de faire de l’exercice et de développer nos capacités cognitives sur des tâches qui nécessitent un effort de notre esprit pour être menées efficacement.
L’IA porte le délestage cognitif à une échelle encore plus grande. Avec la génération IA, nous pouvons externaliser non seulement des tâches spécifiques, mais aussi notre réflexion. Il devient donc essentiel de se concentrer sur la manière dont nous utilisons ces technologies et dans quel but.
Ce que dit l’étude du MIT
C’est précisément sur cette dynamique que se concentre l’étude du MIT Media Lab. La recherche, menée par des chercheurs de différentes institutions, a impliqué 54 participants répartis en trois groupes. Le premier utilisait ChatGPT, le second un moteur de recherche, le troisième fonctionnait sans outils externes. Les participants ont effectué trois séances de rédaction d’essais dans les mêmes conditions assignées. Lors d’une quatrième session, les utilisateurs de ChatGPT sont passés à l’écriture sans outils, tandis que ceux qui avaient travaillé sans aide ont commencé à utiliser l’IA.
Les principaux résultats ont été mesurés par électroencéphalogramme (EEG) pour évaluer la charge cognitive pendant l’écriture, et par l’analyse d’essais avec des techniques de traitement du langage naturel, ainsi que par des évaluations par des enseignants et un juge IA.
Les résultats les plus significatifs concernent la connectivité cérébrale. Les participants qui ont travaillé sans outils externes ont montré les réseaux neuronaux les plus puissants et les plus distribués. Ceux qui ont utilisé les moteurs de recherche ont eu un engagement modéré. Les utilisateurs de ChatGPT, en revanche, ont montré la connectivité cérébrale la plus faible. L’activité cognitive a diminué proportionnellement à l’utilisation d’outils externes.
Au cours de la quatrième session, ceux qui sont passés de ChatGPT au travail sans outils ont montré une connectivité réduite dans les ondes alpha et bêta, indiquant un sous-engagement cognitif. En revanche, ceux qui sont passés de l’absence d’outil à ChatGPT ont montré une plus grande activation des zones de mémoire et des régions occipito-pariétales et préfrontales, à l’instar des utilisateurs des moteurs de recherche.
Une constatation particulièrement intéressante concerne le sentiment de « propriété » des essais : il était le plus bas dans le groupe ChatGPT et le plus élevé dans le groupe sans outils. Les utilisateurs de ChatGPT ont également eu du mal à citer avec précision leur travail, ce qui suggère moins d’engagement avec le contenu produit.
L’étude met en évidence un phénomène appelé « accumulation de dette cognitive » : sur une période de quatre mois, les utilisateurs de ChatGPT ont constamment sous-performé sur le plan neuronal, linguistique et comportemental. Bien que les LLM offrent une commodité immédiate, les résultats soulèvent des inquiétudes quant aux coûts cognitifs potentiels, en particulier en ce qui concerne les implications éducatives à long terme de la dépendance à ces outils.
Comment interpréter l’étude du MIT : l’avis d’Ethan Mollick
Ethan Mollick enseigne à la Wharton School de l’Université de Pennsylvanie et est considéré comme l’un des experts les plus influents en matière d’intégration de l’IA dans le travail et l’éducation. Dans un article publié sur son blog, One useful thing propose une lecture plus nuancée et pragmatique de l’étude du MIT.
Selon Mollick, le discours sensationnaliste selon lequel « l’IA endommage le cerveau » est trompeur. L’étude du MIT montre simplement que les étudiants qui ont utilisé ChatGPT étaient moins engagés et se souvenaient moins de leurs essais que ceux qui n’ont pas utilisé l’IA. Il n’y a pas de « lésions cérébrales » littérales, mais plutôt un modèle comportemental prévisible : lorsque nous déléguons des tâches cognitives à la technologie, comme nous l’avons déjà souligné, nous réduisons notre implication dans ces processus.
La vraie question, selon Mollick, n’est donc pas de savoir si l’IA influence notre façon de penser, mais comment nous pouvons l’utiliser pour aider plutôt que nuire à nos capacités cognitives.
Utiliser l’IA comme tuteur, pas comme un raccourci
Dans le contexte de l’apprentissage, l’utilisation de l’IA sans les bonnes stratégies peut être particulièrement néfaste. Lorsque nous voulons apprendre quelque chose de nouveau, en fait, la seule façon d’obtenir des résultats significatifs est de faire un « effort cognitif » et l’utilisation de l’IA comme raccourci peut affecter négativement l’efficacité de l’apprentissage.
Une étude menée par les collègues de Mollick à l’Université de Pennsylvanie dans un lycée turc a montré que les étudiants qui utilisaient ChatGPT sans supervision ni invites spécifiques finissaient par prendre des raccourcis et obtenir des réponses directes. Résultat : bien qu’ils pensaient avoir beaucoup appris, ils ont obtenu un score inférieur de 17 % à l’examen final par rapport aux étudiants qui n’avaient pas utilisé ChatGPT.
Le problème est particulièrement insidieux parce que des dommages se produisent même lorsque les élèves ont de bonnes intentions. L’IA est entraînée à être utile et à répondre aux questions, mais elle fournit souvent la réponse directement au lieu de conduire à la compréhension. Comme l’a montré l’étude du MIT, cela court-circuite l’effort mental créé par l’apprentissage.
Mais cela ne signifie pas que l’IA nuit toujours à l’apprentissage. Des études récentes montrent que, lorsqu’elle est utilisée avec les conseils des enseignants et des incitations basées sur des principes pédagogiques solides, l’IA peut améliorer considérablement les résultats d’apprentissage.
Mollick cite un essai contrôlé randomisé de la Banque mondiale. Les résultats sont encore préliminaires, mais révèlent que l’utilisation d’un tuteur GPT-4 avec des conseils d’enseignant dans un programme parascolaire de six semaines au Nigeria a eu « plus du double de l’effet de certaines des interventions les plus efficaces en matière d’éducation » à très faible coût.
La clé, selon Mollick, est de passer de demander à l’IA de vous aider à faire vos devoirs à lui demander de vous aider à apprendre en tant que tuteur. Cela nécessite l’utilisation d’invites spécialisées qui transforment l’IA d’un « fournisseur de réponses » en un « facilitateur d’apprentissage ».
L’impact de l’IA sur la créativité et l’écriture
Dans son article Against brain damage, Mollick analyse également les implications de l’utilisation de l’IA générative sur la créativité et l’écriture. Les conclusions auxquelles il arrive sont similaires : en ce qui concerne l’apprentissage, l’IA peut aussi être utile mais aussi délétère pour la créativité et l’écriture, selon la façon dont vous l’utilisez.
En matière de créativité, M. Mollick identifie un paradoxe : si l’IA est plus créative que celle de nombreux individus, elle n’a pas la diversité qui provient de multiples perspectives. De plus, le risque de ceux qui s’appuient sur l’IA pour générer des idées est de se heurter à l’effet d’ancrage – c’est-à-dire de rester ancré aux solutions proposées par la machine – et de ne pas les ressentir comme les siennes.
Même pour l’écriture, s’appuyer entièrement et principalement sur l’IA pour écrire un texte est un raccourci qui saute complètement tous les processus cognitifs – traitement et affinage des idées – liés à l’acte d’écrire.
La solution proposée par Mollick, dans les deux cas, est de toujours générer ses propres idées et écrire ses propres textes avant de se tourner vers l’IA pour les affiner, les éditer et les améliorer.
La conclusion de Mollick est claire : l’IA ne nuit pas à notre cerveau, mais son utilisation passive peut nuire à notre pensée. C’est une question d’habitudes mentales et de paresse, et c’est cette dernière qu’il faut vraiment craindre.
Réflexions finales
La question de savoir si l’IA rendra les humains plus stupides est une question déplacée. La question n’est pas de savoir si l’intelligence artificielle nuit à nos capacités cognitives, mais comment nous pouvons développer une relation consciente et productive avec ces outils.
C’est avant tout une question d’approche : se rappeler que l’être humain reste le sujet de l’initiative – comme le souligne Cristina Favini, cofondatrice, directrice générale et directrice du design de l’entreprise indépendante de design logotel – est un premier pas fondamental pour que l’IA soit perçue comme une collègue qui amplifie le potentiel humain et ne le remplace pas.
L’étude du MIT ne nous dit pas que l’IA est mauvaise pour le cerveau, mais elle nous rappelle quelque chose de fondamental : la pensée nécessite un effort, et cet effort est précieux. Lorsque nous utilisons l’IA comme raccourci pour éviter complètement cet effort, nous manquons des opportunités de croissance cognitive. Mais lorsque nous l’utilisons pour amplifier nos capacités, tout en gardant un contrôle critique sur les processus, nous pouvons obtenir des résultats extraordinaires.
Ce n’est pas l’IA qui nous fait du mal : c’est nous qui choisissons, chaque jour, de l’utiliser comme un raccourci ou comme un levier pour amplifier nos capacités.
