Glossaire des risques cognitifs de l'IA générative

Ensemble des compétences et connaissances permettant d'utiliser l'IA de façon éclairée, d'en comprendre les capacités, les limites et les risques. Depuis le 2 février 2025, l'article 4 de l'AI Act impose aux fournisseurs et aux déployeurs de systèmes d'IA de prendre des mesures pour en assurer un niveau suffisant chez leur personnel.

Tendance à faire confiance aux recommandations d'un système automatisé au-delà de ce que justifie sa fiabilité, au point de ne plus vérifier ou d'ignorer des informations contraires. Notion synthétisée par Parasuraman et Manzey (2010).

Baisse de vigilance face à un système automatisé jugé fiable. Elle précède souvent le biais d'automatisation (Parasuraman et Manzey, 2010).

Paradoxe décrit par Lisanne Bainbridge en 1983 : plus on automatise, plus les tâches laissées à l'humain sont difficiles, alors même que ses compétences s'érodent faute de pratique.

Déficit de compréhension et de mémorisation qui s'accumule quand on délègue à l'IA l'effort de réflexion. Mesurée par l'équipe de Nataliya Kosmyna au MIT Media Lab (2025) et théorisée en génie logiciel par Margaret-Anne Storey (Université de Victoria).

Chez Margaret-Anne Storey, perte de la trace des objectifs et des raisons d'une décision lorsque le travail est produit par l'IA. La méthode SONDE© vise précisément à expliciter l'intention.

Écart entre ce qu'une personne produit avec l'IA et ce qu'elle comprend réellement. Elle rend incapable de corriger un travail dont on ne maîtrise pas la structure.

Perte de compétences acquises à force de les déléguer à un système automatisé. Observée chez des endoscopistes après exposition à l'IA (The Lancet Gastroenterology & Hepatology, 2025) et analysée dans la conception assistée par Shukla et al. (CHI 2025).

Fait de confier à un outil externe une partie de l'effort mental : mémoriser, calculer, raisonner. Utile à petite dose, il devient un risque quand il remplace l'apprentissage ; Chirayath et al. (Frontiers in Psychology, 2025) en étudient l'effet sur la capacité à faire face aux difficultés.

Tendance à déléguer à l'IA la régulation de son propre apprentissage : planifier, contrôler, évaluer. Décrite par Yizhou Fan et ses collègues dans le British Journal of Educational Technology.

Capacité à penser sa propre pensée : observer comment on apprend et raisonne pendant qu'on travaille, y compris avec l'IA. Mustapha Benkalfate en fait une compétence de carrière.

Effort volontairement conservé dans une tâche pour entretenir une compétence. Les méthodes Revenu IA sont conçues pour garder une friction minimale mais réelle.

Contenu généré par IA qui a l'apparence d'un travail fini mais manque de substance, et reporte l'effort de correction sur la personne qui le reçoit. Terme popularisé par la Harvard Business Review en 2025.

Coût mental du passage de la production à l'évaluation de contenus générés par l'IA. Simkute, Tankelevitch, Sellen et al. (Microsoft Research, 2024) montrent qu'il peut annuler les gains de productivité attendus.

Usage par les salariés d'outils d'IA non autorisés par l'organisation. Selon le Work Trend Index 2024 de Microsoft et LinkedIn, 78 % des utilisateurs de l'IA au travail apportent leurs propres outils.