生成式 AI 认知风险术语表

指明智地使用人工智能、理解其能力、局限和风险所需的一整套技能和知识。自2025年2月2日起，《AI法案》第4条要求人工智能系统的提供商和部署者采取措施，确保其员工具备足够的人工智能素养水平。

指过度信任自动化系统的建议，超出了其可靠性所能保证的程度，以至于不再核实或忽略相反的信息。此概念由 Parasuraman 和 Manzey (2010) 总结。

面对被认为可靠的自动化系统时警惕性下降。这通常发生在自动化偏见之前 (Parasuraman 和 Manzey, 2010)。

Lisanne Bainbridge 于1983年描述的悖论：自动化程度越高，留给人类的任务就越困难，而与此同时，人类的技能却因缺乏实践而退化。

指将思考工作委托给人工智能时累积的理解和记忆赤字。由麻省理工学院媒体实验室 (MIT Media Lab) 的 Nataliya Kosmyna 团队 (2025) 测量，并由维多利亚大学的 Margaret-Anne Storey 在软件工程领域进行理论化。

在 Margaret-Anne Storey 的理论中，指当工作由人工智能生成时，决策的目标和理由的追溯丢失。SONDE© 方法旨在明确阐述意图。

指个人使用人工智能产出的内容与其实际理解之间的差距。这使得人们无法纠正自己不掌握其结构的工作。

因将已掌握的技能委托给自动化系统而导致的技能丧失。在内窥镜医师接触人工智能后观察到此现象 (The Lancet Gastroenterology & Hepatology, 2025)，并由 Shukla 等人 (CHI 2025) 在辅助设计中进行了分析。

指将部分脑力劳动（如记忆、计算、推理）委托给外部工具。小剂量使用是有益的，但当它取代学习时，就成为一种风险；Chirayath 等人 (Frontiers in Psychology, 2025) 研究了它对人们应对困难能力的影响。

指将自我学习的调节（规划、控制、评估）委托给人工智能的倾向。由 Yizhou Fan 及其同事在《英国教育技术杂志》(British Journal of Educational Technology) 中描述。

思考自身思维的能力：观察自己在工作（包括使用人工智能时）中如何学习和推理。Mustapha Benkalfate 将其视为一种职业技能。

为维持一项技能而在一项任务中刻意保留的努力。Revenu IA 方法旨在保持最小但真实的摩擦。

由人工智能生成的内容，表面上看起来是完成品，但缺乏实质内容，并将纠正的精力转嫁给了接收者。该术语于2025年由《哈佛商业评论》(Harvard Business Review) 推广。

从生产转向评估人工智能生成内容所产生的脑力成本。Simkute、Tankelevitch、Sellen 等人 (Microsoft Research, 2024) 的研究表明，这种成本可能会抵消预期的生产力收益。

指员工使用未经组织授权的人工智能工具。根据微软和领英 (Microsoft and LinkedIn) 的《2024年工作趋势指数》(Work Trend Index 2024)，78% 的在职人工智能用户会自带工具。