MIT媒体实验室 (2025):“认知负债”
研究方案。 Nataliya Kosmyna及其同事对54名参与者进行了为期四个月的跟踪研究。参与者被分为三组撰写文章:使用ChatGPT、使用搜索引擎或不使用任何工具。通过脑电图测量他们的大脑活动。在第四次实验中,部分参与者更换了实验条件。
研究结果。 不使用工具的组别展现出最强、最广泛的大脑网络,而ChatGPT组别最弱。ChatGPT用户难以引用自己写过的内容,并且作者归属感最弱。从使用ChatGPT转为独立写作的参与者表现出较低的投入度;而先独立写作再使用ChatGPT的参与者则表现出更好的记忆力。
局限性。 这是一项基于小样本的预印本研究,并收到了一些批评性评论。Mustapha Benkalfate引用它是因为其他研究也得出了相似的结论,并且其实践启示是可靠的:先独立开始,再用人工智能进行改进,而不是反过来。
《柳叶刀肠胃病学与肝病学》(2025):医生的技能退化
一项多中心观察性研究比较了引入人工智能辅助检测工具前后,在无人工智能辅助情况下进行的结肠镜检查。内镜医师在无辅助情况下的腺瘤检出率从28.4%下降到22.4%。这就是Mustapha Benkalfate所说的“技能生疏”:一项已掌握的技能因授权委托而退化。
微软研究院与卡内基梅隆大学 (CHI 2025):信任与批判性思维的对立
一项针对319名知识工作者、涉及936个真实使用案例的调查显示,对人工智能的信任度越高,人们自我报告的批判性思维投入就越少;相反,对自身能力的自信则伴随着更强的批判性思维。工作重心从执行转向监督。这就是Mustapha Benkalfate所描述的“最糟糕组合”:信任度上升的同时,技能却在退化。
《英国教育技术杂志》:元认知懒惰
Yizhou Fan及其同事比较了包括ChatGPT在内的多种学习辅助形式。人工智能提升了即时任务的表现,但在知识获取或知识迁移方面没有同等增益。作者称之为“元认知懒惰”:人们将自我学习的调节过程委托给了外部工具。这正是Mustapha Benkalfate强调元认知重要性的原因。
自动化的悖论:从1983年到生成式人工智能
1983年,Lisanne Bainbridge在Automatica期刊中指出,自动化将最困难的任务留给了人类,同时又削弱了他们完成这些任务所需的技能。2024年,来自微软研究院和伦敦大学学院的Auste Simkute、Lev Tankelevitch、Abigail Sellen及其同事将此框架应用于生成式人工智能:工作从生产转向评估,工作流程被重组,干扰增多,简单的任务变得更容易,而困难的任务变得更困难。
Mustapha Benkalfate为组织总结的要点
- 危险不在于工具,而在于替代。 使用人工智能改进自己的工作能带来进步;用它来替代工作则会导致退步。
- 技能退化难以逆转。 一旦失去某项技能,需要刻意努力才能重新掌握。
- 需要建立“认知健身房”。 继汽车和工业化食品之后,我们发明了健身房;在社交网络和对人工智能的懒惰使用之后,我们需要在高价值任务上有意地制造一些“摩擦”。
- 人力风险必须纳入治理体系。 由于难以量化,领导者往往为了可衡量的收益而忽视这些风险。他建议按不同岗位绘制风险图谱,并进行长期跟踪。
从认知负债到自动化偏见,每个概念的定义都收录在我们的人工智能认知风险词汇表中。
