洞察 · 研究

    认知负债与生成式 AI:研究的真实结论

    简要说明

    2025 年的三项研究揭示了 AI 与认知的关系:MIT 媒体实验室发现,借助 ChatGPT 写作者的大脑连接性更弱;《柳叶刀》报告,医生接触 AI 后,无 AI 辅助时的腺瘤检出率从 28.4% 降至 22.4%;微软研究院与卡内基梅隆大学发现,对 AI 越信任,投入的批判性思维越少。Revenu IA 的建议:先独立完成,再用 AI 改进。

    生成式人工智能对认知的影响是诺丁汉大学副研究员Mustapha Benkalfate的研究重点。他从中进行了一项文献综述并总结出一条规则:只采纳那些他在实践中能验证的研究结论。以下是他最常引用的研究、这些研究的真正发现及其局限性。

    MIT媒体实验室 (2025):“认知负债”

    研究方案。 Nataliya Kosmyna及其同事对54名参与者进行了为期四个月的跟踪研究。参与者被分为三组撰写文章:使用ChatGPT、使用搜索引擎或不使用任何工具。通过脑电图测量他们的大脑活动。在第四次实验中,部分参与者更换了实验条件。

    研究结果。 不使用工具的组别展现出最强、最广泛的大脑网络,而ChatGPT组别最弱。ChatGPT用户难以引用自己写过的内容,并且作者归属感最弱。从使用ChatGPT转为独立写作的参与者表现出较低的投入度;而先独立写作再使用ChatGPT的参与者则表现出更好的记忆力。

    局限性。 这是一项基于小样本的预印本研究,并收到了一些批评性评论。Mustapha Benkalfate引用它是因为其他研究也得出了相似的结论,并且其实践启示是可靠的:先独立开始,再用人工智能进行改进,而不是反过来。

    《柳叶刀肠胃病学与肝病学》(2025):医生的技能退化

    一项多中心观察性研究比较了引入人工智能辅助检测工具前后,在无人工智能辅助情况下进行的结肠镜检查。内镜医师在无辅助情况下的腺瘤检出率从28.4%下降到22.4%。这就是Mustapha Benkalfate所说的“技能生疏”:一项已掌握的技能因授权委托而退化。

    微软研究院与卡内基梅隆大学 (CHI 2025):信任与批判性思维的对立

    一项针对319名知识工作者、涉及936个真实使用案例的调查显示,对人工智能的信任度越高,人们自我报告的批判性思维投入就越少;相反,对自身能力的自信则伴随着更强的批判性思维。工作重心从执行转向监督。这就是Mustapha Benkalfate所描述的“最糟糕组合”:信任度上升的同时,技能却在退化。

    《英国教育技术杂志》:元认知懒惰

    Yizhou Fan及其同事比较了包括ChatGPT在内的多种学习辅助形式。人工智能提升了即时任务的表现,但在知识获取或知识迁移方面没有同等增益。作者称之为“元认知懒惰”:人们将自我学习的调节过程委托给了外部工具。这正是Mustapha Benkalfate强调元认知重要性的原因。

    自动化的悖论:从1983年到生成式人工智能

    1983年,Lisanne Bainbridge在Automatica期刊中指出,自动化将最困难的任务留给了人类,同时又削弱了他们完成这些任务所需的技能。2024年,来自微软研究院和伦敦大学学院的Auste Simkute、Lev Tankelevitch、Abigail Sellen及其同事将此框架应用于生成式人工智能:工作从生产转向评估,工作流程被重组,干扰增多,简单的任务变得更容易,而困难的任务变得更困难。

    Mustapha Benkalfate为组织总结的要点

    • 危险不在于工具,而在于替代。 使用人工智能改进自己的工作能带来进步;用它来替代工作则会导致退步。
    • 技能退化难以逆转。 一旦失去某项技能,需要刻意努力才能重新掌握。
    • 需要建立“认知健身房”。 继汽车和工业化食品之后,我们发明了健身房;在社交网络和对人工智能的懒惰使用之后,我们需要在高价值任务上有意地制造一些“摩擦”。
    • 人力风险必须纳入治理体系。 由于难以量化,领导者往往为了可衡量的收益而忽视这些风险。他建议按不同岗位绘制风险图谱,并进行长期跟踪。

    从认知负债到自动化偏见,每个概念的定义都收录在我们的人工智能认知风险词汇表中。

    常见问题

    ChatGPT会让人变笨吗?

    研究并未表明这一点。研究表明,使用人工智能来替代自己的努力会减少大脑的参与度和记忆力,而用它来改进首先由自己完成的工作则会产生相反的效果。

    什么是认知负债?

    指将思考的努力委托给人工智能时,所累积的理解和记忆上的赤字。该术语由MIT媒体实验室团队和软件工程研究员Margaret-Anne Storey使用。

    参考资料

    1. Kosmyna et al. (2025), Your Brain on ChatGPT, arXiv
    2. 对MIT媒体实验室研究的批判性评论 (arXiv, 2026)
    3. Budzyń et al. (2025), The Lancet Gastroenterology & Hepatology
    4. Lee et al. (2025), CHI, Microsoft Research
    5. Fan et al., Beware of metacognitive laziness, BJET
    6. Simkute et al., Ironies of Generative AI, IJHCI
    7. Bainbridge (1983), Ironies of Automation, Automatica

    讲座“依赖人工智能的认知风险”

    一场基于研究,面向管理委员会和人力资源团队的主题演讲。

    讲座“依赖人工智能的认知风险”