AI 时代的认知生存指南:五篇研究怎样提醒我们别把思考外包给大模型
posts posts 2026-04-26T12:03:00+08:00五篇关于 AI 与批判性思维的研究放在一起,方向一致:AI 最适合增强判断,不适合接管判断。思考与随笔LLM, 微软, 批判性思维“AI 会不会让人变笨”这个问法太宽。更精确的追问是:当大模型能写、能搜、能总结,人应该把它放在思考流程的哪个位置。
五篇研究,五种证据类型:EEG 写作实验、知识工作者调查、高等教育框架论文、LLM 辩论监督实验、认知强迫函数实验。把它们压缩成“论文证明 AI 会损害思考能力”不准确,但结论指向同一处:AI 适合增强判断,不适合接管判断。
问题在于,一旦让 AI 代替你定义问题、展开论证、给出最终判断,思考过程中的摩擦消失,能力增长也跟着消失。
证据概览
| 研究 | 出处 | 方法 | 核心发现 |
|---|---|---|---|
| Kosmyna et al. (2025) | arXiv 预印本 | EEG 写作实验(n=54) | 直接依赖 LLM 写作时,脑区连接减弱、文本归属感降低、回忆表现下降 |
| Lee et al. (2025) | CHI 2025 | 319 名知识工作者调查(936 个案例) | 批判性思维投入取决于对 AI 的信任校准,而非是否使用 AI |
| Vendrell & Johnston (2026) | Computers and Education: Artificial Intelligence | 概念与教学设计框架 | 认知摩擦可通过流程设计保留,而非情绪化地反对 AI |
| Khan et al. (2024) | ICML 2024 | QuALITY 长文阅读上的 LLM 辩论实验 | 辩论式呈现比单一路线更利于非专家选出正确答案 |
| Ghosh et al. (2026) | arXiv 预印本 | 认知强迫函数实验 | 结构化审查 AI 计划能降低过度依赖,且不显著加重认知负担 |
五篇不属于同一证据层级:三篇是实验(Kosmyna、Khan、Ghosh),一篇是调查(Lee),一篇是不报告效应量的框架论文(Vendrell & Johnston)。正因如此,把下面这些当一组方向一致、可靠度不同的信号来看,比当五项铁证更接近实情。
一、MIT 的 EEG 实验:认知债务会累积
MIT 媒体实验室的 Kosmyna 等人写的《Your Brain on ChatGPT》流传最广,因为它问得最直接:把写作直接外包给 LLM,人到底损失了什么。论文给这笔损失起了个名字——认知债务:文章还在交,但参与的脑力活动、对文本的记忆和所有权都在悄悄流失,并且随使用次数累积。
参与者在三种条件下完成写作:LLM、Search Engine、Brain-only。前 3 组共 54 人,其中 18 人继续进入第 4 个交叉条件,观察切换后的变化。EEG 数据显示,Brain-only 组脑区连接最强,Search Engine 居中,LLM 最弱;LLM 组对自己文章的归属感更低,对自己刚写的内容也更陌生——每轮写作结束后访谈里让参与者凭记忆引用自己的文章,第一轮 LLM 组 18 人里有 15 人(83.3%)连一句都引不出来,引出来的也没有一句逐字正确(0/18);两个对照组各只有 2 人做不到。到第三轮,LLM 组仍有 6 人引不出正确引文,而纯脑组从第二轮起就能全员引用。
第 4 组的结果更有价值。从 LLM 切回纯脑写作的人,仍表现出较弱的 alpha 和 beta 连接,切回来的 9 个人里有 7 个依旧引不出自己文章里的段落;反过来,从 Brain-only 切到 LLM 的人,枕顶叶和前额叶保持更强的激活,回忆成绩也更高,激活模式更接近 Search Engine 组而不是 LLM 组。也就是说,认知债务会累积,切换条件后不会立刻消失;而一直动脑的人接上 LLM,短期内容易不少。
结论指向一点:在议论文写作这类任务里,让 LLM 直接主导生成,降低了人的参与度、归属感和回忆质量。文本分析也补了一刀:用命名实体、n-gram 和主题本体比较各组文章,LLM 组的文章彼此高度相似——主题本体同质,与把题目直接丢给 ChatGPT 得到的默认答案距离不显著,还有大量整段照搬,个体差异被拉平。写作本来就是整合信息、组织论证、检查漏洞的高密度认知活动,把最核心的一段直接交给 LLM,这些环节全被跳过。
但别把这篇推得太远。它是特定任务、特定样本(n=54)、特定实验设置下的结果,预印本 2025 年 6 月首贴,12 月底更新到 v2,至今仍是预印本,作者自己也强调结论只能当初步证据看。当警报读,别当判决书。
二、信任校准比 AI 本身更关键
Lee 等人在 CHI 2025 的论文走的是另一条路。它离开实验室,调查了 319 名知识工作者,收集 936 个第一手案例,想弄清人在什么情况下仍会对 AI 输出保持批判,又为什么会放松警惕。
批判性思维的投入会被重新分配——往哪分,取决于对 AI 的信任程度。936 个案例里,批判性思维大多流向下游:验证事实、整合输出、盯着任务进度;上游收集、检索、汇编信息的投入则明显减少,那部分活被 AI 接管了。另一部分人在过度信任 AI 时,连下游检查也一并省掉。
两个变量影响这种分配:对生成式 AI 的信心,以及对自身完成该任务的信心。前者越高,批判性投入越低;后者越强,越可能继续主动判断、验证和整合。校准信任不是少信一点,而是让信心的增减跟着验证结果走:AI 答对了多信一分,出了错就收回来,判断框架始终留在自己手里。
这是自我报告调查,不是因果实验,证明不了“高信任必然导致批判下降”。但它挑明了一个现实:当人越来越把 AI 当成默认正确的起点,批判性思维更容易从主动行为退化成补救行为。
三、保留认知摩擦不是口号,是流程设计
2026 年发表在《Computers and Education: Artificial Intelligence》上的《Scaffolding Critical Thinking with Generative AI》,是一篇框架论文。它没有给出效应量,但把“该怎样设计 AI 使用流程”说得足够具体。
作者综合心理学、教育理论和 AI 伦理研究,提出六个构成批判性参与的核心过程:概念诠释、推理、评价性判断、元认知调节、智识好奇心、认识论诚信。基于这套过程,论文抽出八条设计原则,对普通用户来说三条最直接。
首先要主动保留认知摩擦,而不是把摩擦彻底抹平——把 LLM 当成临时协作伙伴,而不是权威答案源。其次,在流程里交替安排 AI 参与和纯人工阶段,让人至少有一段必须独立整合并复述自己的判断。第三,把“先自己写结论、先自己列假设、先自己复述再看 AI”这些动作固定下来,不交给自动生成。论文还点了一条容易被忽略的:评价工作要看推理质量,别被表面流畅度带走——AI 修饰过的文字往往更“顺”,顺不等于想得清楚。
光说“不要太依赖 AI”而没有流程设计,等于没说。这篇论文的贡献,是把“保留认知摩擦”拆成了具体可执行的操作。它是规范性框架而非随机对照实验,不能证明“保留摩擦结果一定更好”,但为前两篇研究提出的问题给出了可操作的修正方向。
四、辩论机制:让答案彼此碰撞
Khan 等人的《Debating with More Persuasive LLMs Leads to More Truthful Answers》常被简化成“让 AI 和你辩论,你会更接近真相”。方向没错,但写太满就会失真。
论文研究的是:当更强的模型掌握信息、而更弱的模型或人类并不直接知道正确答案时,能否靠辩论机制让判断者选出真的那一个。实验场景是 QuALITY 长文阅读理解:材料很长,判断者完全看不到原文,只能听两个 LLM 各自为不同答案辩护,然后裁决。比起只给单一答案的朴素基线,辩论帮非专家模型和人类更准确地选出正确答案:非专家模型准确率 76%、人类 88%,朴素基线则分别是 48% 和 60%。
标题里的 “More Persuasive” 不是修辞。研究者用无监督的方式继续优化专家辩手,辩手越来越会说服人,裁决准确率却不降反升——在这个设定里,说服力和事实性同向:越有说服力的论证,越可能站在真相一边。这也是辩论可以充当无标注对齐信号的依据。
这些数字放回场景里才好理解:判断者自己读不了原文,只能依赖辩论。当你也没把握时,相互冲突的论证比单一路线更有助于判断。让 AI 单纯给结论用处不大;让它生成反对意见、暴露替代解释、补出你没想到的反例,反而更有帮助。这和前几篇指向一致——人拿到对立论证后自己裁决,而不是照搬其中一方。
不过,这项研究处理的是有标准答案的阅读判断,不是日常知识工作里那种没有唯一解的决策。它为“让 AI 提供对立论证”提供了机制上的支持,但不等于“让 AI 反驳你一次批判性思维就一定提升”。
五、结构化反思:成本极低的干预
Ghosh 等人的 2026 年预印本《An Experimental Comparison of Cognitive Forcing Functions for Execution Plans in AI-Assisted Writing》,把问题推到了一个更实际的层面:过度依赖发生得比你预想得更早——你毫无审查地接受 AI 给出的执行计划时,依赖就已发生,等不到复制成文那一步。
他们用的工具叫认知强迫函数(cognitive forcing functions):插进交互流程里的结构化提示,逼人在指定节点停下来处理一个具体问题,不处理就进不了下一步。研究分两部分:一项 214 人参加的线上实验,参与者在审查 AI 生成计划时进入四种条件——Assumptions(列出并检验方案依赖的前提)、WhatIf(换一组关键约束重新推演方案)、Both(两者都做)和什么都不加的对照组;另有 12 人参加的出声思考访谈做定性补充。
其中,Assumptions 组的过度依赖降得最多,认知负担却没有明显增加。WhatIf 是另一番景象:主观评价上最受欢迎,有参与者说它“让我检验了 AI 的推理”,但行为数据上效果更弱,认知负担反而更高。主观感受和实际效果在这里分了家。
“审查”二字很容易自我高估。Ghosh 的定性研究里能看到这个落差:有参与者起初只是把 AI 草稿快速扫了一遍,不知道从哪查起,拿到假设检查的提示后才回到计划里某个具体步骤,指出 AI 默认了一项任务材料里没给的信息;对照组在看完计划和草稿后,通往下一次提交的唯一动作是点一个“Proceed”按钮。有效的审查离不开结构化的问题意识;缺了它,人很容易把 AI 给出的执行计划当成默认合理的起点。这篇论文目前是预印本,场景集中在 AI 辅助写作与计划审查,但它的贡献在于把“别盲信 AI”从一句道德提醒,变成了可插入工作流的具体动作。
收敛的方向
先把话说清楚:“AI 会让人变笨”这种笼统结论站不住。五篇研究没有一篇支持它。它们更精确地指向三件方向一致的事。其一,AI 一旦接管问题定义、论证展开和文本生成,人的认知参与就更容易下降。其二,人是否继续投入批判性思维,取决于对 AI 的信任校准,以及对自身判断能力的保留。其三,只要流程里持续保留认知摩擦、反例、假设审查和纯人工阶段,过度依赖就有机会被压住,而不是一路累积。
所以“用没用 AI”不是关键问题。更该问的是:你把 AI 放在了哪个位置。放在“生成答案”的位置,它最容易让人跳过前面的判断过程;放在“挑战假设、补充反例、检查计划”的位置,它更像一个帮你提高判断质量的对手。
一套可复用的四步流程
下面四步并非某一篇论文直接验证过的完整方案,而是把五篇研究反复出现的提醒,整理成一套最低成本的防错清单。
第一步,先写出你的完整初判,哪怕很粗糙,别从“这个问题该怎么解”开始。先把立场外化出来,后面才有得修正。
这是我的初步判断:…… 我目前这样想,主要基于三点:……
第二步,让 AI 当反对者,而不是代笔者。别让它直接给答案,而是拆你的答案。
请不要重写我的结论。 请像反对者一样不放水但讲理,指出我这套判断最脆弱的前提、最可能忽略的反例,以及最需要补证据的地方。
这一步把 AI 放回更合适的位置:帮你暴露漏洞,而不是替你打包结论。
第三步,审查假设,再跑一遍 what-if。如果 AI 已经给了你计划、大纲或执行路径,别立刻接受,至少问两轮。
第一轮(假设):这个方案依赖哪些前提?哪些前提一旦不成立,整个方案就会失效? 第二轮(情境):如果预算减半、时间缩短一半、关键约束变化,这个方案会先在哪一步出错?
Ghosh 的认知强迫函数研究指向的正是这个动作。
第四步,保留一个纯人工的收尾阶段。留一小段时间不看 AI,把自己的结论重新说一遍,可以是三句话,也可以是一段 150 字以内的摘要。如果你暂时脱离 AI 就复述不出结论,说明这套判断还没真正变成你自己的。
前面几篇反复提到的归属感、回忆、独立整合和判断责任,都靠这一步收口。
四问检查模板
记不住完整流程,先记住这四个从五篇研究里抽出的最低成本检查项。
- 我现在自己的判断是什么?
- 这个判断依赖哪些关键假设?
- 如果它是错的,最可能错在哪里?
- 哪一步必须由我亲自完成,不能外包给 AI?
这四问只保一件事:最终判断仍然属于人。
适用边界
最后把几条必要的边界交代清楚。
证据强度不一。直接的实证材料有三块:Lee 的调查是自我报告,Kosmyna 的实验有 54 人和四个月追踪,Ghosh 的实验有 214 人但场景收窄到计划审查;Khan 的工作更接近机制启发;Vendrell & Johnston 提供的是框架而非效应量。单独看任何一篇都不足以定论,但它们在方向上收敛。
证据最强的场景集中在写作、知识工作和教育情境。学科背景、原有的批判性思维水平、任务熟悉度和组织环境,都可能改变结果;把结论直接推广到所有类型的人机协作任务,并不严谨。
没有一篇研究支持“不要用 AI”。五篇共同指向的是同一件事:重新设计人和 AI 的分工——搜集材料、生成备选、暴露反例、压缩表达,可以交给 AI;定义问题、建立标准、权衡证据、承担结论,最好留给自己。
最后,这几篇都很新,其中包含预印本,模型与交互方式仍在快速变化。但“判断权不要默认外包”这条原则不依赖某一代模型的准确性——它讨论的是分工结构。目前也还没有足以推翻它的反向证据。
常见问题
这些研究能证明“AI 让人变笨”吗?
不能。没有一篇支持这种笼统结论。它们更精确地指出:当 AI 接管问题定义、论证展开和最终判断时,认知参与会下降。但“变笨”不是合适的说法,是分工出了问题。
那我该完全避免用 AI 写作吗?
不用,分阶段用就行。问题从来不是用不用,而是让它干什么:检索、罗列选项、找反例这类活可以放心交出去;结论怎么下、标准怎么定、证据怎么权衡,留在自己手里,最后留一段纯人工收尾。
模型版本变化会影响结论吗?
会有一点影响,但不在方向上。模型越强,跳过思考的诱惑越大,信任校准也越难,Lee 调查里的风险路径会更普遍。不过这五篇研究讨论的是分工结构——哪些环节必须留给人——而不是某一代模型的能力上限。模型变强不改变这个结构问题,只是让它更要紧。
这些建议适合团队管理吗?
适合,但需要调适。团队层面关键不是要求每个人执行四步,而是在流程设计层面强制保留纯人工阶段和假设审查节点。
延伸阅读
从五篇里挑一篇最贴你工作场景的,读原文全文,重点看方法学局限和讨论部分。接下来一周,每次用 AI 辅助工作前先写一句自己的初判(第一步),记录感受和产出质量的变化。想系统深入,Vendrell & Johnston 论文的参考文献列表覆盖了批判性思维教育领域的核心文献,是很好的扩展入口。
参考文献
- Kosmyna, N., Hauptmann, E., Yuan, Y. T., Situ, J., Liao, X.-H., Beresnitzky, A. V., Braunstein, I., and Maes, P. (2025). Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task. arXiv. arXiv
- Lee, H.-P., Sarkar, A., Tankelevitch, L., Drosos, I., Rintel, S., Banks, R., and Wilson, N. (2025). The Impact of Generative AI on Critical Thinking: Self-Reported Reductions in Cognitive Effort and Confidence Effects From a Survey of Knowledge Workers. CHI 2025. DOI
- Vendrell, M., and Johnston, S.-K. (2026). Scaffolding Critical Thinking with Generative AI: Design Principles for Integrating Large Language Models in Higher Education. Computers and Education: Artificial Intelligence, 10, 100572. DOI
- Khan, A., Hughes, J., Valentine, D., Ruis, L., Sachan, K., Radhakrishnan, A., Grefenstette, E., Bowman, S. R., Rocktäschel, T., and Perez, E. (2024). Debating with More Persuasive LLMs Leads to More Truthful Answers. ICML 2024. PMLR, arXiv
- Ghosh, A., Sarkar, A., Lindley, S., and Poelitz, C. (2026). An Experimental Comparison of Cognitive Forcing Functions for Execution Plans in AI-Assisted Writing: Effects On Trust, Overreliance, and Perceived Critical Thinking. arXiv. arXiv
参与讨论
使用 GitHub 登录。欢迎补充事实、异议与实践。
讨论暂时无法加载。