电影《人工智能》(2001)剧照。
频繁使用人工智能工具可能会让人越来越笨?这一怀疑也许并非没有根据。近日,麻省理工学院和韦尔斯利学院的研究者们合作开展了一项新研究,题为“ChatGPT上的你的大脑:使用AI助手进行论文写作时认知债务的积累”。该研究发现,使用AI的用户在神经、语言和行为层面上的表现始终不佳。
这是一项为期数月的对照研究。54名被招募的用户被分成三组,并被要求在不同条件下撰写论文,一组使用大型语言模型(LLM,Large language model),一组使用谷歌(Google)搜索,还有一组只使用他们的大脑。每位用户使用指定工具进行写作,并通过脑电图记录他们的脑电活动。在后续环节中,这些用户还被要求交换工具,交叉测试。最后,他们的论文将由人类和人工智能同时进行评判。
该研究的部分结论引发了诸多讨论。其中一项发现是,在不使用人工智能等工具的情况下,大脑的创作效果更好,“创造性构思过程中的内部注意力和语义处理”在既不使用谷歌也不使用ChatGPT等大型语言模型工具的用户中最高。最好的作品来自只使用大脑的那组,他们的文本在表达和词汇方面最为独特。
该研究还考察了用户们具体如何看待他们的作品。其中,近90%的大型语言模型用户对自己的作品没有归属感,而使用谷歌搜索和纯人脑写作的用户中只有10%的人反映了这一问题。尽管对自己作品的归属感难以量化,但问卷表明,使用大型语言模型的用户在写作过程中投入最少,他们获得的对作品的所有权也相应最少。当被要求反思所用工具、所写内容以及原因时,研究发现“只使用大脑的小组中的大多数参与者更关注并更关心他们所写的是‘什么’以及‘为什么’……而其他小组则只关注‘如何写’这个部分”。
这一结果并不出乎意料。研究成员对使用大型语言模型这组用户的描述相对悲观:他们中的大多数人专注于重复使用工具的输出,因此专注于复制和粘贴内容,而不是融入自己的原创想法并根据自己的观点和经验进行重新编辑。这至少说明,在一定程度上,劳动确实赋予了创作以尊严。
不同对照组对各自作品所有权的判断。
随着ChatGPT等大型语言模型的出现,人们日益将自己的思维和记忆过程转移到这些工具上,但科学家们明确表示,这并非人工智能的先例,而是始于搜索引擎。该研究继续探讨了“谷歌效应”,并指出大型语言模型的广泛使用只会加剧这个趋势。“因为我们知道信息只需快速搜索即可获得,所以我们没有动力去记住任何具体的东西,而是牢牢记住如何以及在哪里找到它。”
该研究最引发公众担忧的一个结论是,使用ChatGPT等工具的负面影响可能不会完全消失。当频繁使用这类工具的用户被要求切换到纯大脑写作时,他们仍然背负着“认知债务”:该组用户虽然受益于工具效率,但他们的记忆痕迹较弱、自我监控能力下降,写作内容呈现碎片化。这一结论指向了一个重要的教育议题,即人工智能工具虽然有助于提升学习表现,但可能会无意中阻碍深度认知处理、记忆力以及对书面材料的真正参与。如果用户过度依赖人工智能工具,他们可能会获得表面上的“流利”,但无法内化知识或产生对知识的归属感。
部分支持人工智能的人仍然看重“效率”的提升。但有趣的是,研究者发现,由于使用ChatGPT等工具写作时理论上花费的时间更少,用户反而更容易花更长时间投入其中,结果延长了原本完成这一任务所需的时间。这也从另一个维度提醒我们重思什么是“效率”,当用户不再关心流程或最终产品,甚至记不清自己做了什么时,摆在面前的似乎是一个更残酷的权衡。
参考链接:
1.Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task
https://arxiv.org/abs/2506.08872
2.AI will make you a dumber writer, says science
https://lithub.com/ai-will-make-you-a-dumber-writer-says-science
编译/申璐
编辑/罗东
校对/柳宝庆
下一篇:祁连开启“云上牧业”新篇章