Cal Newport 评AI辅助降低思考坚持度的研究

一篇题为“​AI Assistance Reduces Persistence and Hurts Independent Performance,”​”的新研究论文最近在 ​Conference on Language Modeling​ 上发表，正引起广泛关注。

它探讨了一个显而易见的问题：AI 工具是否会负面影响你的思考能力？它采用了一个简单的实验设计：参与者被分成两组，任务是解决一系列涉及分数的数学题。一组必须自己找出答案，另一组则使用 ChatGPT 来协助。

起初，ChatGPT 组的表现更好，这并不令人意外，因为 LLM 擅长解决数学问题。但随后研究人员关闭了聊天机器人。AI 组的准确率不仅降到了对照组以下，而且 AI 组的许多参与者开始放弃，甚至完全跳过题目。

研究人员又重复了几次相同的实验，其中一次将数学题换成了 SAT 阅读理解题。他们不断发现准确率和坚持度的同样下降。

以下是关于该论文的一篇​新闻稿​对这些结果的总结：

“这些发现印证了近年来轶事和调查越来越普遍的结论：过度依赖 AI 获取答案会侵蚀我们的认知能力。当 AI 在几秒钟内给出答案时，我们就习惯了那种速度；任何需要更长时间的事情都会让人觉得效率低下。”

论文作者之一 Brian Christian 直言不讳地说：“你几乎找不到比这更清晰的故事了。”

过去十年里，我一直在思考和撰写关于技术如何可能无意中损害我们的​认知能力​，以及这又如何可能反过来不仅损害我们的经济生产力，还损害更广泛的人类体验质量。

从这个意义上说，这些 LLM 的发现并没有揭示什么新东西。

然而，新的是这些影响令人瞠目的速度。我们习惯于缓慢发展的技术认知趋势，比如无处不在的智能手机使用的负面影响，这些影响在数据中显现花了数年时间。

对于聊天机器人，负面影响是立竿见影的。通过使用 LLM 绕过脑力劳动所带来的快感是如此诱人，以至于只需短暂接触，深度思考就很快变得难以忍受。

好消息是我们还不知道这些影响是否是永久的。可以推测，那些在 ChatGPT 关闭后立即感到吃力的研究参与者，如果稍后在明确无法获得 AI 帮助的环境中再次尝试同一类型的测试，可能会表现得好得多。

但我们不能忽视这些早期研究发出的警告。在认知能力方面，我们正在与一股我们尚未完全理解的强大力量打交道。

我在科技评论领域工作的一个核心主题是，没有严肃、持续、有意识思考的生活是贫乏的。思考是我们理解自我和世界的方式，是我们构想新视野、创造未来关键要素的方式。它处于哲学、神学和人类同理心的核心；是将我们这个物种与其他所有动物区分开来的能力。

硅谷擅长创造工具，却不擅长弄清楚我们该如何使用它们。后一步仍然取决于我们——但这需要我们在乎。

本文 The Good Thing About Hard Things 最初发布于 Cal Newport。