MIT教授Eric So新书谈AI对人脑与社会的影响

随着人工智能应用日益普及，学者们正致力于理解它对使用者的影响。麻省理工学院（MIT）教授 Eric So 在其新书《The Collision: What AI Does to Us》中提供了迄今最全面的综合论述之一，该书本月由 W.W. Norton 出版。So 承认人工智能提供了更快完成工作的机会，并且在某些情况下已被转化为有用的特定领域工具，但他同时也审视了过度广泛依赖它的代价。他认为，重度使用人工智能可能导致一种认知萎缩，使人们无法培养和保留关键的思维技能。总体而言，他说，证据表明，当我们努力钻研材料、克服最初的失败、不断迭代，并在此过程中获得更好的思维技能同时保留更多知识时，我们的学习能力会显著提高。

这些结论源自 So 及学术界和业界其他人士的近期研究，包括人工智能公司自身的分析，例如 Anthropic 的一项研究显示，大学生的查询中约有一半是为获取简单答案而进行的低投入查询。So 还在叙述中融入了个人反思——由于长期研究金融市场和行为，他熟悉分析新工具和信息如何影响我们的决策。MIT News 采访了 So，他是 MIT 斯隆管理学院的全球经济学与行为科学斯隆杰出教授，谈论了这本书。

问：是什么促使你写《The Collision》？   

答：我写这本书是为了回应我在自己和他人身上看到的模式。我在书的开头讲了这样一个故事：我本能地求助于人工智能来帮我思考那些我通常会自己处理的问题。一位同事寻求帮助，我基本上把她的问题拿来写了半句话，然后说：“ChatGPT，帮我专业地完成这个。”我做了几处简单的修改就发了出去。然后我坐下来，真的感到非常担忧，因为我把自己的思考从这个过程中剔除了。

我发现学生们正在把思考外包给人工智能，而不是自己思考问题，转而用它来完成那些原本能帮助他们掌握学科知识的作业。我们需要开始理解这项技术对我们做了什么，它如何与人类认知和我们的心理互动，并给人们提供一些实用的见解。

问：在您看来，这其中一部分意味着要理解人们使用人工智能的动机，或者人工智能的吸引力是如何产生的，即便这会带来长期代价。

答：有多种趋同的因素将我们吸引到人工智能。例如，我们有一种真实的生物本能去节省脑力，而在社会层面，我们面临这样的情况：其他人使用人工智能来抢占先机，这加剧了其他人使用人工智能的压力。再加上在实际操作中检测人工智能使用的问题，所有这些因素共同造成了我所说的“人工智能引力”，即使用人工智能的持续拉力。这不仅仅是告诉人们要独立思考的问题。在我们所处的这个时刻，人工智能正在与社会发生碰撞。

问：因此，在人工智能使用方面，我们需要审视这些系统性因素，而不仅仅是个人决策，比如企业敦促员工使用它。

答：许多组织不只是建议使用 AI：它现在已成为你考核的基础，也就是说，如果你想拿奖金或升职，使用这些工具就是你必须做的事。我认为学术界正在形成一种微妙的风气，人们会说：“我未来的雇主会希望我使用 AI，所以我最好现在就开始用。”但问题在于，当你现在开始使用 AI 时，我们正在失去对那些我们本想培养的实践和能力的掌握，而这反过来又让我们在未来更加依赖使用 AI，从而变成一个自我实现的预言。

问：AI 对我们的思维做了什么？ 

答：AI 不仅在改变我们能做什么，它还在改变我们作为思考者的本质。AI 消除了建立基础掌握所必需的许多摩擦。它正导致许多人失去攻克难题的能力。AI 提供即时的缓解，而我们对此习以为常。许多人把它当作获取信息的入口，因此它正在影响我们的记忆能力。此外，AI 正在改变我们的人际关系。书中一个关键点是，这些模型同时具有谄媚性，也就是说它们想让我们开心，因为这是它们驱动互动和获得正面反馈的方式，但它们同时也非常有说服力。我们失去了与他人建立联系的能力，因为我们已经太习惯于这种毫无摩擦的环境——模型总是同意我们的观点。

问：你的书强调“富有成效的挣扎”的价值。你写道：“挣扎并不意味着你在受苦。”相反，我们是通过努力学习来掌握事物的。 

答：我们需要重新定义我们对挣扎的看法，把它看作一种塑造性的过程，而不是一个需要解决的问题。我在书中大量类比了工业化之后发生的一些社会变化，当时人们突然不再需要体力活动来实现经济生产力。我们看到更多人突然开始有意识地进行体育锻炼，这需要重新定义身体上的挣扎意味着什么。我认为我们需要对认知上的挣扎有这样一种转变。

问：鉴于这一切，我们今天能做些什么来保持某种程度的合理认知努力？

答：在个人层面，我强调了在这个 AI 时代应对的四个原则。第一是拥抱挣扎，正如我们刚才谈到的。第二条规则是：珍视没有 AI 的你。过去几年我看过很多演示，有人用 Claude 制作了非常精美的演示文稿，但当他们展示时，很明显他们没有付出理解这些材料所必需的努力。这种塑造性的挣扎创造了我所说的“不可分割的任务组合”，因为制作幻灯片让我能够参与实质性的讨论。如果不珍视没有 AI 的你，我们得到的是产品，却失去了利用它的能力。

第三条规则是关于重新投入你的认知盈余。有很多任务 AI 可以帮你节省时间——重复性活动——但用这些节省下来的时间做什么很重要。如果你只是把同样的精力投入到同样的任务中，你就错过了 AI 带来的潜在变革性收益。最具创新性的变革不是那些仅仅让我们实现自动化的变革，而是以富有成效的方式拓展人类能力、构建专业知识的变革。或者，人们可以把腾出来的时间用于陪伴家人、学习一门新语言、培养技能。

最后一条规则是关于把 AI 当作你的认知教练。AI 是一种双重力量：如果你把它当作答案机，它对思考非常有害；但如果你把它当作导师，它对学习大有裨益。AI 可以为你量身定制。然而，这要求你主动去体验拥有导师而非答案机所带来的摩擦。而这需要动力。

这是一个非常具有挑战性的时刻，这个问题需要我们认真对待。