Cal Newport 呼吁国会对 OpenAI 和 Anthropic 展开公开调查

过去几个月里，两家领先的前沿 AI 实验室表现出了一些肆无忌惮的行为。

这一切始于 OpenAI 一连串精心策划的公告和报告，试图确立它们的 LLM 驱动的智能体系统已经变得多么令人不安和强大（更不用说多么违法了）。

随后它们把接力棒交给了 Anthropic，其员工开始公开辩论这些技术导致人类灭绝的确切概率。它们以一种诡异的平静传达了这一切，暗示着它们的工作有着虚无主义式的必然性。

在地面被适当松土之后，这场运动在 Anthropic CEO Dario Amodi 发布一封题为《我们必须为前沿设定节奏》的信时达到高潮。在信中，他列举了他自己公司的研究可能造成的所有危害，然后，非但没有道歉并承诺停止，反而得出结论说，只有当我们“以正确的方式构建技术”才能避免灾难——而这涉及——你猜怎么着——让政府放慢潜在竞争对手的步伐，让这些实验室在推进相关技术方面保持领先。OpenAI CEO Sam Altman 随即发推支持这一大胆计划。

在内部，这些实验室长期以来一直奉行这种弥赛亚式的思维方式，将自己塑造成人类对抗超智能 AI 这一不可抗拒力量的唯一希望。今年夏天，在某种意义上，是它们试图将我们其他人吸纳进这一长期持有的意识形态中。

它没有奏效。

它非但没有激励大众起立为这些工程师的英雄式理性主义鼓掌，反而让我们开始追问：“那些实验室里到底在搞什么鬼？”

为此，上周四我在《纽约时报》发表了一篇评论文章，呼吁国会启动一项公开的事实调查任务，以查明 OpenAI 和 Anthropic 正在进行什么研究项目、如何进行以及出于什么目的。

我提出了需要通过这次质询来探索的三个关键领域：

我们必须超越关于“AI”的模糊讨论，转而隔离出正在制造问题的具体系统类型。前沿实验室希望我们把 AI 视为一种单一技术，沿着不可避免的既定轨迹发展。事实上，最近几个月的大多数问题都源于一小批鲁莽的实验，主要由前沿实验室进行。它们需要说明为什么要做这些实验。
我们必须审查围绕这些研究工作的内部安全程序。OpenAI 披露了其自主智能体的一系列未经授权的黑客攻击。为什么在第一起此类事件被披露后没有停止这些行动？为什么不追究它们运行明知可能犯罪的系统的刑事责任？
我们必须调查末日未来主义意识形态在前沿实验室决策中所扮演的角色，包括关于要进行什么研究以及以多快速度进行研究的决策。我越来越担心，OpenAI 和 Anthropic 尤其正变得越来越鲁莽，因为它们相信在拯救人类的竞赛中附带损害是正当的。（关于这些信念及其与这些实验室的联系，参见：这篇、这篇和这篇，全部发表于过去几周的《时报》上。）

“我们必须停止让少数私营公司以越来越反复无常的方式行事和发言，来左右我们对 A.I. 应有的看法，”我在文中总结道。“我们已经听到了他们想说的话；现在该轮到国会代表我们介入，查明究竟发生了什么。”

文章是时候调查 AI 实验室了最早发布于 Cal Newport。