Sam Altman 住所遭燃烧瓶袭击后发文阐述AI信念与反思

这是我家人的一张照片。我爱他们胜过一切。

我希望图片是有力量的。通常我们尽量保持低调，但这一次我分享一张照片，是希望它能让下一个想朝我们家扔燃烧瓶的人打消念头，无论他们对我有什么看法。

第一个人昨晚就动手了，凌晨 3:45。谢天谢地，瓶子弹开了，没有人受伤。

文字同样有力量。几天前有一篇针对我的煽动性文章。昨天有人对我说，他认为这篇文章出现在人们对 AI 极度焦虑的时刻，这让我处境更加危险。我当时没当回事。

现在我在半夜醒来，很恼火，心想我低估了文字和叙事的力量。现在似乎是个好时机，来谈谈几件事。 

首先，我的信念。

*为所有人谋繁荣、赋能每一个人、推动科学与技术进步，对我来说是道德义务。

*AI 将成为有史以来最强大的扩展人类能力与潜力的工具。对这一工具的需求基本上是无上限的，人们会用它做出不可思议的事情。世界值得拥有海量的 AI，我们必须想办法实现这一点。

*不会一切都顺利。对 AI 的恐惧和焦虑是合理的；我们正在见证长期以来、甚至可能是有史以来社会经历的最大变革。我们必须把安全做好，这不只是让模型对齐的问题——我们迫切需要全社会层面的应对，以抵御新的威胁。这包括出台新的政策，帮助我们度过艰难的经济转型，从而走向一个好得多的未来。

 *AI 必须被民主化；权力不能过于集中。对未来的掌控属于所有人及其所在的机构。AI 需要在个体层面赋能人们，我们需要集体地为我们的未来和新规则做出决策。我认为，由少数 AI 实验室来做出关于我们未来形态的最重要决策，是不对的。

*适应能力至关重要。我们都在快速学习全新的事物；我们的一些信念会是对的，一些会是错的，有时随着技术发展和社会演进，我们需要迅速改变想法。还没有人真正理解超级智能的影响，但它们将是巨大的。

其次，一些个人感想。

当我回顾自己在 OpenAI 头十年的工作时，我能想到很多让我自豪的事，也有一堆错误。

我在想我们即将与 Elon 进行的庭审，想起当初我在他想对 OpenAI 施加单方面控制这件事上坚持了多久、绝不让步。我为此感到自豪，也为我们当时走出的那条狭窄路径感到自豪——正是那条路让 OpenAI 得以继续存在，以及随之而来的所有成就。

我并不以自己回避冲突为荣，这给我和 OpenAI 都带来了巨大的痛苦。我也不为自己在与前董事会的冲突中的糟糕表现感到自豪，那场冲突给公司造成了巨大的混乱。在 OpenAI 这段疯狂的发展历程中，我还犯过许多其他错误；我是一个有缺陷的人，身处一个极其复杂的局面中心，努力每年变得更好一点，始终为这一使命而工作。我们从一开始就清楚 AI 的利害关系有多大，也清楚我所关心的善意之人之间的个人分歧会被大幅放大。但亲身经历这些激烈的冲突、并且常常不得不去调解它们，完全是另一回事，代价是惨痛的。我向那些被我伤害过的人道歉，真希望自己能更快地学到更多。

我也非常清楚，OpenAI 现在已经是一个主要平台，而不再是一家小打小闹的初创公司，我们现在需要以更可预测的方式运作。过去这几年极其紧张、混乱且压力巨大。

但最重要的是，我为我们正在践行自己的使命感到无比自豪，而这一使命在我们起步时看起来几乎不可能实现。我们克服了重重困难，弄清楚了如何构建非常强大的 AI，弄清楚了如何积累足够的资本来建设交付它所需的基础设施，弄清楚了如何打造一家产品公司和一门生意，弄清楚了如何在超大规模上提供相当安全且稳健的服务，还有许多许多。

很多公司都说自己要改变世界；而我们真的做到了。

第三，谈谈我对这个行业的几点看法。

我个人从过去这几年中得到的体会，以及对本领域各公司之间为何上演如此多莎士比亚式大戏的看法，归结为一句话：“一旦你见过 AGI，你就无法假装没见过。”它有一种真实的“魔戒”效应，会让人做出疯狂的事。我并不是说 AGI 就是那枚魔戒本身，而是指那种“成为掌控 AGI 的那个人”的极权式执念。

我能想到的唯一解决办法，是把技术广泛地分享给大众，让任何人都不拥有那枚魔戒。实现这一点的两条显而易见的路径是：赋能个体，以及确保民主制度保持掌控。

重要的是，民主进程必须比公司更加强大。法律和规范会改变，但我们必须在民主进程的框架内行事，即便它会比我们希望的更混乱、更缓慢。我们希望成为一种声音、一个利益相关方，而不是掌握全部权力。

对我们这个行业的许多批评，源于对这项技术利害关系之高发自内心的担忧。这是完全正当的，我们欢迎善意的批评和辩论。我对反技术的情绪感同身受，技术显然并非总是对所有人都好。但总体而言，我相信技术进步能够让你我的家庭拥有好得难以置信的未来。

在我们进行这场辩论的同时，我们应该降低言辞和手段上的火药味，尽量让更少的家庭发生更少的爆炸——无论比喻意义上还是字面意义上。