Kevin Kelly：50 年后的 AI 将是无处不在的群体智能

这是一个50年后可能的世界，我认为它比大多数人所预期的——天空中一个巨大的AI——更有可能发生。

五十年后，大多数AI是隐形的。没有什么可见的东西。它有点像空气——永远存在，永远在线，无处不在。它是你需要和使用、却习以为常的东西。AI如此普遍，以至于我们对它视而不见。

你不需要登录它，甚至不需要召唤它。相反，你吸入它。AI不是一个中央AI大脑，而是像一种气体，由数以万亿计的微小、相互作用的AI组成，形成一种氛围。这数以万亿计的心智，就像你体内的真核细胞，或你肠道里数百种细菌。它们构成一种存在。它们被编织成一个庞大的智能网络，创造出一种AI背景。这个AI心智的社会，与其说是被人类看到，不如说是被人类感受到。

与今天的AI不同，它将深度具身化——进入机器人、车辆、建筑和设备中。但它的具身化将如此广泛、如此深入、如此无处不在，以至于它将成为背景。

AI可以被看作是一个超级有机体，它如此庞大，以至于像海洋一样，成为了环境。这种环境AI，像许多环境一样，对沉浸其中的人来说会变得难以察觉。我们只有在出现缺口、断连或它宕机时才会注意到它。

就像珊瑚礁一样，一个AI超级有机体将由成千上万种心智组成。

其中一些AI心智可能非常狭隘和迟钝，只比愚蠢高一点点，也许和昆虫一样聪明。其他的可能是数学天才。大多数子AI将被设计在中间水平，以执行特定的、枯燥的和小众的任务。

任何超级有机体的主要特征是，它的力量超越了其组成部分的力量。因此，AI的超级有机体，这个AI环境，将超越其组成部分的力量——这些组成部分将包括当时所有的前沿模型，以及用于数学、生物学或世界构建的最强大的专用AI，还有在公司后台运行的通用日常AI。这些AI相互作用，将形成一个相互依存的系统，不同的AI相互依赖以获取输入、指导、维护、支持、方向、放大、解决、升级、验证和信任。这个AI生态系统将成为环境，就像在有机生命中一样，每个AI都将与这个环境、这个心智社会共同进化。

以下是关于我们可以对这种群体智能有何期待的一些笔记。

• 维持可持续的群体智能是棘手的。复杂适应系统科学表明，在群体各部分的连接性之间存在最佳平衡点。连接过于紧密的部分会陷入僵硬的瘫痪；连接过于稀疏的部分会在混乱中分崩离析。调整系统使其不崩溃而是茁壮成长，几乎更像是一门艺术而非科学。群体智能的突然崩溃将成为使用它们时的首要危险。
• AI协议将会出现。这些标准将不仅仅是API，它们将使不同的心智——愚蠢的和超级聪明的——能够相互协商、交接、信任、赢得声誉并在彼此之间存储记忆。这一切都在后台运行；普通人类不会想到它们。
• 没有任何单一机构、公司或政府能够控制群体环境。当一个联网的心智犯错时，很可能没有单一的作者、所有者或运营者可以被归咎。虽然某些机构可能控制着压力点、关键协议或瓶颈基础设施，但没有任何机构需要为人们使用 AI 时发生的事情负责。这将类似于 AI 的互联网，会有多个利益相关者维持其运转。这种分散的责任既是福也是祸。
• 分布式责任可能会催生新型的分布式、去中心化保险以及相关法律。此外，验证并信任数万亿个代理（它们都声称自己意图良好且能力合格）的需求，将要求一套全新的技术信任体系，能够验证、认证、评估并评级无限多的异类代理与子心智。群体智能各部分之间交易的很大一部分成本将专门用于信任网络。
• 目前，当危害源于 AI 之间的交互而非单一的恶意行为者时，我们并没有切实可行的方法来分配责任。我们需要能够跨网络追踪影响、估算反事实（“如果没有这个组件会发生什么？”）的指标，以便对群体进行治理。
• 一个心智社会将滋生寄生虫、骗局、垃圾内容、垃圾信息和对抗性黑客代理。群体中的大多数代理将是真正的机器人。我们将培育出某种相当于免疫系统的机制，用白细胞来检测、隔离并减轻危害。构建这一免疫系统对许多人来说将是一个经济机遇。
• 作为一个超级有机体，AI 将不断产生涌现的现象和行为。它将生成任何单个组成 AI 中都不存在的各种思维方式。这既令人担忧又令人兴奋。
• 由于这个超级有机体在最大规模时具有行星尺度，其大部分行为和智能会让人感觉异类。有些人可能会称之为非人的，但它肯定是非人类的。
• 群体智能将存在多个层级。其中一个层级是行星级的。就像一个有组织的身体一样，也会存在在国家层面（当然也包括公司层面）运作的子群体层级。事实上，随着公司变得越来越认知化、被 AI 渗透，它们将越来越像纯粹的 AI 群体智能。换种说法，越来越多的群体智能将开始承担公司的工作，并像公司一样行事。
• 管理群体 AI 的最佳方式可能更像园艺，而非工程。我们将使用隔离、多层围栏、权限、边界和隔离来培育我们想要的结果。我们将种植多种心智，塑造环境，并培育那些表现良好的心智。我们不会通过用一个巧妙的算法理解每个内部机制来控制系统，而是会像引导市场、城市或任何系统的治理方式那样：间接地、不完美地，通过观察和持续的干预。

因此，在这个群体 AI 世界的 50 年后，一个普通的日子，我们不会再谈论 AI。我们几乎看不到它。它将无处不在，嵌入到一切事物之中。我们会有一两个依赖并喜爱的个人智能体；这些外在自我（exoselves）可能像我们的双胞胎或伴侣，但除此之外，我们不会再遇到 AI。我们只会遇到这个世界——汽车、工具、厨房、飞机、办公室、门、屏幕——而这个世界中的每一处都嵌入了 AI。在我们的视野背后，一个 AI 生态系统在相互作用、彼此依存，以无处不在的认知让世界运转，以至于很难分辨一个心智从哪里开始、另一个在哪里结束。环境变得更聪明了。我们仍然会携带我们的魔法石、佩戴智能眼镜，但大部分智能将被嵌入到背景之中。让这种群体智能运转起来，将是下一代发明家的工作。