NostradamusGPT：预言的心理学与如何挣脱预测技术的牢笼

这就是我们的悖论：我们知道不确定性是 宇宙的基底，是 创造力的熔炉，是 通往真理之路，然而我们却终其一生都在追寻确定性。auspicious（吉祥）一词源自拉丁语 auspex——指通过观察鸟的飞行来预兆和 占卜未来的人。今天，我们的鸟由比特构成——是我们自己制造的发条云雀，我们称之为算法——但它们发挥着同样的作用：让我们相信自己能够预知未来，从而做出应对；通过向我们兜售掌控不可知之物的幻觉，来麻痹我们对生存的焦虑。

所有权力结构都是 我们选择居住其中的监狱，而所有预测技术都是权力结构。先知一直是帝国真正的统治者，是国王的第一顾问，是未来的终极腹语师。

我们永远无法摆脱生存的不确定性，因为我们自身就是 概率的璀璨违背，但我们可以挣脱预测的牢笼，从而活得更加鲜活：生命莫大的恩赐在于，我们可以改变，可以改道，可以给自己惊喜——我们的未来并非过去的计算总和，我们的命运也不是一个确定性的方程，而是一个不断自我创造的过程，就像一段记忆在每次复述时重新自我重构。每一个试图根据我们过去的喜好或行为来告诉我们接下来会喜欢什么或做什么的算法，都在窃取我们的自尊——那种对自我惊喜这一根本能力的尊重，正是它让生命值得过活——并以产品的价格将其卖回给我们。

如何捍卫我们人性乃至生命本身的这一关键面向，使其免受预测贩子的侵害，正是 Carissa Véliz 在 《预言：预测、权力与对未来的争夺，从古代神谕到 AI》（公共图书馆）中所探讨的——在一个很难对 AI 发表任何新见解的时代，这本书为我们提供了一个具有启示性的视角，审视我们选择居住其中的牢笼，并给出了一把逃脱的钥匙。

她写道：

当今的计算机科学家在权力与预言中所扮演的角色，与古代世界的神谕者、中世纪的占星家以及十九世纪的社会科学家如出一辙，正如我们将看到的……先知是预测的贩子……人工智能就是新的德尔斐神谕。Elon Musk、Sam Altman 和 Eric Schmidt 与总统和总理们把酒言欢的场景，让人想起 Nostradamus 为 Catherine de' Medici 出谋划策，以及 Rasputin 为 Nicholas II 顾问进言。

[…]

预测常常是伪装成求知的权力手段。即使预测是真诚的，它们也能创造出改变世界的政治影响力暗流。它们变成了权力手段。

她提供了一段引人入胜的历史，讲述这类权力技术如何变得可能、变得可欲、最终成为常态——这段历史记录了从精神性到统计学、从信仰到盲目信任的转变：

随着上帝逐渐退居幕后，命运的束缚也随之松动。除了那些能够理解并思考偶然性可能在世界上扮演重要角色的世界观之外，十五世纪中叶活字印刷术的发明也促进了抽象数理思维的发展，并随之推动了科学探究和官僚组织的形成。

[…]

对数字的信任，部分源于对人的不信任。

导致传统占卜形式衰落的，不仅仅是教会的反对；普通民众也厌倦了依赖专家来窥探未来。解读动物内脏或鸟的飞行并不直观，而占星术则是一门技术。这些方法的不透明性助长了捏造、错误和腐败。像骰子这样的占卜签筹，是一种以公开方式与神明沟通的潜在途径，对所有人来说都可见、可读。它们还促使人们思考随机性和概率问题，这可能促成了概率思维的产生。但在启蒙时代及以后，骰子并不适用。赌博游戏与恶习相关联，而将决定权交给纯粹的偶然性则有悖理性。统计学应运而生。

在天文学家的助推下起步后，统计学的发展主要归功于那些应对公共生活挑战的官僚。这是一项务实的事业，而非科学事业。商人、银行家、农民、军队和税务官员都需要以标准化的方式进行计数。广泛的贸易需要价格和度量衡，因此需要广泛的量化。随着官僚机构的增长，标准化和公开的正当性变得必要。还有一个问题是如何隐藏权力斗争，使其看起来尽可能理性。数字、标准和统计让政治和权力变得隐形。这对任何想把自己的行为标榜为不受价值观影响的人来说都很方便。

在我们对数字的信任背后，是一个密切相关的哲学观念：价值观无法从事实中推导出来。

当然，它们确实无法推导。我们最珍视的事物——无论是山川、音乐还是爱——没有一样能被还原为一组事实。数字和图表可以为我们勾勒出世界的样子——无论真实与否——但它们永远无法描绘出如何在其中生活、如何与他人分享、如何将其重塑为我们想要生活的世界。统计概率永远不会告诉我们可能性的边界。概率论先驱 Marc Kac 本人也承认，所有创造性行为——那些我们人性的胜利——都源于“一个拥有自身激情、狂喜与绝望的世界，也正是在这里……人们甚至可以听到上帝的声音。”

Véliz 反驳了我们一直被灌输的文化神话：

世界本质上并非统计性的；是我们通过量化才使其如此，以便更好地控制它。

统计学发明了社会。由于犯罪和自杀等现象中的统计规律无法追溯到个人行为，这些模式便被归因于“社会”本身。社会变成了一个活的实体，凌驾于构成它的个体之上。从 1830 年起，这些数值规律被解释为社会存在的最有力证据。统计学也发明了普通人。

[…]

概率思维改变了我们对现实的看法（我们的形而上学）、我们对知识的思考方式（我们的认识论）、我们认为什么样的论证和解释才算好（我们的逻辑学），以及我们如何看待美好生活（我们的伦理学）。它甚至可能改变了我们思考自身思维方式的方式。

它不仅改变了我们，还扼杀了我们天性中某种本质的东西——那种让我们每个人都成为自己的、闪烁不定的独特性，那是由原子与故事构成的独一无二的星座，在宇宙的全部历史与未来中无可匹敌。她写道：

凶手是哲学家、赌徒、数学家、社会学家、保险从业者，尤其是官僚。凶器是量化、数据收集以及正态曲线之类的统计工具……动机是广义上的权力：从天文学家想为导航和计时而预测天空，到保险从业者想获利，再到官僚争夺权威、想要对人口拥有更多控制权。我们杀死了有名字、有个性、有怪癖的个体。我们杀死了那种不附加类别、数字，或者更糟的排名，仅仅因为一个人本身而珍视他的做法。我们杀死了对自由意志的信心，这个话题我们将在第八章再谈。我们杀死了对人的信任，代之以对数字的信任。我们获得了秩序，但代价高昂。我们失去的东西很少被量化。但无法被量化并不意味着它不曾存在或无关紧要。

有一段话让人想起 Ursula K. Le Guin 永恒的坚持：“词语是事件，它们会做事，会改变事物，”她补充道：

我们用语言做事，而不只是描述世界。预测不仅仅是断言；它们是世界中的行为，这也是它们并非事实的又一个原因。预测是言语行为：会做事的断言。

[…]

当有人做出预测时，取决于语境和他们的方法，以及他们的权力意志（他们想要什么），他们可能在做非常不同的事情：表达自己对某事的信心程度，表达某事在世界上发生的可能性，表达他们希望未来世界是什么样子，试图操纵受众购买他们兜售的东西，或者以上若干者的组合……然而，他们所没有做的，是说出一个关于世界的真实陈述。

[…]

预测型社会倾向于通过监控和自我实现的预言走向压迫，因为预测是更接近命令而非真理主张的言语行为。

鉴于 我们的认知机制天生就会让预期塑造我们的现实，我们所相信的预测最终会塑造我们的生活：

关于人的预测具有反身性，像磁铁一样把现实弯向自身。当磁力足够强时，预测就变成了它成真的原因。

[…]

预测是伪装成描述的命令……预测改变了它们声称要预测的现实，而它们的准确性有时并非知识或理解的证据，而是专制的证据。

我们最大的抵抗前沿在于记住：凭借自己的选择，我们可以成为自身命运的缔造者；但我们的选择由信念驱动，而信念正是权力结构中最容易被操纵和囚禁的东西，因此它必须是第一个挣脱束缚的事物。Véliz——她在这篇精彩的《Where Shall We Meet》访谈中对这些问题作了更深入的探讨——坚持认为，只要我们牢记——我们那辉煌分形、狂野联想、桀骜不驯不合逻辑的头脑——关于生而为人的几个真相，而这些真相正是预测的先知们试图遮蔽的，那么钥匙就在我们手中：

• 我们认为不可避免的事往往从未发生，而我们认为不可能的事却近在转角。
• 不确定性的空间正是创造力、幽默与创新蓬勃生长的地方。
• 允许反抗才是对待人类的正确方式，人本身就是目的，拥有自己独特的见解与偏好。每一种生命都值得过，每一种生命都是一件有待创造而非发现的艺术品。
• 我们塑造观念，观念也塑造我们

她反思着贯穿于我们对控制的渴望与对被利用的脆弱性之间的悖论之锦缎，问道：

由局部知识、社会复杂性与反身性、科学与技术突破、偶然事件以及盲目性所引发的不可预测性，永远不会消失。面对这一令人不安的生活事实，我们该如何生活？

我所知道的最佳答案是这首 Marie Howe 的诗。

捐赠 = 爱

十七年来，我每月花费数百小时、数千美元来撰写The Marginalian（其前十五年使用的是已弃用的名称Brain Pickings，该名称）。它一直保持免费、无广告，并因读者的资助而存续。我没有员工、没有实习生、没有助手——这完全是一个女性独自完成的、既是我的生活也是我的生计的爱心劳动。如果这份劳动以任何方式让你自己的生活更值得过，请考虑以捐赠的方式伸出援手。你的支持至关重要。

通讯

The Marginalian 拥有一份免费的每周通讯。它在周日发布，提供一周中最鼓舞人心的阅读内容。这是内容预告。喜欢吗？注册订阅。