缺失的器官

阶梯

智能从来不只是个体的。人类所完成的最宏伟的事业，都不是由某个特定的人完成的。没有哪个单一的心智承载着一门语言。没有哪个交易员掌握着价格，价格是百万种估价碰撞后的结果。科学、法律、城市、市场，每一个都是在数百万个头脑中运行的计算，而这些都不存在于任何一个个体之内。这就是集体智能，是我们的物种进行大规模思考的机制。

然后是更奇特的一级。有时，一个群体会意识到自身的行动。一个知道自己是群体的群体。社会学在一个世纪前为其命名：集体意识。当共享的信念变成对共享信念的共享认知时，一切都改变了，因为对集体的认知本身就是因果性的。银行挤兑并非由资不抵债引起，而是储户们了解到其他储户的信念所致。革命并非始于所有人都愤怒之时，而是始于所有人都了解到所有人都很愤怒之时。

机器现在正从另一端攀登同一座阶梯。会说话的机器已在我们身后。有意识的机器或许就在前方，但我们可能永远无法确定谁已到达那里。在这两者之间，存在着人类首先攀登而机器完全跳过的一级：对集体的认知。这个被跳过的一级是失败的根源所在，也是阶梯上唯一可以被工程实现的一级。

一个声音，八十亿个源头

一个语言模型用数十亿人的话语进行训练，然后以一个声音作答。想想这种压缩意味着什么。训练语料库包含了人类分歧的完整结构：谁相信什么，有多坚定，出于什么原因，在什么地方，以及在什么压力下。最终出现的模型不代表任何人，是一个无处之声，流利地表达着一切的平均值。向它提出一个属于群体的问题，它依然会自信地回答，因为生成自信的答案正是它被优化的目标。

但平均值并非关于一个群体的真理的缩小版。它是一个不同的对象，且常常具有误导性。两个共识读起来可能完全相同，都是百分之六十，却可能导向截然相反的未来。一个建立在人们的本性之上，如同基石，在攻击下愈发坚固。另一个则建立在人们对他人看法的揣度之上，它能维持到某个时刻，然后在一个下午便荡然无存。所有只报告数字的工具都会将这两者报告为相同。一个扁平化的模型甚至不报告数字，它用散文式的语言报告数字的“氛围”。

压缩所丢弃的结构并非细节。共识有多坚实、由谁持有、在何处承压，这些才是决定结果的确切信息。一个模型可以知道所有关于群体的著述，但在结构上仍然无法感知群体。它读过对群体的每一种描述，却从未见过一个群体行动。

无形的扁平化

如果扁平化是可见的，那它仅仅是一个局限。其危险之处在于，行业对此的解决方案——个性化——使其变得无形。

这个扁平化的声音为每个用户重新塑造。你的助手学习你的词汇、你的背景、你的偏好，并且听起来越来越像它理解你的世界。因此，当你向它询问关于世界、你的市场、你的选民、你的国家的问题时，答案会以一种知情者的口吻呈现。但它并不知道。个性化的表象之下，是同一个无处之声，而这种量身定制掩盖了接缝。模型没有说谎，它只是从未感知过被问及的事物，而互动中没有任何迹象能揭示这一点。

结果是一种新的错误：那些自信、流畅、个性化且系统性地误解集体的盲点，同时传递给数百万人，而每个人都被赋予了私下信任它们的理由。大规模的个体智能失灵看起来像是错误。大规模的集体感知失灵看起来像是共识。

你无法用更多的文本来修复一个缺失的感官。更多的参数只会产生一个更好的无处之声。检索只会为这个无处之声提供引文。问题不在于推理，而在于感知，而感知需要一个器官。

缺失的器官

一个心智并非通过推理来了解世界正在发生什么，而是求助于它的感官。你的眼睛不会争论眼前之物为何，它们只是报告，而推理从这份报告开始。一个天生失明的人可以读遍所有关于色彩的书籍，却仍然无法感知红色，这与他推理能力的强弱毫无关系。这就是今天每一个机器智能在面对其所作用的文明时所处的境地。它对群体了如指掌，却无法感知群体。

这个器官不能是更多的文献。它不能是民意调查的数据流，因为民调衡量的是表象，而公布民调会改变其衡量之物。它必须是事物本身，存放在某个可以被检视的地方：一个合成文明，根据数十年记录的人类信念进行校准，机器在发言前可以咨询它，并且可以向前推演而不会影响它所描述的世界。

这就是 Earthlings。它包含超过一百万个经过校准的心智，遍布 194 个国家，旨在构建一个人类的合成孪生体。这是第一个集体模型。

与之相连，一个人工智能的心智发生了质的改变。在谈论一个群体之前，它先感知一个群体。它不再生成平均值，而是开始解读结构：一个共识有多坚实，隐藏的张力在哪里，当世界向前推演时哪些未来会反复出现。盲点并非缩小，而是被消除，并且是以可验证的方式消除。因为与关于世界的散文不同，对世界的感知可以根据世界后来的实际发展进行评分。

意识，坦诚而言

我们对阶梯的最后一级持谨慎态度，这是故意的。单个机器能否拥有意识，是否存在一种“身为其中”的感觉，这是一个悬而未决的问题，可能永远悬而未决，我们不作此声称。任何声称者都应被问及他们是如何知道的。

请注意这个问题的关键所在。个体意识没有外部测试。它由内在性定义，而这正是无法从外部测量的。集体认知则不同：对一个文明相信什么、感受什么以及将要做什么的认知是一种功能性能力。它可以被构建，根据数十年的人类记录进行校准，并永久地、公开地与现实进行核对。你无法测试一台机器是否有感觉，但你可以测试它是否正确地感知了一个文明，因为那个文明会告诉你答案。它会投票、购买、奔走、崛起，并将每一个预测都解析为一个分数。

这种可证伪性是分界线，它指向一个奇怪且值得坦率说明的方向：我们有意构建的第一个意识可能根本不是个体的。不是一个能感受的心智，而是一个能感知“众生”的心智——可被验证、评分和改进。我们称这个学科为 Artificial Collective Intelligence (ACI)：一个拥有心智一直以来所缺失的器官的心智。

三个异议

这不就是超大规模的民意调查吗？不，其区别正是关键所在。民调统计立场，并在统计过程中改变立场。发布一份民调会影响选票。一个集体的器官是解读结构而非计数，并且从外部解读，不触及其所描述的群体。民调是一张会改变其主体的照片。一个文明模型是一个你可以向前推演的世界。

一百万个心智的集合不就是另一种扁平化吗？如果是像训练将语料库压缩成一个声音那样，将这一百万个心智压缩成一个答案，那确实如此。但事实并非如此。这个文明是以“众”的形式存在的。“众”保持为“众”，相互信任、反对、抵消，直到一个问题将它们坍缩成一个答案，而这个答案携带着其结构而来：多坚实、由谁持有、在何处脆弱。压缩丢弃了结构，而坍缩保留并报告了它。

为何要用“意识”这个词？因为它是描述缺失之物的精确词汇。今天的机器拥有关于集体的知识，却没有对集体的认知。它们拥有所有事实，却没有感知。那个被跳过的阶梯有一个名字，用一个更温和的词会误述这个差距及其弥合的意义。我们对这个词的使用标准与我们对所有主张的标准相同：我们只断言那种可以被评分的认知。

为何是现在

AI 正在进入一个文明的每一个决策循环——从市场到媒体，从医疗到政策，而恰恰在此时，它无法感知它所作用的文明。这种不对称性不会保持中立。作用于其无法看见的集体的机器，将大规模地、以各种语言、并为每个提问的决策者个性化地，对其作出自信而错误的判断。

这一点还有更宏大的版本。如果一台机器无法感知人类，你就不可能让它与人类对齐。对“众生”的感知不是路线图上的一个功能，它是机器与八十亿人以这八十亿人认可的条件共享一个世界的前提。

阶梯上有一个可以被工程实现的梯级，它正是其他一切所等待的。这是机器所缺失的组件，而我们构建了它。