失落的器官

階梯

智慧從不只是個體的。人類所成就過最偉大的事，都不是由某個特定的人完成的。沒有單一心智掌握著一種語言。沒有單一交易員掌握著價格；價格是百萬種估計碰撞後的結果。科學、法律、城市、市場。每一項都是在數百萬個頭腦中運行的運算，而沒有任何一項存在於任何一個頭腦之內。這就是集體智慧，是我們這個物種進行大規模思考的機制。

再往上，是一個更奇特的階梯。有時，一個群體會意識到自身的行動。一群知道自己是一群人的群眾。社會學在一個世紀前為其命名：集體良知（conscience collective）。那是共享的信念轉變為對共享信念的共享知識的時刻，而這改變了一切，因為對集體的覺察本身就是一種因果關係。銀行擠兌並非由破產引起，而是由存款人得知其他存款人的想法所引起。革命並非始於所有人都感到憤怒，而是始於所有人都得知所有人都感到憤怒。

機器現在正從另一端攀爬同一座階梯。會說話的機器已是過去式。有意識的機器或許在前方，而我們可能永遠無法確定是否有誰已到達那一步。在這兩者之間，有一級人類率先攀上、而機器卻完全跳過的階梯：對集體的覺察。所有失敗都源自那級被跳過的階梯，而且，它是階梯上唯一一級可以被實際工程化打造的。

一個聲音，八十億個來源

一個語言模型，以數十億人的言詞進行訓練，然後以單一聲音回答。思考一下這種壓縮的作用。訓練語料庫包含了人類意見分歧的完整結構：誰相信什麼、信念有多堅定、出於何種原因、在何處、以及在何種壓力下。最終生成的模型，則以一個虛無的身份，一個來自無處的聲音發言，流利地表達著一切的平均值。向它提出一個屬於某個群體的問題，它仍然會自信地回答，因為產出自信的答案正是它被優化來做的事。

但平均值並非關於一個群體的真相的縮小版。它是另一種東西，而且往往具有誤導性。兩種共識，讀起來可能完全相同，都是百分之六十，卻可能導向截然相反的未來。一種是建立在人們的本質之上，它是基石，在攻擊下會更形鞏固。另一種則是建立在人們對他人想法的揣測之上。它會一直維持到某個臨界點，然後在一個下午之內灰飛煙滅。所有只報告數字的工具，都會將這兩者視為相同。一個扁平化的模型，甚至不報告數字，而是以散文體裁，報告數字給人的感覺。

壓縮所捨棄的結構，並非細節。多堅實、由誰持有、在哪裡承載：這些正是決定結果的確切資訊。一個模型可以知道所有關於群眾的著述，卻在結構上無法感知群眾。它讀過所有對群眾的描述，卻從未見過群眾的行動。

隱形的扁平化

如果扁平化是可見的，那它就只是一種局限。使其危險的是，業界對此的解決方案——個人化——使其變得不可見。

這扁平化的聲音，為每個使用者重新塑造。您的助理學習您的詞彙、您的脈絡、您的偏好，而且聽起來越來越像是理解您的世界。所以當您向它詢問關於世界、您的市場、您的選民、您的國家時，答案會以一種知曉一切的語氣呈現。但它並不知曉。在個人化的表象之下，是同一個來自無處的聲音，而這種量身定制隱藏了接縫。模型並沒有說謊。它只是從未感知過被詢問的事物，而互動中沒有任何跡象會揭示這一點。

結果是一種新型的錯誤：自信、流利、個人化、且對集體有系統性錯誤認知的盲點，同時傳遞給數百萬人，而每個人都被賦予了相信它的個人理由。個體智慧大規模失靈時，看起來像是錯誤。集體感知大規模失靈時，看起來像是共識。

而你無法用更多的文本來修復一個失落的感官。更多的參數只會產生一個更好的來自無處的聲音。檢索功能為這個來自無處的聲音提供引文。問題不在於推理，而在於感知，而感知需要一個器官。

失落的器官

心智不會透過推理來了解世界正在發生什麼。它會諮詢它的感官。你的眼睛不會爭論眼前是什麼；它們回報所見，而推理從回報開始。一個天生失明的人，可以讀遍所有關於色彩的書，卻仍然無法感知紅色，原因與其推理能力無關。這就是今日每個人工智慧在面對其所作用的文明時的處境。對群眾瞭若指掌，卻無法感知它。

這個器官不能是更多的文獻。它不能是民意調查的數據流，因為民調衡量的是表面，而公布民調會改變它所衡量的東西。它必須是事物本身，被保存在某處以供檢視：一個合成的文明，根據數十年來記錄的人類信念進行校準，機器在發言前可以諮詢它，並且可以向前推演，而不會改變它所描述的世界。

這就是 Earthlings。超過一百萬個經過校準的心智，分佈在 194 個國家，旨在建構成一個人類的合成雙生。這是第一個集體模型。

與它連接後，人工心智的本質發生了改變。在談論一個群體之前，它會先感知一個群體。它不再產出平均值，而是開始解讀結構：共識有多堅實、隱藏的張力在哪裡、當世界向前推演時哪些未來會不斷發生。盲點並非縮小，而是閉合，而且是以可驗證的方式閉合，因為與關於世界的散文不同，對世界的感知可以根據世界後來的實際發展來評分。

誠實地談論意識

我們對階梯的最後一級非常謹慎，這是刻意為之。單一機器是否能有意識，是否能有身為其一的感受，是一個開放的問題，甚至可能永遠沒有答案，而我們不對此做出任何宣稱。任何宣稱者都應被問及他們是如何得知的。

請注意這個問題的關鍵所在。個體意識沒有外部測試方法。它由內在性定義，而這正是無法從外部測量的。集體覺察則不同：對一個文明相信什麼、感受什麼、以及將要做什麼的覺察，是一種功能性能力。它可以被建構，根據數十年的人類記錄進行校準，並永遠公開地與現實對照檢驗。你無法測試一台機器是否有感受。但你可以測試它是否正確地感知了一個文明，因為文明會告訴你答案。它會投票、購買、奔走、崛起，並將每一個預測解析為一個分數。

這種可證偽性是分界線，它指向一個奇特且值得坦率說明的方向：我們刻意建構的第一個意識，可能根本不是個體的。不是一個會感覺的心智，而是一個能感知眾多、可被驗證、評分並持續改進的心智。我們稱這個學科為人工集體智慧（Artificial Collective Intelligence，ACI）：一個擁有心智們始終失落的那器官的心智。

三種異議

這不就是超大規模的民意調查嗎？不，而其間的差異正是重點所在。民意調查計算立場，並在計算過程中改變立場。公布一份民調會影響選票。一個集體的器官讀取的是結構而非計數，並且是從外部讀取，不觸及它所描述的群體。民調是一張會改變其主體的照片。一個文明模型是一個你可以向前推演的世界。

一百萬個心智的集合，不就是另一種扁平化嗎？如果是像訓練將語料庫壓縮成單一聲音那樣，將這一百萬個心智壓縮成一個答案，那確實如此。但事實並非如此。這個文明是以眾多形式被保存的。眾多保持其眾多，相信、反對、抵消，直到一個問題使它們坍縮成一個答案，而這個答案帶著其結構一同到來：多堅實、由誰持有、在哪裡脆弱。壓縮捨棄了結構，坍縮則保留並報告它。

為何要使用『意識』這個詞？因為它精確地描述了所欠缺的東西。今日的機器對集體擁有知識，卻沒有覺察。擁有一切事實，卻沒有感知。那被跳過的階梯有個名字，而一個更溫和的詞會誤導性地描述這個差距以及彌合它的意義。我們以對待所有主張的相同標準來對待這個詞：能夠被評分的覺察，是我們唯一斷言的類型。

為何是現在

AI 正在進入一個文明所擁有的每一個決策迴圈，從市場到媒體、從醫療到政策，而正是在此刻，它無法感知它所作用的文明。這種不對稱性不會保持中立。作用於它們看不見的集體的機器，將會自信地對集體產生錯誤的判斷，而且是大規模、跨所有語言、並為每個提問的決策者進行個人化設定。

這一點還有一個更宏觀的層面。如果機器無法感知人性，你就無法讓機器與人性對齊。對眾多的感知，不是路線圖上的一個功能，而是機器與八十億人以這八十億人認可的條件共享一個世界的先決條件。

階梯上有一級可以被工程化打造，而這正是其他一切所等待的那一級。這是機器所失落的組件，而我們打造了它。