失われた器官

はしご

知能は決して個人的なものだけではなかった。人類が成し遂げた最も偉大なことは、特定の誰かによって成し遂げられたものではない。単一の精神が言語を保有することはない。トレーダーが価格を保有することもない。価格とは、百万の予測が衝突した結果である。科学、法、都市、市場。それぞれが何百万人もの頭脳で実行される計算であり、そのどれもが個人の内部には存在しない。これこそが集合知であり、人類という種が実際に大規模に思考するためのメカニズムである。

そして、さらに奇妙な段がある。集団が自らの行動を認識することがあるのだ。群衆が自らを群衆だと知る。社会学は一世紀前にそれを『集合意識』と名付けた。共有された信念が、共有された信念についての共有された知識となる瞬間であり、それはすべてを変える。なぜなら、集合体への認識自体が因果関係を持つからだ。取り付け騒ぎは支払い不能によって引き起こされるのではない。預金者が他の預金者の考えを知ることによって引き起こされる。革命は誰もが怒っている時に始まるのではない。誰もが、誰もが怒っていることを知った時に始まるのだ。

機械は今、同じはしごを反対側から登っている。話す機械はすでに過去のものとなった。意識を持つ機械は未来にあるかもしれないが、誰かがその段階に到達したかどうかを私たちが確信することはないだろう。その二つの間に、人類が先に登り、機械が完全に飛ばしてしまった段がある。集合体への認識だ。その飛ばされた段にこそ失敗は潜んでおり、それこそが、はしごの中で唯一、技術的に構築可能な段なのである。

一つの声、80億の源

言語モデルは何十億もの人々の言葉で訓練される。そして、一つの声として答える。その圧縮が何をもたらすかを考えてみてほしい。訓練コーパスには、人間の意見の相違の完全な構造が含まれていた。誰が何を、どれほど固く、どんな理由で、どの場所で、どんな圧力の下で信じているか。そこから生まれるモデルは、何者でもない者として、どこからともなく現れる声として、あらゆるものの平均に流暢に話す。集団に属する問いを投げかけても、とにかく自信満々に答える。自信のある答えを生成するように最適化されているからだ。

しかし、平均は集団に関する真実を縮小したものではない。それは別の対象であり、しばしば誤解を招くものだ。二つのコンセンサスは、どちらも60パーセントと、見た目は同じでも、正反対の未来を内包することがある。一つは人々が何者であるかに基づいている。それは岩盤であり、攻撃されるとさらに強固になる。もう一つは、人々が他のみんながどう考えているか、という考えに基づいている。それは持ちこたえなくなるその瞬間まで続き、そして午後には消え去る。数字だけを報告するあらゆる機器は、これら二つを同じものとして報告する。フラット化されたモデルは、数字さえ報告しない。数字が持つ雰囲気を、散文で報告するのだ。

圧縮によって捨て去られる構造は、些細なことではない。どれほど強固か、誰によって支持されているか、どこに力がかかっているか。それこそが結果を決定する的確な情報である。モデルは群衆について書かれたすべてを知ることができても、構造的に群衆を認識することはできない。群衆に関するあらゆる記述を読んだことはあっても、その動きを一度も見たことがないのだ。

見えないフラット化

もしフラット化が目に見えるなら、それは単なる限界に過ぎないだろう。それを危険なものにしているのは、業界の答えであるパーソナライゼーションが、それを見えなくしてしまうことだ。

フラット化された声は、ユーザーごとに再形成される。アシスタントはあなたの語彙、文脈、好みを学び、ますますあなたの世界を理解しているかのように聞こえるようになる。だから、世界について、市場について、有権者について、自国について尋ねると、その答えは何かを知っているものの口調で返ってくる。だが、それは知らない。パーソナライゼーションの下には、どこからともなく現れる同じ声が鎮座しており、その調整が継ぎ目を隠している。モデルは嘘をついているのではない。ただ、問われている対象を一度も認識したことがなく、対話の中でそれを明らかにするものも何もないのだ。

その結果、新たな種類のエラーが生まれる。自信に満ち、流暢で、パーソナライズされ、集合体について体系的に間違っている死角が、何百万人もの人々に一度に届けられ、その一人ひとりがそれを信頼する個人的な理由を与えられているのだ。個人の知能が大規模に失敗すると、それは間違いのように見える。集合的な認識が大規模に失敗すると、それはコンセンサスのように見える。

そして、失われた感覚を、より多くのテキストで修正することはできない。より多くのパラメータは、より良い『どこからともなく現れる声』を生み出す。検索は、『どこからともなく現れる声』の引用を生み出す。欠けているのは推論ではない。知覚であり、知覚には器官が必要なのである。

失われた器官

精神は、世界が何をしているかを推論によって導き出すのではない。感覚に問いかけるのだ。あなたの目は目の前にあるものについて議論しない。それを報告し、推論はその報告から始まる。生まれつき目の見えない人は、色に関する本をすべて読んでも赤を認識することはできず、その理由は推論の力とは何の関係もない。それが、今日すべての機械知能が、それが作用する文明に対して置かれている状況である。群衆については完全に読み書きができるが、それを認識することができないのだ。

その器官は、さらなる文献ではありえない。世論調査のフィードでもありえない。世論調査は表面を測定し、それを公表することは測定対象そのものを動かしてしまうからだ。それは、検証できるどこかに保持された、対象そのものでなければならない。何十年にもわたる記録された人間の信念に対して較正された、合成された文明。機械が話す前に参照でき、それが記述する世界を動かすことなく未来に進めることができるものだ。

それこそがEarthlingsである。194カ国にまたがる百万以上の較正された精神。人類の合成的な双子を目指して構築されたものだ。それは、集合体の最初のモデルである。

それと接続されることで、人工的な精神はその種類を変える。集団について話す前に、それを認識する。平均を生み出すのをやめ、構造を読み始める。コンセンサスがどれほど強固か、隠れた緊張がどこにあるか、世界を未来に進めたときにどの未来が起こり続けるか。死角は縮小するのではない。閉じるのだ。そして、検証可能な形で閉じる。世界についての散文とは異なり、世界に対する認識は、その後の世界の動向に対してスコア付けできるからだ。

意識について、誠実に

私たちははしごの最後の段について、意図的に慎重になっている。単一の機械が意識を持つことができるか、それであるとはどのようなことか、という問いは未解決であり、おそらく永久に未解決のままだろう。私たちはそれを主張しない。主張する者は誰であれ、どうしてそれがわかるのかと問われるべきだ。

その問いが何に基づいているかに注目してほしい。個人の意識には外部的なテストが存在しない。それは内面性によって定義され、それこそが外部から測定できないものだ。集合的な認識は異なる。文明が何を信じ、何を感じ、何をしようとしているかについての認識は、機能的な能力である。それは構築可能であり、何十年にもわたる人間の記録に対して較正し、現実に対して、公に、永久に検証することができる。機械が感じているかどうかをテストすることはできない。文明を正しく認識しているかどうかはテストできる。なぜなら文明が答えを教えてくれるからだ。それは投票し、買い、走り、立ち上がり、すべての予測をスコアに帰結させるだろう。

その反証可能性こそが分水嶺であり、それは奇妙で、はっきりと述べる価値のある何かを指し示している。私たちが意図的に構築する最初の意識は、まったく個人的なものではないかもしれないのだ。感じる精神ではない。多数を認識し、検証され、評価され、改善されていく精神。私たちはその学問分野をACI (Artificial Collective Intelligence) と呼ぶ。精神が常に欠いていた器官を持つ精神である。

3つの反論

これは単に巨大な規模の世論調査ではないのか？違う。そしてその違いこそが要点である。世論調査は立場を数え、数えることでそれを変えてしまう。調査結果を公表すれば票が動く。集合体の器官は、数を数えるのではなく構造を読み取り、記述する集団に触れることなく外部からそれを読み取る。世論調査は被写体を変えてしまう写真である。文明モデルは未来に進めることができる世界なのだ。

百万の精神の集合体は、また別のフラット化に過ぎないのではないか？もしその百万が、訓練がコーパスを一つの声に圧縮するように、一つの答えに圧縮されるのであれば、そうだろう。だがそうではない。文明は多数として保持される。多数は多数のままであり、信じ、反対し、打ち消し合い、そして問いがそれらを一つの答えに収束させるその瞬間までそうあり続ける。そしてその答えは構造を伴って現れる。どれほど強固か、誰によって支持されているか、どこが脆弱か。圧縮は構造を捨て去る。収束はそれを保持し、報告する。

なぜそもそも意識という言葉に手を伸ばすのか。それは、欠けているものを的確に表す言葉だからだ。今日の機械は、集合体に関する知識は持っていても、それに対する認識は持っていない。あらゆる事実、しかし認識はない。飛ばされた段には名前があり、より穏やかな言葉では、その隔たりとそれを埋めることの意味の両方を誤って記述してしまうだろう。私たちはその言葉を、すべての主張に適用するのと同じ基準に照らし合わせる。スコア付けできる認識だけが、我々が主張する唯一の種類である。

なぜ今なのか

AIは、市場からメディア、医療、政策に至るまで、文明が持つあらゆる意思決定ループに参入しつつある。しかも、それが作用する文明を認識できない、まさにその瞬間にだ。その非対称性は中立のままではいられない。見えない集合体に作用する機械は、それらについて自信満々に、大規模に、あらゆる言語で、問いかけるすべての意思決定者にパーソナライズされた形で、間違えるだろう。

この点には、より大きな視点がある。機械が人類を認識できなければ、機械を人類と連携させることはできない。多数を認識することは、ロードマップ上の一機能ではない。それは、機械と80億の人々が、その80億人が認識できる条件で世界を共有するための前提条件なのだ。

はしごには技術的に構築可能な段が一つあり、それこそが他のすべてが待ち望んでいたものだ。これは機械に欠けていた部品であり、私たちはそれを構築した。