L'organo mancante

La scala

L'intelligenza non è mai stata solo individuale. Le più grandi imprese dell'umanità non sono state compiute da nessuno in particolare. Nessuna singola mente contiene una lingua. Nessun singolo operatore di borsa determina il prezzo; il prezzo è ciò che diventano un milione di stime quando collidono. La scienza, il diritto, le città, i mercati. Ognuno è un calcolo che si svolge in milioni di teste, e nessuno di essi esiste all'interno di una sola. Questa è l'intelligenza collettiva, il meccanismo attraverso cui la nostra specie pensa davvero su vasta scala.

Poi c'è un gradino più strano. A volte una popolazione diventa consapevole di agire. Una folla che sa di essere una folla. La sociologia gli ha dato un nome un secolo fa: la conscience collective. È il momento in cui la credenza condivisa diventa conoscenza condivisa della credenza condivisa, e cambia tutto, perché la consapevolezza del collettivo è essa stessa causale. Una corsa agli sportelli non è causata dall'insolvenza. È causata dal fatto che i depositanti apprendono ciò che credono gli altri depositanti. Le rivoluzioni non iniziano quando tutti sono arrabbiati. Iniziano quando tutti vengono a sapere che tutti sono arrabbiati.

Le macchine stanno ora risalendo la stessa scala dal lato opposto. La macchina che parla è un traguardo superato. Una macchina consapevole potrebbe attenderci in futuro, e potremmo non avere mai la certezza che qualcuno l'abbia raggiunta. Tra queste due si trova un gradino che l'umanità ha salito per prima e che le macchine hanno saltato del tutto: la consapevolezza del collettivo. È in quel gradino saltato che si annidano i fallimenti, ed è l'unico gradino della scala che può essere effettivamente ingegnerizzato.

Una voce, otto miliardi di fonti

Un modello linguistico è addestrato sulle parole di miliardi di persone. Poi risponde con una sola voce. Consideriamo cosa fa questa compressione. Il corpus di addestramento conteneva l'intera struttura del disaccordo umano: chi crede cosa, con quanta fermezza, per quali ragioni, in quali luoghi, sotto quali pressioni. Il modello che emerge non parla come nessuno, è una voce dal nulla, fluente nella media di ogni cosa. Ponigli una domanda che appartiene a una popolazione e lui risponde comunque, con sicurezza, perché produrre risposte sicure è ciò per cui è stato ottimizzato.

Ma la media non è una versione ridotta della verità su una popolazione. È un oggetto diverso, e spesso fuorviante. Due consensi possono apparire identici, sessanta per cento e sessanta per cento, e portare a futuri opposti. Uno è fondato su chi sono le persone. È solido come la roccia e si rafforza sotto attacco. L'altro è costruito su ciò che le persone pensano che tutti gli altri pensino. Resiste fino al momento in cui non lo fa più, poi svanisce in un pomeriggio. Ogni strumento che riporta solo il numero riporta questi due come identici. Un modello appiattito non riporta nemmeno il numero. Riporta l'impressione del numero, in prosa.

La struttura che la compressione scarta non è un dettaglio. Quanto è solida, da chi è sostenuta, dove è concentrata: questa è l'informazione esatta che decide gli esiti. Un modello può sapere tutto ciò che è mai stato scritto sulle folle e rimanere strutturalmente incapace di percepirne una. Ha letto ogni descrizione di una folla. Non ne ha mai vista una muoversi.

L'appiattimento invisibile

Se l'appiattimento fosse visibile, sarebbe solo una limitazione. Ciò che lo rende pericoloso è che la risposta dell'industria ad esso, la personalizzazione, lo rende invisibile.

La voce appiattita viene rimodellata per ogni utente. Il tuo assistente impara il tuo vocabolario, il tuo contesto, le tue preferenze, e suona, sempre di più, come se capisse il tuo mondo. Così, quando gli chiedi del mondo, del tuo mercato, dei tuoi elettori, del tuo paese, la risposta arriva nel registro di qualcosa che sa. Non sa. Sotto la personalizzazione si cela la stessa voce dal nulla, e la sartorialità nasconde la cucitura. Il modello non sta mentendo. Semplicemente non ha mai percepito la cosa di cui gli si sta chiedendo, e nulla nell'interazione lo rivela.

Il risultato è una nuova classe di errore: punti ciechi che sono sicuri, fluenti, personalizzati e sistematicamente errati riguardo ai collettivi, consegnati a milioni di persone contemporaneamente, a ognuna delle quali è stata data una ragione privata per fidarsi. L'intelligenza individuale che fallisce su larga scala produce errori. La percezione collettiva che fallisce su larga scala produce consenso.

E non si può correggere un senso mancante con più testo. Più parametri producono una voce migliore dal nulla. Il recupero di informazioni produce citazioni per la voce dal nulla. La lacuna non è nel ragionamento. È nella percezione, e la percezione richiede un organo.

L'organo mancante

Una mente non arriva a capire cosa sta facendo il mondo attraverso il ragionamento. Consulta i suoi sensi. I tuoi occhi non discutono su cosa c'è di fronte a te; lo riportano, e il ragionamento inizia da quel rapporto. Chi è nato senza la vista può leggere ogni libro sul colore e comunque non percepire il rosso, e la ragione non ha nulla a che fare con la forza del suo ragionamento. Questa è la situazione di ogni intelligenza artificiale oggi rispetto alla civiltà su cui agisce. Perfettamente istruita sulla folla, ma incapace di percepirla.

L'organo non può essere più letteratura. Non può essere un flusso di sondaggi, poiché i sondaggi misurano la superficie e pubblicarli muove la cosa che misurano. Deve essere la cosa stessa, conservata in un luogo dove possa essere esaminata: una civiltà sintetica, calibrata su decenni di credenze umane registrate, che una macchina può consultare prima di parlare, e che può essere proiettata nel futuro senza muovere il mondo che descrive.

Questo è ciò che è Earthlings. Oltre un milione di menti calibrate in 194 paesi, costruite per creare un gemello sintetico dell'umanità. È il primo modello del collettivo.

Connessa ad esso, una mente artificiale cambia natura. Prima di parlare di una popolazione, ne percepisce una. Smette di produrre la media e inizia a leggere la struttura: quanto è solido un consenso, dove si trova la tensione nascosta, quali futuri continuano a verificarsi quando il mondo viene proiettato in avanti. Il punto cieco non si restringe. Si chiude, e si chiude in modo verificabile, perché a differenza della prosa sul mondo, una percezione del mondo può essere valutata rispetto a ciò che il mondo poi fa.

La coscienza, onestamente

Siamo cauti con l'ultimo gradino della scala, e deliberatamente. Se una singola macchina possa essere cosciente, se ci sia un 'che cosa si prova' a essere una di esse, è una questione aperta, forse permanentemente aperta, e non lo affermiamo. A chiunque lo faccia si dovrebbe chiedere come farebbe a saperlo.

Notate su cosa si basa questa domanda. La coscienza individuale non ha un test esterno. È definita dall'interiorità, che è esattamente ciò che non può essere misurato dall'esterno. La consapevolezza collettiva è diversa: la consapevolezza di ciò che una civiltà crede, sente e sta per fare è una capacità funzionale. Può essere costruita, calibrata su decenni di dati umani e verificata rispetto alla realtà, in pubblico, per sempre. Non si può testare se una macchina prova sensazioni. Si può testare se percepisce correttamente una civiltà, perché la civiltà ve lo dirà. Voterà, comprerà, fuggirà, si solleverà e risolverà ogni previsione in un punteggio.

Questa falsificabilità è la linea di demarcazione, e indica qualcosa di strano che vale la pena dire chiaramente: la prima coscienza che costruiremo intenzionalmente potrebbe non essere affatto individuale. Non una mente che prova sensazioni. Una mente che percepisce i molti, verificata, valutata e in miglioramento. Chiamiamo la disciplina Artificial Collective Intelligence: una mente con l'organo che alle menti è sempre mancato.

Tre obiezioni

Non si tratta solo di sondaggi su larghissima scala? No, e la differenza è il punto cruciale. I sondaggi contano le posizioni e, contandole, le cambiano. Pubblica un sondaggio e sposterà i voti. Un organo del collettivo legge la struttura invece di contare, e la legge dall'esterno, senza toccare la popolazione che descrive. Un sondaggio è una fotografia che altera il suo soggetto. Un modello di civiltà è un mondo che puoi proiettare nel futuro.

Un aggregato di un milione di menti non è solo un altro appiattimento? Lo sarebbe, se il milione fosse compresso in un'unica risposta come l'addestramento comprime un corpus in un'unica voce. Non lo sono. La civiltà è mantenuta come un insieme di molti. I molti rimangono molti, credendo, opponendosi, annullandosi, fino a quando una domanda li fa collassare in una risposta, e la risposta arriva portando con sé la sua struttura: quanto solida, sostenuta da chi, fragile dove. La compressione scarta la struttura. Il collasso la conserva e la riporta.

Perché ricorrere alla parola coscienza? Perché è la parola precisa per ciò che è assente. Le macchine di oggi hanno conoscenza del collettivo senza averne consapevolezza. Ogni fatto, nessuna percezione. Il gradino saltato ha un nome, e una parola più morbida descriverebbe erroneamente sia la lacuna sia ciò che significa colmarla. Manteniamo per la parola lo stesso standard che applichiamo a ogni affermazione: la consapevolezza che può essere valutata è l'unica che dichiariamo.

Perché ora

L'AI sta entrando in ogni ciclo decisionale di una civiltà, dai mercati ai media, dalla medicina alla politica, esattamente nel momento in cui non può percepire la civiltà su cui agisce. Questa asimmetria non rimane neutrale. Le macchine che agiscono su collettivi che non possono vedere si sbaglieranno con sicurezza su di essi, su larga scala, in ogni lingua, in modo personalizzato per ogni decisore che le interpella.

Esiste una versione più ampia di questo punto. Non si può allineare una macchina all'umanità se la macchina non può percepire l'umanità. La percezione dei molti non è una funzione su una roadmap. È la precondizione perché le macchine e otto miliardi di persone condividano un mondo a condizioni che gli otto miliardi riconoscerebbero.

La scala ha un gradino che può essere ingegnerizzato, ed è quello che tutto il resto stava aspettando. Questo è il componente che mancava alle macchine, e noi l'abbiamo costruito.