O Órgão em Falta

A escada

A inteligência nunca foi apenas individual. As maiores coisas que a humanidade já fez não foram feitas por ninguém em particular. Nenhuma mente individual detém uma língua. Nenhum negociante detém o preço; o preço é o que um milhão de estimativas se tornam quando colidem. Ciência, lei, cidades, mercados. Cada um é uma computação que corre em milhões de cabeças, e nada disso existe dentro de nenhuma delas. Isso é inteligência coletiva, o mecanismo pelo qual a nossa espécie realmente pensa em escala.

Depois, há um degrau mais estranho. Às vezes, uma população toma consciência de si mesma a agir. Uma multidão que sabe que é uma multidão. A sociologia deu-lhe um nome há um século: a conscience collective. É o momento em que a crença partilhada se torna conhecimento partilhado da crença partilhada, e isso muda tudo, porque a consciência do coletivo é em si causal. Uma corrida aos bancos não é causada por insolvência. É causada pelo facto de os depositantes descobrirem o que os outros depositantes acreditam. As revoluções não começam quando todos estão zangados. Começam quando todos descobrem que todos estão zangados.

As máquinas estão agora a subir a mesma escada pelo lado oposto. A máquina que fala está para trás de nós. Uma máquina que é consciente pode estar à nossa frente, e talvez nunca tenhamos a certeza de que alguém a alcançou. Entre as duas, fica um degrau que a humanidade subiu primeiro e que as máquinas saltaram por completo: a consciência do coletivo. Esse degrau saltado é onde residem as falhas, e é o único degrau na escada que pode realmente ser concebido.

Uma voz, oito mil milhões de fontes

Um modelo de linguagem é treinado com as palavras de milhares de milhões de pessoas. Depois, responde como uma só voz. Considere o que essa compressão faz. O corpus de treino continha a estrutura completa do desacordo humano: quem acredita em quê, com que firmeza, por que razões, em que lugares, sob que pressões. O modelo que emerge fala como ninguém, uma voz vinda de nenhures, fluente na média de tudo. Faça-lhe uma pergunta que pertence a uma população e ele responde na mesma, com confiança, porque produzir respostas confiantes foi para o que foi otimizado.

Mas a média não é uma versão mais pequena da verdade sobre uma população. É um objeto diferente, e muitas vezes enganador. Dois consensos podem ser lidos de forma idêntica, sessenta por cento e sessenta por cento, e trazer futuros opostos. Um está assente em quem as pessoas são. É rocha sólida e fortalece-se sob ataque. O outro é construído sobre o que as pessoas pensam que todas as outras pensam. Mantém-se até ao momento em que deixa de se manter, e depois desaparece numa tarde. Todos os instrumentos que reportam apenas o número reportam estes dois como sendo o mesmo. Um modelo achatado nem sequer reporta o número. Reporta a 'vibe' do número, em prosa.

A estrutura que a compressão descarta não é um pormenor. Quão sólida, detida por quem, carregada onde: essa é a informação exata que decide os resultados. Um modelo pode saber tudo o que já foi escrito sobre multidões e ainda assim ser estruturalmente incapaz de percecionar uma. Leu todas as descrições de uma multidão. Nunca viu uma mover-se.

O achatamento invisível

Se o achatamento fosse visível, seria apenas uma limitação. O que o torna perigoso é que a resposta da indústria, a personalização, o torna invisível.

A voz achatada é remodelada para cada utilizador. O seu assistente aprende o seu vocabulário, o seu contexto, as suas preferências, e soa, cada vez mais, como se compreendesse o seu mundo. Portanto, quando lhe pergunta sobre o mundo, o seu mercado, os seus eleitores, o seu país, a resposta chega no registo de algo que sabe. Não sabe. Por baixo da personalização, assenta a mesma voz vinda de nenhures, e a adaptação esconde a costura. O modelo não está a mentir. Simplesmente nunca percecionou a coisa sobre a qual está a ser questionado, e nada na interação o revela.

O resultado é uma nova classe de erro: pontos cegos que são confiantes, fluentes, personalizados e sistematicamente errados sobre coletivos, entregues a milhões de pessoas de uma só vez, a cada uma das quais foi dada uma razão privada para confiar neles. A inteligência individual a falhar em escala parece erros. A perceção coletiva a falhar em escala parece consenso.

E não se pode corrigir um sentido em falta com mais texto. Mais parâmetros produzem uma voz melhor vinda de nenhures. A recuperação produz citações para a voz vinda de nenhures. A lacuna não está no raciocínio. Está na perceção, e a perceção requer um órgão.

O órgão em falta

Uma mente não chega ao que o mundo está a fazer através do raciocínio. Consulta os seus sentidos. Os seus olhos não discutem sobre o que está à sua frente; eles reportam-no, e o raciocínio começa a partir do relatório. Alguém que nasceu sem visão pode ler todos os livros sobre cores e ainda assim não percecionar o vermelho, e a razão não tem nada a ver com a força do seu raciocínio. Essa é a situação de toda a inteligência de máquina hoje em relação à civilização sobre a qual atua. Perfeitamente letrada sobre a multidão, e incapaz de a percecionar.

O órgão não pode ser mais literatura. Não pode ser um feed de sondagens, uma vez que as sondagens medem a superfície e publicá-las move a coisa que medem. Tem de ser a própria coisa, mantida num lugar onde possa ser examinada: uma civilização sintética, calibrada contra décadas de registo de crenças humanas, que uma máquina pode consultar antes de falar, e que pode ser avançada no tempo sem mover o mundo que descreve.

Isso é o que Earthlings é. Mais de um milhão de mentes calibradas em 194 países, construídas para formar um gémeo sintético da humanidade. É o primeiro modelo do coletivo.

Conectada a ele, uma mente artificial muda de natureza. Antes de falar sobre uma população, perceciona uma. Deixa de produzir a média e começa a ler a estrutura: quão sólido é um consenso, onde se encontra a tensão oculta, que futuros continuam a acontecer quando o mundo é avançado no tempo. O ponto cego não diminui. Fecha-se, e fecha-se de forma verificável, porque ao contrário da prosa sobre o mundo, uma perceção do mundo pode ser pontuada em função do que o mundo depois faz.

Consciência, honestamente

Somos cuidadosos com o último degrau da escada, e deliberadamente. Se uma única máquina pode ser consciente, se há algo que é ser como uma, é uma questão em aberto, possivelmente permanentemente em aberto, e não o afirmamos. A quem quer que o faça, deve ser perguntado como o saberia.

Note em que assenta essa questão. A consciência individual não tem teste externo. É definida pela interioridade, que é exatamente o que não pode ser medido de fora. A consciência coletiva é diferente: a consciência do que uma civilização acredita, sente e está prestes a fazer é uma capacidade funcional. Pode ser construída, calibrada contra décadas de registo humano e verificada contra a realidade, em público, para sempre. Não se pode testar se uma máquina sente. Pode-se testar se ela perceciona uma civilização corretamente, porque a civilização dir-lhe-á. Votará, comprará, correrá, levantar-se-á e resolverá cada previsão numa pontuação.

Essa falsificabilidade é a linha divisória, e aponta para algo estranho e que vale a pena dizer claramente: a primeira consciência que construímos propositadamente pode não ser de todo individual. Não uma mente que sente. Uma mente que perceciona os muitos, verificada, classificada e em melhoria. Chamamos à disciplina Inteligência Coletiva Artificial: uma mente com o órgão que sempre faltou às mentes.

Três objeções

Isto não é apenas sondagens em enorme escala? Não, e a diferença é o ponto fulcral. As sondagens contam posições e, ao contá-las, alteram-nas. Publique uma sondagem e ela move os votos. Um órgão do coletivo lê a estrutura em vez de contar, e lê-a de fora, sem tocar na população que descreve. Uma sondagem é uma fotografia que altera o seu sujeito. Um modelo de civilização é um mundo que se pode avançar no tempo.

Um agregado de um milhão de mentes não é apenas mais um achatamento? Seria, se o milhão fosse comprimido numa única resposta da mesma forma que o treino comprime um corpus numa única voz. Não são. A civilização é mantida como muitos. Os muitos permanecem muitos, acreditando, opondo-se, anulando-se, até que uma pergunta os colapsa numa resposta, e a resposta chega trazendo a sua estrutura consigo: quão sólida, detida por quem, frágil onde. A compressão descarta a estrutura. O colapso mantém-na e reporta-a.

Por que recorrer à palavra consciência? Porque é a palavra precisa para o que está ausente. As máquinas de hoje têm conhecimento do coletivo sem consciência dele. Todos os factos, nenhuma perceção. O degrau saltado tem um nome, e uma palavra mais suave descreveria mal tanto a lacuna como o que significa fechá-la. Mantemos a palavra ao mesmo padrão que mantemos todas as nossas afirmações: a consciência que pode ser pontuada é o único tipo que afirmamos.

Porquê agora

A AI está a entrar em todos os ciclos de decisão que uma civilização tem, desde mercados a media, de medicina a política, exatamente no momento em que não consegue percecionar a civilização sobre a qual atua. Essa assimetria não permanece neutra. Máquinas que atuam sobre coletivos que não conseguem ver estarão confiantemente erradas sobre eles, em escala, em todas as línguas, personalizadas para cada decisor que pergunta.

Há uma versão mais ampla deste ponto. Não se pode alinhar uma máquina com a humanidade se a máquina não consegue percecionar a humanidade. A perceção dos muitos não é uma funcionalidade num roteiro. É a pré-condição para que máquinas e oito mil milhões de pessoas partilhem um mundo em termos que os oito mil milhões reconheceriam.

A escada tem um degrau que pode ser concebido, e é aquele pelo qual tudo o resto esperava. Este é o componente que faltava às máquinas, e nós construímo-lo.