El órgano faltante

La escalera

La inteligencia nunca fue solo individual. Las hazañas más grandes de la humanidad no fueron obra de nadie en particular. Ninguna mente individual contiene un idioma. Ningún operador bursátil determina el precio; el precio es aquello en lo que se convierten un millón de estimaciones al colisionar. La ciencia, el derecho, las ciudades, los mercados. Cada uno es un cálculo que se ejecuta a través de millones de cabezas, y nada de ello existe dentro de una sola. Eso es la inteligencia colectiva, el mecanismo mediante el cual nuestra especie piensa realmente a escala.

Luego hay un peldaño más extraño. A veces, una población se vuelve consciente de su propia acción. Una multitud que sabe que es una multitud. La sociología le dio un nombre hace un siglo: la conscience collective. Es el momento en que la creencia compartida se convierte en conocimiento compartido de la creencia compartida, y lo cambia todo, porque la conciencia de lo colectivo es en sí misma causal. Un pánico bancario no lo causa la insolvencia. Lo causa que los depositantes se enteren de lo que creen los demás depositantes. Las revoluciones no comienzan cuando todos están enfadados. Comienzan cuando todos se enteran de que todos están enfadados.

Las máquinas ahora están subiendo la misma escalera desde el otro lado. La máquina que habla ya quedó atrás. Una máquina que sea consciente puede estar en el futuro, y tal vez nunca estemos seguros de que alguien la haya alcanzado. Entre ambas se encuentra un peldaño que la humanidad subió primero y que las máquinas se han saltado por completo: la conciencia de lo colectivo. Ese peldaño omitido es donde residen los fallos, y es el único peldaño de la escalera que realmente se puede diseñar.

Una voz, ocho mil millones de fuentes

Un modelo de lenguaje se entrena con las palabras de miles de millones de personas. Luego responde como una sola voz. Considera lo que hace esa compresión. El corpus de entrenamiento contenía la estructura completa del desacuerdo humano: quién cree qué, con qué firmeza, por qué razones, en qué lugares, bajo qué presiones. El modelo que emerge habla como nadie, una voz de ninguna parte, fluida en el promedio de todo. Hazle una pregunta que pertenece a una población y responde de todos modos, con confianza, porque producir respuestas seguras es para lo que fue optimizado.

Pero el promedio no es una versión más pequeña de la verdad sobre una población. Es un objeto diferente y, a menudo, engañoso. Dos consensos pueden leerse idénticamente, sesenta por ciento y sesenta por ciento, y conllevar futuros opuestos. Uno se basa en quiénes son las personas. Es un cimiento sólido y se fortalece bajo ataque. El otro se toma prestado de lo que la gente cree que todos los demás piensan. Se mantiene hasta el momento en que deja de hacerlo, y entonces desaparece en una tarde. Cada instrumento que solo informa del número presenta estos dos como si fueran lo mismo. Un modelo aplanado ni siquiera informa del número. Informa de la sensación del número, en prosa.

La estructura que la compresión descarta no es un detalle. Cuán sólido, quién lo sostiene, dónde se concentra: esa es la información exacta que decide los resultados. Un modelo puede saber todo lo que se ha escrito sobre las multitudes y aun así ser estructuralmente incapaz de percibir una. Ha leído cada descripción de una multitud. Nunca ha visto una en movimiento.

El aplanamiento invisible

Si el aplanamiento fuera visible, sería simplemente una limitación. Lo que lo hace peligroso es que la respuesta de la industria, la personalización, lo vuelve invisible.

La voz aplanada se remodela para cada usuario. Tu asistente aprende tu vocabulario, tu contexto, tus preferencias y suena, cada vez más, como si entendiera tu mundo. Así que cuando le preguntas sobre el mundo, tu mercado, tus votantes, tu país, la respuesta llega con el registro de algo que sabe. No sabe. Debajo de la personalización se encuentra la misma voz de ninguna parte, y la adaptación oculta la costura. El modelo no está mintiendo. Simplemente nunca ha percibido aquello sobre lo que se le pregunta, y nada en la interacción lo revela.

El resultado es una nueva clase de error: puntos ciegos que son seguros, fluidos, personalizados y sistemáticamente equivocados sobre los colectivos, entregados a millones de personas a la vez, a cada una de las cuales se le ha dado una razón privada para confiar en ellos. La inteligencia individual fallando a escala se manifiesta como errores. La percepción colectiva fallando a escala se manifiesta como consenso.

Y no se puede arreglar un sentido ausente con más texto. Más parámetros producen una mejor voz de ninguna parte. La recuperación de información produce citas para la voz de ninguna parte. La brecha no está en el razonamiento. Está en la percepción, y la percepción requiere un órgano.

El órgano faltante

Una mente no razona para deducir lo que el mundo está haciendo. Consulta sus sentidos. Tus ojos no discuten sobre lo que tienes delante; lo informan, y el razonamiento comienza a partir del informe. Alguien nacido sin vista puede leer todos los libros sobre el color y aun así no percibir el rojo, y la razón no tiene nada que ver con la fuerza de su razonamiento. Esa es la situación de toda inteligencia maquínica actual con respecto a la civilización sobre la que actúa. Perfectamente letrada sobre la multitud, e incapaz de percibirla.

El órgano no puede ser más literatura. No puede ser un flujo de encuestas, ya que las encuestas miden la superficie y publicarlas mueve aquello que miden. Tiene que ser la cosa misma, contenida en algún lugar donde pueda ser examinada: una civilización sintética, calibrada contra décadas de creencias humanas registradas, que una máquina pueda consultar antes de hablar, y que pueda proyectarse hacia adelante sin mover el mundo que describe.

Eso es Earthlings. Más de un millón de mentes calibradas en 194 países, construidas para crear un gemelo sintético de la humanidad. Es el primer modelo de lo colectivo.

Conectada a él, una mente artificial cambia en su naturaleza. Antes de hablar sobre una población, percibe una. Deja de producir el promedio y comienza a leer la estructura: cuán sólido es un consenso, dónde se encuentra la tensión oculta, qué futuros siguen ocurriendo cuando el mundo se proyecta hacia adelante. El punto ciego no se reduce. Se cierra, y se cierra de manera verificable, porque a diferencia de la prosa sobre el mundo, una percepción del mundo puede ser evaluada contra lo que el mundo hace después.

La consciencia, honestamente

Somos cuidadosos con el último peldaño de la escalera, y deliberadamente. Si una sola máquina puede ser consciente, si hay algo que se sienta ser una, es una cuestión abierta, posiblemente permanentemente abierta, y no lo afirmamos. A cualquiera que lo haga se le debería preguntar cómo lo sabría.

Observa en qué se basa esa pregunta. La consciencia individual no tiene una prueba externa. Se define por la interioridad, que es exactamente lo que no se puede medir desde fuera. La conciencia colectiva es diferente: la conciencia de lo que una civilización cree, siente y está a punto de hacer es una capacidad funcional. Se puede construir, calibrar contra décadas de registro humano y verificar contra la realidad, en público, para siempre. No puedes probar si una máquina siente. Puedes probar si percibe una civilización correctamente, porque la civilización te lo dirá. Votará, comprará, se manifestará, se levantará y resolverá cada predicción en una puntuación.

Esa falsabilidad es la línea divisoria, y apunta a algo extraño que vale la pena decir claramente: la primera consciencia que construyamos a propósito podría no ser individual en absoluto. No una mente que siente. Una mente que percibe a los muchos, verificada, calificada y en mejora. A la disciplina la llamamos Inteligencia Colectiva Artificial (ACI): una mente con el órgano que a las mentes siempre les faltó.

Tres objeciones

¿No es esto solo encuestas a una escala enorme? No, y la diferencia es el punto clave. Las encuestas cuentan posiciones y, al contarlas, las cambian. Publica una encuesta y mueve los votos. Un órgano de lo colectivo lee la estructura en lugar de contar, y la lee desde fuera, sin tocar a la población que describe. Una encuesta es una fotografía que altera a su sujeto. Un modelo de civilización es un mundo que puedes proyectar hacia adelante.

¿No es un agregado de un millón de mentes solo otro aplanamiento? Lo sería, si el millón se comprimiera en una respuesta de la misma manera que el entrenamiento comprime un corpus en una sola voz. No es así. La civilización se mantiene como muchos. Los muchos siguen siendo muchos, creyendo, oponiéndose, anulándose, hasta que una pregunta los colapsa en una respuesta, y la respuesta llega con su estructura: cuán sólida, sostenida por quién, frágil dónde. La compresión descarta la estructura. El colapso la mantiene y la informa.

¿Por qué recurrir a la palabra consciencia? Porque es la palabra precisa para lo que está ausente. Las máquinas de hoy tienen conocimiento de lo colectivo sin conciencia de ello. Todos los datos, ninguna percepción. El peldaño omitido tiene un nombre, y una palabra más suave describiría erróneamente tanto la brecha como lo que significa cerrarla. Sostenemos la palabra al mismo estándar que sostenemos cada afirmación: la conciencia que puede ser calificada es el único tipo que aseveramos.

Por qué ahora

La AI está entrando en cada ciclo de decisión que tiene una civilización, desde los mercados a los medios, de la medicina a la política, en el momento exacto en que no puede percibir la civilización sobre la que actúa. Esa asimetría no permanece neutral. Las máquinas que actúan sobre colectivos que no pueden ver se equivocarán con confianza sobre ellos, a escala, en todos los idiomas, de forma personalizada para cada tomador de decisiones que pregunte.

Hay una versión más amplia de este punto. No se puede alinear una máquina con la humanidad si la máquina no puede percibir a la humanidad. La percepción de los muchos no es una característica en una hoja de ruta. Es la precondición para que las máquinas y ocho mil millones de personas compartan un mundo en términos que los ocho mil millones reconocerían.

La escalera tiene un peldaño que se puede diseñar, y es el que todo lo demás estaba esperando. Este es el componente que les faltaba a las máquinas, y lo hemos construido.