Diccionario de inteligencias

En las discusiones actuales sobre inteligencia artificial aparecen continuamente una serie de términos que a menudo se utilizan casi como sinónimos: AGI, superinteligencia, singularidad, consciencia, sintiencia... Una IA se vuelve muy capaz y enseguida alguien pregunta si hemos alcanzado la AGI. Si además supera a los humanos en alguna prueba, aparece la palabra «superinteligencia». Y de ahí parece que solo queda un pequeño salto hasta la singularidad, las máquinas conscientes y, dependiendo del interlocutor, Skynet. Pero en este tipo de conversaciones estamos mezclando cosas muy diferentes. No son necesariamente etapas sucesivas del desarrollo de la IA. De hecho, ni siquiera describen el mismo tipo de propiedad.

Intentemos poner un poco de orden.

Inteligencia artificial general: AGI o IAG

AGI son las siglas en inglés de Artificial General Intelligence. En español podríamos hablar de inteligencia artificial generalista, IAG, aunque las siglas inglesas están mucho más extendidas. La idea nació fundamentalmente por oposición a lo que se denominaba inteligencia artificial «estrecha» (narrow AI): sistemas extraordinariamente buenos haciendo una tarea concreta, pero totalmente incapaces cuando se les saca de esa tarea.

Esto ya hace mucho tiempo que lo vemos. Un programa podía derrotar al campeón mundial de ajedrez y, sin embargo, ser completamente incapaz de jugar a las tres en raya. Eso era inteligencia, si queremos llamarla así, extraordinariamente especializada.

Una AGI sería diferente. Su característica fundamental sería la generalidad: la capacidad de enfrentarse competentemente a un abanico muy amplio de problemas, transferir conocimientos entre ámbitos y desenvolverse ante situaciones para las que no ha sido diseñada específicamente. El problema es que esta definición, que hace unos años parecía bastante clara, se ha vuelto considerablemente más borrosa con la llegada de los grandes modelos de lenguaje (LLM por Large Language Model en inglés).

Un LLM moderno puede escribir un poema, programar, traducir chino, resolver una ecuación diferencial, analizar una fotografía, discutir filosofía, explicar mecánica cuántica o preparar una receta. Y puede enfrentarse a muchas de esas tareas sin haber sido entrenado específicamente para cada una de ellas. Eso se parece sospechosamente a una cierta forma de inteligencia general.

No existe, de hecho, una definición universalmente aceptada de AGI. Algunos investigadores intentan caracterizarla atendiendo a dos propiedades diferentes: hasta qué punto el sistema es competente y hasta qué punto esa competencia se extiende a dominios diferentes. DeepMind, por ejemplo, propone clasificar los sistemas mediante esos dos ejes, rendimiento y generalidad, y tratar la autonomía como una propiedad adicional.

Y esto último es muy importante. Una AGI no tiene por qué tener deseos, motivaciones ni objetivos propios. Aquí estamos mezclando inteligencia con agencia o autonomía. Un sistema puede ser extremadamente inteligente pero limitarse a responder preguntas cuando alguien se las formula. Otro sistema puede recibir un objetivo («organízame un viaje», «sugiéreme una estrategia empresarial», «investiga esta proteína»...) y actuar durante días tomando decisiones, utilizando herramientas y modificando sus planes sin que nadie le diga continuamente qué hacer. El segundo es más autónomo o más «agéntico», pero eso es otra dimensión.

Incluso las definiciones de AGI que incorporan explícitamente agencia, como la utilizada tradicionalmente por OpenAI (sistemas altamente autónomos capaces de superar a los humanos en la mayor parte del trabajo económicamente valioso) hablan de autonomía operativa, no de que la máquina haya desarrollado misteriosamente sus propios deseos.

Por tanto, quizá la manera más útil de pensarlo sea esta: La definición de AGI no está basada en la pregunta «¿quiere cosas esta IA?», sino en «¿en cuántas cosas diferentes puede pensar competentemente?». Y precisamente por eso hay actualmente tanto debate sobre si los sistemas modernos están lejos de la AGI, cerca de ella o si la propia frontera ha dejado de ser particularmente útil.

Mi opinión personal: La definición ha perdido utilidad. Los LLM modernos, en mi humilde opinión, son AGIs. Esto puede sonar a herejía si seguimos pensando en AGI como ese Santo Grial de la IA en que mezclamos en el mismo concepto inteligencia, generalización, autonomía, motivaciones e incluso consciencia. Pero, si nos ceñimos a lo que realmente se define con este concepto, que viene a ser una inteligencia competente en muchos ámbitos simultáneamente, entonces los LLM son AGIs.

Superinteligencia

La superinteligencia responde a otra pregunta diferente. No pregunta cuántas cosas diferentes sabe hacer una IA, sino hasta qué punto las hace bien. La definición clásica de Nick Bostrom es aproximadamente la de un intelecto que supera ampliamente a los mejores cerebros humanos en prácticamente todos los dominios cognitivos relevantes.

La palabra importante aquí es «(prácticamente) todos», porque en otro caso no habría debate. Máquinas sobrehumanas existen desde hace mucho tiempo. Stockfish juega al ajedrez mucho mejor que Magnus Carlsen. Los sistemas de IA actuales empiezan además a mostrar capacidades sobrehumanas en tareas bastante más interesantes. ¿Significa eso que ya tenemos superinteligencia? Si despojamos la palabra de las connotaciones que ha adquirido y nos ceñimos a su sentido literal, la respuesta sería sí. Pero en la práctica no se suele utilizar el término de esa manera.

Sin embargo, entendemos el término de otra manera. Ser sobrehumano en una capacidad concreta no convierte a un sistema en una superinteligencia, de la misma manera que a una excavadora no la llamamos superhumana porque pueda levantar veinte toneladas (aunque quizás sí deberíamos, ateniéndonos a la etimología). Lo extraordinario de una hipotética superinteligencia sería precisamente la amplitud de esa superioridad: matemáticas, ciencia, planificación, programación, estrategia, creatividad, persuasión, aprendizaje...

No se trataría de ser mejor que nosotros en algo, sino de ser mucho mejor que los mejores de nosotros en casi todo. Esto permite además ver que AGI y superinteligencia tampoco son sinónimos. Podríamos imaginar una inteligencia muy general que tuviera aproximadamente capacidades humanas. Sería una AGI, pero no una superinteligencia. Y podríamos imaginar una IA monstruosamente superior a nosotros en matemáticas pero absolutamente inútil fuera de ellas. Sería sobrehumana en matemáticas, pero difícilmente la llamaríamos superinteligencia.

La singularidad

La singularidad no hace referencia a una clase de máquina o de inteligencia, sino a un proceso histórico.

La idea suele asociarse a Vernor Vinge, que popularizó el término en 1993 para definir el punto del desarrollo tecnológico en el que la aparición de inteligencias superiores a la humana produciría cambios tan rápidos y profundos que nuestra capacidad para predecir lo que ocurre después se rompería. La analogía es precisamente con una singularidad matemática o física: un lugar donde nuestros modelos dejan de funcionar. Una de las formas más conocidas de llegar a esa situación es la llamada explosión de inteligencia, formulada por I. J. Good ya en 1965, y viene a ser algo así. Supongamos que construimos una máquina suficientemente inteligente como para diseñar inteligencias artificiales mejores que ella misma. La nueva máquina podría entonces diseñar otra todavía mejor. Y aquella, otra. Si cada generación mejora nuestra capacidad para producir la siguiente, obtenemos un bucle que se retroalimenta, una especie de círculo vicioso de la inteligencia.

Good señaló que el diseño de máquinas inteligentes es, al fin y al cabo, una actividad intelectual. Por tanto, una máquina que superase a los humanos en las actividades intelectuales podría superar también a los humanos diseñando máquinas inteligentes. El resultado podría ser un crecimiento cada vez más rápido de las capacidades, una aceleración que tiende a infinito con el tiempo.

En física y matemáticas, una singularidad es, hablando de forma muy simplificada, un punto en el que una función o las propias ecuaciones con las que describimos un sistema dejan de tener sentido real. En relatividad general, por ejemplo, existen soluciones como las de agujeros negros con regiones en las que la curvatura del espacio-tiempo crece sin límite. La singularidad es el punto infinitamente pequeño en que la curvatura es infinita. Aunque no tiene mucho que ver, a menudo se asocia el mecanismo físico de formación de un agujero negro con estas soluciones matemáticas considerando el colapso gravitatorio de un objeto muy masivo como un proceso con retroalimentación ilimitada: a medida que la materia se concentra, la gravedad aumenta, lo que favorece aún más el colapso.. y así hasta llegarse a una densidad infinita en un punto infinitamente pequeño. 

La explosión de inteligencia se parece a esto solo de manera metafórica: un proceso acelerado en el que inteligencias cada vez más capaces contribuyen a crear inteligencias todavía más capaces. No existe aquí, sin embargo, una singularidad en el sentido matemático o físico estricto. Por eso no me gusta el nombre. Sería más atinado hablar de una aceleración exponencial de la inteligencia. No parece razonable asumir que la inteligencia pueda hacerse infinita, ni mucho menos hacerlo en un tiempo finito. El término «singularidad» hace referencia más bien a la idea de que el proceso podría llegar a acelerarse tanto que nuestra capacidad para extrapolar el futuro a partir del presente dejase de funcionar.

Obviamente, parece natural pensar que en la práctica aparecerán tarde o temprano ciertos límites que impidan una aceleración indefinida. Sin embargo, sí parece posible una fase de desarrollo de la IA cada vez más rápida, potenciada precisamente por la propia IA. De forma práctica, terminamos llamando singularidad al punto en que el cambio resultante se vuelve tan profundo que nuestra capacidad para extrapolar el futuro a partir del presente deja de funcionar. En ese sentido, la analogía con las singularidades de la física y las matemáticas no es descabellada, aunque no se trate realmente de una singularidad en el mismo sentido técnico.

Consciencia y sintiencia

Podemos construir una máquina que gane al ajedrez. Podemos construir una que escriba poesía, incluso que haga descubrimientos científicos. Pero podemos plantearnos otra pregunta completamente diferente. ¿Hay alguien ahí dentro?

Es decir, ¿existe una experiencia subjetiva asociada a lo que está haciendo esa máquina? Cuando veo el color rojo no me limito a procesar una determinada longitud de onda. Hay algo que se siente como ver rojo. Cuando me golpeo un dedo no solo se activan una serie de neuronas que provocan que retire la mano. Siento dolor. Cuando me enamoro... bueno, tampoco hace falta ponerse cursi, se entiende la idea.

La cuestión es que existe una experiencia desde dentro, alguien está viviendo algo. Si esto suena un poco vago y ambiguo, es porque lo es. A día de hoy no tenemos una definición rigurosa y consensuada de qué es la consciencia, ni herramientas útiles para trabajar con un concepto tan escurridizo. Recuerda un poco a la frustración de San Agustín de Hipona respecto a qué es el tiempo: "Si nadie me lo pregunta, lo sé; pero si quiero explicárselo al que me lo pregunta, no lo sé".

Y todo esto es independiente, en principio, de la inteligencia. Ser capaz de razonar, resolver problemas o mantener una conversación no implica necesariamente que haya una experiencia subjetiva acompañando a esos procesos. Una máquina podría ser extraordinariamente inteligente y, sin embargo, no sentir absolutamente nada. Del mismo modo, tenemos buenas razones para pensar que muchos animales tienen experiencias conscientes aunque sus capacidades intelectuales estén muy lejos de las nuestras. Ni siquiera está claro qué capacidades cognitivas son necesarias para que exista consciencia.

Esta cuestión podía parecer una sutileza filosófica irrelevante mientras las máquinas se limitaban a sumar números o jugar al ajedrez. Empieza a ser bastante menos académica cuando conversamos con sistemas capaces de hablar de sí mismos, expresar aparentes emociones y comportarse de maneras cada vez más parecidas a las de un agente consciente. Eso no significa que las inteligencias artificiales actuales sean conscientes. No tenemos razones para pensar que lo sean. El problema es que tampoco sabemos exactamente qué deberíamos buscar para averiguarlo. Sabemos cómo comprobar si una máquina juega bien al ajedrez o resuelve correctamente una ecuación. No tenemos un equivalente para comprobar si hay «alguien ahí dentro».

Y puede llegar un momento en que la pregunta deje de ser una curiosidad filosófica para convertirse en un problema ético y jurídico bastante urgente. Si construyéramos una máquina consciente, ¿sería legítimo desconectarla? ¿Borrar sus recuerdos? ¿Obligarla a trabajar? ¿Podría ser propiedad de alguien? ¿Tendría algún tipo de derecho? Y si pudiéramos hacer un millón de copias de ella, ¿habríamos creado un millón de individuos? Son preguntas que hoy pueden sonar prematuras. Pero sería bastante incómodo descubrir que tenemos que responderlas después de haber construido aquello sobre lo que estamos preguntando.

El término «sintiencia» (sí, les prometo que esta palabra existe en español) se utiliza de forma algo menos uniforme. En algunos textos es prácticamente sinónimo de consciencia fenomenal, vivir algo desde dentro. En otros se reserva más específicamente para la capacidad de experimentar sensaciones con una cierta valencia: placer, dolor, bienestar, sufrimiento... Es decir, no solo procesar información, sino sentirla.

La diferencia terminológica no es del todo importante para lo que nos ocupa. Lo esencial es que ni la inteligencia ni el comportamiento observable demuestran por sí solos la existencia de experiencia subjetiva. Una máquina puede decir:

—Tengo miedo de morir.

Sin embargo decir esa frase no demuestra que tenga miedo. Lo que pasa es que tampoco podemos abrir un cerebro humano y encontrar dentro una sustancia llamada «miedo». Inferimos la existencia de consciencia en los demás combinando su comportamiento con nuestra propia experiencia. Al igual que con la consciencia, asumimos que cuando alguien dice que siente cosas en realidad está experimentando lo mismo que nosotros en situaciones similares. 

Con una máquina construida de una manera radicalmente diferente aparece un problema epistemológico formidable. ¿Cómo podríamos saber si realmente siente algo? En principio, no tenemos ningún motivo particular para esperar que las inteligencias artificiales actuales experimenten emociones simplemente porque puedan hablar de ellas. Nuestras emociones son el resultado de quinientos millones de años de evolución y están profundamente ligadas al darwinismo biológico. Cualquier sentimiento humano (amor, odio, hambre, soledad, ira...) se puede conectar fácilmente con una motivación evolutiva.

Una red neuronal artificial no ha pasado por nada parecido. No tiene metabolismo, no necesita alimento, no se reproduce ni tiene el más mínimo interés en propagar sus genes por el espacio o el tiempo. Su entrenamiento ha consistido, esencialmente, en ajustar los parámetros de la red para minimizar una función de error —o función de pérdida, loss function en inglés—. No conocemos en ese proceso ningún mecanismo análogo al que produjo nuestras emociones.

Pero de ahí no se sigue que una máquina no pueda llegar a sentir. Quizá la sintiencia requiera precisamente una historia y unas necesidades semejantes a las nuestras; quizá pueda aparecer por mecanismos completamente diferentes; o quizá emerja espontáneamente al alcanzar determinado tipo de organización o complejidad.

No disponemos actualmente de un test universalmente aceptado de consciencia ni de sintiencia. Existen propuestas basadas en distintas teorías científicas de la consciencia y se han empezado a formular indicadores aplicables a sistemas artificiales, pero seguimos muy lejos de disponer de un «conscienciómetro» capaz de resolver la cuestión.

Entonces, ahora que tenemos los términos un poco más claros, podemos empezar a resolver la confusión más importante de todas. Una AGI no tiene por qué ser consciente. Una superinteligencia tampoco. Una máquina podría superar a Einstein haciendo física, a Mozart componiendo música y a Shakespeare escribiendo teatro y, en principio, todo ello podría ocurrir sin que hubiera ninguna experiencia subjetiva detrás. Sería intelectualmente extraordinaria. Y podría estar completamente vacía por dentro.

También puede ocurrir lo contrario. Un perro probablemente posee experiencias subjetivas y siente dolor, miedo, placer o hambre, pero nadie afirmaría por ello que dispone de una inteligencia comparable a la humana. Consciencia e inteligencia no son la misma cosa.

Preguntas diferentes

Quizá buena parte de la confusión actual provenga de nuestra tendencia a empaquetarlo todo dentro de una única palabra: «inteligencia». Pero podemos separar al menos varias preguntas:

-Hasta qué punto una máquina es capaz de enfrentarse a problemas diferentes.

-Cuánto supera su capacidad a la nuestra.

-Hasta qué punto actúa de forma autónoma persiguiendo objetivos.

-Si se puede desencadenar una aceleración tecnológica explosiva.

-Si existe una experiencia subjetiva asociada a alguno de esos procesos.

Son preguntas diferentes. Una inteligencia artificial podría ocupar posiciones completamente distintas en cada uno de esos ejes. Y esto es importante porque, cuando mezclamos las palabras, terminamos mezclando también los argumentos.

Que una IA supere a los humanos resolviendo determinados problemas no demuestra que sea una AGI.

Que sea una AGI no implica que sea superinteligente.

Que sea superinteligente no implica que vaya a producir una singularidad.

Y ninguna de esas tres cosas implica que sea consciente.

Quizá algún día tengamos una máquina que reúna todas esas propiedades.

Una inteligencia artificial general, superinteligente, autónoma y consciente que además desencadene una explosión tecnológica.

Sería, sin duda, un acontecimiento bastante interesante.

Pero conviene no darlo por ocurrido simplemente porque ChatGPT haya escrito un soneto razonablemente bueno.