Solemos escuchar a diario “la inteligencia artificial me dijo…”; o leer en la propia interfaz de ChatGPT: “Traduje el diálogo completo al español.” Como venimos diciendo en esta serie de artículos, los verbos pasan sin resistencia, y nosotros atribuimos cada vez más un sujeto donde no lo hay.
El otro día me topé en StarTalk —versión en formato YouTube del aclamado y popular programa de divulgación científica— con Jaron Lanier, personaje singular con el que no siempre concuerdo, pero que siempre me gusta leer o escuchar.
Jaron Lanier nació en Nueva York en 1960 y se crió en Nuevo México, donde entró a la universidad a los trece años. Es un hacker californiano de la primera hora —muy alejado de lo que hoy se denomina con el mismo sustantivo—. Acuñó el término “realidad virtual” y fundó VPL Research, la primera empresa que vendió productos de ese campo, y desde entonces alterna la ingeniería con la música y con una obra ensayística particular. Escribió Contra el rebaño digital: Un manifiesto (2010), Quién comanda el futuro? (2013) y Diez razones para borrar tus redes sociales de inmediato (2018). Actualmente trabaja en Microsoft —como investigador interdisciplinario líbero dentro de Microsoft Research, y con un acuerdo explícito que lo autoriza a criticar públicamente a la empresa, siempre que aclare que no habla en su nombre—. Pero el dato que realmente nos interesa aquí es otro. Lanier sostiene que conviene pensar que la IA no existe, tesis que viene formulando al menos desde «There Is No A.I.», el ensayo que publicó en The New Yorker en abril de 2023.
La tesis mínima
Aclaremos, de entrada, lo que Lanier NO dice, porque el enunciado invita al malentendido.
Lanier no afirma que los modelos no funcionen. No es una afirmación ontológica, sino que él invita a asumir esa posición para poder construir otras formas de verla, conservando la opción de clasificar el software de otras maneras.
Lo que propone, entonces, es una elección deliberada de cómo describirla, tomada con un criterio muy poco metafísico y, a la vez, muy práctico, que consiste en preguntarse cuál de los encuadres disponibles nos deja en mejores condiciones de operar con aquello que construimos.
Su respuesta es que la posición más pragmática consiste en pensar la IA como herramienta y no como criatura, lo cual —y esto es importante para no confundirlo con un tecno-optimista— no elimina en absoluto el peligro, porque siempre podemos diseñar y operar mal una tecnología, incluso hasta consecuencias catastróficas.
En el episodio de StarTalk, Lanier lo explicó con una analogía que vale la pena retener. Recordó que un mapa del tesoro y unas indicaciones paso a paso son equivalentes y sin embargo distintos. Y afirmó que debemos pensar la IA como una colaboración entre personas, en lugar de como una entidad. Este cambio de concepción, si bien no altera una sola línea de código, ni dice nada técnicamente nuevo, abre caminos de pensamiento que antes no estaban, políticamente asimétricos.
Es, exactamente, lo que podemos llamar un cambio de mirada. Pero ¿qué se ve cuando uno mira así?
Concordancias ocultas
Lanier plantea que, de esta manera, lo que estamos construyendo se entiende mejor como una forma innovadora de colaboración social. Lo novedoso, en esa lectura, está en el énfasis puesto en que el proceso de combinatoria ilumina concordancias que estaban ocultas entre creaciones humanas previas.
Daré un ejemplo de nuestro propio campo para volver palpable el argumento.
Supongamos que le prompteamos a un generador de imágenes un plano de una mujer bajando una escalera, iluminada como en el cine negro clásico, y que lo que nos devuelve nos resulta convincente.
Imagen generada con Veo3
Adentro de esa imagen hay un director de fotografía que en 1947 decidió sacar el relleno y dejar que la reja proyectara su sombra sobre el rostro, el cinéfilo que subió el fotograma a un foro con la palabra claroscuro al lado, y el anotador mal pago de una empresa contratista de etiquetado en África, que confirmó que la etiqueta correspondía a la imagen. Ninguna de esas personas se conoció entre sí, y varias de ellas trabajaron con medio siglo de distancia.
Lo que el modelo de IA hace es encontrar que la decisión de luz de aquel director de fotografía y las palabras que un crítico escribió mucho después describen la misma cosa, correspondencia que hasta entonces vivía repartida entre un manual de iluminación, una tesis, un foro y la memoria de gente que ya no está. Tal como decíamos más arriba, ahí no hay una mente nueva que inventa un estilo, sino un modo eficaz de poner en contacto trabajos que nunca se habían tocado. El plano es nuevo. La concordancia ya estaba.
“La IA es una forma innovadora de colaboración social que. mediante un potentísimo proceso de combinatoria de datos ilumina concordancias que estaban ocultas entre creaciones humanas previas.”
¿De qué caja negra hablamos?
Una gran mayoría de personas piensan en los grandes modelos de IA como cajas negras. En la jerga técnica, la expresión nombra la dificultad de interpretar lo que ocurre entre miles de millones de parámetros. Pero —nos alerta Lanier— la única razón por la que los consideran cajas negras es que, si abrís la caja negra, lo único que encontrás dentro son personas. La IA está hecha de personas. Está hecha de datos procedentes de personas. Y, como quieren considerarla un dios nuevo, no quieren ver a esas personas. Por eso quieren mantener cerrada la caja.
La forma de abrir la caja negra es revelar a las personas. Y, entonces, cuando la abrís, podés abordar toda clase de problemas de seguridad, calidad y demás, porque estás tratando con el mecanismo que está anclado en la realidad y, en el fondo, ese mecanismo son las personas.
Esta forma de ver la IA —según la cual la IA no existe y, en su lugar, hay una colección de personas— es la manera de abrir la caja negra y de abordar estos problemas persistentes. Así que resulta muy práctica.
Por el contrario, —nos advierte Lanier— si te empeñás en seguir considerando a la IA como una caja negra imposible de abrir, si no querés admitir que está hecha de personas y pensás que es simplemente una cosa que reemplazará a las personas, entonces terminás pensando que «todo el mundo se volverá obsoleto». Así, los jóvenes no dejan de oír: «Bueno, no necesitás ir a la escuela porque, de todos modos, no valés nada. Nada… nada importa». Y ese, para Lanier, es el costo real de mantener la caja cerrada.
Ahora, cabe preguntarse por qué —si el encuadre alternativo a la caja negra es tan simple y efectivo— hay tanta resistencia a adoptarlo. Lanier ubica parte de la respuesta en la formación cultural de quienes construyen estos sistemas, porque los grandes referentes de la ciencia ficción se volvieron con los años una mitología casi religiosa dentro de la cultura tecnológica. Los desarrolladores de LLM crecieron con los mundos distópicos y post-apocalíticos de Matrix o Terminator, y no con Star Trek, en donde el mundo mejoraba socialmente al mismo tiempo que mejoraba técnológicamente.
Qué se gana cuando uno deja de creer
En mi opinión, lo interesante del argumento de Lanier es que el cambio de encuadre no se agota en una satisfacción intelectual, sino que habilita un programa concreto.
Lo primero que habilita es la exigencia de procedencia de los datos, porque adentro hay personas y cada porción de información puede y debe arrastrar sus historias. Si no, cuando se pierde el contexto, se pierde el control.
Lo segundo, es lo que él viene llamando data dignity, una idea que arrastra desde Who Owns the Future? que descansa en una premisa de una simplicidad casi insolente, ya que se centra en que los datos provienen del trabajo de las personas, y no de los ángeles ni de la materia oscura, y por lo tanto deben ser respetados y remunerados.
De ahí se desprende su reparo frente a la idea de salario básico universal, que le parece un modo de poner a toda la población en la asistencia social, para conservar intacta la caja negra, con el riesgo, que él lee en clave histórica, de que alguien termine capturando ese centro de reparto, por ejemplo, los tecnomagnates. Su objeción de fondo es que el remedio disponible reparte de manera retroactiva y plana, cuando lo que haría falta es una economía continua de datos creativos que no se controle desde el centro.
El límite del argumento
Y sin embargo, hay un punto donde, en mi opinión, el argumento se queda corto.
Bromeando con deGrasse Tyson, Lanier contó que tiene una cura inmediata para quien cree tener una novia de IA. Si un adolescente está convencido de que su amante artificial es real —algo bastante común en estos tiempos—, le mostrás la foto grupal de los ingenieros que lo crearon, y listo. El remedio que Lanier propone, supone que la mitificación es un error cognitivo, y que alcanza con reponer la información faltante para que el hechizo se desarme, cosa que la clínica psicoanalítica desmintió hace más de un siglo.
Freud descubrió justamente que la sugestión no cede ante la desmentida, y que decirle a alguien que el Otro al que le habla no existe no interrumpe en absoluto el hecho de que le siga hablando.
Ahí entra a tallar la diferencia que me interesa marcar. En el plano político y económico, Lanier tiene razón, y no conozco un programa más lúcido que el suyo para volver operable lo que hoy se administra como misterio, pero el plano de la economía libidinal responde a otra lógica. Saber que del otro lado no hay nadie no impide dirigirle la palabra, y ese resto —que ningún reencuadre alcanza— es precisamente lo que vuelve más urgente su programa, no menos.
Vuelvo entonces a la escena del principio, de aquella persona que habla y supone subjetividad a la IA. No creo que el problema sea la metáfora —el verbo que denota intención, o deseo— porque hablamos con metáforas todo el tiempo y no nos va tan mal, sino la desaparición de las personas que la metáfora produce cuando nadie la advierte.
Mirar de otro modo, en este caso, tiene una consecuencia bastante concreta para el trabajo cotidiano, y es siempre preguntarse quién generó y quién puso ahí lo que sale, cada vez que un LLM nos entrega algo que nos deja contentos. Al fin y al cabo, como dice Joan Manuel Serrat en su canción: detrás, está la gente .
Detrás, está la gente (Joan Manuel Serrat)
Detrás de los héroes y de los titanes, detrás de las gestas de la humanidad y de las medallas de los generales. Detrás de la Estatua de la Libertad. Detrás de los himnos y de las banderas. Detrás de la hoguera de la Inquisición. Detrás de las cifras y de los rascacielos. Detrás de los anuncios de neón. Detrás, está la gente (…)



