Inteligencia Artificial Nº 718 Ciencia y tecnología
Chatear con inteligencias artificiales como ChatGPT entraña mantener una conversación en la que, en vez de personas, palabras o cosas, solo hay lenguaje. Michel Foucault vaticinó y exploró en sus obras las consecuencias de tal posibilidad.
Chatear con inteligencias artificiales como ChatGPT entraña mantener una conversación en la que, en vez de personas, palabras o cosas, solo hay lenguaje. Michel Foucault vaticinó y exploró en sus obras las consecuencias de tal posibilidad. Cuarenta años después de su muerte, su particular método resulta útil para comprender las amenazas y posibilidades de la IA
Los antiguos egipcios creían que el alma humana tiene cinco componentes: nombre, energía, corazón, personalidad y sombra. Los tres elementos más distintivos de una persona eran la personalidad —aquello que hacía de ella un ser único—, el corazón —su buena o mala voluntad— y el nombre, cuya mera inscripción o recuerdo garantizaba una mínima existencia post mortem. La energía del alma debía ser alimentada después de la muerte; de ahí la necesidad religiosa de momificar con escrúpulo y de llevar alimentos a las tumbas. Por último, el alma contaba con su sombra. Es difícil y hermoso imaginar el significado de este rastro; de hecho, no se conoce con certeza su función específica. Sin embargo, era importante. El libro de los muertos exclama: «Mi sombra no será derrotada».
La inteligencia artificial y los modelos extensos de lenguaje han dado la razón a la sabiduría mortuoria egipcia. La aplicación HereAfter AI permite al usuario crear una réplica digital de aquellos seres queridos que ya no se encuentran entre los vivos. Esta posibilidad, hasta hace poco solo explorada en amargas historias de ciencia ficción, se ha hecho realidad gracias a la huella y la sombra digitales; es decir, a todos aquellos datos que compartimos de manera voluntaria en internet y a los que, sencillamente, se generan al navegar por la red. Hay quien subsume estos dos tipos de información en la expresión sombra digital activa y pasiva. Con los datos que la conforman, una inteligencia artificial puede reproducir el comportamiento de un fallecido. Hasta sus rasgos más únicos y distintivos. Nuestra sombra no será derrotada.
La capilaridad de una tecnología de basamento lingüístico que se presenta como inteligente es tal que en el siglo XXI quien lo desee puede jugar a chatear con sus muertos. ¿Escalofriante? Real. El relato sobre el origen de la pintura —un retrato a contraluz que una joven hizo de su amado antes de que la abandonara para partir a la guerra— da una última y macabra vuelta de tuerca miles de años después. ¿Cómo hemos llegado hasta aquí? El escritor Michel Foucault logró escandalizar a la opinión pública francesa en 1966 al proclamar en Las palabras y las cosas la muerte del hombre. Recuperar este veredicto cuarenta años después de la propia muerte de su autor ilumina la constante transformación en dato del comportamiento humano y sus innumerables aplicaciones. Ante todo, porque esta drástica conclusión identifica sin ambages aquello que de verdad hace sombra al ser humano: el ser del lenguaje.
Lo virtual es discreto. Cada vez que alguien dirige una pregunta, petición o comentario a una inteligencia artificial como ChatGPT, los pasos necesarios para que esa comunicación sea efectiva pasan del todo desapercibidos. Sentado ante su portátil o con los ojos fijos en la pantalla de su teléfono, el usuario solo observa la inmutable y buena disposición de su interlocutor, además de los meditabundos puntos suspensivos que preceden a cualquiera de sus respuestas. Resulta sencillo leer entre líneas una sonrisa paciente y sincera. Cada una de estas interacciones parece un proceso de comunicación directo y limpio. Sin embargo, la discreción de lo virtual es cosmética. Engaña. La puesta en escena y la ejecución de estas conversaciones ocurren en un territorio escurridizo gracias a un alto consumo energético y a una alquimia difícil de entender.
Primero, el territorio. La tecnología móvil, las redes inalámbricas y los servicios en la nube han alimentado la imagen de que los datos que consume y genera un usuario al navegar por la red recorren el globo debido a una suerte de éter o quinto elemento. No es el caso. En total, casi un millón y medio de kilómetros de cable submarino conecta servidores, centros de datos, redes locales y, más en general, todos los continentes entre sí. Gracias a ellos, un algoritmo en California puede responder a una pregunta que le formula alguien desde Cádiz. El entramado jurídico y político de esta infraestructura es complejo; el caso del cable Anjana, cuya construcción finalizará en 2024, es representativo. Mide unos siete mil kilómetros, conecta dos países con legislaciones distintas —en concreto, Myrtle Beach, Estados Unidos, con Santander, España— y es propiedad de una empresa, Meta, que en los últimos años ha tenido que rendir cuentas por malas prácticas a ambos lados del Atlántico.
Segundo, la energía. Los datos de consumo energético e impacto ambiental del uso de internet siempre dejan titulares llamativos. Por ejemplo: la cantidad de dióxido de carbono emitido por el consumo de vídeos de contenido pornográfico en internet es igual que la de países como Bélgica o Nigeria. Se estima que la industria tecnológica consume el 20 por ciento de la electricidad del mundo y que, en total, es responsable del 5,5 por ciento de las emisiones globales de dióxido de carbono. En comparación —solo por manejar una referencia—, un país como España consumió el 1,02 por ciento de electricidad mundial en 2019 y, al menos en 2021, respondió del 0,63 por ciento del total del dióxido de carbono emitido a la atmósfera. ¿Dentro de qué límites cabe considerar la apuesta por la digitalización una opción sostenible? Más allá de su posible impacto en el aumento de la temperatura del planeta, ya existen previsiones que alertan del carácter insostenible del ritmo que rige la producción contemporánea de datos.
Tercero, la alquimia. Al preguntar a una inteligencia artificial, al usar las redes sociales, o un GPS o un teléfono inteligente, el dispositivo del usuario lleva a cabo una serie de operaciones fascinantes. Una de ellas es codificar el contenido de ese mensaje —además de toda la información que acompaña a su producción— en secuencias de ceros y unos. Casi al mismo tiempo, esas secuencias se transforman en señales eléctricas o electromagnéticas que se pueden transmitir desde el dispositivo. Primer paso, codificación binaria del contenido del mensaje o de la información en cuestión; segundo, metamorfosis del código en señales eléctricas. Esta alquimia, la metamorfosis de información en datos, recibe el nombre de datificación. Dada la capilaridad de internet en el día a día, solo un algoritmo tiene la capacidad de procesar estos datos a gran velocidad y de descubrir los patrones, relaciones y correlaciones que los gobiernan.
Los propietarios de teléfonos inteligentes suelen ver en su móvil la forma de mantener el contacto con familia y amigos, un instrumento de trabajo y de ocio, un carrito de la compra, un videoclub de bolsillo, la biblioteca de Alejandría, un bar donde lanzarse a ligar en medio de desconocidos, el quiosco de la esquina. Su dispositivo es todo eso. Sin embargo, lo verdaderamente valioso de ese aparato, tan nítido e inofensivo, es que sea una máquina que transforma a destajo el diamante en bruto de lo humano en dato positivo. A medida que se expanden los nuevos dispositivos —relojes, bombillas, cascos, coches, prótesis o edificios inteligentes—, esta transformación alimenta más y más los centros de datos, erigidos en archivos de lo humano. Y de cada humano; o, como mínimo, de los más de cinco mil millones de usuarios únicos de internet.
La experta en nuevas tecnologías Anna Wiener planteó sin rodeos la pregunta que subyace a la interacción con inteligencias artificiales y modelos lingüísticos de grandes dimensiones en un ensayo publicado en The New Yorker en junio de 2023: «Los nuevos sistemas de inteligencia artificial pretenden conversar con nosotros. Pero ¿quién escribe el guion?». ¿Con quién hablamos cuando hablamos con una inteligencia artificial? Su respuesta oscila entre la compañía que ha desarrollado el software y nosotros mismos: «El software es como un espejo». Si se pregunta a ChatGPT qué piensa sobre la duda de Wiener, señala que la imagen de un guion escrito de antemano da pie a error. El valor de las inteligencias artificiales es que generan respuestas a medida que no existen antes de que un ser humano interactúe con ellas. Un matiz muy válido, al que cabe añadir una propina. Antes, solo otro ser humano era capaz de generar este tipo de respuestas. Ahora, también es capaz de hacerlo el software propiedad de una empresa. La maravilla de un programa así radica en que, en puridad, no sea nadie. ¿Quién escribe el guion? No hay guion. ¿Quién habla entonces? Nadie.
Preguntar quién está detrás de aplicaciones como ChatGPT es un ejercicio necesario. Que una inteligencia artificial no sea nadie no significa que nadie deba ser responsable de sus errores, o de todos aquellos efectos negativos a los que da lugar y que podrían haberse previsto y evitado. Aun así, centrarse exclusivamente en quién responde de ChatGPT, visto que nadie habla desde él, encierra el peligro de pasar por alto otras preguntas que su mera posibilidad pone sobre la mesa. ¿Cómo habla una inteligencia artificial? ¿Entiende las palabras que lee en nuestras preguntas y que redacta en sus respuestas? No. La alquimia de la datificación señala que, a lo sumo, estos algoritmos procesan secuencias infinitas de ceros y unos, o su equivalente electromagnético. Los modelos extensos de lenguaje ponen en juego palabras que, por supuesto, ni entienden ni comprenden. Flatus vocis. Y, sin embargo, logran emitir mensajes como lo haría un humano. Por último, ¿de qué habla una inteligencia artificial cuando habla? Como consecuencia de lo dicho hasta ahora, solo cabe concluir que de nada. Un algoritmo no sabe a qué se refieren las palabras que usa cuando arma una respuesta. La irrupción de ChatGPT y aplicaciones semejantes ofrece una aproximación al lenguaje desde su posibilidad: sin personas, sin palabras, sin cosas. Hay lenguaje. Y nada más.
Es en la posibilidad de un lenguaje así donde la obra de Michel Foucault (1926-1984) se muestra iluminadora. En opinión de Gilles Deleuze, Foucault despunta por haber hallado una manera diferente de afrontar el lenguaje. Este enfoque deriva de tres negaciones fundamentales. En primer lugar, ni el comienzo del lenguaje ni su ser deben reducirse al uso que le den las personas. Los sujetos que hablan son solo posiciones en un determinado enunciado que, sí, pueden ocupar y ocupan individuos. Este planteamiento desplaza al sujeto, que pierde su posición privilegiada frente al lenguaje. En segundo lugar, Foucault rechaza que un conjunto determinado de relaciones dadas entre significante y significado determinen lo dicho. Cae también, por tanto, la primacía del signo. Por último, Foucault se opone a cualquier forma de experiencia original u originaria gracias a la cual el mundo —por arte de magia— se revela y da a conocer en el lenguaje. Las cosas siempre permanecen y permanecerán ensimismadas. Estas tres negaciones no niegan que haya personas, palabras y cosas; más bien, subrayan que lo específico del lenguaje no depende exclusiva ni primordialmente de ninguna de ellas.
¿Qué queda del lenguaje cuando uno se deshace del sujeto que habla, de los signos y palabras que lo componen, y de las cosas a las que esos signos y palabras parecen referirse? «El zumbido incesante y desordenado del discurso», responderá en su lección inaugural en el Collège de France. O, en otras palabras, aquello que resta del lenguaje es un anónimo «se habla». Este murmullo anónimo es el lugar desde donde Foucault quiso investigar. Como sus seguidores y críticos señalaron casi desde su primer libro reconocido, el carácter genial o del todo imposible y contradictorio de sus investigaciones está íntimamente ligado a su decisión quijotesca de hablar solo desde un lenguaje definido como mero murmullo o discurso. ¿Qué cabe estudiar o investigar en un corpus dado, o en una base de datos concreta, si se han expurgado como variables de análisis el sujeto, los signos y sus referencias? De nuevo, la primera lección de Foucault en el Collège de France ofrece una respuesta clara: el orden del discurso. Esto es, en lo fundamental, las regularidades enunciativas —repeticiones, relaciones y correlaciones— que articulan el murmullo en su mismo anonimato. Hay lenguaje. Se habla.
En el prólogo de La nueva sensibilidad, Alejandro Llano comparte su asombro frente a la célebre frase de Marshall McLuhan que, en su opinión, es profundamente enigmática: «Porque ahora comenzamos a percatarnos del misterio y de la hondura de aquel dicho que, cuando lo oímos por primera vez y lo repetíamos hace ya tantos años, no pasábamos de considerarlo una ocurrencia ingeniosa y original, a saber: “El medio es el mensaje”».
¿Qué son los datos: medio o mensaje? De una parte, su producción y consumo requieren dispositivos, territorio, infraestructura, energía. Al mismo tiempo, los datos son solo la última manera que el ser humano ha encontrado de producir, almacenar y compartir información. Además, gracias a que pueden explotarse aquellos datos que cada persona genera en su uso de internet, parte de la información a la que nos conectamos y consultamos está mediada por nuestro mismo comportamiento o por el de otros usuarios en una situación semejante. Y no solo. El Ayuntamiento de Seúl utilizó en 2013 datos de geolocalización de sus habitantes para decidir los horarios y rutas de un servicio nocturno de autobuses. La iniciativa fue un éxito. En definitiva: nunca antes resultó tan difícil discriminar entre el medio y el mensaje.
Todas las palabras o expresiones que utilizó Foucault para definir sus objetos de estudio participan de la ambigüedad medio-mensaje: discurso, poder-saber, juegos de verdad, experiencia. Asimismo, esta ambigüedad puede servir para ordenar las críticas que se le dirigen. De la parte del medio, muchos achacan a Foucault que carezca de un método riguroso. Entre otras cosas, esta falta fue uno de los principales obstáculos cuando se barajó concederle una cátedra en el Collège de France, donde finalmente enseñó desde 1970 hasta 1984. Pero también la solidez del pensamiento de Foucault se ha cuestionado, y puede cuestionarse, sin abandonar sus mismas premisas, desde el mensaje. ¿Cómo podrían sus mismas obras librarse de los omnipresentes regímenes de poder que describen? Si el autor es solo una función que protege la producción de discurso del constante peligro de la ficción, ¿por qué firmar sus libros? En sus lecciones sobre el discurso filosófico de la modernidad, Habermas resume los dos tipos de crítica en una frase: «Los problemas metodológicos sin resolver se reflejan en déficits empíricos».
Sin embargo, el paralelismo entre aquello que Foucault definía como discurso y los actuales datos puede mostrarse útil precisamente por la ambigüedad medio-mensaje. Foucault exploró y definió el discurso como delirio de palabras, muerte del sujeto (en concreto, del «hombre») y violencia hacia las cosas. Los usuarios de modelos extensos de lenguaje harán bien en considerar estas herramientas como delirio, muerte y violencia. No porque el contenido de las respuestas de ChatGPT carezca de sentido, o porque este tipo de tecnología aliente a escondidas al suicidio o al asesinato. El peligro que representan no está solo ni principalmente del lado del mensaje, sino de los medios. Resulta emocionante releer los dos párrafos de conclusión de Las palabras y las cosas: ¿son la inteligencia artificial y los modelos extensos del lenguaje el hito que logrará borrar al hombre, «como un rostro dibujado en la arena a la orilla del mar»?
¿Qué hacer frente al impacto de la inteligencia artificial y su aparente sustitución de lo humano? Desde el planteamiento de Foucault, cabe señalar dos quehaceres. En primer lugar, como escribe en Las palabras y las cosas, encontrar una forma de pensar novedosa que articule el «ser del lenguaje» y el «ser del hombre»: «¿Es la tarea que tenemos por delante avanzar hacia un modo de pensamiento, desconocido hasta ahora en nuestra cultura, que permita reflexionar al mismo tiempo, sin discontinuidad ni contradicción, sobre el ser del hombre y el ser del lenguaje?». El requisito práctico para hallar este modo de pensamiento será el de siempre: pararse a pensar. En otras palabras, resistir y tomar distancia de la inteligencia artificial de manera que el pensamiento cuente con el espacio mínimo que necesita para discernir con claridad a qué asiente y qué consiente cuando la utiliza. Aquí, como en todo, filósofos y pensadores deberán esforzarse por llegar los últimos, tanto en los medios como en el mensaje.
En segundo lugar, sería oportuno colocar en el centro de ese «modo de pensamiento desconocido» la pregunta sobre nuestra materialidad y sobre cómo se relaciona con la materialidad del discurso. En Quién es el hombre, Leonardo Polo habla del ser humano como de un «ser de carne y hueso». ¿Qué significa que somos de carne y hueso? A la hora de responder a estas preguntas, no estaría de más examinar también, como hace Judith Butler, cuáles son los cuerpos que importan. ¿Qué cuerpos tenemos más en cuenta a la hora de entendernos a nosotros mismos? ¿Por qué esos y no otros? Uno de los retos que plantea la inteligencia artificial no reside en defender lo humano a capa y espada, sino en encontrar una manera diferente de pensar nuestra materialidad. Frente a las sombras del lenguaje, tal vez haya llegado el momento de redescubrir el cuerpo en su materia.
Por eso no pedimos a nuestros lectores que se suscriban a un producto, sino que donen a un proyecto de los que desarrolla la Universidad de Navarra: desde la investigación del cáncer a becas para alumnos de bajos recursos, pasando por un nuevo Museo de Ciencias.
