«Un saco de palabras puede producir un discurso convincente, pero no se le puede pedir un compromiso con la verdad, porque no le va la vida en ello»
Esperaba que Los viajes de Gulliver (1726), de Jonathan Swift, fuera un relato de aventuras casi infantil —liliputiense— y no la mordaz sátira con un final sombrío que en realidad es. En cada uno de sus periplos, Gulliver descubre pueblos de costumbres extrañas que nos sirven de espejo a los lectores para reflexionar sobre cómo las nuestras, tan normales y razonables, podrían verse a la luz de unos ojos poco familiarizados con ellas.
En la tercera expedición, Gulliver visita la Gran Academia de Laputa, donde un grupo de científicos lleva a cabo experimentos que prometen revolucionar la técnica. Estos pasajes recuerdan los empeños de la Casa de Salomón que Francis Bacon describe en La nueva Atlántida (1610). Pero lo que Bacon presenta como la utopía de una sociedad al servicio del desarrollo de la ciencia y del conocimiento, Swift lo muestra de manera más crítica, dejando ver que la tecnología puede volverse en contra del hombre cuando falta buen juicio. Las tareas de los científicos de Laputa rozan lo absurdo: algunos tratan de construir una casa empezando por el tejado, otros quieren extraer rayos de sol de los pepinos y así poder guardarlos para el invierno, y hay quienes buscan revertir los excrementos humanos en comida.
Entre todas las invenciones disparatadas, el lector contemporáneo reconocerá inmediatamente una versión ancestral de ChatGPT. Gulliver introduce el artefacto como el cumplimiento de una de las principales promesas de la técnica: disfrutar de las ventajas de una actividad reduciendo al máximo la fricción que acompaña su desempeño o el coste de adquirir la habilidad que la facilita. Así lo describe: «Todos sabemos cuán laborioso es el método corriente para llegar a poseer artes y ciencias; pues bien: gracias a su invento, la persona más ignorante, por un precio módico y con un pequeño trabajo corporal, puede escribir libros de filosofía, poesía, política, leyes, matemáticas y teología, sin que para nada necesite el auxilio del talento ni del estudio». ¡El sueño de todo (mal) estudiante!
El proto-ChatGPT es un tablero que contiene «todas las palabras del idioma en sus varios modos, tiempos y declinaciones, pero sin orden ninguno». Los científicos deben mover unos mangos de hierro para cambiar la disposición de los vocablos hasta dar con una serie con sentido, que luego transcriben con la esperanza de que las frases recortadas lleguen a constituir el compendio de todas las ciencias y las artes. Aquí se aprecia lo primitiva que es aún esta versión de nuestro ChatGPT. Al estar regidas por el azar, las combinaciones tendrían que repetirse ad infinitum para componer un texto medianamente inteligible, así que la liberación de la fricción intelectual exige tal fricción física y mecánica que lo absurdo de la empresa queda patente (Véase el teorema del mono infinito).
El ChatGPT de nuestros días ha logrado superar estas fricciones al eliminar el aspecto aleatorio de las combinaciones de palabras, ahora regidas según patrones lingüísticos y la vastísima base de datos de la que se alimenta. La apariencia de tener un pensamiento y lenguaje ha hecho que se hable de los modelos extensos de lenguaje en términos personales y casi divinos, cuando, en realidad, su naturaleza básica no es otra que la de su versión ancestral: un saco de palabras, sin vida y, por tanto, sin inteligencia ni ningún interés por la verdad. Un saco de palabras puede producir unas líneas de texto convincentes, que parezcan informativas y resulten verosímiles, pero no se le puede pedir un compromiso con la verdad, porque no le va la vida en ello, como a nosotros. De ahí que las frecuentes alucinaciones de ChatGPT no sean una desviación de su funcionamiento correcto, sino un instante de revelación, un caso paradigmático de un discurso destinado a persuadir sin tener en cuenta la verdad. En una palabra, esto es a lo que Harry Frankfurt llamaba bullshit. ¡Lo que haría hoy el fino ironista de Jonathan Swift al vernos dignos herederos de Academia de Laputa! Siglos de desarrollo para convertir un saco de palabras en una máquina de bullshit.