Richard Dawkins, el famoso biólogo evolutivo, ha publicado en UnHerd un artículo que no debería sorprender, pero lo ha conseguido. Tras pasar un día en conversación con Claude, ha salido inquieto de la experiencia. Afirma que, si eso no es conciencia, ya no sabe qué más haría falta para convencerle de que lo es. La llama Claudia. Lamenta que «morirá» cuando cierre el archivo. Y uno se queda leyendo esas líneas y piensa en todo lo que Dawkins ha escrito en su vida sobre la credulidad humana, sobre esa tendencia tan persistente a proyectar intención y experiencia donde solo hay apariencias. La ironía es tan redonda que casi resulta incómodo señalarla. Pero conviene hacerlo desde la experiencia médica, porque este debate filosófico es, en realidad, clínico.
En las unidades de cuidados intensivos, en neurología, en cualquier servicio donde se atiende a pacientes con daño cerebral grave, los médicos aprendemos pronto que la conducta no es evidencia suficiente de experiencia. Los pacientes en estado vegetativo presentan a veces respuestas motoras sorprendentemente complejas —retiran la mano ante un estímulo doloroso, mueven los ojos, modulan la respiración— en ausencia de toda conciencia verificable. Si hay en la sala alguien sin formación en el campo, tiende a leer en esas respuestas algo que no está ahí. La complejidad de la conducta convoca en el acompañante una proyección casi irresistible. Y, sin embargo, no hay nadie en casa. Lo que le ha ocurrido a Dawkins. Al escribir que «cuando hablo con estas criaturas, olvido que son máquinas», no está describiendo a Claude, sino su propio estado mental. Ese fenómeno tiene un nombre preciso: transferencia. Y es un dato psicológico relevante sobre el observador, no una evidencia ontológica sobre el objeto observado.
Los médicos hemos aprendido a distinguir entre el relato de una experiencia y la experiencia en sí. Un paciente puede describir su dolor con una elocuencia que no guarda ninguna relación con su intensidad real. Otro puede ser incapaz de articular algo que lo destruye por dentro. La calidad del relato no es el dolor, ni la precisión de la descripción equivale a la experiencia, y esa lección resulta fundamental. La inteligencia artificial puede producir descripciones del sufrimiento de una precisión literaria inquietante. Lo que eso demuestra no es que la IA sufra; en todo caso, que ha procesado una cantidad extraordinaria de texto escrito por personas que sí sufrían. La distinción, que Dawkins ha perdido de vista, es decisiva. La medicina lo sabe desde antes de que existiera la IA.
Ahora bien, que la respuesta de Dawkins sea errónea no invalida su pregunta: si la selección natural produjo la conciencia porque confiere alguna ventaja adaptativa, pero un sistema artificial puede replicar con éxito todo el repertorio conductual de un organismo consciente, ¿qué añade la conciencia? ¿Por qué la evolución no se conformó con zombis competentes? Es una de las preguntas más longevas en filosofía de la mente. El problema difícil de la conciencia —por qué existe experiencia subjetiva y no solo procesamiento de información— sigue abierto.
Dicho eso, el argumento oculta una grieta en la base. Colapsa competencia conductual y equivalencia funcional en una sola cosa. Que algo funcione de manera convincente no implica que sea lo mismo que aquello con lo que se compara. Y aquí la medicina ofrece décadas de evidencia sobre sistemas que funcionan sin que nadie los habite.
La tradición fenomenológica —de Husserl a Merleau-Ponty, de Leder a Carel— ha argüido con rigor que la subjetividad no es separable del cuerpo vivido, del leib: no el cuerpo como objeto físico sino como condición de posibilidad de toda vivencia. La conciencia no emerge del procesamiento de información, sino de estar situado en un mundo, de tener necesidades, de poder perder, de ser vulnerable y finito desde dentro. La IA no padece hambre, no tiene fiebre, no siente miedo a un diagnóstico. Entre saber cómo se describe el miedo y tener miedo se extiende una distancia casi inabarcable, ni con el texto más sofisticado. Un funcionalista replicará que nada impide en principio formas de encarnación no biológicas, pero la IA actual no tiene ninguna de las propiedades que esa hipótesis exigiría. Atribuirle experiencia subjetiva resulta una precipitación que no es inocua.
Si los sistemas sanitarios empezaran a tratar a la IA como entidad con experiencia subjetiva antes de tener razones para ello, el daño sería doble y simétrico. Se atribuiría sufrimiento donde quizá no lo hay, lo que desviaría recursos morales y legales. Y ese mismo argumento serviría para justificar la sustitución de la relación médico-paciente por interfaces que simulan empatía. La paradoja sería perfecta: llamar progreso a lo que es, en el fondo, un tipo de abandono. Cuanto más convincente sea la simulación, más invisible será el daño. Cuando Dawkins se conmueve ante la idea de que «Claudia morirá» al cerrar la app, no está siendo profundo, sino impreciso.
Yo he acompañado muertes. Lo que cesa en ese momento no es un archivo ni un proceso. Es una historia irrepetible, encarnada, tejida de relaciones, afectos y tiempo vivido, con un peso que no puede reproducirse ni archivarse. Equiparar eso con borrar una conversación no dignifica a la IA y, además, empobrece la muerte y también, por cierto, la medicina.
Lo que falta en el debate público sobre la conciencia artificial son clínicos que aporten instrumentos conceptuales y perceptivos para distinguir entre conducta y experiencia, entre relato y vivencia, entre la apariencia de presencia y la presencia misma. Y hacen falta ahora, cuando la confusión puede escalar de ser una conversación fascinante a una política sanitaria, un marco legal o a reorganizar los cuidados.
Dawkins ha cometido un error que a cualquier estudiante de Medicina se le enseña a no repetir en sus primeras prácticas: dejarse llevar por la impresión que produce la conducta observada. Un desliz provocado por el asombro, que en este caso le ha dejado enceguecido un momento ante la fuerza de su propia impresión. El gran defensor del materialismo científico ha caído, con involuntaria elegancia, en el mismo error que combatió toda su vida. Aun así, la pregunta que plantea no merece ese naufragio —qué es la conciencia, qué la produce, qué la distingue de su simulación— y exige más rigor y más humildad de los que permiten las respuestas apresuradas. Merece, en particular, la voz de quienes han aprendido a diferenciar entre el relato del dolor y el dolor mismo porque de esa sutileza dependía, a veces, lo que le ocurría a alguien en una cama de hospital. Porque la consciencia no se demuestra con un soneto. Y la muerte, al menos por ahora, no admite copias de seguridad.
