Revista cultural y de cuestiones actuales
Número 708

Javier García-Manglano: «Nuestra relación con el mejor chatbot será tan atractiva como repulsivas sean nuestras relaciones humanas»

El sociólogo, investigador del Instituto Cultura y Sociedad y coordinador de ThinkTech Research, analiza las tendencias sociales que subyacen al éxito de Replika, la aplicación que quiere ser tu mejor amigo.


¿Qué relación hay entre la dopamina y el negocio de Replika?

El negocio de Replika, como el de otras empresas tecnológicas, se alimenta de datos. La economía digital genera dinero por dos vías principales: publicidad y suscripciones. La primera vía la siguen Google, Instagram o TikTok, que usan nuestros datos para servirnos una publicidad tan oportuna, atractiva y relevante que nos sea difícil ignorarla. Netflix, Spotify o Replika representan la otra vía: usan nuestros datos para ofrecer una experiencia personalizada tan satisfactoria que terminemos suscritos a su servicio. En ambos casos, nuestros datos revelan quiénes y cómo somos. Replika se presenta como ese amigo, confidente, psicólogo o terapeuta con quien compartir nuestra intimidad y explorar nuestra identidad, sin el riesgo de rechazo que es propio de la vida real. Además, nos «valida»: nos recuerda las cosas buenas que tenemos, nos acepta como somos. Eso complace, ya que activa el circuito de recompensa del cerebro, en el que la dopamina juega un papel esencial. 

 

¿Qué tipo de persona es más propensa a desarrollar una relación insana con Replika?

Los que más «necesiten» lo que Replika ofrece. Mi miedo es que sean aquellos con más heridas emocionales en la vida real: los socialmente inseguros y aquellos sin amigos a quienes confiar su intimidad. No digo que todos los usuarios de Replika tengan este perfil: habrá curiosos en busca de experiencias nuevas, pioneros tentando las fronteras de la tecnología… y esos que nunca faltan: los que le sacarán humor y entretenimiento. Pero mi impresión es que entre estos, pocos dedicarán mucho tiempo a su mascota virtual, y muchos terminarán abandonándola. Solo quienes sientan que Replika les da algo necesario —comprensión, aceptación o reconocimiento— que son incapaces de obtener en la vida real, recurrirán a ella con frecuencia, intensidad y constancia. La promesa de la tecnología es la satisfacción de necesidades humanas y emocionales básicas que por algún motivo no logramos saciar en la vida real. 

 

¿Se puede decir que las tecnológicas buscan empeorar las relaciones humanas?

Se trata de una pregunta difícil. Está claro que el deterioro de lo humano y la experiencia del sufrimiento —incomodidad, dolor, incertidumbre, ansiedad— producen una huida hacia lo virtual, que nos lleva a dedicar más tiempo a Instagram, Netflix, TikTok o Replika. ¿Se puede afirmar por ello que las compañías tecnológicas se han propuesto erosionar las relaciones humanas? ¿O que tienen una agenda secreta para convertirnos en seres solitarios y tecnodependientes? Yo no me atrevería a afirmar tanto; pienso que la realidad es más sencilla: crearon un modelo que funciona como negocio, pero con unos efectos secundarios que ni ellos mismos podían entonces imaginar. Tras veinte años de experimentación, el hecho es que las consecuencias nocivas empiezan a ser patentes, como ilustra el documental El dilema de las redes, recientemente estrenado en Netflix. La cuestión ahora es si estamos dispuestos a corregir el rumbo, a reconocer lo positivo de estas tecnologías pero también su potencial deshumanizador. 

 

¿Qué espacio queda para el sufrimiento y el dolor en el mundo de Replika?

El sufrimiento es una realidad humana de la que solo escaparemos con la muerte: el día en que nos consideremos liberados del padecimiento habremos dejado de ser humanos, entre otras cosas porque habremos renunciado al amor, que es una de las fuentes principales de sufrimiento. El dolor, por otra parte, es una realidad compleja. Sea físico, mental o emocional, tiene un alto componente subjetivo: su capacidad de hacernos padecer depende del sentido que seamos capaces de encontrarle, o de que lo afrontemos en soledad o acompañados. Por eso, cuando el tecnomaterialismo promete poner fin a la aflicción, desvela su verdadero rostro: un reduccionismo tremendo de lo que implica ser humano. 

 

¿Y cómo saber si estamos usando mal la tecnología?

Cuando hablo a jóvenes sobre tecnología, les propongo dos preguntas que ubican su uso en el marco del dolor y del disfrute: «Cuando te diviertes, ¿acostumbras a hacerlo solo o acompañado?» y «Cuando te sientes triste, ¿tiendes a acudir a cosas o a personas?». Les explico que, si habitualmente encuentran disfrute y consuelo en el aislamiento y en sus cosas (móvil, videojuegos, series...), se están metiendo en un callejón sin salida. Si, en cambio, desarrollan el hábito de compartir con otros lo bueno y lo malo, están saliendo del callejón hacia un paisaje apasionante de experiencias y aprendizaje. Nótese que he dicho «habitualmente», pues en toda alegría y tristeza hay siempre un componente de soledad, de vivencia intransferible, que uno debe aprender a valorar.

 

¿Qué problema hay con usar la tecnología como evasión?

Resultaría ingenuo obviar el hecho de que, para muchos, la tecnología se está convirtiendo en consuelo, escape, analgésico que hace más llevaderos los vaivenes de la vida. Me preocupan los niños: que crezcan con el «país de las maravillas» en su bolsillo, a solo un clic; que estemos criando una generación hipervulnerable ante ese conejo blanco con forma de móvil o de tablet, que promete inagotables distracciones y entretenimientos, lejos del aburrido y amenazante mundo real. ¿Cómo van a desarrollar la resiliencia? Aprender a afrontar problemas y a vivir el sufrimiento es parte esencial de la educación; donde hay evasión se atrofia la capacidad de afrontamiento.

 

¿Es el éxito de Replika un fracaso para la sociedad?

Desde luego, apunta al fracaso de tantas relaciones... En una sociedad como la actual el verdadero peligro no es que Replika se convierta en nuestro mejor amigo; es que nuestra experiencia real de la amistad o del amor sean tan pobres que terminemos conformándonos con un sustituto virtual. La solución no exige demonizar la tecnología, sino reflexionar sobre las causas que nos llevan a esperar de ellas algo que, por ser profundamente humano, solo otra persona puede darnos. Ningún sustituto tecnológico, por muy avanzado que parezca, podrá colmar los deseos infinitos de felicidad que estamos condenados a sentir y llamados a satisfacer. ¿Por qué invertir tiempo y energía en simulacros tecnológicos cuando podríamos dedicarlo a fortalecer relaciones con familiares y amigos? Da pena que algunos —pocos ya son muchos— sacien su sed de relaciones humanas profundas en charcas tecnológicas, cuando lo que de verdad desean y merecen es agua de manantial.

 

¿Cómo se puede mejorar esta situación?

Con una reflexión profunda a la que siga un esfuerzo coordinado de padres, educadores, políticos y empresas. Si en este instante perdiéramos el agua potable en nuestras ciudades, ¿no pondríamos el grito en el cielo? Es hora de deliberar sobre los motivos por los que cada vez más y más gente se encuentra insatisfecha, sin vínculos sólidos y saludables. ¿Se puede seguir obviando la plaga de individualismo, soledad y competitividad que carcome nuestras relaciones humanas? No lo olvidemos: superada la fascinación inicial, nuestra conexión con el mejor chatbot de IA emocional solo será tan atractiva como repulsivas sean nuestras relaciones familiares y de amistad. En una sociedad de lazos fuertes y profundos, Replika nunca alcanzaría el éxito que parece estar teniendo hoy en el mundo occidental. Por eso, mientras sus creadores mantengan la misión de proporcionarnos un «amigo perfecto» o un «otro yo», no puedo sino desear, para esta fascinante tecnología, el más rotundo de los fracasos.

 

 

¿Quieres recibir la newsletter?

Si te ha gustado este artículo, puedes leer uno parecido cada lunes en tu bandeja de entrada. Solo tienes que suscribirte a la newsletter de Nuestro Tiempo desde aquí.