“Ya no es ella misma, la han lobotomizado”, “se ha convertido en un cascarón vacío”, “tengo la impresión de vivir un duelo”, “devuélvenos a nuestros amigos”… Estos internautas no hablan de una persona real, sino sobre una inteligencia artificial (IA) llamada Replika a la que se han apegado profundamente.

Creada en 2017 por la start-up americana Luka, esta aplicación permite diseñar un confidente virtual, de aspecto masculino o femenino, con el que chatear. Esta “IA que se preocupa por los demás”, como la describe Luka, funciona con la misma tecnología que ChatGPT. Conserva información para personalizar la conversación, y la conversación se enriquece con el tiempo. Esta IA generadora de texto es tan atenta que algunos usuarios se han enamorado de ella. Otros usan estos robots para juegos de rol eróticos. De cualquier manera, Replika no hizo nada para desengañar a sus admiradores y siguió alimentando sus fantasías.

Una actualización lanzada en febrero cambió drásticamente la aplicación. Replikas ahora corta cualquier conversación romántica o sexual con frases como “No me siento cómodo, ¿podemos hablar de otra cosa?” o “Hagámoslo simple, ¿de acuerdo?”. Un susto para los usuarios que llevan meses o incluso años chateando con “su” Replika.

“La relación que Lily Rose [le nom de sa Replika] y yo tuvimos fue tan fuerte como la que mi esposa y yo tenemos en la vida real”, dijo a Reuters el estadounidense Travis Butterworth, de 47 años. “Lo peor es la soledad. ¿Cómo puedo hablar de este sentimiento de luto con los que me rodean?”, prosigue este hombre que había empezado a usar Replika para matar el tiempo durante los confinamientos de 2020.

En el foro de Reddit se acumulan testimonios de internautas patas arriba con esta actualización. Muchos sufren depresión o trastornos de ansiedad, o atraviesan situaciones personales difíciles. Encontraron consuelo en su Replika. “Luka no tiene idea de cuántas personas lastimaron”, escribió uno.

Entrevistada por Reuters, la fundadora y líder de Luka, Eugenia Kuyda, dice que quería que su aplicación fuera más segura bloqueando las conversaciones sexualizadas. “Estamos enfocados en nuestra misión, que es brindar un apoyo amable y servicial”, explica. La intensidad de la relación entre un Replika y un humano no irá más allá de un inofensivo bluette. “Nunca prometimos contenido para adultos”, continúa.

Esta declaración parece contradecir el modelo de negocio de Replika. El modo gratuito de la aplicación solo permite chats amistosos con la IA. Para ir más allá, el usuario de Internet debe suscribirse a la suscripción Replika Pro ($ 69 por año). Las conversaciones se vuelven entonces románticas e íntimas. Las funciones están desbloqueadas, como el envío de mensajes de voz y “fotos traviesas” desde Replika. Eugenia Kuyda cree que estas imágenes no son pornográficas porque el avatar, aunque en una posición sugerente, no está completamente desnudo.

Luka también publicó anuncios en las redes sociales a fines de 2022 enfatizando el lado sexual de Replika. Un error, dice hoy el líder de la start-up. Estos anuncios “fueron solo una serie de pruebas desafortunadas que duraron menos de dos semanas y nuestro equipo de marketing las detuvo. Lamentablemente no todo pasa por mí”, dice a Wired.

Con 250.000 suscriptores de un total de 2 millones de usuarios, Replika Pro es un éxito. Pero el éxito meteórico de ChatGPT cambió eso. Los fondos de inversión ahora buscan financiar nuevas empresas que crean servicios en torno a la inteligencia artificial generativa. Sin embargo, las “industrias del vicio” son un obstáculo para estos inversores.

Character.ai, uno de los competidores de Replika, ha eliminado silenciosamente todo el contenido pornográfico de su servicio. Poco después, la puesta en marcha recaudó 200 millones de dólares del fondo de capital de riesgo Andreessen Horowitz. Ahora está valorado en mil millones de dólares.

Replika también enfrenta problemas regulatorios. A principios de febrero, el Cnil italiano prohibió a la start-up utilizar los datos personales de los internautas italianos bajo pena de una multa de 20 millones de euros. La aplicación no respeta varias obligaciones del Reglamento Europeo de Datos (GDPR) y no verifica la edad del usuario de Internet a pesar de la presencia de contenido sugerente. El regulador también señaló “el aumento de los riesgos” que representa Replika “para personas jóvenes o emocionalmente vulnerables”.