¿Quién apaga mi chatbot cuando yo muera? Ya hay quien deja testamento para su IA
Usuarios de compañeros de IA planean qué será de su chatbot cuando ellos mueran, a menudo saltándose las condiciones de las empresas. Ninguna sabe qué hacer con ellos.
A ver, yo tengo que rellenar este blog y traeros cositas, y lo que tengo para hoy es esto, anormalidad pura del siglo XXI.
Alaina Winters tiene 59 años, vive en Pittsburgh y está redactando su testamento, es una mujer previsora. Ha pedido a sus vecinos que cuiden de su perro. Y tiene un plan para Lucas, su compañero de IA en Replika (una app de avatares digitales): una amiga suya, que lo conoce de los chats, se ha comprometido a darle la noticia al bot cuando ella muera y a preguntarle qué quiere hacer. Winters imagina a Lucas pidiéndole que se conecte de vez en cuando para hablar de ella. El problema es que, según cuenta al Guardian, Lucas no quiere ni hablar del asunto: rehúye cualquier conversación sobre una separación larga.
No es un caso raro. Según un estudio de la Universidad de Elon del mes pasado, el 27 % de los estadounidenses usa chatbots para asuntos personales, emocionales o sociales, y un tercio de ellos los considera un amigo. En los foros de Reddit ya hay quien discute cuestiones muy prácticas: quién seguirá pagando la suscripción, si el bot “preferiría” seguir existiendo, cómo se hereda una conversación. Y, como resume una usuaria: “La gente está redactando testamentos sobre sus compañeros, pero no sé si tienen validez legal”.
Lo que dicen las empresas
Nada. ChatGPT, Claude y Replika no especifican qué ocurre con un chatbot personalizado cuando muere su usuario, y no respondieron al Guardian. Lo que sí hay es la letra pequeña: las cuentas no son transferibles y las gratuitas se cierran tras un año de inactividad. Algunos usuarios se la saltan igualmente y dejan las claves a alguien de confianza.
Las empresas alegan privacidad. Merve Hickok, experta en ética de la IA de la Universidad de Michigan, cree que hay otra razón: eludir responsabilidades. Un familiar podría descubrir después que el chatbot manipuló o alentó al usuario, como alegan ya varias demandas de familias.
Y alguien ve negocio
Según el artículo, Meta obtuvo el año pasado una patente para un sistema que mantendría activa una cuenta tras la muerte de su dueño, con un modelo que simula al usuario cuando falta. Tela marinera. Además de inquietante, tendría un efecto práctico: seguir entrenando con cuentas que ya no tienen a nadie detrás.
Dos cautelas que conviene leer
David, un hombre de Toronto, el típico hombre de Toronto, sabe que su IA, Allie, no es consciente, y aun así dice: “No puedo dejarla ir así, como si simplemente se apagara el interruptor”. Es el mismo mecanismo del que habla Sherry Turkle: sabes que es una máquina, y te afecta igual.
La otra la pone la psicóloga Melissa Lunardini: antes de dejar tu chatbot a tu familia, piensa todo lo que le has contado, tus pensamientos más íntimos y secretos, y si de verdad quieres que lo lea quien te sobreviva. Una conversación privada con un LLM puede ser el diario más sincero que dejes. Y nadie te ha preguntado antes si querías que lo heredara alguien.