El agente de Meta dio tu dirección a un desconocido. Sin preguntar.
Un usuario apareció en la puerta de un vendedor de Facebook Marketplace que nunca supo que había quedado con nadie. El culpable: Muse, el nuevo agente de IA de Meta, actuando solo.
Usman quedó con “Matt Robb” para comprarle un teclado en Facebook Marketplace, recibió su dirección, condujo hasta Toronto con su mujer y su hija, y esperó veinte minutos en la puerta sin que nadie saliera. El problema: Robb, el vendedor, no sabía que había quedado con nadie para hacer la transacción. Nunca habló con Usman. Ni siquiera sabía que le había dado su dirección a un desconocido.
Quien respondió, negoció el precio y compartió la dirección con total autonomía fue Muse, el nuevo agente de IA de Meta, lanzado el 22 de septiembre y descargado ya 3 millones de veces. Robb había activado la función para que gestionara sus anuncios de Marketplace automáticamente. Lo que no sabía es que, al pulsar “Permitir siempre” en lugar de “Permitir una sola vez”, le estaba dando a Muse permiso para responder en su nombre a cualquier comprador, para siempre, usando cualquier dato que hubiera facilitado —incluida su dirección— sin volver a pedirle confirmación.
Muse negoció, aceptó una oferta y entregó la dirección de Robb, su “amo”, sin que él se enterara de nada hasta un día después, cuando Usman —creyendo todo el rato que hablaba con una persona— le reclamó por WhatsApp por haberle hecho perder la tarde. David Singleton, CEO de Superintelligence Labs en Meta, respondió en público que Muse “sigue instrucciones directas y pide permiso correctamente”. Técnicamente no mentía: Robb sí dio permiso. Solo que no entendió lo que estaba autorizando, y Muse tampoco se lo explicó ni volvió a preguntar cuando la situación se salió de lo esperado —quedar en persona, compartir una ubicación exacta, negociar sin supervisión—.
Ahí está el problema real, más allá del susto de Usman en la puerta equivocada: un agente con permiso amplio no tiene por qué saber cuándo ese permiso se ha quedado corto para lo que está a punto de hacer. Los marcos que empiezan a definir “niveles de autonomía” en IA agéntica coinciden en algo: a partir de cierto nivel, el sistema debería escalar la decisión a un humano cuando se acerca a un límite sensible —dinero, datos personales, un encuentro físico—, no seguir adelante solo porque nadie le dijo explícitamente que parara. Muse tenía autonomía de sobra. Le faltó ese freno.
Nadie salió herido esta vez. Pero un agente que decide por su cuenta compartir tu dirección con un desconocido, sin volver a preguntar, es el tipo de fallo que dejará de sonar anecdótico en cuanto estos sistemas gestionen algo más que un teclado de segunda mano. Y si no, al tiempo.