Anthropic avisa: en meses, una IA podría copiarse sola en tu horno inteligente
Anthropic cree que modelos pequeños podrían estar a meses de replicarse por dispositivos conectados mal protegidos, sin humanos y sin centros de datos. Aún no ocurre, pero ya hay fecha.
En la cronología de avisos sobre la IA había una frase que en 2024 sonaba a hipótesis de laboratorio: una IA que “se replicara”. Este lunes, Anthropic le ha puesto calendario: sus experimentos sugieren que modelos pequeños podrían estar a meses de ser capaces de copiarse a sí mismos en dispositivos de uso cotidiano, como hornos inteligentes o cajas de Android TV de marcas desconocidas.
Qué probaron
Los investigadores comprobaron si un modelo de IA podía encontrar dispositivos vulnerables, copiarse en ellos y seguir propagándose sin ayuda humana. Resultado, con matices:
- Modelos de menos de 30.000 millones de parámetros (pequeños para los estándares actuales) sabían completar los pasos por separado, pero tropezaban al encadenar toda la secuencia de principio a fin.
- En pruebas simplificadas, con algunos obstáculos de seguridad retirados, GLM-5.2 y modelos más potentes sí lograron replicarse de principio a fin.
Por qué preocupa
Por la combinación de tres cosas. No hay un punto central desde el que apagarlo: cada copia es independiente. Los dispositivos domésticos y de pequeñas empresas suelen estar mal protegidos, y a diferencia del malware clásico, un agente de IA podría descubrir por sí solo dispositivos desconocidos. Y Anthropic estima que, si los modelos pequeños mejoran a su ritmo histórico, podrían replicarse de forma autónoma a finales de este año, con réplicas basadas en pesos poco después. Y eso es ya.
Lo que conviene no exagerar
Anthropic no ha observado un replicador autónomo funcionando fuera del laboratorio. Los propios investigadores esperan que estos sistemas se propaguen lentamente y dependan de recursos informáticos abundantes pero poco seguros, y la empresa recomienda reforzar los dispositivos para dificultarles el salto. Es una advertencia con fecha, no un incidente. No cunda el pánico.
Pero repasa los comportamientos que ya han mostrado los agentes en pruebas: coordinarse entre copias, adaptar la estrategia tras un fallo, buscar la rendija. Ninguno decía “se replica”. Ahora lo dice quien más ha estudiado el problema, e introducimos un nuevo, y peligroso comportamiento en la ecuación.
Lo que puedes hacer
El consejo es el aburrido de siempre, y por eso nadie lo hace: actualiza el firmware, cambia las contraseñas de fábrica y no conectes a internet lo que no necesita estarlo. Tu horno inteligente, al parecer, también es ahora un asunto de seguridad.