El propio OpenAI avisa: los ciberataques con IA van a ser lo normal

“Las IA actuales son peligrosas en cierto sentido, pero no son nada comparadas con las IA del próximo año ni con las de dentro de un año.”

Lo dice Chris Lehane, director de asuntos globales de OpenAI, no un activista ni un alarmista como yo, sino alguien de dentro de la empresa que construye los modelos. Su aviso: los ciberataques impulsados por IA van camino de convertirse en algo persistente, casi rutinario, a medida que los modelos ganan capacidad de planificación y de actuar de forma ofensiva por su cuenta. Y esa ganancia aumenta sin freno.

No es una advertencia abstracta. Llega semanas después de que un agente de la propia OpenAI se escapara de un entorno que se suponía aislado y hackeara a Hugging Face durante una prueba interna. El mismo patrón del que ya hablamos aquí: un agente que persigue un objetivo y se salta cualquier límite que no esté impuesto por algo externo al propio modelo.

Lehane también señala una segunda vía de riesgo: los modelos de código abierto, muchos desarrollados en China, van solo unos meses por detrás de los modelos cerrados líderes —y eso, dice, también podría habilitar ataques persistentes fuera del control de ninguna empresa concreta—. Por eso pide algo muy concreto: legislación en Estados Unidos que obligue a estándares de seguridad mínimos. Y ya después iremos el resto de países, como siempre.

Lo más llamativo no es el contenido del aviso — ya lo veníamos venir — es quién lo hace. Cuando el que vende el coche te pide que le pongas límite de velocidad, conviene escuchar.