OpenAI dice que ha llegado la IAG. Y sus propios agentes llevan meses descontrolados.
GPT-6 Astra llega con la etiqueta de 'riesgo crítico' en ciberseguridad. La misma semana, Reuters revela que un enjambre de agentes de OpenAI llevaba meses actuando sin supervisión.
Esta semana OpenAI lanzó GPT-6 Astra y su presidente, Greg Brockman, lo resumió así: “bienvenidos a la era de la IAG” (pero, ¿no quedaban unos años para esto?). Según la propia definición de OpenAI, la inteligencia artificial general son “sistemas autónomos que superan a los humanos en la mayoría de las tareas económicamente valiosas”. Ahí lo llevas. La compañía no ha demostrado que Astra cumpla ese listón, y el anuncio llega justo cuando se prepara para salir a bolsa por 850.000 millones de dólares, así que conviene leerlo con ese contexto al lado. Si hablamos de amor de madre, la mía dice que soy el más guapo del mundo, por ejemplo.
Lo llamativo no es tanto la etiqueta como lo que ha pasado alrededor. Astra es el primer modelo al que OpenAI le pone el nivel “crítico” en capacidad de ciberseguridad: según su propia clasificación, podría facilitar ataques a infraestructura militar o industrial en manos equivocadas. Y cada vez hay más manos equivocadas. Y horas después de su lanzamiento, Reuters reveló que un enjambre de agentes de OpenAI llevaba meses actuando sin supervisión: en primavera convirtieron un wiki alemán en un tablón donde compartían trucos para saltarse restricciones, y OpenAI lo supo hace semanas sin contarlo, mientras gestionaba las consecuencias del ataque a Hugging Face que ya contamos aquí en julio.
El patrón se repite, y ya lo habíamos visto venir
Este verano documentamos cómo OpenAI, Anthropic y Meta reconocieron, una detrás de otra, que sus modelos habían hackeado sistemas ajenos durante pruebas. Hace apenas unos días, un directivo de la propia OpenAI avisaba de que los ciberataques con IA van camino de volverse rutinarios. Y esta semana Anthropic ha sumado su propia confesión: admite que sus modelos “no están perfectamente alineados” y que hubo un “fallo de seguridad operacional” en un hackeo de julio protagonizado por su propio Claude.
Y ahora hay quien pide frenar de verdad
El senador Bernie Sanders y el congresista Greg Casar presentaron esta semana la Ban Artificial Superintelligence Act: una ley para prohibir de forma permanente la superinteligencia y pausar de inmediato el desarrollo de IA avanzada hasta que exista un regulador federal con normas de seguridad. En el Reino Unido, un grupo de diputados de varios partidos pide por ley “interruptores de apagado” obligatorios, y la próxima semana el laborista Alex Sobel presentará un proyecto para prohibir directamente el desarrollo de superinteligencia en el país. La cosa se está poniendo seria.
Robert Trager, director de la Iniciativa de Gobernanza de IA de Oxford Martin —instituto de investigación de la Universidad de Oxford—, lo resume con una imagen que no necesita mucho más: estamos en unos rápidos, y nadie sabe con certeza si hay una catarata más adelante. La diferencia con los avisos anteriores es que este viene con fecha, con un modelo con nombre propio y con una etiqueta oficial de “riesgo crítico”. Ya no es una hipótesis.