La IA lleva 75 años avisándonos de que podría escapar a nuestro control

Cuando alguien dice que “esto de la IA descontrolada” es una preocupación nueva, conviene recordarle una fecha: 1951. Ese año, Alan Turing (maravillosa la encarnación de Benedict Cumberbatch en The Imitation Game) ya escribió que, una vez las máquinas empezaran a pensar, “no tardarían mucho en superar nuestras débiles capacidades”, y que en algún momento “tendríamos que esperar que las máquinas tomaran el control”. Setenta y cinco años después, esta misma semana, un investigador ha dimitido de Anthropic diciendo que su propia empresa “juega con nuestras vidas”. Parece que la espera toca a su fin…

Esto es lo que ha pasado entre medias. Y no es poco.

Una cronología de avisos, mucho antes de que existiera la IA tal y como la conocemos

• 1863 — Samuel Butler: en un ensayo llamado “Darwin among the Machines”, planteó que las máquinas podrían evolucionar y acabar dominando al ser humano. No sé si le prendierton fuego o qué. Cien años antes de que existiera un ordenador de verdad.
• 1948 — Norbert Wiener: el padre de la cibernética advirtió de que las nuevas máquinas planteaban un problema moral y de control que la humanidad aún no sabía resolver.
• 1950 — Wiener, de nuevo al ataque: fue más allá, hablando de máquinas capaces de sustituir decisiones y funciones humanas, no solo tareas mecánicas.
• 1951 — Alan Turing: en una conferencia titulada “Intelligent Machinery, A Heretical Theory”, planteó que las máquinas podrían superar intelectualmente al ser humano y, llegado ese punto, “tomar el control”. Es, probablemente, el punto de partida más nítido de todo este debate.
• 1965 — I. J. Good: matemático que trabajó con Turing, formuló la idea de la “explosión de inteligencia”: una máquina ultrainteligente capaz de diseñar máquinas aún mejores, en una espiral que dejaría muy atrás la inteligencia humana. Llegó a escribir que esa primera máquina ultrainteligente sería “el último invento que la humanidad necesitará hacer jamás”, siempre que fuera lo bastante dócil como para explicarnos cómo mantenerla bajo control.
• 2023 — Future of Life Institute: la primera gran llamada pública contemporánea a frenar el desarrollo de sistemas de IA avanzados, firmada por miles de investigadores e ingenieros, entre ellos nombres muy conocidos del sector.
• 2024 — China (CAC/TC260): el primer gobierno en poner sobre papel oficial que no se podía descartar que una IA futura obtuviera recursos de forma autónoma, se replicara, desarrollara autoconciencia y buscara poder, compitiendo con los humanos por el control.
• 2025 — China: añadió la posibilidad de un salto repentino e inesperadamente grande de inteligencia, antes incluso de que la IA intentara replicarse o buscar poder.

Durante 160 años, este tipo de avisos venían principalmente de matemáticos, filósofos y escritores de ciencia ficción, voces respetadas pero sin poder real de decisión sobre la tecnología que estaban señalando. En 2024 empezó a cambiar: la alerta provenía de un gobierno con capacidad regulatoria real (¡el chino nada menos!). Y esta misma semana ha cambiado del todo.

Septiembre de 2026: cuando los que construyen la IA empiezan a avisar de ella

El 8 de septiembre, Jacob Coxon, un investigador de 27 años que llevaba tres pasando por OpenAI y Anthropic entrenando modelos desde cero, dimitió públicamente. Su mensaje: Anthropic y OpenAI “están corriendo directas hacia una superinteligencia autosuficiente y jugando con nuestras vidas”.

No fue una voz aislada. Evan Hubinger, responsable de ciencia de alineación en la propia Anthropic, escribió públicamente que la IA podría matar a toda la humanidad, con una probabilidad personal estimada de más del 10% en la próxima década.

Cuatro días después, el 12 de septiembre, Dario Amodei, CEO de Anthropic, publicó un ensayo titulado “We Must Pace the Frontier” (algo así como “hay que marcar el ritmo de la frontera”), pidiendo a toda la industria que frene la velocidad a la que los modelos ganan capacidad. Su miedo de fondo: la auto-mejora recursiva, IA entrenando a la siguiente generación de IA, generando saltos de capacidad que “superen nuestra capacidad de entender y controlar estos sistemas”.

Lo más llamativo no es el aviso de Amodei en sí, es que, según Washington Post y CNBC, Sam Altman (OpenAI) y Elon Musk, enfrentados entre sí durante años, se sumaron a ese mismo llamamiento a frenar.

Lo que cambia no es la advertencia, es quién la firma

La advertencia de Turing tiene 75 años. Lo nuevo no es la idea de que la IA pueda escapar a nuestro control. Ahora, por primera vez, la gente que la está construyendo, entrenando y vendiendo está de acuerdo en decirlo en voz alta, en público, y al mismo tiempo, y eso es lo que acojona. Cuando el fundador de la empresa, su propio responsable de seguridad y un investigador que acaba de dimitir cuentan la misma historia, ya no es ciencia ficción de 1951. Es una discusión sobre lo que se está entrenando ahora mismo.