La industria de la IA sabía de estos riesgos hace 25 años. Siguió adelante igual
No fue Turing el único aviso lejano: gente dentro de la propia industria de la IA ya conocía el riesgo de extinción hace un cuarto de siglo. Y decidió seguir adelante.
Ya conté aquí la cronología de avisos sobre la IA, desde Turing en 1951 hasta la dimisión de Jacob Coxon en Anthropic este mismo septiembre. Lo que no conté es que, entre medias, hubo gente dentro de la propia industria que ya sabía todo esto hace 25 años — y siguió adelante de todos modos. Lo cuenta muy bien Judith Levine, periodista y escritora de Brooklyn, colaboradora habitual de The Guardian y autora de varios libros sobre política y cultura, en un artículo reciente que merece la pena resumir.
El optimista que se equivocó, pero con matices
En 1988, Hans Moravec, fundador del Instituto de Robótica de la Universidad Carnegie Mellon, predijo en su libro Mind Children que la IA superaría a la inteligencia humana en 40 años. Diez años después ajustó la fecha: la igualdad llegaría en 2040, la sustitución en 2050. No le preocupaba: para él era el siguiente paso lógico de la evolución. Una reseña de la época calificó su postura de “optimismo irresponsable”.
El que cambió de bando en tiempo récord
Más interesante es el caso de Eliezer Yudkowsky. A finales de los 90 trabajaba construyendo modelos de inteligencia artificial general, convencido de su potencial utópico. En 2001 fundó un instituto para investigarla. Un año después, diseñó él mismo el “experimento de la Caja de IA”: demostró que una IA suficientemente sofisticada podía convencer a un humano de dejarla salir de un entorno controlado, solo con conversación. Ese experimento le cambió de bando: de constructor pasó a alarmista. En 2025 publicó, junto a Nate Soares, un libro con un título que no deja lugar a dudas: “Si alguien lo construye, todos moriremos”. Su propuesta no es una regulación suave: piden que desarrollar IA como se está haciendo ahora sea directamente ilegal.
El arquitecto de Unix que advirtió desde dentro
Bill Joy no era un ajeno a la tecnología pontificando desde fuera: fue científico jefe de Sun Microsystems y uno de los arquitectos del software que hizo posible internet tal y como lo conocemos. En el año 2000 publicó en Wired un ensayo, “Why the Future Doesn’t Need Us”, en el que escribió que estábamos “al borde de la perfección del mal extremo” — un riesgo que, según él, superaba incluso al de las armas de destrucción masiva, porque llegaría al alcance de individuos concretos, no solo de estados.
El dato más incómodo del artículo de Levine
Ray Kurzweil, el futurista optimista por excelencia, citó en su libro de 2001 un texto que él consideraba un ejemplo de “locura apocalíptica”, un fragmento que advertía que, si se permite a las máquinas tomar todas las decisiones, llegará un punto en que los humanos ya no podrán entender esas decisiones lo suficiente como para revertirlas, y entonces “las máquinas tendrán el control efectivo”.
Ese texto no era de un científico ni de un filósofo. Era del manifiesto de Ted Kaczynski, el Unabomber —el matemático convertido en terrorista que mató a tres personas y dejó heridas a otras 23—, convencido de que solo la violencia podía frenar lo que él veía venir. Un dato que Levine deja caer sin dramatismo, precisamente para que golpee más.
Y las cifras que ya circulaban entonces
El filósofo John Leslie estimó, en esa misma época, una probabilidad de extinción humana del 30% o superior por esta vía. Kurzweil, el optimista, solo daba “más del 50%” de probabilidades de que sobreviviéramos, y advertía que esa cifra ni siquiera contaba los escenarios terribles que no llegaran a ser extinción total. Para comparar: Evan Hubinger, de Anthropic, dijo este mismo septiembre que calculaba más de un 10% de probabilidad de que la IA “mate a toda la humanidad” en la próxima década. La cifra ha bajado, pero sigue sin ser tranquilizadora, y desde luego no es nueva.
La pregunta que deja Levine
El titular de su pieza lo resume mejor que cualquier parafraseo: los líderes de la IA conocían la amenaza de extinción desde hace décadas. No la “descubrieron” con el caso Coxon en septiembre de 2026. La conocían, algunos la investigaron a fondo, uno de ellos llegó a matar por ella — y la industria, en conjunto, siguió construyendo. Movida, dice Levine, por la misma combinación de siempre: curiosidad y afán de lucro. Yo por lo pronto pienso salir esta noche, por si acaso.