Contraindicaciones

La policía anti-IA ya patrulla la literatura

Premios, bestsellers y contratos cayendo por sospechas de haber usado IA, con detectores como Pangram como prueba. El detector acierta mucho. El problema es quién lo usa, contra quién, y qué se hace con un resultado que no prueba nada.

· CNN / T.M. Brown →


El 6 de octubre, el escritor zimbabuense Simbarashe Kundizeza ganó el Caine Prize de literatura africana con el relato “The Blue Fighter”. Cinco días después, The Atlantic (firmado por Vauhini Vara) publicó que el narrador “tiene la personalidad de un chatbot” y que el detector Pangram marcaba casi todo el texto como generado por IA, salvo el epígrafe. Kundizeza lo niega, dice que es obra suya y asegura tener correspondencia de 2025 con su editor sobre el avance de los borradores. El premio no hace cribado con IA: se fía de que los autores certifiquen su trabajo. A fecha de hoy no hay veredicto, y el historial de borradores sigue siendo su versión, no algo verificado por un tercero.

No es un caso aislado. En lo que va de año, Hachette canceló en marzo el lanzamiento en EE. UU. de Shy Girl; en mayo acusaron a Jamir Nazir por su relato ganador del Commonwealth Short Story Prize; en julio, Jerry Falade perdió un contrato de 2 millones de dólares por sospechas sobre su debut; y el 25 de septiembre la Academia Goncourt retiró de su selección la novela C’était ça ou mourir, de Thélyson Orélien.

El detector acierta mucho. Esa no es toda la historia

Pangram dice tener un falso positivo de 1 entre 10.000. Un working paper de 2025 de la Universidad de Chicago encontró tasas casi nulas de error en textos de distintos géneros, y un estudio que el artículo atribuye a Maryland llegó a un 2 %, aunque no he podido confirmar ese último. Eso es mejor de lo que se suele pensar.

Lo que falla es lo contrario. Pruebas independientes de este año muestran que se le escapa lo editado y lo “humanizado”: Epoch AI no detectó como IA un 10 % de pasajes que imitaban a autores concretos, y un preprint de Notre Dame concluyó que con herramientas que disfrazan el texto el detector fallaba más del 96 % de las veces. Es decir, es más fiable para acusar que para absolver, y ni siquiera para acusar es una prueba.

Y aun con 1 error entre 10.000, con miles de textos publicados cada día salen inocentes señalados. Las “marcas de IA” que se citan (el guion largo, el “no es X, sino Y”) las usaban ya los humanos de los que aprendieron las máquinas. Lo resume el escritor Patrick Nathan: la IA escribe mal porque la mayor parte de lo que se escribe es malo.

Quién acusa, y a quién

El artículo señala un patrón: casi todos los acusados son escritores no blancos. El caso de Orélien es el más claro. La acusación nació en una cuenta anónima de X llamada “Balance ton Claude”, cuyo administrador resultó ser Samuel Fitoussi, columnista conservador de Le Figaro, que pasó fragmentos por Pangram. La Academia citó también denuncias de plagio de hace más de diez años. El autor lo niega, y un miembro de la Academia, Pascal Bruckner, se negó a “participar en el linchamiento”, aunque creía las acusaciones “sin duda ciertas”. El profesor Doyle D. Calhoun, de Cambridge, lo atribuye a un resentimiento ante un mundo editorial que por fin se diversifica, y dice que estas acusaciones “se pegan” menos a los escritores blancos.

Probar que no eres una máquina

Sin una confesión, no hay forma de demostrar nada, salvo abrir el historial del ordenador del acusado. Eso es justo lo que se le pide ahora a Kundizeza. La Commonwealth Foundation, en el caso Nazir, no usó detectores: revisó borradores y notas, habló largo con los autores y concluyó que nadie había usado IA. Granta rompió igualmente con ella. Su editora admitió que había pasado el relato por Claude, que no está diseñado para detectar escritura de IA, y que respondió que “casi seguro no lo escribió una persona sola”. La ironía la reconoce ella misma: la mejor herramienta para detectar la IA es la IA.

Hay un dato que descoloca el relato. Según The Atlantic, el mismo Pangram clasificó como escritos por humanos 25 relatos de ganadores anteriores del Caine Prize. O sea, el detector distingue, pero no explica por qué este caso, y no otro, acaba en acusación.

Pangram no entrega verdad: entrega duda. Y la duda, una vez lanzada, no se retira con un desmentido. Lo que queda es un clima en el que quien escribe tiene que demostrar que es humano, y quien acusa solo tiene que enseñar una captura de pantalla.

Fuentes: