Cómo funciona realmente la detección de IA (y por qué es básicamente una suposición)

Hace poco me preguntaron cómo una computadora puede saber si un párrafo fue escrito por ChatGPT o por una persona. La respuesta honesta sorprendió a quien preguntaba: en realidad, el software no "sabe" nada. Está haciendo una apuesta estadística, y la mayoría de la gente le da a esa apuesta mucho más crédito del que realmente merece.

Este es el mecanismo: un modelo de lenguaje escribe prediciendo la siguiente palabra basándose en todo lo que vino antes. Eso es todo, ese es el truco completo. Escribe "el gato se sentó en el" y el modelo tiene una idea muy clara de lo que sigue, porque ha visto millones de oraciones que terminan igual. No está pensando. Está emparejando patrones a una escala que ningún cerebro humano puede igualar.

El problema para el modelo es que esta predictibilidad deja una huella digital. Los humanos no escribimos la oración estadísticamente más segura todo el tiempo. Nos vamos por las ramas. Elegimos una palabra que no es la más obvia simplemente porque se siente adecuada en el momento. Nos contradecimos a mitad de un párrafo y no nos molestamos en corregirlo. Ese "ruido" es exactamente lo que los detectores buscan: o mejor dicho, la ausencia de ese ruido.

"Los detectores no leen el significado. Leen la forma, y la forma puede ser profundamente engañosa."

Las dos métricas clave: Perplejidad y Burstiness

Hay dos mediciones principales que hacen el trabajo aquí. La primera es la perplejidad (perplexity), que es una forma elegante de preguntar qué tan sorprendido está un modelo de lenguaje por las palabras que elegiste. Las elecciones de palabras predecibles y seguras obtienen una puntuación baja. Una elección más extraña y personal puntúa más alto. El texto de IA tiende a ubicarse en el extremo inferior porque, por diseño, optimiza para la siguiente palabra más probable una y otra vez.

La segunda es la variabilidad de ráfagas (burstiness), y creo que esta importa más de lo que la gente cree. La escritura humana real tiene ritmo, al igual que el habla real. Escribes cuatro palabras y luego treinta. Te extiendes en una oración y luego sueltas una corta y contundente justo después. Los párrafos generados por IA tienden a aplanar eso: cada oración tiene aproximadamente la misma longitud, lo que suena bien en teoría pero se lee como un metrónomo cuando prestas atención.

Más allá de esas dos métricas, muchas herramientas modernas se basan en clasificadores neuronales (modelos como RoBERTa) entrenados específicamente para detectar la diferencia entre escritura humana y artificial. Estos detectan patrones más sutiles: tics estilísticos, hábitos estructurales, el tipo de cosas que un buen editor nota sin poder explicar del todo por qué.

Marcas de agua y sus vulnerabilidades inherentes

Luego están las marcas de agua (watermarking), que funcionan de forma distinta. En lugar de analizar el texto terminado en busca de patrones, la idea es que el modelo de IA inserte silenciosamente una señal mientras genera el texto, algo invisible para el lector pero detectable con la clave correcta. Suena bien en papel, pero se desmorona en cuanto el texto se edita, parafrasea o pasa por un modelo que nunca implementó marcas de agua.

Nada de esto constituye un método infalible, y esa es la conclusión principal. Cada método es una estimación de probabilidad. No un hecho. No una huella digital en sentido forense. Es una suposición vestida con suficientes matemáticas para parecer autoritaria.

Por eso mismo, un detector puede marcar a alguien que escribe con un estilo limpio y formal, o a alguien que escribe en su segundo idioma, o a un redactor técnico cuyo vocabulario es naturalmente más acotado. Ninguna de esas personas usó IA; simplemente escriben de una manera que cae en un territorio estadístico similar. Las herramientas no leen significado, leen patrones estadísticos.