Detectores de IA: lo que dicen y lo que no

Cuando pegas un texto y te devuelve “92% generado por IA”, es fácil leer eso como una medición, parecida a la de un termómetro. No lo es. El detector no tiene acceso al computador de tu estudiante, ni a su historial de navegación, ni a la conversación que pudo tener con un chatbot. Solo ve las palabras, y sobre ellas calcula probabilidades.

Casi todos se apoyan en dos ideas. La primera es la perplejidad: qué tan sorpresivo resulta un texto para un modelo de lenguaje. Si el modelo puede adivinar fácil la palabra que sigue (“la capital de Colombia es…”), la perplejidad es baja. Los textos de IA tienden a tener perplejidad baja, porque el modelo va escogiendo, palabra por palabra, la continuación más probable. La segunda idea es la variación (en inglés la llaman burstiness): las personas escribimos a saltos, mezclamos una frase larga y enredada con otra de cuatro palabras, nos desviamos del tema y volvemos. La IA suele mantener un ritmo parejo.

Encima de eso, muchos detectores agregan un clasificador: un modelo entrenado con miles de textos etiquetados “humano” o “IA”, que aprende qué combinaciones de rasgos aparecen más en cada grupo y devuelve una probabilidad.

La consecuencia es incómoda pero clara. El número que ves no significa “esto lo escribió una IA”. Significa “este texto se parece, en sus patrones estadísticos, a los textos que en mi entrenamiento venían de una IA”. Es como un aparato que decide si una arepa es hecha a mano o de máquina mirando solamente qué tan redonda quedó: acierta bastante, y se equivoca justo con la señora que amasa muy parejo.

Dos términos que vas a necesitar toda la vida. Un falso positivo es cuando el detector marca como IA un texto que escribió una persona: acusa a un inocente. Un falso negativo es cuando deja pasar como humano un texto generado por IA: no detecta al que sí copió. Ningún detector puede bajar los dos errores a la vez; si lo ajustas para que atrape más tramposos, acusa a más inocentes, y al contrario.

Haz la cuenta con tus propios números. Supón —es un ejemplo, no un dato de un detector real— que un detector se equivoca en 5 de cada 100 textos humanos. Si tienes 120 estudiantes y recoges un ensayo, son unos 6 estudiantes honestos señalados. En un semestre con seis entregas, la herramienta acusa injustamente decenas de veces. Y cada acusación no es un número en una hoja: es una citación, una angustia, una familia que pierde la confianza en el colegio.

Hay otro detalle que se pasa por alto. Los porcentajes que muestran los detectores no son la probabilidad de que tu estudiante haya hecho trampa. “98% IA” no quiere decir “98% de probabilidad de que copió”. Es la salida de un modelo sobre el parecido estadístico del texto, y esa salida cambia si el mismo párrafo lo pegas en otro detector, o incluso en el mismo un mes después, porque las herramientas se actualizan sin avisar.

Señal de humildad que conviene recordar: OpenAI, que fabrica ChatGPT, publicó su propio detector de texto y después lo retiró reconociendo que su precisión era insuficiente. Quien mejor conoce cómo escribe el modelo no logró detectarlo de forma confiable.

Si el error fuera azar puro, sería un problema de calidad. Lo grave es que se concentra en grupos concretos, y casi siempre en los que tienen menos poder para defenderse.

El caso más documentado es el de quienes escriben en un idioma que no es su lengua materna. Tu estudiante de Cúcuta que redacta un ensayo para la clase de inglés usa el vocabulario que domina: palabras frecuentes, estructuras que practicó en clase, conectores de la lista que le diste. Eso es exactamente un texto de perplejidad baja y poca variación: predecible, parejo, correcto. Para el detector, huele a máquina. No porque copiara, sino porque escribir con recursos limitados produce las mismas señales que escribir con un modelo.

El mismo mecanismo golpea a otros perfiles. Estudiantes que siguen tu rúbrica al pie de la letra y arman el ensayo con la fórmula “introducción, tres argumentos, conclusión”. Estudiantes que escriben en prosa muy formal porque así les enseñaron. Estudiantes que corrigen ortografía y gramática con un asistente gratuito antes de entregar, o que piensan en su lengua y traducen. Estudiantes con formas de escritura muy estructuradas y repetitivas, algo común en personas neurodivergentes. Y estudiantes con menos práctica de escritura libre, que tienden a pegarse del molde.

Mira el patrón: el detector no penaliza la trampa, penaliza la escritura promedio, plana y obediente. En Colombia eso significa que el riesgo de ser acusado injustamente es mayor para quien estudia en inglés sin haber crecido con el idioma, para quien viene de un colegio con menos horas de escritura y para quien hace exactamente lo que le pediste. Es un sesgo con dirección, y va en contra de la equidad que buscas.

Hagamos explícita la lista de cosas que el porcentaje no distingue, porque ahí es donde se toman las decisiones injustas.

• No distingue niveles de uso. Un texto escrito por el estudiante y luego corregido con un asistente de gramática puede dar el mismo resultado que un texto generado completo. Son faltas muy distintas, o ninguna falta, según tu política de clase.
• No identifica autoría. No puede decir “esto lo escribió tal modelo” ni “esto lo escribió esta persona”. Solo compara con patrones.
• No resiste el disfraz. Existen “humanizadores” y basta pedirle al propio chatbot que reescriba con frases de distinta longitud, en primera persona y con un error ocasional para que el porcentaje caiga. O sea: atrapa al que usó IA sin cuidado, y deja pasar al que se tomó dos minutos más.
• No exculpa. Un “0% IA” tampoco prueba que el trabajo sea propio; pudo escribirlo otra persona.

Hay además un tema de datos personales. Cuando pegas el trabajo de un estudiante en una página web, estás enviando información de una persona identificable —muchas veces menor de edad— a una empresa tercera, que puede almacenarla y usarla para entrenar sus modelos. En Colombia el tratamiento de datos personales está regulado por la ley de protección de datos personales (Ley 1581 de 2012) y requiere una base legítima y, en el caso de menores, cuidados especiales. La práctica prudente y sencilla: no subas textos con nombre, documento, datos familiares ni información sensible; y si tu institución tiene una herramienta contratada con condiciones de tratamiento de datos, úsala por ese canal y no por páginas sueltas.

Suma todo y queda una conclusión sobria: el detector puede ser, como máximo, una alerta privada para que tú mires con más atención. Nunca la prueba.

La salida no es ignorar el problema, es cambiar la fuente de evidencia: del producto al proceso. Este procedimiento de seis pasos se puede defender ante coordinación y ante una familia.

1. Trata la sospecha como hipótesis, no como hallazgo. Anótala en privado. No la comentes con el grupo, ni en el chat de padres, ni con otros docentes.

2. Reúne evidencia de proceso. El historial de versiones de Google Docs o de Word en línea muestra cómo creció el texto: escritura progresiva con correcciones frente a un solo pegado de 900 palabras a las 11:47 p. m. Suma borradores, esquemas, fotos del cuaderno, fuentes citadas.

3. Compara con una línea base. Si tienes un texto corto escrito en clase, a mano, tienes con qué comparar voz, errores típicos y nivel. Si no la tienes, este es el momento de empezar a recogerla cada periodo.

4. Conversa, no interrogues. Cinco minutos, en privado, con preguntas abiertas sobre el contenido: por qué escogió ese argumento, qué le costó, de dónde salió tal dato, qué dejó por fuera. Quien escribió, explica y amplía; quien pegó, suele no poder ir más allá del texto.

5. Decide con lo que tienes, no con el porcentaje. Si el estudiante explica y muestra proceso, la sospecha se cierra y se lo dices con claridad para no dejarlo marcado. Si no puede, tampoco lo declares tramposo tú solo: aplica el conducto institucional, por escrito, con derecho a ser escuchado y a presentar pruebas.

6. Documenta y ajusta el diseño. Registra fecha, evidencia, conversación y decisión. Y pregúntate qué cambio en la tarea —entregas por etapas, defensa oral, escritura en clase— hace que el año entrante no dependas de un detector.