Cómo comprobar lo que la IA te dice

Un modelo de lenguaje (el motor detrás de ChatGPT, Gemini o Claude) no guarda adentro una base de datos de hechos que consulta cuando le preguntas. Lo que hace es calcular, palabra por palabra, cuál es la continuación más probable del texto. Es como el autocompletar del teclado de tu celular, pero entrenado con una cantidad enorme de texto y con una capacidad de encontrar patrones muchísimo mayor.

Eso explica algo clave: el modelo optimiza que el texto suene plausible, no que sea verdadero. Cuando le pides una referencia académica, el modelo ha visto millones de referencias y aprendió su forma: apellidos latinos o anglosajones, un año entre paréntesis, un título con palabras técnicas del tema, el nombre de una revista, un DOI que empieza por 10. seguido de números y una barra. Puede armar una referencia perfecta en su forma y completamente falsa en su contenido. A esto se le llama alucinación: cuando la IA produce información inventada presentándola como si fuera cierta.

Dos consecuencias prácticas. La primera: la seguridad del tono no significa nada. Estos sistemas están hechos para responder de forma fluida y servicial, así que suenan igual de convencidos cuando aciertan y cuando inventan. No hay un temblor en la voz que te avise. La segunda: el riesgo no es parejo. Alucina más cuando le pides datos muy específicos (cifras exactas, fechas, artículos de leyes, nombres propios, citas textuales, enlaces), cuando el tema es de nicho o local —trámites colombianos, normas de una alcaldía, cifras de un municipio pequeño— y cuando le pides algo que no existe, porque igual va a intentar complacerte.

Y hay un límite adicional: el modelo fue entrenado hasta cierta fecha. Si no está conectado a internet en ese momento, no conoce lo que pasó después.

Verificar todo, siempre, línea por línea, es imposible y te haría más lento que si escribieras solo. La pregunta correcta antes de decidir es: ¿qué pasa si esto está mal?

• Riesgo bajo: lluvia de ideas, títulos para un proyecto, reescribir tu propio correo, explicarte un concepto que ya vas a estudiar aparte. Aquí el error se nota solo o no hace daño. No verifiques cada palabra.
• Riesgo medio: un resumen para estudiar, un trabajo de clase, un texto que vas a publicar en tus redes. Verifica lo verificable: cifras, nombres, fechas y toda referencia.
• Riesgo alto: salud, dinero, contratos, requisitos legales, trámites con plazos, código que va a producción, cualquier cosa que entregas con tu nombre a una institución. Aquí se verifica todo, dato por dato, o no se usa.

Hay una lista corta de cosas que casi siempre hay que comprobar, sin importar el tema: cifras y porcentajes, fechas, nombres propios de personas y entidades, citas textuales, artículos de leyes o normas, precios y tarifas, requisitos de trámites, enlaces y referencias.

Y ahora lo más importante, porque es el error que casi todo el mundo comete: preguntarle a la misma IA "¿estás seguro?" no es verificar. Estás pidiéndole a un generador de texto plausible que genere más texto plausible. De hecho, muchos modelos son complacientes: si tú dudas o contradices, tienden a darte la razón y a cambiar la respuesta aunque la original fuera correcta. Prueba a decirle "creo que eso está mal" a algo que sabes que está bien y verás.

Verificar significa salir del chat: ir a una fuente externa, preferiblemente la fuente primaria, es decir, el documento original donde nació el dato (el boletín del DANE, el artículo científico, el texto de la norma), no un blog que lo repite.

Perplexity es un buscador con IA: en vez de responder de memoria, busca en internet y te muestra la respuesta con numeritos que enlazan a las páginas que usó. Tiene un plan gratis usable desde Colombia y sirve muy bien como primer paso, porque te ahorra encontrar el camino hacia la fuente.

Pero ojo con la trampa: que cite no significa que sea cierto. Los errores típicos son que la fuente citada sí existe pero no dice exactamente lo que la respuesta afirma, que es un blog que copió el dato de otro blog, o que es una versión vieja. Por eso el paso no negociable es: abrir el enlace y buscar la cifra dentro de la página (Ctrl+F en computador, o la opción "Buscar en la página" del navegador del celular). Si no la encuentras ahí, no está verificada.

Cuando busques por tu cuenta, no escribas tu pregunta: escribe las palabras que estarían en el documento original. En vez de "¿cuánto es el desempleo en Colombia?", busca DANE boletín mercado laboral tasa de desempleo. En vez de "¿qué dice la ley de protección de datos?", busca el número de la ley junto con Función Pública o el nombre de la entidad que la publica.

Para temas colombianos, ve directo a quien produce el dato:

• DANE para estadísticas de población, empleo, precios e inflación.
• Banco de la República para la TRM (la tasa representativa del mercado, el valor oficial del dólar) y cifras económicas.
• datos.gov.co para datos abiertos publicados por entidades del Estado.
• La página oficial de la entidad para trámites, requisitos y plazos: universidad, alcaldía, ministerio, Registraduría.

Regla simple de dominios: prefiere .gov.co para lo oficial y .edu.co para lo académico, y desconfía de las páginas que repiten el dato sin decir de dónde salió.

Una referencia tiene partes que se pueden verificar por separado: autores, año, título, revista y DOI. El DOI (Digital Object Identifier) es un identificador único y permanente de un documento académico; se ve así: 10.1000/xyz123. Si le pones adelante https://doi.org/, te lleva al artículo. Un enlace normal se puede caer; el DOI está pensado para no caerse.

Este es el procedimiento, en orden, y cada paso puede tumbar la referencia:

1. Título exacto entre comillas en Google Scholar (scholar.google.com, gratis). Copia el título tal cual y ponlo entre comillas: "título del artículo". Si no aparece nada, es una alerta fuerte. Quita las comillas y busca de nuevo: a veces el título real es parecido pero no idéntico. 2. Verifica el DOI. Entra a search.crossref.org (buscador gratuito de Crossref, la organización que registra los DOI de gran parte de las revistas del mundo) y pega el DOI o el título. También puedes abrir https://doi.org/ seguido del DOI. Si el DOI no resuelve, la referencia no sirve. 3. Compara que todo coincida. Este es el paso que la gente se salta. Es frecuente que el DOI sí abra un artículo real… pero de otro título, otros autores u otro año. La IA mezcla partes de referencias distintas y arma una especie de Frankenstein. Si el DOI abre algo distinto a lo que te dijeron, la referencia está mal. 4. Abre el artículo y busca la afirmación. Que el artículo exista no prueba que diga lo que la IA te atribuyó.

Para literatura en español y de América Latina, SciELO y los repositorios de las universidades son una buena red de apoyo cuando Scholar te da poco.

Y el mejor hábito de todos: invierte el orden. Busca tú los artículos primero, y usa la IA para resumirlos o explicártelos, como aprendiste en la lección anterior sobre trabajar con tus propios documentos.

El caso más conocido ocurrió en Estados Unidos en 2023: unos abogados presentaron ante un juez un escrito con decisiones judiciales que no existían, generadas por ChatGPT, en un pleito contra Avianca. El juez los sancionó. Lo importante para ti no es el chisme, sino el patrón: eran profesionales expertos, el texto se veía impecable, y nadie abrió una sola cita.

Aprende a reconocer las señales de alerta:

• "Según un estudio reciente…" sin autor, sin año, sin revista. Casi siempre es humo.
• Cifras demasiado redondas o demasiado precisas para el tema, y sin fuente al lado.
• Enlaces que no abren o que llevan a la página de inicio de un sitio en vez de al documento.
• Detalles locales muy específicos: horarios, tarifas, requisitos de un trámite, nombres de oficinas. La IA tiene poco material colombiano fino y ahí inventa con facilidad.
• Cambia de respuesta apenas dudas. Si le dices "no estoy seguro" y da media vuelta sin evidencia nueva, ninguna de las dos versiones estaba fundamentada.
• Te da exactamente lo que querías oír. Si la respuesta confirma tu hipótesis con demasiada comodidad, revísala doble.

Hay otros dos límites que conviene tener siempre presentes, y que no se arreglan verificando enlaces. Uno son los sesgos: el modelo aprendió de textos escritos por personas, con sus prejuicios y con una fuerte sobrerrepresentación de contenido en inglés y de Estados Unidos; por eso a veces responde sobre Colombia como si aplicaran reglas de allá. El otro es la privacidad: lo que escribes puede usarse para entrenar, así que no pegues datos sensibles tuyos ni de terceros, como viste en la primera lección.

La buena noticia: la IA sigue siendo utilísima para lo que no requiere verdad factual —ordenar ideas, redactar, explicar, traducir, resumir un texto que tú le diste—. La verificación es el peaje que pagas cuando le pides hechos.