Qué puede y qué no puede hacer la IA hoy

Una alucinación es cuando el modelo produce información falsa presentada como si fuera cierta. No es un error ocasional ni un bug que alguien vaya a arreglar la semana entrante: es una consecuencia directa de cómo funciona.

Recuerda la lección 3: un modelo de lenguaje no guarda una base de datos con hechos que consulta antes de responder. Guarda patrones estadísticos sobre cómo se combinan las palabras. Cuando le pides la cita de un libro, no va al libro; genera la secuencia de palabras que más se parece a como se ve una cita de ese libro. Si el patrón está muy reforzado en su entrenamiento (por ejemplo, "Bogotá es la capital de Colombia"), la respuesta coincide con la realidad. Si el dato es raro, específico o local, el modelo igual completa, porque completar es todo lo que hace.

Por eso las alucinaciones aparecen con más fuerza en tres zonas:

• Datos muy específicos: cifras exactas, fechas, páginas, artículos de una ley, códigos.
• Nombres propios poco frecuentes: personas, empresas pequeñas, colegios, municipios, autores locales.
• Enlaces y referencias: es común que invente URL o bibliografías con formato perfecto y contenido inexistente.

Y aquí está lo incómodo: el tono de seguridad no cambia. El modelo no tiene un medidor interno que diga "esto lo sé y esto lo estoy adivinando". Escribe igual de bonito cuando acierta que cuando falla.

¿Qué haces entonces? Tres cosas. Primero, pídele que separe lo que sabe de lo que supone. Segundo, no le pidas el dato, pídele el camino: en vez de "¿cuánto cuesta la matrícula en X universidad?", pregúntale "¿en qué sección de la página de una universidad suele estar el valor de matrícula?". Tercero, verifica siempre lo verificable: si es un número, una ley o una cita, búscalo tú en la fuente original.

Todo modelo se entrena con textos recogidos hasta cierto momento. Ese momento se llama fecha de corte de entrenamiento (en inglés, knowledge cutoff). Después de esa fecha, el modelo no aprendió nada más por su cuenta: quedó congelado, como un periódico impreso.

Esto tiene consecuencias muy concretas para ti en Colombia. La TRM de hoy, el salario mínimo del año en curso, el resultado del partido de anoche, una convocatoria del ICETEX que abrió el mes pasado, un cambio reciente en un trámite: nada de eso está garantizado. Y peor: si el modelo alcanzó a ver información vieja sobre ese tema, te la va a dar con toda la confianza del mundo, sin advertirte que quedó desactualizada.

Hay una salida parcial y se llama búsqueda web integrada. Varios chats gratuitos hoy pueden buscar en internet en el momento de responder y citarte los enlaces que consultaron. Cuando eso pasa, ya no dependes solo de la memoria congelada. Pero ojo con dos matices:

• Tienes que saber si está buscando o no. Si la respuesta no muestra fuentes ni enlaces, asume que salió de la memoria del modelo. Puedes pedirlo explícito: "busca en internet y dame los enlaces".
• Buscar no garantiza acertar. El modelo puede leer mal una página, mezclar dos fuentes o citar un blog en vez de la fuente oficial. Que aparezca un enlace no significa que el enlace diga lo que el resumen afirma. Ábrelo.

Regla práctica que puedes memorizar: para cualquier cosa que cambie con el tiempo —precios, tasas, fechas, normas, cargos públicos, versiones de software— la IA es un punto de partida, nunca la fuente final. Para datos oficiales colombianos, el destino final es el portal de la entidad o el portal de datos abiertos del Estado, datos.gov.co. La IA te ayuda a entender qué buscar y cómo leer lo que encuentres; el número te lo da la fuente.

Un sesgo es una inclinación sistemática de las respuestas hacia cierto punto de vista, cierto grupo o cierta forma de ver las cosas. En la lección 2 viste que un modelo aprende patrones de los datos. Si los datos vienen mayoritariamente de textos en inglés, escritos en países del norte, por ciertos grupos, el modelo aprende ese mundo como si fuera el mundo.

Cómo se nota esto desde Colombia, en concreto:

• Sesgo cultural y geográfico. Le pides ideas para un proyecto escolar y te propone contextos de Estados Unidos: high school, prom, sistema de créditos. O calcula en dólares sin que se lo pidas.
• Sesgo de idioma. Suele tener más y mejor información en inglés que en español, y mucha menos sobre temas locales colombianos que sobre temas globales.
• Sesgo de representación. Si le pides "describe a un ingeniero" o "genera la imagen de una persona científica", puede tender a un mismo perfil de género, edad o apariencia una y otra vez.
• Sesgo de complacencia. Si escribes tu pregunta dando por hecho una conclusión, el modelo tiende a acompañarte en vez de contradecirte. Pregúntale "¿por qué X es lo mejor?" y te dará razones para X, aunque X sea mala idea.

Esto no significa que el modelo sea inútil ni malintencionado. Significa que la salida hereda los límites de la entrada, y que la responsabilidad de notarlo es tuya.

Defensas prácticas: pon el contexto colombiano explícito en el prompt ("para un estudiante de grado once en Colombia, en pesos colombianos"); pide siempre la posición contraria ("dame tres argumentos en contra de lo que acabas de decir"); pide variedad de forma explícita cuando generes personas o ejemplos; y desconfía cuando el modelo esté demasiado de acuerdo contigo. Un buen truco: hazle la misma pregunta dos veces, una a favor y otra en contra, y mira si cambia de opinión sin resistencia.

Cuando escribes en un chat de IA, ese texto sale de tu dispositivo y viaja a los servidores de una empresa, casi siempre fuera de Colombia. Ahí puede quedar guardado, puede ser revisado por personas para control de calidad y, según la configuración y los términos del servicio, puede usarse para entrenar futuras versiones del modelo. Muchos servicios ofrecen una opción para desactivar el uso de tus conversaciones en entrenamiento, y vale la pena buscarla en la configuración de tu cuenta; pero desactivarla no borra el hecho de que el dato ya salió de tu computador.

Qué no deberías pegar en un chat gratuito:

• Número de cédula, datos bancarios, contraseñas, códigos de verificación.
• Historias clínicas, diagnósticos o datos de salud de otra persona.
• Listados de estudiantes, empleados o clientes con nombres, teléfonos o correos.
• Documentos confidenciales de tu trabajo, tu colegio o tu universidad.
• Fotos de documentos de identidad.

Hay un punto que se olvida mucho: los datos de otras personas no son tuyos para compartirlos. En Colombia rige la ley de protección de datos personales (Ley 1581 de 2012), que en términos simples dice que tratar datos personales de alguien exige, entre otras cosas, su autorización y una finalidad clara. Subir la lista de tu curso a un chat para "que la organice" es una decisión que involucra a treinta personas que no te dieron permiso.

La técnica que resuelve el 90% de los casos se llama anonimizar: reemplaza los datos reales por genéricos antes de pegar. "Estudiante 1, Estudiante 2", "empresa A", "paciente de 34 años". El modelo te ayuda igual con la estructura, el análisis o la redacción, y tú vuelves a poner los nombres reales después, en tu propio archivo. Es un minuto de trabajo extra a cambio de no exponer a nadie.

Todo lo anterior se puede resumir en una regla: la IA de hoy es excelente transformando texto que tú le das, y frágil cuando le pides que sea la fuente de verdad. Con eso en la cabeza, esta es la lista.

• Excelente (úsala con confianza, revisando por encima):
• Reescribir, resumir, cambiar el tono y corregir ortografía y estilo.
• Traducir entre idiomas comunes.
• Explicarte un tema que no entiendes, con analogías y a distintos niveles.
• Generar lluvias de ideas, borradores, plantillas, esquemas y preguntas de práctica.
• Ayudarte a empezar cuando estás bloqueado frente a la hoja en blanco.
• Escribir y explicar fragmentos de código común.

• Regular (sirve, pero verifica antes de usarlo):
• Resumir un documento largo: puede omitir lo importante o agregar algo que no estaba.
• Análisis o razonamiento de varios pasos: acierta seguido, falla sin avisar.
• Cuentas y matemáticas: mejor pídele el procedimiento y haz la operación en una calculadora.
• Información sobre trámites, normas o instituciones colombianas: úsala para saber qué buscar, no como respuesta final.
• Código complejo o que toque datos reales: revísalo línea por línea.

• Malo (no dependas de esto):
• Cifras exactas, citas textuales, referencias bibliográficas y enlaces.
• Cualquier cosa posterior a su fecha de corte sin búsqueda web activa.
• Saber quién eres, qué pasó ayer en tu ciudad o qué dice un documento que no le pegaste.
• Decisiones médicas, legales o financieras sin un profesional humano.
• Decir con honestidad cuánto sabe: su seguridad no mide su exactitud.

Una forma de recordarlo: si tú puedes verificar la respuesta en menos de un minuto, la IA te ahorra tiempo. Si no puedes verificarla, te está ahorrando trabajo hoy y creándote un problema mañana. El buen uso de la IA no consiste en confiar más, sino en saber exactamente dónde poner los ojos.