Sesgos, privacidad y desinformación

Un modelo de lenguaje (el motor detrás de ChatGPT, Gemini y compañía) no razona sobre el mundo: aprendió patrones de cantidades enormes de texto que ya existían en internet. Un sesgo es una inclinación sistemática, que se repite siempre en la misma dirección. Si los textos con los que aprendió estaban torcidos, el modelo sale torcido, y lo peor es que lo dice con un tono seguro y bien redactado que parece objetivo.

Los sesgos se cuelan por tres puertas:

• Los datos. La mayor parte del material de entrenamiento está en inglés y viene de Estados Unidos y Europa. Por eso si le pides un ejemplo de almuerzo típico te puede responder hamburguesa antes que bandeja paisa, o calcular precios en dólares sin que se lo pidas.
• Las decisiones humanas. Alguien decide qué datos entran, qué respuestas se premian y cuáles se bloquean. Esas decisiones no son neutrales, aunque nadie las tome de mala fe.
• El uso. Un modelo que solo hace textos bonitos es una cosa; el mismo modelo filtrando hojas de vida o decidiendo a quién le prestan plata es otra. Ahí un sesgo deja de ser una anécdota y se vuelve una puerta cerrada para una persona real.

El caso que más te puede tocar: sistemas automáticos que ordenan hojas de vida. Si históricamente contrataron sobre todo a hombres de ciertas universidades de Bogotá, el sistema aprende que ese perfil es el bueno y castiga al resto sin que nadie escribiera nunca una regla discriminatoria.

Lo importante: el sesgo no se ve solo, hay que ir a buscarlo. Y la forma de buscarlo es comparar. Cambia un dato de la persona (género, ciudad, universidad, apellido) dejando todo lo demás igual, y mira si la respuesta cambia. Si cambia sin razón, ahí está.

Un deepfake es un video, una imagen o un audio falso creado o alterado con IA para que parezca real: la cara de alguien puesta sobre otro cuerpo, o una voz que dice cosas que nunca dijo. La clonación de voz es su versión más barata y más peligrosa, porque hoy existen herramientas que con unos pocos segundos de grabación imitan el timbre, el acento y la entonación de una persona.

¿De dónde sacan tu voz? De donde tú la pusiste: un video en redes, una nota de voz reenviada, un saludo en el grupo del colegio, una entrevista. No hace falta que seas famoso.

Las formas en que esto aterriza en Colombia:

• La llamada de emergencia falsa. La voz de un familiar llorando, un accidente o una detención, y plata ya. Siempre traen la misma receta: urgencia, secreto («no le digas a nadie») y una cuenta o un número para transferir.
• El video de una cara conocida promocionando inversiones. Presentadores de noticieros o figuras públicas que en un video hablan de una plataforma que multiplica tu plata. Nunca dijeron eso.
• La suplantación en el trabajo. Un audio del jefe pidiendo un pago urgente o las claves de un sistema.
• Imágenes íntimas falsas de compañeras y compañeros de colegio o universidad. Esto es violencia y en Colombia hay delitos que aplican; no es una broma.

Tus defensas son sorprendentemente simples y no requieren tecnología:

1. Palabra clave familiar. Acuerden en casa una palabra que nadie más sepa. Si llaman con una emergencia, la piden. Si no la saben, cuelgas. 2. Cuelga y devuelve la llamada al número que tú tienes guardado. Nunca al número que te llamó ni al que te mandaron. 3. La urgencia es la señal. Ningún hecho real se cae porque te tomes cinco minutos para confirmar. 4. Sospecha del dinero irreversible: transferencias inmediatas, criptomonedas, recargas.

Si caes o casi caes, denuncia ante la Policía Nacional (tienen canales virtuales para delitos informáticos) y avisa al banco de inmediato.

Cuando le escribes a un chatbot, ese texto sale de tu dispositivo y llega a los servidores de una empresa. Según el servicio y la configuración que tengas, puede quedar guardado y, en varios servicios gratuitos, puede usarse para mejorar el modelo. Además, la empresa que lo opera casi nunca está en Colombia.

La regla mental más útil: trata el chat como el tablero de la portería del edificio. Si no lo pegarías ahí, no lo escribas ahí.

Lo que no debes pegar:

• Número de cédula, datos de tarjetas, claves, códigos de verificación.
• Tu historia clínica o la de otra persona.
• Datos de terceros: la base de clientes de tu trabajo, las notas de tus estudiantes, la lista de pacientes, el número de contacto de tus compañeros.
• Documentos internos de la empresa o de la universidad: contratos, código fuente, propuestas sin publicar.
• Fotos de documentos de identidad. Esta es de las peores, porque muchas personas suben la foto de la cédula para «que la IA extraiga los datos».

Hay una razón legal, no solo de prudencia. En Colombia la Ley 1581 de 2012 (la ley de protección de datos personales, conocida como habeas data) parte de que los datos de una persona son de esa persona: quien los recoge los tiene bajo custodia y necesita autorización para tratarlos. Los datos de tus clientes o de tus pacientes no son tuyos para regalarlos a una plataforma. La autoridad que vigila esto es la Superintendencia de Industria y Comercio.

¿Y entonces cómo trabajo? Anonimiza antes de pegar. Reemplaza nombres por «Cliente A», borra cédulas y teléfonos, cambia cifras exactas por rangos. El modelo casi siempre puede ayudarte igual, porque lo que necesita es la estructura del problema, no la identidad de la gente.

Y dedica cinco minutos a la configuración: casi todos los servicios grandes tienen una opción para desactivar el uso de tus conversaciones en el entrenamiento y para borrar el historial. Está escondida, pero está.

La desinformación no se propaga porque la gente sea tonta, sino porque está diseñada para que la reenvíes rápido, con rabia o con miedo. Por eso el primer paso de la verificación no es técnico: si un contenido te produjo una emoción fuerte, esa es la señal para parar.

Un método de tres minutos que funciona desde el celular:

1. Busca la fuente original. ¿Quién lo publicó primero? Un pantallazo de un pantallazo no es una fuente. Si el contenido dice ser de un medio o de una entidad, entra por tu cuenta al sitio oficial y busca si está ahí. 2. Búsqueda inversa de la imagen. Con Google Lens o subiendo la foto a Google Imágenes, mira dónde más aparece. Muchísimo contenido falso son fotos viejas o de otro país recicladas con un texto nuevo. 3. Revisa fecha y lugar. Placas de carros, uniformes, letreros, clima, idioma en los avisos. Un video de una protesta puede ser real y aun así no ser de la ciudad ni del año que dicen. 4. Busca cobertura independiente. Si es un hecho grande, más de un medio serio debería tenerlo. Si solo aparece en cadenas de WhatsApp y cuentas anónimas, sospecha.

Señales visuales que aún ayudan, con una advertencia importante:

• Manos y dedos raros, orejas o aretes desparejos, dientes que se funden, joyas que cambian entre planos.
• Texto dentro de la imagen con letras deformes.
• En video: labios que no sincronizan bien, cuello y cara con iluminación distinta, parpadeo escaso.
• En audio: entonación plana, sin ruido de fondo, sin respiraciones ni titubeos, frases cortas.

La advertencia: estas señales fallan cada vez más porque los modelos mejoran rápido. No construyas tu seguridad sobre «yo sé reconocer un deepfake», porque en algún momento no vas a poder. Constrúyela sobre el procedimiento: verificar la fuente, usar un canal alterno, no actuar bajo urgencia.

Y sobre los llamados detectores de IA: no son confiables. Se equivocan en las dos direcciones, y hay evidencia de que perjudican especialmente a quienes escriben en un idioma que no es su lengua materna. Si en tu universidad te acusan de usar IA por un detector, tu defensa es el proceso: historial de versiones del documento, borradores, notas. Eso lo vemos en la próxima lección.

Hay un riesgo menos dramático que los deepfakes, pero que te va a tocar todos los días: las alucinaciones. Es el nombre que se le da a cuando un modelo inventa información con toda la seguridad del mundo: una ley que no existe, un artículo con autores falsos, una cifra redonda y convincente, un link que no lleva a ninguna parte.

No es que el modelo mienta: es que su trabajo es producir texto que suene bien, no verificar que sea cierto. Cuando no tiene la información, la construye a partir de patrones, y lo hace igual de fluido que cuando sí la tiene. Por eso el tono seguro no te dice nada sobre la veracidad.

De ahí salen tres hábitos innegociables:

• Todo dato verificable, se verifica. Fechas, cifras, leyes, precios, nombres propios, citas. Si vas a ponerlo en un trabajo, en un informe o en una publicación, confírmalo en la fuente original.
• Desconfía especialmente de lo local. Los modelos saben menos de Colombia que de Estados Unidos: trámites, entidades, normas y precios en pesos son terreno donde alucinan más. Para datos públicos colombianos, ve a fuentes oficiales como el DANE o el portal de datos abiertos datos.gov.co.
• La IA no es una fuente, es un borrador. Es excelente para organizar ideas, resumir lo que tú le pegas, explicarte algo, proponerte estructuras. Es mala como enciclopedia.

Sumando todo lo de esta lección, quédate con una idea de fondo: los tres riesgos —sesgo, privacidad y desinformación— tienen la misma raíz. La IA es rápida, suena convincente y escala. Eso multiplica lo bueno y lo malo por igual. Tu ventaja no es competir con su velocidad: es poner el criterio que ella no tiene. Preguntar de dónde salió el dato, quién sale perjudicado si el sistema se equivoca, y qué información no debería estar circulando.

Eso, además, es exactamente lo que un empleador va a valorar en ti.