Cómo funciona ChatGPT por dentro, sin fórmulas

Un modelo de lenguaje (en inglés, language model) es un programa que recibe un texto y calcula qué tan probable es cada posible continuación. Eso es todo lo que hace. No busca en internet, no consulta una base de datos, no razona como tú razonas cuando resuelves un problema: estima probabilidades sobre el siguiente pedacito de texto.

Cuando oyes LLM, es la sigla de large language model, o sea modelo de lenguaje grande. "Grande" quiere decir dos cosas. Primero, que fue entrenado leyendo una cantidad enorme de texto (páginas web, libros, foros, código de programación). Segundo, que tiene muchísimos parámetros: números internos que el modelo ajustó durante el entrenamiento. Piensa en un ecualizador de sonido con perillas de graves, medios y agudos. Un LLM es un ecualizador con miles de millones de perillas, y el entrenamiento fue el proceso de moverlas hasta que el sonido —el texto— saliera parecido al humano.

Acá viene lo importante: ChatGPT, Gemini, Claude o DeepSeek no son el modelo. Son productos construidos encima de un modelo: le agregan una interfaz de chat, memoria, botón de subir archivos, a veces búsqueda web. El motor, abajo, sigue siendo el mismo predictor de texto.

Y una consecuencia práctica que vale oro: si la máquina continúa textos, entonces lo que tú escribes es el comienzo del texto que ella va a continuar. Por eso el mismo modelo te da una respuesta boba con una pregunta boba, y una respuesta excelente cuando le das rol, contexto y formato. No es magia ni "trucos de prompt": le estás dando un mejor comienzo para continuar.

El modelo no procesa letras sueltas ni palabras completas. Procesa tokens: pedacitos de texto que pueden ser una palabra entera, un trozo de palabra, un signo de puntuación o incluso un espacio. Antes de que el modelo vea algo, un programa llamado tokenizador parte tu texto en esos pedacitos y los convierte en números.

Una palabra común como casa suele ser un solo token. Una palabra rara o propia como Bucaramanga normalmente se parte en varios pedazos (algo como Buc + aram + anga). Los números también se parten, y ahí está una de las claves de por qué los modelos de lenguaje han sido históricamente flojos con la aritmética: para el modelo, 1.847 no es una cantidad, es una secuencia de pedacitos de texto que hay que continuar.

Hay un detalle que nos afecta directamente en Colombia: los tokenizadores más usados fueron optimizados sobre todo con texto en inglés. Por eso el mismo contenido escrito en español suele gastar más tokens que en inglés. ¿Y eso qué importa si estás usando el plan gratis? Importa por dos razones: los límites de uso y los límites de longitud se miden en tokens, no en palabras. Un documento en español "llena" más rápido de lo que uno esperaría.

No te aprendas ninguna cifra de memoria. Lo útil es la intuición: el texto se mide en pedacitos, no en palabras, y tú puedes medirlo tú mismo en un tokenizador gratis (busca en Google "OpenAI tokenizer"). Pegar tres frases tuyas ahí y ver cómo se parten cambia para siempre la forma en que piensas sobre estas herramientas.

Ya sabes que el modelo continúa texto y que trabaja con tokens. Ahora juntemos las dos cosas. Cuando tú escribes algo, el modelo calcula una probabilidad para todos los tokens posibles que podrían venir después. Si el texto es La capital de Colombia es, quizás Bogotá sale con una probabilidad altísima, la con una probabilidad media (porque podría seguir "la ciudad de...") y banano con una probabilidad casi cero.

Entonces el sistema escoge un token, lo pega al final del texto, y vuelve a empezar: ahora predice el siguiente, con el token nuevo ya incluido. Y otra vez, y otra vez, hasta que decide parar. Esa respuesta de tres párrafos que te llega no se planeó completa desde el principio: se armó pedacito por pedacito, como cuando escribes en el celular y le vas dando a la palabra sugerida del teclado predictivo. Solo que este "teclado" leyó media internet.

Detalle clave: el sistema no siempre elige el token más probable. Introduce algo de azar al escoger entre los candidatos más probables. Ese parámetro se llama temperatura: baja significa más predecible y repetitivo; alta significa más variado y creativo (y más propenso a irse por las ramas). Por eso, si le haces la misma pregunta dos veces, te responde distinto. No es que "cambió de opinión": es que sacó otro camino del sombrero.

Y aquí está el punto que le faltaba a Camila: el modelo optimiza que el texto suene probable, no que sea verdadero. Una frase falsa bien redactada es, para el modelo, una continuación perfectamente probable. La fluidez y la seguridad del tono no son señales de que el contenido esté bien.

Para predecir el siguiente token, el modelo mira el texto que tiene delante. A todo ese texto se le llama contexto, y al espacio máximo que cabe ahí se le llama ventana de contexto. Dentro de la ventana va todo: las instrucciones ocultas que le puso la empresa, tu primer mensaje, la respuesta de la IA, tu segundo mensaje, el documento que pegaste, todo.

Esto tiene una consecuencia que sorprende a mucha gente: el modelo no recuerda la conversación. En cada turno, la aplicación le vuelve a mandar toda la conversación desde el principio, y el modelo la lee otra vez como si fuera la primera. Es como un profesor brillantísimo con amnesia total, al que le entregas la transcripción completa antes de cada pregunta.

De ahí salen tres comportamientos que seguro ya viste:

• Empiezas un chat nuevo y no se acuerda de nada. Correcto: el contexto empezó vacío. (Algunos productos tienen una función aparte de "memoria" que guarda datos tuyos y los reinyecta; eso es una función del producto, no del modelo.)
• En conversaciones muy largas, se le olvida lo del principio. Cuando la ventana se llena, lo viejo se recorta o se resume.
• Se pone terco con un error. Si el error ya quedó escrito arriba en el chat, sigue estando en el contexto y sigue influyendo en cada predicción.

¿Cómo se trabaja con esto? Abre un chat nuevo por cada tema. Si algo importa, repítelo o vuélvelo a pegar; no des por hecho que "ya te lo dije". Y cuando la conversación se enrede, no pelees: copia lo que sirve, abre un chat limpio y arranca de nuevo con el contexto ordenado.

Hay que separar dos momentos. El entrenamiento pasó antes, una sola vez, en centros de datos gigantes: el modelo leyó cantidades enormes de texto y ajustó sus parámetros para predecir mejor. La consulta es lo que pasa cuando tú escribes: los parámetros ya están congelados y solo se usan para calcular probabilidades. El modelo no está aprendiendo de ti en ese momento.

Lo que quedó guardado en esos parámetros no son los textos. Son patrones estadísticos: qué palabras acompañan a qué palabras, cómo se estructura una carta formal, cómo suele seguir una explicación de biología. Es más parecido a un músico que tocó miles de canciones y quedó con el estilo en los dedos, que a un archivo donde puedas buscar la canción original. Por eso el modelo no puede "consultar" un dato: lo reconstruye, y a veces lo reconstruye mal.

A eso se le llama alucinación: la IA genera información falsa con total naturalidad, porque su objetivo era producir texto probable. Nombres de autores, artículos de leyes, cifras, URLs y bibliografía son las zonas de mayor riesgo, porque son datos precisos y arbitrarios que no se deducen de patrones. Súmale que hay una fecha de corte de entrenamiento: lo posterior a esa fecha simplemente no está.

Muchos productos hoy conectan el modelo a búsqueda web o a tus documentos, y eso ayuda muchísimo: el dato entra por el contexto en vez de salir de la memoria. Pero no lo vuelve infalible; puede leer mal la fuente o citar una fuente mala.

Dos cosas más que vienen del entrenamiento: sesgos, porque el texto de internet trae los prejuicios humanos, y privacidad, porque lo que escribes puede quedar guardado. Nunca pegues cédulas, historias clínicas ni datos de terceros.