Cómo funciona un LLM: 9 claves para entenderlo sin jerga técnica

Millones de personas hablan todos los días con ChatGPT, Claude o Gemini sin saber realmente qué está pasando del otro lado. Y no es un detalle menor: entender cómo funciona un LLM, la tecnología detrás de estos asistentes, cambia por completo la forma en que confías en sus respuestas, detectas cuándo se equivoca, y decides para qué usarlo y para qué no.

La buena noticia es que la idea central no requiere saber programar ni entender matemáticas avanzadas. Requiere derribar una suposición común: que estos sistemas «piensan» de alguna forma parecida a como pensamos nosotros. No lo hacen, y entender por qué es la clave para entender todo lo demás.

Un poco de historia: de las reglas fijas a los modelos que aprenden solos

Para entender por qué los LLM funcionan como funcionan, ayuda saber de dónde vienen. Durante décadas, hacer que una computadora «entendiera» lenguaje humano se intentó a base de reglas escritas a mano: listas de gramática, diccionarios de sinónimos, árboles de decisión programados palabra por palabra. Funcionaba mal, porque el lenguaje humano está lleno de excepciones, ambigüedad y contexto que ninguna lista de reglas alcanza a cubrir.

A partir de los años 2010, ese enfoque empezó a reemplazarse por redes neuronales que aprendían patrones directamente de ejemplos de texto, en lugar de seguir reglas fijas. El siguiente salto decisivo llegó en 2017, cuando un equipo de investigadores de Google publicó un paper con un título llamativo: «Attention Is All You Need» (algo así como «La atención es todo lo que necesitas»). Ese trabajo introdujo la arquitectura Transformer, que hoy es la base de prácticamente todos los LLM modernos, incluidos ChatGPT, Claude y Gemini.

No es casualidad que casi todos los avances importantes en IA generativa hayan ocurrido después de ese paper. Antes de 2017, los modelos de lenguaje procesaban el texto de forma secuencial, palabra por palabra, lo que los hacía lentos y les costaba «recordar» el inicio de una oración larga para cuando llegaban al final. El Transformer resolvió eso con un mecanismo llamado atención, que explicamos con calma más adelante.

1. Un LLM no piensa: predice la siguiente palabra

LLM significa Large Language Model, modelo de lenguaje grande. En su núcleo, un LLM hace una sola cosa: dado un fragmento de texto, calcula qué palabra (técnicamente, qué «token», un fragmento de palabra que puede ser más corto que una palabra completa) es más probable que venga a continuación. Y luego otra. Y luego otra. Miles de veces por segundo.

Cuando le preguntas a un asistente de IA «¿por qué el cielo es azul?», el modelo no busca la respuesta en una base de datos ni la razona paso a paso como lo haría una persona. Calcula, token por token, cuál es la secuencia de texto estadísticamente más coherente con haber sido entrenado sobre millones de explicaciones humanas de por qué el cielo es azul. El resultado se lee como una explicación razonada porque el lenguaje humano, cuando explica algo bien, sigue patrones predecibles, y el modelo aprendió a reproducirlos bastante bien.

Esto no le resta utilidad. Predecir el siguiente token con precisión, aplicado a suficiente texto, termina produciendo algo que se comporta como si razonara, resumiera o programara, aunque el mecanismo de fondo sea, en esencia, estadística aplicada al lenguaje.

2. Cómo aprendió: entrenamiento con cantidades masivas de texto

Un LLM no nace sabiendo nada. Se construye en un proceso llamado entrenamiento, que consiste en mostrarle al modelo enormes cantidades de texto (libros, artículos, páginas web, código) y ajustar internamente millones, o billones, de conexiones matemáticas hasta que el modelo se vuelve cada vez mejor prediciendo la siguiente palabra en ese texto.

Este proceso no ocurre en tiempo real cuando hablas con el modelo. Ocurre antes, una sola vez, durante semanas o meses, en centros de datos con miles de procesadores especializados diseñados para este tipo de cálculo masivo. Cuando conversas con un LLM, ese aprendizaje ya está «congelado»: el modelo no está aprendiendo de tu conversación en ese momento, salvo que la empresa que lo opera decida usar esas conversaciones más adelante para entrenar una versión futura. Esto, normalmente, está explicado en la política de privacidad de cada servicio.

3. La arquitectura Transformer y el mecanismo de atención

Este es el concepto técnico más importante de todo el artículo, y también el más fácil de explicar mal. Vamos con calma.

Antes del Transformer, los modelos de lenguaje procesaban el texto en orden estricto, una palabra tras otra, como leer con el dedo debajo de cada línea. El problema es que el significado de una palabra a veces depende de otra palabra muy lejana en la oración. En «el perro que vive en la casa azul, la que está al final de la calle, ladró toda la noche», para entender qué «ladró» hace falta recordar que el sujeto es «el perro», mencionado muchas palabras atrás.

El mecanismo de atención que introdujo el paper de 2017 Attention Is All You Need le permite al modelo, al procesar cada palabra, «mirar» simultáneamente todas las demás palabras del texto y asignarles un peso de relevancia, sin importar qué tan lejos estén. Es como si, al leer «ladró», el modelo pudiera consultar instantáneamente el peso de «perro» mencionado once palabras antes, en lugar de tener que recordarlo en orden.

Esto explica por qué los LLM modernos son tan buenos manteniendo coherencia en textos largos, y por qué pudieron entrenarse con cantidades de datos que los enfoques anteriores no podían aprovechar: la atención se puede calcular en paralelo, no palabra por palabra en secuencia, lo que aceleró enormemente el entrenamiento.

4. Los parámetros: la memoria congelada del modelo

Durante el entrenamiento, el modelo ajusta lo que se llaman parámetros: valores numéricos que, en conjunto, determinan cómo responde a cualquier entrada de texto. Los LLM actuales tienen desde miles de millones hasta más de un billón de estos parámetros.

No hay una forma sencilla de decir «el parámetro 4,502,891 representa el concepto de gravedad». El conocimiento no está guardado en un lugar identificable, como estaría un dato en una base de datos tradicional. Está distribuido entre todos los parámetros de forma que ningún ingeniero puede señalar exactamente dónde vive un hecho específico dentro del modelo. Esto es, en parte, lo que hace tan difícil predecir con exactitud cómo va a responder un LLM ante una pregunta nueva, y también por qué corregir un error específico dentro de un modelo ya entrenado es mucho más complicado que corregir una línea de código con un error de lógica tradicional.

5. El ajuste fino: por qué un asistente de IA es útil y no solo un generador de texto

Un modelo recién entrenado únicamente para predecir la siguiente palabra (lo que se llama un modelo base) no es todavía un buen asistente. Puede completar texto de forma fluida, pero no sabe seguir instrucciones, ser útil, o negarse a hacer algo peligroso. Para llegar de ahí a algo como ChatGPT o Claude, se aplica una segunda etapa llamada ajuste fino (fine-tuning), que incluye técnicas como el aprendizaje por refuerzo con retroalimentación humana (RLHF, por sus siglas en inglés).

En términos simples: personas evalúan miles de respuestas del modelo, marcando cuáles son útiles, honestas y seguras, y cuáles no. El modelo se ajusta de nuevo para producir más respuestas del primer tipo y menos del segundo. Este proceso es el que le da a un asistente de IA su tono característico (útil, cauteloso, dispuesto a admitir cuando no sabe algo) y explica por qué distintas empresas, con la misma tecnología base, producen asistentes que «se sienten» distintos: el ajuste fino refleja decisiones humanas sobre qué comportamiento se premia.

6. La ventana de contexto: por qué un LLM «olvida»

Cada LLM tiene un límite de cuánto texto puede tener en cuenta a la vez, llamado ventana de contexto. Incluye todo lo que has escrito en la conversación, más lo que el modelo ha respondido. Cuando una conversación se vuelve muy larga y supera ese límite, el modelo empieza a perder de vista las partes más antiguas. Por eso, en charlas extensas, a veces un asistente parece «olvidar» algo que mencionaste al principio.

Esto no es lo mismo que la memoria persistente entre conversaciones distintas, que mencionamos más abajo. La ventana de contexto es la memoria de trabajo dentro de una sola conversación, y su tamaño varía según el modelo y la plataforma: algunos manejan unas pocas páginas de texto, otros manejan libros enteros.

7. Por qué a veces «alucina» con total seguridad

Como un LLM genera texto prediciendo qué palabra es probable, y no verificando hechos contra una fuente confiable, puede producir información falsa con la misma fluidez y el mismo tono seguro con el que produce información correcta. Esto se conoce como «alucinación», y es una de las limitaciones más importantes a entender.

No ocurre porque el modelo esté «mintiendo» a propósito. No tiene intención, ni sabe que se equivocó. Ocurre porque, estadísticamente, una respuesta inventada pero bien construida gramaticalmente puede parecerle al modelo tan probable como una respuesta verdadera, especialmente en temas muy específicos, fechas recientes, o citas exactas. Por eso los mejores usos de un LLM son aquellos donde puedes verificar la respuesta, no aquellos donde confías ciegamente en ella.

8. Lo que un LLM no es

Vale la pena ser explícito sobre esto, porque es donde más confusión hay:

• No tiene memoria persistente por defecto. Cada conversación nueva empieza sin recuerdo de las anteriores, salvo que la plataforma específica lo configure de otra forma.
• No tiene experiencia ni cuerpo. No ha «visto» el cielo ni «sentido» nada. Todo lo que sabe proviene de texto escrito por personas que sí tuvieron esas experiencias.
• No tiene creencias propias ni intenciones. No quiere convencerte de nada; genera la continuación de texto más probable dado el contexto.
• No sabe cuándo tiene razón. Puede sonar igual de seguro al acertar que al equivocarse, porque la seguridad en el tono es, otra vez, un patrón del lenguaje que aprendió a reproducir, no una medición interna de certeza.

Esta lista conecta con una pregunta más filosófica que técnica: ¿puede algo que no tiene experiencia «entender» de verdad lo que dice? Es, probablemente, uno de los debates más interesantes alrededor de esta tecnología.

9. Cómo se diferencian los modelos actuales

ChatGPT (de OpenAI), Claude (de Anthropic) y Gemini (de Google) son, en su base, el mismo tipo de tecnología: modelos de lenguaje grandes entrenados con la arquitectura Transformer que describimos antes. Lo que los distingue no es «cuál piensa mejor» (ninguno piensa en el sentido humano), sino diferencias reales en:

• Los datos y el proceso de entrenamiento de cada empresa, que no son públicos en detalle.
• El ajuste fino posterior, donde cada compañía decide cómo quiere que el modelo responda, qué tono usa, y qué límites de seguridad aplica.
• Las herramientas adicionales conectadas al modelo (búsqueda web, ejecución de código, acceso a archivos), que varían según la plataforma y no son parte del modelo de lenguaje en sí, sino capacidades añadidas alrededor de él.

No existe un modelo objetivamente «mejor» para todo. Cada uno tiene fortalezas distintas según la tarea, y la única forma confiable de saberlo es probando la tarea específica que te interesa.

Cómo sacarle más provecho a un LLM: buenas prácticas

Entender el mecanismo no solo satisface curiosidad. Cambia cómo lo usas:

• Sé específico en lo que pides. Como el modelo predice a partir del contexto que le das, más contexto claro produce respuestas más precisas. «Escríbeme un correo» da resultados genéricos; «escríbeme un correo breve para reagendar una reunión de trabajo por motivos familiares, en tono profesional pero cercano» da algo usable de inmediato.
• Pide que cite o distinga entre lo que sabe con certeza y lo que no. Un buen asistente puede señalar cuándo una respuesta merece verificación externa, aunque no siempre lo hace sin que se lo pidas.
• Verifica datos específicos, fechas y cifras, especialmente si vas a usarlos en algo público o importante. Es exactamente el punto donde las alucinaciones son más probables.
• No compartas información sensible que no compartirías con un desconocido, salvo que la plataforma te garantice explícitamente privacidad para ese uso.
• Itera en lugar de esperar la respuesta perfecta al primer intento. Como el modelo no «entiende» tu intención completa desde el inicio, pedir ajustes («hazlo más corto», «cambia el tono») suele funcionar mejor que reescribir la pregunta desde cero.

Mitos comunes sobre los LLM

• «La IA sabe cuándo miente»: no la tiene. No existe un mecanismo interno de verificación de verdad, como vimos en el punto 7.
• «Cuantos más parámetros, mejor siempre»: no necesariamente. El tamaño ayuda, pero la calidad de los datos y el ajuste fino influyen tanto o más en qué tan útil es un modelo en la práctica.
• «Los LLM son objetivos porque son matemáticas»: tampoco. Reflejan los patrones y sesgos presentes en los datos con los que fueron entrenados, que son textos escritos por personas.
• «Un LLM puede reemplazar la verificación de un experto humano»: no en temas donde el costo de un error es alto, como salud, derecho o finanzas, por la misma razón del punto 7.

Preguntas frecuentes

Por qué vale la pena entender esto

Usarla bien no depende de desconfiar de la tecnología ni de idolatrarla. Depende de entender cómo funciona y actuar en consecuencia. Un LLM es realmente útil para redactar, resumir, programar y explorar ideas, justamente porque predice lenguaje con mucha fluidez. Pero esa misma fluidez es lo que puede hacer que una respuesta incorrecta suene tan convincente como una correcta. Entender el mecanismo (predicción estadística de texto sobre una arquitectura de atención, ajustada después con retroalimentación humana) es lo que te permite aprovechar la herramienta sin depositar en ella una confianza que, por ahora, no le corresponde.