¿Qué es un LLM?

LLM son las siglas en inglés de large language model, modelo de lenguaje grande. Es una red neuronal, casi siempre con arquitectura transformer, que aprendió de muchísimo texto qué suele venir después de qué.

La tarea parece chica, pero a esa escala alcanza para redactar, resumir, traducir, responder preguntas o escribir código. Lo «grande» se refiere a la cantidad de parámetros (los números que ajusta el entrenamiento, que son miles de millones) y a la cantidad de texto con la que aprendió.

Un LLM no consulta una base de datos ni sabe si algo es verdad: genera la continuación más probable. Por eso puede sonar seguro y equivocarse, lo que se llama alucinación, y por eso técnicas como RAG le pasan información verificada antes de responder.

Términos relacionados

• Token: Un token es el pedacito de texto con el que trabaja un modelo de lenguaje: una palabra, parte de una palabra o un signo. Con tokens se miden el contexto y el costo.
• Transformer: El transformer es la arquitectura de red neuronal detrás de casi todos los LLM actuales. Su pieza clave, la atención, relaciona cada token con todos los demás.
• Alucinación: Una alucinación es cuando un modelo de IA genera información falsa o inventada y la presenta con total seguridad, como si fuera un dato real.
• IA generativa: La IA generativa es la que crea contenido nuevo (texto, imágenes, audio, video o código) a partir de lo que aprendió de enormes cantidades de ejemplos.