Glosario de IA
¿Qué es la temperatura en un modelo de IA?
La temperatura es un ajuste que controla cuánto azar usa un modelo al elegir el próximo token: baja da respuestas más previsibles, alta da respuestas más variadas.
En cada paso, el modelo calcula una probabilidad para cada token posible. Con temperatura baja, casi siempre elige los más probables, así que la misma pregunta da respuestas muy parecidas. Con temperatura alta les da más chances a opciones menos probables, y el texto sale más variado: a veces más creativo y a veces más errático.
Se ajusta sobre todo al usar un modelo por API. Para extraer datos o clasificar conviene una temperatura baja; para una lluvia de ideas, una más alta.
Bajarla a cero no vuelve al modelo más inteligente ni elimina las alucinaciones: sólo lo hace más consistente.