¿Qué es la temperatura en IA?

La temperatura es un ajuste que controla lo predecibles que son las elecciones de palabras de un modelo de IA. Con valores bajos elige casi siempre la palabra más probable; con valores altos se permite apostar por las menos probables. Regula la variedad, no la inteligencia.

Antes de escribir cada token, el modelo tiene una lista ordenada de candidatos con probabilidades, y la temperatura remodela esa lista. Cerca de 0, la primera opción gana casi siempre, así que el mismo prompt da casi la misma respuesta dos veces. Alrededor de 1, el modelo muestrea en proporción a las probabilidades originales, y por encima las diferencias se encogen hasta que las palabras improbables consiguen oportunidades reales. Los productos típicos funcionan entre 0,7 y 1,0 para chat, mientras que las herramientas de código y los extractores de datos se quedan cerca de 0, porque una respuesta creativa a una tarea de formato es sencillamente una respuesta incorrecta. Los ajustes altos suben la variedad y con ella el riesgo de derivar hacia el sinsentido, ya que cada palabra improbable hace más probable que la siguiente también lo sea. El nombre viene de la física, donde el calor es lo que saca a las partículas de sus posiciones más estables.

El pedido de comida de una oficina. Ve a lo seguro y todos reciben simplemente el plato estrella del restaurante, idéntico y fiable cada día. Sube el dial y el becario elige tirando dardos al menú: unos días un descubrimiento, otros un arrepentimiento rebozado.