¿Qué es el tradeoff sesgo-varianza?

El equilibrio entre sesgo y varianza es la tensión entre un modelo demasiado simple para captar el patrón real y otro tan flexible que también aprende el ruido. Demasiado simple es sesgo alto: se equivoca igual en todas partes. Demasiado flexible es varianza alta: los resultados oscilan según los datos vistos.

El sesgo es el error que comete un modelo por ser demasiado rígido: sus supuestos son demasiado simples para el patrón real, como predecir precios de vivienda solo por la superficie cuando la ubicación también importa. Un modelo con sesgo se equivoca de forma sistemática, y más datos no lo arreglan, porque el límite está en el modelo y no en la información. La varianza es el error que comete por ser demasiado flexible: se amolda a los ejemplos exactos con los que entrenó, ruido incluido, así que otra muestra produce un modelo distinto. La complejidad es el dial que los conecta, ya que subirla baja el sesgo y sube la varianza. Para saber cuál tienes, compara la puntuación en entrenamiento con la de datos nuevos: mal en ambas es sesgo, bien en entrenamiento y mal en datos nuevos es varianza. Las palancas tiran en sentidos opuestos, porque modelos más ricos recortan sesgo mientras más datos recortan varianza.

Sastrería. El sesgo alto es la camiseta de talla única: no le queda bien a nadie, pero falla a todos por igual. La varianza alta es un traje cosido pegado a tu postura del día de la medición: impecable esa tarde, imposible después de una comida copiosa.