
Aprender el ruido de la muestra de entrenamiento; la razón por la que un modelo que se ajusta perfectamente puede predecir mal.El sobreajuste ocurre cuando un modelo estadístico describe el error aleatorio o el ruido en lugar de la relación subyacente. El modelo funciona bien con los datos de entrenamiento, pero mal con datos nuevos no vistos. Este es un problema central en el aprendizaje automático y la estadística, ya que el objetivo es construir modelos que generalicen, no que memoricen.
El concepto se conoce desde los primeros días de la estadística y el ajuste de curvas. El término 'sobreajuste' se hizo prominente en las décadas de 1960 y 1970 con el auge de las redes neuronales y los árboles de decisión.
Los modelos con alta flexibilidad (por ejemplo, muchos parámetros) pueden ajustar los datos de entrenamiento casi perfectamente, incluyendo sus peculiaridades. Cuando el modelo es demasiado complejo en relación con la cantidad de datos, captura patrones espurios que no existen en la población real. Esto conduce a una alta varianza: pequeños cambios en el conjunto de entrenamiento provocan grandes cambios en el modelo. Técnicas como la validación cruzada, la regularización y la poda se utilizan para detectar y prevenir el sobreajuste.
En el modelado predictivo, el sobreajuste es una preocupación constante. Los profesionales utilizan conjuntos de validación y regularización para asegurar que modelos como los de puntuación de crédito o pronóstico médico sigan siendo fiables con nuevos pacientes.
Un modelo que memoriza perfectamente los datos de entrenamiento (por ejemplo, una tabla de consulta) tiene un error de entrenamiento cero, pero normalmente no se desempeña mejor que una suposición aleatoria con datos nuevos: un ejemplo clásico de sobreajuste.











