Cuánto contribuye realmente cada variable de entrada a las decisiones de un modelo entrenado.La importancia de las características se refiere a técnicas que asignan una puntuación a las variables de entrada según su utilidad para predecir una variable objetivo dentro de un modelo entrenado. Ayuda a interpretar qué variables son más influyentes en las decisiones del modelo, facilitando la comprensión del modelo, la selección de características y el conocimiento del dominio.
El concepto se ha utilizado informalmente durante décadas, pero métodos formalizados como la importancia de Gini se introdujeron con los bosques aleatorios a principios de los años 2000 por Leo Breiman y Adele Cutler. La importancia por permutación también se popularizó en esa época.
Los métodos varían según el tipo de modelo. Para modelos basados en árboles (por ejemplo, bosques aleatorios, gradiente boosting), la importancia se calcula a menudo por cuánto disminuye cada característica la impureza (por ejemplo, impureza de Gini o entropía) en todas las divisiones. Para modelos lineales, la magnitud de los coeficientes puede servir como aproximación. Métodos independientes del modelo, como la importancia por permutación, miden la caída en el rendimiento del modelo cuando los valores de una característica se barajan aleatoriamente, rompiendo su asociación con el objetivo.
Se utiliza en campos como la genómica para identificar qué genes son más predictivos de una enfermedad, en marketing para comprender los factores clave que impulsan a los clientes, y en la depuración de modelos para asegurar que el modelo se basa en características sensatas en lugar de correlaciones espurias.
Las puntuaciones de importancia de las características son relativas y pueden ser engañosas si las características están correlacionadas; una característica verdaderamente importante puede obtener una puntuación baja si ya se utiliza una característica correlacionada en el modelo.















