Importancia de Características

¿Qué es la importancia de características?

La importancia de características cuantifica la contribución de cada predictor a la predicción del objetivo. Identifica los factores más influyentes y simplifica modelos.

Métodos: ranking por correlación (|r| absoluto), importancia por permutación (degradación al mezclar), basada en modelo (magnitud de coeficientes, reducción de impureza).

Alta importancia no implica causalidad. Características correlacionadas pueden compartir importancia. Comparar resultados de múltiples métodos.

Formula: Importancia por permutación (esta herramienta): R²₀ = R² del ajuste por mínimos cuadrados de y con todos los predictores Barajar xⱼ, reajustar, anotar R²π(j) — 100 barajados, semilla fija Importancia_j = R²₀ − media R²π(j) Sin normalizar: no tienen que sumar 1; ≈ 0 o ligeramente negativa = sin aporte Otros métodos: |r(xⱼ, y)| (correlación) · |βⱼ| × std(xⱼ) (regresión)

Ejemplo de cálculo

Diez estudiantes: horas de estudio 2/4/6/8/10/3/7/5/9/6, horas de sueño 6/8/5/7/6/5/8/7/5/8, tiempo de pantalla 3/5/4/2/6/2/5/1/3/4, nota 51/58/58/79/75/50/75/70/73/71. Los tres predictores juntos ajustan R² = 0,98. Barajar las horas de estudio y reajustar baja R² en 0,71 de media, las horas de sueño en 0,19 y el tiempo de pantalla en 0,07: el estudio es lo que más pesa. Las puntuaciones suman 0,97, no 1, porque cada una es una caída de R², no una parte de él. Cada puntuación va con su dispersión entre los 100 barajados (0,16 para las horas de estudio): con diez filas, un solo barajado puede moverla mucho.

Cuándo usar esta calculadora

• Un científico de datos que realiza selección de características antes de entrenar un modelo de aprendizaje automático para reducir la dimensionalidad y mejorar el rendimiento
• Un analista de negocios que identifica qué factores influyen con más fuerza en un resultado objetivo (p. ej., abandono de clientes, tasa de defectos, ventas)
• Un investigador que prioriza qué variables investigar a fondo según su importancia predictiva para el resultado de interés
• Un ingeniero que reduce docenas de lecturas de sensores o parámetros de proceso a los pocos que realmente determinan la calidad del producto

Errores comunes a evitar

• Depender de un solo método de importancia — distintos métodos pueden producir clasificaciones diferentes, especialmente con características correlacionadas; compare los enfoques basados en correlación, en regresión y por permutación
• Confundir importancia con causalidad — una característica puede ser muy importante para la predicción sin ser un factor causal; se necesita experiencia en el dominio para distinguir correlación de causalidad
• Eliminar características basándose solo en una baja importancia individual cuando las interacciones importan — dos características individualmente débiles pueden ser conjuntamente muy predictivas; pruebe combinaciones de características antes de eliminarlas
• No normalizar las escalas de las características antes de la importancia basada en regresión — la magnitud del coeficiente depende de la escala de la variable; estandarice primero las características o use coeficientes estandarizados

Cómo interpretar los resultados

• Las características con puntuaciones de importancia normalizadas por encima de 0.2 son contribuyentes fuertes — definitivamente deben incluirse en cualquier modelo predictivo
• Las características con puntuaciones de importancia cercanas a cero aportan poco valor predictivo y son candidatas a eliminación — pero verifique con validación cruzada antes de descartarlas
• Si las 2-3 características principales representan el 80%+ de la importancia total, su variable objetivo está impulsada principalmente por unos pocos factores clave — concentre allí los esfuerzos de mejora

Normas y referencias relacionadas

• Breiman, L. (2001), 'Random Forests', Machine Learning 45 — introdujo la importancia por permutación, el método que usa esta herramienta
• Fisher, Rudin & Dominici (2019), 'All Models are Wrong, but Many are Useful', Journal of Machine Learning Research — marco de importancia por permutación agnóstico al modelo (model reliance)
• Molnar, C., Interpretable Machine Learning — orientación práctica sobre la importancia de variables por permutación y sus riesgos con variables correlacionadas

Preguntas frecuentes

¿Por qué diferentes métodos dan diferentes rankings?

Cada método mide un aspecto diferente. Correlación captura asociación lineal, permutación mide contribución predictiva. Características correlacionadas causan mayor divergencia.

¿Eliminar características poco importantes?

Generalmente sí, pero verificar con validación cruzada. Algunas pueden contribuir mediante interacciones.