Importância das Variáveis

O que é importância das variáveis?

A importância das variáveis quantifica a contribuição de cada preditor para prever o alvo. Identifica fatores mais influentes e simplifica modelos.

Métodos: ranking por correlação (|r| absoluto), importância por permutação (degradação ao embaralhar), baseada em modelo (magnitude dos coeficientes, redução de impureza).

Alta importância não implica causalidade. Variáveis correlacionadas podem compartilhar importância. Comparar resultados de múltiplos métodos.

Formula: Importância por permutação (esta ferramenta): R²₀ = R² do ajuste por mínimos quadrados de y com todos os preditores Embaralhar xⱼ, reajustar, registar R²π(j) — 100 embaralhamentos, semente fixa Importância_j = R²₀ − média R²π(j) Sem normalização: não precisam somar 1; ≈ 0 ou ligeiramente negativa = sem contribuição Outros métodos: |r(xⱼ, y)| (correlação) · |βⱼ| × std(xⱼ) (regressão)

Exemplo de cálculo

Dez estudantes: horas de estudo 2/4/6/8/10/3/7/5/9/6, horas de sono 6/8/5/7/6/5/8/7/5/8, tempo de ecrã 3/5/4/2/6/2/5/1/3/4, nota 51/58/58/79/75/50/75/70/73/71. Os três preditores juntos ajustam R² = 0,98. Embaralhar as horas de estudo e reajustar baixa o R² em 0,71 em média, as horas de sono em 0,19 e o tempo de ecrã em 0,07 — o estudo é o que mais pesa. As pontuações somam 0,97, não 1, porque cada uma é uma queda de R², não uma parte dele. Cada pontuação vem com a sua dispersão entre os 100 embaralhamentos (0,16 para as horas de estudo): com dez linhas, um único embaralhamento pode movê-la muito.

Quando usar esta calculadora

• Um cientista de dados realizando seleção de variáveis antes de treinar um modelo de machine learning para reduzir a dimensionalidade e melhorar o desempenho
• Um analista de negócios identificando quais fatores influenciam mais fortemente um resultado-alvo (p. ex., churn de clientes, taxa de defeitos, vendas)
• Um pesquisador priorizando quais variáveis investigar mais a fundo com base em sua importância preditiva para o resultado de interesse
• Um engenheiro reduzindo dezenas de leituras de sensores ou parâmetros de processo às poucas que realmente determinam a qualidade do produto

Erros comuns a evitar

• Confiar em um único método de importância — métodos diferentes podem produzir classificações diferentes, especialmente para variáveis correlacionadas; compare as abordagens baseadas em correlação, em regressão e em permutação
• Confundir importância com causalidade — uma variável pode ser altamente importante para a previsão sem ser um fator causal; conhecimento do domínio é necessário para distinguir correlação de causalidade
• Remover variáveis com base apenas na baixa importância individual quando as interações importam — duas variáveis individualmente fracas podem ser altamente preditivas em conjunto; teste combinações de variáveis antes de remover
• Não normalizar as escalas das variáveis antes da importância baseada em regressão — a magnitude do coeficiente depende da escala da variável; padronize as variáveis primeiro ou use coeficientes padronizados

Como interpretar os resultados

• Variáveis com pontuações de importância normalizadas acima de 0,2 são contribuintes fortes — elas definitivamente devem ser incluídas em qualquer modelo preditivo
• Variáveis com pontuações de importância próximas de zero agregam pouco valor preditivo e são candidatas à remoção — mas verifique com validação cruzada antes de descartar
• Se as 2-3 principais variáveis respondem por 80%+ da importância total, sua variável-alvo é impulsionada principalmente por poucos fatores-chave — concentre os esforços de melhoria neles

Normas e referências relacionadas

• Breiman, L. (2001), 'Random Forests', Machine Learning 45 — introduziu a importância por permutação, o método usado por esta ferramenta
• Fisher, Rudin & Dominici (2019), 'All Models are Wrong, but Many are Useful', Journal of Machine Learning Research — arcabouço de importância por permutação agnóstico ao modelo (model reliance)
• Molnar, C., Interpretable Machine Learning — orientação prática sobre a importância de variáveis por permutação e suas armadilhas com variáveis correlacionadas

Perguntas frequentes

Por que métodos diferentes dão rankings diferentes?

Cada método mede um aspecto diferente. Correlação captura associação linear, permutação mede contribuição preditiva. Variáveis correlacionadas causam maior divergência.

Remover variáveis pouco importantes?

Geralmente sim, mas verificar com validação cruzada. Algumas podem contribuir via interações.