OrdShap: Feature Position Importance for Sequential Black-Box Models
Rattachement africain : es, mx, us. Niveau de preuve : code pays fourni par la source.
Le résumé fourni par la source
Sequential deep learning models excel in domains with temporal or sequential dependencies, but their complexity necessitates post-hoc feature attribution methods for understanding their predictions. While existing techniques quantify feature importance, they inherently assume fixed feature ordering - conflating the effects of (1) feature values and (2) their positions within input sequences. To address this gap, we introduce OrdShap, a novel attribution method that disentangles these effects by quantifying how a model's predictions change in response to permuting feature position. We establish a game-theoretic connection between OrdShap and Sanchez-Bergantiños values, providing a theoretically grounded approach to position-sensitive attribution. Empirical results from health, natural language, and synthetic datasets highlight OrdShap's effectiveness in capturing feature value and feature position attributions, and provide deeper insight into model behavior.
Ce résumé expose les affirmations des auteurs. BNTIC ne l’interprète pas comme une validation indépendante des résultats.
Le contrôle bibliographique ouvert
DOI retrouvé dans Crossref DOI retrouvé ; titre concordant.
- Titre Crossref
- OrdShap: Feature Position Importance for Sequential Black-Box Models
- Date Crossref
- 01/01/2025
- Éditeur
- Neural Information Processing Systems Foundation, Inc. (NeurIPS)
- Type
- proceedings-article
Ce recoupement confirme des métadonnées liées au DOI. Il ne confirme ni la méthode ni les conclusions de l’étude, et il ne compte pas comme une seconde source scientifique indépendante.
Où se fait cette recherche
-
Observatorio de Prospectiva Tecnológica Industrial pays non établi dans la noticeInstitution
-
Universidad del Noreste pays non établi dans la noticeUniversité ou école supérieure
-
UnitedHealth Group (United States) pays non établi dans la noticeEntreprise
-
Optum (United States) pays non établi dans la noticeEntreprise
-
Optum AI pays non établi dans la noticeInstitution
-
Northeastern University pays non établi dans la noticeUniversité ou école supérieure
Observatorio de Prospectiva Tecnológica Industrial, Universidad del Noreste et UnitedHealth Group (United States), avec 3 autres affiliations.
Une affiliation ne permet pas de déduire la nationalité d’un auteur.