CATP: Cross-Attention Token Pruning for Accuracy Preserved Multimodal Model Inference
Rattachement africain : us. Niveau de preuve : code pays fourni par la source.
Le résumé fourni par la source
In response to the growing interest in large multimodal models, we introduce Cross-Attention Token Pruning (CATP), an accuracy-preserved token pruning method. Our approach leverages cross-attention layers in multimodal models, exemplified by BLIP-2, to extract valuable information to determine token importance. CATP employs a refined voting strategy across model heads and layers. In evaluations, CATP achieves up to 12.1 X higher accuracy than existing token pruning methods, addressing the trade-off between computational efficiency and model precision.
Ce résumé expose les affirmations des auteurs. BNTIC ne l’interprète pas comme une validation indépendante des résultats.
Le contrôle bibliographique ouvert
DOI retrouvé dans Crossref DOI retrouvé ; titre concordant.
- Titre Crossref
- CATP: Cross-Attention Token Pruning for Accuracy Preserved Multimodal Model Inference
- Date Crossref
- 05/05/2025
- Éditeur
- IEEE
- Type
- proceedings-article
Ce recoupement confirme des métadonnées liées au DOI. Il ne confirme ni la méthode ni les conclusions de l’étude, et il ne compte pas comme une seconde source scientifique indépendante.
Les institutions déclarées
Une affiliation ne permet pas de déduire la nationalité d’un auteur.