Aller au contenu principal
Profil bibliographique

Yu Fu

Informations fournies par OpenAlex. Research Africa ne déduit ni nationalité, ni poste, ni coordonnées personnelles.

2Publications signalées
0Citations signalées
0Affiliations récentes

Les domaines associés

Network Packet Processing and OptimizationParallel Computing and Optimization TechniquesNetwork Security and Intrusion DetectionAlgorithms and Data CompressionInternet Traffic Analysis and Secure E-voting

Les publications récentes

Accès ouvert 2024 preprint OpenAlex

Not All Heads Matter: A Head-Level KV Cache Compression Method with Integrated Retrieval and Reasoning

Yu Fu, Zefan Cai, Abedelkadir Asi, Wayne Xiong et autres

Key-Value (KV) caching is a common technique to enhance the computational efficiency of Large Language Models (LLMs), but its memory overhead grows rapidly with input length. Prior work has shown that not all tokens are equally important for text generation, proposing layer-level …

0 citations arXiv (Cornell University)

BNTIC News n’est pas le producteur de ces données. Les publications sont interrogées à la demande dans Crossref, OpenAIRE, DOAJ, Europe PMC, HAL, DataCite, AfricArXiv, ROR et la Banque mondiale, sans clé d’accès. OpenAlex reste optionnel. Aucun service payant n’est nécessaire et aucune donnée externe n’est enregistrée en base. Consulter les sources et leurs limites.