From RAGs to rich parameters: Probing how language models utilize external knowledge over parametric information for factual queries
Rattachement africain : us, gb. Niveau de preuve : code pays fourni par la source.
Le résumé fourni par la source
Retrieval Augmented Generation (RAG) enriches the ability of language models to reason using external context to augment responses for a given user prompt. This approach has risen in popularity due to practical applications in various applications of language models in search, question/answering, and chat-bots. However, the exact nature of how this approach works isn't clearly understood. In this paper, we mechanistically examine the RAG pipeline to highlight that language models take "shortcut" and have a strong bias towards utilizing only the context information to answer the question, while relying minimally on their parametric memory. We probe this mechanistic behavior in language models with: (i) Causal Mediation Analysis to show that the parametric memory is minimally utilized when answering a question and (ii) Attention Contributions and Knockouts to show that the last token residual stream do not get enriched from the subject token in the question, but gets enriched from other informative tokens in the context. We find this pronounced "shortcut" behaviour true across both LLaMa and Phi family of models.
Ce résumé expose les affirmations des auteurs. BNTIC ne l’interprète pas comme une validation indépendante des résultats.
Le contrôle bibliographique ouvert
DOI retrouvé dans Crossref DOI retrouvé ; titre concordant.
- Titre Crossref
- From RAGs to rich parameters: Probing how language models utilize external knowledge over parametric information for factual queries
- Date Crossref
- 22/02/2026
- Éditeur
- ACM
- Type
- proceedings-article
Ce recoupement confirme des métadonnées liées au DOI. Il ne confirme ni la méthode ni les conclusions de l’étude, et il ne compte pas comme une seconde source scientifique indépendante.
Où se fait cette recherche
-
University of Massachusetts Amherst pays non établi dans la noticeUniversité ou école supérieure
-
Microsoft (United States) pays non établi dans la noticeEntreprise
-
Microsoft Research (United Kingdom) pays non établi dans la noticeEntreprise
-
Santa Clara University pays non établi dans la noticeUniversité ou école supérieure
-
Coherent (United States) pays non établi dans la noticeEntreprise
-
Independent pays non établi dans la noticeInstitution
University of Massachusetts Amherst, Microsoft (United States) et Microsoft Research (United Kingdom), avec 3 autres affiliations.
Une affiliation ne permet pas de déduire la nationalité d’un auteur.