Accès ouvert déclaré 2026 conference-paper

EmoRAG: Evaluating RAG Robustness to Symbolic Perturbations

Xin Zhou, Xinfeng Li, Yinan Peng, Ming Sheng Xu, Xuanwang Zhang, Miao Yu, Yidong Wang, Xiaojun Jia, Kun Wang, Qingsong Wen, Xiaofeng Wang, Dong M. Wei

0Citations signalées, ce qui n’est pas une note de qualité

1Institutions déclarées

1Pays d’affiliation déclarés

Rattachement africain : cn. Niveau de preuve : code pays fourni par la source.

Le résumé fourni par la source

Retrieval-Augmented Generation (RAG) systems are increasingly central to robust AI, enhancing large language model (LLM) faithfulness by incorporating external knowledge. However, our study unveils a critical, overlooked vulnerability: their profound susceptibility to subtle symbolic perturbations, particularly through near-imperceptible emotional icons (e.g., "(@_@)") that can catastrophically mislead retrieval, termed EmoRAG. We demonstrate that injecting a single emoticon into a query makes it nearly 100% likely to retrieve semantically unrelated texts, which contain a matching emoticon. Our extensive experiment across general question-answering and code domains, using a range of state-of-the-art retrievers and generators, reveals three key findings: (I) Single-Emoticon Disaster: Minimal emoticon injections cause maximal disruptions, with a single emoticon almost 100% dominating RAG output. (II) Positional Sensitivity: Placing an emoticon at the beginning of a query can cause severe perturbation, with F1-Scores exceeding 0.92 across all datasets. (III) Parameter-Scale Vulnerability: Counterintuitively, models with larger parameters exhibit greater vulnerability to the interference. We provide an in-depth analysis to uncover the underlying mechanisms of these phenomena. Furthermore, we raise a critical concern regarding the robustness assumption of current RAG systems, envisioning a threat scenario where an adversary exploits this vulnerability to manipulate the RAG system. We evaluate standard defenses and find them insufficient against EmoRAG. To address this, we propose targeted defenses, analyzing their strengths and limitations in mitigating emoticon-based perturbations. Finally, we outline future directions for building robust RAG systems.

Ce résumé expose les affirmations des auteurs. BNTIC ne l’interprète pas comme une validation indépendante des résultats.

Le contrôle bibliographique ouvert

DOI retrouvé dans Crossref DOI retrouvé ; titre concordant.

Titre Crossref: EmoRAG: Evaluating RAG Robustness to Symbolic Perturbations
Date Crossref: 20/04/2026
Éditeur: ACM
Type: proceedings-article

Ce recoupement confirme des métadonnées liées au DOI. Il ne confirme ni la méthode ni les conclusions de l’étude, et il ne compte pas comme une seconde source scientifique indépendante.

Où se fait cette recherche

Nanjing University pays non établi dans la notice
Université ou école supérieure
ZJU pays non établi dans la notice
Institution
NTU pays non établi dans la notice
Institution
Hengxin Tech. pays non établi dans la notice
Institution
NUS pays non établi dans la notice
Institution
NJU pays non établi dans la notice
Institution
PKU pays non établi dans la notice
Institution
Squirrel Ai Learning pays non établi dans la notice
Institution

Nanjing University, ZJU et NTU, avec 5 autres affiliations.

Une affiliation ne permet pas de déduire la nationalité d’un auteur.

Les sujets associés

Topic ModelingHate Speech and Cyberbullying DetectionSpam and Phishing Detection

Lire en accès ouvert Consulter la publication primaire Ouvrir le DOI