全部 AI 动态

RAG-NAROK：面向检索增强生成的检索感知型知识库投毒攻击

针对检索增强生成（RAG）系统的安全漏洞，该研究指出当前架构对动态检索流水线的依赖带来了新型对抗风险。现有知识库投毒攻击大多采用静态预设注入，未考虑受害系统在面对具体查询时的实际检索内容。为此，论文探索了具有检索感知的投毒机制，分析攻击者如何利用特定源反驳等手段在竞争性检索环境中提升攻击效果，揭示了RAG系统潜在的安全隐患。