RAG-NAROK：面向检索增强生成的检索感知型知识库投毒攻击
针对检索增强生成（RAG）系统的安全漏洞，该研究指出当前架构对动态检索流水线的依赖带来了新型对抗风险。现有知识库投毒攻击大多采用静态预设注入，未考虑受害系统在面对具体查询时的实际检索内容。为此，论文探索了具有检索感知的投毒机制，分析攻击者如何利用特定源反驳等手段在竞争性检索环境中提升攻击效果，揭示了RAG系统潜在的安全隐患。
DC AI 热点
全部 AI 动态
9月24日2026-09-24
语音数据集中的性少数群体包容性：审计与实践张力分类研究
该研究审查了现有语音技术数据集中对 LGBTQIA+（酷儿）声音的包容程度，深入分析此类群体代表性缺失的根源。研究人员对6个不同的主流语音数据集进行了审计，结果显示可测量的酷儿声音占比极低（仅占发言者的0%至1.4%），远不足以用于稳健的算法偏见评估。以此群体为案例，研究提出了从边缘化群体采集语音数据时的实际挑战与张力分类法，并与其他数据集展开了对比分析。
迈向参与式语音数据集构建：针对酷儿群体的案例研究与概念框架
本文提出了一种参与式语音数据集构建框架，并以LGBTQIA+（酷儿）群体为核心案例展开研究。论文指出，该群体长期面临诸如利用技术辨识性取向等潜在AI危害与伦理风险。研究深入审查了当前主流语音数据采集方式对酷儿群体的不适用性，分析了以往酷儿社群在参与式AI方面的实践经验，旨在为边缘群体语音数据的安全采集、伦理治理与包容性构建提供理论参考与框架指导。
评估代码智能体内核漏洞利用能力：安全评测基准 KEX-bench 发布
尽管代码智能体现已能在生产软件中发现实际漏洞，但漏洞挖掘成果并不等同于构建漏洞利用原语的能力。为此，研究团队推出了用于评估代码智能体针对真实操作系统内核生成利用原语的基准 KEX-bench。该基准涵盖 40 个 Linux 与 Windows 真实 CVE 的 45 个任务实例，涉及内核地址泄露、指令指针控制和任意地址读写等场景，并在隔离虚拟机环境中借助确定性验证器评估智能体的利用能力。