精选

CART：面向大语言模型的闭环自适应红队测试框架

针对传统自动化红队测试依赖固定提示词、无法根据测试反馈动态调整的问题，研究人员提出了CART闭环自适应红队测试框架。该框架能够利用前序测试结果动态引导后续测试方向，在初始广泛覆盖风险的基础上，深入追踪暴露的脆弱点并保持探测多样性。CART解耦了测试挑战者、被测目标（支持纯文本模型及工具调用智能体）与评估裁判三类角色，实现了更高效动态的大模型安全风险探测。