CART：面向大语言模型的闭环自适应红队测试框架
针对传统自动化红队测试依赖固定提示词、无法根据测试反馈动态调整的问题，研究人员提出了CART闭环自适应红队测试框架。该框架能够利用前序测试结果动态引导后续测试方向，在初始广泛覆盖风险的基础上，深入追踪暴露的脆弱点并保持探测多样性。CART解耦了测试挑战者、被测目标（支持纯文本模型及工具调用智能体）与评估裁判三类角色，实现了更高效动态的大模型安全风险探测。
DC AI 热点
精选
当前热点完整榜单 →
1微软发布新版Copilot超级应用：整合聊天、编程与智能体能力84 热度 ⌁2Anthropic 与 Akamai 达成 116 亿美元云算力协议，年内算力支出承诺已超 5000 亿美元81 热度 ⌁3马斯克披露AI算力布局：Colossus集群拟部署超百万张英伟达GB300芯片80 热度 ⌁4谷歌启动Project Suncatcher：计划下周开展首个太空轨道数据中心测试80 热度 ⌁5微软正式推出新版 Copilot“超级应用”，整合聊天、代码与智能体能力78 热度 ⌁9月24日2026-09-24
LangSmith Engine v2 发布：引入红队攻防与自动化测试能力
LangSmith 正式推出 Engine v2 版本，核心聚焦于大模型应用的安全红队测试（Red Teaming）与自动化测试能力升级。该版本旨在帮助开发者更高效地评估与验证大语言模型应用的安全性、鲁棒性及性能表现。由于原始素材未提供详细正文，具体技术架构与新功能细节需参考官方完整发布内容。