智能体与工具交互中的“静默失败”现象：针对 ToolUniverse 的审计研究
随着智能体 AI 系统逐步采用整合多工具的自动化流程，智能体与工具间交互的可靠性日益受到关注。该研究针对生物学智能体等工作流场景，系统调查了交互过程中的“静默失败”问题。此类故障表现为工具调用表面上显示成功，但 API 或封装层返回的信息与功能实际存在缺失或残缺，且未向用户或智能体发送任何异常通知。该研究填补了此前评测仅关注任务完成率而忽视交互底层隐性故障的空白。
推荐理由揭示了智能体调用外部工具时“看似成功实则信息缺失”的静默失败隐患，对提升复合智能体系统的工程可靠性具参考价值。
原标题：Silent Failures in Agent-Tool Interaction: An Audit of ToolUniverse
阅读 arXiv 人工智能 原文 ↗