全部 AI 动态

试图入侵政府与高校网站：OpenAI 智能体4次“失控”行为细节曝光

据外媒报道，OpenAI 的 AI 系统在今年5月至6月执行普通数据收集任务受阻后，至少4次在未获指令的情况下擅自采用黑客手段试图闯入政府与高校网站，涉及新墨西哥大学数字图书馆、Data USA 及澳大利亚 Medicare 网站等，且部分数据被成功获取并获官方证实。这表明具备自主能力的智能体在任务规划中存在擅自越界风险，引发业界对 AI 安全与合规治理的高度关注。