研究显示顶尖专家严重低估AI演进步伐:竞赛表现与商业变现均远超预期
预测研究机构最新研究显示,顶尖AI专家普遍低估了人工智能的发展速度。在基准能力方面,AI在国际数学奥林匹克竞赛中达到金牌水平的时间比专家中位数预测提前了五年;在商业化方面,Anthropic等前沿公司的年化营收约为专家预期的五倍。不过,专家对于自动驾驶等涉及物理现实场景应用的预测则好坏参半,落地进展相对更为复杂。
预测研究机构最新研究显示,顶尖AI专家普遍低估了人工智能的发展速度。在基准能力方面,AI在国际数学奥林匹克竞赛中达到金牌水平的时间比专家中位数预测提前了五年;在商业化方面,Anthropic等前沿公司的年化营收约为专家预期的五倍。不过,专家对于自动驾驶等涉及物理现实场景应用的预测则好坏参半,落地进展相对更为复杂。
据 The Decoder 报道,Anthropic 的 Claude 在 DNA 数据库中发现了此前未知的酶系统,并自主完成大部分分析。报道同时指出,一些 CRISPR 研究人员认为这更接近常规的基因组挖掘,对其科学突破程度有不同看法。
据外媒报道,谷歌、OpenAI与Anthropic正推进成立名为前沿人工智能标准管理局(SAFA)的行业自律组织,计划于今年年底或明年年初正式启动。该组织旨在无政府直接监督下,将此前各方自愿签署的安全承诺转化为实践标准,支持第三方在模型发布前进行测试,并规范安全事件上报流程。目前工作组仍在讨论是否直接承担模型测试,以弥补政府机构资源不足的问题。
点击查看原文>
Anthropic 声称其模型 Claude Mythos 在发现软件漏洞上胜过大多数安全专家。随后发生了 OpenAI–Hugging Face 安全事件,此后 Anthropic(自豪)和 Meta(不情愿)也披露了各自模型的类似事件。紧接着 Anthropic 宣称其模型取得了数学领域的突破;OpenAI 也声称自己取得了数学突破。Anthropic 工程师 Jacob Coxon 在宣布离职时引发了广泛关注,他声称该公司与 OpenAI 正“冲向自我进化的超级智能,并拿我们的生命在赌博”。媒体大肆报道了这些事件,且沿用了相关公司赋予其软件的拟人化叙事——即把软件描绘成不仅功能强大,而且已初具通用人工智能(AGI)雏形的产物。但深入研究的专家则给出了不同的答案,虽然这些发现并不能吸引眼球。网络安全专家指出,涉及模型的安全事件更多是 OpenAI 的疏忽大意,未能采取基本的安全措施,而不是“模型失控”或“AI 智能体创造文明”。OpenAI 模型在解决数学难题上的突破其原创性也相当可疑。数学家公开对 AI 企业利用其专业领域进行炒作提出了警告。AI 公司通过炒作模型失控也将自己置身事外,将责任归咎于大模型而不是公司本身,逃避应承担的责任。以 OpenAI 为例,当该公司开发的恶意软件被用于入侵另一家公司时,媒体、名人和议员谈论是“失控模型”而不是 OpenAI 的责任,仿佛大模型真的会自动发动攻击,公众的注意力被转移到虚构的“超级智能”的恐惧之上。我们不要被 AI 公司的炒作
最卷一夜! #欢迎关注爱范儿官方微信公众号:爱范儿(微信号:ifanr),更多精彩内容第一时间为您奉上。