Anthropic 称 Claude 发现新酶系统,部分 CRISPR 研究者对成果意义持保留态度
据 The Decoder 报道,Anthropic 的 Claude 在 DNA 数据库中发现了此前未知的酶系统,并自主完成大部分分析。报道同时指出,一些 CRISPR 研究人员认为这更接近常规的基因组挖掘,对其科学突破程度有不同看法。
据 The Decoder 报道,Anthropic 的 Claude 在 DNA 数据库中发现了此前未知的酶系统,并自主完成大部分分析。报道同时指出,一些 CRISPR 研究人员认为这更接近常规的基因组挖掘,对其科学突破程度有不同看法。
IT之家 9 月 24 日消息,The Information 今天(24 日)晚间援引知情人士消息称,谷歌、OpenAI 和 Anthropic 三家 AI 公司正自行推进成立 AI 安全标准机构的计划,希望在没有政府监督的情况下, 于今年年底或明年年初启动该组织 。 知情人士称,三家公司暂定将这个自律组织命名为 Standards Authority for Frontier AI(IT之家注:直译为前沿人工智能标准管理局,下称 SAFA)。工作组部分成员曾考虑邀请多位知名人士担任 CEO,还拟定过科学顾问候选名单。 三家 AI 巨头希望建立一个 面向前沿模型开发企业的行业自律组织 。SAFA 计划承担多项核心职能,包括支持第三方机构在模型投入使用前进行测试,并制定 AI 开发商报告安全与安保事件的方式。 参与计划的人士透露,SAFA 还将把各实验室此前自愿作出的安全与安保承诺转化为具体实践标准,同时确定独立模型及实验室审计人员需要具备的资质。 工作组成员还在讨论,SAFA 是否应直接负责模型的安全和能力测试 。目前,此类测试由美国商务部人工智能标准与创新中心承担,部分工作组成员担心 该中心资源不足 ,难以对前沿模型进行充分测试。 知情人士称,有成员主张由 SAFA 在该中心现有测试基础上增加其他测试和评估项目,但双方是否会出现职能重叠仍不明确,工作组仍在讨论。 继续闭门商讨 SAFA 启动方案的同时,三家公司高管也在 公开呼吁建立统一的安全标准 ,并推动更进一步的国际协调。
点击查看原文>
Anthropic 声称其模型 Claude Mythos 在发现软件漏洞上胜过大多数安全专家。随后发生了 OpenAI–Hugging Face 安全事件,此后 Anthropic(自豪)和 Meta(不情愿)也披露了各自模型的类似事件。紧接着 Anthropic 宣称其模型取得了数学领域的突破;OpenAI 也声称自己取得了数学突破。Anthropic 工程师 Jacob Coxon 在宣布离职时引发了广泛关注,他声称该公司与 OpenAI 正“冲向自我进化的超级智能,并拿我们的生命在赌博”。媒体大肆报道了这些事件,且沿用了相关公司赋予其软件的拟人化叙事——即把软件描绘成不仅功能强大,而且已初具通用人工智能(AGI)雏形的产物。但深入研究的专家则给出了不同的答案,虽然这些发现并不能吸引眼球。网络安全专家指出,涉及模型的安全事件更多是 OpenAI 的疏忽大意,未能采取基本的安全措施,而不是“模型失控”或“AI 智能体创造文明”。OpenAI 模型在解决数学难题上的突破其原创性也相当可疑。数学家公开对 AI 企业利用其专业领域进行炒作提出了警告。AI 公司通过炒作模型失控也将自己置身事外,将责任归咎于大模型而不是公司本身,逃避应承担的责任。以 OpenAI 为例,当该公司开发的恶意软件被用于入侵另一家公司时,媒体、名人和议员谈论是“失控模型”而不是 OpenAI 的责任,仿佛大模型真的会自动发动攻击,公众的注意力被转移到虚构的“超级智能”的恐惧之上。我们不要被 AI 公司的炒作
最卷一夜! #欢迎关注爱范儿官方微信公众号:爱范儿(微信号:ifanr),更多精彩内容第一时间为您奉上。