Anthropic 选择埃森哲作为其首个“嵌入式评估者”,以配合 CEO 提出的放缓前沿 AI 发展计划
Anthropic 已选定埃森哲(Accenture)作为其首个“嵌入式评估者”。这一举措与 Anthropic 首席执行官达里奥·阿莫迪(Dario Amodei)近期提出的在安全措施跟上之前放缓前沿人工智能发展的提议密切相关。该合作旨在将独立测试更紧密地融入先进人工智能系统的构建和部署流程中——Anthropic 认为,这是降低灾难性伤害风险所必需的方法。
此公告紧随阿莫迪于 9 月 12 日发表的关于以更安全、更缓慢的步伐推进 AI 进步的呼吁之后。他的论点核心在于:AI 系统能够改进其他 AI 系统。随着模型在创建下一代模型方面变得愈发熟练,开发过程可能通过递归式自我改进而加速——这种速度有可能超越人类的监督能力。
关键要点
- Anthropic 与埃森哲建立合作伙伴关系,由其担任首个嵌入式评估者,负责进行模型评估和红队测试。
- 阿莫迪在 9 月 12 日的提案中强调,需要拥有“类员工”权限的独立评估者,以便更有效地测试安全护栏。
- 由于目前尚不存在专门针对独立评估的资金机制,Anthropic 预计将在这一早期阶段直接投入资金。
- 该协议为非排他性合作,Anthropic 计划在接下来几周内宣布更多的评估者人选。
- 根据 Anthropic 的公告,Anthropic 和埃森哲预计在未来五年内各自至少投资 10 亿美元。
为何“嵌入式评估”处于 Anthropic 安全计划的核心
阿莫迪的提案揭示了一个核心问题:随着系统提升构建下一代 AI 的能力,AI 进步的速度已经“急剧加快”。在他的描述中,这种反馈循环——通常被称为递归式自我改进——可能使强大的系统进化速度快于社会理解和控制它们的能力。
为解决这种不匹配,提案的第一步要求授予独立评估者相当于内部团队的访问权限。Anthropic 表示,它此前已承诺朝这一方向努力,而与埃森哲的合作被定位为将其具体化的早期且切实的方式。
在其公告中,Anthropic 将嵌入式评估描述为包括模型评估和红队测试、运行对齐评估以及测试安全护栏的工作。由于嵌入式评估是一个新概念,Anthropic 也警告称,具体的实施细节仍在制定中。
埃森哲将主导首次嵌入式评估工作
Anthropic 表示,通过与埃森哲的人工智能业务部门 Faculty 建立合作伙伴关系,正在向其早前的承诺迈进。该公司对嵌入式评估者的既定目标包括:
- 评估模型并执行红队测试
- 开展对齐评估
- 测试模型的安全护栏
据公告显示,Anthropic 和埃森哲预计在未来五年内该项目上各投入至少 10 亿美元。这一投资承诺强调,嵌入式评估被视为一种需要随前沿模型开发同步扩展的持续能力,而非短期的审计任务。
埃森哲方面则表示,Faculty 在为大厂测试和评估模型方面经验丰富,并擅长构建从设计之初就确保安全与伦理的复杂系统。此前的报道也强调了此次合作以及埃森哲在建立评估能力方面的重点,正如 Yahoo Finance 所引用。
资助评估者并保持独立性仍是挑战
Anthropic 公告中更具操作性的一点是其预期工作的融资方式。Anthropic 指出,目前尚无建立独立的评估资助体系。它建议从长远来看,可以通过联合基金或政府来源来支持此类工作,但也承认时间至关重要。
鉴于紧迫性,Anthropic 表示将在这一阶段直接资助埃森哲的嵌入式评估工作。该公司还强调,该合作是非排他性的,并预计将在未来几周内宣布更多的评估者。对于投资者和建设者而言,这一点很重要,因为它表明 Anthropic 正试图避免依赖单一评估者,而是建立一个更广泛的独立监督生态系统。
嵌入式评估在生产过程中能否保持真正的独立性,可能会成为行业关注的关键问题。Anthropic 任命多名评估者的计划可能有助于缓解这一风险,通过引入多种视角,减少评估沦为狭隘定义的内部职能的可能性。
行业反应凸显了围绕放缓 AI 发展的政策张力
阿莫迪 9 月 12 日的提案并非孤立事件。当时的报道显示,主要科技领袖之间对于是否应放缓 AI 发展以应对安全问题存在分歧。据报道,OpenAI 首席执行官 Sam Altman 和 SpaceX 首席执行官 Elon Musk 对阿莫迪的观点持积极态度,而英伟达(Nvidia)首席执行官 Jensen Huang 则认为,旨在放缓发展的监管并非必要。
这种张力反映了一场超出单一公司范畴的更广泛辩论:一些领导者认为,额外的约束是确保安全措施跟上进度的唯一途径;而另一些人则认为,重点应放在技术安全措施上,而非进度控制。Anthropic 的下一步行动——确立一名嵌入式评估者并对其进行大量资助——发出信号表明,至少在现阶段,该公司正在追求一种具体的评估机制,而不是仅依赖公共政策或抽象的承诺。
后续观察重点
随着 Anthropic 努力确定嵌入式评估在实际操作中如何运作,该行业的当务之急是看这种方法是否能超越单一试点评估者规模扩大,并作为一种独立的监督形式保持可信度。读者还应关注 Anthropic 额外评估者的时间表和标准,因为非排他性计划可能决定嵌入式评估是成为行业标准,还是仅仅是一项定制化的努力。

交易所
交易所排行榜
24小时成交排行榜
人气排行榜
交易所比特币余额
交易所资产透明度证明
去中心化交易所
资金费率
资金费率热力图
爆仓数据
清算最大痛点
多空比
大户多空比
币安/欧易/火币大户多空比
Bitfinex杠杆多空比
ETF追踪
索拉纳ETF
瑞波币ETF
香港ETF
比特币持币公司
加密资产反转
以太坊储备
HyperLiquid钱包分析
Hyperliquid鲸鱼监控
大额转账
链上异动
比特币回报率
稳定币市值
期权分析
新闻
文章
财经日历
专题
钱包
合约计算器
账号安全
资讯收藏
自选币种
我的关注