Anthropic 选择埃森哲作为首个“嵌入式评估”合作伙伴,以响应 CEO 放缓 AI 发展速度的倡议
Anthropic 宣布已选定埃森哲(Accenture)作为其首家“嵌入式评估”合作伙伴,旨在协助落实首席执行官达里奥·阿莫迪(Dario Amodei)上周提出的放缓人工智能开发速度的计划。
9月12日,阿莫迪发布了一份三步走提案,建议在警惕快速、不受监管的开发可能带来灾难性后果的同时,放缓 AI 的发展步伐,以便为安全措施的实施留出时间。OpenAI 首席执行官山姆·奥特曼(Sam Altman)和 SpaceX 首席执行官埃隆·马斯克(Elon Musk)对该提案表示积极回应,但英伟达首席执行官黄仁勋(Jensen Huang)并未支持,他认为此类监管并非必要。
递归式自我改进带来的挑战
阿莫迪在提案中写道:“人工智能的进步速度远超以往,这主要得益于 AI 日益增强的构建下一代 AI 的能力。这种动态被称为‘递归式自我改进’。”他进一步指出,“若放任自流,这一进程可能会超出我们理解和控制这些系统的能力。”
独立评估与资金保障
阿莫迪提案的第一步是引入拥有类员工访问权限的独立评估机构,Anthropic 此前已单方面承诺履行这一义务。周五,Anthropic 宣布通过与埃森哲及其 AI 业务部门 Faculty 合作,推进这一承诺的实现。双方将共同致力于“模型评估与红队测试、对齐性评估以及模型安全措施的测试”。
公司表示,由于“嵌入式评估”属于新兴领域,具体实施细节仍在商讨中。根据公告,Anthropic 和埃森哲预计在未来五年内各自向该项目投资至少 10 亿美元。
鉴于工作的紧迫性,Anthropic 指出目前尚缺乏资助独立评估的现有体系,长期资金应来自 pooled 或政府来源,但 Anthropic 将直接资助埃森哲的工作。此外,该合作关系为非排他性的,Anthropic 预计将在未来几周宣布与其他评估机构的合作。
行业领导者的共识
埃森哲表示,Faculty 团队在为全球领先的人工智能实验室测试和评估模型方面拥有丰富经验,并擅长构建在设计之初就确保安全与伦理的复杂 AI 系统。
埃森哲董事长兼首席执行官 Julie Sweet 表示:“嵌入式评估是一个新兴领域,我们期待与 Anthropic 合作,加速嵌入式评估机制的发展。我们认为,这是未来安全格局的重要组成部分。”

交易所
交易所排行榜
24小时成交排行榜
人气排行榜
交易所比特币余额
交易所资产透明度证明
去中心化交易所
资金费率
资金费率热力图
爆仓数据
清算最大痛点
多空比
大户多空比
币安/欧易/火币大户多空比
Bitfinex杠杆多空比
ETF追踪
索拉纳ETF
瑞波币ETF
香港ETF
比特币持币公司
加密资产反转
以太坊储备
HyperLiquid钱包分析
Hyperliquid鲸鱼监控
大额转账
链上异动
比特币回报率
稳定币市值
期权分析
新闻
文章
财经日历
专题
钱包
合约计算器
账号安全
资讯收藏
自选币种
我的关注