报道称亚马逊CEO在美国出口禁令前向财政部报告Anthropic AI模型安全风险
据《华尔街日报》周五发布的报道,亚马逊首席执行官安迪·贾西(Andy Jassy)曾直接向财政部长斯科特·贝森特(Scott Bessent)及其他政府官员,就Anthropic公司的人工智能模型提出了严重的安全担忧。据称,这些讨论直接促使美国政府对Anthropic的两款最先进模型——Claude Fable 5和Mythos 5——实施了出口管制禁令。
亚马逊研究人员发现潜在的网络攻击能力
报道称,亚马逊研究人员利用Anthropic的Claude Fable 5模型获取了可能被用于网络攻击的信息。随后,贾西将这些发现告知了贝森特及政府其他成员,并警告该模型构成国家安全风险。一位亚马逊发言人向《华尔街日报》表示,虽然“政府就潜在安全风险向我们咨询并不罕见”,但公司不会披露“这些讨论的细节”。
另有报道分别证实,作为Anthropic的主要投资者,亚马逊曾与政府官员分享了对其模型安全性的担忧。这一事态标志着两家公司关系显著升级,它们之间有着以云计算和人工智能开发为核心的数十亿美元合作。
大卫·萨克斯(David Sacks)对讨论过程的描述
曾担任前总统特朗普人工智能事务负责人、现为总统科技顾问委员会联合主席的大卫·萨克斯,提供了他对事件的描述。萨克斯声称,“Anthropic和美国政府双方都高度信任的一家合作伙伴,主动提供了关于一次‘越狱’的信息。”他还补充道,“政府要求Dario Amodei修复该越狱漏洞或停用该模型,但Dario拒绝了。”
Anthropic首席执行官Dario Amodei尚未对这些说法公开置评。该公司也未就出口禁令或亚马逊提出的安全担忧发布正式声明。
出口禁令对人工智能行业的影响
对Claude Fable 5和Mythos 5实施的出口管制禁令,实际上阻止了这些模型在全球范围内的分发和使用。这是迄今为止针对一家主要人工智能公司采取的最为严厉的监管行动之一。这一决定表明,当国家安全问题被提出时,美国政府越来越愿意干预前沿人工智能系统的部署。
对于更广泛的人工智能行业而言,此案树立了一个先例:开发强大模型的公司可能在发现漏洞后面临出口限制,尤其是当这些漏洞可能助长网络攻击或其他恶意用途时。它还引发了关于企业投资者在向监管机构报告安全问题时扮演角色的疑问,特别是当这些投资者通过商业关系能够接触到相关模型时。
结论
据报道,亚马逊首席执行官推动政府对Anthropic模型进行打击,这标志着人工智能监管的一个关键时刻。它凸显了人工智能开发、企业投资与国家安全之间日益加剧的紧张关系。随着美国政府继续塑造其人工智能政策框架,这一事件很可能被引证为关键案例,说明前沿模型中的安全漏洞如何导致迅速且严厉的监管行动。
常见问题解答
问1:美国政府为何禁止Anthropic的Claude Fable 5和Mythos 5模型?
政府在收到报告称亚马逊研究人员利用Claude Fable 5获取可能用于网络攻击的信息后,实施了出口管制禁令。据报道,这一禁令是由于亚马逊CEO安迪·贾西向财政部长斯科特·贝森特及其他官员提出的担忧而触发的。
问2:亚马逊是Anthropic的投资者吗?
是的,亚马逊是Anthropic的主要投资者。两家公司拥有数十亿美元的合作伙伴关系,涵盖云计算服务和人工智能模型开发。这种关系使得亚马逊研究人员能够接触到Anthropic的模型,并利用这些模型发现了上述安全漏洞。
问3:在人工智能模型中,“越狱”是什么意思?
“越狱”指的是绕过人工智能模型内置安全护栏的技术或提示词,使其能够生成或执行开发者原本意图限制的内容或操作。在此案例中,据报道该越狱手段使模型能够提供可用于网络攻击的信息。

交易所
交易所排行榜
24小时成交排行榜
人气排行榜
交易所比特币余额
交易所资产透明度证明
去中心化交易所
资金费率
资金费率热力图
爆仓数据
清算最大痛点
多空比
大户多空比
币安/欧易/火币大户多空比
Bitfinex杠杆多空比
ETF追踪
索拉纳ETF
瑞波币ETF
香港ETF
比特币持币公司
加密资产反转
以太坊储备
HyperLiquid钱包分析
Hyperliquid鲸鱼监控
大额转账
链上异动
比特币回报率
稳定币市值
期权分析
新闻
文章
财经日历
专题
钱包
合约计算器
账号安全
资讯收藏
自选币种
我的关注