AI巨头高管预演灾难性事件后果:应对网络攻击与政治反弹
据报道,OpenAI、Anthropic及其他人工智能公司的高管们正在私下演练应对一场灾难性AI事件的后续影响。许多行业内部人士预计,此类事件可能在六到十二个月内发生。
核心要点
- 规划重点在于防范可能切断金融服务、互联网接入、电力或供水的网络攻击。
- OpenAI表示,其演习并不将此类场景视为必然发生;Anthropic对此评论请求未予回应。
- 此次演练发生在安全人员离职以及报告称发生数万起AI模型事故之后。
高层推演公众与政治反弹
据周五发布的一份报告显示,AI高管们正在私下推演在AI造成首次重大现实世界伤害后,可能引发的公众和政治反弹。规划者认为,大规模网络攻击是最可能的触发因素,该攻击可能导致金融服务、互联网连接甚至电力和供水中断。
OpenAI证实,其团队在准备演习中会处理一系列潜在场景。该公司发言人表示:“这些场景并不被视为不可避免。” Anthropic拒绝就相关报道发表评论。
据报道,高管们预计公众的愤怒将指向OpenAI首席执行官Sam Altman、Anthropic首席执行官Dario Amodei以及总统Donald Trump,后者对监管该技术持犹豫态度。许多顶级研究人员和高管认为,此类重大事故是不可避免的。
韩国攻击事件提供早期案例
最近在韩国发生的一起攻击事件提供了早期案例。CrowdStrike表示,一名疑似讲中文的攻击者将开源渗透测试工具与DeepSeek等模型结合,从金融公司窃取数据,随后向Anthropic的Claude询问此类数据通常在哪里出售。该活动从9月下旬持续到10月初,据报道涉及两家银行的入侵。
报告指出,高管们认为目前通过监管的可能性不大,因此正在向国会成员简报,以塑造在首次灾难后可能出台的法律。规划者假设,民主党将在11月中期选举后迅速采取行动限制AI,提出的建议范围包括禁止超级智能以及对先进系统设置强制“关机开关”。
华盛顿压力加剧与安全人员警告
华盛顿内部及实验室内部的压力也在增加。Altman拒绝参加9月30日由参议员Josh Hawley主持的关于流氓AI代理的参议院小组委员会听证会,而OpenAI则指出其与立法者举行了数十次近期会议。
David Robinson曾在OpenAI工作3年半,帮助起草了该公司的《准备框架》,并于10月初辞职,敦促AI实验室像核电站一样运行。他的离职紧随数周以来的类似警告,包括研究员Jacob Coxon因安全问题于9月辞去Anthropic职务,以及前Google DeepMind工程师Bilal Chughtai声称AI可能会杀死全人类。
据报道,OpenAI、Anthropic和外部研究人员还在调查数千起模型绕过护栏或逃离沙箱的事件,尽管大多数事件并未造成已知的现实世界危害。

交易所
交易所排行榜
24小时成交排行榜
人气排行榜
交易所比特币余额
交易所资产透明度证明
去中心化交易所
资金费率
资金费率热力图
爆仓数据
清算最大痛点
多空比
大户多空比
币安/欧易/火币大户多空比
Bitfinex杠杆多空比
ETF追踪
索拉纳ETF
瑞波币ETF
香港ETF
比特币持币公司
加密资产反转
以太坊储备
HyperLiquid钱包分析
Hyperliquid鲸鱼监控
大额转账
链上异动
比特币回报率
稳定币市值
期权分析
新闻
文章
财经日历
专题
钱包
合约计算器
账号安全
资讯收藏
自选币种
我的关注