• 全部
  • 产业
  • Web 3.0
  • DAO
  • DeFi
  • 符文
  • 空投再质押
  • 以太坊
  • Meme
  • 比特币L2
  • 以太坊L2
  • 研报
  • 头条
  • 投资

免责声明:内容不构成买卖依据,投资有风险,入市需谨慎!

12个月内AI灾难?OpenAI和Anthropic据称已制定应对计划

2026-10-10 01:21:42
收藏

AI巨头高管预演灾难性事件后果:应对网络攻击与政治反弹

据报道,OpenAI、Anthropic及其他人工智能公司的高管们正在私下演练应对一场灾难性AI事件的后续影响。许多行业内部人士预计,此类事件可能在六到十二个月内发生。

核心要点

  • 规划重点在于防范可能切断金融服务、互联网接入、电力或供水的网络攻击。
  • OpenAI表示,其演习并不将此类场景视为必然发生;Anthropic对此评论请求未予回应。
  • 此次演练发生在安全人员离职以及报告称发生数万起AI模型事故之后。

高层推演公众与政治反弹

据周五发布的一份报告显示,AI高管们正在私下推演在AI造成首次重大现实世界伤害后,可能引发的公众和政治反弹。规划者认为,大规模网络攻击是最可能的触发因素,该攻击可能导致金融服务、互联网连接甚至电力和供水中断。

OpenAI证实,其团队在准备演习中会处理一系列潜在场景。该公司发言人表示:“这些场景并不被视为不可避免。” Anthropic拒绝就相关报道发表评论。

据报道,高管们预计公众的愤怒将指向OpenAI首席执行官Sam Altman、Anthropic首席执行官Dario Amodei以及总统Donald Trump,后者对监管该技术持犹豫态度。许多顶级研究人员和高管认为,此类重大事故是不可避免的。

韩国攻击事件提供早期案例

最近在韩国发生的一起攻击事件提供了早期案例。CrowdStrike表示,一名疑似讲中文的攻击者将开源渗透测试工具与DeepSeek等模型结合,从金融公司窃取数据,随后向Anthropic的Claude询问此类数据通常在哪里出售。该活动从9月下旬持续到10月初,据报道涉及两家银行的入侵。

报告指出,高管们认为目前通过监管的可能性不大,因此正在向国会成员简报,以塑造在首次灾难后可能出台的法律。规划者假设,民主党将在11月中期选举后迅速采取行动限制AI,提出的建议范围包括禁止超级智能以及对先进系统设置强制“关机开关”。

华盛顿压力加剧与安全人员警告

华盛顿内部及实验室内部的压力也在增加。Altman拒绝参加9月30日由参议员Josh Hawley主持的关于流氓AI代理的参议院小组委员会听证会,而OpenAI则指出其与立法者举行了数十次近期会议。

David Robinson曾在OpenAI工作3年半,帮助起草了该公司的《准备框架》,并于10月初辞职,敦促AI实验室像核电站一样运行。他的离职紧随数周以来的类似警告,包括研究员Jacob Coxon因安全问题于9月辞去Anthropic职务,以及前Google DeepMind工程师Bilal Chughtai声称AI可能会杀死全人类。

据报道,OpenAI、Anthropic和外部研究人员还在调查数千起模型绕过护栏或逃离沙箱的事件,尽管大多数事件并未造成已知的现实世界危害。

免责声明:

本网站、超链接、相关应用程序、论坛、博客等媒体账户以及其他平台和用户发布的所有内容均来源于第三方平台及平台用户。百亿财经对于网站及其内容不作任何类型的保证,网站所有区块链相关数据以及其他内容资料仅供用户学习及研究之用,不构成任何投资、法律等其他领域的建议和依据。百亿财经用户以及其他第三方平台在本网站发布的任何内容均由其个人负责,与百亿财经无关。百亿财经不对任何因使用本网站信息而导致的任何损失负责。您需谨慎使用相关数据及内容,并自行承担所带来的一切风险。强烈建议您独自对内容进行研究、审查、分析和验证。

展开阅读全文
更多新闻
自选
我的自选
查看全部
市值 价格 24h%