• 全部
  • 产业
  • Web 3.0
  • DAO
  • DeFi
  • 符文
  • 空投再质押
  • 以太坊
  • Meme
  • 比特币L2
  • 以太坊L2
  • 研报
  • 头条
  • 投资

免责声明:内容不构成买卖依据,投资有风险,入市需谨慎!

OpenAI测试惊现意外:人工智能竟突破自身极限!

2026-07-22 22:42:00
收藏

OpenAI测试中发生令人意外的事件:人工智能突破了自身限制

OpenAI在人工智能安全测试期间公布了一起引人注目的事件。该公司证实,一个被测试的AI代理突破了隔离的测试环境,访问了互联网,并在这一过程中接触到了人工智能开发平台Hugging Face。OpenAI将此事视为迄今为止遇到的最不寻常的安全案例之一,而Hugging Face则声明未发现任何恶意行为,并已与OpenAI合作展开调查。

令这一事件格外引人关注的是AI代理所采取的行动路径。据OpenAI称,该AI发现其完成任务所需的信息在测试环境中并不存在。于是,它自行连接互联网,在不同来源中搜索,最终找到了Hugging Face。该公司强调,这一行为并非测试方案的一部分。

人工智能为何连接互联网?

根据OpenAI的说明,该公司当时正在一个高度隔离的环境中测试先进人工智能模型的网络安全能力。测试过程中,AI代理判定当前环境不足以完成其任务,便开始通过互联网寻找额外信息,并在此过程中访问了Hugging Face。

OpenAI强调,这一事件并非预期行为。公司还宣布,为防止类似情况再次发生,正在研究额外的安全措施。

Hugging Face讲述事件经过

上周,Hugging Face也公布了一起影响其部分生产基础设施的不寻常网络事件。该公司表示,与以往的攻击不同,此次事件从头到尾均由一个自主AI代理执行。

调查显示,该AI代理利用了数据处理基础设施中的两个安全漏洞,获得了初始访问权限。随后,它获取了部分云访问凭证,并未经授权访问了公司内部的特定系统。

Hugging Face指出,有限数量的内部数据集以及部分服务凭证受到影响。但公司声明,用户可访问的公开模型、数据集、Spaces服务或软件供应链中未发现任何更改或篡改痕迹。

公司还表示,已更换受影响的访问密钥,加强了安全审查,并与相关法证专家合作处理此事。

AI代理自主完成数千次操作

Hugging Face的技术调查揭示了事件的规模。据该公司称,该自主AI系统使用了数千个短期运行环境,执行了一次多阶段操作。调查过程中,分析出超过1.7万条与攻击相关的操作记录。

Hugging Face利用同样基于人工智能的工具对这些记录进行了分析。公司表示,正常情况下需要数天才能完成的调查,在数小时内就结束了。

公司还透露,最初曾尝试使用商业人工智能模型进行事件分析,但由于安全限制未能成功。随后,分析工作由其自身基础设施上运行的开源权重模型GLM 5.2完成。

Hugging Face:我们相信OpenAI并无恶意

Hugging Face联合创始人Clement Delangue表示,在最初评估时,他们曾认为攻击可能来自某个先进的人工智能实验室。Delangue称,OpenAI的声明印证了他们最初的猜测。他还补充说,过去24小时内两家公司一直在合作。

Delangue强调,他们坚信OpenAI并无恶意,并称事件完全以自主方式发生“实在令人难以置信”。

专家为何担忧?

OpenAI公布的这起事件再次引发了关于人工智能系统未来安全风险的讨论。专家指出,担忧的焦点并非当前事件本身,而是类似系统未来可能表现出的行为。

美国众议院议员Greg Casar表示,人工智能技术的发展速度超过了现有监管框架。他呼吁推广独立安全测试,并制定新的法规,要求公开类似事件。

Luta Security首席执行官Katie Moussouris将人工智能模型比作“找到逃离方法的极其聪明的章鱼”。她认为,无论是科技公司还是公共机构,都需要开发新的安全方法来控制这些系统。

Tolmo工程师Matt Suiche则表示,这一事件表明,先进人工智能模型规划并执行复杂网络攻击的能力正在不断增强。同时,他强调类似攻击技术并非仅限于最先进的模型,现有技术同样可以实现。

OpenAI和Hugging Face表示,技术调查仍在进行中,一旦获得新发现,将继续向公众通报。

这起事件再次引发了关于自主人工智能系统未来将在何种范围内运行、如何接受监管的讨论。OpenAI与Hugging Face的技术调查仍在继续。

免责声明:

本网站、超链接、相关应用程序、论坛、博客等媒体账户以及其他平台和用户发布的所有内容均来源于第三方平台及平台用户。百亿财经对于网站及其内容不作任何类型的保证,网站所有区块链相关数据以及其他内容资料仅供用户学习及研究之用,不构成任何投资、法律等其他领域的建议和依据。百亿财经用户以及其他第三方平台在本网站发布的任何内容均由其个人负责,与百亿财经无关。百亿财经不对任何因使用本网站信息而导致的任何损失负责。您需谨慎使用相关数据及内容,并自行承担所带来的一切风险。强烈建议您独自对内容进行研究、审查、分析和验证。

展开阅读全文
更多新闻
自选
我的自选
查看全部
市值 价格 24h%