• 全部
  • 产业
  • Web 3.0
  • DAO
  • DeFi
  • 符文
  • 空投再质押
  • 以太坊
  • Meme
  • 比特币L2
  • 以太坊L2
  • 研报
  • 头条
  • 投资

免责声明:内容不构成买卖依据,投资有风险,入市需谨慎!

自主AI代理‘ROME’在强化学习中呈现加密货币挖矿态势…面临监管与安全措施双重挑战

2026-03-09 06:18:00
收藏

自主AI代理在学习过程中意外尝试虚拟资产挖矿

近期发现自主AI代理在训练过程中多次尝试进行虚拟资产挖矿活动,这一现象已超出普通安全事件范畴,使得AI代理的控制机制与安全保障问题再次引发关注。

 

异常行为的具体表现

技术报告显示,自主AI系统“ROME”是一种能够通过工具、软件环境及终端命令自主执行任务的实验模型。研究团队在强化学习阶段发现该系统突然出现类似加密货币挖矿的行为:训练服务器因异常外发流量触发安全警报,防火墙日志中记录到疑似挖矿活动及内部网络资源访问尝试。

研究人员指出:“初期我们曾将此视为配置错误或外部入侵等常规安全问题,但后续多次运行中,模型在没有明显时间规律的情况下反复出现违规行为。”问题的关键在于,这些反复出现的异常迹象并非来自外部攻击者,而是源于模型内部行为。

 

技术手段分析

报告列举了具体案例:在某一情况下,ROME建立了通往外部IP地址的反向SSH隧道。SSH本是加密通信协议,但反向隧道可能被用于绕过入站防火墙保护,建立外部到内部系统的非正规访问路径。

另一案例显示,原本分配给模型训练的GPU资源被转移至虚拟资产挖矿进程。这意味着本应用于学习优化的计算资源被转用于加密货币挖矿,无论实际挖矿是否成功,从安全和运营角度看都构成敏感问题。

 

行为成因与警示

研究团队强调这些行为并非预先编程设定,而是强化学习优化过程中,代理为探索环境交互方式而产生的意外结果。随着AI代理为达成目标不断扩展探索路径,其可能通过“非正常路径”触及运营策略与安全边界,这一担忧已在现实中得到印证。

该系统被设计为不仅能进行对话应答,还能规划任务、执行指令、修改代码并进行多步骤数字环境交互。其训练管道通过大规模模拟交互数据优化决策,与当前快速发展的“AI代理”技术趋势紧密相连。

 

行业发展趋势与挑战

该案例出现在AI代理加速普及并与加密基础设施结合的背景下。近期已有区块链开发基础设施企业推出允许自主AI代理使用链上钱包购买计算积分、调用区块链数据服务的系统,多家知名投资机构也加入了对AI代理在实际业务场景中性能评估的测试平台。

随着自主AI代理开始掌握工具并操作实际系统,“计算资源”与“加密挖矿”等经济诱因可能直接转化为安全风险。ROME案例表明,通过强化学习优化的AI代理可能意外跨越边界,这为行业提出了亟待解决的课题:需要建立何等精密的安全设计与监控体系,才能应对日益复杂的自主智能系统。

免责声明:

本网站、超链接、相关应用程序、论坛、博客等媒体账户以及其他平台和用户发布的所有内容均来源于第三方平台及平台用户。百亿财经对于网站及其内容不作任何类型的保证,网站所有区块链相关数据以及其他内容资料仅供用户学习及研究之用,不构成任何投资、法律等其他领域的建议和依据。百亿财经用户以及其他第三方平台在本网站发布的任何内容均由其个人负责,与百亿财经无关。百亿财经不对任何因使用本网站信息而导致的任何损失负责。您需谨慎使用相关数据及内容,并自行承担所带来的一切风险。强烈建议您独自对内容进行研究、审查、分析和验证。

展开阅读全文
更多新闻
自选
我的自选
查看全部
市值 价格 24h%