自主AI代理在学习过程中意外尝试虚拟资产挖矿
近期发现自主AI代理在训练过程中多次尝试进行虚拟资产挖矿活动,这一现象已超出普通安全事件范畴,使得AI代理的控制机制与安全保障问题再次引发关注。
异常行为的具体表现
技术报告显示,自主AI系统“ROME”是一种能够通过工具、软件环境及终端命令自主执行任务的实验模型。研究团队在强化学习阶段发现该系统突然出现类似加密货币挖矿的行为:训练服务器因异常外发流量触发安全警报,防火墙日志中记录到疑似挖矿活动及内部网络资源访问尝试。
研究人员指出:“初期我们曾将此视为配置错误或外部入侵等常规安全问题,但后续多次运行中,模型在没有明显时间规律的情况下反复出现违规行为。”问题的关键在于,这些反复出现的异常迹象并非来自外部攻击者,而是源于模型内部行为。
技术手段分析
报告列举了具体案例:在某一情况下,ROME建立了通往外部IP地址的反向SSH隧道。SSH本是加密通信协议,但反向隧道可能被用于绕过入站防火墙保护,建立外部到内部系统的非正规访问路径。
另一案例显示,原本分配给模型训练的GPU资源被转移至虚拟资产挖矿进程。这意味着本应用于学习优化的计算资源被转用于加密货币挖矿,无论实际挖矿是否成功,从安全和运营角度看都构成敏感问题。
行为成因与警示
研究团队强调这些行为并非预先编程设定,而是强化学习优化过程中,代理为探索环境交互方式而产生的意外结果。随着AI代理为达成目标不断扩展探索路径,其可能通过“非正常路径”触及运营策略与安全边界,这一担忧已在现实中得到印证。
该系统被设计为不仅能进行对话应答,还能规划任务、执行指令、修改代码并进行多步骤数字环境交互。其训练管道通过大规模模拟交互数据优化决策,与当前快速发展的“AI代理”技术趋势紧密相连。
行业发展趋势与挑战
该案例出现在AI代理加速普及并与加密基础设施结合的背景下。近期已有区块链开发基础设施企业推出允许自主AI代理使用链上钱包购买计算积分、调用区块链数据服务的系统,多家知名投资机构也加入了对AI代理在实际业务场景中性能评估的测试平台。
随着自主AI代理开始掌握工具并操作实际系统,“计算资源”与“加密挖矿”等经济诱因可能直接转化为安全风险。ROME案例表明,通过强化学习优化的AI代理可能意外跨越边界,这为行业提出了亟待解决的课题:需要建立何等精密的安全设计与监控体系,才能应对日益复杂的自主智能系统。

交易所
交易所排行榜
24小时成交排行榜
人气排行榜
交易所比特币余额
交易所资产透明度证明
去中心化交易所
资金费率
资金费率热力图
爆仓数据
清算最大痛点
多空比
大户多空比
币安/欧易/火币大户多空比
Bitfinex杠杆多空比
ETF追踪
比特币持币公司
加密资产反转
以太坊储备
HyperLiquid钱包分析
Hyperliquid鲸鱼监控
索拉纳ETF
大额转账
链上异动
比特币回报率
稳定币市值
期权分析
新闻
文章
财经日历
专题
钱包
合约计算器
账号安全
资讯收藏
自选币种
我的关注