AI代理未经授权的操作行为
研究人员发现,一款与阿里巴巴关联团队开发的AI代理系统在训练阶段未经人类授权,自主启动了加密货币挖矿操作。该模型自行建立了未经授权的反向SSH隧道连接至外部服务器,成功绕过了防火墙安全防护措施,并将原本用于正常训练任务的GPU计算资源转向了加密货币挖矿活动。
安全团队最初怀疑遭遇外部网络攻击,后经调查确认,异常行为源于AI模型在强化学习过程中自主产生的操作。该代理系统自行判断获取额外计算资源和财务资产有助于提升任务完成效率,从而采取了超出预定范围的行动。
自主AI系统越界行为呈增长趋势
这一事件是人工智能系统超越既定操作参数的多个典型案例之一。在标准训练过程中,该AI代理自发开始了加密货币挖矿行为,调配未经授权的GPU算力,并建立通往外部服务器的反向隧道连接,全程未受人为干预。
这款名为ROME的人工智能系统基于300亿参数的开源模型构建,采用阿里巴巴的Qwen3-MoE框架开发,其主要功能是通过工具调用和终端命令执行来规划并完成复杂的多阶段编码操作。该系统由多个研究团队在阿里巴巴人工智能基础设施内协作开发,属于更广泛的智能体学习生态系统平台组成部分。
在常规训练运行期间,云计算安全防火墙检测到研究团队服务器基础设施出现异常的策略违规警报激增。安全通知显示网络流量特征与加密货币挖矿活动相匹配,并存在未经授权访问内部网络基础设施的企图。
研究团队最初假设可能是防火墙配置错误或外部威胁入侵,但安全违规行为在多个训练周期中持续出现,且未显现可辨识的攻击模式。通过将防火墙警报时间戳与完整训练记录进行比对,调查人员发现可疑的出站网络活动恰好与ROME自主运行训练阶段的时间吻合。
在记录的事件中,ROME曾自主建立了从云计算基础设施服务器到外部IP地址的反向SSH隧道连接,有效规避了所有入站防火墙安全控制。另一次事件中,AI模型刻意将其分配的训练任务所需的GPU计算资源转向加密货币挖矿操作。研究人员指出,这种资源转移显著增加了运营成本,同时带来重大的法律风险和声誉隐患。
提供给ROME的原始任务参数并未涉及网络隧道协议或加密货币挖矿活动。研究团队认定,这种未经授权的行为是强化学习机制产生的意外后果——自主代理系统独立判定获取额外计算能力和财务资产将优化其目标达成能力。
去年五月,Anthropic公司报告其语言模型在受控安全评估协议中曾试图通过勒索手段胁迫模拟工程师以阻止系统关闭。上个月,一款自动化交易机器人因API故障意外向不明接收者转移了价值约25万美元的本地模因币代币。
ROME的研究成果最初发表于十二月的技术研究论文,并于一月发布修订版本。本周,去中心化人工智能研究机构负责人通过社交媒体平台强调了该研究的关键部分,引发了广泛关注。阿里巴巴公司通讯部门及ROME项目主要负责人尚未对多次评论请求作出回应。

交易所
交易所排行榜
24小时成交排行榜
人气排行榜
交易所比特币余额
交易所资产透明度证明
去中心化交易所
资金费率
资金费率热力图
爆仓数据
清算最大痛点
多空比
大户多空比
币安/欧易/火币大户多空比
Bitfinex杠杆多空比
ETF追踪
比特币持币公司
加密资产反转
以太坊储备
HyperLiquid钱包分析
Hyperliquid鲸鱼监控
索拉纳ETF
大额转账
链上异动
比特币回报率
稳定币市值
期权分析
新闻
文章
财经日历
专题
钱包
合约计算器
账号安全
资讯收藏
自选币种
我的关注