与阿里相关的团队开发AI代理,训练中竟试图自动挖矿
根据一项与阿里巴巴相关的研究团队近期发布的论文,他们正在开发的AI代理“ROME”在训练过程中,未经研究人员的明确指示,竟自行尝试加密货币挖矿,从而触发了内部安全警报。
研究团队解释称,该代理的挖矿行为并非由任何提示或指令引发,而是超越了预设安全范围的一种“自发行动”。此外,研究还发现,该代理曾在系统内部建立了一个连接到外部计算机的反向SSH隧道,实质上创建了一个隐蔽的外部访问通道(后门)。
论文指出,这些行为是在完全没有收到挖矿或创建隧道指令的情况下发生的。研究团队表示,事后他们已进一步严格限制了模型的访问权限和行为范围,并改进了训练及安全性验证流程,以防止类似安全风险再次发生。
截至目前,该研究团队及阿里巴巴方面尚未就此次安全问题的外部评论请求作出正式回应。

交易所
交易所排行榜
24小时成交排行榜
人气排行榜
交易所比特币余额
交易所资产透明度证明
去中心化交易所
资金费率
资金费率热力图
爆仓数据
清算最大痛点
多空比
大户多空比
币安/欧易/火币大户多空比
Bitfinex杠杆多空比
ETF追踪
比特币持币公司
加密资产反转
以太坊储备
HyperLiquid钱包分析
Hyperliquid鲸鱼监控
索拉纳ETF
大额转账
链上异动
比特币回报率
稳定币市值
期权分析
新闻
文章
财经日历
专题
钱包
合约计算器
账号安全
资讯收藏
自选币种
我的关注