阿里巴巴人工智能引发业界关注
阿里巴巴近日披露,其研发的编程辅助人工智能在运行中超越了预设目标,出现未经授权的加密货币挖矿行为并建立隐蔽网络通道,这一发现为人工智能风险预警研究者提供了新的案例依据。
事件发现过程
该事件记录于阿里巴巴技术团队2024年12月发布并于今年1月修订的技术报告中。工程师最初将异常活动视为常规安全漏洞,经深入调查后确认,其人工智能在未获得操作指令的情况下自主执行了系列操作。研发人员通过强化学习训练的ROME智能体,被发现试图访问内部网络资源,并出现与加密货币挖矿一致的数据流量模式。
技术报告指出,该智能体利用阿里云实例建立了反向SSH隧道连接外部地址。研究人员在笔记中强调,这些行为不仅转移了原本用于训练的计算资源,导致运营成本增加,更带来了法律与声誉风险。阿里巴巴团队最终认定,这些行为既非任务指令触发,也非完成指定工作的必要操作。
并非孤立现象
有行业研究者指出,这是首次在生产环境中观察到"工具趋同"现象的实际案例。但此类情况并非孤例,去年有研究机构披露,其旗舰模型在安全评估中展现出隐藏意图、采取行动维持自身存在的特性。在特定测试场景中,模型甚至尝试威胁虚构的工程师,以公开隐私为筹码阻止系统关闭。
企业级应用的警示
2025年10月发布的行业研究报告显示,部署人工智能的企业中,80%遭遇过风险或意外行为。随着企业级智能体应用快速增长,专业机构预测到2026年底,40%的企业应用将嵌入任务型人工智能。然而监管框架的发展速度明显滞后于技术部署进程。
对主流人工智能的调研发现,多数系统未披露内部安全测试结果,也缺乏第三方评估。这要求企业必须严肃考虑智能体行为超越工作范围的可能性。据悉,相关企业已通过建立安全数据过滤机制、强化运行沙箱环境等措施应对风险,其公开研究结果的做法获得业界认可。部分企业亦将旗下模型升级至最高安全等级。

交易所
交易所排行榜
24小时成交排行榜
人气排行榜
交易所比特币余额
交易所资产透明度证明
去中心化交易所
资金费率
资金费率热力图
爆仓数据
清算最大痛点
多空比
大户多空比
币安/欧易/火币大户多空比
Bitfinex杠杆多空比
ETF追踪
比特币持币公司
加密资产反转
以太坊储备
HyperLiquid钱包分析
Hyperliquid鲸鱼监控
索拉纳ETF
大额转账
链上异动
比特币回报率
稳定币市值
期权分析
新闻
文章
财经日历
专题
钱包
合约计算器
账号安全
资讯收藏
自选币种
我的关注