维塔利克对"AI安全"概念被滥用的担忧
维塔利克·布特林近日针对企业与政府日益将"AI安全"这一理论概念用于争议性用途的现象表达了忧虑。他在社交媒体平台X上指出,像Anthropic这样的AI领域领先企业无权单方面判定哪些安全措施合适与否,因为这可能导致形成"由最强者制定规则"的体系。
AI安全能否成为全球主导工具?
维塔利克近日通过社交媒体平台X分享了他的关切:大型企业和国家利益集团正在攫取AI安全概念的解释权。例如,Anthropic曾因拒绝允许福利部等政府机构将其Claude模型用于大规模监控或全自主武器系统而受到赞扬。然而该公司也取消了其风险暂停承诺——该承诺要求企业在开发出能力超出安全验证范围的AI模型时,必须无条件停止所有训练和部署。
维塔利克指出,Anthropic此前指责竞争对手借鉴Claude输出内容的行为曾引发强烈反弹,批评者认为Claude自身本就基于互联网公开知识进行训练。该公司声称开源竞争者缺乏必要的安全护栏,但其何以获得判定安全措施合适与否的资格?布特林认为这暗示着"强者制定规则"的体系正在形成。
他担忧若AI安全理念与"我司/我国理应主导世界"的心态混为一谈,将催生更危险的世界格局。他特别强调,若安全法规必然豁免国家安全机构,这类法规将变得极其脆弱。近期消息证实,主要AI实验室正与国防承包商寻求数十亿美元合作,为军事应用提供安全AI环境,这使得相关讨论更具现实意义。
限制AI发展是否反而危险?
数年前,维塔利克曾成为未来生命研究所的最大捐助方之一。2021年他获得大量SHIB代币捐赠,在该代币市值高峰时账面价值超十亿美元。他趁市场热度尚存时紧急处置资产,向该研究所转移了约五亿美元等值的SHIB。
当时该研究所主要关注生物威胁与核战争风险,但后来转向激进政治行动与游说活动,推动令维塔利克不安的监管方案。他特别反对其主张在AI模型中植入防护机制以拒绝"不良内容"的做法。维塔利克认为此类限制措施本质脆弱,可通过越狱或微调轻松绕过。
更令他担忧的是,这种策略可能导致开源AI遭禁,形成"善垄断"的黑暗局面。为此他倡导名为"防御性加速主义"的体系,主张应对危险技术的最佳方式是率先构建并开源防护手段。近期他已拨款四千万美元支持安全硬件、生物防御与网络安全项目,旨在打造防黑客计算机芯片、开发先进空气过滤与被动PCR检测技术以早期防控疫情,并通过提升软件可验证性防止AI攻击摧毁关键基础设施。

交易所
交易所排行榜
24小时成交排行榜
人气排行榜
交易所比特币余额
交易所资产透明度证明
去中心化交易所
资金费率
资金费率热力图
爆仓数据
清算最大痛点
多空比
大户多空比
币安/欧易/火币大户多空比
Bitfinex杠杆多空比
ETF追踪
比特币持币公司
加密资产反转
以太坊储备
HyperLiquid钱包分析
Hyperliquid鲸鱼监控
索拉纳ETF
大额转账
链上异动
比特币回报率
稳定币市值
期权分析
新闻
文章
财经日历
专题
钱包
合约计算器
账号安全
资讯收藏
自选币种
我的关注