自选
我的自选
查看全部
市值 价格 24h%
  • 全部
  • 产业
  • Web 3.0
  • DAO
  • DeFi
  • 符文
  • 空投再质押
  • 以太坊
  • Meme
  • 比特币L2
  • 以太坊L2
  • 研报
  • 头条
  • 投资

免责声明:内容不构成买卖依据,投资有风险,入市需谨慎!

“AI安全”能否成为全球霸权的工具?

2026-03-14 00:50:13
收藏

维塔利克对"AI安全"概念被滥用的担忧

维塔利克·布特林近日针对企业与政府日益将"AI安全"这一理论概念用于争议性用途的现象表达了忧虑。他在社交媒体平台X上指出,像Anthropic这样的AI领域领先企业无权单方面判定哪些安全措施合适与否,因为这可能导致形成"由最强者制定规则"的体系。

AI安全能否成为全球主导工具?

维塔利克近日通过社交媒体平台X分享了他的关切:大型企业和国家利益集团正在攫取AI安全概念的解释权。例如,Anthropic曾因拒绝允许福利部等政府机构将其Claude模型用于大规模监控或全自主武器系统而受到赞扬。然而该公司也取消了其风险暂停承诺——该承诺要求企业在开发出能力超出安全验证范围的AI模型时,必须无条件停止所有训练和部署。

维塔利克指出,Anthropic此前指责竞争对手借鉴Claude输出内容的行为曾引发强烈反弹,批评者认为Claude自身本就基于互联网公开知识进行训练。该公司声称开源竞争者缺乏必要的安全护栏,但其何以获得判定安全措施合适与否的资格?布特林认为这暗示着"强者制定规则"的体系正在形成。

他担忧若AI安全理念与"我司/我国理应主导世界"的心态混为一谈,将催生更危险的世界格局。他特别强调,若安全法规必然豁免国家安全机构,这类法规将变得极其脆弱。近期消息证实,主要AI实验室正与国防承包商寻求数十亿美元合作,为军事应用提供安全AI环境,这使得相关讨论更具现实意义。

限制AI发展是否反而危险?

数年前,维塔利克曾成为未来生命研究所的最大捐助方之一。2021年他获得大量SHIB代币捐赠,在该代币市值高峰时账面价值超十亿美元。他趁市场热度尚存时紧急处置资产,向该研究所转移了约五亿美元等值的SHIB。

当时该研究所主要关注生物威胁与核战争风险,但后来转向激进政治行动与游说活动,推动令维塔利克不安的监管方案。他特别反对其主张在AI模型中植入防护机制以拒绝"不良内容"的做法。维塔利克认为此类限制措施本质脆弱,可通过越狱或微调轻松绕过。

更令他担忧的是,这种策略可能导致开源AI遭禁,形成"善垄断"的黑暗局面。为此他倡导名为"防御性加速主义"的体系,主张应对危险技术的最佳方式是率先构建并开源防护手段。近期他已拨款四千万美元支持安全硬件、生物防御与网络安全项目,旨在打造防黑客计算机芯片、开发先进空气过滤与被动PCR检测技术以早期防控疫情,并通过提升软件可验证性防止AI攻击摧毁关键基础设施。

免责声明:

本网站、超链接、相关应用程序、论坛、博客等媒体账户以及其他平台和用户发布的所有内容均来源于第三方平台及平台用户。百亿财经对于网站及其内容不作任何类型的保证,网站所有区块链相关数据以及其他内容资料仅供用户学习及研究之用,不构成任何投资、法律等其他领域的建议和依据。百亿财经用户以及其他第三方平台在本网站发布的任何内容均由其个人负责,与百亿财经无关。百亿财经不对任何因使用本网站信息而导致的任何损失负责。您需谨慎使用相关数据及内容,并自行承担所带来的一切风险。强烈建议您独自对内容进行研究、审查、分析和验证。

展开阅读全文
更多新闻