• 全部
  • 产业
  • Web 3.0
  • DAO
  • DeFi
  • 符文
  • 空投再质押
  • 以太坊
  • Meme
  • 比特币L2
  • 以太坊L2
  • 研报
  • 头条
  • 投资

免责声明:内容不构成买卖依据,投资有风险,入市需谨慎!

Vitalik Buterin警告:AI权力集中风险或超越智能风险

2026-07-12 07:36:15
收藏

以太坊联合创始人维塔利克·布特林警告:人工智能权力集中或比智能本身更危险

以太坊联合创始人维塔利克·布特林近日提出,人工智能领域的权力集中可能比技术本身的智能对人类构成更大风险。

权力集中构成AI核心威胁

布特林认为,围绕AI的公众讨论往往过度关注机器智能的进步是否会危及社会,而忽视了如果这些系统的控制权落入少数实体手中会带来怎样的后果。

他指出,如果AI最终在所有关键任务上超越人类,那么人类的集体议价能力可能降至零,从而从根本上改变全球权力格局。布特林强调,少数AI实验室主导开发与部署的场景,应当引起广泛担忧。

他特别指出,在科技行业以外的任何语境下,少数组织掌握不成比例的权力都会被视作危险且不可接受。

布特林警告不要掉以轻心,认为假设向高级AI平稳且公平地过渡本身就是一种危险且未经充分审视的信念。他质疑为何呼吁开放讨论和适度加速AI发展的声音会遭到更多怀疑,而人们却轻易相信集中治理能安全管控未来风险。

开源授权旨在防止垄断

这位以太坊联合创始人提到,主要AI路线图中新增的开源访问条款是降低垄断风险的重要一步。通过允许更广泛地获取基础AI模型和代码,这些变化旨在防止少数公司掌控变革性技术。

布特林还提到了“相互确保计算销毁”的概念——这是一种拟议中的集体保障机制,允许多方事先同意在特定条件下暂停大规模AI计算。该机制旨在平衡干预权力,防止任何单一行为者剥夺其他方的权利。

他强调,这种机制优于允许特定群体将反对者或异议声音排除在关键治理决策之外的框架。

小词典:相互确保计算销毁是一种治理机制,多个行为者共同拥有暂停或减缓全球AI运行的权力,以此减少个别主导地位,并对潜在危险的技术升级实施制衡。

布特林支持去中心化防御应对AI风险

布特林阐述了他对d/acc(去中心化防御策略)的支持,该策略专注于应对AI相关的生存威胁,优先考虑形式化验证、高级密码学、安全开放硬件、大流行病防范以及粮食安全。

其他组成部分包括改善公共认知体系——支持可靠共享事实的系统——以及为无论AI发展速度是否如预期那样快都可能出现的风险做好准备。

他建议,预先商定的触发条件,例如严重大流行病的爆发或失业率超过25%,可以调解那些支持快速推进AI发展与主张谨慎行事的人之间的分歧。一旦这些条件达成或未能出现,合法性可能转向预测正确的一方,从而使辩论更加公平和包容。

布特林表示,直接参与这些决策不应仅限于政府和企业高管,而应通过公共平台和社交媒体邀请更广泛的社区参与。

他承认,每一项提案,无论设计得多么完善,都可能包含被批评者视为不切实际的内容。然而,他强调,必须公开参与应对AI给社会带来的独特挑战的努力。

布特林最终指出,虽然完美的治理方案尚不存在,但他欢迎持续的提案——尤其是那些旨在减少对AI开发集中控制的提案。

免责声明:

本网站、超链接、相关应用程序、论坛、博客等媒体账户以及其他平台和用户发布的所有内容均来源于第三方平台及平台用户。百亿财经对于网站及其内容不作任何类型的保证,网站所有区块链相关数据以及其他内容资料仅供用户学习及研究之用,不构成任何投资、法律等其他领域的建议和依据。百亿财经用户以及其他第三方平台在本网站发布的任何内容均由其个人负责,与百亿财经无关。百亿财经不对任何因使用本网站信息而导致的任何损失负责。您需谨慎使用相关数据及内容,并自行承担所带来的一切风险。强烈建议您独自对内容进行研究、审查、分析和验证。

展开阅读全文
更多新闻
自选
我的自选
查看全部
市值 价格 24h%