以太坊联合创始人维塔利克·布特林警告:人工智能权力集中或比智能本身更危险
以太坊联合创始人维塔利克·布特林近日提出,人工智能领域的权力集中可能比技术本身的智能对人类构成更大风险。
权力集中构成AI核心威胁
布特林认为,围绕AI的公众讨论往往过度关注机器智能的进步是否会危及社会,而忽视了如果这些系统的控制权落入少数实体手中会带来怎样的后果。
他指出,如果AI最终在所有关键任务上超越人类,那么人类的集体议价能力可能降至零,从而从根本上改变全球权力格局。布特林强调,少数AI实验室主导开发与部署的场景,应当引起广泛担忧。
他特别指出,在科技行业以外的任何语境下,少数组织掌握不成比例的权力都会被视作危险且不可接受。
布特林警告不要掉以轻心,认为假设向高级AI平稳且公平地过渡本身就是一种危险且未经充分审视的信念。他质疑为何呼吁开放讨论和适度加速AI发展的声音会遭到更多怀疑,而人们却轻易相信集中治理能安全管控未来风险。
开源授权旨在防止垄断
这位以太坊联合创始人提到,主要AI路线图中新增的开源访问条款是降低垄断风险的重要一步。通过允许更广泛地获取基础AI模型和代码,这些变化旨在防止少数公司掌控变革性技术。
布特林还提到了“相互确保计算销毁”的概念——这是一种拟议中的集体保障机制,允许多方事先同意在特定条件下暂停大规模AI计算。该机制旨在平衡干预权力,防止任何单一行为者剥夺其他方的权利。
他强调,这种机制优于允许特定群体将反对者或异议声音排除在关键治理决策之外的框架。
小词典:相互确保计算销毁是一种治理机制,多个行为者共同拥有暂停或减缓全球AI运行的权力,以此减少个别主导地位,并对潜在危险的技术升级实施制衡。
布特林支持去中心化防御应对AI风险
布特林阐述了他对d/acc(去中心化防御策略)的支持,该策略专注于应对AI相关的生存威胁,优先考虑形式化验证、高级密码学、安全开放硬件、大流行病防范以及粮食安全。
其他组成部分包括改善公共认知体系——支持可靠共享事实的系统——以及为无论AI发展速度是否如预期那样快都可能出现的风险做好准备。
他建议,预先商定的触发条件,例如严重大流行病的爆发或失业率超过25%,可以调解那些支持快速推进AI发展与主张谨慎行事的人之间的分歧。一旦这些条件达成或未能出现,合法性可能转向预测正确的一方,从而使辩论更加公平和包容。
布特林表示,直接参与这些决策不应仅限于政府和企业高管,而应通过公共平台和社交媒体邀请更广泛的社区参与。
他承认,每一项提案,无论设计得多么完善,都可能包含被批评者视为不切实际的内容。然而,他强调,必须公开参与应对AI给社会带来的独特挑战的努力。
布特林最终指出,虽然完美的治理方案尚不存在,但他欢迎持续的提案——尤其是那些旨在减少对AI开发集中控制的提案。
ETH

交易所
交易所排行榜
24小时成交排行榜
人气排行榜
交易所比特币余额
交易所资产透明度证明
去中心化交易所
资金费率
资金费率热力图
爆仓数据
清算最大痛点
多空比
大户多空比
币安/欧易/火币大户多空比
Bitfinex杠杆多空比
ETF追踪
索拉纳ETF
瑞波币ETF
香港ETF
比特币持币公司
加密资产反转
以太坊储备
HyperLiquid钱包分析
Hyperliquid鲸鱼监控
大额转账
链上异动
比特币回报率
稳定币市值
期权分析
新闻
文章
财经日历
专题
钱包
合约计算器
账号安全
资讯收藏
自选币种
我的关注