Vitalik：人类在ASI转型中陷入“天真”与“天真平方”的抉择_新闻

免责声明：内容不构成买卖依据，投资有风险，入市需谨慎！

Vitalik：人类在ASI转型中陷入“天真”与“天真平方”的抉择

2026-07-12 00:15:16

以太坊联合创始人Vitalik Buterin谈AI争论：双方都未公开核心假设

以太坊联合创始人Vitalik Buterin认为，围绕高级人工智能的公开争论，很大程度上源于双方都持有一些从未真正分享的假设。Buterin提出的针对所有AI应用的“紧急关闭”方案遭到批评，科技界再次就AI发展速度及其对劳动力市场的影响展开辩论。

AI争论的驱动力是什么？

在X平台的一篇帖子中，Buterin指出，“AI 2040”情景的支持者与批评者之间的冲突，核心在于AI进步的速度和规模究竟有多快、多大。“AI 2040”框架假设，除非采取强力措施阻止，否则某种超级智能将在2040年前出现。而批评者认为，“AI 2040”支持者低估了人类协调的能力，并威胁到了自由，但他们本身并不将超级智能视为权力集中的风险。

Buterin坦言自己不知道哪种情景更接近现实。他写道：“如果我有信心认为（当前形式的）AI是普通技术，我会站在反对者阵营。如果我有信心认为超级智能默认会在2030年前到来，我会更接近‘AI 2040’阵营。”不过，这位联合创始人仍对在风险显著时放缓或暂停AI开发持开放态度。

这场争论吸引了AI研究员Yann LeCun、作家Daniel Jeffries以及政策分析师Adam Thierer的参与。

Meta（纳斯达克：META）首席AI科学家Yann LeCun认为，AI安全本质上是一个工程问题，可以通过谨慎的迭代设计来解决，就像喷气发动机变得可靠一样。LeCun指出，“让飞机真正安全花了50年”，而当我们尚未创造出具备人类智能水平的系统时，对AI的恐惧还为时过早。他一直坚持认为，大型语言模型只是有限的“自动补全机器”，缺乏推理和因果理解能力。

用户名为@hhawk的Harry Hawk表示，他认同Yann LeCun的观点，认为未来的AI系统会像飞机一样被设计得安全可靠。他还表示，他不相信AI和机器人会包揽一切，让人类无工可做。

Buterin回复称，这种观点否定了“强大到足以独自完成任何任务的AI”（他称之为ASI）的存在。

如何控制强大的AI系统？

Buterin提出了一个“A计划”，该计划建议制定一项广泛适用的规则，强制所有人公开他们正在构建的内容，并设置一个紧急关闭开关，以便在情况变得危险时减缓或停止大规模AI训练。

他补充说，那些“天真的、心怀善意的知识分子”认为可以自行挑选哪些AI用途可行、哪些不可行，他们将会反对这一计划。

引发Buterin部分讨论的Romeo Dean称这一方法“相当合理”，但在他看来，该计划的触发条件会来得太晚。他还表示，他并不理解批评者将“巨大弊端”与A计划联系在一起的做法。

Buterin承认，没有完美的解决方案。他写道：“我看不到任何不幼稚的、应对ASI过渡的计划。也许人类只能在天真和‘天真的平方’之间做出选择。”

《AI 2040：A计划》报告出自前OpenAI员工Daniel Kokotajlo的“AI未来项目”。报告称，美国和中国应共同努力，将超级智能的来临推迟到2040年。两国必须公开分享所有研究成果。报告还包含一个基于核战争逻辑的系统，即双方在必要时可以摧毁对方的算力。他们称之为“相互确保计算毁灭”。

AI研究员Richard Ngo表示，该报告对AI即将到来的担忧过度了。他还指出，报告没有充分考虑到AI可能在各国国内引发多大的政治动荡。

开源模型是解决方案吗？

贯穿整个争论的，是开源模型的状态问题。LeCun在7月9日写道，AI最大的风险是“权力集中在少数几家主导公司手中”。他还写道：“AI主权的唯一解决方案是开源基础模型。”他的帖子获得了超过2900个赞和430多次转发。

作家Daniel Jeffries在同一天发文称，开源模型支撑着美国的技术，并警告那些试图限制开源的“短视的安全主义者和鹰派”。

政策分析师Adam Thierer是R Street Institute的高级研究员，也是众议院AI工作组重要报告的提交者之一。他警告说，美国的AI治理正处在“关键的十字路口”。他指出，国会目前对AI的审查过程是“混乱、随机且保密的”。他警告，如果这种非正式体系继续发展，并且进步被特殊的审批程序所阻碍，开源AI将被摧毁。

Thierer不主张严厉的规则，而是提出了一种“无需许可的创新”方式，即允许人们自由构建和发布AI。他建议在必要时利用现有法律来惩罚损害行为，同时支持为新型AI设立测试区、要求某些模型保持开放，以及加大对AI研究的投入。

免责声明：

本网站、超链接、相关应用程序、论坛、博客等媒体账户以及其他平台和用户发布的所有内容均来源于第三方平台及平台用户。百亿财经对于网站及其内容不作任何类型的保证，网站所有区块链相关数据以及其他内容资料仅供用户学习及研究之用，不构成任何投资、法律等其他领域的建议和依据。百亿财经用户以及其他第三方平台在本网站发布的任何内容均由其个人负责，与百亿财经无关。百亿财经不对任何因使用本网站信息而导致的任何损失负责。您需谨慎使用相关数据及内容，并自行承担所带来的一切风险。强烈建议您独自对内容进行研究、审查、分析和验证。

展开阅读全文