以太坊创始人Vitalik Buterin警示：若人工智能反噬人类，"火星亦非安全之地"_新闻

免责声明：内容不构成买卖依据，投资有风险，入市需谨慎！

以太坊创始人Vitalik Buterin警示：若人工智能反噬人类，"火星亦非安全之地"

2023-11-28 16:32:44

以太坊创始人Vitalik Buterin谈技术乐观主义与AI风险

技术乐观主义的反思

周一，以太坊创始人Vitalik Buterin在受到Marc Andreessen的启发下，反思了他对“技术乐观主义”的看法。Andreessen在10月发表的《技术乐观主义宣言》中表达了对人工智能（AI）的观点。尽管Buterin赞同Andreessen的积极展望，但他也强调了AI开发方式及其未来方向的重要性。

AI的生存风险

Buterin承认了人工智能的生存风险，包括可能导致人类灭绝的威胁。他表示：“这是一个极端的说法：尽管气候变化、人工疫情或核战争的最坏情况可能造成巨大伤害，但仍有许多文明岛屿可以幸存并重建。然而，如果一个超级智能AI决定与我们为敌，可能会不留任何幸存者，彻底终结人类。甚至火星也可能不安全。”

Buterin引用了2022年AI Impacts的一项调查，该调查显示，5%到10%的参与者认为人类将因AI或人类无法控制AI而面临灭绝。他认为，一个以安全为重点的开源运动是领导AI开发的理想选择，而不是封闭的专有公司和风险投资基金。

他说：“如果我们想要一个既超级智能又‘人性化’的未来——在这个未来中，人类不仅仅是宠物，而是真正保留对世界的实质性控制权——那么这样的选择似乎是最自然的。”

人类主动选择的重要性

Buterin继续强调，人类需要积极选择AI的方向和结果。他表示：“‘最大化利润’的公式不会自动实现这些目标。”

Buterin表示，他热爱技术，因为它扩展了人类的潜力，从手工工具到智能手机的创新历史证明了这一点。他说：“我相信这些东西是深具价值的，将人类的触角进一步扩展到行星和恒星也是深具价值的，因为我相信人性是美好的。”

技术变革与全球治理

Buterin表示，尽管他相信变革性技术将为人类带来更光明的未来，但他反对世界应保持现状的观念，仅仅减少贪婪和增加公共医疗是不够的。他说：“某些类型的技术比其他技术更可靠地让世界变得更好。还有一些技术如果得到发展，可以减轻其他技术的负面影响。”

Buterin警告说，数字化威权主义和监视技术的兴起，可能会被一小撮技术官僚用来对付那些反抗或反对政府的人。他表示，大多数人宁愿看到高度先进的AI被推迟十年，也不愿被单一集团垄断。

他说：“我基本的恐惧是，那些允许OpenAI用500名员工为数亿客户提供服务的管理技术，也可能让一个由500人组成的政治精英，甚至一个5人董事会，对整个国家实行铁腕统治。”

军事技术的争议

尽管Buterin表示他对有效加速（e/acc）运动抱有同情，但他对其对军事技术的热情感到复杂。他说：“对现代军事技术作为正义力量的热情，似乎需要相信主导技术力量在现在和未来的大多数冲突中都会是‘好人’。”他引用了这样的观点：军事技术是好的，因为它是由美国建造和控制的，而美国是好的。

他问道：“成为一个e/acc是否意味着必须成为一个美国至上主义者，押注于政府现在和未来的道德以及国家未来的成功？”

防御优先的世界观

Buterin警告不要将“极端和不透明的权力”交给一小群人，并希望他们会明智地使用它。他更倾向于“d/acc”哲学——即防御、去中心化、民主和差异化。他表示，这种心态可以适应有效利他主义者、自由主义者、多元主义者、区块链倡导者以及太阳朋克和月球朋克。

他说：“一个以防御为主的世界是一个更好的世界，原因有很多。首先是安全的直接好处：更少的人死亡，更少的经济价值被摧毁，更少的时间浪费在冲突上。”

他总结道：“不过，人们较少认识到的是，一个以防御为主的世界更容易让更健康、更开放和更尊重自由的治理形式蓬勃发展。”

21世纪：人类的关键世纪

尽管他强调了建设和加速的必要性，Buterin表示，社会应经常问自己我们在加速朝着什么方向前进。他建议，21世纪可能是人类的“关键世纪”，可能决定人类未来数千年的命运。

他说：“这些都是具有挑战性的问题。但我期待观看并参与我们物种寻找答案的伟大集体努力。”

免责声明：

本网站、超链接、相关应用程序、论坛、博客等媒体账户以及其他平台和用户发布的所有内容均来源于第三方平台及平台用户。百亿财经对于网站及其内容不作任何类型的保证，网站所有区块链相关数据以及其他内容资料仅供用户学习及研究之用，不构成任何投资、法律等其他领域的建议和依据。百亿财经用户以及其他第三方平台在本网站发布的任何内容均由其个人负责，与百亿财经无关。百亿财经不对任何因使用本网站信息而导致的任何损失负责。您需谨慎使用相关数据及内容，并自行承担所带来的一切风险。强烈建议您独自对内容进行研究、审查、分析和验证。

展开阅读全文