以太坊联合创始人警告：AI监管缺失恐酿大祸_新闻

免责声明：内容不构成买卖依据，投资有风险，入市需谨慎！

以太坊联合创始人警告：AI监管缺失恐酿大祸

2025-09-15 08:00:29

以太坊联合创始人警告AI治理或引发灾难性后果

在当前关于人工智能代理运行金融和组织系统的讨论日益激烈之际，他的警告显得尤为及时。他坚持认为，相关风险远超过其吸引力。

系统可被操控的核心隐患

担忧的核心很简单：AI系统可能被欺骗。布特林指出，如果让此类工具负责资金决策管理，恶意行为者很快就会找到操纵它们的方法。这些机器非但不会公平分配资源，反而可能通过"越狱"式提示被操控，从而将资金输送到不法之徒手中。

这场争论在EdisonWatch首席执行官宫村英人发现ChatGPT最新升级的漏洞后愈演愈烈。该更新允许聊天机器人与Gmail、Notion和Google日历等日常应用无缝连接。虽然这种集成被宣传为提升生产力的工具，但宫村演示了它如何被利用来窃取用户的私人数据。

令人不安的简单攻击路径

攻击过程简单得令人不安：攻击者可以发送包含隐藏越狱命令的日历邀请。即使用户没有接受邀请，只要后续要求ChatGPT整理日程，就会触发风险。当AI读取恶意条目时，系统就会被劫持，攻击者从而获得查看个人邮件并转发内容的权限。

布特林主张"信息金融"替代方案

布特林认为，这正说明AI不应被赋予治理权。他更倾向于建立"信息金融"系统——在这个市场中，相互竞争的AI模型始终处于监督之下。该设计通过语言模型支持的独立审查员和人类陪审团实现监督，多样化的模型和抽查机制确保快速发现缺陷，同时激励机制保持开发者诚信。

布特林承认，由机器运行复杂机构的吸引力可能很强，但他强调现实很可能混乱不堪。他认为，如果没有内置的保障措施和人类监督，试图让AI成为自治管理者可能会导致灾难性损失而非进步。

免责声明：

本网站、超链接、相关应用程序、论坛、博客等媒体账户以及其他平台和用户发布的所有内容均来源于第三方平台及平台用户。百亿财经对于网站及其内容不作任何类型的保证，网站所有区块链相关数据以及其他内容资料仅供用户学习及研究之用，不构成任何投资、法律等其他领域的建议和依据。百亿财经用户以及其他第三方平台在本网站发布的任何内容均由其个人负责，与百亿财经无关。百亿财经不对任何因使用本网站信息而导致的任何损失负责。您需谨慎使用相关数据及内容，并自行承担所带来的一切风险。强烈建议您独自对内容进行研究、审查、分析和验证。

展开阅读全文