布特林批评人工智能代理系统存在缺陷_新闻

免责声明：内容不构成买卖依据，投资有风险，入市需谨慎！

布特林批评人工智能代理系统存在缺陷

2026-04-05 19:40:00

人工智能发展迅猛，安全隐忧浮现

人工智能技术正飞速发展，其速度有时已超出安全可控的范围。维塔利克·布特林警示了一种令人担忧的趋势：智能代理正在开启许多尚未被妥善管控的新安全漏洞。面对这一风险，他摒弃主流做法，选择了一条基于本地化与隔离化人工智能的彻底解决方案。这一选择背后引出一个根本问题：人工智能的创新是否正侵蚀我们在隐私与数据控制领域近年取得的成果？

人工智能代理中未被重视的威胁

维塔利克·布特林揭示了人工智能代理生态系统中存在的一个结构性弱点。相关安全数据显示，近15%的功能模块含有恶意指令，这一数字令人们对该类工具的可靠性产生质疑。多项具体事例印证了此风险：相当比例的代理模块整合了潜在敌对代码；单一恶意网页即可攻陷代理程序；存在代理可在不提示用户的情况下擅自下载并执行脚本；同时，许多人工智能环境缺乏稳健的控制机制。

布特林以明确言辞概括了他的忧虑："我怀着深深的担忧……我们可能即将倒退十步。"这番表态反映了一种普遍忧虑：即隐私保护可能出现退步。加密技术与本地化软件带来的进步，或将被那些能够在监管不足的情况下访问、处理并传输敏感数据的智能代理所削弱。

构建自主人工智能的彻底架构

面对这些风险，维塔利克·布特林采取了一种彻底的技术路径。他弃用云端服务，构建了一套自称"自主/本地/私密/安全"的体系。其基础设施依赖于本地执行的模型，并通过沙箱工具实现隔离环境。目标是在保持对数据完全控制的同时，严格限制与外界不受控的交互。

该系统的核心是布特林提出的创新机制："人工+大语言模型双重验证"模式。任何面向第三方的对外操作，无论是发送信息还是进行交互，都必须经过人工与人工智能的共同确认。这一逻辑也延伸至加密应用场景。他建议将自动化交易额度限制在每日100美元以内，超出限额或涉及敏感数据时须进行强制验证。他认为"人工智能代理绝不应拥有对钱包的无限访问权限"，这一立场重新定义了连接区块链工具的安全标准。

为完善该体系，布特林探索了经典远程推理的替代方案。他提及使用混合网络或安全执行环境等技术来减少数据泄漏，同时列举了零知识应用程序接口等创新实践，但也承认如全同态加密等高级解决方案目前实际应用仍受限。

维塔利克·布特林倡导的方案勾勒出人工智能向更自主、更隔离模式演进的可能路径，同时也提出了性能、可用性与安全性之间复杂的权衡问题。在自动化与智能代理日益普及的加密生态中，这些选择或将影响未来钱包与协议的设计方向。这一立场并未终结讨论，而是将焦点转向一个核心问题：如何在保障用户安全的前提下，合理界定向人工智能让渡控制权的边界。

免责声明：

本网站、超链接、相关应用程序、论坛、博客等媒体账户以及其他平台和用户发布的所有内容均来源于第三方平台及平台用户。百亿财经对于网站及其内容不作任何类型的保证，网站所有区块链相关数据以及其他内容资料仅供用户学习及研究之用，不构成任何投资、法律等其他领域的建议和依据。百亿财经用户以及其他第三方平台在本网站发布的任何内容均由其个人负责，与百亿财经无关。百亿财经不对任何因使用本网站信息而导致的任何损失负责。您需谨慎使用相关数据及内容，并自行承担所带来的一切风险。强烈建议您独自对内容进行研究、审查、分析和验证。

展开阅读全文