以太坊联合创始人Vitalik Buterin反对过度开发AI自主性
以太坊联合创始人Vitalik Buterin近日公开反对将AI模型开发重点放在增强自主性上。他认为,应该通过增加人类输入来优化开源权重模型的发展路径。
人类反馈才是AI发展的关键
Buterin在社交平台表示,当前AI开发过度追求"自主性"的趋势令人担忧。实际上,为人类输入创造更多途径不仅能产出更优质的结果,还能提升系统安全性。这一观点与知名AI研究员Andrej Karpathy近期的主张不谋而合。
Karpathy指出,由于长期任务基准测试的影响,主流AI模型在未经明确提示的情况下,往往会过度消耗资源来提供自主解决方案。这种现象在编程领域尤为明显,模型倾向于进行过长时间的自主推理。
AI自主性的局限性
虽然具有鲜明个性的自主AI作为新颖功能受到终端用户欢迎,但Buterin认为这类AI在加密领域的实际效用有限。他举例说明,一个负责NFT投资的AI代理曾花费89ETH高价购买低稀有度藏品,显示出自主决策的局限性。
在加密领域,具有明确品牌个性的AI代理已成为社交媒体吸引流量的标配。但Buterin更关注如何通过人类反馈获得精准输出,而非依赖主要用于营销噱头的有限AI行为模式。
人类:AI系统的方向盘
Buterin曾将AI比作引擎,而人类则是掌控方向的"方向盘"。他主张避免单一AI人格,转而通过人类输入、激励机制以及多AI代理协作来实现目标。在今年2月的文章中,他提倡通过个人判断、陪审团或DAO投票者集体决策等形式保留人类判断力。
人机交互还需要考虑涉及查询解析和是非判断的边缘案例。在加密领域,这些输出结果可能对预测市场至关重要。正如Buterin指出的,协调与决策也是去中心化系统中的关键矛盾点。
AI代理领域尝试复苏
尽管存在争议,AI代理代币仍是近期相对强势的叙事。过去几周,整个AI代理代币领域市值回升至64.5亿美元。以太坊AI代理在过去一周普遍上涨,反映出市场对行情分析、DeFi活动和交易的兴趣。
以太坊仍是AI代理的主要公链之一,占据27%的市场关注度。Layer2解决方案Base以30%的占比领先,而Solana仍保持19%的市场份额。总体来看,具有先发优势的传统代理项目展现出更强韧性,这主要得益于其建立的忠实社区。市场对新代理的需求有所放缓,当前收益主要来自对早期成功项目的重新评估。