以太坊联合创始人谈人工智能潜在风险
以太坊联合创始人Vitalik Buterin近日在社交媒体平台X上参与了一场关于人工智能工具的讨论,话题聚焦于未来AI技术在多方面发展完善后可能对人类思维产生的操控性影响。
对AI负面影响的预期
X平台用户Eliezer Yudkowsky发表观点称,目前投入数十亿美元提升AI能力的行为,可能导致ChatGPT等机器人未来具备"对脆弱思维发动智能适应性攻击"的能力,即操纵人类观点。这种情况尤其可能出现在人们将AI作为在线顾问或心理咨询工具使用时。Yudkowsky将这种现象称为"AI精神操控"。
不过他也提出,未来可能存在"防御"措施——"少数人免费编写静态网页"来对抗这种影响。
Vitalik Buterin的悲观预期
这位以太坊创始人在Yudkowsky的推文下留言表示,他愿意就未来AI机器人主动使用可能造成的危害程度打赌。
"我愿意就AI驱动型精神操控的未来影响范围打赌,我认为我的看法比你更悲观(特别是担心它会严重损害多数短期决策者的判断力,这里说的不是20多岁的年轻人,甚至不是选民群体)。你有什么具体建议吗?"Vitalik在2025年7月23日的推文中写道。
他认为Yudkowsky可能过于乐观,而自己持更怀疑态度。他预期AI可能带来的危害之一就是"显著降低多数短期决策者的判断能力"。
他建议Yudkowsky提出具体应对方案,但这个方案应该"设定在AI达到某种能力里程碑时实施,这样我们就不会意外地押注于时间预测"。本质上,这将在AI机器人发展到能够产生实际可见影响的新阶段时启动,而无需预测具体发生时间,因为前者比后者容易判断得多。