以太坊创始人批评AI"超自治"模式
以太坊创始人维塔利克·布特林近日对人工智能领域的"超自治"发展模式提出批评。他认为,在AI开发过程中增加人类参与度,既能提升系统性能又能保障安全性。
开放权重模型的价值
布特林指出,与完全自主运行的AI系统相比,允许用户参与调控过程的"开放权重"模型具有更大价值。这类系统将控制权交给用户,而非作为完全封闭的黑箱运作。
脑机接口的未来愿景
布特林还分享了其对AI技术未来的构想:通过脑机接口(BCI)系统收集用户的即时反馈,动态调整输出结果。这种架构将使人工智能不仅能遵循预设规则,还能通过实时人机交互形成更灵活、安全的运作模式。
对完全自治系统的警示
布特林的论述对当前AI领域加速发展完全自治系统的趋势提出了重要警示。他认为,从伦理和技术双重角度考量,以人类控制为核心的混合模型可能是未来最可靠的发展方向。
专家表示,布特林的评估可能引发业界对以用户为中心、透明且灵活的AI解决方案的关注。这一愿景为人工智能安全讨论提供了新的思考框架。