• 全部
  • 产业
  • Web 3.0
  • DAO
  • DeFi
  • 符文
  • 空投再质押
  • 以太坊
  • Meme
  • 比特币L2
  • 以太坊L2
  • 研报
  • 头条
  • 投资

免责声明:内容不构成买卖依据,投资有风险,入市需谨慎!

Anthropic招募15位宗教思想家塑造Claude,教皇就AI发出警告

2026-06-18 00:26:15
收藏

要点

Anthropic公司邀请约15位宗教思想家于三月底前往旧金山总部,讨论其人工智能模型Claude的道德框架。这些会议旨在完善Claude的“宪法”——即指导模型如何回应用户的书面原则。教皇利奥十四世在5月25日发布的首道教宗通谕中强调,人工智能必须被“解除武装”,并始终服从于人类尊严。

Anthropic招募宗教学者

约15位宗教思想家于三月底在该公司旧金山办公室会面,共同探讨一个如今正分裂人工智能行业的问题:当简单的规则已无法涵盖所有情况时,如何教会聊天机器人学会“善良”?邀请函以不同方式送达,有的通过电子邮件,有的则经由朋友的朋友转交。每位参与者都参与了一系列关于Claude及其道德框架的讨论——该框架旨在指导模型如何回应。目标并非让模型变得虔诚,而是借鉴数个世纪以来宗教对善恶的思辨成果。

这些思辨成果被融入Anthropic所谓的Claude“宪法”——一套用于塑造模型回应的书面原则,涵盖从悲伤到临终关怀等各类话题。公司训练Claude根据这些规则自我批判并修正回答,而非遵循固定的禁止列表。

专家质疑Claude的道德框架

圣克拉拉大学的技术伦理学家布莱恩·帕特里克·格林表示,这家实验室日益增长的力量已开始超越其内部智慧。领导“人工智能与信仰”咨询小组的格雷格·库特索纳回忆称,公司员工曾承认问题已变得过于庞大,无法独自解决。四月底的一次会议将对话范围扩大至犹太教、印度教、锡克教、摩门教和希腊正教的代表。

并非所有学者都相信这一方法能够解决更深层的问题——即谁来对这些公司负责。牛津大学伦理学家卡丽莎·维利兹质疑:公司的公开意图是否比商业模型所创造的激励因素更为重要?她警告称,围绕技术的宗教语言可能滋生出一种抗拒理性思考的部落式忠诚。批评者将此类举措斥为“伦理粉饰”,旨在借用道德可信度。格林则反驳道,任何伪装都会迅速被识破,且难以修复。

教皇利奥十四世于5月25日发布其首道教宗通谕,全文约4万词,呼吁对人工智能“解除武装”,并使其始终服从于人类尊严。Anthropic联合创始人克里斯托弗·奥拉出席了梵蒂冈的发布活动,这是该公司数月来与宗教领袖接触的最新举措。

免责声明:

本网站、超链接、相关应用程序、论坛、博客等媒体账户以及其他平台和用户发布的所有内容均来源于第三方平台及平台用户。百亿财经对于网站及其内容不作任何类型的保证,网站所有区块链相关数据以及其他内容资料仅供用户学习及研究之用,不构成任何投资、法律等其他领域的建议和依据。百亿财经用户以及其他第三方平台在本网站发布的任何内容均由其个人负责,与百亿财经无关。百亿财经不对任何因使用本网站信息而导致的任何损失负责。您需谨慎使用相关数据及内容,并自行承担所带来的一切风险。强烈建议您独自对内容进行研究、审查、分析和验证。

展开阅读全文
更多新闻
自选
我的自选
查看全部
市值 价格 24h%