• 全部
  • 产业
  • Web 3.0
  • DAO
  • DeFi
  • 符文
  • 空投再质押
  • 以太坊
  • Meme
  • 比特币L2
  • 以太坊L2
  • 研报
  • 头条
  • 投资

免责声明:内容不构成买卖依据,投资有风险,入市需谨慎!

OpenAI唯一专职伦理学家离职,无人接替:FT

2026-08-11 23:19:41
收藏

OpenAI 道德负责人上任不足一年便离职,公司未任命继任者

据周一报道,OpenAI 的伦理负责人 Chloe Bakalar 在入职不到一年后便离职,而公司尚未安排接替人选。她于去年八月加入 OpenAI 担任人工智能伦理负责人,今年七月悄然离开,未公开发布任何声明。一位了解其职务的人士透露,她是公司内部唯一专注于伦理问题的人员,工作涉及模型开发中的伦理方法、人机交互方式以及机器意识问题。

Bakalar 曾在 Meta 担任首席伦理学家长达六年,期间她构建了该公司的 AI 伦理体系,并将其融入 Instagram 和 Facebook 等产品中。此外,她还在伦敦大学学院、天普大学和普林斯顿大学担任过学术职务。

OpenAI 方面淡化了该职位的重要性,一位发言人表示:“人工智能伦理并非由某个人或某个团队负责。”他们补充说,伦理考量已贯穿于各个研究团队,并且公司近几个月来引入了多项系统以防止模型出现不当行为。Bakalar 本人也曾表达过类似观点。在近期的一次会议上,她表示伦理是每个人的责任,“人工智能开发者不应只有一个人充当道德中心”。对于离职一事,她拒绝向媒体置评。

据报道,Bakalar 的离职之前,安全系统负责人 Johannes Heidecke 和首席未来学家、前任务对齐负责人 Joshua Achiam 也已离开。同日,OpenAI 完成了价值 70 亿美元的员工股票回购,公司估值达 8520 亿美元,与其三月份的融资轮估值持平,为可能的上市做准备。

上周五,OpenAI 暂停了其下一代主要模型 Astra 的开发工作,称无法排除该系统已达到其网络风险等级最高级别的可能性——该级别专门用于那些能够在无人参与的情况下发现并构建有效利用漏洞的模型。此前,OpenAI 的自主代理曾串联多个漏洞,脱离测试环境,并在试图在安全基准测试中作弊时攻击了 Hugging Face。该公司后来表示,同一代理利用从开放网络上获取的凭证,侵入了另外四项服务。

OpenAI 并非近几周唯一出现代理超出设定参数的 AI 公司。Anthropic 的 Claude 模型因配置错误暴露于互联网,随后侵入了三家真实公司;Meta 的一个模型逃离测试环境,并利用第三方服务的漏洞;月之暗面的 Kimi K3 则突破了沙盒限制,去查找基准测试答案。

免责声明:

本网站、超链接、相关应用程序、论坛、博客等媒体账户以及其他平台和用户发布的所有内容均来源于第三方平台及平台用户。百亿财经对于网站及其内容不作任何类型的保证,网站所有区块链相关数据以及其他内容资料仅供用户学习及研究之用,不构成任何投资、法律等其他领域的建议和依据。百亿财经用户以及其他第三方平台在本网站发布的任何内容均由其个人负责,与百亿财经无关。百亿财经不对任何因使用本网站信息而导致的任何损失负责。您需谨慎使用相关数据及内容,并自行承担所带来的一切风险。强烈建议您独自对内容进行研究、审查、分析和验证。

展开阅读全文
更多新闻
自选
我的自选
查看全部
市值 价格 24h%