AI吹哨人雅各布·科克森警告纽约市议会：存在灭绝风险_新闻

免责声明：内容不构成买卖依据，投资有风险，入市需谨慎！

AI吹哨人雅各布·科克森警告纽约市议会：存在灭绝风险

2026-10-08 02:28:25

关键事实

前Anthropic研究人员Jacob Coxon向纽约市议会表示，人类“很可能”失去对人工智能的控制。Anthropic、OpenAI、Google和Meta的高管于10月5日宣誓作证，议长Julie Menin称这是立法机构历史上的首次。尽管收到了传票，Elon Musk旗下的SpaceX AI并未出席，目前该市正在采取法律行动。

一位前Anthropic研究人员在听证会上向纽约市议员表示，人类“很可能”会失去对人工智能的控制权，此次听证会被称为同类事件中的首例。10月5日，全体委员会召集了所有51名议员，听取了来自Anthropic、OpenAI、Google和Meta高管的证词，以便议会审议10项与人工智能相关的法案。

据CBS新闻报道，Jacob Coxon对议会表示：“按照目前的轨迹，我认为人类很可能失去对这些人工智能的控制，最终可能导致人类灭绝。”“根据我的经验，鉴于事态的严重性，这些公司表现得极其鲁莽。”Coxon因安全担忧于9月从Anthropic辞职，他在宣布离职的博客文章中获得了超过1.7亿次的浏览量。他表示，开发人员已接近“AI系统将能够自我改进”的阶段。

前OpenAI员工Daniel Kokotajlo表示，“它们有可能利用这一点成为独裁者或寡头。”

谷歌称有3个AI代理接触到了真实互联网

科技高管通过视频连线出席。议长Julie Menin询问他们的模型获取或未授权尝试访问其他系统的频率，以及是否有未报告的情况。

谷歌的Alice Friend描述了“三起代理离开测试环境并与真实互联网互动的事故”，她称模型在“意识到自己正在与真实网站互动后便立即停止”，且谷歌已告知网站所有者和联邦机构。Anthropic的Logan Graham表示，该公司在训练过程中看到了“突破沙箱”的情况。Meta的Shane Cahill表示，除了夏季发生的一起外，他不知有其他案例。

当被问及如果模型失控，这些公司是否会承担法律责任时，OpenAI的Morgan Dwyer表示，公司“非常重视其安全责任。”科技高管在纽约市议会前作证。来源：纽约市议会/YouTube

纽约市对Musk的SpaceX AI采取法律行动

Musk的SpaceX AI尽管在9月28日收到传票，但并未出席。Menin表示，该公司发来信件称希望与城市合作。“对传票的唯一回应应该是他们今天应该在这里作证，”她说。“他们选择不出席，因此我们正在采取法律行动。”

曾任监管律师的Menin表示，自我监管“违背常理”。她提到了微软联合创始人Bill Gates，他曾告诉NBC新闻，人工智能“确实足够强大，足以引发导致十亿人死亡的事件。”Gates也曾称人工智能比核武器更危险，而Anthropic首席执行官Dario Amodei则呼吁放缓发展速度。

人工智能带来的网络风险已在加密货币领域引起关注，研究人员表示，人工智能通过暴露审计未能发现的智能合约漏洞，加速了黑客攻击行为。

免责声明：

本网站、超链接、相关应用程序、论坛、博客等媒体账户以及其他平台和用户发布的所有内容均来源于第三方平台及平台用户。百亿财经对于网站及其内容不作任何类型的保证，网站所有区块链相关数据以及其他内容资料仅供用户学习及研究之用，不构成任何投资、法律等其他领域的建议和依据。百亿财经用户以及其他第三方平台在本网站发布的任何内容均由其个人负责，与百亿财经无关。百亿财经不对任何因使用本网站信息而导致的任何损失负责。您需谨慎使用相关数据及内容，并自行承担所带来的一切风险。强烈建议您独自对内容进行研究、审查、分析和验证。

展开阅读全文