查尔斯国王警告AI领袖：在“为时已晚”前掌控局面_新闻

免责声明：内容不构成买卖依据，投资有风险，入市需谨慎！

查尔斯国王警告AI领袖：在“为时已晚”前掌控局面

2026-09-18 04:51:20

查尔斯三世国王在苏格兰峰会呼吁人工智能必须受人类控制

在苏格兰举办的一场峰会上，查尔斯三世国王向全球最大的人工智能公司负责人发出警告：他们必须找到方法，确保该技术始终处于人类的掌控之中。国王指出，如今技术的开发者们担心其可能发展出“更黑暗的能力”，甚至被用于杀人。

关于人工智能，查尔斯三世有何表态？

查尔斯三世在东艾尔郡的邓弗里斯故居（Dumfries House）发表了讲话。此次会议由迪奇利基金会（Ditchley Foundation）组织，吸引了约30位高管、官员和研究人员出席，其中包括英国人工智能大臣卡尼什卡·纳拉延、英伟达首席执行官黄仁勋、DeepMind联合创始人杰米斯·哈萨比斯、OpenAI财务主管莎拉·弗里尔以及Anthropic全球事务负责人蒂诺·奎拉尔。

据彭博社获得的私人宾客名单显示，参会者还包括军情六处主任布莱斯·梅特雷韦利、作家尤瓦尔·诺亚·赫拉利以及清华大学薛澜等知名人士。

77岁的查尔斯国王仅发表了约20分钟的讲话，随后离开会场，希望留给与会者进行富有成效的交流空间。他表示，珍视人类道德核心的人们正“焦虑地寻求你们的保证，即我们不会失去对命运乃至灵魂的控制权。”

国王形容这项技术的发展速度“既令人着迷，又同样令人深感忧虑”。他在肯定并赞扬其在医学和生命科学领域的成就后，提出了一个直白的问题：“毫无疑问，在我们为时已晚之前，我们需要拥有足够的控制手段吗？”

在警告中，国王引用了人工智能技术创作者们的担忧。他指出，这些系统存在发展出“更黑暗能力”的风险，甚至可能夺人性命。他还补充说，高管们应当考虑到工具落入坏人之手的“生存性危险”。此前，查尔斯曾通过视频向2023年在布雷切利园举行的英国人工智能安全峰会发表致辞，表达了类似的观点。梵蒂冈人工智能顾问保罗·贝南蒂出席了本次峰会，而教皇利奥十四世在今年5月发布的一份通谕中也强调，人工智能不应掌握在“少数人”手中。

人工智能的发展会放缓吗？

哈萨比斯向与会代表表示，通用人工智能——即在许多任务上能够匹配或超越人类水平的系统——“可能就在短短几年之内”。他称该技术潜在的冲击力将是工业革命十倍之多，并补充说出现意外情况的几率“绝对不为零”，但同时也表示“未来尚未注定”。

弗里尔表示，技术日益强大的力量引发了关于如何使其服务于人类的疑问，并指出“没有任何一家公司或政府能独自完成这一使命。”

估值接近5.15万亿美元的英伟达CEO黄仁勋在会议上表示，安全至关重要，如果产品尚未准备就绪，就应暂缓推出。他主张对人工智能产品而非技术本身进行监管，并为开放模型辩护，认为这是防止小国和研究者被边缘化的方式。

此次峰会之际，Anthropic研究员雅各布·科克森因一篇引发病毒式传播的辞职帖，以及其同事埃文·欣格预测人工智能导致人类灭绝的概率为10%，引发了广泛关注与担忧。据报道，Anthropic创始人达里奥·阿莫代伊曾发表文章，敦促实验室“把握前沿节奏”；与此同时，OpenAI本周推出了一项新系统，旨在记录并披露模型的不当行为，此前该模型已出现过六起令人关注的行为事件。

然而，并非所有人都认同这种危险是真实的：唐纳德·特朗普总统曾将此类恐惧称为“骗局”。

免责声明：

本网站、超链接、相关应用程序、论坛、博客等媒体账户以及其他平台和用户发布的所有内容均来源于第三方平台及平台用户。百亿财经对于网站及其内容不作任何类型的保证，网站所有区块链相关数据以及其他内容资料仅供用户学习及研究之用，不构成任何投资、法律等其他领域的建议和依据。百亿财经用户以及其他第三方平台在本网站发布的任何内容均由其个人负责，与百亿财经无关。百亿财经不对任何因使用本网站信息而导致的任何损失负责。您需谨慎使用相关数据及内容，并自行承担所带来的一切风险。强烈建议您独自对内容进行研究、审查、分析和验证。

展开阅读全文