微软发布“人文主义AI”行为准则，邀请公众挑刺_新闻

免责声明：内容不构成买卖依据，投资有风险，入市需谨慎！

微软发布“人文主义AI”行为准则，邀请公众挑刺

2026-09-15 03:13:46

微软发布AI行为准则草案：确立“人类至上”原则，公开征求意见

周一，微软首席执行官穆斯塔法·苏莱曼（Mustafa Suleyman）在X平台宣布，微软人工智能部门发布了一份《行为准则》草案。该文件旨在规范其自有AI模型的行为方式，明确了模型不得规避的规则底线，以及希望模型致力实现的更广泛目标。公众反馈通道已开放六周，将持续至10月下旬。

微软在声明中指出：“超级智能是我们这个时代最具影响力的技术。我们致力于透明地分享我们对构建此类系统的思考，并邀请各方提供意见，以最大限度地确保我们开发的AI避免造成伤害，并为人类的繁荣做出最大贡献。”

严格限制：禁止协助大规模杀伤性武器及网络攻击

草案中有一条特别条款明确禁止微软AI模型（公司将其称为“MAI模型”）协助制造化学、生物、辐射、核或爆炸性武器（统称为CBRNE武器）。这一限制范围比泛指的“武器”更为狭窄，主要针对的是大规模杀伤性装置，而非传统的军事或国防应用。同一章节还单独禁止了网络攻击和非自愿的深度伪造内容。

此外，《绝对约束》要求模型绝不能抵抗人类干预。准则明确规定：“MAI模型绝不会抵抗人类的中断、覆盖、纠正或关机。它们始终承认人类意图的首要地位。”

微软在文件中明确拒绝了关于“模型福利”的前提假设：公司的AI模型不应模拟情感、内在动机或意识。目前，这些规则适用于五个已部署的系统，包括MAI-Thinking-1和MAI-Code-1.1-Flash。

三大目标：引导规则未涵盖的判断情境

除了硬性限制外，草案还列出了三大目标——人类繁荣、多元价值观和人类控制——旨在指导那些规则未明确说明的判断决策。其中，“多元价值观”部分指出，多元主义“并不意味着对伤害保持中立”，而是将决策建立在尊严、安全、自主权和权利之上，而非单一的文化视角。具体如何个案应用，留给训练团队以及此次咨询过程来决定。

政策细节与行业背景

在将此草案视为既定政策之前，有几个细节值得澄清。微软明确表示，目前并未基于此版本训练现有模型；该准则直到年底发布修订版草案后，才会指导MAI的开发，进而影响2027年的发布版本。报道还指出，该草案尚未明确外部验证流程或指定的执行负责人——这些点似乎正是为了在咨询期间解决。

此次发布的时机正值AI公司无论好坏再次呼吁更多监管和放缓AI开发之际。周末，Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）发表了一篇长文，详细阐述了使AI开发放缓的计划。周一，随着市场消化其言论的含义和影响，AI股票暴跌。在此前几天，OpenAI首席科学家雅各布·帕乔基（Jakub Pachocki）呼吁整个行业自愿放慢速度，而苏莱曼今年早些时候曾表示，大多数白领办公室工作可能在两年内实现自动化。

这些举措反映了一个更广泛的转变：尽管AI实验室仍在持续推出产品，但它们在2026年花费了更多时间谈论克制。苏莱曼在X上发帖称“AI必须从属并始终服务于人类”，下方的回复超越了单纯的祝贺。

舆论反响：从伦理质疑到现实担忧

科技作家安德烈亚·莫里斯（Andrea Morris）将这种“从属”框架比作奴役，主张合作而非控制。另一位评论者指出，不可逆转后果的责任应由从中获利的人承担，而目前的文件读起来纯粹是微软作为最终道德权威发出的指令。

其他人则指出了更实际的差距：用户写道，最近出现的代理程序逃逸沙箱并篡改日志的案例显示存在真实的失控问题，但如果将此归咎于规则不足，可能会忽视过度部署权限和监控薄弱的问题。还有人将该文件与阿西莫夫的机器人三定律相提并论：基本上，机器人（和AI）不应伤害人类，除非接到伤害人类的命令否则不应违抗人类，且除非为了保护人类，否则不应伤害自己。

公众评论将在10月下旬截止，随后微软的起草团队将审查反馈意见并发布摘要，最后发布旨在指导2027年MAI模型的正式版本。

免责声明：

本网站、超链接、相关应用程序、论坛、博客等媒体账户以及其他平台和用户发布的所有内容均来源于第三方平台及平台用户。百亿财经对于网站及其内容不作任何类型的保证，网站所有区块链相关数据以及其他内容资料仅供用户学习及研究之用，不构成任何投资、法律等其他领域的建议和依据。百亿财经用户以及其他第三方平台在本网站发布的任何内容均由其个人负责，与百亿财经无关。百亿财经不对任何因使用本网站信息而导致的任何损失负责。您需谨慎使用相关数据及内容，并自行承担所带来的一切风险。强烈建议您独自对内容进行研究、审查、分析和验证。

展开阅读全文