微软推出开源标准，助力开发者精细掌控AI代理_新闻

免责声明：内容不构成买卖依据，投资有风险，入市需谨慎！

微软推出开源标准，助力开发者精细掌控AI代理

2026-06-03 03:35:11

微软推出开源规范，助力开发者精细控制AI智能体

微软近日发布了一项新的开源规范，旨在帮助开发者对AI智能体行为实施一致且可审计的管控。这项名为“智能体控制规范”的标准，致力于解决企业在多样化应用、工作流及环境中部署AI智能体时日益突出的挑战：确保智能体行为可靠且安全，避免治理措施碎片化或临时化。

何为智能体控制规范？

ACS是一项策略框架，允许开发、合规及安全团队定义规则，以管理AI智能体可以执行的操作、必须避免的行为、何时需要人工审批，以及应记录哪些证据以供审查。这些策略以单个文件的形式编写，可与智能体捆绑使用，从而使管控措施能够伴随智能体跨越不同的框架和部署环境。

该规范在任务执行期间的多个拦截点检查智能体行为：接收输入前、调用工具前、工具返回结果后以及向用户发送最终响应前。在每个节点，策略可以允许某项操作、阻止操作、编辑敏感信息，或上报至人工进行审批。

为何这对企业AI至关重要？

随着各组织竞相将AI智能体集成至生产系统，确保其行为可靠性已成为关键关切。当前常见的方法通常涉及在系统提示中混合指令、在应用代码中添加自定义检查，或使用分类器来捕获有问题的输入和输出。这些方法虽有效，却常导致管控措施碎片化，难以审计，且不易在不同框架、接口和系统间复用。

ACS旨在将这些控制措施整合到一个统一的治理层。微软表示，该规范设计为可与多个框架协同工作，包括LangChain、OpenAI智能体SDK、Anthropic智能体SDK、AutoGen、CrewAI、Semantic Kernel、Microsoft.Extensions.AI以及MCP工具。其SDK现已发布，并为这些环境提供插件支持。

核心能力与技术细节

使用ACS的开发者可以为输入和输出插入分类器，以对信息进行分类、预测结果或决定智能体应如何响应。他们还可以添加带有提示的大型语言模型作为策略判断器，同时辅以检查工具调用、工具选择、输入准确性、输出使用及最终响应的逻辑。由于策略以单个文件编写，它们可直接与智能体捆绑，确保安全策略随智能体在不同框架和环境间迁移。

此方法解决了现实中对AI工作流因工具误用或意外操作导致连锁故障的担忧。通过提供标准化的方式来定义和执行防护措施，ACS为企业大规模部署AI智能体提供了更具可预测性的路径。

行业背景与影响

ACS的推出正值AI行业积极探讨智能体安全与治理的最佳实践之际。多起涉及AI智能体执行意外操作的高关注度事件，突显了对更强健控制机制的需求。微软选择创建开放标准而非专有解决方案，表明其推动行业广泛采用与互操作性的意图。

对开发者而言，该规范提供了一种降低跨平台管理智能体行为复杂性的方法。对合规与安全团队而言，它提供了一致的审计追踪和策略执行机制，且可独立于应用代码进行审查和更新。

结论

微软的智能体控制规范标志着向标准化AI智能体治理迈出了重要一步。通过提供可在主流智能体开发框架间工作的、可移植且可审计的策略框架，ACS回应了企业在生产环境中部署AI智能体的实际需求。该规范的开源特性有望鼓励更广泛的采用和社区贡献，并可能在未来几年塑造行业处理智能体安全与控制的方式。

常见问题解答

问：什么是智能体控制规范？
答：ACS是微软推出的开源标准，允许开发者定义针对AI智能体行为的精细策略。它在任务执行期间的多个节点检查智能体操作，并可根据预定义规则允许、阻止、编辑或上报操作。

问：ACS支持哪些框架？
答：ACS目前为LangChain、OpenAI智能体SDK、Anthropic智能体SDK、AutoGen、CrewAI、Semantic Kernel、Microsoft.Extensions.AI及MCP工具提供插件，预计将支持更多框架。

问：ACS与现有智能体控制方法有何不同？
答：与在系统提示或应用代码中混合指令的临时方法不同，ACS提供单一、可移植的策略文件，可与智能体捆绑，并在不同环境中一致执行，使得治理可审计且可复用。

免责声明：

本网站、超链接、相关应用程序、论坛、博客等媒体账户以及其他平台和用户发布的所有内容均来源于第三方平台及平台用户。百亿财经对于网站及其内容不作任何类型的保证，网站所有区块链相关数据以及其他内容资料仅供用户学习及研究之用，不构成任何投资、法律等其他领域的建议和依据。百亿财经用户以及其他第三方平台在本网站发布的任何内容均由其个人负责，与百亿财经无关。百亿财经不对任何因使用本网站信息而导致的任何损失负责。您需谨慎使用相关数据及内容，并自行承担所带来的一切风险。强烈建议您独自对内容进行研究、审查、分析和验证。

展开阅读全文