微软给 Copilot 智能体装上“刹车”:发邮件、付款前必须人工点头
AI智能体正变得越来越能干,但为了防止它们“自作主张”带来麻烦,微软决定给它们踩一脚刹车。
从今年9月起,微软将面向 Copilot Studio 平台推送一项重要更新,核心目的就是为AI智能体的自动化操作加上一道“安全阀”。作为微软专门用于搭建和管理AI智能体的核心平台,Copilot Studio 此前允许智能体直接对接邮件、工单系统以及支付工具等业务接口。而这次更新后,AI在调用这些工具前,必须先过“人工审批”这一关。
精细化控制的“审批开关”
根据微软的官方说明,这项新功能赋予了开发者极大的控制粒度。开发者可以针对每一个特定的智能体,以及每一个具体的业务工具,单独设置是否需要人工审批。
一旦开启了审批机制,当智能体试图调用该工具时,系统的自动化流程就会立刻暂停。此时,它会向用户弹出一个详细的审批请求,清晰阐述自己接下来打算做什么。作为把关人,用户可以根据AI给出的意图说明,选择直接“批准”、开启“批准会话”进行进一步询问,或者干脆“拒绝”操作。在得到明确指令前,AI绝对无法继续执行。
三大敏感场景首当其冲
那么,到底哪些操作需要如此严格的把关呢?微软明确列出了三个最典型的适用场景:
- 发送电子邮件:避免AI在未授权情况下对外发送不当或敏感信息。
- 关闭工单:防止系统在问题未彻底解决时 prematurely 结束任务流程。
- 处理付款:守住财务安全底线,任何涉及资金流转的操作都必须由人类点头。
只要在这三类动作上配置了审批机制,AI智能体就再也无法“擅自行动”了。
这一机制的引入,无疑在AI自主性与企业安全之间找到了一个绝佳的平衡点。它让企业在享受AI自动化提效红利的同时,依然能将最核心、最敏感的业务控制权牢牢握在自己手中。