资讯›热点›正文

微软发布Guardian Agents,把企业内部AI智能体当内部威胁监管

林深见鹿 2026-10-20 10:34 阅读 14 热点
微软10月20日推出Guardian Agents,将企业自行部署的AI智能体视为潜在内部威胁,全天候监控其操作并动态调整权限,以应对智能体越权与失控风险。

微软于当地时间10月20日(周一)推出一系列新的企业安全功能,其中最受关注的是守护智能体(Guardian Agents)。该功能隶属Project Perception(感知项目),核心思路是把企业自己部署、付费使用的AI智能体当作“内部威胁”来监控,而非默认可信的助手。

微软发布Guardian Agents,把企业内部AI智能体当内部威胁监管

微软安全业务负责人Hayete Gallot在发布中直言,“前沿模型无论来源,都无法完全信任”。她解释,问题不在模型本身有恶意或容易被攻破,而是其行为具有不可预测性——模型被训练来完成任务,而非遵守组织规范。这些智能体往往手握高权限,可访问敏感数据与业务工具,一旦失控便会造成严重损害。Guardian Agents会在每一项智能体操作发生前进行持续监督与审核,并可根据动态风险评估收缩其权限。

微软发布Guardian Agents,把企业内部AI智能体当内部威胁监管

配套能力还包括多项:Microsoft Defender新增智能体检测功能,可识别员工带入职场的多达60种智能体,涵盖Claude Code、Codex、OpenClaw等;动态权限让智能体以零权限启动,仅按任务临时授予限时、限定范围的权限;一旦检测到高风险操作,系统会要求人工审批。微软还将Project Perception与Agent 365打通,统一登记智能体的身份、活动与风险状况。

这一方案背后是CEO萨提亚·纳德拉本月的公开警告:企业不应把智能体代为决策的责任外包给模型供应商,而应将“智能能力的供给”与“对它的管控权限”分离。行业正在形成共识——微软是英伟达Open Agent Safety Platform的创始成员,该平台已获得超过100家科技企业支持,通过硬件隔离与紧急切断开关来约束智能体行为。值得注意的是,微软与OpenAI、Anthropic均存在投资与合作关系,此次主张“独立监管”智能体,也被外界解读为在云安全市场抢占新赛道。

读者评论 (0)

想参与讨论?请 登录 后发表评论。

还没有评论,欢迎抢沙发!