Insights·2026-10-21

AI·科技通讯 — 10/21(周三)

Microsoft 推出管控功能,可发现 60 种企业内部 AI 智能体,并为每个智能体分配独立身份和按任务授予的权限。Anthropic 公开了 Claude Code 团队按风险划分人工审查、使被回滚变更比例下降 40% 以上的做法。Google 的 EmbeddingGemma 2 提供了一个小到能在手机上运行、可同时检索文字、图像和语音的搜索组件。

今日脉络

随着 AI 代替人完成的工作越来越多,问题正从“AI 能不能做”转向“谁来批准什么”。Microsoft 宣布了一套管控功能,为 AI 智能体(替人自主完成多步骤任务的 AI 程序)分配与员工分离的身份,并按任务收窄权限。Anthropic 则公开了在约 90% 代码由 Claude 编写的团队里,如何按风险决定哪些变更必须由人审查。

两家公司的答案方向一致:把工作大胆交给 AI,但权限从零开始,只有难以撤回的事才由人批准。Google 的 EmbeddingGemma 2 角度略有不同,但它让企业无需把内部资料发往外部、在公司内部即可运行搜索组件,同样契合“可控 AI”这一趋势。

Microsoft 为 60 种本地智能体分配独立身份与权限

Microsoft 于 10 月 19 日在安全博客上发布新功能,把企业内部 AI 智能体视为“新的内部人员”加以管控。它将员工电脑上本地智能体的发现范围新增 35 种、扩大到 60 种,并以 Claude Code、OpenAI Codex、GitHub Copilot 为例。被发现的智能体汇入与 Microsoft Agent 365 相同的清单,可在一处查看所有者、活动和风险。

变化在于不再把智能体当作人类账号的附属品。Microsoft Entra Agent ID(在管理员工账号的 Entra 中为智能体增设的“工牌”)扩展到本地智能体以及安全传感器新发现的未知智能体,为每个智能体分配与使用它的员工相分离的身份。权限从零开始,只按已批准任务的需要、在限定时间内授予。

这意味着员工自行安装的 AI 编程工具直接继承该员工全部账号权限的做法,将被纳入管理。风险升高时采取分级应对:保留读取、阻止写入,收窄可访问的数据和网络,或直接停止运行。影响较大的操作可要求经过人工确认的审批。

公告没有写明正式发布时间、支持的操作系统和所需许可证。贵公司在现有合同下何时可用,需要通过 Microsoft 管理中心公告或客户经理确认。

Claude Code 团队七层代码审查,回滚比例降 40% 以上

Anthropic 于 10 月 15 日公开了 Claude Code 团队的代码审查方式。该团队约 90% 的代码由 Claude 编写,6 月至 9 月间合并的拉取请求(PR,把代码修改打包提交、请求合并的申请)增加了一倍多。公司表示,同期事后需要回滚的变更比例下降了 40% 以上。

核心做法是用七层过滤代替人逐一阅读所有变更。每个拉取请求先由 AI 审查,未通过安全审查和自动检查(合并前由机器运行测试的环节)就不能合并。人工审批按风险分级:低风险 0 人、中风险 1 人、高风险 2 人;敏感路径和 CI 配置文件始终需要人来看。智能体的批准不算作人的批准。

对于 AI 产出已超过人工审查速度的团队,这意味着应先确定“哪些必须由人看”,而不是“全部都看”。内部数据显示,一轮审查修改即通过的比例从 65% 升至 78%,往返五轮以上的从 8.9% 降至 1.5%。基于这套方式的产品 Code Review for Claude Code 已在 Team 和 Enterprise 方案中正式提供,/code-review 命令可在本机运行轻量版。

所有数据均为 Anthropic 在自己团队内测得,没有外部验证。开发者较少或自动检查不完善的团队能否取得同样效果,目前尚不清楚。

Google EmbeddingGemma 2:可在手机上运行的多模态搜索

Google 于 10 月 6 日发布的 EmbeddingGemma 2 是一款嵌入模型,把文字、代码、图像、语音和视频放进同一个坐标空间。嵌入就是把资料转换成“含义的坐标”,即使用词不同,也能找到含义相近的内容。模型规模为 7.4 亿参数(训练中调好的数值设置的数量),采用 Apache 2.0 许可证,允许商业使用。

它采用模块化结构,可按需加载。纯文字部分为 2.7 亿参数,按 Google 在 Pixel 11 Pro 上的测量约占 191MB 内存;加上图像和语音全部模块约为 567MB。一次可读取约 8K 个 token(AI 把文字切成小块计数的单位),输出向量可从 768 维缩短到 512、256 或 128 维,以节省存储空间。

这意味着内部文档、会议录音和产品照片无需发给外部 AI 服务,就能在公司服务器或笔记本电脑上建立搜索索引。它可从 Hugging Face 和 Kaggle 下载,适合作为让聊天机器人检索内部资料作答的第一步来试用。

性能数据为 Google 自测,韩语检索质量在官方资料中未能单独确认。在用自家文档实际比较之前,很难据此替换现有搜索。

今天可以做的事

列出团队电脑上安装的 AI 编程和自动化工具,并为每个工具写一行:它用谁的账号权限、读写哪些内容。可以从 Microsoft 举例的 Claude Code、Codex、GitHub Copilot 开始。

只选三个必须由人检查 AI 产出的领域。先从出错后难以撤回的内容开始,比如付款、客户数据和对外文案,并同时写下原则:AI 说“已确认”不算人工确认。

如果你使用 Claude Code,在提交下一次变更前运行一次 /code-review,读读它指出的问题。如果是 Team 或 Enterprise 方案,可以问问管理员是否已启用 Code Review。

把公司常被问到的 20 个问题和对应的正确文档配对,比较用 EmbeddingGemma 2 检索时正确文档排在第几位,与现有搜索相比如何。