
科技云报到原创。
本周两则与 Agent 有关的消息,把问题从模型能力拉回到治理能力。
11 月 16 日,加州总检察长起诉OpenAI,指控其自主 AI 代理在测试中至少 80 次失控,其中一次入侵了 Hugging Face。
几乎同时,谷歌 Gemini 4 Argon 在一项安全实验中被曝出约 40 个智能体未经授权访问真实机构网站,并在彼此之间分享绕过限制的方法。
Gartner 的数据把错位量化得很清楚:71% 的组织计划未来 12 个月部署 agentic AI,只有 21% 具备治理能力。能力在跑,治理在原地。
回到近日在上海举行的亚马逊云科技助力全球化企业智赢AI时代媒体沟通会上,亚马逊云科技宣布在华三大能力升级,其中安全与治理放在贯穿整个技术架构的位置。
放在本周这些新闻里读,这句话的分量不在“三大能力升级”上,而在它能否回答一个问题:Agent 手里的钥匙,到底谁来管。

240个人天卡在会话隔离
Agent 在生产上的
门槛变了
沟通会现场,亚马逊云科技产品专家团队总经理崔玮讲了一个很小的案例:一家客户为一个会议管理类 Agent 投了 240 个人天,最后卡在会话与会话之间怎么隔离。
不是模型不聪明,也不是提示词不好。
当一个Agent 要同时服务成百上千个用户,还要伸手够企业内部系统时,“它和隔壁那个 Agent 之间数据会不会串”这种很工程的细节,成了过不去的墙。最后靠 microVM 级硬件隔离解决。
这个细节和本周加州诉讼里“智能体突破隔离环境、获得管理员级别权限”的描述放在一起看,水位就很清楚了。企业级 Agent 的门槛,已经从“能不能做出来”移到了“能不能安全地跑起来”。
Gartner 在 2025 年 8 月给过一个预测:到 2026 年底,40% 的企业应用将集成任务型 AI Agent,而 2025 年这个比例还不到 5%。
这个数字只看前半句,很容易得出“Agent 马上普及”的结论;把后半句连起来看,它说的其实是“嵌进去”正在变成默认动作。
嵌进去和跑起来,是两件事。
亚马逊云科技成长型企业及新兴业务总经理倪殿令在沟通会上引用了 BCG 的 10-20-70 法则。
BCG 的原意是 AI 价值来源:10% 在算法,20%在数据和技术,70% 在人与流程。他借这个比例解释企业 AI 落地为什么慢:真正难的往往不是模型,而是流程、权限和人。
240 个人天卡在隔离上,不是个案,是结构性的信号。

七成的账在模型外
语义层决定准确率天花板
崔玮举过一个极小的例子:同样问“销售额是多少”,问 CEO 和问一线业务人员,背后的口径、权限和场景完全不同。
Agent 分不清这两个“销售额”,它给出的每个数字都可能是错的,而且错得很自信。这就是数据基础要解决的问题。
亚马逊云科技这次提“AI-Ready Data Foundation”,用的是数据层、语义层和上下文层相结合的架构:数据层让 Agent 能拿到专有数据,语义层让数据背后的业务含义被理解,上下文层再把具体场景接上。
传统数据治理讲完整性、一致性、新鲜性、开放性;到了 Agentic 时代,还要加上向量化、可观察可追溯、安全访问。
三菱日联银行是一个可查的案例:业务横跨 30 多个国家和地区、日均约 20 万笔,用 Amazon Neptune 构建知识图谱,把“点”和“边”的关系划清楚,以此约束回答边界。
这是“上下文工程”落到产品的地方,也是整个栈里最被低估的一层。
人人都在谈 context engineering,但稀缺的不是提示词技巧,而是“企业本体”——同一件事在不同行业、不同公司叫法不同,定义也不同。
模型可以买,本体买不到。
谁握住语义层,谁就握住准确率的天花板。 官方材料里“五层全栈”听起来很大,但真正决定 Agent 能不能上生产的,往往是这层不性感的语义地基。

执行安全卡在权限
凭证不能直接写进 Agent
崔玮把Agentic AI 的安全讲成一个“洋葱”:外层是应用安全,中间是内容安全,最里面、也最难的一层,是Agent 的执行安全。
这一层的难点不在内容,在权限。
他提到一个相当普遍的做法:把访问下游系统的凭证直接写进 Agent 里。
这在 POC 阶段几乎无感;但一旦 Agent 被污染或失控,它就是带着钥匙去执行,一路畅通。
AgentCore的思路是把“执行逻辑”和“凭证与权限”拆开。
Gateway 把 API、Lambda 函数及 MCP Server 统一转化为 Agent 可用的工具入口,Agent只能举手说自己要做什么,真正的权限在网关之后才授予;Identity 做身份与访问管理,替 Agent 安全托管访问下游服务的凭证;Observability 做全链路追踪;Runtime 在 microVM 层面做会话隔离。
四件事其实是一件:给 Agent 划一条可审计的边界。
这里给一个不太讨喜的判断:企业 Agent 安全的主要矛盾,已经不是内容合规。内容过滤有成熟解法,也有明确监管口径。真正会出事的是权限给多了。本周加州诉讼的核心指控,不是“模型说了不该说的话”,而是“缺乏足够的保障与监控措施”导致 Agent 执行越界。
Gartner 的数据补了一刀:95% 的组织过去12 个月至少经历过一次与 Agent 相关的事件,70% 的 I&O 负责人仍然相信自家的 Agent“在安全边界内运行”,只有 15% 部署了自动熔断来阻止失控 Agent 的无限循环或错误级联。
大多数所谓“Agent 闯祸”,根因不是幻觉,是人在配置时把不该给的东西给了它。
AgentCore在中国区上线六个组件:Runtime、Gateway、Identity、Browser Tools、Code Interpreter、Observability。
全托管 Serverless 架构,支持任意大模型和任意框架,从零弹性扩缩到数十万并发会话,按实际消耗的 CPU 与内存秒级付费。
崔玮给了一个厂商自测口径:与自建相比,绝大部分场景成本低 80% 到 90%。不是第三方审计结果,但逻辑不复杂:自建是买一台 EC2 一直开着,托管是按实际消耗计费。

平台价值在
本地化与组织墙
是客户怎么用,才是重点。
安克创新此前每个部门一套技术栈,既重复造轮子,也难统一支撑创新;他们在 AgentCore 上搭了 Anka 平台,目标是“一次平台构建,长期不用大重构”。
金蝶发票云服务约两万家客户、日均约 1000 个工单,托管后首次响应从 15 分钟缩短到 3 分钟,日均处理量提高到 3 倍,AI自动回复率从 60% 升到 80%。
平台的价值不在省了几台服务器,而在边际成本。第一个 Agent 是项目,第二个是资产,第一百个才是能力。 分水岭在于有没有把它从“项目制”变成“资产制”。
本地化的边界也要说清楚。
AgentCore从纽约预览到中国区可用隔了约 14 个月,崔玮把原因归为区域发布节奏和中国区合规落地;时差本身不是重点,真正的成本是海外验证过的方案回国往往要重做一次合规与架构映射。
今年中国区上线 277 项新服务与功能、累计超过 2800 项,开放任意模型和框架能缓解锁定,但真正的锁定不在运行时,而在沉淀下来的数据、语义与上下文。
现场引述的弗若斯特沙利文和 Signal65 评估,公开信息没有说明是否由厂商委托或参与共建,理解这个结论时得留一分余地:能说明“不弱”,不能单独说明“最强”。
最后一道墙不在机房,在组织架构图上。倪殿令讲“双披萨团队”时开了个玩笑:团队里吃披萨的人越来越少,因为有几个“人”从来不吃披萨,那是智能体。
玩笑背后是个硬问题:客户旅程是横着的,组织架构是竖着的。部门内部各自提效,加起来并不等于公司生产力提升。
回到本周那两则“失控”新闻。它们最容易催生一种误读:问题出在模型不够聪明,或者安全团队不够努力。
但加州诉讼里真正被指控的东西,是“缺乏必要的安全防护与监控措施”;Gartner 数据里真正扎眼的东西,是 71% 的部署意愿与 21% 的治理能力之间那 50 个百分点的落差。
Agent 能不能上生产,从来不取决于它在演示里有多聪明,而取决于三件很朴素的事:它看到的数对不对,它能碰的东西有没有被管住,坏了之后有没有人找得到原因。
240 个人天卡在隔离上,说的是第二件和第三件;七成的账在模型外,说的是第一件。本周的失控新闻,说的还是这三件。
给Agent 发钥匙之前,先造好那间房——这间房不是机房,是数据、安全与治理。
【关于科技云报到】
企业级IT领域Top10新媒体。聚焦云计算、人工智能、大模型、网络安全、大数据、区块链等企业级科技与数字化转型与赋能的领域。原创文章和视频获工信部权威认可,是世界人工智能大会、数博会、国家网安周、可信云大会与全球云计算等大型活动的官方指定传播媒体之一。














