今天的增量是三件互不相同的事，但指向同一个方向：Agent 的成本与合规，正在从应用代码搬到基础设施层。NVIDIA 在柏林把 Agent 的执行边界交给运行时和网卡，蚂蚁集团与 vLLM 社区把量化推理的散装内核收成一套，OpenAI 把提示缓存的可选上限拉到 12 小时。下面逐条拆。
NVIDIA 在柏林发布 OpenShell 参考架构：Agent 的边界从代码挪到运行时
在 GTC Berlin 主题演讲中，NVIDIA 发布 OpenShell 参考架构，把模型推理、Agent 运行时与策略执行拆到不同硬件位置：推理跑在 Vera Rubin，Agent 的工具调用与编排跑在 Vera CPU，访问与数据流策略由运行在 BlueField DPU 上的 Sentry 执行。同一场活动里，Google Cloud 的 Vera Rubin 基础设施转为正式可用并计划向欧洲区域扩展；WPP 等企业已用 Nemotron 模型配合 OpenShell 做创意类 Agent 的编排。
时间锚点：黄仁勋的主题演讲于北京时间 10 月 21 日 17:30 开始，NVIDIA 新闻室与官方博客同日发布细则。
对企业意味着什么：过去两年企业做 Agent 试点，凭据、会话、工具权限通常写在业务代码里，出问题靠应用日志复盘。OpenShell 这类参考架构把这几样东西从代码里拿出来交给运行时和网卡，审计证据变成平台侧自动生成，而不是开发团队事后自证。做内部知识库 Agent、工单处理 Agent 的公司，接下来要回答的不再是「能不能跑通」，而是「谁能在哪个环节拦住它」。同一架构还把 RTX Spark、DGX Spark 与 DGX Station 纳入边缘侧，意味着带敏感数据的 Agent 可以放在办公网而不必上公有云，但仍受统一策略管理。
来源：NVIDIA 新闻室 OpenShell 参考架构、NVIDIA 博客 Google Cloud 与 Vera Rubin、Cellcog 对 OpenShell 参考架构的解读、NVIDIA 新闻室 DSX 与欧洲 AI 工厂。
蚂蚁集团与 vLLM 社区开源 Humming：量化推理内核收成一套通用实现
vLLM 博客发布 Humming，作者署名「蚂蚁集团与 vLLM 社区」。这是一个 JIT 编译的 GEMM 内核库，专为量化推理设计：不针对某一种量化格式写死代码，而是用统一的量化表示覆盖权重与激活的组合，再按每类负载在运行时编译并调优内核。官方博客把它拆成 WnA16、W8A8、W4A8、W4A4 与端到端推理性能几组结果来展示。
关键参数：仓库说明支持自 SM75（Turing 架构）起的 NVIDIA GPU；权重侧支持 8 位以下任意类型，激活侧覆盖 FP16、BF16、FP8、FP4、INT8、INT4；同时支持 Dense GEMM 与 MoE GEMM；安装依赖只有 PyTorch 与 NVCC。发布日为 2026 年 10 月 21 日。
对企业意味着什么：推理账单里有一块长期被后端实现吃掉——同一张卡换一种量化格式，吞吐可能掉一半，团队于是被迫把量化策略绑死在某个后端上。统一内核库把「格式」和「设备」解耦，自建推理的团队不必再为一种新格式重写一遍内核。对做私有化交付的项目，评估清单应该加一项「内核层是否通用」，只看峰值算力容易在半年后被格式迁移卡住；对国产与专用加速卡，「能被主流推理框架接纳」往往比纸面算力更决定可用性。
来源：vLLM 官方博客 Humming 发布说明、Humming 代码仓库、Superpower Daily 报道。
OpenAI 把提示缓存上限提到 12 小时：长任务 Agent 的账要重算
OpenAI 在其开发者社区的公告里给出 12 小时提示缓存选项：调用方可以选择把提示缓存保留半天，Codex 与 ChatGPT Work 同步启用。对跑长任务的 Agent 来说，系统提示、工具 schema、固定的知识片段这些前缀不必每个任务重新计费一次。
关键参数：可选 TTL 为 12 小时；缓存写入的单价高于普通输入，命中之后的读取单价明显低于输入价格。公告以「28 天生活质量改进」系列的形式发布，为其中第 16 天条目。
对企业意味着什么：批量巡检、工单收敛、跨小时的数据处理这类 Agent，输入里多数是稳定前缀，延长 TTL 直接改变单位任务成本。但别只调大 TTL：上下文一变，缓存命中失败会按新写入计价，可能比不开缓存更贵。可行的做法是把「稳定前缀」和「变动上下文」在提示结构上拆开组织，让命中率尽量落在稳定段上。这一条更适合已有稳定提示模板的团队，提示还在天天改的项目先别急着改预算模型。工具侧的选型可以参考我们此前做过的AI 编程工具横评，重点不在榜单名次，而在团队既有技术栈与交付节奏是否匹配。
来源：OpenAI 开发者社区公告、AlphaSignal 报道。
我们的解读
三条新闻放在一起看，被重新定价的是 Agent 工程的三个变量：治理、算力供给、上下文成本。它们原来都在「应用层」的预算表里，今天开始往基础设施层挪。
对做 AIcoding 全栈交付的团队，这会影响架构决策的先后顺序。第一，Agent 的凭据、会话与工具权限不要再放进业务代码，交给受管的运行时或网关，交付文档里把「谁能调什么、在哪一层拦」写清楚，这件事在等保与内审环节比功能清单更常被追问。第二，推理后端要与量化格式解耦，App、Web、小程序、桌面端四端共用一套 Agent 编排时，任何一端为省成本单独换后端都会把整条链路拖进调试，内核层通用性要在选型阶段就排进评估。第三，长任务的提示结构值得单独设计：稳定前缀、工具 schema、检索片段分层组织，缓存策略才谈得上收益。
需要说清楚的是，这些是平台能力的变化，不等于项目立刻变便宜。OpenShell 这类参考架构在采购环节往往意味着新的硬件与运维要求；Humming 的收益要落到具体模型与卡型上才会体现；缓存延长对提示模板不稳定的团队甚至可能抬高账单。企业侧更实际的动作是：把这三条当成下一轮架构评审的输入，而不是当成可以立刻写进 KPI 的效率数字。
延伸阅读
- 2026 年 AI 编程工具横评：Cursor vs Claude Code vs GitHub Copilot：真实项目对比与选型思路。
- 2026 年 9 月 27 日 AI 早报：OpenAI 暂停最强模型、Opus 5.5 登顶：模型能力与可用性之间常年存在落差。
- 2026 年 7 月 26 日 AI 早报：Opus 5 发布与专用推理芯片估值：另一条关于推理侧基础设施的观察线。
联系我们
如果你正在评估 Agent 系统的落地边界、推理成本结构或四端一致性方案，可以安排一次 30 分钟的免费咨询，我们会结合你的现有技术栈给一份 AIcoding 转型评估，不做产品推销。联系我们。