8 月 17 日起主流开源模型 API 改为峰谷定价，旗舰档高峰输出 27 元/百万 tokens，推理成本第一次进入选型表第一行。本文面向正在评估「把公司文档接入大模型」的技术负责人，拆一遍 2026 年 Web 端 RAG 知识库的四类方案、成本区间与工程要点。
本文要点
- 2026 年企业知识库默认走 RAG，不优先微调
- 四类方案：Dify 私有化、自研管线、向量库+API、SaaS
- Web 端落地五工程点：解析、Embedding、评估、护栏、监控
- 峰谷定价下错峰调度，token 成本可省 30%–50%
为什么 2026 年知识库优先走 RAG，而不是微调
微调改的是模型权重，RAG 改的是检索到的上下文。企业文档每周都在变，微调一次少则几周、多则两个月，RAG 只需要重新解析、切分、写入向量库，当天就能生效。2026 年这个判断更像默认值，原因有三个。
第一，开源权重模型把门槛压了下来。杭州的 DeepSeek、阿里的 Qwen 等开源模型进入第一梯队，杭州「AI 第一城」行动方案把开源生态列为建设重点，企业本地化部署不再受制于闭源 API 的定价与限流。第二，RAG 工程化生态已经成熟：2026 年主流框架里 LangChain 98K+ stars、RAGFlow 79.6K+、Dify 55K+，向量库从十亿级的 Milvus 到百万级的 pgvector 都有成熟选择，2026 年 RAG 开源项目盘点显示选型本身不再是瓶颈。第三，合规把数据留在本地：私有化部署 Dify 这类平台涉及数据安全边界，安全内参的实务分析提示敏感数据出域是企业级 AI 的最大风险点，RAG + 本地向量库天然绕开了这条线。
四类落地方案对比：怎么选、大概多少钱
按「团队能力 × 数据敏感度 × 定制深度」三个维度分四类。成本区间来自优码云 100 个交付案例的估算样本，供预算参考，不是市场报价。
| 方案 | 典型技术栈 | 适合谁 | 成本区间（估算） | 主要风险 |
|---|---|---|---|---|
| Dify 私有化部署 | Dify（Docker/K8s）+ 开源模型 API + pgvector/Milvus | 业务团队要自助搭建、要可视化编排与现成知识库管线，20–200 人企业 | 一次性实施约 8–20 万（含文档接入、权限配置、上线支持），月运营以算力与 token 为主 | 深度定制受限，复杂检索链路要二次开发 |
| 自研 LangChain 管线 | LangChain/LlamaIndex + Milvus/Qdrant + 重排模型 | 有研发团队，检索链路要深度定制（混合检索、多租户、复杂权限） | 2–4 人 3–6 个月，一次性 30–80 万起 | 周期与维护成本高，评估体系要自己搭 |
| 向量库 + 推理 API | pgvector/Qdrant + Embedding API + 开源模型 API | PoC、中小知识库、把 RAG 嵌进现有业务系统 | 一次性 3–8 万，月运营按 token 计 | 无编排层，召回与防幻觉要靠代码堆 |
| 托管 SaaS | 云端知识库 + Web 对话组件（Dify 云端等） | 不涉敏、快速试错、50 人以下内部工具 | 按席位/按量，月几百到几千 | 数据出域合规风险，敏感文档不适用 |
一个可参考的落地样本：某制造行业客户把设备手册、质检 SOP 接入私有知识库，走 Dify 私有化，首版约 8 周上线。从优码云已发布的 100 个交付案例看，Web 端占 97 个，智能制造类 15 个、零售商业 16 个、医疗健康 12 个；其中 92 个包含多角色权限与定制开发，说明「私有化 + 权限 + 定制」是这类项目的主流组合。没有专职算法团队的，找具备私有化交付经验的团队（比如优码云这类以 Web 端交付为主的开发团队）能把上线周期压到 2 个月以内；单卡模型跑私有化的成本账可以看这篇Meta 开源 30B 模型落地的成本拆解。
Web 端落地的五个关键工程点
- 文档解析与 chunking。PDF 扫描件先做 OCR，表格与条款单独切分；chunk 大小常见 512–1024 token、overlap 10–20%，但以真实文档结构为准，别套固定值。
- Embedding 选型。中文场景优先 BGE-M3 这类中文优化模型；注意向量维度与向量库索引参数（HNSW 的 M、efConstruction）对内存和延迟的影响，上线前用领域样本做 top-10 检索人工抽检。
- 检索评估。用 200–500 条真实问题（客服工单、搜索日志）打基线：Recall@K、MRR、Answer Relevance、忠实度。没有评估集就不存在「效果好不好」这个判断。
- 权限与防幻觉护栏。文档级 ACL 同步到检索层，检索前过滤、答案带引用溯源、低分拒答、敏感词拦截。这是 B 端知识库和玩具 demo 的分水岭。
- 监控告警。无答案率、命中率、P95 延迟、token 消耗、模型升级后的回归测试，缺一不可。
从 Demo 到生产最容易踩的坑，可以对照这篇多模态 RAG 的 12 个月复盘逐条检查。
推理成本控制：峰谷定价下的四行账
8 月 17 日零时起，DeepSeek API 启用峰谷定价：高峰时段为北京时间 9:00–12:00、14:00–18:00，空闲时段价格为高峰的一半（观察者网报道）。同源报道还提到，智谱 2026 年一季度 API 调用定价提升 83%、豆包专业版 6 月改为 68/200/500 元三级阶梯——推理成本整体上行，把成本模型写进选型表比以往更重要。
| 计费项（元/百万 tokens） | 高峰价 | 空闲价 | 错峰降幅 |
|---|---|---|---|
| V4-Pro 输出 | 27 | 13.5 | 50% |
| V4-Pro 输入（缓存命中） | 0.3 | 0.15 | 50% |
| V4-Flash 输出 | 9 | 4.5 | 50% |
| V4-Flash 输入（缓存未命中） | 3 | 1.5 | 50% |
知识库问答里大量任务是可异步的：夜间索引、批量文档总结、预生成检索摘要。把这些调度到空闲时段，纯输出错峰省 50%，混合负载普遍能省 30%–50%。另外用缓存命中做系统 prompt 与固定上下文，简单检索用轻量模型、生成用旗舰档，比单一大模型省得多。API 账单里被忽略的隐性开销，可对照大模型应用开发隐性成本拆解排查。
六步落地清单
- 盘点文档、权限与合规边界：哪些能进向量库，谁来审批。
- 两周 PoC：用 50–200 份真实文档跑通「解析 → 检索 → 问答」，先看召回效果。
- 定方案与选型：按四类方案表对齐团队能力，预算按峰谷定价建模。
- 文档接入：解析、清洗、chunking、Embedding，建立更新流程。
- 权限与护栏上线：ACL、引用溯源、拒答阈值，先小范围试运行。
- 监控与复盘：评估基线、成本看板、季度回归，模型升级单独走测试。
按季度滚动复盘预算时，可以直接套用180 天三阶段 TCO 测算作模板。
常见问题（FAQ）
RAG 和微调怎么选？什么时候必须微调？
默认走 RAG。只有两类情况考虑微调：需要固定输出格式或语气（如合同条款风格），或领域术语密集且检索召回率始终上不去。生产上更常见的是 RAG 打底，用少量样例微调做路由或重排。
Dify 私有化部署和自研哪个划算？
没有算法团队、需求偏标准（上传文档 → 问答 → 权限）选 Dify 私有化，一次性 8–20 万级；要深度定制检索与多租户就自研，30 万起、周期 3 个月以上。多数企业先跑通 Dify，再把瓶颈点拆出来自研。
向量库选 Milvus、Qdrant 还是 pgvector？
百万级文档以内、已有 PostgreSQL 直接用 pgvector；亿级以上或要混合检索、过滤条件复杂，选 Milvus/Qdrant。别只看 GitHub stars，要算清 Embedding 维度、索引参数对内存和延迟的影响。
中文文档检索效果差，通常卡在哪？
三个常见原因：PDF 扫描件没做 OCR、chunk 切碎了表格与条款、Embedding 模型中文优化不足（BGE-M3 这类中文模型通常好于通用英文模型）。先用真实问题集跑 Recall@K 基线，再逐项排查。
私有化部署一套 RAG 知识库大概多少钱？
按优码云交付样本估算：Dify 私有化 + 开源模型 API 一次性 8–20 万；自研管线 30–80 万起；向量库 + 推理 API 的轻量版 3–8 万。月运营大头是算力与 token，峰谷调度后单次问答成本可显著下降。