App 里接大模型和 Web 端不是一回事：会话更长、机型更杂、审核更严。这篇用优码云真实交付数据拆解 5 个工程坑。
本文要点
- 三种架构：云端 API、BFF、端侧小模型
- Token 成本失控主因：会话长、弱网重试重复计费
- 7B 端侧模型中低端安卓跑不动，需量化分级降级
- 2025 年 9 月起生成内容必须显式标识
- 首版交付周期 8-14 周，4-5 人核心团队
移动端接入 AI 的三种架构：云端 API 直连、BFF 代理、端侧小模型
移动端接入大模型有三种主流架构：云端 API 直连、BFF 代理和端侧小模型，多数生产级 App 最终采用「BFF 代理 + 云端 API」的组合。
| 架构 | 适用场景 | 首版成本 | 延迟 | 主要风险 |
|---|---|---|---|---|
| 云端 API 直连 | 快速验证、功能简单 | 最低，按 token 计费 | 高，依赖网络 | 成本失控、弱网体验差 |
| BFF 代理 | 生产级 App、多端复用 | 中，多一层服务 | 中，可缓存聚合 | 多一层运维与监控 |
| 端侧小模型 | 隐私敏感、离线场景 | 高，工程量大 | 低，离线可用 | 机型碎片化、能力偏弱 |
云端直连适合原型验证，但把 API Key、prompt 和内容安全全压在客户端，容易被逆向与滥用。BFF 代理把密钥、限流、审核、缓存统一收敛到服务端，是生产级移动端 AI 应用开发的默认起点。
工程坑一：上下文窗口与 Token 成本失控
移动端 AI 应用开发的第一个工程坑是 Token 成本失控：App 会话常达数十轮、弱网重试会重复计费，同样功能月成本可能比 Web 端高一个量级。
移动端比 Web 更费 token 的原因有三个：一是会话天然更长，用户在地铁、排队时反复追问；二是弱网下请求超时后客户端自动重试，同一段上下文被重复计费；三是多模态输入（拍照、语音转写）把单次请求的 token 数放大数倍。有行业观察指出，云端 LLM 的 API 调用成本正在成为很多产品的头号账单（腾讯云开发者社区，2026）。
控制成本的可执行手段：给会话设轮次上限并做上下文裁剪或摘要；对重复问题做服务端缓存；请求加幂等 ID，重试不重复计费；接入成本告警，按「每千 token 单价 ×（输入+输出 token）× 日均调用量 × 30」估算月预算。
工程坑二：端侧推理性能与机型碎片化
端侧推理的最大坑是机型碎片化：7B 级模型在旗舰机可流畅运行，在 4GB 内存的中低端安卓上直接内存溢出，必须按机型分级降级。
Google I/O 2026 上，Android 团队发布了一批面向移动端智能体验的工具，方向是让 App 在本地集成大模型以获得低延迟与隐私保护（Google 官方博客）。但端侧能力不等于所有手机都能跑：7B 参数模型经 INT4 量化后仍需约 4GB 内存，中低端机型加载即崩溃。
落地做法是分级策略：旗舰机跑 3-7B 量化模型处理摘要、意图识别；中端机跑 1-3B 蒸馏小模型；低端机与弱网环境自动回退云端 API 或模板答案。同时用 NPU/GPU 回退检测，避免部分机型推理耗时数十秒。
工程坑三：App 审核与合规——内容安全、数据跨境、生成标识
App 审核与合规是移动端独有的硬门槛：按《人工智能生成合成内容标识办法》，2025 年 9 月 1 日起 App 内生成内容必须加显式与隐式标识。
该办法由国家网信办、工信部、公安部、广电总局四部门联合发布（国家网信办原文）：显式标识包括文字提示、角标、语音提示，隐式标识写入文件元数据。App 内 AI 对话、AI 配图、AI 总结都必须带标识，且应用商店审核会重点检查此项。
合规清单还包括：对话内容安全审核（涉政、涉黄、诈骗词表前置拦截）；涉及用户个人信息出境的，按《个人信息保护法》做跨境评估；AI 能力说明写入隐私政策。建议用内容标识 SDK 统一处理，而不是在客户端手工拼接。
工程坑四：离线场景降级与缓存策略
离线降级的核心原则是「先本地后云端」：高频固定问答缓存到端侧、弱网自动切换小模型或模板答案，避免白屏和重复计费。
移动端网络波动是常态，地铁、电梯、弱网都会中断请求。经验做法：常用问答走 LRU 本地缓存；请求失败按指数退避重试且带幂等 ID；连续失败超过阈值自动进入离线模式，展示兜底文案与 FAQ 模板；恢复网络后队列补发并合并结果。
缓存还能显著降本：同一问题的回答命中缓存后不再调用大模型，实测在客服类场景可减少三成以上调用量。
工程坑五：Agent 化功能的权限与 HITL 设计
Agent 化功能在移动端必须做人审兜底（HITL）：涉及支付、通讯录、相册等敏感权限时，每个关键动作都要用户二次确认后才能执行。
移动端 Agent（自动订餐、自动填表、自动发消息）比 Web 更危险：手机上有通讯录、相册、支付、短信等敏感数据，且用户常常在走路时误触。设计上要求权限最小化、动作确认弹窗、一步可撤销、全程审计日志；工具调用参数在服务端做 schema 校验，防止 prompt 注入让 Agent 越权。
真实交付复盘：8-14 周首版，4-5 人核心团队
按优码云已交付的 100 个项目统计，填写周期的 99 个项目首版集中在 8 周、12 周、14 周三档，核心团队 4-5 人。
口径说明：以上为优码云截至今日已发布的 100 个真实交付案例聚合（案例库），其中移动端/App 端项目占比约 3%，其余以 Web 为主；行业分布上零售商业 16 个、智能制造 15 个、医疗健康 12 个。App 类集成 AI 的项目，我们普遍采用 BFF+云端混合架构，首版交付也在 8-14 周区间内，客户名已脱敏。
发布前可复用的三条检查清单：
- 成本侧：会话轮次上限、结果缓存、幂等重试、月预算告警是否就位；
- 合规侧：生成内容显式/隐式标识、敏感词拦截、隐私政策、跨境评估是否完成；
- 体验侧：离线兜底、机型分级、HITL 二次确认、异常监控是否通过测试。
如果团队缺移动端 + 大模型双栈经验，建议先拿一个低频功能做 8 周首版验证，再逐步铺开。更多同类复盘可看博客，需要评估方案可以看我们的交付案例或直接联系优码云。
常见问题
App 集成大模型大概要多久？
按优码云 100 个真实交付案例统计，填写周期的 99 个项目首版集中在 8 周、12 周、14 周三档，核心团队 4-5 人，App 类项目也在这个区间。
移动端大模型部署用云端还是端侧？
多数生产级 App 采用「BFF 代理 + 云端 API」组合，端侧小模型只在隐私敏感或强离线场景使用，且要按机型分级。
App 里的 AI 对话需要内容审核和标识吗？
需要。按四部门《人工智能生成合成内容标识办法》，2025 年 9 月 1 日起生成内容必须加显式与隐式标识，应用商店审核会重点检查。
移动端 AI 应用开发的成本怎么算？
成本 ≈ 每千 token 单价 ×（输入+输出 token 数）× 日均调用量 × 30；会话越长、弱网重试越多，成本越高。
中低端手机跑不动大模型怎么办？
按机型分级：旗舰机跑 3-7B 量化模型，中端机跑 1-3B 蒸馏模型，低端机与弱网环境自动回退云端 API 或模板答案。