面壁智能发布端侧多模态模型 MiniCPM-V 4.7，35B 版本约 3GB 内存可运行
10 月 13 日，面壁智能（OpenBMB 开源社区）发布新一代端侧多模态大模型 MiniCPM-V 4.7，含 35B-A3B 与 1B 两个版本，采用 Apache-2.0 开源协议。35B-A3B 为 MoE 架构，总参数 350 亿、每次推理仅激活 30 亿，约 3GB 内存即可运行。
关键事实：
- 架构参数：35B-A3B 设 256 个专家、每 token 激活 8 个，共 40 层，上下文窗口 262,144 token；视觉侧接 SigLIP2 编码器，支持 4x/16x 混合视觉 token 压缩——16x 走吞吐、4x 保细节，调用时可选。可处理单图、多图与视频，输出为文本。
- 端侧加速来自三项技术叠加：前瞻专家调度（LES，跨层预取专家）、分层混合精度量化、DSpark 投机采样。据公司数据，iPad Pro M4（16GB）上 SSD 卸载解码速度由 2.97 token/s 提升至 17.39 token/s（5.86 倍），iPhone 17 Pro Max 实测 13+ token/s。
- 发布当日即完成瑞芯微、NVIDIA、Intel、Apple 等芯片平台适配，覆盖 iOS、安卓、鸿蒙；权重上线 Hugging Face、ModelScope 与 Ollama，支持 vLLM、SGLang、llama.cpp 等推理框架，并提供 FP8、int4、AWQ、GPTQ、GGUF 等量化版本。
- MiniCPM 系列全球累计下载量已突破 6000 万次，覆盖文本、视觉、语音全模态；1B 版本面向更低算力设备。
观点
- 端侧 MoE 的竞争指标正从总参数转向「激活参数 ÷ 内存占用」，350 亿总参数压进 3GB 内存，稀疏专家调度已成端侧落地的关键工程路径。
- 端侧多模态的实际收益高度依赖系统工程：预取、量化、投机采样三项叠加才把解码速度提升近 6 倍，单靠模型架构难以达成。
- 发布当日完成瑞芯微、NVIDIA、Intel、Apple 多平台适配，端侧推理软件栈正从单一芯片厂商自研转向跨平台开源。
- 在 OCR、文档解析、屏幕理解等感知密集型场景，本地模型把边际推理成本压到接近零，可能改变文档密集行业「自建还是租用」的算法。