MiniCPM-V 4.7 – 面壁智能等开源的端侧多模态大模型 | AI工具集

MiniCPM-V 4.7 – 面壁智能等开源的端侧多模态大模型

MiniCPM-V 4.7 是面壁智能联合 OpenBMB 开源的端侧多模态大模型，含 35B-A3B（MoE）与 1B 两个版本。旗舰版为全球首个可在手机端无损流畅运行的开源 MoE 多模态模型，借助前瞻专家调度技术，约 3GB 内存可在 iPhone 上达 13+ tokens/s，34 项基准全面领先同档模型；1B 版面向入门级设备。

MiniCPM-V 4.7的主要功能

通用视觉理解：看图识物、多图对比、视觉问答，MMBench 91.72 分领先同档模型。
文档与 OCR 解析：识别图片/PDF 中的文字、表格与图表，OCRBench 91.2 分。
数学与 STEM 推理：解答数学题、科学问题，MMMU 80.22、MathVista 88 分。
长视频理解：理解长时序视频内容并回答相关问题，LongVideoBench 68.9 分。
端侧流畅运行：35B 模型在 iPhone 上仅占约 3GB 内存、13+ tokens/s 实时生成。
低成本定制微调：开源自回放微调，学新任务不忘旧能力。

MiniCPM-V 4.7的技术原理

前瞻专家调度（LES）：MoE 模型 65.6 GiB 的权重无法全量入内存，大部分专家存于 SSD、用时读取，但逐层路由依赖上一层结果，导致每层都要停等读盘。LES 用相邻层输入高度相似的特点，用当前层路由特征提前预测下一层所需专家并后台预取，同时让已加载且被真实路由选中的专家优先计算，实现边算边读，实测提速 5 倍且输出零损失。
权重存取优化：通过逐层混合精度量化减少权重的存储体积与传输量；同时重组专家权重在文件中的布局，将原本分散三处的参数改为按编号连续存放，使 SSD 一次顺序读取即可取出完整专家，大幅降低加载开销。
视觉 token 压缩：基于 LLaVA-UHD v4 在视觉编码器内部提前压缩 token，从源头减少后续计算；支持 4 倍/16 倍两档压缩率切换，16 倍模式下关键指标几乎无损，兼顾画质细节与实时交互。
DSpark 投机解码：由轻量草稿模块一次生成多个候选 token，主模型并行验证后批量产出，多个 token 分摊 MoE 的专家读取与调度等固定成本，实测生成速度平均提升 1.17 倍且质量不受影响。

微信关注回复“开源”，加入AI开源项目交流群

如何使用MiniCPM-V 4.7

获取模型：从 GitHub、Hugging Face下载模型权重与代码。
本地快速体验：访问 Hugging Face Spaces 上的官方 Web Demo（MiniCPM-V-4.7-Demo）可免安装在线试玩。
安装 App：前往 GitHub 的 MiniCPM-V-Apps 仓库下载 iOS/Android 客户端，在手机或平板上直接安装使用。
选择推理框架部署：根据硬件平台选用 llama.cpp、Ollama、MLX 或 vLLM/SGLang 之一加载模型，完成本地推理服务部署。
启用 LES 加速（可选）：端侧运行 35B-A3B 时，按开源文档开启前瞻专家调度，实现 3GB 内存流畅运行。
选择视觉压缩模式：根据需求切换 4 倍压缩或 16 倍压缩模式。

MiniCPM-V 4.7的项目地址

GitHub仓库：https://github.com/OpenBMB/MiniCPM-V
HuggingFace模型库：https://huggingface.co/collections/openbmb/minicpm-v-47

MiniCPM-V 4.7的核心优势

端侧 MoE 全球首创：全球首个可在端侧无损、流畅运行的开源 MoE 多模态大模型。
极致内存效率：65.6 GiB 权重的 35B 模型仅需约 3GB 内存即可运行，为 16GB 设备内存的 1/4。
推理速度领先：iPhone 17 Pro Max 实测 13+ tokens/s，iPad Pro M4 达 17+ tokens/s，LES 技术提速 5 倍。
性能全面碾压同档：34 项权威基准全面领先 Qwen3.6-35B-A3B，甚至超越体量更大的 Qwen 27B、Gemma-4 31B。
性能与效率帕累托最优：更短推理时间取得更高综合得分，刷新端侧多模态”性能—效率”前沿。
双版本普惠覆盖：35B 旗舰拉能力上限，1B 小钢炮让入门级设备也能跑高质量多模态。

MiniCPM-V 4.7的同类竞品对比

MiniCPM-V 4.7的应用场景

移动办公与文档处理：在手机/平板上直接拍照或导入 PDF，实时完成文字识别、表格提取、图表理解与文档问答，无需上传云端，保护隐私的同时提升移动办公效率。
离线教育辅导：学生可在无网络的设备上进行拍照搜题、数学推理、科学问答，35B 模型端侧运行让高质量 AI 家教覆盖到网络条件差的地区。
车载与机器人视觉：依托 Day-0 芯片适配，模型可部署于车机和机器人终端，实现实时的环境识别、障碍物理解与人机视觉交互。
视频内容理解与审核：长视频理解能力支持对端侧录制的长视频进行内容摘要、关键帧问答与合规审核，适用于安防巡检、内容创作等场景。

本站文章版权归 AI工具集所有，未经允许禁止任何形式的转载。