开源大模型上手难度 ⚡ 入门#大模型#端侧#多模态#小模型
MiniCPM / MiniCPM-o · 面壁智能端侧小模型
8B 级小模型性能标杆，主打手机/PC 端侧部署，多模态版支持语音视觉
🟢 活跃维护✅ 商用友好协议minicpmminicpm-ominicpm-vmulti-modal
5 分钟上手
4GB 显存可跑量化版，部分版本纯 CPU 可用# Ollama 直接跑端侧量化版
ollama run minicpm-v
# 或 LM Studio 中搜索 MiniCPM GGUF 模型下载项目速览
MiniCPM 由面壁智能（OpenBMB 团队）开源，走「以小胜大」路线：8B 及更小尺寸的性能比肩大几倍的模型；MiniCPM-o 进一步把视觉、语音、全双工实时交互塞进端侧小模型，是手机跑大模型方向的代表作。
能做什么
- 笔记本甚至手机上部署可用的对话模型，量化后 4G 显存可跑
- MiniCPM-o 支持看图对话、实时语音交互，可做离线助手/车载场景
- 提供 GGUF/AWQ/bitsandbytes 全套量化版本与 llama.cpp 适配
怎么部署
Hugging Face 下载 GGUF 后配合 Ollama / LM Studio 一键运行；进阶可走官方推理库。端侧选型建议先看 模型对比教程。
适合谁
做端侧应用、离线助手、隐私敏感场景的开发者。
✅ 优点
- •小尺寸高性能，端侧场景性价比标杆
- •GGUF/AWQ/bnb 量化谱系齐全，llama.cpp 适配好
- •MiniCPM-o 把语音+视觉实时交互塞进端侧
⚠️ 局限与坑
- •纯文本能力与旗舰大模型差距仍然明显
- •多模态版部署链路比纯文本模型复杂
💼 典型应用场景
- 1.手机/车机离线语音视觉助手
- 2.无网环境的隐私敏感问答
- 3.端侧多模态 Demo（看图对话）
不想部署？试试同类在线工具
开源大模型· 同类项目推荐
返回全部开源项目指标每周自动更新，数据来自 GitHub API · 最近同步 2026-09-09