开源大模型#大模型#端侧#多模态#小模型
MiniCPM / MiniCPM-o · 面壁智能端侧小模型
8B 级小模型性能标杆,主打手机/PC 端侧部署,多模态版支持语音视觉
快速上手
# Ollama 直接跑端侧量化版
ollama run minicpm-v
# 或 LM Studio 中搜索 MiniCPM GGUF 模型下载项目速览
MiniCPM 由面壁智能(OpenBMB 团队)开源,走「以小胜大」路线:8B 及更小尺寸的性能比肩大几倍的模型;MiniCPM-o 进一步把视觉、语音、全双工实时交互塞进端侧小模型,是手机跑大模型方向的代表作。
能做什么
- 笔记本甚至手机上部署可用的对话模型,量化后 4G 显存可跑
- MiniCPM-o 支持看图对话、实时语音交互,可做离线助手/车载场景
- 提供 GGUF/AWQ/bitsandbytes 全套量化版本与 llama.cpp 适配
怎么部署
Hugging Face 下载 GGUF 后配合 Ollama / LM Studio 一键运行;进阶可走官方推理库。端侧选型建议先看 模型对比教程。
适合谁
做端侧应用、离线助手、隐私敏感场景的开发者。
不想部署?试试同类在线工具
返回全部开源项目指标每周自动更新,数据来自 GitHub API