开源大模型Hugging Face上手难度 🧪 硬核#Kimi#月之暗面#开源大模型#MoE#多模态#1M上下文#智能体#Hugging Face
Kimi K3.1 Pro · 月之暗面 Kimi K3.1 Pro — 2.8T 开源多模态智能体模型
2.8T MoE、104B 激活、1M 上下文,开源智能体新旗舰
指标同步中,请稍后刷新查看 在 Hugging Face 查看
5 分钟上手
2.8T MoE,自托管需多节点 H100/H200;普通用户建议走官方 API# 官方 API(OpenAI 兼容,base_url 与密钥见 platform.kimi.ai 文档)
pip install -U openai
# 集群自托管(2.8T 参数,需多节点)
vllm serve moonshotai/Kimi-K3.1-Pro项目速览
Kimi K3.1 Pro 是月之暗面 K3.1 系列的首个模型,由 Kimi K3 经数百个下游领域的大规模联合强化学习后训练而来;完整权重已于 2026 年 11 月初在 Hugging Face 开放,采用 MXFP4 量化,官方 API 同步上线。
能做什么
- 原生多模态:文本与图像输入,配 4.01 亿参数的 MoonViT-V2 视觉编码器
- 1,048,576 token 上下文,可一次处理超长代码库、财报与文档集
- 智能体基准:Terminal-Bench 4.0 65.7、BrowseComp 92.1、HLE-Full 带工具 70.0
- 编码与 3D 创作:SWE Marathon v1.1 51.7,BenchCAD 带工具 92.7
怎么部署
2.8T 总参数不适合单机部署,自托管需多节点 H100/H200,官方推荐 vLLM、SGLang 或 TokenSpeed;多数团队更适合直接调用 platform.kimi.ai 的 OpenAI/Anthropic 兼容 API,或在 Together AI 上推理。
适合谁
需要百万级上下文与强智能体能力的研发团队、做开源模型评测与微调的研究者,以及希望私有化部署前沿模型的大型企业。
✅ 优点
- •开放权重,可私有化部署与微调
- •1M 上下文加原生视觉,长文档场景优势明显
- •Terminal-Bench、BrowseComp 等智能体基准接近闭源旗舰
⚠️ 局限与坑
- •2.8T 参数,自托管门槛极高,需要多节点与大显存
- •采用自定义 Kimi K3.1 Pro License,商用前需逐条阅读许可
- •权重为 MXFP4 量化,微调与二次量化需额外验证效果
💼 典型应用场景
- 1.超长代码库的跨文件重构与调试
- 2.百页财报/研报的跨页问答
- 3.浏览器与终端智能体任务
🔗 资源直达
开源大模型· 同类项目推荐
返回全部开源项目指标每周自动更新