开源大模型Hugging Face上手难度 ⚡ 入门#端侧模型#国产算力#百万上下文#Agent#Hugging Face
StarFire X2.5 · 科大讯飞星火端侧大模型
HF Trending 榜首:4B 端侧百万上下文 + 强 Agent 能力,国产算力训练,断网可用
指标同步中,请稍后刷新查看 在 Hugging Face 查看
5 分钟上手
4B 量化版 4GB 显存可跑,纯 CPU 也能运行# Ollama 一行运行
ollama run starfire-x2.5:4b
# 或从 Hugging Face 下载
huggingface-cli download CiYuanXingHuo/StarFire-X2.5-4B项目速览
星火 X2.5 是科大讯飞子公司词元星火开源的端侧大模型,2026 年 9 月登顶 Hugging Face Trending 榜第一名。4B 参数即支持 100 万 Token 原生上下文窗口,采用混合注意力机制与多教师在线策略蒸馏(MOPD),将复杂 Agent 能力压缩进小模型。全程基于国产算力平台训练,支持断网运行,填补了端侧智能的国产化空白。
能做什么
- τ³-bench 多轮工具调用 30.4 分、MCP-Atlas 54.6 分,同尺寸领先
- 100 万 Token 超长上下文,跑满显存仅传统注意力的 1/4
- 车载/智能硬件/物联网等断网环境本地智能处理
怎么部署
Hugging Face / ModelScope 下载权重,支持 Ollama、vLLM 等推理框架。Ollama 一行命令即可运行。
适合谁
政企信创替代、车载智能、物联网等需要断网 + 国产化的端侧场景。
✅ 优点
- •HF Trending 榜首,社区关注度极高
- •4B 参数即支持百万上下文,显存效率出色
- •全程国产算力训练,符合信创要求
⚠️ 局限与坑
- •4B 模型通用能力弱于大参数模型
- •生态工具与第三方适配仍在建设
- •端侧推理速度受硬件限制
💼 典型应用场景
- 1.断网车载智能助手
- 2.信创替代场景本地 LLM 推理
- 3.IoT 与智能硬件的离线 Agent
🔗 资源直达
不想部署?试试同类在线工具
开源大模型· 同类项目推荐
返回全部开源项目指标每周自动更新