推理部署#模型评估#对战排行#训练框架
FastChat / Vicuna · 开源对话模型训练与服务框架
Vicuna 模型与 Chatbot Arena 对战榜的开源实现，模型评估经典工具
快速上手
git clone https://github.com/lm-sys/FastChat
pip install -e "./FastChat[model,chatbot]"
python3 -m fastchat.serve.cli --model-path lmsys/vicuna-7b-v1.5项目速览
LM-SYS 团队的 FastChat 是早期开源对话模型训练的代表作（Vicuna 曾以「94% ChatGPT 水平」刷屏），如今更重要的身份是 LMSYS Chatbot Arena 的开源底座——大模型领域引用最多的盲测对战排行榜。
能做什么
- 自建模型对战平台，用真实用户盲测评估模型优劣
- 完整的对话模型训练（LoRA 微调）与服务代码参考实现
- 查看 Arena 榜单指导选型，是目前最常被引用的模型口碑来源
怎么部署
pip 安装后提供 OpenAI 兼容 serving；榜单本身在网页端直接使用。
适合谁
需要评估模型、参考社区口碑做选型的研究者与算法工程师。
不想部署？试试同类在线工具
返回全部开源项目指标每周自动更新，数据来自 GitHub API