开源大模型Hugging Face上手难度 🧪 硬核#开源大模型#Nanbeige#南北阁#智能体#Agent#33B#512K上下文#Apache-2.0#Hugging Face#Terminal-Bench

Nanbeige4.3-33B · Nanbeige4.3-33B — 南北阁开源 33B 智能体旗舰模型

10/24 新发 33B 智能体模型：Terminal-Bench 2.1 得分 80.9，512K 上下文，Apache-2.0

指标同步中，请稍后刷新查看在 Hugging Face 查看

5 分钟上手

BF16 约 66GB 权重，建议 4×80GB 或量化后在 48GB+ 显存运行

# 方式一：vLLM（4 卡示例）
vllm serve Nanbeige/Nanbeige4.3-33B \
  --tensor-parallel-size 4 \
  --gpu-memory-utilization 0.8 \
  --enable-auto-tool-choice \
  --reasoning-parser qwen3 \
  --tool-call-parser qwen3_coder

# 方式二：Transformers
from transformers import AutoModelForCausalLM, AutoTokenizer
model_id = 'Nanbeige/Nanbeige4.3-33B'
tok = AutoTokenizer.from_pretrained(model_id, use_fast=False, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(
    model_id, torch_dtype='auto', device_map='auto', trust_remote_code=True
)

项目速览

Nanbeige4.3-33B 是南北阁（Nanbeige）团队 2026 年 10 月 24 日发布的开源旗舰智能体模型，采用 Apache-2.0 许可，定位为 Nanbeige4.3 系列的「教师模型」，后续会蒸馏出 3B 小模型。官方称其在约 30B 参数开源模型中取得最强的智能体表现，重点覆盖复杂编码与专业办公协作任务。

能做什么

智能体编码：Terminal-Bench 2.1 得分 80.9，高于 Qwen3.8-27B 的 73.0、Muse-Glimmer-30B 的 61.8
真实软件工程：DeepSWE 65.5、SWE-Atlas-QnA 50.8、NL2Repo 53.0，官方称均领先同尺寸竞品
工具调用与办公：Toolathlon-Verified 70.4、Claw-Eval 78.3、JobBench 44.8，覆盖 35 类职业任务
长上下文：支持 524,288 tokens（512K），适合多轮工具调用与代码库级任务
双模式推理：enable_thinking 控制当前回答是否思考，preserve_thinking 控制多轮是否保留推理；工具调用推荐 XML 格式

怎么部署

权重为 BF16 safetensors，可用 Transformers、SGLang 或 vLLM 加载；官方示例在 4 卡环境使用 TP=4、mem-fraction-static 0.8，工具调用解析器用 qwen3_coder。Hugging Face 上已有 47 个量化版本，可按显存选择 GGUF、AWQ 等格式。