GPU 是什么？
GPU（Graphics Processing Unit，图形处理器）是一种专门为高度并行计算设计的处理器。与 CPU 拥有少量但强大的核心不同，GPU 拥有数千个简单核心，可以同时执行大量相同的计算任务，非常适合深度学习中的矩阵运算。
GPU 在 AI 中的角色
训练大模型：训练 GPT-4、Claude 等大模型需要数千张 GPU（通常是 NVIDIA A100 或 H100）并行工作数周甚至数月。推理加速：在消费级 GPU（如 RTX 4090）上可以本地运行中小规模模型（如 7B-70B 参数）。个人 AI 工作站：一张高端 GPU 可以运行 Stable Diffusion、LLaMA 等开源模型，无需依赖云端 API。
主流 AI GPU
NVIDIA H100：目前最强的 AI 训练 GPU，80GB HBM3 显存，专为大模型训练设计。NVIDIA A100：上一代旗舰，仍是训练大模型的主流选择。RTX 4090：消费级旗舰，24GB 显存，适合本地运行中小模型。AMD Instinct：AMD 的 AI GPU 系列，性价比有优势但软件生态不及 NVIDIA。
GPU vs TPU
TPU（Tensor Processing Unit）是 Google 专门为 TensorFlow 设计的 AI 加速芯片，仅在 Google Cloud 上可用。GPU 则是通用性更强的选择，几乎支持所有深度学习框架。