什么是涌现能力？
涌现能力（Emergence）是指大模型在参数规模达到某个临界点后，突然展现出之前完全不具有的能力。这些能力不是被刻意训练的，而是随着模型规模的自然增长而"涌现"出来的。这是大模型最令人惊讶和兴奋的特性之一。
涌现能力的例子
思维链推理：小模型（如 <10B 参数）在进行多步推理时表现很差，但当模型规模超过某个阈值后，突然能够进行复杂推理。而且这种能力不是平滑增长的——在阈值以下几乎为零，超过阈值后突然大幅提升。
上下文学习：小模型在少样本学习（Few-shot Learning）上表现有限，大模型展现出极强的"看几个例子就学会新任务"的能力。
代码生成：小模型在代码生成上表现很差，大模型突然能编写复杂的、可运行的代码。
翻译能力：在多语言训练数据中，模型可能学会翻译没有被显式训练过的语言对。
为什么会产生涌现？
涌现能力的确切原因仍在研究中，但主流观点认为：当模型规模足够大时，它学习到的知识和模式之间存在"组合效应"——单独的知识点组合起来产生了新的能力。就像人类大脑中，单个神经元没有意识，但数十亿个神经元的组合产生了意识。
涌现能力的影响
涌现能力是大模型"规模法则"（Scaling Law）的核心驱动力，也是为什么 AI 公司不断追求更大模型的原因。但同时，涌现能力也带来了不可预测性——我们无法准确预测一个更大的模型会涌现出什么新能力，这既是机遇也是挑战。