什么是灾难性遗忘？
灾难性遗忘（Catastrophic Forgetting）是神经网络在学习新信息时突然忘记已有知识的现象。当一个模型被训练完成一个任务后，再训练它学习另一个任务，它在新任务上表现良好，但在旧任务上的性能可能急剧下降——就像学生学了高等数学后，突然连小学数学都不会做了。
为什么会产生灾难性遗忘？
神经网络的权重是共享的——同一个参数同时参与所有任务的计算。当模型为适应新任务调整权重时，为旧任务学到的权重配置被"覆盖"了。与人类大脑不同，人工神经网络缺乏稳固的长期记忆机制来保护已有知识。
灾难性遗忘的解决方案
经验重放（Experience Replay）：在训练新任务时，定期回顾旧任务的训练数据，保持对旧知识的记忆。弹性权重巩固（EWC）：识别对旧任务最重要的权重参数，在训练新任务时尽量不改变这些权重。渐进式网络：为新任务新增网络分支，不修改旧任务的网络结构。多任务联合训练：始终同时训练所有任务的数据。模型融合：分别为不同任务训练独立的模型，然后用模型融合技术合并。