过拟合

模型把训练数据记得太死，换到没见过的新数据上就表现变差。

过拟合指模型对训练数据拟合得过于紧密，连其中的噪声和偶然细节都记住了，结果在没见过的数据上预测不准。典型信号是训练损失一直下降，验证集损失却开始上升；数据少、模型大、训练轮次多时最容易出现。常用对策有增加数据或做数据增强、正则化、随机失活（Dropout）、早停，以及用验证集挑选检查点。具身智能里这个问题很突出：真机演示往往只有几十到几百条，策略容易记住演示时的摆放位置、光照和背景，物体挪几厘米或换块桌布就失败，所以论文会专门测位置泛化、场景泛化。反过来，模型连训练数据都学不好叫欠拟合。

例子比如只用 50 条演示、杯子始终放在同一位置来训练抓杯策略，训久了在原位置几乎每次都成功，杯子挪开 10 厘米就抓空：策略记住的是那条固定轨迹，而不是「找到杯子再去抓」。

也叫

过度拟合

相关

欠拟合、泛化、正则化、早停、数据增强、训练集 / 验证集 / 测试集

来源

Google Machine Learning Glossary: overfitting
Wikipedia: Overfitting