损失函数

把模型预测和正确答案的差距算成一个数，训练就是不断把它调小。

损失函数衡量模型一次预测错得有多厉害，输出一个实数，差距越大数值越大。训练时，反向传播算出损失对每个参数的梯度，优化器沿着让损失变小的方向更新参数，反复进行直到损失不再明显下降。回归连续数值常用均方误差（MSE）或 L1 损失，分类或预测下一个 token 常用交叉熵。「目标函数」更宽泛，既可以是要最小化的损失，也可以是要最大化的量，比如强化学习里的累计奖励。在具身模型里，损失的选法直接影响动作质量：ACT 用 L1 损失回归动作，扩散策略和流匹配模型则用去噪损失或流匹配损失。

例子ACT 论文发现，回归动作序列时用 L1 损失比更常见的 L2（均方误差）损失建模得更精确，因此改用 L1。

也叫

loss、目标函数、代价函数、Cost Function

相关

均方误差、L1 损失、交叉熵、去噪损失、梯度下降、反向传播

来源

Google Machine Learning Glossary: loss function
Wikipedia: Loss function
Zhao et al. 2023: Learning Fine-Grained Bimanual Manipulation with Low-Cost Hardware (ACT)