分布内
In-distributionID常用测试时遇到的情况和训练数据来自同一分布,也就是模型「见过类似的」。
机器学习默认训练数据和测试数据来自同一个概率分布,满足这个条件的测试样本就叫分布内(ID);来自不同分布的叫分布外(OOD)。Yang 等人的 OOD 检测综述(2021)把分布变化分成两类:协变量偏移(输入的样子变了,比如光照、背景、相机换了,但任务类别没变)和语义偏移(出现了训练里没有的新类别)。在机器人里,「分布内」通常指测试时的物体、场景、摆放位置和指令都落在训练演示覆盖的范围内。很多策略在分布内成功率很高,一换桌布、换物体就大幅下降,所以论文常把分布内和分布外的结果分开报告,用来衡量泛化能力。它和泛化、分布外、分布偏移、长尾问题直接相关。
例子用 50 条演示训练机械臂把红色方块放进盘子,测试时仍是同一张桌子、同一个红方块、位置在训练范围内,这就是分布内测试;换成没见过的绿色杯子就属于分布外。
- 也叫
- 分布内数据、同分布
- 相关
- 分布外、泛化、分布偏移(协变量偏移)、长尾问题、鲁棒性、物体泛化
- 来源
- Generalized Out-of-Distribution Detection: A Survey (Yang et al.)