零样本
Zero-shot入门必知不给新任务或新环境任何训练样本,模型直接上手完成。
零样本原本是机器学习里的概念:模型测试时要识别训练中从没见过的类别,靠属性、文字描述等辅助信息把已学知识迁移过去,2009 年 Palatucci 等人的 NIPS 论文使用了「zero-shot learning」这一说法。到了大模型和具身智能时代,含义扩展为「新任务、新物体或新场景不再采数据、不再微调,拿来就用」。例如通用策略在没见过的厨房里直接开抽屉,就叫零样本泛化。它与少样本(给几条示例)相对,常用来衡量机器人基础模型的泛化能力。读论文要留意:有的「零样本」只指场景没见过,任务类型训练时其实见过。
例子Robot Utility Models 为开柜门、开抽屉等 5 类任务各训练一个策略,不再采数据也不微调,直接部署到没见过的新环境,报告平均成功率约 90%。
- 也叫
- 零样本泛化、零次学习、零样本学习、Zero-shot Learning、Zero-shot Generalization
- 相关
- 少样本、泛化、分布外、开放词汇、微调、通用策略(通才策略)
- 来源
- Zero-shot learning - Wikipedia
Robot Utility Models: General Policies for Zero-Shot Deployment in New Environments