元学习

让模型在大量任务上练出「快速学会新任务」的能力，而不只学会某一个任务。

元学习又叫「学会学习」：训练时不盯着单个任务，而是让模型在许多相关的小任务上反复经历「看少量样本、适应、检验」，学到的是能迅速适应新任务的初始化、更新规则或记忆方式。常见路线分三类：基于度量（如原型网络）、基于模型（用外部记忆或快速权重）、基于优化。最有名的是 Finn、Abbeel、Levine 2017 年提出的 MAML，它直接训练一组初始参数，使模型在新任务上只用几步梯度下降、少量数据就能表现好。机器人数据昂贵，元学习曾是少样本学技能的主要思路，单样本模仿学习、元强化学习都建立在它之上；也有研究把大模型的上下文学习看作隐式元学习。

例子Finn 等人 2017 年用 MAML 做「元模仿学习」：机器人先在许多任务的演示上元训练，测试时只看新任务的一段视觉演示，就能端到端学会这个任务。

也叫

学会学习、Learning to Learn

相关

少样本、单样本模仿学习、元强化学习、上下文学习、迁移学习、多任务学习

来源

Finn et al. 2017: Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks (MAML)
Lilian Weng: Meta-Learning: Learning to Learn Fast (2018)
Finn et al. 2017: One-Shot Visual Imitation Learning via Meta-Learning