下游任务

Downstream Task入门必知

预训练模型最终要拿去解决的具体任务，通常还要在它上面做适配或微调。

「下游」是相对「上游」的预训练说的：先在海量通用数据上训练出一个基础模型，再把它用到某个具体任务上，这个具体任务就叫下游任务。2021 年斯坦福牵头的基础模型综述，就把基础模型定义为在大规模广泛数据上训练、能适配多种下游任务的模型。适配方式有零样本直接用、给少量示例、微调等。在具身智能里，VLA 基础模型的下游任务通常是某台机器人上的具体操作，比如叠衣服、收拾餐桌，或 LIBERO 这类基准里的任务；论文常用「微调后在下游任务上的成功率」来衡量预训练值不值。