具身智能新手名词表English

动作专家

Action Expert入门必知

VLA 里专门负责生成连续动作的一组独立参数,与看图读指令的主干分工。

动作专家这个说法因 Physical Intelligence 2024 年的 π0 流行开来。π0 以约 30 亿参数的 PaliGemma 视觉语言模型为主干,另加一组约 3 亿参数、从零初始化的 Transformer 权重,专门处理机器人状态和动作 token,这组权重就叫动作专家。两部分在同一套注意力层里交换信息,但各用各的权重,类似只有两个专家的混合专家;信息单向流动:动作 token 能看到图文 token,反过来不行,以免主干偏离原来的预训练。动作专家用流匹配生成连续的动作块;论文发现,给状态和动作 token 单独配一组权重,比和主干共用权重效果更好。π0.5、SmolVLA 等沿用了这个名字,GR00T N1 的动作模块也是同类设计。

例子π0 推理时,PaliGemma 主干先编码相机图像和语言指令,动作专家再用 10 步流匹配积分输出 50 步长的连续动作块,控制频率最高可达 50Hz。

也叫
动作专家模块
相关
视觉-语言-动作模型、动作头、流匹配、混合专家模型、π0、骨干网络
来源
π0: A Vision-Language-Action Flow Model for General Robot Control (arXiv 2410.24164)
π0 论文 HTML 全文(动作专家参数量与结构)

在完整名词表里查看 →