全参数微调

微调时更新预训练模型的全部参数，而不是只训练其中一小部分。

微调是在预训练好的模型上，用下游任务数据继续训练。全参数微调指所有权重都参与更新，与之相对的是参数高效微调（PEFT，只训练少量新增或选定的参数，如 LoRA 低秩适配）。全参数微调可调的自由度最大，数据充足、目标任务和预训练差异大时往往效果最好，但代价高：每个参数都要存梯度和优化器状态，显存需求是推理的数倍，每个任务还得保存一整份模型；数据少时也更容易过拟合或出现灾难性遗忘（学了新任务、丢了旧能力）。VLA 迁移到新机器人或新任务时，全参数微调和 LoRA 是最常见的两种选择，要按显卡和数据量取舍。

例子OpenVLA（7B）论文里全参数微调要 8 张 A100 跑 5–15 小时，成功率 69.7%；LoRA 只训练 1.4% 的参数、单张 A100 即可，成功率 68.2%。openpi 仓库标注 π0 全参数微调需要 70 GB 以上显存，LoRA 约 22.5 GB。

也叫

全量微调、全参微调、Full-parameter Fine-Tuning

相关

微调、参数高效微调、低秩适配、灾难性遗忘、冻结骨干网络、监督微调

来源

LoRA: Low-Rank Adaptation of Large Language Models
OpenVLA: An Open-Source Vision-Language-Action Model
openpi GitHub README（显存需求表）

信息截至

2025