参数高效微调

冻结大模型的大部分参数，只训练极少量新增或选定的参数来适配新任务。

参数高效微调是一类微调方法的统称：预训练好的大模型参数基本冻结，只训练一小部分参数，让模型适应新任务。常见做法有四种：插入小模块（适配器）、在输入前拼接可学习向量（提示微调）、用低秩矩阵表示权重的改动（LoRA）、只放开少数原有参数（如只调偏置）。它针对的是全参数微调太贵的问题：显存、算力和「每个任务存一整份权重」的存储开销都大幅下降，效果常能接近全参数微调。Hugging Face 的 PEFT 库集成了多种此类方法。把开源 VLA 迁移到自家机器人时，最常用的就是 LoRA。

例子OpenVLA 论文中，用 LoRA 只更新约 1.4% 的参数、在单张 A100 上训练 10–15 小时，任务成功率 68.2%，与全参数微调的 69.7% 相近；后者要两张 GPU、约 163 GB 显存。

也叫

高效微调、轻量微调

相关

低秩适配、适配器、提示微调 / 软提示、全参数微调、冻结骨干网络、微调

来源

Hugging Face PEFT 文档
Han et al. 2024: Parameter-Efficient Fine-Tuning for Large Models: A Comprehensive Survey
Kim et al. 2024: OpenVLA: An Open-Source Vision-Language-Action Model