低秩适配

冻结大模型原有权重，只训练旁路插入的两个小矩阵来完成微调。

LoRA 由微软的 Edward Hu 等人在 2021 年提出，是最常用的参数高效微调方法。做法是冻结预训练权重 W，在选定的层（常见是 Transformer 注意力里的投影矩阵）旁边加一条旁路 B·A：A、B 是两个很窄的矩阵，秩 r 远小于原矩阵的维度，微调时只训练它们；训练完可以把 B·A 直接加回 W，推理时不增加额外延迟。论文报告，与用 Adam 全量微调 GPT-3 175B 相比，可训练参数减少约 1 万倍，显存需求降到约三分之一。对具身智能来说，VLA 大多建立在数十亿参数的视觉语言模型上，LoRA 让普通实验室也能用单张消费级显卡把模型适配到自己的机器人和任务上。

例子OpenVLA 论文中，rank 32 的 LoRA 只训练约 1.4% 的参数，成功率 68.2%，与全参数微调的 69.7% 基本持平；openpi 给出的 π0 LoRA 微调显存需求为 22.5GB 以上，可在 RTX 4090 上跑，全参数微调则需要 70GB 以上。

也叫

LoRA 微调、低秩自适应、低秩适应

相关

参数高效微调、全参数微调、适配器、微调、冻结骨干网络、OpenVLA

来源

LoRA: Low-Rank Adaptation of Large Language Models (arXiv 2106.09685)
OpenVLA: An Open-Source Vision-Language-Action Model (arXiv 2406.09246)
openpi（Physical Intelligence 官方仓库，显存需求表）