离散余弦变换
Discrete Cosine TransformDCT进阶把一段信号拆成不同频率余弦波加权和的变换,常用于数据压缩。
离散余弦变换最早由 Nasir Ahmed 构想,1974 年他与 Natarajan、Rao 发表论文正式提出。它把一段离散信号表示成一组频率由低到高的余弦波的加权和,这组权重就是 DCT 系数。对平滑的信号,大部分能量集中在少数低频系数上,把高频的小系数舍掉或粗略量化,就能在损失很小的情况下大幅压缩,JPEG 图片和 MPEG、H.26x 视频都依赖它。具身领域用它来表示动作:高频控制下相邻时刻的动作很相似,逐步离散化会产生大量冗余 token。Physical Intelligence 2025 年提出的 FAST 分词器先对动作块做 DCT,再量化并用字节对编码压缩,让自回归 VLA 能学好高频灵巧任务。
例子FAST 对动作块逐维做 DCT,量化后保留低频系数、多数高频系数变成 0,再用字节对编码压成少量 token;论文称配合 π0 在 1 万小时数据上训练时,效果与扩散版相当,训练时间最多缩短 5 倍。
- 也叫
- DCT 变换
- 相关
- 动作分词器、π0-FAST、字节对编码、分箱离散化、动作表示、动作分块
- 来源
- Discrete cosine transform - Wikipedia
FAST: Efficient Action Tokenization for Vision-Language-Action Models (arXiv:2501.09747)