TFDS(TensorFlow Datasets)
TensorFlow Datasets (TFDS)TFDS进阶谷歌的开源数据集库,一行代码下载并加载成可训练的数据管道。
TFDS 是谷歌维护的开源数据集库,收录上千个现成数据集,涵盖图像、文本、音频、机器人等。每个数据集有一个构建器(builder),负责下载原始数据、按固定流程转换并存成 TFRecord 或 ArrayRecord 分片;调用 tfds.load 就得到 tf.data.Dataset,也能转成 NumPy 给 JAX、PyTorch 用,并附带版本号和元数据。它是包在 tf.data 外面的一层,不是 tf.data 本身。具身领域的 RLDS 格式和 Open X-Embodiment 数据集都按 TFDS 规范发布,Octo、OpenVLA 的训练代码也通过它读数据。
例子用 tfds.builder_from_directory 指向 Open X-Embodiment 在谷歌云存储上的 fractal20220817_data 目录,就能按 episode 遍历 RT-1 数据集的图像、语言指令和动作。
- 也叫
- tensorflow_datasets、tfds
- 相关
- RLDS 格式、TFRecord 格式、Open X-Embodiment 数据集、TensorFlow、LeRobot 数据集格式
- 来源
- TensorFlow Datasets Overview
google-deepmind/open_x_embodiment (GitHub)
google-research/rlds (GitHub)