具身智能新手名词表English

Something-Something V2 数据集

Something-Something V2SSv2进阶

约 22 万段人手摆弄日常物品的短视频,按 174 种动作模板标注。

Something-Something V2 是 TwentyBN(20BN)公司发布的动作识别视频数据集,现由高通(Qualcomm)提供下载。它含 220,847 段短视频,每段由众包人员按给定的动作模板自己拍摄,如「把某物放进某物」「把某物倒过来」,共 174 类。模板里的物体被抽象成「某物」,模型没法靠认出物体来猜答案,必须看懂手和物体之间的动作与先后顺序,所以常用来测试视频模型的时序理解。在具身智能里,它被当作人类操作视频的来源:视频没有机器人动作标签,但包含大量手-物交互,可用于视觉表征预训练和潜在动作预训练。

例子LAPA 只用 SSv2 的约 22 万段人类视频做潜在动作预训练,再在机器人数据上微调,项目页称其平均表现超过在 Bridge 数据上训练的 OpenVLA。

也叫
20BN-something-something V2、Sth-Sth V2
相关
人类视频数据、无动作标签视频、潜在动作预训练、LAPA、Ego4D 数据集、EPIC-KITCHENS 数据集
来源
The something something video database for learning and evaluating visual common sense (arXiv 1706.04261)
Hugging Face: something_something_v2 数据集卡片
LAPA: Latent Action Pretraining from Videos(项目页)
信息截至
2024-10

在完整名词表里查看 →