TOPS(每秒万亿次运算)
Tera Operations Per SecondTOPS常用衡量 AI 芯片算力的单位,表示每秒能做多少万亿次运算。
TOPS 是 AI 芯片最常见的宣传指标,1 TOPS 表示每秒一万亿次运算,通常按 INT8(8 位整数)精度计算,也有厂商按更低的 INT4、FP4 精度标注,数字会更大。它和 TFLOPS(每秒万亿次浮点运算)不是一回事,比较时要看清精度。TOPS 是理论峰值,模型实际跑多快还取决于内存带宽、软件栈和算子支持,所以只能粗看。挑机器人主控时,TOPS 用来初步判断能不能在本体上跑视觉模型或 VLA。
例子英伟达 Jetson AGX Orin 64GB 标称 275 TOPS(INT8 稀疏),是很多人形机器人的主控选择。
- 也叫
- 算力单位
- 相关
- 主控、片上系统(SoC)、浮点算力(FLOPS / TFLOPS)、数值精度格式(FP32 / FP16 / BF16 / FP8 / INT8 / INT4)、Jetson Orin、端侧部署
- 来源
- NVIDIA Jetson Orin