CUDA

Compute Unified Device Architecture入门必知

英伟达的 GPU 通用计算平台，让深度学习能在显卡上跑

CUDA 是英伟达推出的并行计算平台和编程模型，包括编译器、运行时库和数学库，让程序员能用 C/C++ 等语言直接调用英伟达 GPU 做通用计算。深度学习里的大量矩阵运算靠 GPU 并行加速，PyTorch 等框架在英伟达显卡上调用的就是 CUDA 及其配套库（如做神经网络算子的 cuDNN）。新人最常在装环境时碰到它：pip 装的 GPU 版 PyTorch 自带对应的 CUDA 运行库，只要显卡驱动够新、支持这个 CUDA 版本就能用，驱动太旧会报错或只能用 CPU；自己编译 CUDA 扩展时，本机 CUDA Toolkit 的版本才需要和 PyTorch 对上。仿真里的 GPU 并行（如 Isaac Lab）和部署加速（如 TensorRT）也都建立在 CUDA 之上。