具身智能新手名词表English

昇腾 CANN

Compute Architecture for Neural Networks (Huawei Ascend)CANN进阶

华为昇腾 NPU 的底层计算架构和算子编译工具链。

全称 Compute Architecture for Neural Networks,是华为为昇腾(Ascend)AI 处理器做的异构计算软件栈,地位类似英伟达的 CUDA 加 cuDNN:底下对接昇腾芯片,上面支撑 MindSpore、PyTorch 等框架。内容包括编程接口 AscendCL、图编译与优化引擎、算子加速库,以及自己写算子用的 Ascend C。对具身智能的意义是国产算力路线上的部署基座:模型要在昇腾板卡或服务器上跑,就得经 CANN 转换、编译、调优,角色对应 TensorRT 之于英伟达、RKNN-Toolkit 之于瑞芯微。

例子把 PyTorch 训好的视觉模型导出后用 CANN 工具链转成昇腾离线模型,在昇腾板卡上推理。

也叫
CANN
相关
算子、昇思 MindSpore、TensorRT、推理部署、端侧部署、华为
来源
昇腾 CANN 异构计算架构(华为昇腾社区)

在完整名词表里查看 →