端侧部署

On-Device / Edge Deployment常用

把模型直接放在机器人自带的计算板上运行，而不是调用远程服务器

端侧部署指模型推理在机器人本体或就近设备上完成，典型硬件是 Jetson、RK3588 等嵌入式板卡。与之相对的是把图像传到云端或实验室 GPU 服务器、算完再把动作传回来。端侧的好处是延迟低、不怕断网、数据不出设备；代价是算力、显存和功耗都受限，大模型往往要经过量化、剪枝、蒸馏，再用 TensorRT、RKNN 等工具编译后才能跑到足够帧率。实际系统常把两者结合：小脑运控在端侧，大模型推理放云端或边缘服务器，即云边端协同。