运行部署

在x86平台上,SDK使用NVIDIA® TensorRT™推理加速引擎,因此必须安装GPU显卡驱动,以及CUDA/cuDNN/TensorRT运行时库。

安装显卡驱动

  1. 去官网下载: NVIDIA download drivers

  2. 在下拉菜单中选择图形处理器和操作系统版本,参考 GPU显卡选型建议

  3. 按照网页上的指示下载并安装NVIDIA图形驱动程序。有关更多信息,请选择附加信息选项卡,以获得安装驱动程序的详细说明。

  4. 重新启动系统以确保显卡驱动程序生效。

安装CUDA/cuDNN/TensorRT

Windows

  1. 下载 Windows平台CUDA/cuDNN/TensorRT运行时库

  2. 解压到c:\cuda,并添加到系统环境变量PATH,注意必须加到PATH最前面位置。

Linux

  1. 下载 Linux平台CUDA/cuDNN/TensorRT运行时库

  2. 解压到/opt/cuda,并添加到系统环境变量PATH,注意必须加到PATH最前面位置。