您的当前位置:首页正文

【1.4 Getting Started--->Support Matrix】

2024-12-12 来源:个人技术集锦

主页:
这些支持矩阵概述了 TensorRT API、解析器和层支持的平台、特性和硬件功能。

Abstract

这些支持矩阵概述了 TensorRT API、解析器和层所支持的平台、功能和硬件功能。

有关之前发布的 TensorRT 文档,请参阅 。

1. Features for Platforms and Software

本节列出了所支持的 NVIDIA® TensorRT™ 功能(基于平台和软件)。

  • 序列化引擎无法跨平台移植。
  • 如果使用版本兼容标志创建序列化引擎,它可以与同一主要版本中的较新版本的 TensorRT 一起运行。
  • 如果在启用硬件兼容模式的情况下创建序列化引擎,它可以在多种 GPU架构上运行;具体情况取决于所使用的硬件兼容级别。否则,序列化引擎无法跨设备移植。
  • 有关特定 版本,请参阅说明中的​​最低兼容驱动程序版本。

2. Hardware and Precision

下表列出了 NVIDIA 硬件以及每种硬件支持的精度模式。TensorRT 已编译为支持所有具有 SM 7.0 或更高功能的 NVIDIA 硬件。该表还列出了此硬件上 DLA 的可用性。有关具体信息,请参阅下表。

3. Compute Capability Per Platform

本节列出了基于平台支持的计算能力。

4. Software Versions Per Platform

本节列出了基于平台支持的软件版本。

5. ONNX Operator Support

TensorRT 的 ONNX 运算符支持列表可在找到。

显示全文