香腸炒章魚

GPU 支援

TensorFlow GPU 支援需要各種驅動程式庫。為了簡化安裝並避免庫衝突，我們建議使用具有 GPU 支援的

TensorFlow Docker 映像（僅Linux）。此設定僅需要 NVIDIA®GPU 驅動程式。

這些安裝說明適用於 TensorFlow 的最新版本。請參閱經過測試的 CUDA® 和 cuDNN 版本的構建配置，以與較早的

TensorFlow 版本一起使用。

硬體需求

支援以下啟用 GPU 的設備：

★ 具有 CUDA® 架構 3.5、3.7、5.2、6.0、6.1、7.0 和 7.0 以上版本的 NVIDIA®GPU卡。請參閱支持 CUDA®的

GPU 卡列表 。

★ 在具有 NVIDIA®Ampere GPU（CUDA 架構 8.0）或更高版本的系統上，內核是通過 PTX 進行 JIT 編譯的，

TensorFlow 可能需要30分鐘以上才能啟動。

透過將預設 JIT 高速緩衝大小增加為 "export CUDA_CACHE_MAXSIZE=2147483648''，可以將此開銷限制為首

次啟動（有關詳細信息，請參見 JIT 高速緩衝）。

★ 對於具有不受支援的 CUDA® 架構的 GPU，或者為了避免從 PTX 進行 JIT 編譯，或者要使用不同版本的 NVIDIA®

庫，請參閱《Linux build from source》指南。

★ 除最新支援的 CUDA® 架構外，軟體包不包含 PTX 代碼；因此，設置後，TensorFlow 無法在較舊的 GPU 上加載

CUDA_FORCE_PTX_JIT=1。（有關詳細信息，請參見應用程序兼容性。）

軟體需求

系統上必須安裝以下 NVIDIA® 軟體：

NVIDIA®GPU 驅動程序—CUDA®10.1 需要 418.x 或更高版本。

CUDA® 工具包 -TensorFlow 支持 CUDA®10.1（TensorFlow> = 2.1.0）

CUPTI 隨附 CUDA® 工具包。

cuDNN SDK 7.6（請參閱 cuDNN 版本）。

（可選）TensorRT 6.0 可改善延遲和吞吐量，以在某些模型上進行推理。

Reference：https://www.tensorflow.org/install/gpu#hardware_requirements