GPU 支援

TensorFlow GPU 支援需要各種驅動程式庫。為了簡化安裝並避免庫衝突,我們建議使用具有 GPU 支援

TensorFlow Docker 映像(僅Linux)。此設定僅需要 NVIDIA®GPU 驅動程式

這些安裝說明適用於 TensorFlow 的最新版本。請參閱經過測試的 CUDA® 和 cuDNN 版本的構建配置,以與較早的

TensorFlow 版本一起使用。

 

 

硬體需求

支援以下啟用 GPU 的設備:

★ 具有 CUDA® 架構 3.5、3.7、5.2、6.0、6.1、7.0 和 7.0 以上版本的 NVIDIA®GPU卡。請參閱支持 CUDA®的

GPU 卡列表 。

 

★ 在具有 NVIDIA®Ampere GPU(CUDA 架構 8.0)或更高版本的系統上,內核是通過 PTX 進行 JIT 編譯的,

TensorFlow 可能需要30分鐘以上才能啟動。

透過將預設 JIT 高速緩衝大小增加為 "export CUDA_CACHE_MAXSIZE=2147483648'',可以將此開銷限制為首

次啟動(有關詳細信息,請參見 JIT 高速緩衝)。

 

★ 對於具有不受支援的 CUDA® 架構的 GPU,或者為了避免從 PTX 進行 JIT 編譯,或者要使用不同版本的 NVIDIA®

庫,請參閱《Linux build from source》指南。

 

★ 除最新支援的 CUDA® 架構外,軟體包不包含 PTX 代碼;因此,設置後,TensorFlow 無法在較舊的 GPU 上加載

CUDA_FORCE_PTX_JIT=1。(有關詳細信息,請參見應用程序兼容性。)

 

 

軟體需求

系統上必須安裝以下 NVIDIA® 軟體:

NVIDIA®GPU 驅動程序—CUDA®10.1 需要 418.x 或更高版本。

CUDA® 工具包 -TensorFlow 支持 CUDA®10.1(TensorFlow> = 2.1.0)

CUPTI 隨附 CUDA® 工具包。

cuDNN SDK 7.6(請參閱 cuDNN 版本)。

(可選)TensorRT 6.0 可改善延遲和吞吐量,以在某些模型上進行推理。

 

 

Reference:https://www.tensorflow.org/install/gpu#hardware_requirements

    文章標籤

    [TensorFlow]

    全站熱搜

    mitblog 發表在 痞客邦 留言(1) 人氣()