GPU 支持 | TensorFlow


本站和网页 https://tensorflow.google.cn/install/gpu 的作者无关,不对其内容负责。快照谨为网络故障时之索引,不代表被搜索网站的即时页面。

GPU 支持 | TensorFlow
安装
学习
简介
TensorFlow 新手?
TensorFlow
核心的开源机器学习库
针对 JavaScript
使用 JavaScript 进行机器学习开发的 TensorFlow.js
针对移动设备和边缘设备
针对移动设备和边缘设备推出的 TensorFlow Lite
针对生产环境
针对端到端机器学习组件推出的 TensorFlow Extended
API
TensorFlow (v2.11.0)
Versions…
TensorFlow.js
TensorFlow Lite
TFX
资源
模型和数据集
由 Google 和社区构建的预训练模型和数据集
工具
由各种可助您使用 TensorFlow 的工具构成的生态系统
库和扩展程序
在 TensorFlow 基础上构建的库和扩展程序
TensorFlow 认证计划
拿下可证明您精通机器学习技术的证书,让自己脱颖而出
学习机器学习知识
帮助您掌握使用 TensorFlow 进行机器学习的基础知识教育资源
Responsible AI
帮助您在机器学习工作流中落实 Responsible AI 做法的资源和工具
社区
加入
探索参与其中的方式
博客
及时了解 TensorFlow 的所有资讯
论坛 ↗
TensorFlow 社区的讨论平台
群组
用户群组、兴趣小组和邮寄名单
贡献
关于贡献代码和文档的指南
选择 TensorFlow 的原因
简介
案例研究
English
Español – América Latina
Français
Português – Brasil
中文 – 简体
中文 – 繁體
日本語
한국어
GitHub
安装
学习
更多
API
更多
资源
更多
社区
更多
选择 TensorFlow 的原因
更多
GitHub
简介
TensorFlow
针对 JavaScript
针对移动设备和边缘设备
针对生产环境
TensorFlow (v2.11.0)
Versions…
TensorFlow.js
TensorFlow Lite
TFX
模型和数据集
工具
库和扩展程序
TensorFlow 认证计划
学习机器学习知识
Responsible AI
加入
博客
论坛 ↗
群组
贡献
简介
案例研究
Check out sessions from the WiML Symposium covering diffusion models with KerasCV, on-device ML, and more. Watch on demand
TensorFlow
GPU 支持
注意:对于 Ubuntu 和 Windows,需要安装支持 CUDA® 的显卡,才能实现 GPU 支持。
为了实现 TensorFlow GPU 支持,需要各种驱动程序和库。为了简化安装并避免库冲突,建议您使用支持 GPU 的 TensorFlow Docker 映像(仅限 Linux)。此设置方式只需要 NVIDIA® GPU 驱动程序。
这些安装说明适用于最新版 TensorFlow。如需了解可用于旧版 TensorFlow 的 CUDA® 和 cuDNN 版本,请参阅经过测试的构建配置。
pip 软件包
您可以参阅 pip 安装指南,了解可用的软件包、系统要求和说明。TensorFlow pip 软件包对采用 CUDA® 的显卡提供 GPU 支持:
pip install tensorflow
本指南将介绍最新稳定版 TensorFlow 的 GPU 支持和安装步骤。
旧版 TensorFlow
对于 1.15 及更早版本,CPU 和 GPU 软件包是分开的:
pip install tensorflow==1.15 # CPU
pip install tensorflow-gpu==1.15 # GPU
硬件要求
支持以下带有 GPU 的设备:
CUDA® 架构为 3.5、5.0、6.0、7.0、7.5、8.0 或更高的 NVIDIA® GPU 卡。请参阅支持 CUDA® 的 GPU 卡列表。
如果 GPU 采用的 CUDA® 架构不受支持,或为了避免从 PTX 进行 JIT 编译,亦或是为了使用不同版本的 NVIDIA® 库,请参阅在 Linux 下从源代码编译指南。
软件包不包含 PTX 代码,但最新支持的 CUDA® 架构除外;因此,如果设置了 CUDA_FORCE_PTX_JIT=1,TensorFlow 将无法在旧款 GPU 上加载。(有关详细信息,请参阅应用兼容性。)
注意:“状态:设备内核映像无效”错误消息表示 TensorFlow 软件包不包含适用于您的架构的 PTX。您可以通过从源代码构建 TensorFlow 启用计算功能。软件要求
必须在系统中安装以下 NVIDIA® 软件:
NVIDIA® GPU 驱动程序 - CUDA® 11.2 要求 450.80.02 或更高版本。
CUDA® 工具包:TensorFlow 支持 CUDA® 11.2(TensorFlow 2.5.0 及更高版本)
CUDA® 工具包附带的 CUPTI。
cuDNN SDK 8.1.0
cuDNN 版本。
(可选)TensorRT 6.0,可缩短用某些模型进行推断的延迟时间并提高吞吐量。
Linux 设置
若要在 Ubuntu 上安装所需的 NVIDIA 软件,最简单的方法是使用下面的 apt 指令。但是,如果从源代码构建 TensorFlow,请手动安装上述软件要求中列出的软件,并考虑以 -devel TensorFlow Docker 映像作为基础。
安装 CUDA® 工具包附带的 CUPTI,并将其安装目录附加到 $LD_LIBRARY_PATH 环境变量中:
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda/extras/CUPTI/lib64
使用 apt 安装 CUDA
本部分将介绍如何在 Ubuntu 16.04 和 18.04 上安装 CUDA® 11(TensorFlow 2.4.0 及更高版本)。这些说明可能适用于其他 Debian 系发行版。
注意:安全启动会使 NVIDIA 驱动程序的安装过程变复杂,不在这些说明的讨论范围内。
Ubuntu 18.04 (CUDA 11.0)
# Add NVIDIA package repositories
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/cuda-ubuntu1804.pin
sudo mv cuda-ubuntu1804.pin /etc/apt/preferences.d/cuda-repository-pin-600
sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/7fa2af80.pub
sudo add-apt-repository "deb https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/ /"
sudo apt-get update
wget http://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1804/x86_64/nvidia-machine-learning-repo-ubuntu1804_1.0.0-1_amd64.deb
sudo apt install ./nvidia-machine-learning-repo-ubuntu1804_1.0.0-1_amd64.deb
sudo apt-get update
wget https://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1804/x86_64/libnvinfer7_7.1.3-1+cuda11.0_amd64.deb
sudo apt install ./libnvinfer7_7.1.3-1+cuda11.0_amd64.deb
sudo apt-get update
# Install development and runtime libraries (~4GB)
sudo apt-get install --no-install-recommends \
cuda-11-0 \
libcudnn8=8.0.4.30-1+cuda11.0 \
libcudnn8-dev=8.0.4.30-1+cuda11.0
# Reboot. Check that GPUs are visible using the command: nvidia-smi
# Install TensorRT. Requires that libcudnn8 is installed above.
sudo apt-get install -y --no-install-recommends libnvinfer7=7.1.3-1+cuda11.0 \
libnvinfer-dev=7.1.3-1+cuda11.0 \
libnvinfer-plugin7=7.1.3-1+cuda11.0
Ubuntu 16.04 (CUDA 11.0)
# Add NVIDIA package repositories
# Add HTTPS support for apt-key
sudo apt-get install gnupg-curl
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/cuda-ubuntu1604.pin
sudo mv cuda-ubuntu1604.pin /etc/apt/preferences.d/cuda-repository-pin-600
sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/7fa2af80.pub
sudo add-apt-repository "deb https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/ /"
sudo apt-get update
wget https://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1604/x86_64/nvidia-machine-learning-repo-ubuntu1604_1.0.0-1_amd64.deb
sudo apt install ./nvidia-machine-learning-repo-ubuntu1604_1.0.0-1_amd64.deb
sudo apt-get update
wget https://developer.download.nvidia.com/compute/machine-learning/repos/ubuntu1604/x86_64/libnvinfer7_7.1.3-1+cuda11.0_amd64.deb
sudo apt install ./libnvinfer7_7.1.3-1+cuda11.0_amd64.deb
sudo apt-get update
# Install development and runtime libraries (~4GB)
sudo apt-get install --no-install-recommends \
cuda-11-0 \
libcudnn8=8.0.4.30-1+cuda11.0 \
libcudnn8-dev=8.0.4.30-1+cuda11.0
# Reboot. Check that GPUs are visible using the command: nvidia-smi
# Install TensorRT. Requires that libcudnn7 is installed above.
sudo apt-get install -y --no-install-recommends \
libnvinfer7=7.1.3-1+cuda11.0 \
libnvinfer-dev=7.1.3-1+cuda11.0 \
libnvinfer-plugin7=7.1.3-1+cuda11.0 \
libnvinfer-plugin-dev=7.1.3-1+cuda11.0
Windows 设置
请参阅上面列出的硬件要求和软件要求,并阅读适用于 Windows 的 CUDA® 安装指南。
确保安装的 NVIDIA 软件包与上面列出的版本一致。特别是,如果没有 cuDNN64_8.dll 文件,TensorFlow 将无法加载。如需使用其他版本,请参阅在 Windows 下从源代码构建指南。
将 CUDA®、CUPTI 和 cuDNN 安装目录添加到 %PATH% 环境变量中。例如,如果 CUDA® 工具包安装到 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0,并且 cuDNN 安装到 C:\tools\cuda,请更新 %PATH% 以匹配路径:
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\bin;%PATH%
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\extras\CUPTI\lib64;%PATH%
SET PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\include;%PATH%
SET PATH=C:\tools\cuda\bin;%PATH%
Except as otherwise noted, the content of this page is licensed under the Creative Commons Attribution 4.0 License, and code samples are licensed under the Apache 2.0 License. For details, see the Google Developers Site Policies. Java is a registered trademark of Oracle and/or its affiliates.
Last updated 2021-10-06 UTC.
[]
[]
掌握动态
博客
GitHub
Twitter
哔哩哔哩
支持
问题跟踪器
版本说明
Stack Overflow
品牌指南
引用 TensorFlow
条款
隐私权政策
ICP证合字B2-20070004号
订阅 TensorFlow 简报
订阅
English
Español – América Latina
Français
Português – Brasil
中文 – 简体
中文 – 繁體
日本語
한국어

Copyright ©uecom 京ICP备18064371号-3 IPV6
2024-03-29 21:58:07
zxsbr.com
10.0.12.16