- Apache MXNet 教程
- Apache MXNet - 首页
- Apache MXNet - 简介
- Apache MXNet - MXNet安装
- Apache MXNet - 工具包和生态系统
- Apache MXNet - 系统架构
- Apache MXNet - 系统组件
- Apache MXNet - 统一算子API
- Apache MXNet - 分布式训练
- Apache MXNet - Python 包
- Apache MXNet - NDArray
- Apache MXNet - Gluon
- Apache MXNet - KVStore 和可视化
- Apache MXNet - Python API ndarray
- Apache MXNet - Python API gluon
- Apache MXNet - Python API autograd 和初始化器
- Apache MXNet - Python API Symbol
- Apache MXNet - Python API Module
- Apache MXNet 有用资源
- Apache MXNet - 快速指南
- Apache MXNet - 有用资源
- Apache MXNet - 讨论
Apache MXNet - MXNet安装
要开始使用 MXNet,首先需要在计算机上安装它。Apache MXNet 几乎适用于所有平台,包括 Windows、Mac 和 Linux。
Linux操作系统
我们可以通过以下方式在 Linux 操作系统上安装 MXNet:
图形处理单元 (GPU)
这里,我们将使用 Pip、Docker 和源码三种方法来安装使用 GPU 进行处理的 MXNet:
使用 Pip 方法
您可以使用以下命令在您的 Linux 系统上安装 MXNet:
pip install mxnet
Apache MXNet 还提供 MKL pip 包,在英特尔硬件上运行时速度更快。例如,mxnet-cu101mkl 表示:
该软件包使用 CUDA/cuDNN 构建
该软件包启用了 MKL-DNN
CUDA 版本为 10.1
其他选项,您还可以参考 https://pypi.ac.cn/project/mxnet/。
使用 Docker
您可以在 DockerHub 上找到带有 MXNet 的 Docker 镜像,网址为 https://hub.docker.com/u/mxnet。让我们看看下面使用 Docker 和 GPU 安装 MXNet 的步骤:
步骤 1 - 首先,按照位于 https://docs.docker.net.cn/engine/install/ubuntu/ 的 Docker 安装说明,我们需要在我们的机器上安装 Docker。
步骤 2 - 为了能够从 Docker 容器中使用 GPU,接下来我们需要安装 nvidia-docker-plugin。您可以按照 https://github.com/NVIDIA/nvidia-docker/wiki 中提供的安装说明进行操作。
步骤 3 - 使用以下命令,您可以拉取 MXNet Docker 镜像:
$ sudo docker pull mxnet/python:gpu
现在,为了查看 mxnet/python docker 镜像是否成功拉取,我们可以列出 docker 镜像,如下所示:
$ sudo docker images
为了获得 MXNet 最快的推理速度,建议使用最新的带有 Intel MKL-DNN 的 MXNet。请查看以下命令:
$ sudo docker pull mxnet/python:1.3.0_cpu_mkl $ sudo docker images
从源码编译
要从源码构建带有 GPU 的 MXNet 共享库,首先需要按照如下步骤设置 CUDA 和 cuDNN 的环境:
下载并安装 CUDA 工具包,这里推荐 CUDA 9.2。
接下来下载 cuDNN 7.1.4。
现在我们需要解压缩文件。还需要切换到 cuDNN 根目录。并将头文件和库文件移动到本地 CUDA 工具包文件夹,如下所示:
tar xvzf cudnn-9.2-linux-x64-v7.1 sudo cp -P cuda/include/cudnn.h /usr/local/cuda/include sudo cp -P cuda/lib64/libcudnn* /usr/local/cuda/lib64 sudo chmod a+r /usr/local/cuda/include/cudnn.h /usr/local/cuda/lib64/libcudnn* sudo ldconfig
设置好 CUDA 和 cuDNN 的环境后,请按照以下步骤从源码构建 MXNet 共享库:
步骤 1 - 首先,我们需要安装必要的软件包。这些依赖项在 Ubuntu 16.04 或更高版本上是必需的。
sudo apt-get update sudo apt-get install -y build-essential git ninja-build ccache libopenblas-dev libopencv-dev cmake
步骤 2 - 在这一步中,我们将下载 MXNet 源码并进行配置。首先,让我们使用以下命令克隆存储库:
git clone –recursive https://github.com/apache/incubator-mxnet.git mxnet cd mxnet cp config/linux_gpu.cmake #for build with CUDA
步骤 3 - 使用以下命令,您可以构建 MXNet 核心共享库:
rm -rf build mkdir -p build && cd build cmake -GNinja .. cmake --build .
关于上述步骤,有两点需要注意:
如果要构建 Debug 版本,则指定如下:
cmake -DCMAKE_BUILD_TYPE=Debug -GNinja ..
为了设置并行编译作业的数量,请指定以下内容:
cmake --build . --parallel N
成功构建 MXNet 核心共享库后,在您的 **MXNet 项目根目录** 的 **build** 文件夹中,您将找到 **libmxnet.so**,这是安装语言绑定(可选)所需的。
中央处理器 (CPU)
这里,我们将使用 Pip、Docker 和源码三种方法来安装使用 CPU 进行处理的 MXNet:
使用 Pip 方法
您可以使用以下命令在您的 Linux 系统上安装 MXNet:
pip install mxnet
Apache MXNet 还提供启用了 MKL-DNN 的 pip 包,在英特尔硬件上运行时速度更快。
pip install mxnet-mkl
使用 Docker
您可以在 DockerHub 上找到带有 MXNet 的 Docker 镜像,网址为 https://hub.docker.com/u/mxnet。让我们看看下面使用 Docker 和 CPU 安装 MXNet 的步骤:
步骤 1 - 首先,按照位于 https://docs.docker.net.cn/engine/install/ubuntu/ 的 Docker 安装说明,我们需要在我们的机器上安装 Docker。
步骤 2 - 使用以下命令,您可以拉取 MXNet Docker 镜像:
$ sudo docker pull mxnet/python
现在,为了查看 mxnet/python docker 镜像是否成功拉取,我们可以列出 docker 镜像,如下所示:
$ sudo docker images
为了获得 MXNet 最快的推理速度,建议使用最新的带有 Intel MKL-DNN 的 MXNet。
请查看以下命令:
$ sudo docker pull mxnet/python:1.3.0_cpu_mkl $ sudo docker images
从源码编译
要从源码构建带有 CPU 的 MXNet 共享库,请按照以下步骤操作:
步骤 1 - 首先,我们需要安装必要的软件包。这些依赖项在 Ubuntu 16.04 或更高版本上是必需的。
sudo apt-get update sudo apt-get install -y build-essential git ninja-build ccache libopenblas-dev libopencv-dev cmake
步骤 2 - 在这一步中,我们将下载 MXNet 源码并进行配置。首先,让我们使用以下命令克隆存储库:
git clone –recursive https://github.com/apache/incubator-mxnet.git mxnet cd mxnet cp config/linux.cmake config.cmake
步骤 3 - 使用以下命令,您可以构建 MXNet 核心共享库:
rm -rf build mkdir -p build && cd build cmake -GNinja .. cmake --build .
关于上述步骤,有两点需要注意:
如果要构建 Debug 版本,则指定如下:
cmake -DCMAKE_BUILD_TYPE=Debug -GNinja ..
为了设置并行编译作业的数量,请指定以下内容:
cmake --build . --parallel N
成功构建 MXNet 核心共享库后,在您的 MXNet 项目根目录的 **build** 文件夹中,您将找到 **libmxnet.so**,这是安装语言绑定(可选)所需的。
MacOS
我们可以通过以下方式在 MacOS 上安装 MXNet:
图形处理单元 (GPU)
如果您计划在带有 GPU 的 MacOS 上构建 MXNet,则没有可用的 Pip 和 Docker 方法。在这种情况下,唯一的方法是从源码构建。
从源码编译
要从源码构建带有 GPU 的 MXNet 共享库,首先需要设置 CUDA 和 cuDNN 的环境。您需要按照位于 https://docs.nvidia.com 的 **NVIDIA CUDA 安装指南** 和位于 https://docs.nvidia.com/deeplearning 的 **cuDNN 安装指南** 进行操作(适用于 macOS)。
请注意,2019 年 CUDA 停止支持 macOS。事实上,未来的 CUDA 版本也可能不支持 macOS。
设置好 CUDA 和 cuDNN 的环境后,请按照以下步骤从源码在 OS X (Mac) 上安装 MXNet:
步骤 1 - 由于我们需要 OS X 上的一些依赖项,首先,我们需要安装必要的软件包。
xcode-select –-install #Install OS X Developer Tools /usr/bin/ruby -e "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/master/install)" #Install Homebrew brew install cmake ninja ccache opencv # Install dependencies
我们也可以在没有 OpenCV 的情况下构建 MXNet,因为 opencv 是一个可选的依赖项。
步骤 2 - 在这一步中,我们将下载 MXNet 源码并进行配置。首先,让我们使用以下命令克隆存储库:
git clone –-recursive https://github.com/apache/incubator-mxnet.git mxnet cd mxnet cp config/linux.cmake config.cmake
对于启用 GPU 的版本,必须先安装 CUDA 依赖项,因为当尝试在没有 GPU 的机器上构建启用 GPU 的版本时,MXNet 构建无法自动检测您的 GPU 架构。在这种情况下,MXNet 将针对所有可用的 GPU 架构。
步骤 3 - 使用以下命令,您可以构建 MXNet 核心共享库:
rm -rf build mkdir -p build && cd build cmake -GNinja .. cmake --build .
关于上述步骤,有两点需要注意:
如果要构建 Debug 版本,则指定如下:
cmake -DCMAKE_BUILD_TYPE=Debug -GNinja ..
为了设置并行编译作业的数量,请指定以下内容:
cmake --build . --parallel N
成功构建 MXNet 核心共享库后,在您的 **MXNet 项目根目录** 的 **build** 文件夹中,您将找到 **libmxnet.dylib**,这是安装语言绑定(可选)所需的。
中央处理器 (CPU)
这里,我们将使用 Pip、Docker 和源码三种方法来安装使用 CPU 进行处理的 MXNet:
使用 Pip 方法
您可以使用以下命令在您的 Linux 系统上安装 MXNet:
pip install mxnet
使用 Docker
您可以在 DockerHub 上找到带有 MXNet 的 Docker 镜像,网址为 https://hub.docker.com/u/mxnet。让我们看看下面使用 Docker 和 CPU 安装 MXNet 的步骤:
步骤 1 - 首先,按照位于 https://docs.docker.net.cn/docker-for-mac 的 **Docker 安装说明**,我们需要在我们的机器上安装 Docker。
步骤 2 - 使用以下命令,您可以拉取 MXNet Docker 镜像:
$ docker pull mxnet/python
现在,为了查看 mxnet/python docker 镜像是否成功拉取,我们可以列出 docker 镜像,如下所示:
$ docker images
为了获得 MXNet 最快的推理速度,建议使用最新的带有 Intel MKL-DNN 的 MXNet。请查看以下命令:
$ docker pull mxnet/python:1.3.0_cpu_mkl $ docker images
从源码编译
请按照以下步骤从源码在 OS X (Mac) 上安装 MXNet:
步骤 1 - 由于我们需要 OS X 上的一些依赖项,首先,我们需要安装必要的软件包。
xcode-select –-install #Install OS X Developer Tools /usr/bin/ruby -e "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/master/install)" #Install Homebrew brew install cmake ninja ccache opencv # Install dependencies
我们也可以在没有 OpenCV 的情况下构建 MXNet,因为 opencv 是一个可选的依赖项。
步骤 2 - 在这一步中,我们将下载 MXNet 源码并进行配置。首先,让我们使用以下命令克隆存储库:
git clone –-recursive https://github.com/apache/incubator-mxnet.git mxnet cd mxnet cp config/linux.cmake config.cmake
步骤 3 - 使用以下命令,您可以构建 MXNet 核心共享库:
rm -rf build mkdir -p build && cd build cmake -GNinja .. cmake --build .
关于上述步骤,有两点需要注意:
如果要构建 Debug 版本,则指定如下:
cmake -DCMAKE_BUILD_TYPE=Debug -GNinja ..
为了设置并行编译作业的数量,请指定以下内容:
cmake --build . --parallel N
成功构建 MXNet 核心共享库后,在您的 **MXNet 项目根目录** 的 **build** 文件夹中,您将找到 **libmxnet.dylib**,这是安装语言绑定(可选)所需的。
Windows操作系统
要在 Windows 上安装 MXNet,以下为先决条件:
最低系统要求
Windows 7、10、Server 2012 R2 或 Server 2016
Visual Studio 2015 或 2017(任何类型)
Python 2.7 或 3.6
pip
推荐系统要求
Windows 10、Server 2012 R2 或 Server 2016
Visual Studio 2017
至少一个支持 NVIDIA CUDA 的 GPU
启用 MKL 的 CPU:Intel® Xeon® 处理器、Intel® Core™ 处理器系列、Intel Atom® 处理器或 Intel® Xeon Phi™ 处理器
Python 2.7 或 3.6
pip
图形处理单元 (GPU)
使用 Pip 方法:
如果您计划在带有 NVIDIA GPU 的 Windows 上构建 MXNet,则可以使用 Python 包安装支持 CUDA 的 MXNet,有两种选择:
安装 CUDA 支持
以下是我们可以使用这些步骤设置支持 CUDA 的 MXNet 的方法。
步骤 1 - 首先安装 Microsoft Visual Studio 2017 或 Microsoft Visual Studio 2015。
步骤 2 - 接下来,下载并安装 NVIDIA CUDA。建议使用 CUDA 9.2 或 9.0 版本,因为过去已发现 CUDA 9.1 中存在一些问题。
步骤 3 - 现在,下载并安装 NVIDIA_CUDA_DNN。
步骤 4 - 最后,使用以下 pip 命令安装支持 CUDA 的 MXNet:
pip install mxnet-cu92
安装 CUDA 和 MKL 支持
以下是我们可以使用这些步骤设置支持 CUDA 和 MKL 的 MXNet 的方法。
步骤 1 - 首先安装 Microsoft Visual Studio 2017 或 Microsoft Visual Studio 2015。
步骤 2 - 接下来,下载并安装 intel MKL
步骤 3 - 现在,下载并安装 NVIDIA CUDA。
步骤 4 - 现在,下载并安装 NVIDIA_CUDA_DNN。
步骤 5− 最后,使用以下 pip 命令安装带有 MKL 的 MXNet。
pip install mxnet-cu92mkl
从源码编译
要从源代码构建带有 GPU 的 MXNet 核心库,我们有以下两个选项:
选项 1− 使用 Microsoft Visual Studio 2017 构建
要使用 Microsoft Visual Studio 2017 自行构建和安装 MXNet,您需要以下依赖项。
安装/更新 Microsoft Visual Studio。
如果您的计算机上尚未安装 Microsoft Visual Studio,请先下载并安装它。
系统会提示您安装 Git。也请安装它。
如果您的计算机上已经安装了 Microsoft Visual Studio,但您想更新它,请继续执行下一步以修改您的安装。在这里,您将有机会更新 Microsoft Visual Studio。
按照https://docs.microsoft.com/en-us 中提供的说明打开 Visual Studio Installer 以修改单个组件。
在 Visual Studio Installer 应用程序中,根据需要更新。之后,查找并选中VC++ 2017 version 15.4 v14.11 toolset,然后单击修改。
现在,使用以下命令将 Microsoft VS2017 的版本更改为 v14.11:
"C:\Program Files (x86)\Microsoft Visual Studio\2017\Community\VC\Auxiliary\Build\vcvars64.bat" -vcvars_ver=14.11
接下来,您需要下载并安装https://cmake.com.cn/download/ 上提供的CMake。建议使用https://cmake.com.cn/download/ 上提供的CMake v3.12.2,因为它已通过 MXNet 测试。
现在,下载并运行https://sourceforge.net/projects/opencvlibrary/ 上提供的OpenCV 包,这将解压缩多个文件。您可以选择是否将它们放在另一个目录中。这里,我们将使用路径C:\utils(mkdir C:\utils)作为我们的默认路径。
接下来,我们需要设置环境变量 OpenCV_DIR 以指向我们刚刚解压缩的 OpenCV 构建目录。为此,请打开命令提示符并键入set OpenCV_DIR=C:\utils\opencv\build。
重要的一点是,如果您没有安装 Intel MKL(数学内核库),则可以安装它。
您可以使用的另一个开源包是OpenBLAS。在接下来的说明中,我们假设您正在使用OpenBLAS。
因此,下载https://sourceforge.net 上提供的OpenBlas 包并解压缩文件,将其重命名为OpenBLAS 并将其放在C:\utils 下。
接下来,我们需要设置环境变量OpenBLAS_HOME 以指向包含include 和lib 目录的 OpenBLAS 目录。为此,请打开命令提示符并键入set OpenBLAS_HOME=C:\utils\OpenBLAS。
现在,下载并安装https://developer.nvidia.com 上提供的 CUDA。请注意,如果您已经安装了 CUDA,然后安装了 Microsoft VS2017,则现在需要重新安装 CUDA,以便您可以获得用于 Microsoft VS2017 集成的 CUDA 工具包组件。
接下来,您需要下载并安装 cuDNN。
接下来,您还需要下载并安装https://gitforwindows.org/ 上的 git。
安装所有必需的依赖项后,请按照以下步骤构建 MXNet 源代码:
步骤 1− 在 Windows 中打开命令提示符。
步骤 2− 现在,使用以下命令从 GitHub 下载 MXNet 源代码:
cd C:\ git clone https://github.com/apache/incubator-mxnet.git --recursive
步骤 3− 接下来,验证以下内容:
DCUDNN_INCLUDE 和DCUDNN_LIBRARY 环境变量指向 CUDA 安装位置的include 文件夹和cudnn.lib 文件。
C:\incubator-mxnet 是您在上一步中刚刚克隆的源代码的位置。
步骤 4− 接下来,使用以下命令创建一个构建目录并转到该目录,例如:
mkdir C:\incubator-mxnet\build cd C:\incubator-mxnet\build
步骤 5− 现在,使用 cmake 编译 MXNet 源代码,如下所示:
cmake -G "Visual Studio 15 2017 Win64" -T cuda=9.2,host=x64 -DUSE_CUDA=1 -DUSE_CUDNN=1 -DUSE_NVRTC=1 -DUSE_OPENCV=1 -DUSE_OPENMP=1 -DUSE_BLAS=open -DUSE_LAPACK=1 -DUSE_DIST_KVSTORE=0 -DCUDA_ARCH_LIST=Common -DCUDA_TOOLSET=9.2 -DCUDNN_INCLUDE=C:\cuda\include -DCUDNN_LIBRARY=C:\cuda\lib\x64\cudnn.lib "C:\incubator-mxnet"
步骤 6− CMake 成功完成之后,使用以下命令编译 MXNet 源代码:
msbuild mxnet.sln /p:Configuration=Release;Platform=x64 /maxcpucount
选项 2:使用 Microsoft Visual Studio 2015 构建
要使用 Microsoft Visual Studio 2015 自行构建和安装 MXNet,您需要以下依赖项。
安装/更新 Microsoft Visual Studio 2015。从源代码构建 MXnet 的最低要求是 Microsoft Visual Studio 2015 的 Update 3。您可以使用工具 -> 扩展和更新... | 产品更新菜单进行升级。
接下来,您需要下载并安装https://cmake.com.cn/download/ 上提供的CMake。建议使用https://cmake.com.cn/download/ 上的CMake v3.12.2,因为它已通过 MXNet 测试。
现在,下载并运行https://excellmedia.dl.sourceforge.net 上提供的 OpenCV 包,这将解压缩多个文件。您可以选择是否将它们放在另一个目录中。
接下来,我们需要设置环境变量OpenCV_DIR 以指向我们刚刚解压缩的OpenCV 构建目录。为此,请打开命令提示符并键入 set OpenCV_DIR=C:\opencv\build\x64\vc14\bin。
重要的一点是,如果您没有安装 Intel MKL(数学内核库),则可以安装它。
您可以使用的另一个开源包是OpenBLAS。在接下来的说明中,我们假设您正在使用OpenBLAS。
因此,下载https://excellmedia.dl.sourceforge.net 上提供的OpenBLAS 包并解压缩文件,将其重命名为 OpenBLAS 并将其放在 C:\utils 下。
接下来,我们需要设置环境变量 OpenBLAS_HOME 以指向包含 include 和 lib 目录的 OpenBLAS 目录。您可以在C:\Program files (x86)\OpenBLAS\ 中找到该目录。
请注意,如果您已经安装了 CUDA,然后安装了 Microsoft VS2015,则现在需要重新安装 CUDA,以便您可以获得用于 Microsoft VS2017 集成的 CUDA 工具包组件。
接下来,您需要下载并安装 cuDNN。
现在,我们需要设置环境变量 CUDACXX 以指向CUDA 编译器(例如 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v9.1\bin\nvcc.exe)。
同样,我们还需要设置环境变量CUDNN_ROOT 以指向包含include、lib 和bin 目录的cuDNN 目录(例如C:\Downloads\cudnn-9.1-windows7-x64-v7\cuda)。
安装所有必需的依赖项后,请按照以下步骤构建 MXNet 源代码:
步骤 1− 首先,从 GitHub 下载 MXNet 源代码:
cd C:\ git clone https://github.com/apache/incubator-mxnet.git --recursive
步骤 2− 接下来,使用 CMake 在 ./build 中创建一个 Visual Studio 项目。
步骤 3− 现在,在 Visual Studio 中,我们需要打开解决方案文件.sln 并编译它。这些命令将在./build/Release/ 或./build/Debug 文件夹中生成一个名为mxnet.dll 的库。
步骤 4− CMake 成功完成之后,使用以下命令编译 MXNet 源代码:
msbuild mxnet.sln /p:Configuration=Release;Platform=x64 /maxcpucount
中央处理器 (CPU)
这里,我们将使用 Pip、Docker 和源码三种方法来安装使用 CPU 进行处理的 MXNet:
使用 Pip 方法
如果您计划在 Windows 上使用 CPU 构建 MXNet,则可以使用 Python 包安装 MXNet 的两种方法:
使用 CPU 安装
使用以下命令使用 Python 安装带有 CPU 的 MXNet:
pip install mxnet
使用 Intel CPU 安装
如上所述,MXNet 也实验性地支持 Intel MKL 和 MKL-DNN。使用以下命令使用 Python 安装带有 Intel CPU 的 MXNet:
pip install mxnet-mkl
使用 Docker
您可以在https://hub.docker.com/u/mxnet 上提供的DockerHub 上找到带有 MXNet 的 Docker 镜像。让我们查看以下步骤,以使用 Docker 和 CPU 安装 MXNet:
步骤 1− 首先,按照https://docs.docker.net.cn/docker-for-mac/install 中提供的 Docker 安装说明进行操作。我们需要在我们的机器上安装 Docker。
步骤 2 - 使用以下命令,您可以拉取 MXNet Docker 镜像:
$ docker pull mxnet/python
现在,为了查看 mxnet/python docker 镜像是否成功拉取,我们可以列出 docker 镜像,如下所示:
$ docker images
为了获得 MXNet 最快的推理速度,建议使用最新的带有 Intel MKL-DNN 的 MXNet。
查看以下命令:
$ docker pull mxnet/python:1.3.0_cpu_mkl $ docker images
在云端和设备上安装 MXNet
本节重点介绍如何在云端和设备上安装 Apache MXNet。让我们首先学习如何在云端安装 MXNet。
在云端安装 MXNet
您还可以在多个云提供商处获得支持图形处理单元 (GPU) 的 Apache MXNet。您可以找到的其他两种支持如下:
- GPU/CPU 混合支持,用于可扩展推理等用例。
- 使用 AWS Elastic Inference 的阶乘 GPU 支持。
以下是提供支持不同 Apache MXNet 虚拟机的 GPU 支持的云提供商:
阿里巴巴控制台
您可以使用阿里巴巴控制台创建https://docs.nvidia.com/ngc 上提供的NVIDIA GPU 云虚拟机 (VM) 并使用 Apache MXNet。
Amazon Web Services
它还提供 GPU 支持,并为 Apache MXNet 提供以下服务:
Amazon SageMaker
它管理 Apache MXNet 模型的训练和部署。
AWS Deep Learning AMI
它为 Python 2 和 Python 3 提供预安装的 Conda 环境,其中包含 Apache MXNet、CUDA、cuDNN、MKL-DNN 和 AWS Elastic Inference。
AWS 上的动态训练
它提供实验性手动 EC2 设置以及半自动 CloudFormation 设置的训练。
您可以使用https://aws.amazon.com 上提供的NVIDIA VM 与 Amazon Web Services 配合使用。
Google Cloud Platform
Google 还提供https://console.cloud.google.com 上提供的NVIDIA GPU 云镜像,用于与 Apache MXNet 配合使用。
Microsoft Azure
Microsoft Azure Marketplace 还提供https://azuremarketplace.microsoft.com 上提供的NVIDIA GPU 云镜像,用于与 Apache MXNet 配合使用。
Oracle Cloud
Oracle 还提供https://docs.cloud.oracle.com 上提供的NVIDIA GPU 云镜像,用于与 Apache MXNet 配合使用。
中央处理器 (CPU)
Apache MXNet 可在每个云提供商的仅 CPU 实例上运行。有各种安装方法,例如:
Python pip 安装说明。
Docker 说明。
预安装选项,例如 Amazon Web Services,它提供 AWS Deep Learning AMI(为 Python 2 和 Python 3 提供预安装的 Conda 环境,其中包含 MXNet 和 MKL-DNN)。
在设备上安装 MXNet
让我们学习如何在设备上安装 MXNet。
树莓派
您还可以在树莓派 3B 设备上运行 Apache MXNet,因为 MXNet 也支持基于 Respbian ARM 的操作系统。为了在树莓派 3 上流畅运行 MXNet,建议使用内存超过 1 GB 且 SD 卡至少有 4 GB 可用空间的设备。
以下是您可以用来为树莓派构建 MXNet 并安装库的 Python 绑定的方法:
快速安装
预构建的 Python wheel 可用于在具有 Stretch 的树莓派 3B 上进行快速安装。此方法的一个重要问题是,我们需要安装多个依赖项才能使 Apache MXNet 正常工作。
Docker 安装
您可以按照https://docs.docker.net.cn/engine/install/ubuntu/ 上提供的 Docker 安装说明在您的机器上安装 Docker。为此,我们也可以安装和使用社区版 (CE)。
原生构建(从源代码)
要从源代码安装 MXNet,我们需要执行以下两个步骤:
步骤 1
从 Apache MXNet C++ 源代码构建共享库
要在树莓派 Wheezy 及更高版本上构建共享库,我们需要以下依赖项:
Git− 需要从 GitHub 拉取代码。
Libblas− 用于线性代数运算。
Libopencv− 用于计算机视觉相关运算。但是,如果您想节省RAM和磁盘空间,它是可选的。
C++编译器− 用于编译和构建MXNet源代码。以下是支持C++11的受支持编译器:
G++ (4.8或更高版本)
Clang(3.9-6)
使用以下命令安装上述依赖项:
sudo apt-get update sudo apt-get -y install git cmake ninja-build build-essential g++-4.9 c++-4.9 liblapack* libblas* libopencv* libopenblas* python3-dev python-dev virtualenv
接下来,我们需要克隆MXNet源代码仓库。为此,请在您的主目录中使用以下git命令:
git clone https://github.com/apache/incubator-mxnet.git --recursive cd incubator-mxnet
现在,使用以下命令构建共享库:
mkdir -p build && cd build cmake \ -DUSE_SSE=OFF \ -DUSE_CUDA=OFF \ -DUSE_OPENCV=ON \ -DUSE_OPENMP=ON \ -DUSE_MKL_IF_AVAILABLE=OFF \ -DUSE_SIGNAL_HANDLER=ON \ -DCMAKE_BUILD_TYPE=Release \ -GNinja .. ninja -j$(nproc)
执行上述命令后,将开始构建过程,此过程可能需要几个小时才能完成。您将在build目录中获得一个名为libmxnet.so的文件。
步骤2
安装Apache MXNet支持的特定语言包
在此步骤中,我们将安装MXNet Python绑定。为此,我们需要在MXNet目录中运行以下命令:
cd python pip install --upgrade pip pip install -e .
或者,使用以下命令,您还可以创建一个可以使用pip安装的whl包:
ci/docker/runtime_functions.sh build_wheel python/ $(realpath build)
NVIDIA Jetson设备
您还可以在NVIDIA Jetson设备(例如TX2或Nano)上运行Apache MXNet,因为MXNet也支持基于Ubuntu Arch64的操作系统。为了使MXNet在NVIDIA Jetson设备上平稳运行,您的Jetson设备上必须安装CUDA。
以下是您可以用来为NVIDIA Jetson设备构建MXNet的方法:
使用Jetson MXNet pip wheel进行Python开发
从源码编译
但是,在通过上述任何方法构建MXNet之前,您需要在Jetson设备上安装以下依赖项:
Python依赖项
为了使用Python API,我们需要以下依赖项:
sudo apt update sudo apt -y install \ build-essential \ git \ graphviz \ libatlas-base-dev \ libopencv-dev \ python-pip sudo pip install --upgrade \ pip \ setuptools sudo pip install \ graphviz==0.8.4 \ jupyter \ numpy==1.15.2
克隆MXNet源代码仓库
在您的主目录中使用以下git命令克隆MXNet源代码仓库:
git clone --recursive https://github.com/apache/incubator-mxnet.git mxnet
设置环境变量
将以下内容添加到您主目录中的.profile文件中:
export PATH=/usr/local/cuda/bin:$PATH export MXNET_HOME=$HOME/mxnet/ export PYTHONPATH=$MXNET_HOME/python:$PYTHONPATH
现在,使用以下命令立即应用更改:
source .profile
配置CUDA
在使用nvcc配置CUDA之前,您需要检查正在运行的CUDA版本:
nvcc --version
假设,如果您的设备或计算机上安装了多个CUDA版本,并且您想切换CUDA版本,则使用以下命令并将符号链接替换为您想要的版本:
sudo rm /usr/local/cuda sudo ln -s /usr/local/cuda-10.0 /usr/local/cuda
上述命令将切换到CUDA 10.0,该版本预安装在NVIDIA Jetson设备Nano上。
完成上述先决条件后,您现在可以在NVIDIA Jetson设备上安装MXNet。因此,让我们了解您可以安装MXNet的方法:
使用Jetson MXNet pip wheel进行Python开发− 如果您想使用预先准备好的Python wheel,请将以下内容下载到您的Jetson并运行它:
MXNet 1.4.0(适用于Python 3)可在https://docs.docker.net.cn 获取
MXNet 1.4.0(适用于Python 2)可在https://docs.docker.net.cn 获取
原生构建(从源代码)
要从源代码安装 MXNet,我们需要执行以下两个步骤:
步骤 1
从 Apache MXNet C++ 源代码构建共享库
要从Apache MXNet C++源代码构建共享库,您可以使用Docker方法或手动执行:
Docker方法
在此方法中,您首先需要安装Docker并能够在无需sudo的情况下运行它(这也在之前的步骤中进行了说明)。完成后,运行以下命令以通过Docker执行交叉编译:
$MXNET_HOME/ci/build.py -p jetson
手动方法
在此方法中,您需要编辑Makefile(使用以下命令)以安装具有CUDA绑定的MXNet,以利用NVIDIA Jetson设备上的图形处理单元(GPU)。
cp $MXNET_HOME/make/crosscompile.jetson.mk config.mk
编辑Makefile后,您需要编辑config.mk文件以对NVIDIA Jetson设备进行一些额外更改。
为此,请更新以下设置:
更新CUDA路径:USE_CUDA_PATH = /usr/local/cuda
将-gencode arch=compute-63,code=sm_62添加到CUDA_ARCH设置中。
更新NVCC设置:NVCCFLAGS := -m64
启用OpenCV:USE_OPENCV = 1
现在,为了确保MXNet使用Pascal的硬件级低精度加速进行构建,我们需要按如下方式编辑Mshadow Makefile:
MSHADOW_CFLAGS += -DMSHADOW_USE_PASCAL=1
最后,您可以使用以下命令构建完整的Apache MXNet库:
cd $MXNET_HOME make -j $(nproc)
执行上述命令后,将开始构建过程,此过程可能需要几个小时才能完成。您将在mxnet/lib目录中获得一个名为libmxnet.so的文件。
步骤2
安装Apache MXNet Python绑定
在此步骤中,我们将安装MXNet Python绑定。为此,我们需要在MXNet目录中运行以下命令:
cd $MXNET_HOME/python sudo pip install -e .
完成上述步骤后,您现在就可以在NVIDIA Jetson TX2或Nano设备上运行MXNet了。可以使用以下命令进行验证:
import mxnet mxnet.__version__
如果一切正常,它将返回版本号。