使用Docker编译PaddlePaddle
在ubuntu中使用Docker编译PaddlePaddle
要在ubuntu中使用docker编译paddle框架,首先分为以下几个步骤:
- 安装docker环境
- 拉取paddle的docker镜像
- 开启镜像并配置
- 验证编译安装成功
1、Docker环境安装
使用Docker编译¶
Docker是一个开源的应用容器引擎。使用Docker,既可以将PaddlePaddle的安装&使用与系统环境隔离,也可以与主机共享GPU、网络等资源
使用Docker编译PaddlePaddle,您需要:
- 在本地主机上安装Docker
- 如需在Linux开启GPU支持,请安装nvidia-docker
可参考:
2、拉取Paddle的docker镜像
对于国内用户,因为网络问题下载docker比较慢时,可使用百度提供的镜像:
CPU版的PaddlePaddle:
docker pull registry.baidubce.com/paddlepaddle/paddle:latest-dev
GPU版的PaddlePaddle:
nvidia-docker pull registry.baidubce.com/paddlepaddle/paddle:latest-gpu-cuda10.2-cudnn7-dev
3、docker编译配置
(1) 进入docker
先要开始启动docker,然后再使用attach进入环境。
sudo docker start paddle-test
sudo docker ps
sudo docker attach paddle-test
(2) 源码下载及环境配置
mkdir source
git clone git@github.com:PaddlePaddle/Paddle.git
进入下列文件目录
cd Paddle
(非必选)可根据需要,切换到较稳定版本下进行编译:¶
git checkout [分支名]
例如:
git checkout release/2.3
注意:python3.6、python3.7版本从release/1.2分支开始支持, python3.8版本从release/1.8分支开始支持, python3.9版本从release/2.1分支开始支持, python3.10版本从release/2.3分支开始支持
安装依赖
pip3 install protobuf
apt install patchelf
(3) 依赖项
由于在paddle源码编译过程中,需要安装相应的依赖库,这些依赖库是通过github仓库拉取源码的形式下载下来的。
若docker环境下能够网络通畅的使用github,可跳过此项。
若网络情况不稳定,那么这里建议参考下面,分别将这些仓库手动clone下来,同时要注意当前的目录。
- extern_gflags https://github.com/gflags/gflags.git
- extern_cryptopp https://github.com/weidai11/cryptopp.git
- extern_mkldnn https://github.com/oneapi-src/oneDNN
- extern_warpctc git clone https://github.com/espnet/warp-ctc.git
- extern_protobuf https://github.com/protocolbuffers/protobuf.git
git clone https://github.com/protocolbuffers/protobuf.git
git clone https://github.com/weidai11/cryptopp.git
git clone https://github.com/dmlc/dlpack.git
git clone https://github.com/oneapi-src/oneDNN.git
git clone https://github.com/baidu-research/warp-ctc.git
git clone https://github.com/gflags/gflags.git
git clone https://github.com/wjakob/clang-cindex-python3
(4) 执行cmake
执行cmake,根据是否使用GPU有以下两种方式,可自行结合需要修改DWITH_GPU=ON或OFF。
cmake .. -DPY_VERSION=3.7 -DWITH_GPU=OFF
cmake .. -DPY_VERSION=3.7 -DWITH_GPU=ON
(5) 执行编译
开始执行编译,-j后面对应的是线程数,可自定义。当然最好是用(nproc),会根据系统参数自动设置。
这里的流程是:
- 1、先执行build源码到target。
- 2、copying 源码到build目录下
- 3、creating、adding
最后,看到[100%]Built target paddle_python就说明已经编译完成了。
4、安装编译好的包
编译好paddle源码后,我们还需要将生成的whl安装到docker中的python环境下。
根据上面的信息和官方文档的提示,可以知道,生成whl文件在下面这个目录。
cd /paddle/build/python/dist
pip3 install paddlepaddle-0.0.0-cp37-cp37m-linxu_x86_64.whl
由于在clone paddle的源码时,使用的是develop分支,因此对应的版本号为0.0.0。
如果需要稳定版本,可在源码下载的时候,选择相应的分支。
5、验证安装成功
将paddle的whl安装到python3环境后,可以在docker中进行相应的验证是否可用。
python3
import paddle
paddle.utils.run_check()
至此,所有步骤完成,paddle以源码形式编译并安装完成,enjoy your work~。
6、参考材料
[1].https://www.paddlepaddle.org.cn/documentation/docs/zh/install/compile/linux-compile.html
使用Docker编译PaddlePaddle的更多相关文章
- 使用docker安装paddlepaddle 和 tensorflow
1.tensorflow安装 http://blog.csdn.net/freewebsys/article/details/70237003 (1)拉取镜像:docker pull tensorfl ...
- 利用Docker编译Hadoop 3.1.0
前言 为什么要使用Docker编译,请自行百度 操作系统环境:Centos 6.8 uname -r 内核版本:2.6.32-642.el6.x86_64 除非有把握否则不要在Centos6.8中直接 ...
- YOLOv4: Darknet 如何于 Docker 编译,及训练 COCO 子集
YOLO 算法是非常著名的目标检测算法.从其全称 You Only Look Once: Unified, Real-Time Object Detection ,可以看出它的特性: Look Onc ...
- 使用 Docker 编译 OpenWRT(Widora)
Docker 是一种新的被称之为容器的虚拟机.本文将使用此工具,进行 OpenWRT 的编译. 在 Docker 中下载 Ubuntu 14.04 的镜像 使用以下命令可以十分方便的从远程服务器上将 ...
- (原) ubuntu下用pycharm2016.1专业版配docker编译环境(docker Interpreter)
一:先创建docker-machine 先创建docker machine.我主机上的虚拟机是virtualbox.$ docker-machine create --driver virtualbo ...
- docker 编译开发代码做镜像
文件目录 Dockerfile 是docker制作镜像的文件,docker_run.sh是sh文件,gin_test是go编译之后的linux可执行程序,gintest.env是配置文件夹 首先写一个 ...
- Docker编译Android6.0源码
docker环境配置 更正时区时间 # 查看当前时间 $ date # 修改当前时间 $ cp /usr/share/zoneinfo/Asia/Shanghai /etc/localtime ech ...
- 使用Docker编译OpenResty支持国密ssl加密
编译环境 执行编译操作环境如下 #操作系统 CentOS Linux release 7.4.1708 (Core) #docker版本 Version: 19.03.5 编译过程 Dockerfil ...
- 使用Docker安装PaddlePaddle安装过程中出现的几个问题
Unable to create: 已停止该运行的命令,因为首选项变量"ErrorActionPreference"或通用参数设置为 Stop: 无法新建虚拟机. "Mo ...
- 编译Docker<v1.9.0>源码和初级安装
本文主要介绍了如何在POWER CPU处理器上编译和安装Docker服务.很多时候,我们都需要自己编译Docker源码,有的时候是由于自己的处理器没有对应的安装包,有的时候是由于当前的新版本还有发布, ...
随机推荐
- 基于 Python + Vue3!一个轻量级的域名和 SSL 证书监测平台!
大家好,我是 Java陈序员. 在企业开发中,由于业务众多,涉及到很多业务域名证书,证书过期由于遗忘常常未能及时续期,导致线上访问异常,给企业带来损失! 今天,给大家介绍一个轻量级的域名和 SSL 证 ...
- c++11大括号初始化
C++11可以将{}初始化器用于任何类型(可以用等号,也可以不用) 数组.集合初始化 在C++11中,集合(列表)的初始化已经成为C++的一个基本功能,被称为"初始化列表": // ...
- vue搜索历史记录缓存实现
思路: 1.浏览器缓存永久保存搜索历史数据. 2.页面初始化将数据保存到页面变量中. 3.对搜索历史记录的怎加和删除,要同步到缓存中. ----------------直接看代码----------- ...
- 在Windows环境下使用AMD显卡运行Stable Diffusion
现在用的电脑是 21 年配的,当时并没有 AI 相关的需求,各种各样的原因吧,抉择后选择了 AMD 的显卡,但在 2024 年的今天,使用 AI 进行一些工作已不再是什么罕见的需求,所以我也想尝试一下 ...
- div跟随浏览器大小而改变
<head> <style> .main { position: absolute; left: 0px; right: 0px; top: 0px; bottom: 0px; ...
- 【昌哥IT课堂】MySQL8.0新特性之特权连接
概述: ERROR 1040 (HY000): Too many connections 上面这个报错,开发或DBA一般都遇见过.那么碰到这个问题,我们应该怎么办呢? 在MySQL 5.7及之前版本, ...
- 程序员遇到bug时常见的30种反应
开发应用程序是一项压力很大的工作,人无完人,工作中遇到bug是很正常的事,有些程序员会生气,沮丧,郁闷,甚至泄气,也有一些程序员则会比较淡定.如何进行修复bug的过程,是值得我们好好推敲的. 我想分享 ...
- uniapp 消息推送
1.前言 作为一个非原生App的开发者,对于手机系统的推送机制了解是是非有限的,只有了解清楚这些机制,后期的开发才会少踩很多坑,本文将对推送机制逻辑进行一个简单的梳理与记录 2.推送流程 推送流程1. ...
- Git 浅克隆后拉取其他分支
对于已浅克隆的项目 $ git clone --depth=1 <git-repo-url> repo $ cd repo 现在浅克隆了一个Git仓库repo.但仓库里查询远程分支只有一个 ...
- elementui多选框部分禁用
直接上代码 <el-table-column type="selection" :selectable="selectable" align=" ...