centos + docker搭建深度学习环境以及一些问题解决
必须要说容器是一个很牛逼的思想!注意,是思想!也许docker有种种问题,但是不管docker能否茁壮地发展下去,未来这种方式的环境搭建一定会变得越来越流行!
网上有很多这方面的教程,但大多数都不太好。。。。初学者很难上手看的一脸懵逼,而且很多自己都根本没验证过行不行,而且很多问题都没有提到!!因此我自己写一个这方面的教程,以后自己看起来方便,有缘的docker新手看到这篇文章也许能给你一些帮助。
首先是安装docker
我们在centos7上安装docker-ce,也就是社区版。这篇博客里面有centos和ubuntu的安装方式:https://www.linuxidc.com/Linux/2017-12/149576.htm
我在这里再说一遍我的安装过程,注意!如果是root用户连接服务器在做这样的操作,那就不用加sudo了,加了也不识别。。。另外如果需要选择特定的docker版本也可以在那个博客里找到,但我个人觉得没啥必要,装最新版的就好了呗,有问题了再说hhhhh
// 1. 安装必要的一些系统工具
sudo yum install -y yum-utils device-mapper-persistent-data lvm2
// 2. 添加软件源信息
sudo yum-config-manager --add-repo http://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo
// 3. 更新并安装 Docker-CE
sudo yum makecache fast
sudo yum -y install docker-ce
// 4. 开启Docker服务
sudo service docker start
// 5. 设置开机启动
sudo systemctl docker enable
如果你要装tensorflow-gpu,那么还要装个nvidia-docker2
这个参考nvidia的github就行,为什么我非要下docker-ce版的呢,因为我用docker按照github的方法来做貌似没成功。。。也没深究。网址:https://github.com/NVIDIA/nvidia-docker
一定要注意选择docker-ce那个版本。我这里也写一下。
# If you have nvidia-docker 1.0 installed: we need to remove it and all existing GPU containers
docker volume ls -q -f driver=nvidia-docker | xargs -r -I{} -n1 docker ps -q -a -f volume={} | xargs -r docker rm -f
sudo yum remove nvidia-docker
# Add the package repositories
distribution=$(. /etc/os-release;echo $ID$VERSION_ID)
curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.repo | \
sudo tee /etc/yum.repos.d/nvidia-docker.repo
# Install nvidia-docker2 and reload the Docker daemon configuration
sudo yum install -y nvidia-docker2
sudo pkill -SIGHUP dockerd
# Test nvidia-smi with the latest official CUDA image
docker run --runtime=nvidia --rm nvidia/cuda:9.0-base nvidia-smi
安装nvidia驱动(如果你要用tf-gpu)
前面你会发现安装好了之后,docker run –runtime=nvidia –rm nvidia/cuda:9.0-base nvidia-smi这句话没用,那是因为没装nvidia驱动,安装nvidia驱动方法我这里就不说了,比较简单,装好了之后本机上可以nvidia-smi查看显卡使用情况。
下载tensorflow镜像
这里直接看官网https://tensorflow.google.cn/install/docker
有个问题啊。tensorflow/tensorflow:latest或者tensorflow/tensorflow:latest-gpu都是python2.7版本的环境!!!!我们都新时代的人了,用python3吧,不然在中文集上你会很烦的!!https://hub.docker.com/r/tensorflow/tensorflow/tags/这个网站上给出了一些镜像的名称。其实很简单在名字后面加个-py3就行了,就能把python3的环境拉下来了。
启动镜像
我用一个例子来说明吧:
docker run --runtime=nvidia -t -v /home/xxx/docker/tf:/root/tf --name tf_py3 \
tensorflow/tensoflow:latest-py3 bash
–runtime=nvidia 是nvidia-docker2的特点
-v 数据卷 冒号前面是本机目录,冒号后面是docker内目录,目录内文件共享
–name 容器名字,下次可以用名字打开,不用记住那个麻烦的序列
tensorflow/tensoflow:latest-py3 对应镜像,如果要用gpu版的,加个-gpu
bash 说明进入命令行界面!!!这个真的是要划重点了,网上很多centos7搭docker教程都是说,给一个序列,我在浏览器里输什么什么什么,我特么centos7没有图形界面啊!!!!!!!我不知道centos7是不是能用浏览器,貌似也是可以的,但我没有深究这个问题,反正就是很麻烦啊!什么鬼啊!!!加个bash就好了啊!
好了,这样就可以了,开心。
重新启动一个容器,以及字符集问题
每次退出容易用exit。然后docker ps -a 可以看到所有的容器。
输入命令 docker start xxxx docker attach xxxx
就又进入了。
这里会遇到一个字符集问题!就是不能输入中文也不能识别中文!
输入locale -a 可以查看所有的字符集,发现是有C.UTF-8的。但是输入locale回车,发现LANG是空!就是不能用中文!咋办呢!
我现在有一个解决办法,就是每次启动容器的时候用这句话!
docker start xxxx docker exec -it xxxx env LANG=C.UTF-8 bash
emmmm不是一个长久的办法!这样修改只是临时修改。要永久修改,需要在创建容器时在dockerfile中设置。但是要重新创建容器啊。。我都在容器里配了一些东西了。。有点烦,先不弄了,留着下次看看!
——–TODO!
就先这样解决问题了,docker还是挺牛逼的!
参考:
https://www.linuxidc.com/Linux/2017-12/149576.htm
https://m.linuxidc.com/Linux/2017-12/149578.htm
https://github.com/NVIDIA/nvidia-docker
https://tensorflow.google.cn/install/docker
centos + docker搭建深度学习环境以及一些问题解决的更多相关文章
- 基于Ubuntu+Python+Tensorflow+Jupyter notebook搭建深度学习环境
基于Ubuntu+Python+Tensorflow+Jupyter notebook搭建深度学习环境 前言一.环境准备环境介绍软件下载VMware下安装UbuntuUbuntu下Anaconda的安 ...
- 教你如何用Docker快速搭建深度学习环境
本教程搭建集 Tensorflow.Keras.Coffe.PyTorch 等深度学习框架于一身的环境,及jupyter. 本教程使用nvidia-docker启动实例,通过本教程可以从一个全新的Ub ...
- ubuntu18.04下搭建深度学习环境anaconda2+ cuda9.0+cudnn7.0.5+tensorflow1.7【原创】【学习笔记】
PC:ubuntu18.04.i5.七彩虹GTX1060显卡.固态硬盘.机械硬盘 作者:庄泽彬(欢迎转载,请注明作者) 说明:记录在ubuntu18.04环境下搭建深度学习的环境,之前安装了cuda9 ...
- ubuntu16.04+七彩虹GTX1060的NVIDIA驱动+Cuda8.0+cudnn5.1+tensorflow+keras搭建深度学习环境【学习笔记】【原创】
平台信息:PC:ubuntu16.04.i5.七彩虹GTX1060显卡 作者:庄泽彬(欢迎转载,请注明作者) 说明:参考了网上的一堆的资料搭建了深度学习的开发环境,下班在宿舍折腾了好几个晚上才搞定,写 ...
- centos7 手把手从零搭建深度学习环境 (以TensorFlow2.0为例)
目录 一. 搭建一套自己的深度学习平台 二. 安装系统 三. 安装NVIDA组件 四. 安装深度学习框架 TensorFlow 五. 配置远程访问 六. 验收 七. 福利(救命稻草
- ubuntu 17.04 下搭建深度学习环境
.目前使用CPU即可,先不需要显卡配置 .使用pip3 安装深度学习框架 .要先安装pip3 #sudo apt install python3-pip https://blog.csdn.net/b ...
- 在服务器的docker里 装anacond3深度学习环境的全流程超基础
背景: 实验室给我分配了一个服务器 已经装好了docker 和nvidi docker . 现在我的目标是创建我自己的docker 然后在我自己的docker里装上anaconda环境. 我以前从 ...
- linux系统下深度学习环境搭建和使用
作为一个AI工程师,对Linux的一些技能的掌握也能从一定层面反应工程师的资深水平. 要求1:基于SSH的远程访问(本篇文章) 能用一台笔记本电脑,远程登陆一台linux服务器 能随时使用笔记本电脑启 ...
- 服务器搭建远程docker深度学习环境
服务器搭建远程docker深度学习环境 本文大部分内容参考知乎文章 Docker+PyCharm快速搭建机器学习开发环境 搭建过程中出现ssh连接问题可以查看最后的注意事项 Docker Docker ...
随机推荐
- Linux下Mongodb安装和启动配置 转载
原文地址:https://www.cnblogs.com/Jimmy104/p/6181899.html 以下文章为转载,感谢网友,原文链接 http://blog.csdn.net/yuwenrul ...
- 【VS开发】MFC修改Opencv namedWindow的风格
当在MFC中应用opencv的窗口来显示图片.希望namedWindow创建的窗口能根据需要改变风格: //by dongchunxiao cv::namedWindow("windows1 ...
- 【GStreamer开发】GStreamer播放教程06——可视化音频
目标 GStreamer有一系列把音频转换成视频的element.他们可以用于科学的目的或者增加音乐播放器的趣味性.本教程展示: 如何允许音频的可视化 如何选择可视化element 介绍 在playb ...
- 读取以key=value形式存储的txt文件
代码片段(假设只有3个key=value): public static void main(String[] args) throws IOException { BufferedReader br ...
- 干货 | 20多门AI网络课程资源(附链接+PDF)
现如今,在火爆的人工智能领域,面临的最窘迫的问题是越来越庞大的产业规模和国家每年约500万的相关人才需求的矛盾.广阔的发展前景.巨大的人才缺口和令人心动的行业薪资,让越来越多的年轻人选择了进入这一行业 ...
- QPS、TPS和系统吞吐量
QPS:Queries Per Second,每秒查询率.是一台服务器每秒能够相应的查询次数,是对一个特定的查询服务器在规定时间内所处理流量多少的衡量标准. TPS:Transactions Per ...
- 了解CAdoSqlserver
include <vector> 表示引用了vector类, vector是STL中的一种数据结构,或者叫容器,功能相当于数组,但是功能强大很多.vector在C++标准模板库中的部分内容 ...
- ESP32 - GPIO中断触发与事件回调
最近为项目增加了GPIO外部触发中断功能,原理是为GPIO32注册了上升沿触发事件,事件触发后,会向RTOS队列写入数据.在RTOS事件中检测到该队列中有新加入的事件,就读出,并执行相应代码. #de ...
- Redis--hash类型操作命令
哈希类型hash redis hash 是一个 string 类型的 field 和 value 的映射表,hash 特别适合用于存储对象 哈希类型hash——基本命令 hset /hget /hms ...
- docker 实践十:docker 网络管理
本篇是关于 docker 网络管理的内容,同时也包含了 docker 网络的高级应用. 注:环境为 CentOS7,docker 19.03. docker 网络基础 docker 网络模型 在 do ...