1.安装jdk 安装:sudo apt-get install openjdk-7-jdk 配置: 修改文件 sudo nano /etc/profile , 添加以下内容: 立即执行使之生效: 2.安装依赖库文件 3.安装ZMQ 下载 zeromq-2.1.7.zip ,下载地址 http://download.zeromq.org,如果链接打不开的,则链接:https://pan.baidu.com/s/1VUB_jKNQQOwvqkLhofSBYw 密码:cxp0 进入解压文件夹,依次执行…

Hadoop简介和安装及伪分布式 大数据概念 大数据概论 大数据(Big Data): 指无法在一定时间范围内用常规软件工具进行捕捉,管理和处理的数据集合,是需要新处理模式才能具有更强的决策力,洞察发现力和流程优化能力的海量,高增长率和多样化的信息资产. 主要解决海量数据的存储和海量数据的分析计算问题. 按顺序给出数据存储单位:bit,Byte,KB,MB,GB,TB,PB,EB,ZB,YB,BB,NB,DB. 1Byte =8bit 1KB=1024Byte 1MB=1024KB 1GB=10…

英文好的请直接参考官方安装文档:Ubantu14.04下的源码编译. Caffe2的安装相比以前Caffe一代的安装,简直有点一键装机的感觉,下面简单总结下Caffe2的安装. 环境:Ubantu14.04 安装步骤: 1.依赖库安装 sudo apt-get update sudo apt-get install -y --no-install-recommends \ build-essential \ cmake \ git \ libgoogle-glog-dev \ libprotob…

VMwareWorkstation平台Ubuntu14下安装配置伪分布式hadoop 安装VmwareStation 内含注册机. 链接:https://pan.baidu.com/s/1j-vKgDcMYyOYWg9QQs3FKg 提取码:byMB 下载与安装Ubuntu http://www.ubuntu.com 在vmware下安装镜像的过程中能跳过直接跳过,在命令行界面如果卡住直接断网即可.网络问题在后面会得到解决. 配置共享文件夹 图片太糊了,下载这个文档清晰点. 链接:https:/…

1  下载 下载地址:http://mirror.bit.edu.cn/apache/hadoop/common/stable2/ 2 解压 将文件解压到 /usr/local/hadoop cd ~/下载 tar -zxf hadoop-.tar.gz sudo mv ./hadoop-/ /usr/local/hadoop cd /usr/local/hadoop 此时可以查看Hadoop版本信息: ./bin/hadoop version   3 hadoop伪分布式配置 3.1 配置ha…

创建用户并加入授权 1,创建hadoop用户 sudo useradd -m hadoop -s /bin/bash 2,修改sudo的配置文件,位于/etc/sudoers,需要root权限才可以读写 找到root ALL=(ALL) ALL这一行,在后面再加上一行就可以了(不用引号): "username ALL=(ALL) ALL",将hadoop用户添加到sudo中 安装vim编辑器: sudo yum install vim 安装SSH.配置SSH无密码登陆 集群.单节点模式…

最近在搞大数据项目支持所以有时间写下hadoop随笔吧. 环境介绍: Linux: centos7 jdk:java version "1.8.0_181 hadoop:hadoop-3.2.0 ssh:配置ssh免密码登录 安装步骤: 1.下载hadoop 地址:http://mirror.bit.edu.cn/apache/hadoop/common/hadoop-3.2.0/hadoop-3.2.0.tar.gz 下载完成后解压包 tar xzvf  hadoop-3.2.0.tar.gz…

一.安装JDK  : http://www.cnblogs.com/E-star/p/4437788.html 二.配置SSH免密码登录1.安装所需软件        sudo apt-get install install ssh2.配置ssh免密码登录        ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa        cat ~/.ssh/id_dsa.pub >>~/.ssh/authorized_keys3.验证是否成功        ssh…

换了macbook pro之后,要重新安装hadoop,但是mac上的jdk跟windows上的不同,导致折腾了挺久的,现在分享出来,希望对大家有用. 一:下载jdk 选择最新版本下载,地址:http://www.oracle.com/technetwork/java/javase/downloads/index.html 安装完成之后,打开终端,输入java -version ,出现类似如下说明安装成功. java version "1.8.0" Java(TM) SE Runtim…

最近在系统的学习hadoop 课程第一步是安装hadoop1.x,具体安装步骤如下: 一.系统安装 本文使用centos6.5安装,具体安装步骤省略 二.jdk安装 下载jdk1.7.0_51解压,在环境中 设置环境变量: vi /etc/profile,添加如下行: export JAVA_HOME=/usr/local/jdk1.7.0_51 export CLASSPATH=.:$JAVA_HOME/jre/lib/rt.jar:$JAVA_HOME/lib/dt.jar:$JAVA_HO…