一.准备 1.1创建hadoop用户 $ sudo useradd -m hadoop -s /bin/bash #创建hadoop用户,并使用/bin/bash作为shell $ sudo passwd hadoop #为hadoop用户设置密码,之后需要连续输入两次密码 $ sudo adduser hadoop sudo #为hadoop用户增加管理员权限 $ su - hadoop #切换当前用户为用户hadoop $ sudo apt-get update #更新hadoop用户的ap…
安装Mahout之前,一定要把hadoop装好,hadoop的安装方法可以参考我的前一篇随笔,我安装的是hadoop2.7.0,具体方法在此不做介绍. 1.首先下载相应版本的Mahout: axel -n 10 http://archive.apache.org/dist/mahout/0.9/mahout-distribution-0.9.tar.gz 2.解压: tar -zxvf mahout-distribution-0.9.tar.gz 3.将文件转移至安装好的hadoop下: mv…
需要的软件包:zookeeper-3.4.5-cdh5.3.6.tar.gz  1.将软件包上传到Linux系统指定目录下: /opt/softwares/cdh 2.解压到指定的目录:/opt/modules/cdh/ $ tar -zxvf /opt/softwares/zookeeper-3.4.5-cdh5.3.6.tar.gz  -C  /opt/modules/cdh/ 3.进入zookkeeper目录,创建存放数据的目录 $ mkdir zkData 4.在conf目录里 $ cp…
博主会用三篇文章为大家详细说明hadoop的三种模式: 本地模式 伪分布模式 完全分布模式 完全分布式模式: 前面已经说了本地模式和伪分布模式,这两种在hadoop的应用中并不用于实际,因为几乎没人会将整个hadoop集群搭建在一台服务器上(hadoop主要是围绕:分布式计算和分布式存储,如果以一台服务器做,那就完全违背了hadoop的核心方法).简单说,本地模式是hadoop的安装,伪分布模式是本地搭建hadoop的模拟环境.(当然实际上并不是这个样子的,小博主有机会给大家说!) 那么在had…
1.Hadoop运行模式Hadoop有三种运行模式,分别如下:单机(非分布式)模式伪分布式(用不同进程模仿分布式运行中的各类节点)模式完全分布式模式注:前两种可以在单机运行,最后一种用于真实的集群环境,通常用在生产环境上.我们可以搭建本地的伪分布式模式来模拟分布式环境的执行. 2.Hadoop的安装及配置环境:Ubuntu10.10,Hadoop 0.21.0安装步骤如下:1.准备工作:1).安装ssh server,如何安装ssh server请看http://www.tieguanyin16…
博主会用三篇文章为大家详细的说明hadoop的三种模式: 本地模式 伪分布模式 完全分布模式 伪分布式模式: 这篇为大家带来hadoop的伪分布模式: 从最简单的方面来说,伪分布模式就是在本地模式上修改配置文件: core-site.xml;hdfs-site.xml;mapred-site.xml;yarn-site.xml4 备注:本地模式见hadoop的安装与配置--第一章:本地模式 思路简介 |----------| | ①:ssh免密登陆   | | ②:修改配置文件   | | ③:…
一.准备 1,配通网络 ping www.baidu.com 之前安装虚拟机时配过 2,关闭防火墙 systemctl stop firewalld systemctl disable firewalld(开机自动关闭) 3,关闭 selinux vi /etc/selinux/config 修改为selinux disabled 4,关闭 NetworkManager systemctl stop NetworkManager systemctl disable NetworkManager…
 前言 Hadoop是基于Java语言开发的,具有很好跨平台的特性.Hadoop的所要求系统环境适用于Windows,Linux,Mac系统,我们推荐选择使用Linux或Mac系统.而Linux系统则可以在Windows上使用虚拟机或双系统安装使用.如果选择Linux,我们需要首先安装好Linux系统,然后在Linux系统的基础上,安装Hadoop. 在这里我选用的虚拟机中安装.由于UBuntu界面化较好,再加上自己是新手,所以我采用UBuntu操作系统. ubuntu在虚拟机下的安装 一.系统…
准备工作 下载jdk8和hadoop2.7.2 使用sftp的方式传到hadoop100上的/opt/software目录中 配置环境 如果安装虚拟机时选择了open java,请先卸载 rpm -qa | grep java sudo rpm -e 软件包 which java 安装jdk cd /opt/software/ 解压jdk /opt/module tar -zxvf jdk-8u144-linux-x64.tar.gz -C /opt/module/ 解压hadoop .tar.…
VMware网络配置三种网络模式(桥接.NAT.Host-only) 一.虚拟安装后三种网络模式显示 当安装好后,的“虚拟网络编辑器”中也存在三种模式,分别对应:桥接-VMnet0.Host-only-VMnet1.NAT-VMnet8 同时在本机网络连接里面也将多两个网卡,分别为VMnet1是虚拟机Host-only模式的网络接口,VMnet8是NAT模式的网络接口 二.虚拟机中三种网络模式选择 选择虚拟机后,单击“虚拟机设置”,然后在“硬件”选项卡中选择“网络适配器”,在左边“网络连接”中有…