hadoop-2.8.4 部署我就不说了 网上一大堆 hdfs-site.xml datanode 储存路径挂载需要修改如下: <property> <name>dfs.datanode.data.dir</name> <value>[DISK]file:///data/hdfs-disk/hadoop/dfs/data,[SSD]file:///data/hdfs-ssd/hadoop/dfs/data,[RAM_DISK]file:///data/hdf…
 1-3-RHEL7基本命令操作 1.1Linux终端介绍 Shell提示符 Bash Shell基本语法. 1.2基本命令的使用:ls.pwd.cd. 1.3查看系统和BIOS硬件时间. 1.4 Linux如何获得帮助,Linux关机命令:shutdown.init等. 1.5 Linux 7个启动级别,设置服务器在来电后自动开机. 单词整理: Terminal : 终端     network-scripts 网络脚本   passwd 密码文件  nologin 禁止登录    shutd…
3.1  Linux终端介绍.Shell提示符.Bash基本语法 3.1.1  登录LINUX终端 两种终端仿真器:1.GNOME桌面的GHOME Terminal : 2.KDE桌面的Konsole Terminal 远程连接终端工具: Xshell , CRT .后期会教你安装. 例1:通过tty命令看到当前所属的虚拟终端 [root@xuegod63 ~]# tty /dev/pts/ 注:shift+ctrl+N 快速打开一个终端.  终端字体放大: shift+ctrl+加号.终端字体…
3.1  Linux终端介绍.Shell提示符.Bash基本语法 3.1.1  登录LINUX终端 两种终端仿真器:1.GNOME桌面的GHOME Terminal : 2.KDE桌面的Konsole Terminal 远程连接终端工具: Xshell , CRT .后期会教你安装. 例1:通过tty命令看到当前所属的虚拟终端 [root@xuegod63 ~]# tty /dev/pts/0 注:shift+ctrl+N 快速打开一个终端.  终端字体放大: shift+ctrl+加号.终端字…
Hadoop中的NameNode好比是人的心脏,非常重要,绝对不可以停止工作.在hadoop1时代,只有一个NameNode.如果该NameNode数据丢失或者不能工作,那么整个集群就不能恢复了.这是hadoop1中的单点问题,也是hadoop1不可靠的表现.hadoop2就解决了这个问题. hadoop2.2.0中HDFS的高可靠指的是可以同时启动2个NameNode.其中一个处于工作状态,另一个处于随时待命状态.这样,当一个NameNode所在的服务器宕机时,可以在数据不丢失的情况下,手工或…
使用QJM实现HDFS的HA配置 1.背景 hadoop 2.0.0之前,namenode存在单点故障问题(SPOF,single point of failure),如果主机或进程不可用时,整个集群就变得不可用,直到namenode进行重启或产生新的namenode.主要有两种方式会影响到HDFS集群: 不可预期事件比如机器宕机,集群变得不可用直到操作人员重启namenode. 可预期事件比如软硬件升级也会导致集群的下线. HDFS的高可用特性解决了以上两个问题,通过在一个集群中运行两个冗余的…
公司平台的分布式文件系统基于Hadoop HDFS技术构建,为开发人员学习及后续项目中Hadoop HDFS相关操作提供技术参考特编写此文档.本文档描述了Linux单机环境下Hadoop HDFS伪分布式集群的安装步骤及基本操作,包括:Hadoop HDFS的安装.配置.基本操作等内容. 参考文档 <Hadoop: Setting up a Single Node Cluster.> http://hadoop.apache.org/docs/r2.7.5/hadoop-project-dis…
第三章  Linux基本命令操作 ¨  本节所讲内容: ¨  3.1  Linux终端介绍 Shell提示符 Bash Shell基本语法 ¨  3.2  基本命令的使用:ls.pwd.cd.history ¨  3.3  查看系统和BIOS硬件时间 ¨  3.4  Linux如何获得帮助 ¨  3.5  开关机命令及7个启动级别 ¨  3.6 实战:设置服务器来电后自动开机 ¨  3.7 实战:设置服务器定时开机   3.1  Linux终端介绍.Shell提示符.Bash基本语法  3.1.…
MySQL基本命令操作及数据库基本概念 1.数据库的基本概念 2.主流数据库介绍 3.关系型非关系型数据库介绍 4.Mysql 安装方法 5.Mysql 基本操作命令 1.数据库的基本概念: 数据库的组成 数据:     描述事物的符号记录    包括数字,文字.图形.图像.声音.档案记录等        以"记录"形式按统一格式进行存储 表:        将不同的记录组织在一起,用来存储具体数据 数据库: 表的集合,是存储数据的仓库   以一定的组织方式存储的相互有关的数据集合  …
#source的名字 agent.sources = kafkaSource # channels的名字,建议按照type来命名 agent.channels = memoryChannel # sink的名字,建议按照目标来命名 agent.sinks = hdfsSink # 指定source使用的channel名字 agent.sources.kafkaSource.channels = memoryChannel # 指定sink需要使用的channel的名字,注意这里是channel…