大数据HDFS集群相关概念
一、Zookeeper服务
| 端口 | 描述 | 配置路径 |
| 2181 | 主要使用端口,对cline端提供服务。连接方式jdbc:hive2://ip:2181 | conf/zoo.cfg中clientPort |
| 2183 | 选举leader使用 | conf/zoo.cfg中server.x=2182:2183 |
| 2182 | 集群内机器通讯使用(Leader监听此端口) | conf/zoo.cfg中server.x=2182:2183 |
二、Hive服务
| 端口 | 描述 | 配置路径 |
| 7004 | Metastore,连接方式thrift://ip:7004 | hive-site.xml 的hive.metastore.port |
| 7001 | HiveServer2 | hive-site.xml 的hive.server2.thrift.port |
三、Yarn服务
| 服务 | 端口 | 描述 | 配置路径 |
| ResourceManager | 5000 | RM的applications manager端口 | yarn.resourcemanager.address |
| 5001 | scheduler组件的IPC端口 | yarn.resourcemanager.scheduler.address | |
| 5002 | IPC | yarn.resourcemanager.resource-tracker.address | |
| 5003 | IPC | yarn.resourcemanager.admin.address | |
| 5004 | http服务端口 | yarn.resourcemanager.webapp.address | |
| NodeManager | 8040 | localizer IPC | yarn.nodemanager.localizer.address |
| 8042 | http服务端口 | yarn.nodemanager.webapp.address | |
| 8041 | NM中container manager的端口 | yarn.nodemanager.address | |
| JobHistory Server | 5022 | IPC | mapreduce.jobhistory.address |
| 5023 | MR jobhistory admin地址,用以接收history admin命令 | mapreduce.jobhistory.admin.address | |
| 5024 | http服务端口 | mapreduce.jobhistory.webapp.address |
四、HDFS服务
| 服务 | 端口 | 描述 | 配置路径 |
| DataNode | 50010 | datanode服务端口,用于数据传输 | dfs.datanode.address |
| 50075 | http服务的端口 | dfs.datanode.http.address | |
| 50475 | https服务的端口 | dfs.datanode.https.address | |
| 50020 | ipc服务的端口 | dfs.datanode.ipc.address | |
| NameNode | 4008 | http服务的端口 | dfs.namenode.http-address |
| 4009 | https服务的端口 | dfs.namenode.https-address | |
| 8020 | 接收Client连接的RPC端口,用于获取文件系统metadata信息。 | fs.defaultFS |
大数据HDFS集群相关概念的更多相关文章
- 大数据-HDFS 集群搭建的配置文件
1.HDFS简单版集群搭建相关配置文件 1.core-site.xml文件 <property> <name>fs.defaultFS</name> <val ...
- 大数据Hadoop-Spark集群部署知识总结(一)
大数据Hadoop-Spark集群部署知识总结 一.启动/关闭 hadoop myhadoop.sh start/stop 分步启动: 第一步:在hadoop102主机上 sbin/start-dfs ...
- [转]大数据hadoop集群硬件选择
问题导读 1.哪些情况会遇到io受限制? 2.哪些情况会遇到cpu受限制? 3.如何选择机器配置类型? 4.为数据节点/任务追踪器提供的推荐哪些规格? 随着Apache Hadoop的起步,云客户 ...
- 大数据——Hadoop集群坏境CentOS安装
前言 前面我们主要分析了搭建Hadoop集群所需要准备的内容和一些提前规划好的项,本篇我们主要来分析如何安装CentOS操作系统,以及一些基础的设置,闲言少叙,我们进入本篇的正题. 技术准备 VMwa ...
- 部署开启了Kerberos身份验证的大数据平台集群外客户端
转载请注明出处 :http://www.cnblogs.com/xiaodf/ 本文档主要用于说明,如何在集群外节点上,部署大数据平台的客户端,此大数据平台已经开启了Kerberos身份验证.通过客户 ...
- 大数据 -- Hadoop集群环境搭建
首先我们来认识一下HDFS, HDFS(Hadoop Distributed File System )Hadoop分布式文件系统.它其实是将一个大文件分成若干块保存在不同服务器的多个节点中.通过联网 ...
- 一台虚拟机,基于docker搭建大数据HDP集群
前言 好多人问我,这种基于大数据平台的xxxx的毕业设计要怎么做.这个可以参考之前写得关于我大数据毕业设计的文章.这篇文章是将对之前的毕设进行优化. 个人觉得可以分为两个部分.第一个部分就是基础的平台 ...
- 入门大数据---Redis集群分布式学习
Redis是什么? 官方介绍: Redis 是一个开源(BSD许可)的,内存中的数据结构存储系统,它可以用作数据库.缓存和消息中间件. 它支持多种类型的数据结构,如 字符串(strings), 散列( ...
- 大数据-zookeeper集群安装
一.安装前发现的问题: 1.安装前期发现jps权限不够 [root@master1 ~]# jps -bash: /opt/workspace/jdk1./bin/jps: Permission de ...
- 大数据 --> Kafka集群搭建
Kafka集群搭建 下面是以三台机器搭建为例,(扩展到4台以上一样,修改下配置文件即可) 1.下载kafka http://apache.fayea.com/kafka/0.9.0.1/ ,拷贝到三台 ...
随机推荐
- 如何使用Python编写一个Lisp解释器
原文出处: Peter Norvig 译文出处: jnjc(@jnjcc) 本文有两个目的: 一是讲述实现计算机语言解释器的通用方法,另外一点,着重展示如何使用Python来实现Lisp方言Sch ...
- 渗透测试-Kioptix Level 1靶机getshell及提权教程
声明! 学习视频来自B站up主 泷羽sec 有兴趣的师傅可以关注一下,如涉及侵权马上删除文章,笔记只是方便各位师傅的学习和探讨,文章所提到的网站以及内容,只做学习交流,其他均与本人以及泷羽sec团队无 ...
- (二)Springboot + vue + 达梦数据库构建RBAC权限模型前后端分离脚手架保姆级教程(后端项目)
XX后台管理系统 Springboot + vue + dm8 的前后端分离项目,后端项目 https://spring.io https://start.aliyun.com 1. 创建项目 初始化 ...
- opencv imshow 大图片显示,拖动显示
用imshow显示大图片,不能完整显示,不方便.结合网友的代码,修改成现在的代码,可以拖动图片,方便查看完整图片.而且方便调试,只需要用MatShow替换imshow. struct MousePar ...
- 规模法则(Scaling Law)与参数效率的提高,
上一篇:<人工智能大语言模型起源篇(三),模型规模与参数效率> 规模法则与效率提高 如果你想了解更多关于提高变换器效率的各种技术,我推荐阅读2020年的<Efficient Tran ...
- IOS中的Context Menu
IOS中的Context Menu 通过长按组件或者3D touch方式,周边全部虚化,弹出一个可操作的菜单,并且菜单之间也可以嵌套 IOS13之后已经弃用UIViewControllerPrevie ...
- 工作中这样用MQ,很香!
前言 消息队列(MQ)是分布式系统中不可或缺的技术之一. 对很多小伙伴来说,刚接触MQ时,可能觉得它只是个"传话工具",但用着用着,你会发现它简直是系统的"润滑剂&quo ...
- [Blazor] 一文理清 Blazor Identity 鉴权验证
一文理清 Blazor Identity 鉴权验证 摘要 在现代Web应用程序中,身份认证与授权是确保应用安全性和用户数据保护的关键环节.Blazor作为基于C#和.NET的前端框架,提供了丰富的身份 ...
- shell 将文件内容读取到 数组中
#!/bin/bash prod_file=/home/vmuser/linbo/kettleDemo/job/test/CA-20201224.csv test_file=/home/vmuser/ ...
- Spring Boot logback springProperty 设置默认值
springProperty 当没有读取到source字段中设置的log.path值时,设置为defaultValue字段中的${user.dir}/logs变量值. <springProper ...