我们经常使用yarn调度,但是我们是否对调度队列显示参数真正了解呢?
 
下面我们来一一看看这些参数都是做什么用的,代表什么意思
 
hadoop是通过队列管理集群资源,翻开集群Web UI,找到Schedule查看

 
Queue State
queue 的状态
Used Capacity : 0.0%
已使用资源占队列配置值的百分比
Absolute Used Capacity : 0.0%
已使用资源占集群的百分比
Absolute Capacity
queue 至少可以使用系统资源占集群的百分比
Absolute Max Capacity
queue 最多可以使用系统资源占集群的百分比
Used Resources
已使用的memory和CPU
Num Schedulable Applications
正在被调度的app应用个数
Num Non-Schedulable Applications
没有被调度的app应用个数
Num Containers
已启用的container容器数量
Max Applications
最大可运行的应用数量
(处于pending和running状态的,比如配置最大运行量
yarn.scheduler.capacity.maximum-applications 为10000,
如果Absolute Capacity为90%,则这个值为9000
Max Applications Per User
每个user最多可以运行的应用数量
Max Applications * Configured Minimum User Limit Percent
Max Schedulable Applications
集群最大可调度应用数量,取决于内存总量,应用最小内存分配,
am可用资源占比。例如:
内存总量360G,yarn.scheduler.minimum-allocation-mb 为1024M,
yarn.scheduler.capacity.maximum-am-resource-percent 为0.1,
Configured Max Capacity为100%
则此值为360*0.1/1*1=36)
意思是:360G*am%/am大小*队列大小
Max Schedulable Applications Per User
单个用户最大可调度应用数量。
Max Schedulable Applications * 该队列capacity占比
* 单用户可使用队列资源占比
Configured Capacity
配置该队列capacity
Configured Max Capacity
配置该队列最大可使用capacity
Configured Minimum User Limit Percent
每个user最多可以使用队列资源的百分比
Configured User Limit Factor
队列中的用户允许占用队列值的多少,默认值是0.0~1
如果将值设置为1,它代表:最大可以占用整个队列资源
如果将值设置为2,它代表:允许队列所占资源增长到最多为队列容量的两倍
 

yarn web ui 参数详解的更多相关文章

  1. Tomcat web.xml配置参数详解

    Apache Tomcat Configuration Reference - The Context Containerhttps://tomcat.apache.org/tomcat-5.5-do ...

  2. Spark参数详解 一(Spark1.6)

    Spark参数详解 (Spark1.6) 参考文档:Spark官网 在Spark的web UI在"Environment"选项卡中列出Spark属性.这是一个很有用的地方,可以检查 ...

  3. [spark]-Spark2.x集群搭建与参数详解

    在前面的Spark发展历程和基本概念中介绍了Spark的一些基本概念,熟悉了这些基本概念对于集群的搭建是很有必要的.我们可以了解到每个参数配置的作用是什么.这里将详细介绍Spark集群搭建以及xml参 ...

  4. spark调优篇-spark on yarn web UI

    spark on yarn 的执行过程在 yarn RM 上无法直接查看,即 http://192.168.10.10:8088,这对于调试程序很不方便,所以需要手动配置 配置方法 1. 配置 spa ...

  5. Java web.xml 配置详解

    在项目中总会遇到一些关于加载的优先级问题,近期也同样遇到过类似的,所以自己查找资料总结了下,下面有些是转载其他人的,毕竟人家写的不错,自己也就不重复造轮子了,只是略加点了自己的修饰. 首先可以肯定的是 ...

  6. [深入学习Web安全](5)详解MySQL注射

    [深入学习Web安全](5)详解MySQL注射 0x00 目录 0x00 目录 0x01 MySQL注射的简单介绍 0x02 对于information_schema库的研究 0x03 注射第一步—— ...

  7. java web.xml配置详解

    1.启动一个WEB项目的时候,WEB容器会去读取它的配置文件web.xml,读取<listener>和<context-param>两个结点. 2.紧急着,容创建一个Servl ...

  8. iptables参数详解

    iptables参数详解 搬运工:尹正杰 注:此片文章来源于linux社区. Iptalbes 是用来设置.维护和检查Linux内核的IP包过滤规则的. 可以定义不同的表,每个表都包含几个内部的链,也 ...

  9. web.xml文件详解

      web.xml文件详解 Table of Contents 1 listener. filter.servlet 加载顺序 2 web.xml文件详解 3 相应元素配置 1 listener. f ...

随机推荐

  1. Date日期类型的绑定

    自定义类型的绑定 springmvc没有提供默认的对日期类型的绑定,需要自定义日期类型的绑定 第一张图是po类中日期属性,第二张图是页面中日期属性的内容,第三张图片是访问出现400错误 因为日期的格式 ...

  2. 【python 3】 集合方法操作汇总

    基本数据类型 : set 集合(set)特点 : 无序 不能重复(自动去重) 用 {} 或 set()函数 来表示集合 空集合 : set() 1 name = {"江户部柯南", ...

  3. 2017-2018 ACM-ICPC German Collegiate Programming Contest (GCPC 2017)

    A Drawing Borders 很多构造方法,下图可能是最简单的了 代码: #include<bits/stdc++.h> using namespace std; ; struct ...

  4. hive参数配置详细

    hive.exec.mode.local.auto 决定 Hive 是否应该自动地根据输入文件大小,在本地运行(在GateWay运行) true hive.exec.mode.local.auto.i ...

  5. MYSQL mybatis

     mysql 1 每个语句的结束记得加分号; 2where条件里再做if分支 SELECT *FROM `table` WHERE IF( `parentID` is null, `plan_id` ...

  6. 理解去中心化 稳定币 DAI

    本文转载于深入浅出区块链, 原文链接 随着摩根大通推出JPM Coin 稳定币,可以预见稳定币将成为区块链落地的一大助推器. 坦白来讲,对于一个程序员的我来讲(不懂一点专业经济和金融),理解DAI的机 ...

  7. Javabean介绍

    1.javabean简介 JavaBean 是一种JAVA语言写成的可重用组件.为写成JavaBean,类必须是具体的和公共的,并且具有无参数的构造器.JavaBean 通过提供符合一致性设计模式的公 ...

  8. 3.4 自动测试初步《精通ASP.NET MVC 5》

    概述 ASP.NET MVC 框架已被设计成易于建立自动测试,并易于采用诸如测试驱动开发(TDD)等的开发方法学.ASP.NET MVC 为自动化测试提供了一个理想平台. 从广义上讲,当今的 Web ...

  9. ReactJS之遍历对象的方法

    const obj = { channel: “wevmvmklskdosll12k;0”, index:0 }; Object.keys(obj).map(key => console.log ...

  10. 小程序一个大盒子里面的盒子内容居中对其显示wxss写法

    对小程序研究感兴趣的可加(交流QQ群:604788754)入群联系群主可得到小程序教学资源. 这个案例只是想展示效果,内容部分未进行for循环绑定处理: WXML: <view class=&q ...