一、Overview 介绍
    yarn timeline server用于存储和检查应用程序过去和现在的信息(比如job history server)。有两个功能:
1.Persisting Application Specific Information 保存应用程序特定的信息
    收集和检索应用程序或者框架的特定信息。如装mr任务的map\reduce数量通过TimeClient发布到Timeline Server中。然后用户可以通过wetrest 来查询这些参数。
2.Persisting Generic Information about Completed Applications 存储已经执行完成的应用程序的通用信息
    mr任务有jobhistoryServer来保存历史任务信息,但是jobhistoryServer只是yarn TimeLine server其中的一个应用。通用信息包括:
  • queue-name,   队列名
  • user information and the like set in the ApplicationSubmissionContext,  用户信息和applicationSubmissonContext的设置
  • a list of application-attempts that ran for an application   一系列应用程序而非一个应用
  • information about each application-attempt   每个应用程序的信息
  • the list of containers run under each application-attempt 每个应用程序使用的container列表
  • information about each container. 每个container的信息


二、Current Status and Future Plans 当前状况和远景规划

Current status  当前状况

  1. The core functionality of the timeline server has been completed.  核心功能已经完成
  2. It works in both secure and non secure clusters.  可以工作在安全和非安全模式下
  3. The generic history service is built on the timeline store.  测探历史服务已经在timeline store中完成
  4. The history can be stored in memory or in a leveldb database store; the latter ensures the history is preserved over Timeline Server restarts. 历史信息可以保存在内存或者数据库中,即使timeline server重启选样可用
  5. The ability to install framework specific UIs in YARN is not supported.   框架中的特殊UIs不被支持(语法有问题)
  6. Application specific information is only available via RESTful APIs using JSON type content. 应用程序特殊的信息只支持RESTful APIs,格式是JSON
  7. The “Timeline Server v1” REST API has been declared one of the REST APIs whose compatibility will be maintained in future releases.  timeline server V1 的REST APIS是后向兼容的
  8. The single-server implementation of the Timeline Server places a limit on the scalability of the service; it also prevents the service being High-Availability component of the YARN infrastructure.  单节点的timeline server的扩展性问题,而且无法实现HA。

Future Plans 未来规划

  1. Future releases will introduce a next generation timeline service which is scalable and reliable, “Timeline Service v2”.  下一代的timeline server装是可扩展和稳定的
  2. The expanded features of this service may not be available to applications using the Timeline Server v1 REST API. That includes extended data structures as well as the ability of the client to failover between Timeline Server instances.   使用timeline server v1 的rest api可能无法使用扩展特性,包括可扩展的数据结构和clinet failover

三、Timeline Structure
Timeline domain
    域,同namespace一个概念,将不同的应用和用户隔开。域中定义和用户信息、读写相关的ACL信息、时间信息等。每个域在yarn中都必须有独立的ID。
entity
    实体可以是appliction\application attempt的元数据, 及用户定义的信息等。可以定义实体主过滤器( Primary filters)
event
    实体中应用程序的事件。

四、配置
    默认是不开启timeline server的。
具体配置请参考:

 









































八:The YARN Timeline Server的更多相关文章

  1. YARN的重启动问题:RM Restart/RM HA/Timeline Server/NM Restart

    ResourceManger Restart ResourceManager负责资源管理和应用的调度,是YARN的核心组件,有可能存在单点失败的问题.ResourceManager Restart是使 ...

  2. HDP3.1 中配置 YARN 的 timeline server 使用外部的 HBase

    HDP3.1 中的 YARN 的 timeline server 默认使用内置的 HBase,不知道为什么,总是过几天就挂掉,暂时还没找到原因.后来想着让它使用外部的 HBase 看看会不会还有此问题 ...

  3. timeline server介绍

    1. timeline是什么 2. timeline能做什么 3. timeline结构 4. timeline怎么配置   1). timeline是什么? 它能存储和检索应用当前和历史信息在yar ...

  4. 【译】索引进阶(八):SQL SERVER唯一索引

    [译注:此文为翻译,由于本人水平所限,疏漏在所难免,欢迎探讨指正] 原文链接:传送门. 在本章节我们检查唯一索引.唯一索引的特别之处在于它不仅提供了性能益处,而且提供了数据完整性益处.在SQL SER ...

  5. Python3.7.1学习(八) Python访问SQL Server数据库

    一.pip install pymssql即可安装pymssql库 二.Python连接SQL Server数据库     实例代码如下: # -*- coding:utf-8 -*-"&q ...

  6. Hadoop记录-Yarn命令

    概述 YARN命令是调用bin/yarn脚本文件,如果运行yarn脚本没有带任何参数,则会打印yarn所有命令的描述. 使用: yarn [--config confdir] COMMAND [--l ...

  7. Hadoop学习笔记—Yarn

    目录 一些基本知识 ResourceManager 的恢复 Resource Manager的HA YARN Node Labels YARN Node Attributes Web Applicat ...

  8. 从Hadoop Summit 2016看大数据行业与Hadoop的发展

    前言: 好吧我承认已经有四年多没有更新博客了.... 在这四年中发生了很多事情,换了工作,换了工作的方向.在工作的第一年的时候接触机器学习,从那之后的一年非常狂热的学习机器学习的相关技术,也写了一些自 ...

  9. Hive鲜为人知的宝石-Hooks

    本来想祝大家节日快乐,哎,无奈浪尖还在写文章.谴责一下,那些今天不学习的人.对于今天入星球的人,今天调低了一点价格.减少了20大洋.机不可失失不再来.点击阅读原文或者扫底部二维码. hive概述 Hi ...

随机推荐

  1. CSS实现图片等比例缩小不变形

    <img src="../images/bg1.jpg" alt="" /> img { /*等宽缩小不变形*/ /*width: 100%;*/ ...

  2. Vue路由钩子 afterEach beforeEach区别

    ​ vue-router作为vue里面最基础的服务,学习一段时间,对遇到的需求进行一些总结 使用vue-cli作为开发前提 vue-router已经配置好了 路由写法 routes: [ { path ...

  3. html5中audio支持音频格式

    HTML5 Audio标签能够支持wav, mp3, ogg, acc, webm等格式,但有个很重要的音乐文件格式midi(扩展名mid)却在各大浏览器中都没有内置的支持.不是所有的浏览器都支持MP ...

  4. day 23 模块2

    1.namedtuple     命名元组  -> 类似创建一个类 from collections import namedtuple   # 类 p = namedtuple("P ...

  5. Struts2+EasyUI+Hibernate小实例

    概述 这个实例主要是前台数据到后台数据的传递和后台数据到前台数据的传递,完成数据的新增,以及对新增数据的展示.下面是详细的过程: Hibernate(数据库部分) 这里只是数据库的连接和数据库实体与物 ...

  6. ACM数论-欧几里得与拓展欧几里得

    ACM数论——欧几里得与拓展欧几里得 欧几里得算法: 欧几里德算法又称辗转相除法,用于计算两个整数a,b的最大公约数. 基本算法:设a=qb+r,其中a,b,q,r都是整数,则gcd(a,b)=gcd ...

  7. 洛谷P4526 【模板】自适应辛普森法2(simpson积分)

    题目描述 计算积分 保留至小数点后5位.若积分发散,请输出"orz". 输入输出格式 输入格式: 一行,包含一个实数,为a的值 输出格式: 一行,积分值或orz 输入输出样例 输入 ...

  8. shell基础笔记

    什么是shell脚本 我自己对shell脚本的理解就是一系列的shell命令加入逻辑关系,实现类似"批处理"的功能.而不是简单的命令的堆砌,那样的shell脚本bug重重. 脚本开 ...

  9. transient是干嘛的

    Java的serialization提供了一种持久化对象实例的机制.当持久化对象时,可能有一个特殊的对象数据成员,我们不想用 serialization机制来保存它.为了在一个特定对象的一个域上关闭s ...

  10. BZOJ1001_狼抓兔子_KEY

    题目传送门 由题意得是最小割问题,又由最大流最小割定理可得只需要求无向图的最大流即可. 建双向边,跑Dinic,EK会超时. 注意在DFS时要加"if(!res)dist[now]=0;&q ...