一、Overview 介绍
    yarn timeline server用于存储和检查应用程序过去和现在的信息(比如job history server)。有两个功能:
1.Persisting Application Specific Information 保存应用程序特定的信息
    收集和检索应用程序或者框架的特定信息。如装mr任务的map\reduce数量通过TimeClient发布到Timeline Server中。然后用户可以通过wetrest 来查询这些参数。
2.Persisting Generic Information about Completed Applications 存储已经执行完成的应用程序的通用信息
    mr任务有jobhistoryServer来保存历史任务信息,但是jobhistoryServer只是yarn TimeLine server其中的一个应用。通用信息包括:
  • queue-name,   队列名
  • user information and the like set in the ApplicationSubmissionContext,  用户信息和applicationSubmissonContext的设置
  • a list of application-attempts that ran for an application   一系列应用程序而非一个应用
  • information about each application-attempt   每个应用程序的信息
  • the list of containers run under each application-attempt 每个应用程序使用的container列表
  • information about each container. 每个container的信息


二、Current Status and Future Plans 当前状况和远景规划

Current status  当前状况

  1. The core functionality of the timeline server has been completed.  核心功能已经完成
  2. It works in both secure and non secure clusters.  可以工作在安全和非安全模式下
  3. The generic history service is built on the timeline store.  测探历史服务已经在timeline store中完成
  4. The history can be stored in memory or in a leveldb database store; the latter ensures the history is preserved over Timeline Server restarts. 历史信息可以保存在内存或者数据库中,即使timeline server重启选样可用
  5. The ability to install framework specific UIs in YARN is not supported.   框架中的特殊UIs不被支持(语法有问题)
  6. Application specific information is only available via RESTful APIs using JSON type content. 应用程序特殊的信息只支持RESTful APIs,格式是JSON
  7. The “Timeline Server v1” REST API has been declared one of the REST APIs whose compatibility will be maintained in future releases.  timeline server V1 的REST APIS是后向兼容的
  8. The single-server implementation of the Timeline Server places a limit on the scalability of the service; it also prevents the service being High-Availability component of the YARN infrastructure.  单节点的timeline server的扩展性问题,而且无法实现HA。

Future Plans 未来规划

  1. Future releases will introduce a next generation timeline service which is scalable and reliable, “Timeline Service v2”.  下一代的timeline server装是可扩展和稳定的
  2. The expanded features of this service may not be available to applications using the Timeline Server v1 REST API. That includes extended data structures as well as the ability of the client to failover between Timeline Server instances.   使用timeline server v1 的rest api可能无法使用扩展特性,包括可扩展的数据结构和clinet failover

三、Timeline Structure
Timeline domain
    域,同namespace一个概念,将不同的应用和用户隔开。域中定义和用户信息、读写相关的ACL信息、时间信息等。每个域在yarn中都必须有独立的ID。
entity
    实体可以是appliction\application attempt的元数据, 及用户定义的信息等。可以定义实体主过滤器( Primary filters)
event
    实体中应用程序的事件。

四、配置
    默认是不开启timeline server的。
具体配置请参考:

 









































八:The YARN Timeline Server的更多相关文章

  1. YARN的重启动问题:RM Restart/RM HA/Timeline Server/NM Restart

    ResourceManger Restart ResourceManager负责资源管理和应用的调度,是YARN的核心组件,有可能存在单点失败的问题.ResourceManager Restart是使 ...

  2. HDP3.1 中配置 YARN 的 timeline server 使用外部的 HBase

    HDP3.1 中的 YARN 的 timeline server 默认使用内置的 HBase,不知道为什么,总是过几天就挂掉,暂时还没找到原因.后来想着让它使用外部的 HBase 看看会不会还有此问题 ...

  3. timeline server介绍

    1. timeline是什么 2. timeline能做什么 3. timeline结构 4. timeline怎么配置   1). timeline是什么? 它能存储和检索应用当前和历史信息在yar ...

  4. 【译】索引进阶(八):SQL SERVER唯一索引

    [译注:此文为翻译,由于本人水平所限,疏漏在所难免,欢迎探讨指正] 原文链接:传送门. 在本章节我们检查唯一索引.唯一索引的特别之处在于它不仅提供了性能益处,而且提供了数据完整性益处.在SQL SER ...

  5. Python3.7.1学习(八) Python访问SQL Server数据库

    一.pip install pymssql即可安装pymssql库 二.Python连接SQL Server数据库     实例代码如下: # -*- coding:utf-8 -*-"&q ...

  6. Hadoop记录-Yarn命令

    概述 YARN命令是调用bin/yarn脚本文件,如果运行yarn脚本没有带任何参数,则会打印yarn所有命令的描述. 使用: yarn [--config confdir] COMMAND [--l ...

  7. Hadoop学习笔记—Yarn

    目录 一些基本知识 ResourceManager 的恢复 Resource Manager的HA YARN Node Labels YARN Node Attributes Web Applicat ...

  8. 从Hadoop Summit 2016看大数据行业与Hadoop的发展

    前言: 好吧我承认已经有四年多没有更新博客了.... 在这四年中发生了很多事情,换了工作,换了工作的方向.在工作的第一年的时候接触机器学习,从那之后的一年非常狂热的学习机器学习的相关技术,也写了一些自 ...

  9. Hive鲜为人知的宝石-Hooks

    本来想祝大家节日快乐,哎,无奈浪尖还在写文章.谴责一下,那些今天不学习的人.对于今天入星球的人,今天调低了一点价格.减少了20大洋.机不可失失不再来.点击阅读原文或者扫底部二维码. hive概述 Hi ...

随机推荐

  1. 自己封装了的AlertController

    一直觉得使用系统这个东西写起来特别麻烦,每次都要写一大推东西,还是重复的,今天抽了点时间自己重新封装了一下,解决了自己的强迫症...,不多说,直接上代码了. 1.自己定义了一个名为XBZ的UIAler ...

  2. iOS 文件下载及断点续传

    ios的下载我们可以使用的方法有:NSData.NSURLConnection.NSURLSession还有第三方框架AFNetworking和ASI 利用NSData方法和NSURLConnecti ...

  3. python3爬虫-网易云排行榜,网易云歌手及作品

    import requests, re, json, os, time from fake_useragent import UserAgent from lxml import etree from ...

  4. 谷歌浏览器添加flash白名单

    69以前的版本: 打开 chrome://settings/content/flash 上图中应该有一个"添加"选项 , 依次输入: *.]com [*.]net [*.]org ...

  5. 前端js转换时间戳为时间类型显示

    //时间戳转换 function add0(m){return m<10?'0'+m:m } function formatDate(timestamp) { //timestamp是整数,否则 ...

  6. Hive(3)-meta store和hdfs详解,以及JDBC连接Hive

    一. Meta Store 使用mysql客户端登录hadoop100的mysql,可以看到库中多了一个metastore 现在尤其要关注这三个表 DBS表,存储的是Hive的数据库 TBLS表,存储 ...

  7. Java核心技术36讲----------Exception和Error有什么区别

    1.异常知识点学习实例 代码如下: package fromnet; /** * 参考链接:https://blog.csdn.net/qq_18505715/article/details/7319 ...

  8. stm32串口发送数据复位 第一个数据丢失

    http://blog.csdn.net/kevinhg/article/details/40991655 STM32串口发送必须先检测状态,否则第一个字节无法发出,发送完毕,必须检测发送状态是否完成 ...

  9. Altium Designer 快捷键与技巧

    在PCB中: 布线过程中,换层快捷键:"Ctrl"  + "Shift" + "滚轮". 单独显示顶层或底层:按"SHIFT&qu ...

  10. python函数的四种参数传递方式

    python中函数传递参数有四种形式 fun1(a,b,c) fun2(a=1,b=2,c=3) fun3(*args) fun4(**kargs) 四种中最常见是前两种,基本上一般点的教程都会涉及, ...