Azkaban2官方配置文档
最近工作实在是太忙了,我把之前翻译的官方的文档先放上来吧,希望对大家有所帮助~
介绍
Azkaban2新功能:
1、Web UI
2、简单工作流上传
3、更容易设置job的依赖关系
4、调度工作流
5、权限设置
6、Kill和restart工作流
7、模块化和插件化
8、日志和设计工作流和job
搭建
Azkaban2是相当容易搭建的,尽管它比azkaban要进行更多的插件组装。在Azkaban2中有两个server和一个数据库需要搭建:
l MySQL
l Azkaban Web Server - 是一个和web接口一样的充当控制器功能的Jetty Server
l Azkaban Executor Server - 用于提交工作流
下载
需要从Azkaban下载3个包: web server, executor server 和MySQL启动脚本。
下载地址:
https://github.com/azkaban/azkaban2/wiki/Download-Packages
搭建数据库
现在,Azkaban只能用MySQL进行数据存储。
l 下载azkaban-sql-script tar包。
l 运行包中的mysql脚本来创建数据库表。
获取JDBC驱动jar包
下载地址:http://www.mysql.com/downloads/connector/j/
搭建Web Server
下载并安装
1、下载azkaban-web-server tar包。将其解压到你安装azkaban web的目录下。
2、Copy jdbc驱动jar包到./extlib目录下。Azkaban将会自动检查和加载这 个目录下的外部引入jar包。
在 conf 目录下,会有以下几个文件:
|
文件 |
描述 |
|
azkaban.properties |
用于Azkanba运行时的属性配置 |
|
global.properties |
全局静态属性,作为共享属性共享给每一个工作流程和job |
|
azkaban-users.xml |
用于添加用户和角色权限的属性文件。如果XmlUserManager没有启动,则这个文件将不会被使用 |
搭建SSL
Azkaban使用SSL socket连接器。可以根据以下链接提供的方法创建:
http://docs.codehaus.org/display/JETTY/How+to+configure+SSL
一旦一个keystore文件被创建,Azkaban必须要给出它的位置和密码,包括azkaban.properties中下面的内容页应该被重写:
|
jetty.keystor-keystore jetty.password=password jetty.keypassword=password jetty.truststore=keystore jetty.trustpassword=password |
搭建UserManager
Azkaban使用UserManager提供验证和用户角色的设置。默认情况下,Azkaban使用XmlUserManager获取username/passwords和从azkaban-users.xml中得到的角色设置,azkaban-users.xml可以再azkaban.properties文件中查看到:
l user.manager.class=azkaban.user.XmlUserManager
l User.manager.xml.file=conf/azkaban-users.xml
接下来是一个azkaban-users.xml文件的例子:
|
<azkaban-users> |
也可以利用其他实现权限验证和设置的方法通过实现azkaban.user.UserManager接口并改变user.manager.class属性来重写UserManager。
搭建数据库
为了让Azkaban web client可以连接到MySQL,需要配azkaban.properties 文件中的一下属性:
|
database.type=mysql |
配置主机和端口号
配置azkaban.properties中的属性:
|
executor.port=12321 executor.host=<url> |
搭建Web Client
Azkaban作为一个Jetty Server搭建。你可以执行Azkaban将会使用的端口 号和连接的数量。
颜色主题和名称可以定制的安装,特别是在区别多版本的Azkaban上非常有用。
安装可视化插件
之前的Azkaban版本包含HDFS浏览。在新版本的Azkaban中,它可以作为一个插件进行配置。
为了安装可视化插件,需要下载并文件解压到./plugin/viewer目录下。
运行Web Server
Bin目录下应该包含azkaban-web-start.sh文件。用这个文件来启动Azkaban Web Server。使用azkaban-web-shutdown.sh关闭azkaban。
-------------------------------------------------------------------------------------------------------
Azkaban Web Server设置
一般属性
|
Property |
Description |
Default |
|
azkaban.name |
将会在Azkaban UI中展示出来的azkaban的名字 |
Local |
|
azkaban.label |
一个描述Azkaban实例的标签 |
My Local Azkaban |
|
azkaban.color |
设置Azkaban UI颜色的一个十六进制的值 |
#FF3601 (red) |
|
web.resource.dir |
设置UI的css和javascript文件存放的路径 |
src/web |
|
default.timezone |
默认的时区 |
America/Los_Angeles |
|
user.manager.class |
用户管理用户权限的 user manager。默认是XmlUserManager |
azkaban.user.XmlUserManager |
|
mail.sender |
邮件发送的地址 |
|
|
mail.host |
邮件server主机地址 |
|
|
mail.user |
邮件server用户名 |
|
|
mail.password |
邮件server密码 |
|
|
azkaban.should.proxy |
被HDFS浏览器使用。如果以安全的形式使用Hadoop1.0+则设置为true。即将会被移除 |
false |
|
proxy.keytab.location |
被HDFS浏览器使用。如果以安全的形式使用Hadoop1.0+则设置为true。即将会被移除 |
|
|
proxy.user |
代理用户 |
|
|
viewer.plugin.dir |
可视化插件被安装到的目录 |
plugins/viewer |
Jetty 属性
|
Property |
Description |
Default |
|
jetty.maxThreads |
最大请求线程数 |
|
|
jetty.ssl.port |
Ssl端口号 |
|
|
jetty.keystore |
The keystore file |
keystore |
|
jetty.password |
Jetty password |
password |
|
jetty.keypassword |
The keypassword |
password |
|
jetty.truststore |
The trust store |
keystore |
|
jetty.trustpassword |
The trust password |
password |
Mysql连接属性
|
Property |
Description |
Default |
|
database.type |
数据库类型,现在只支持mysql |
mysql |
|
mysql.port |
Mysql数据库的端口号 |
|
|
mysql.host |
Mysql数据库的主机地址 |
localhost |
|
mysql.database |
Mysql数据库名称 |
azkaban2 |
|
mysql.user |
mysql user |
azkaban |
|
mysql.password |
mysql password |
password |
|
mysql.numconnections |
Azkaban webclient可以开放给数据库的连接数量 |
Execurot Sercer属性
|
Properties |
Description |
Default |
|
executor.port |
azkaban executor server端口号 |
|
|
executor.host |
azkaban executor server主机地址 |
localhost |
设置Executor Server
下载和安装
1、下载azkaban-executor-server tar包。将其解压到azkaban executor的安装目录下。
2、Copy jdbc驱动jar包到./extlib目录下。
|
File |
Description |
|
azkaban.properties |
Azkaban运行时属性 |
|
global.properties |
全局静态属性,作为共享属性共享给每一个工作流程和job |
搭建数据库
为了让Azkaban web client可以连接到MySQL,需要配azkaban.properties 文件中的一下属性:
|
database.type=mysql |
配置主机和端口号
配置azkaban.properties中的属性:
|
executor.maxThreads=50 executor.port=12321 |
-----------------------------------------------------------------------------
转载请注明出处:http://blog.csdn.net/gloria__zhang/article/details/12402051
Azkaban2官方配置文档的更多相关文章
- Java日志框架-Logback手册中文版以及官方配置文档教程
Logback手册中文版:(链接: https://pan.baidu.com/s/1bpMyasR 密码: 6u5c),虽然版本有点旧,但是大体意思差不多,先用中文版了解个大概,然后一切最新的配置以 ...
- elk 概念整理 集群状态 - yellow - 面试的问题 -- 官方配置文档 水平扩容以及数据保障
1. primary shard -- raid0 2.replicas shard -- raid1 3.index -- 图书馆的借书指引 4.MySQL vs elasticsearch # ...
- Nginx官方配置文档收集
官方入口: https://www.nginx.com/resources/wiki/start/#pre-canned-configurations http://nginx.org/en/docs ...
- haproxy官方配置文档地址
http://cbonte.github.io/haproxy-dconv/1.6/configuration.html#4-option%20http-keep-alive
- Hibernate配置文档详解
Hibernate配置文档有框架总部署文档hibernate.cfg.xml 和映射类的配置文档 ***.hbm.xml hibernate.cfg.xml(文件位置直接放在src源文件夹即可) (在 ...
- Git教程(2)官方命令文档及常用命令表
http://www.cnblogs.com/angeldevil/archive/2013/11/26/3238470.html 1,官方命令文档 http://www.git-scm.com/do ...
- Python学习 :常用模块(四)----- 配置文档
常用模块(四) 八.configparser 模块 官方介绍:A configuration file consists of sections, lead by a "[section]& ...
- nginx 安全配置文档
1.配置文档中有多处明确写出了nginx的配置文件路径,该路径是测试环境中的路径,线上系统的nginx配置文件与文档中所写的路径可能不一样,在进行相关配置时,应以线上配置文件的实际路径为准. 线上系统 ...
- tomcat 安全配置文档
1.配置文档中使用$CATALINA_HOME变量声明为tomcat的安装目录并明确写出了tomcat的配置文件路径,此路径为测试环境的路径,线上系统对应配置文件的路径可能不一样,在进行相关配置时,应 ...
随机推荐
- post和get的区别?
1. get是从服务器上获取数据,post是向服务器传送数据.2. get是把参数数据队列加到提交表单的ACTION属性所指的URL中,值和表单内各个字段一一对应,在URL中可以看到.post是通过H ...
- 找出整数中第k大的数
一 问题描述: 找出 m 个整数中第 k(0<k<m+1)大的整数. 二 举例: 假设有 12 个整数:data[1, 4, -1, -4, 9, 8, 0, 3, -8, 11, 2 ...
- 【Linux】常用命令
一.文件结构 /: 根目录 /bin: 系统所需要的那些命令位于此目录. /boot: Linux的内核及引导系统程序所需要的文件目录,GRUB或LILO系统引导管理器也 ...
- IIS10 设置支持wcf服务(.svc)
感谢: http://www.cnblogs.com/dudu/p/3328066.html 如果提示web.config配置重复的话,很有可能是.net framework版本的问题,把IIS中的版 ...
- WWDC2014之App Extensions学习笔记
一.关于App Extensions extension是iOS8新开放的一种对几个固定系统区域的扩展机制,它可以在一定程度上弥补iOS的沙盒机制对应用间通信的限制. extension的出现,为用户 ...
- 代码之美——Doom3源代码赏析2
http://www.csdn.net/article/2013-01-17/2813778-the-beauty-of-doom3-source-code/2 摘要:Dyad作者.资深C++工程师S ...
- BZOJ 2330 糖果
Description 幼儿园里有N个小朋友,lxhgww老师现在想要给这些小朋友们分配糖果,要求每个小朋友都要分到糖果.但是小朋友们也有嫉妒心,总是会提出一些要求,比如小明不希望小红分到的糖果比他的 ...
- 【Java】Servlet 工作原理解析
Web 技术成为当今主流的互联网 Web 应用技术之一,而 Servlet 是 Java Web 技术的核心基础.因而掌握 Servlet 的工作原理是成为一名合格的 Java Web 技术开发人员的 ...
- Unity3D批处理脚本
Unity3D批处理脚本 本文属于转载,如有侵权,请留言,我会及时删除! Max09在模型到处的模型和U3D场景的尺寸不一致,Max09中的1m导到U3D中,只有0.01m,这时可以在U3D中将模型的 ...
- Cognos请求流程——<转>
访问Cognos8 匿名访问 用户通过浏览器发起Cognos访问请求,请求被送至Cognos Gateway Gateway接收请求并发送给一个dispatcher dispatcher发现请求没有附 ...