azkaban的安装部署

在/root/apps

1目录下新建azkaban文件夹

上传安装包到azkaban

2解压

tar -zxvf  azkaban-web-server-2.5..tar.gz

3删掉安装包

[root@mini1 azkaban]# rm -rf azkaban-executor-server-2.5..tar.gz
[root@mini1 azkaban]# rm -rf azkaban-sql-script-2.5..tar.gz
[root@mini1 azkaban]# rm -rf azkaban-web-server-2.5..tar.gz

4重命名

mv  azkaban-web-2.5. server 
mv  azkaban-executor-2.5.0 executor

5修改配置文件

登录mysql数据库

[root@mini1 ~]# mysql -u root -p
Enter password:

创建azkaban数据库;

drop database azkaban;
create database azkaban;
use azkaban;

修改conf下的azkaban.properties

修改时区为亚洲上海

注:先配置好服务器节点上的时区

1、先生成时区配置文件Asia/Shanghai,用交互式命令 tzselect 即可

2、拷贝该时区文件,覆盖系统本地时区配置

cp /usr/share/zoneinfo/Asia/Shanghai /etc/localtime

创建SSL

keytool -keystore keystore -alias jetty -genkey -keyalg RSA
输入keystore密码: hadoop
再次输入新密码:
您的名字与姓氏是什么?
cui
您的组织单位名称是什么?
fengmin
您的组织名称是什么?
java
您所在的城市或区域名称是什么?
shanghai
您所在的州或省份名称是什么?
shanghai
该单位的两字母国家代码是什么
CN
CN=Unknown, OU=Unknown, O=Unknown, L=Unknown, ST=Unknown, C=CN 正确吗?
[否]: y 输入<jetty>的主密码 hadoop
(如果和 keystore 密码相同,按回车):
再次输入新密码: hadoop
完成上述工作后,将在当前目录生成 keystore 证书文件,将keystore 考贝到 azkaban web服务器根目录中.如:cp keystore azkaban/webserver

继续修改azkaban.properties

vi azkaban.properties

保存退出

修改 executor

cd executor

cd conf

vi azkaban.properties

修改server的 conf的 azkaban-users.xml

[root@mini1 conf]# vi  azkaban-users.xml

启动

[root@mini1 server]# bin/azkaban-web-start.sh
[root@mini1 executor]# bin/azkaban-executor-start.sh

浏览器访问

https://mini1:8443/

admin

admin

azkaban界面元素菜单说明

1、projects:azkaban最重要的一部分,创建一个工程,将所有的工作流放在工程中执行

2、scheduling:定时调度任务用的

3、executing:  显示当前运行的任务

4、History : 显示历史运行任务

一个project由3个按钮:

1、Flows:一个工作流,由多个job组成

2、Permissions:权限管理

3、Project Logs:工程日志信息

大数据学习——azkaban工作流调度系统的更多相关文章

  1. 从 Airflow 到 Apache DolphinScheduler,有赞大数据开发平台的调度系统演进

    点击上方 蓝字关注我们 作者 | 宋哲琦 ✎ 编 者 按 在不久前的 Apache  DolphinScheduler Meetup 2021 上,有赞大数据开发平台负责人 宋哲琦 带来了平台调度系统 ...

  2. 大数据学习路线之linux系统基础搭建

    学习大数据是必须掌握一定Linux知识的,工欲善其事,必先利其器.在学习之前,首先需要搭建Linux系统,本节将讲解VMware Workstation的安装和CentOS 7系统的安装. 1.2.1 ...

  3. 大数据学习--day08(hnapp 后台系统开发、面向对象)

    hnapp 后台系统开发.面向对象 利用前面所学的知识,写一个控制台登陆注册后台界面 package sy180918.hnapp.array; import java.util.Arrays; im ...

  4. 倒计时0日!Apache DolphineScheduler4月 Meetup 大佬手把手教你大数据开发,离线调度

    随着互联网技术和信息技术的发展,信息的数据化产生了许多无法用常规工具量化.处理和捕捉的数字信息.面对多元的数据类型,海量的信息价值,如何有效地对大数据进行挖掘分析,对大数据工作流进行调度,是保障企业大 ...

  5. 【大数据】Azkaban学习笔记

    一 概述 1.1 为什么需要工作流调度系统 1)一个完整的数据分析系统通常都是由大量任务单元组成: shell脚本程序,java程序,mapreduce程序.hive脚本等 2)各任务单元之间存在时间 ...

  6. 工作流调度系统Azkaban的简介和使用

    1 概述 1.1 为什么需要工作流调度系统 l 一个完整的数据分析系统通常都是由大量任务单元组成: shell脚本程序,java程序,mapreduce程序.hive脚本等 l 各任务单元之间存在时间 ...

  7. azkaban工作流调度器及相关工具对比

    本文转载自:工作流调度器azkaban,主要用于架构选型,安装请参考:Azkaban安装与简介,azkaban的简单使用 为什么需要工作流调度系统 一个完整的数据分析系统通常都是由大量任务单元组成: ...

  8. 大数据学习(一) | 初识 Hadoop

    作者: seriouszyx 首发地址:https://seriouszyx.top/ 代码均可在 Github 上找到(求Star) 最近想要了解一些前沿技术,不能一门心思眼中只有 web,因为我目 ...

  9. 大数据学习之Linux基础01

    大数据学习之Linux基础 01:Linux简介 linux是一种自由和开放源代码的类UNIX操作系统.该操作系统的内核由林纳斯·托瓦兹 在1991年10月5日首次发布.,在加上用户空间的应用程序之后 ...

随机推荐

  1. idea中deployment点击加号没有出现artifact

    转载 在主页面打开ProjectStructure,点击图示的按钮或是按ctrl+shift+alt+s快捷键 打开ProjectStructure后,按照图示依次点击Facets->+号,在弹 ...

  2. MVC验证注解(不包含自定义验证)

  3. [转]AngularJS Cookies Example

    AngularJS Cookies Example AngularJS 提供了很好的 $cookie 和 $cookieStore API 用来处理 cookies . 这两个服务都能够很好的发挥HT ...

  4. chrome浏览器好用的一些插件

    1. Listen 1(听音乐) 2. The Great Suspender(定时释放chrome 打开的页面内存) 3. Similar Web(页面流量分析) 4. Advertising Te ...

  5. oracle 换行回车符

    工作中碰到这样一种情况,做一个data patch,将表中的某个字段的内容copy到另一个字段,添加时若目标字段有值,需要换行处理. 首先,oracle中的回车符是chr(13),换行符是chr(10 ...

  6. leetcode542 01 Matrix

    思路: 多个起点的bfs. 实现: class Solution { public: vector<vector<int>> updateMatrix(vector<ve ...

  7. 学习笔记——Paint 1(MaskFilter)

    对于Paint没有很好的深入的学习过,在工作之余再巩固巩固. 1.Paint的BlurMaskFilter(模糊效果) 自定义一个View继承View 重写里面的onDraw方法.这里直接上代码了: ...

  8. Web开发者应掌握的12个Firebug技巧

    来源: 廖煜嵘 相信很多从事Web开发工作的开发者都听说和使用过Firebug,但可能大部分人还不知道,其实它是一个在网页设计方面功能相当强大的编辑器,它 可以对HTML.DOM.CSS.HTTP和J ...

  9. CSS布局之-强大的负边距

    css中的负边距(negative margin)是布局中的一个常用技巧,只要运用得合理常常会有意想不到的效果.很多特殊的css布局方法都依赖于负边距,所以掌握它的用法对于前端的同学来说,那是必须的. ...

  10. LR中下载文件的脚本

    #include "web_api.h" Action(){ int iflen; //文件大小 long lfbody; //响应数据内容大小 web_url("xxx ...