最近工作实在是太忙了,我把之前翻译的官方的文档先放上来吧,希望对大家有所帮助~

介绍

Azkaban2新功能:

1、Web UI

2、简单工作流上传

3、更容易设置job的依赖关系

4、调度工作流

5、权限设置

6、Kill和restart工作流

7、模块化和插件化

8、日志和设计工作流和job

搭建

Azkaban2是相当容易搭建的,尽管它比azkaban要进行更多的插件组装。在Azkaban2中有两个server和一个数据库需要搭建:

l  MySQL

l  Azkaban Web Server  - 是一个和web接口一样的充当控制器功能的Jetty Server

l  Azkaban Executor Server - 用于提交工作流

下载

需要从Azkaban下载3个包: web server, executor server 和MySQL启动脚本。

下载地址:

https://github.com/azkaban/azkaban2/wiki/Download-Packages

搭建数据库

现在,Azkaban只能用MySQL进行数据存储。

l  下载azkaban-sql-script tar包。

l  运行包中的mysql脚本来创建数据库表。

获取JDBC驱动jar包

下载地址:http://www.mysql.com/downloads/connector/j/

搭建Web Server

下载并安装

1、下载azkaban-web-server tar包。将其解压到你安装azkaban web的目录下。

2、Copy jdbc驱动jar包到./extlib目录下。Azkaban将会自动检查和加载这          个目录下的外部引入jar包。

在 conf 目录下,会有以下几个文件:

文件

描述

azkaban.properties

用于Azkanba运行时的属性配置

global.properties

全局静态属性,作为共享属性共享给每一个工作流程和job

azkaban-users.xml

用于添加用户和角色权限的属性文件。如果XmlUserManager没有启动,则这个文件将不会被使用

搭建SSL

Azkaban使用SSL socket连接器。可以根据以下链接提供的方法创建:

http://docs.codehaus.org/display/JETTY/How+to+configure+SSL

一旦一个keystore文件被创建,Azkaban必须要给出它的位置和密码,包括azkaban.properties中下面的内容页应该被重写:

jetty.keystor-keystore

jetty.password=password

jetty.keypassword=password

jetty.truststore=keystore

jetty.trustpassword=password

搭建UserManager

Azkaban使用UserManager提供验证和用户角色的设置。默认情况下,Azkaban使用XmlUserManager获取username/passwords和从azkaban-users.xml中得到的角色设置,azkaban-users.xml可以再azkaban.properties文件中查看到:

l  user.manager.class=azkaban.user.XmlUserManager

l  User.manager.xml.file=conf/azkaban-users.xml

接下来是一个azkaban-users.xml文件的例子:

<azkaban-users>   
     <user username="azkaban" password="azkaban" roles="admin" groups="azkaban"/>   
     <role name="admin" permissions="ADMIN" />   
</azkaban-users>

也可以利用其他实现权限验证和设置的方法通过实现azkaban.user.UserManager接口并改变user.manager.class属性来重写UserManager。

搭建数据库

为了让Azkaban web client可以连接到MySQL,需要配azkaban.properties      文件中的一下属性:

database.type=mysql
   mysql.port=3306
   mysql.host=localhost
   mysql.database=azkaban2
   mysql.user=azkaban
   mysql.password=azkaban
   mysql.numconnections=100

配置主机和端口号

配置azkaban.properties中的属性:

executor.port=12321

executor.host=<url>

搭建Web Client

Azkaban作为一个Jetty Server搭建。你可以执行Azkaban将会使用的端口      号和连接的数量。

颜色主题和名称可以定制的安装,特别是在区别多版本的Azkaban上非常有用。

安装可视化插件

之前的Azkaban版本包含HDFS浏览。在新版本的Azkaban中,它可以作为一个插件进行配置。

为了安装可视化插件,需要下载并文件解压到./plugin/viewer目录下。

运行Web Server

Bin目录下应该包含azkaban-web-start.sh文件。用这个文件来启动Azkaban Web Server。使用azkaban-web-shutdown.sh关闭azkaban。

-------------------------------------------------------------------------------------------------------

Azkaban Web Server设置

一般属性

Property

Description

Default

azkaban.name

将会在Azkaban UI中展示出来的azkaban的名字

Local

azkaban.label

一个描述Azkaban实例的标签

My Local Azkaban

azkaban.color

设置Azkaban UI颜色的一个十六进制的值

#FF3601 (red)

web.resource.dir

设置UI的css和javascript文件存放的路径

src/web

default.timezone

默认的时区

America/Los_Angeles

user.manager.class

用户管理用户权限的     user manager。默认是XmlUserManager

azkaban.user.XmlUserManager

mail.sender

邮件发送的地址

mail.host

邮件server主机地址

mail.user

邮件server用户名

mail.password

邮件server密码

azkaban.should.proxy

被HDFS浏览器使用。如果以安全的形式使用Hadoop1.0+则设置为true。即将会被移除

false

proxy.keytab.location

被HDFS浏览器使用。如果以安全的形式使用Hadoop1.0+则设置为true。即将会被移除

proxy.user

代理用户

viewer.plugin.dir

可视化插件被安装到的目录

plugins/viewer

Jetty 属性

Property

Description

Default

jetty.maxThreads

最大请求线程数

jetty.ssl.port

Ssl端口号

jetty.keystore

The keystore file

keystore

jetty.password

Jetty password

password

jetty.keypassword

The keypassword

password

jetty.truststore

The trust store

keystore

jetty.trustpassword

The trust password

password

Mysql连接属性

Property

Description

Default

database.type

数据库类型,现在只支持mysql

mysql

mysql.port

Mysql数据库的端口号

mysql.host

Mysql数据库的主机地址

localhost

mysql.database

Mysql数据库名称

azkaban2

mysql.user

mysql user

azkaban

mysql.password

mysql password

password

mysql.numconnections

Azkaban webclient可以开放给数据库的连接数量

Execurot Sercer属性

Properties

Description

Default

executor.port

azkaban executor server端口号

executor.host

azkaban executor server主机地址

localhost

设置Executor Server

下载和安装

1、下载azkaban-executor-server tar包。将其解压到azkaban executor的安装目录下。

2、Copy jdbc驱动jar包到./extlib目录下。

File

Description

azkaban.properties

Azkaban运行时属性

global.properties

全局静态属性,作为共享属性共享给每一个工作流程和job

搭建数据库

为了让Azkaban web client可以连接到MySQL,需要配azkaban.properties      文件中的一下属性:

database.type=mysql
   mysql.port=3306
   mysql.host=localhost
   mysql.database=azkaban2
   mysql.user=azkaban
   mysql.password=azkaban
   mysql.numconnections=100

配置主机和端口号

配置azkaban.properties中的属性:

executor.maxThreads=50

executor.port=12321

-----------------------------------------------------------------------------

转载请注明出处:http://blog.csdn.net/gloria__zhang/article/details/12402051

Azkaban2官方配置文档的更多相关文章

  1. Java日志框架-Logback手册中文版以及官方配置文档教程

    Logback手册中文版:(链接: https://pan.baidu.com/s/1bpMyasR 密码: 6u5c),虽然版本有点旧,但是大体意思差不多,先用中文版了解个大概,然后一切最新的配置以 ...

  2. elk 概念整理 集群状态 - yellow - 面试的问题 -- 官方配置文档 水平扩容以及数据保障

    1. primary shard   -- raid0 2.replicas shard -- raid1 3.index -- 图书馆的借书指引 4.MySQL vs elasticsearch # ...

  3. Nginx官方配置文档收集

    官方入口: https://www.nginx.com/resources/wiki/start/#pre-canned-configurations http://nginx.org/en/docs ...

  4. haproxy官方配置文档地址

    http://cbonte.github.io/haproxy-dconv/1.6/configuration.html#4-option%20http-keep-alive

  5. Hibernate配置文档详解

    Hibernate配置文档有框架总部署文档hibernate.cfg.xml 和映射类的配置文档 ***.hbm.xml hibernate.cfg.xml(文件位置直接放在src源文件夹即可) (在 ...

  6. Git教程(2)官方命令文档及常用命令表

    http://www.cnblogs.com/angeldevil/archive/2013/11/26/3238470.html 1,官方命令文档 http://www.git-scm.com/do ...

  7. Python学习 :常用模块(四)----- 配置文档

    常用模块(四) 八.configparser 模块 官方介绍:A configuration file consists of sections, lead by a "[section]& ...

  8. nginx 安全配置文档

    1.配置文档中有多处明确写出了nginx的配置文件路径,该路径是测试环境中的路径,线上系统的nginx配置文件与文档中所写的路径可能不一样,在进行相关配置时,应以线上配置文件的实际路径为准. 线上系统 ...

  9. tomcat 安全配置文档

    1.配置文档中使用$CATALINA_HOME变量声明为tomcat的安装目录并明确写出了tomcat的配置文件路径,此路径为测试环境的路径,线上系统对应配置文件的路径可能不一样,在进行相关配置时,应 ...

随机推荐

  1. Oracle (内连接)

    例如: 表xuesheng id name 1, Jack 2, Tom 3, Kity 4, nono 表kaoshi id grade 1, 56 2, 76 11, 89 内连接(显示两表匹配的 ...

  2. iOS 延迟执行代码

    //延迟执行 dispatch_after(dispatch_time(DISPATCH_TIME_NOW, (int64_t)( * NSEC_PER_SEC)),dispatch_get_main ...

  3. 用JS实现版面拖拽效果

    类似于这样的一个版面,点击标题栏,实现拖拽效果. 添加onmousedown事件 通过获取鼠标的坐标(clientX,clientY)来改变面板的位置 注意:面板使用绝对定位方式,是以左上角为参考点, ...

  4. mahout的安装、配置及运行java程序

    一.下载安装包: http://mahout.apache.org/general/downloads.html 二.解压: 将下载的安装包解压到需要的目录下 三.配置环境变量: export MAH ...

  5. SGU 275 To xor or not to xor(高斯消元)

    题意: 从n个数中选若干个数,使它们的异或和最大.n<=100 Solution 经典的异或高斯消元. //O(60*n) #include <iostream> using nam ...

  6. Codeforces 475 D.CGCDSSQ

    题目说了a的范围小于10^9次方,可实际却有超过的数据...真是醉了 算出以f[i]结尾的所有可能GCD值,并统计: f[i]可以由f[i-1]得出. /* 递推算出所有GCD值,map统计 */ # ...

  7. mongo db安装和php,python插件安装

    安装mongodb 1.下载,解压mongodb(下载解压目录为/opt) 在/opt目录下执行命令 wget fastdl.mongodb.org/linux/mongodb-linux-x86_6 ...

  8. Asp.net GridView 72般绝技

    快速预览:GridView无代码分页排序GridView选中,编辑,取消,删除GridView正反双向排序GridView和下拉菜单DropDownList结合GridView和CheckBox结合鼠 ...

  9. 从SQL2008R2导入数据到SQL2005

    从SQL2008R2导入数据到SQL2005,数据很大,数据文件大概有120G. 尝试过直接离线附加,失败 尝试过备份还原,失败 最后找到了 1.先执行 exec sp_msforeachtable ...

  10. C、C++、Java异或运算交换变量变量值的区别

    今天看到一位大神的博客,深受感触.决定也发一篇博客,证明一下我还活着. 于是我翻看以前学习时做的一些笔记,整理了一下,得到了一个关于异或运算交换变量变量值的笔记. 首先来看下面三组表达式,看起来他们都 ...