Azkaban 应用

Azkaban 应用Azkaban 内置的任务类型支持 command java1 单一 job 案例 1 案例实操 1 创建 job 描述文件 command jobtype commandcomma mkdir opt module test azkaban2 将 job 资源文件打包成 zip 文件注意 目前 Azkaban 上传的工作流文件只支持 xxx zip 文件 zip 应包含 xxx job 运行作业所需的文件和任何文件 文件名后缀必须以 job 结尾 否则无法识别 作

Azkaban 内置的任务类型支持 command、java

1 、单一 job 案例

1.案例实操

1)创建 job 描述文件

#command.job type=command command=mkdir /opt/module/test_azkaban

2) 将 job 资源文件打包成 zip 文件

注意: 目前,Azkaban 上传的工作流文件只支持 xxx.zip 文件。zip 应包含 xxx.job 运行作业所需的 文件和任何文件(文件名后缀必须以.job 结尾,否则无法识别)。作业名称在项目中必须是 唯一的。

3)通过 azkaban 的 web 管理平台创建 project 并上传 job 的 zip 包

首先创建 project

Azkaban 应用

上传 zip 包

Azkaban 应用

 4)启动执行该 job

Azkaban 应用

 Azkaban 应用

 Azkaban 应用

 5)Job 执行成功

Azkaban 应用

 

2 、邮件通知配置案例

1)修改配置文件

修改 server 的 conf 下的 azkaban.properties 文件

Azkaban 应用

 2)在网页上进行配置

Azkaban 应用

Azkaban 应用 

3、多 job 工作流案例 

1)创建有依赖关系的多个 job 描述

 第一个 job:bar.job

# start.job type=command command=touch /opt/module/text.txt

第二个 job:step1.job 依赖 start.job

#step1.job type=command dependencies=start command=echo "this is step1 job"

第三个 job:step2.job 依赖 start.job

#step2.job type=command dependencies=start command=echo "this is step2 job"

第四个 job:finish.job 依赖 step1.job 和 step2.job

#finish.job type=command dependencies=step1,step2 command=echo "this is finish job"

2)将所有 job 资源文件打到一个 zip 包中上传

Azkaban 应用

 5)启动工作流 flow

Azkaban 应用

 

6)查看结果

Azkaban 应用

 4、Java 操作任务

使用 Azkaban 调度 java 程序

依赖

1)编写 java 程序

package azkaban.AzkabanTest; import java.io.FileOutputStream; import java.io.IOException; public class ATest { public void run() throws IOException { // 根据需求编写具体代码 FileOutputStream fos = new FileOutputStream("/opt/module/azkaban/output.txt"); fos.write("this is a java progress".getBytes()); fos.close(); } public static void main(String[] args) throws IOException { ATest aTest = new ATest(); aTest.run(); } } 

2)将 java 程序打成 jar 包,创建 lib 目录,将 jar 放入 lib 内

3)编写 job 文件

#azkabanJava.job type=javaprocess java.class=azkaban.AzkabanTest.ATest classpath=/opt/module/azkaban/lib/azkaban-1.0-SNAPSHOT.jar

4)将 job 文件打成 zip 包

5)通过 azkaban 的 web 管理平台创建 project 并上传 job 压缩包,启动执行该 job

Azkaban 应用

 Azkaban 应用

 5、HDFS 操作任务

1)创建 job 描述文件

#hdfs job type=command command=hadoop fs -mkdir /azkaban

2)将 job 资源文件打包成 zip 文件

3)通过 azkaban 的 web 管理平台创建 project 并上传 job 压缩包

4)启动执行该 job

Azkaban 应用

5)查看结果

Azkaban 应用 

 6、MapReduce 任务

1) 创建 job 描述文件,及 mr 程序 jar 包

#mapreduce job type=command command=hadoop jar /opt/module/hadoop-3.1.3/share/hadoop/mapreduce/hadoop-mapreduce-examples-3.1.3.jar wordcount /input/* /output

2) 将所有 job 资源文件打到一个 zip 包中

3)在 azkaban 的 web 管理界面创建工程并上传 zip 包

4)启动 job

5)查看结果

Azkaban 应用

Azkaban 应用 

 7、Hive 脚本任务

注意hive启动

Azkaban 应用

 

1)创建 job 描述文件和 hive 脚本

(1)Hive 脚本:test.sql

use default; drop table if exists aztest; drop table if exists azres; create external table aztest(id int, name string) row format delimited fields terminated by '\t' location '/student'; create table azres as select * from aztest; insert overwrite directory '/aztest/hiveoutput' select count(1) from aztest;

(2)Job 描述文件:hive.job

#hive.job type=command command=/opt/module/hive/bin/hive -f 'test.sql'

3)在 azkaban 的 web 管理界面创建工程并上传 zip 包

4)启动 job

5)查看结果

Azkaban 应用

Azkaban 应用 

Azkaban 应用 

 

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/228521.html原文链接:https://javaforall.net

(0)
上一篇 2026年3月16日 下午6:49
下一篇 2026年3月16日 下午6:50


相关推荐

  • gateway网关详解_天翼网关扩展wifi

    gateway网关详解_天翼网关扩展wifi文章目录Gateway简介网关的功能搭建Gateway网关路由断言工厂路由过滤器全局过滤器过滤器执行顺序跨域问题处理Gateway简介Gateway是SpringCloud中的网关组件,SpringCloudGateway旨在提供一种简单而有效的方式来路由到API。SpringCloud在1.x版本中都是使用Zuul网关,但在2.x版本中使用Gateway替代了Zuul。Zuul是基于Servlet的实现,属于阻塞式编程。而SpringCloudGateway则是基于Spring5中提供的We

    2022年10月11日
    5
  • golang中的nil

    golang中的nil文章目录基本指针 sliceinterfa map func 基本 golang 中的关键词 nil 表示空 与其他语言中的 null 可能使用有较大区别 nil 甚至可以说不是 golang 中的关键词 而只是一个变量名 如下 builting go 的代码 varnilTypego 中针对不同的类型 nil 有不同的判空方式指针结论 当一个指针 所有值类型的指针 包括了 struct 没有指向任何值 那么它就可以等于 nil 下方代码给指针类型赋 nilvara

    2026年3月17日
    2
  • 个人数字作品合作协议

    个人数字作品合作协议个人数字作品合作协议甲方:地址:身份证号:联系方式:乙方:北京创新乐知网络技术有限公司地址:北京市朝阳区酒仙桥路10号恒通商务园B8b二层本协议系由北京创新乐知网络技术有限公司(以下简称”CSDN”)与所有通过CSDN下载平台发布作品的用户就资源的引入、使用及相关服务所订立的有效合约,您必须同意并遵守本协议。您通过任何方式参与数字作品提交均被视为您完全接受本协议。本协议具有合同效力。一、总则1.1本协议内容包括协议正文及所有CSDN及CSDN下载平台已经发布的或将来.

    2022年6月23日
    27
  • hibernate官方新手教程 (转载)

    hibernate官方新手教程 (转载)

    2021年12月30日
    35
  • 列车调度问题PTA

    列车调度问题PTA7-20列车调度(25分)火车站的列车调度铁轨的结构如下图所示。两端分别是一条入口(Entrance)轨道和一条出口(Exit)轨道,它们之间有N条平行的轨道。每趟列车从入口可以选择任意一条轨道进入,最后从出口离开。在图中有9趟列车,在入口处按照{8,4,2,5,3,9,1,6,7}的顺序排队等待进入。如果要求它们必须按序号递减的顺序从出口离开,则至少需要多少条平行铁轨用于调度?输入格…

    2022年7月14日
    19
  • 矩阵求逆 c语言_求矩阵各列的平均值C语言

    矩阵求逆 c语言_求矩阵各列的平均值C语言#include#defineN10intgetA(intarcs[N][N],intn)//按第一行展开计算|A|{ if(n==1) { returnarcs[0][0]; } intans=0; inttemp[N][N]; int

    2022年8月21日
    8

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号