Kettle工具的基本使用[通俗易懂]

Kettle工具的基本使用[通俗易懂]2.1Kettle简介2.1.1Kettle概述Kettle是国外免费的开源轻量级ETL工具,是基于Java语言开发的,可以在Windows.Linux,UNIX系统上运行,且绿色不需安装,可用于各种数据库之间的连接。Kettle工具主要有四个组件组成,分别是Spoon,Pan,Kitchen以及Carte组件,具体功能如下:*Spoon为集成开发软件,用于构建作业和转换,执行或调试作业和转换,还可以用于监控ETL操作性能。*Pan以命令行形式执行Spoon生成的转…

大家好,又见面了,我是你们的朋友全栈君。如果您正在找激活码,请点击查看最新教程,关注关注公众号 “全栈程序员社区” 获取激活教程,可能之前旧版本教程已经失效.最新Idea2022.1教程亲测有效,一键激活。

Jetbrains全系列IDE稳定放心使用

2.1 Kettle简介

  2.1.1 Kettle概述

 Kettle是国外免费的开源轻量级ETL工具,是基于Java语言开发的,可以在Windows.Linux,UNIX系统上运行,且绿色不需安装,可用于各种数据库之间的连接。

Kettle工具主要有四个组件组成,分别是Spoon,Pan,Kitchen以及Carte组件,具体功能如下:      *Spoon为集成开发软件,用于构建作业和转换,执行或调试作业和转换,还可以用于监控ETL操作性能。

  *Pan以命令行形式执行Spoon生成的转换程序。

  *Kitchen以命令行的方式执行Spoon生成的作业程序

  *Carte是一个重要组件,是基于Jetty的轻量级HTTP服务器,主要用于监控HTTP执行作业和转换的进度。

 2.1.2Kettle设计原则:易于开发,避免自定义开发,所有用户都可以通过用户界面完成,无命名限制,透明,灵活的数据通道,只映射需要映射的字段。

2.2 Kettle的下载安装

1、Kettle官网的下载地址为:http://sourceforge.net/projects/pentaho/files/Data%20Integration/,在官网下载安装包。

  2、解压文件,执行spoon.bat。

  3、配置Kettle(在网上搜索即有详细的引导步骤)。

  4、启动Kettle。

2.3 Kettle的基本概念

Kettle工具的执行分为两个层次,即转换和作业,这两个层次的主要区别在于数据传递和执行方式。具体如下图:

Kettle工具的基本使用[通俗易懂]

  2.3.1转换

转换是ETL方法解决中重要部分之一,主要用于数据抽取,转换和加载等等,其本质是一组图形化的数据转换配置逻辑结构。包括读取文件,过滤输出行,数据清洗或将数据加载到数据库中等步骤,转换中的步骤是通过跳连接的。下图为Kettle转换示例:

Kettle工具的基本使用[通俗易懂]

 以上转换示例是实现从数据库中读取数据,并把数据写到文本文件中,该转换包含了步骤,跳,注释以及数据行,具体介绍如下;

 1.步骤:转换中的基本组成部分,也可称之为控件,以图标的方式呈现。

       特性:每个步骤必须要有一个名字且这个名字在转换范围内唯一;

                 每个步骤都可以读,写数据行,生成步骤除外,该步骤只用于写数据;

                 步骤通过输入跳接收数据;

                 大多数步骤都有多个输出跳,一个步骤的数据发送可以设置为轮流发送和复制发送;

                在运行转换时,一个线程运行一个步骤和步骤的多个副本,所有步骤的线程几乎同时运          行,数据行就会连续流过步骤之间的跳。

2.跳:数据的通道,应用于连接两个步骤,实现将元数据从一个步骤传递到另一个步骤,支持分发和复制等方式。

    注:由于每个步骤都是单独的线程,当启动转换时,每个步骤都会创建各自的线程并接收和推送数据(这样并发程序最高),所以数据处理的顺序并不是按照节点连接箭头的顺序执行的。由于转换里的步骤都依赖于前一个步骤获取字段值,因此当创建新跳时,在转换里不能循环进行。

3.注释:以文本描述的方式呈现在作业中,只为增强流程的可读性,可放在任何一个位置。(注释并不参与程序的处理)

4.数据行:数据是以数据行形式沿着步骤流动。一个数据行是从零到多个字段的集合。Kettle中字段的数据类型一共有10种,具体见下图:

Kettle工具的基本使用[通俗易懂]

2.3.2 作业

一个作业包含一个或多个作业项,且都是按照某种顺序进行执行的。下图为一个作业示例:

 Kettle工具的基本使用[通俗易懂]

 该作业中包含了作业项,作业跳以及多路径和回溯,具体介绍如下:

1.作业项:作业的基本构成部分,也可称之为控件。

    注:作业项可以进行复制;作业项可以传递一个结果对象;作业项目是以串行方式执行的。

2.作业跳作业项之间的连接线,定义了作业的执行路径。

3.多路径和回溯:Kettle使用一种回溯算法执行作业里的所有作业项,且作业项的执行结果(真/假)决定执行的路径。

4.作业项结果

2.4 Kettle的基本功能

  2.4.1转换管理

   主要包括输入,输出,转换,应用,流程,脚本,查询,连接,检验,作业,映射,批量加载等功能。转换功能常用控件如下图所示:

Kettle工具的基本使用[通俗易懂]

Kettle工具的基本使用[通俗易懂] 2.4.2 作业管理

主要包括通用,邮件,文件管理,条件,脚本,批量加载等。下图描述Kettle作业常用功能的控件:

Kettle工具的基本使用[通俗易懂]

 Kettle工具的基本使用[通俗易懂]

2.4.3 数据库连接

数据库种类多,因此Kettle工具的数据库连接窗口包含多种数据库类型,具体如下图所示: 

 Kettle工具的基本使用[通俗易懂]

                                              一般标签界面

Kettle工具的基本使用[通俗易懂]

高级标签界面

 Kettle工具的基本使用[通俗易懂]

选项页面

 Kettle工具的基本使用[通俗易懂]

连接池页面

 Kettle工具的基本使用[通俗易懂]

 集群页面

注:本文为学习《数据清洗》——黑马程序员   后的学习笔记。

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/181193.html原文链接:https://javaforall.net

(0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • stringutil.isnotempty_中低腰和低腰的区别

    stringutil.isnotempty_中低腰和低腰的区别学习中遇到了这个地方,搜了一下,这位仁兄总结的挺详细,就粘了过来原文链接(https://www.cnblogs.com/dixinyunpan/p/6088612.html)isNotEmpty(str)等价于str!=null&&str.length>0isNotBlank(str)等价于str!=null&&str…

    2022年8月12日
    4
  • 激活码 clion 2021【2021.10最新】

    (激活码 clion 2021)这是一篇idea技术相关文章,由全栈君为大家提供,主要知识点是关于2021JetBrains全家桶永久激活码的内容IntelliJ2021最新激活注册码,破解教程可免费永久激活,亲测有效,下面是详细链接哦~https://javaforall.net/100143.htmlF6EG2ZUBVX-eyJsa…

    2022年3月28日
    51
  • Linux——./configure && make && make install命令解析

    Linux——./configure && make && make install命令解析当我们在Linux上安装相关的软件源码包时,一般会涉及到以下三个步骤,分别是 ./configure、make、make install————————————————————————————————————————————————————第一步./configure 该步骤主要用来检测系统的配置、环境以及相关依赖,如果缺少相关依赖,该脚本会中止执行,软件安装失败如:它会检…

    2022年6月13日
    40
  • 飞鸽传书:谈谈RenderControl手动调用「建议收藏」

    飞鸽传书:谈谈RenderControl手动调用「建议收藏」有些网页需要在后台动态创建服务器控件,并且将控件的html代码写入到指定的HtmlTextWriter.如果仅是调用RenderControl方法能够将服务器控件的html内容输出,但它并不会执行OnPreRender,但是通常服务器控件都重写了OnPreRender方法,实现了许多重要的功能.我们不能将其舍弃啊.

    2022年7月21日
    8
  • C++实现matlab中的interp1和interp2插值「建议收藏」

    C++实现matlab中的interp1和interp2插值「建议收藏」头文件interpfun.h#ifndefINTERPFUN_H#defineINTERPFUN_H#include"math.h"#include<stdio.h>#include<string.h> #ifndefSafeDeleteVec#defineSafeDeleteVec(X){if((X))delete(X);(X)=NULL;}#endi…

    2022年5月18日
    153
  • 415错误代码

    415错误代码检查错误1.前端是否为json传递2.后端是否导入了包<dependency><groupId>com.fasterxml.jackson.dataformat</groupId><artifactId>jackson-dataformat-xml</artifactId><version>2.10.1</version></dependency>3.重新新后端的实体

    2022年5月29日
    132

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号