Kettle工具的基本使用[通俗易懂]

Kettle工具的基本使用[通俗易懂]2.1Kettle简介2.1.1Kettle概述Kettle是国外免费的开源轻量级ETL工具,是基于Java语言开发的,可以在Windows.Linux,UNIX系统上运行,且绿色不需安装,可用于各种数据库之间的连接。Kettle工具主要有四个组件组成,分别是Spoon,Pan,Kitchen以及Carte组件,具体功能如下:*Spoon为集成开发软件,用于构建作业和转换,执行或调试作业和转换,还可以用于监控ETL操作性能。*Pan以命令行形式执行Spoon生成的转…

大家好,又见面了,我是你们的朋友全栈君。如果您正在找激活码,请点击查看最新教程,关注关注公众号 “全栈程序员社区” 获取激活教程,可能之前旧版本教程已经失效.最新Idea2022.1教程亲测有效,一键激活。

Jetbrains全系列IDE稳定放心使用

2.1 Kettle简介

  2.1.1 Kettle概述

 Kettle是国外免费的开源轻量级ETL工具,是基于Java语言开发的,可以在Windows.Linux,UNIX系统上运行,且绿色不需安装,可用于各种数据库之间的连接。

Kettle工具主要有四个组件组成,分别是Spoon,Pan,Kitchen以及Carte组件,具体功能如下:      *Spoon为集成开发软件,用于构建作业和转换,执行或调试作业和转换,还可以用于监控ETL操作性能。

  *Pan以命令行形式执行Spoon生成的转换程序。

  *Kitchen以命令行的方式执行Spoon生成的作业程序

  *Carte是一个重要组件,是基于Jetty的轻量级HTTP服务器,主要用于监控HTTP执行作业和转换的进度。

 2.1.2Kettle设计原则:易于开发,避免自定义开发,所有用户都可以通过用户界面完成,无命名限制,透明,灵活的数据通道,只映射需要映射的字段。

2.2 Kettle的下载安装

1、Kettle官网的下载地址为:http://sourceforge.net/projects/pentaho/files/Data%20Integration/,在官网下载安装包。

  2、解压文件,执行spoon.bat。

  3、配置Kettle(在网上搜索即有详细的引导步骤)。

  4、启动Kettle。

2.3 Kettle的基本概念

Kettle工具的执行分为两个层次,即转换和作业,这两个层次的主要区别在于数据传递和执行方式。具体如下图:

Kettle工具的基本使用[通俗易懂]

  2.3.1转换

转换是ETL方法解决中重要部分之一,主要用于数据抽取,转换和加载等等,其本质是一组图形化的数据转换配置逻辑结构。包括读取文件,过滤输出行,数据清洗或将数据加载到数据库中等步骤,转换中的步骤是通过跳连接的。下图为Kettle转换示例:

Kettle工具的基本使用[通俗易懂]

 以上转换示例是实现从数据库中读取数据,并把数据写到文本文件中,该转换包含了步骤,跳,注释以及数据行,具体介绍如下;

 1.步骤:转换中的基本组成部分,也可称之为控件,以图标的方式呈现。

       特性:每个步骤必须要有一个名字且这个名字在转换范围内唯一;

                 每个步骤都可以读,写数据行,生成步骤除外,该步骤只用于写数据;

                 步骤通过输入跳接收数据;

                 大多数步骤都有多个输出跳,一个步骤的数据发送可以设置为轮流发送和复制发送;

                在运行转换时,一个线程运行一个步骤和步骤的多个副本,所有步骤的线程几乎同时运          行,数据行就会连续流过步骤之间的跳。

2.跳:数据的通道,应用于连接两个步骤,实现将元数据从一个步骤传递到另一个步骤,支持分发和复制等方式。

    注:由于每个步骤都是单独的线程,当启动转换时,每个步骤都会创建各自的线程并接收和推送数据(这样并发程序最高),所以数据处理的顺序并不是按照节点连接箭头的顺序执行的。由于转换里的步骤都依赖于前一个步骤获取字段值,因此当创建新跳时,在转换里不能循环进行。

3.注释:以文本描述的方式呈现在作业中,只为增强流程的可读性,可放在任何一个位置。(注释并不参与程序的处理)

4.数据行:数据是以数据行形式沿着步骤流动。一个数据行是从零到多个字段的集合。Kettle中字段的数据类型一共有10种,具体见下图:

Kettle工具的基本使用[通俗易懂]

2.3.2 作业

一个作业包含一个或多个作业项,且都是按照某种顺序进行执行的。下图为一个作业示例:

 Kettle工具的基本使用[通俗易懂]

 该作业中包含了作业项,作业跳以及多路径和回溯,具体介绍如下:

1.作业项:作业的基本构成部分,也可称之为控件。

    注:作业项可以进行复制;作业项可以传递一个结果对象;作业项目是以串行方式执行的。

2.作业跳作业项之间的连接线,定义了作业的执行路径。

3.多路径和回溯:Kettle使用一种回溯算法执行作业里的所有作业项,且作业项的执行结果(真/假)决定执行的路径。

4.作业项结果

2.4 Kettle的基本功能

  2.4.1转换管理

   主要包括输入,输出,转换,应用,流程,脚本,查询,连接,检验,作业,映射,批量加载等功能。转换功能常用控件如下图所示:

Kettle工具的基本使用[通俗易懂]

Kettle工具的基本使用[通俗易懂] 2.4.2 作业管理

主要包括通用,邮件,文件管理,条件,脚本,批量加载等。下图描述Kettle作业常用功能的控件:

Kettle工具的基本使用[通俗易懂]

 Kettle工具的基本使用[通俗易懂]

2.4.3 数据库连接

数据库种类多,因此Kettle工具的数据库连接窗口包含多种数据库类型,具体如下图所示: 

 Kettle工具的基本使用[通俗易懂]

                                              一般标签界面

Kettle工具的基本使用[通俗易懂]

高级标签界面

 Kettle工具的基本使用[通俗易懂]

选项页面

 Kettle工具的基本使用[通俗易懂]

连接池页面

 Kettle工具的基本使用[通俗易懂]

 集群页面

注:本文为学习《数据清洗》——黑马程序员   后的学习笔记。

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/181193.html原文链接:https://javaforall.net

(0)
上一篇 2022年10月16日 下午10:36
下一篇 2022年10月16日 下午10:46


相关推荐

  • java p2p实例_java文件p2p传输[通俗易懂]

    java p2p实例_java文件p2p传输[通俗易懂]【实例简介】java模仿电驴、迅雷实现多线程文件传输,可用于局域网或internet文件传输发送,程序采用套接字实现p2p(即点到点)文件传输。【实例截图】【核心代码】java文件p2p传输└──java文件p2p传输├──classes│├──packagecache││└──trans.dep2│└──trans│├──Application…

    2022年7月16日
    15
  • 从硬盘上安装Fedora12

    从硬盘上安装Fedora12一、引言Fedora12的liveCD:Fedora-12-i686-Live.iso,至今未硬盘安装成功。在引导过程中,报此类错误:[drm:drm_mode_rmfb]triedtoremoveafbthatwedidntown无奈之下,只好下载Fedora12的DVD版:Fedora12-i386-DVD.iso文件比较大,2G多一些。

    2026年2月2日
    5
  • Android源码解析–EventBus原理

    Android源码解析–EventBus原理版权声明 本文为 openXu 原创文章 openXu 的博客 未经博主允许不得以任何形式转载目录 1 EventBus 使用 2 Subscribe3 register 注册订阅者 3 1 查找订阅方法 3 2subscribe 注册 4 unregister 注销订阅 5 post 发布事件 6 事件分发 HandlerPoste amp amp AsyncPoster7 粘性事件 SubscriberIn 总结 EventBus 是 greenr

    2026年2月11日
    2
  • Python实现五子棋人机对战 | CSDN博文精选「建议收藏」

    Python实现五子棋人机对战 | CSDN博文精选「建议收藏」作者|吴小鹏来源|数据札记倌(ID:Data_Groom)五子棋是常见的一款小游戏,五子棋问题是人工智能中的一个经典问题。这篇文章主要介绍了Python版本五子棋的实现代码,大家可以做个参考,与我的傻儿子对弈一下。简述虽然计算机已经几乎激活成功教程了五子棋的取胜秘籍,甚至给出了取胜的具体方案,然而,对人来说,五子棋还是非常有玩头的。我们往往有五子棋的技巧性和全局观远远比不上象棋,围棋之类的感…

    2022年6月21日
    31
  • ar面部识别_免费人脸识别sdk

    ar面部识别_免费人脸识别sdk如何看待Arcsoft 免费人脸认知引擎SDK?

    2022年4月21日
    45
  • VSCode + Claude 4.5 Sonnet 配置完整教程:Cline 插件安装与使用指南

    VSCode + Claude 4.5 Sonnet 配置完整教程:Cline 插件安装与使用指南

    2026年3月16日
    3

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号