KETTLE教程-初探

KETTLE教程-初探KETTLE概念、学习指南

大家好,又见面了,我是你们的朋友全栈君。

概念阐述

  1. ETL(Extract-Transform-Load)工具,即数据抽取、转换、装载。国内称为水壶
  2. 工作流程:将各种来源数据汇入到水壶中,进行数据处理,以特定格式输出到文件、数据库等装载容器
  3. 来自Borderfree的副总裁Warren Chang对Pentaho-KETTLE的评价:在业务中传递数据是一门艺术,而Pentaho将艺术转变成巨大的商业价值

优点

  • 直观的拖放设计,想拖什么就拖什么,然后组合在一起
  • 丰富的访问数据来源的组件,支持关系型数据库、非关系型数据库、大数据仓库、企业应用(如日志平台)等等
    • 关系型数据库-Relational database management system(RDBMS):Oracle、IBM-DB2、MySQL、Miscrosoft SQL Server
    • 非关系型数据库和对象存储:MongoDB、Cassandra,HBase、Hitachi Content Platform
    • 分析型数据库:Vertica、Greenplum、Teradata、SAP HANA、Amazon Redshift、Google Big Query、Microsoft Azure SQL Data、Warehouse (DW)
    • 业务应用(猜测是获取大量数据的接口,如日志系统):Salesforce、Google Analytics
    • Spark and Hadoop: Cloudera、Hortonworks、Amazon EMR、MapR、Microsoft Azure HDInsights
    • 非结构化数据:xml、json、excel、csv、txt、avro、parquet、orc、音频、视频等非结构化文件
  • 通过数据获取组件,快速获取、分析和装载大量数据,产出分析图表、直观分析结果或分析报告
  • 强大的组件组合能力,将一个个转换组合起来,完成功能,包括通知和警报
  • 完整的企业级调度系统,支持协调工作流程,拥有用于测试、优化作业执行的调试器
  • 丰富的数据分析、数据质量控制组件,去除不符合业务规则、冗余的数据、验证数据的标准性(如电子邮箱)
    • 如计数、数学函数、字符串处理、过滤、排序、正则验证等
  • 强大的管理功能
    • 共享存储库(转换和作业),开发人员、数据分析师、数据管理员进行协作
    • 版本管理,可以回退到某个版本的作业
    • 用户角色权限管理或集成第三方安全认证系统

流程介绍

有两个技术名词,Transformation(转换)和Job(作业)
转换可以包含多个转换、多个组件
作业可以包含多个转换、多个作业、多个组件

环境准备

  • JDK-1.8
  • Data Integration-6.1(最新为8.2Stable,Data Integration文件夹为历史版本,Pentaho 8.x文件夹为8以上版本)下载

工具结构

工具架构描述

版本更替

  • 待梳理
版本 新增特性
KETTLE-8.2 https://help.pentaho.com/Documentation/8.2/Whats_New
KETTLE-8.1 https://help.pentaho.com/Documentation/8.1/Whats_New
KETTLE-8.0 https://help.pentaho.com/Documentation/8.0/Whats_New
KETTLE-7.1 https://help.pentaho.com/Documentation/7.1/Whats_New
KETTLE-7.0 https://help.pentaho.com/Documentation/7.0/0C0
KETTLE-6.1 https://help.pentaho.com/Documentation/6.1/0C0
KETTLE-6.0 https://help.pentaho.com/Documentation/6.0/0C0
KETTLE-5.4 https://help.pentaho.com/Documentation/5.4/0T0/040
KETTLE-5.3 https://help.pentaho.com/Documentation/5.3/0T0/040
KETTLE-5.2 https://help.pentaho.com/Documentation/5.2/0T0/040/005
KETTLE-5.1 https://help.pentaho.com/Documentation/5.1/0T0/040/000

学习资料

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/142575.html原文链接:https://javaforall.net

(0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • 十大经典武侠小说[通俗易懂]

    孤枕侧畔,一灯如豆,看尽万千红尘旧事刀枪入梦,剑气漫天,重温多少江湖恩仇    一说起武侠小说,每个像我这么大的男性或是比我小一些的男性都会眉飞色舞的侃上半天,仿佛每个人都是此中高手,但是武侠小说浩如烟海,能称得上作家的也多如牛毛,故高手或是低手之分并不在于看得多少,而在于精的程度。我之所以谈起这些来就不由得总是有些洋洋自得,便是因为我觉得自己看武侠小说既精又多,称得上此中高手,所

    2022年4月17日
    122
  • sql server 高可用性技术总结

    sql server 高可用性技术总结

    2021年6月5日
    86
  • 关于sql和MySQL的语句执行顺序(必看!!!)[通俗易懂]

    关于sql和MySQL的语句执行顺序(必看!!!)[通俗易懂]今天遇到一个问题就是mysql中insertinto和update以及delete语句中能使用as别名吗?目前还在查看,但是在查阅资料时发现了一些有益的知识,给大家分享一下,就是关于sql以及MySQL语句执行顺序:sql和mysql执行顺序,发现内部机制是一样的。最大区别是在别名的引用上。一、sql执行顺序(1)from(3)join(2)on(4)where…

    2022年6月4日
    26
  • 传奇——用回忆感受幸福,用记忆寻找快乐

    传奇——用回忆感受幸福,用记忆寻找快乐

    2021年7月27日
    57
  • Hadoop之hdfs体系结构

    Hadoop之hdfs体系结构4.HDFS的体系结构4.1体系结构解析HDFS采用的是hostname01/slaves这种主从的结构模型来管理数据,这种结构模型主要由四个部分组成,分别是Client(客户端)、Namenode(名称节点)、Datanode(数据节点)和SecondaryNameNode。真正的一个HDFS集群包括一个Namenode和若干数目的Datanode。Namenode是一个中心服务器,…

    2022年5月28日
    33
  • netty通信框架_王国风云2控制台代码

    netty通信框架_王国风云2控制台代码写在前面所属章节链接第二章2.1BIO通信aaaTimeServer代码importjava.io.IOException;importjava.net.ServerSocket;importjava.net.Socket;publicclassTimeServer{ publicstaticvoidmain(String[]args)throwsIOException{ intport=8081; if(args

    2022年10月2日
    0

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号