KETTLE教程-初探

KETTLE教程-初探KETTLE概念、学习指南

大家好,又见面了,我是你们的朋友全栈君。

概念阐述

  1. ETL(Extract-Transform-Load)工具,即数据抽取、转换、装载。国内称为水壶
  2. 工作流程:将各种来源数据汇入到水壶中,进行数据处理,以特定格式输出到文件、数据库等装载容器
  3. 来自Borderfree的副总裁Warren Chang对Pentaho-KETTLE的评价:在业务中传递数据是一门艺术,而Pentaho将艺术转变成巨大的商业价值

优点

  • 直观的拖放设计,想拖什么就拖什么,然后组合在一起
  • 丰富的访问数据来源的组件,支持关系型数据库、非关系型数据库、大数据仓库、企业应用(如日志平台)等等
    • 关系型数据库-Relational database management system(RDBMS):Oracle、IBM-DB2、MySQL、Miscrosoft SQL Server
    • 非关系型数据库和对象存储:MongoDB、Cassandra,HBase、Hitachi Content Platform
    • 分析型数据库:Vertica、Greenplum、Teradata、SAP HANA、Amazon Redshift、Google Big Query、Microsoft Azure SQL Data、Warehouse (DW)
    • 业务应用(猜测是获取大量数据的接口,如日志系统):Salesforce、Google Analytics
    • Spark and Hadoop: Cloudera、Hortonworks、Amazon EMR、MapR、Microsoft Azure HDInsights
    • 非结构化数据:xml、json、excel、csv、txt、avro、parquet、orc、音频、视频等非结构化文件
  • 通过数据获取组件,快速获取、分析和装载大量数据,产出分析图表、直观分析结果或分析报告
  • 强大的组件组合能力,将一个个转换组合起来,完成功能,包括通知和警报
  • 完整的企业级调度系统,支持协调工作流程,拥有用于测试、优化作业执行的调试器
  • 丰富的数据分析、数据质量控制组件,去除不符合业务规则、冗余的数据、验证数据的标准性(如电子邮箱)
    • 如计数、数学函数、字符串处理、过滤、排序、正则验证等
  • 强大的管理功能
    • 共享存储库(转换和作业),开发人员、数据分析师、数据管理员进行协作
    • 版本管理,可以回退到某个版本的作业
    • 用户角色权限管理或集成第三方安全认证系统

流程介绍

有两个技术名词,Transformation(转换)和Job(作业)
转换可以包含多个转换、多个组件
作业可以包含多个转换、多个作业、多个组件

环境准备

  • JDK-1.8
  • Data Integration-6.1(最新为8.2Stable,Data Integration文件夹为历史版本,Pentaho 8.x文件夹为8以上版本)下载

工具结构

工具架构描述

版本更替

  • 待梳理
版本 新增特性
KETTLE-8.2 https://help.pentaho.com/Documentation/8.2/Whats_New
KETTLE-8.1 https://help.pentaho.com/Documentation/8.1/Whats_New
KETTLE-8.0 https://help.pentaho.com/Documentation/8.0/Whats_New
KETTLE-7.1 https://help.pentaho.com/Documentation/7.1/Whats_New
KETTLE-7.0 https://help.pentaho.com/Documentation/7.0/0C0
KETTLE-6.1 https://help.pentaho.com/Documentation/6.1/0C0
KETTLE-6.0 https://help.pentaho.com/Documentation/6.0/0C0
KETTLE-5.4 https://help.pentaho.com/Documentation/5.4/0T0/040
KETTLE-5.3 https://help.pentaho.com/Documentation/5.3/0T0/040
KETTLE-5.2 https://help.pentaho.com/Documentation/5.2/0T0/040/005
KETTLE-5.1 https://help.pentaho.com/Documentation/5.1/0T0/040/000

学习资料

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/142575.html原文链接:https://javaforall.net

(0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • linux 启动nginx[通俗易懂]

    linux 启动nginx[通俗易懂]启动操作nginx-c/usr/local/nginx/conf/nginx.conf-c参数指定了要加载的nginx配置文件路径停止操作停止操作是通过向nginx进程发送信号来进行的步骤1:查询nginx主进程号ps-ef|grepnginx在进程列表里 面找master进程,它的编号就是主进程号了。步骤2:发送信号从容停止Nginx…

    2022年9月1日
    4
  • 卷积与反卷积关系超详细说明及推导(反卷积又称转置卷积、分数步长卷积)

    卷积与反卷积关系超详细说明及推导(反卷积又称转置卷积、分数步长卷积)  以CNN为代表的卷积神经网络在图像的相关领域得到了较为长足的发展。在CNN中卷积实际分类两大类,一种是卷积,另一种是转置卷积(transposedconvolutional),或者称为分数步长卷积(fractionallystridedconvolutionallayers),亦或者是反卷积(deconvolution)。  虽然在一些文章中将反卷积与转置卷积认为是等价的…

    2022年6月21日
    30
  • pycharm升级pip版本_怎么升级pip版本

    pycharm升级pip版本_怎么升级pip版本python-mpipinstall–upgradepip

    2025年8月9日
    4
  • 奇妙的go语言(聊天室的开发)

    奇妙的go语言(聊天室的开发)

    2021年12月2日
    51
  • DELL服务器数据恢复成功案例[通俗易懂]

    DELL服务器数据恢复成功案例[通俗易懂]DELLEqualLogicPS6100采用虚拟ISCSISAN阵列,为远程或分支办公室、部门和中小企业存储部署带来企业级功能、智能化、自动化和可靠性。以简化的管理、快速的部署及合理的价格满足了分支办公室和中小企业的存储需求,同时提供全套企业级数据保护和管理功能、可靠的性能、可扩展性和容错功能,是中型企业级存储的起点产品,但某些物理故障或其他操作都可能会对卷或存储造成破坏,因此对系列存储的数…

    2022年6月30日
    25
  • 用户画像总结

    用户画像总结        最近在工作之余,结合自己的理解和论坛上的一些帖子,整理了份用户画像的文章,个人觉得这篇文章在宏观上很好地描述了用户画像的主要内容。(文章内的图片来源于不同帖子,权当分享,侵删)一、什么是用户画像        用户画像是指根据用户的属性、用户偏好、生活习惯、用户行为等信息而抽象出来的标签化用户模型。通俗说就是给用户打标签,而标签是通过对用户信息分析而来的高度精炼的特征标识。通过打…

    2022年7月18日
    22

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号