首页 > 代码库 > Kettle学习总结(一)
Kettle学习总结(一)
最近由于项目的需要,初步涉及到了Kettle的使用,现在将这两周自己使用kettle开发JOB的心得整理一下,与大家一起分享。
一、kettle是什么
Kettle是个ETL工具,主要用来管理不同数据来源的数据,按照一定的方式流出来,最常用的情况,不同系统之间数据的传递,可以使用kettle制作转换JOB来完成。目前由于是纯JAVA语言编写,所以与Java兼容性最好。
Kettle主要包括四个部分:Spoon、Pan、Kitchen以及CHEF;本次总结主要涉及到Spoon和Kitchen,这两个运用比较广泛。其中:Spoon是核心的图形化处理界面,通过拖拽组件,配置组件来完成一系列数据流的转换,Kitchen目前主要是制作bat文件来批处理一些列的JOB,比如说windows系统下的定时任务。
二、Kettle的两种脚本文件
1、transformation:完成针对数据的基础转换。
2、job:完成对整个工作流的控制。
三、资源库的配置(基于4.4.0版本)
资源库主要作用是用来存放在kettle工具上编写的转换和job的。
资源库主要分为两种:
Kettle database repository
Kettle file reposity
一个是数据资源库:将编写的转换和job存放在数据资源库中的对应的表里面,这些表在你配置好数据库资源库时会出现一个执行创建表的sql语句,执行这些sql语句就会完成表的创建。大部分都是创建数据资源库的
另一个是文件资源库:将编写的转换和job存放在文件里面,运用不是很广泛。
下面主要讲解一下MySQL的资源数据库的配置(Oracle配置比较简单,配置的步骤大体相同,而且MySQL这里,对应的资源库表创建有点BUG)
1、点击如图按钮,进入资源库配置界面
2、选择第一个数据库资源配置,点击确定,在出现的界面中选择新建资源数据库
3、配置数据库如下:其中kettle本身自带是没有数据的驱动jar包的, 所以需要手动将jar放置在kettle安装文件的的目录下(D:\Tools\Kettle\data-integration\lib),最后点击Test来测试是否连接成功。
4、如果数据库连接成功的话,直接点击OK键,进行数据库资源表的创建。
5、这里点击创建或者更新,会出现一个弹跳框,框子里面是创建表的sql语句,这里我们不执行,将这些sql语句粘贴复制到数据库处理工具上,直接在数据库中运行(MySQL的创建表的语句在kettle上使用会先报错的,而在数据库中直接运行则不会,另外目前就发现MySQL有这种情况,Oracle则没有)
6、登陆资源数据库,默认的用户名和密码是admin和admin
7、至此资源数据库的配置完成。