使用etl工具kettle比较数据文件是否有变更

时间:2021-07-07 10:20:24

原先是用python来实现的,参照例子:http://pbpython.com/excel-diff-pandas.html,现在考虑用elt工具kettle来实现类似的功能。

对原有的例子稍加改造,删除两行记录,并添加新的两行记录,使用转换中的“合并记录”功能,比较有可能会发生变化的字段,如果不知道就全选,标志字段是合并后新增的字段,用来标注某条记录是否有变化,没有变化是“identical‘;有变化会有两条记录,一条”deleted",一条“new";删除的只有"deleted”,新增的只有"new“。

使用etl工具kettle比较数据文件是否有变更

筛选一下去掉identical的记录,剩下的就是所有删除、变更、新增的记录:

使用etl工具kettle比较数据文件是否有变更