您的当前位置:首页正文

一种基于云计算的大数据ETL工具系统及应用方法[发明专利]

2021-10-27 来源:意榕旅游网
专利内容由知识产权出版社提供

专利名称:一种基于云计算的大数据ETL工具系统及应用方法专利类型:发明专利发明人:袁进波

申请号:CN201810204424.8申请日:20180313公开号:CN108595480A公开日:20180928

摘要:本发明公开了一种基于云计算的大数据ETL工具系统及应用方法,包括有数据源层、作业层和目标数据库层,作业层包括有数据传输单元,目标数据库层数据传输单元包括有数据集成模块,数据源层包括有结构化数据和非结构化数据,对于非结构化数据,数据集成模块通过MapReduce任务实现数据传输,利用MapReduce分布式批处理,能够分割数据集并创建Hadoop任务来处理每个区块,加快了数据传输速度,保证容错性;对于非结构化数据,数据集成模块,基于生产者‑消费者模式的消息队列,以流处理的方式实现数据传输。

申请人:广州市优普科技有限公司

地址:510000 广东省广州市天河区五山路246、248、250号1901自编11房

国籍:CN

代理机构:广州市越秀区哲力专利商标事务所(普通合伙)

更多信息请下载全文后查看

因篇幅问题不能全部显示,请点此查看更多更全内容