大数据-数仓-数据采集-业务数据(三):MySQL-(Maxwell)->Kafka-(Flume)->HDFS每日增量:仅传输新增或变更的数据到仓库
发布时间
阅读量:
阅读量



增量同步策略
- 解释 :所谓每日增量,指的是仅将业务数据中新增或发生变动的部分信息传输至数据仓库中,
- 适用 :适用于表数据规模庞大且每日仅存在新增记录的情形,
- 特点 :对于采用每日增量方式的表格,通常在初始阶段会先执行一次完整的数据同步操作。
- 例如 :退单记录表、订单状态变更表、支付交易明细表、订单详细信息表、活动与订单关系表、商品评价表
Maxwell的运作机制较为简单,其核心在于通过模拟Slave的身份,并严格遵守Mysql主从复制的相关协议,从而实现从master节点获取数据同步的功能。
|Maxw
全部评论 (0)
还没有任何评论哟~
