Advertisement

MapReduce实战——MapReduce中多表合并的案例研究

阅读量:

MapReduce中多表合并案例

1)需求:

订单数据表t_order:

id pid amount
1001 01 1
1002 02 2
1003 03 3

1001 01 1
1002 02 2
1003 03 3
1004 01 4
1005 02 5
1006 03 6

商品信息表t_product

pid pname
01 小米
02 华为
03 格力

01 小米
02 华为
03 格力

将商品信息表中数据根据商品pid合并到订单数据表中。

最终数据形式:

id pname amount
1001 小米 1
1004 小米 4
1002 华为 2
1005 华为 5
1003 格力 3
1006 格力 6

需求1:Reduce端表合并(数据倾斜)

利用关联条件作为map键,在接收端将符合条件的数据同时携带其所属文件信息发送到同一reduce任务,在reducer中整合这些数据以完成串联操作

![](https://ad.itadn.com/c/weblog/blog-img/images/2025-05-31/wYFN3yhs674LzP1a8AcMKlOEdR

全部评论 (0)

还没有任何评论哟~