Advertisement

Spark核心—RDD算子(转换操作)

阅读量:

文章目录

正在实时更新中

主要操作符

复制代码
* ( 二 )双 Value 类型
* * 1、intersection
  * 2、union
  * 3、subtract
  * 4、zip
  • ( 三 )Key-Value类型

    • 1、按分区键分组(partitionBy)
  • 2、根据键值进行归约(reduceByKey)

  • 3、基于键分组(groupBykey)

  • 4、基于键聚合(aggregateByKey)

  • 5、折叠键值(foldByKey)

  • 6、结合键值(combineByKey)

  • 7、按键排序(sortByKey)

  • 8、连接操作(join)

  • 9、左外连接(leftOuterjoin)

  • 10、共组操作(cogroup)

    • 二、RDD行动算子

持续更新中

序号 算子名称 类型 函数说明
1 map Value 将处理的数据逐条映射转换(类型或者值的转换)
2 mapPartition Value 将待处理的数据以分区为单位发送到计算节点进行处理(可以进行任意处理,包括过滤数据)
3 mapPartitionWithIndex Value 将待处理的数据以分区为单位发送到计算节点进行处理,并获得当前分区索引
4 flat

全部评论 (0)

还没有任何评论哟~