Advertisement

Where is Spark 2.3.0's DataFrame? Who is the DataSet?

阅读量:

DataSet是一种具备类型信息的集合,专门用于处理特定领域的数据对象,其结构具有较强的类型约束

可以通过函数或关系运算方式进行操作。每个数据集都包含一个无类型视图

该视图被命名为“DataFrame”,本质上是[[Row]]类型的集合。

DataFrame也可称为Dataset[Row],其中每一行的数据类型为Row。由于未进行解析,无法明确每行具体包含哪些字段以及各字段的数据类型,只能借助之前提到的getAS方法或通用方式提取特定字段

相较之下,在Dataset中,各行的数据类型并非固定。当用户自定义了case class后,可以更加灵活地获取每一行的具体信息

在源代码层面,DataSet这一概念是从版本1.6.0开始引入的。

在我使用Spark2.3.0版本的Java API进行定义时,并未发现DataFrame的相关定义,如下

![](https://ad.itadn.com/c/weblog/blog-img/images/2025-05-31/kEDNb9VBIqU1vwe8dsLW

全部评论 (0)

还没有任何评论哟~