Where is Spark 2.3.0's DataFrame? Who is the DataSet?
发布时间
阅读量:
阅读量

DataSet是一种具备类型信息的集合,专门用于处理特定领域的数据对象,其结构具有较强的类型约束
可以通过函数或关系运算方式进行操作。每个数据集都包含一个无类型视图
该视图被命名为“DataFrame”,本质上是[[Row]]类型的集合。
DataFrame也可称为Dataset[Row],其中每一行的数据类型为Row。由于未进行解析,无法明确每行具体包含哪些字段以及各字段的数据类型,只能借助之前提到的getAS方法或通用方式提取特定字段
相较之下,在Dataset中,各行的数据类型并非固定。当用户自定义了case class后,可以更加灵活地获取每一行的具体信息
在源代码层面,DataSet这一概念是从版本1.6.0开始引入的。
在我使用Spark2.3.0版本的Java API进行定义时,并未发现DataFrame的相关定义,如下

还没有任何评论哟~
