sparksql 概述

 

什么是spark sql？

spark sql是spark用来处理结构化数据的一个模块，它提供了2个编程抽象：dataframe和dataset，并且作为分布式sql查询引擎的作用。

 

 

我们已经学习了hive，它是将hive sql转换成mapreduce然后提交到集群上执行，大大简化了编写mapreduc的程序的复杂性，由于mapreduce这种计算模型执行效率比较慢。所有spark sql的应运而生，它是将spark sql转换成rdd，然后提交到集群执行，执行效率非常快！

 

spark sql的特点

1）易整合

 

 

2）统一的数据访问方式

 

 

3）兼容hive

 

 

4）标准的数据连接

 

 

什么是dataframe?

与rdd类似，dataframe也是一个分布式数据容器。然而dataframe更像传统数据库的二维表格，除了数据以外，还记录数据的结构信息，即schema。

同时，与hive类似，dataframe也支持嵌套数据类型（struct、array和map）。从api易用性的角度上看，dataframe api提供的是一套高层的关系操作，比函数式的rdd api要更加友好，门槛更低。

 

 

上图直观地体现了dataframe和rdd的区别。左侧的rdd[person]虽然以person为类型参数，但spark框架本身不了解person类的内部结构。而右侧的dataframe却提供了详细的结构信息，使得spark sql可以清楚地知道该数据集中包含哪些列，每列的名称和类型各是什么。

dataframe是为数据提供了schema的视图。可以把它当做数据库中的一张表来对待，dataframe也是懒执行的。性能上比rdd要高，主要原因：

优化的执行计划：查询计划通过spark catalyst optimiser(spark的优化器)进行优化。

 

 

比如下面一个例子:

 

 

 

 

为了说明查询优化，我们来看上图展示的人口数据分析的示例。图中构造了两个dataframe，将它们join之后又做了一次filter操作。如果原封不动地执行这个执行计划，最终的执行效率是不高的。因为join是一个代价较大的操作，也可能会产生一个较大的数据集。如果我们能将filter下推到 join下方，先对dataframe进行过滤，再join过滤后的较小的结果集，便可以有效缩短执行时间。而spark sql的查询优化器正是这样做的。

简而言之，逻辑查询计划优化就是一个利用基于关系代数的等价变换，将高成本的操作替换为低成本操作的过程。

 

什么是dataset?

1）是dataframe api的一个扩展，是spark最新的数据抽象。

2）用户友好的api风格，既具有类型安全检查也具有dataframe的查询优化特性。

3）dataset支持编解码器，当需要访问非堆上的数据时可以避免反序列化整个对象，提高了效率。

4）样例类被用来在dataset中定义数据的结构信息，样例类中每个属性的名称直接映射到dataset中的字段名称。

5）dataframe是dataset的特列，dataframe=dataset[row] ，所以可以通过as方法将dataframe转换为dataset。row是一个类型，跟car、person这些的类型一样，所有的表结构信息我都用row来表示。

6）dataset是强类型的。比如可以有dataset[car]，dataset[person]

7）dataframe只是知道字段，但是不知道字段的类型，所以在执行这些操作的时候是没办法在编译的时候检查是否类型失败的，比如你可以对一个string进行减法操作，在执行的时候才报错，而dataset不仅仅知道字段，而且知道字段类型，所以有更严格的错误检查。就跟json对象和类对象之间的类比。