首页 > 数据库技术 > 详细

SparkSQL

时间:2019-11-09 22:31:56      阅读:74      评论:0      收藏:0      [点我收藏+]

Spark SQL 增加了DataFrame 即带有Schema信息的RDD

技术分享图片

 

 DataFrame 创建

启动pyspark(由于内存不够 启动本地,模式)

pyspark --master local

 

pyspark 自动生成 sc,sparksession

 

from pyspark import SparkContext,SparkConf

from pyspark.sql import SparkSession

spark=SparkSession.builder.config(conf=SparkConf()).getOrCreate()

df=spark.read.json("file:///usr/local/spark/examples/src/main/resources/people.json")

df.show()

+----+-------+
| age|   name|
+----+-------+
|null|Michael|
|  30|   Andy|
|  19| Justin|
+----+-------+

SparkSQL

原文:https://www.cnblogs.com/cschen588/p/11827898.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!