【转载】scala spark创建DataFrame的多种方式
[TOC]一、通过RDD[Row]和StructType创建import org.apache.spark.rdd.RDD import org.apache.spark.sql.types.{IntegerType, StringType, StructField, StructType} import org.apache.spark.sql.{DataFrame, Row, Spark...
SparkSQL导入导出Excel文件
[TOC]前言本篇使用的环境是：spark版本：3.0.0scala版本：2.12一、导入依赖<!--加载Excel--> <dependency> <groupId>com.crealytics</groupId> <artifactId>spark-excel_2.12</artifactId> ...
SparkSQL案例实操（五）
[TOC]一、需求统计用户上网流量统计用户上网流量，如果两次上网的时间小于10min，就可以rollup(合并)到一起二、数据准备merge.dat文件id start_time end_time flow 1 14:20:30 14:46:30 20 1 14:47:20 15:20:30 30 1 15:37:23 16:05:26 40 1 16:06:27 17:20:49 50 1...
SparkSQL案例实操（四）
[TOC]一、需求统计有过连续3天以上销售的店铺,并计算销售额结果示例+-----+----------+----------+-----+-----------+ | sid|begin_date| end_date|times|total_sales| +-----+----------+----------+-----+-----------+ |shop1|2019-02-10|...
SparkSQL案例实操（三）
[TOC]一、需求统计连续登录三天及以上的用户这个问题可以扩展到很多相似的问题：连续几个月充值会员、连续天数有商品卖出、连续打滴滴、连续逾期。示例uidtimesstart_dateend_dateguid0142018-03-042018-03-07guid0232018-03-012018-03-03二、数据准备v_user_login.csvuid,datatime guid01,20...
SparkSQL案例实操（二）
[TOC]一、需求1.1 需求简介各区域热门商品 Top3这里的热门商品是从点击量的维度来看的，计算各个区域前三大热门商品备注上每个商品在主要城市中的分布比例超过两个城市用其他显示示例地区商品名称点击次数城市备注华北商品 A100000北京 21.2%，天津 13.2%，其他 65.6%华北商品 P80200北京 63.0%，太原 10%，其他 27.0%华北商品 M40000北京 63.0...
SparkSQL案例实操（一）
[TOC]一、需求统计每个用户的累计访问次数要求使用SQL统计出每个用户的累积访问次数，如下表所示：用户id月份小计累积u012021-011111u012021-021223u022021-011212u032021-0188u042021-0133说明：累计访问次数按照月份进行排序，根据每个用户逐月进行累加二、数据准备user_access_count.csv文件userid,visit...
10.【转载】SparkSQL之Join实现介绍
[TOCM]10.【转载】SparkSQL之Join实现介绍前言 在阐述Join实现之前，先简单介绍SparkSQL的总体流程，一般地，我们有两种方式使用SparkSQL， 一种是直接写sql语句，这个需要有元数据库支持，例如Hive等，另一种是通过Dataset/DataFrame编写Spark应用程序。 如下图所示，sql语句被语法解析(SQL AST)成查询计划，或者我...
09.SparkSQL数据的加载和保存
09.SparkSQL数据的加载和保存一、通用的加载和保存方式 SparkSQL 提供了通用的保存数据和数据加载的方式。这里的通用指的是使用相同的 API，根据不同的参数读取和保存不同格式的数据，SparkSQL 默认读取和保存的文件格式 为 parquet1.1 加载数据spark.read.load是加载数据的通用方法下方都是spark.read支持的加载数据方式如果读取...
