2021贺岁大数据入门spark3.0入门到精通
本课程中使用官方在2020年9月8日发布的Spark3.0系列最新稳定版:Spark3.0.1。共课程包含9个章节:Spark环境搭建,SparkCore,SparkStreaming,SparkSQL,StructuredStreaming,Spark综合案例,Spark多语言开发,Spark3.0新特性,Spark性能调优 。
课程目录
Spark-day01
00-[了解]-课程内容介绍.mp4
01-[了解]-Spark发展历史和特点介绍.mp4
02-[掌握]-Spark环境搭建-local本地模式.mp4
03-[掌握]-Spark环境搭建-Standalone集群模式.mp4
04-[掌握]-Spark环境搭建-Standalone-HA集群模式.mp4
05-[细心]-Spark环境搭建-On-Yarn-原理和准备工作.mp4
06-[理解]-Spark环境搭建-On-Yarn-两种模式.mp4
07-[掌握]-Spark环境搭建-On-Yarn-两种模式演示.mp4
08-[补充]-Spark环境搭建-spark-shell和spark-submit.mp4
09-[掌握]-Spark代码开发-准备工作.mp4
10-[重点]-Spark代码开发-入门案例.mp4
11-[重点]-Spark代码开发-OnYarn.mp4
12-[理解]-Spark代码开发-WordCount图解.mp4
13-[总结]-总结和作业.mp4
Spark-day02
01-[理解]-RDD理论详解.mp4
02-[掌握]-RDD的创建.mp4
03-[掌握]-RDD的操作分类和基本操作演示.mp4
04-[掌握]-RDD的分区操作.mp4
05-[掌握]-RDD的重分区操作.mp4
06-[掌握]-RDD的聚合操作.mp4
07-[面试题]-RDD的聚合reduceByKey和groupByKey.mp4
08-[掌握]-RDD的关联.mp4
09-[掌握]-RDD的排序.mp4
10-[掌握]-RDD的缓存-持久化.mp4
11-[掌握]-RDD的Checkpoint.mp4
12-[掌握]-共享变量-广播变量和累加器.mp4
13-[掌握]-外部数据源-多种数据格式.mp4
14-[了解]-外部数据源-操作JDBC-写.mp4
15-[了解]-外部数据源-操作JDBC-读.mp4
Spark-day03
01-[理解]-spark内核原理-依赖关系.mp4
02-[理解]-spark内核原理-DAG和Stage.mp4
03-[理解]-spark内核原理-名词解释.mp4
04-[理解]-spark内核原理-job提交流程.mp4
05-[理解]-spark内核原理-web-UI查看.mp4
06-[了解]-搜狗搜索日志分析-需求和分词测试.mp4
07-[了解]-搜狗搜索日志分析-代码实现.mp4
08-[了解]-流式计算应用场景.mp4
09-[了解]-流式计算实现模式.mp4
10-[了解]-SparkStreaming介绍-特点-流程-原理.mp4
11-[理解]-SparkStreaming数据抽象-DStream.mp4
12-[掌握]-SparkStreaming案例1-WordCount.mp4
13-[掌握]-SparkStreaming案例2-状态管理.mp4
14-[扩展]-SparkStreaming案例3-状态恢复.mp4
15-[重难点]-SparkStreaming案例4-窗口计算.mp4
Spark-day04
01-[掌握]-SparkStreaming案例5-topN.mp4
02-[掌握]-SparkStreaming案例6-自定义输出.mp4
03-[了解]-SparkStreaming整合Kafka前置说明-连接方式和API版本.mp4
04-[重点]-SparkStreaming整合Kafka-代码实现-1-自动提交偏移量.mp4
05-[掌握]-SparkStreaming整合Kafka-代码实现-2-手动提交偏移量.mp4
06-[扩展]-SparkStreaming整合Kafka-代码实现-3-手动提交偏移量到MySQL.mp4
07-[了解]-SparkSQL概述-数据分析方式.mp4
08-[了解]-SparkSQL概述-官方介绍-数据格式.mp4
09-[理解]-SparkSQL数据抽象.mp4
10-[掌握]-SparkSQL实战-1-加载数据成为分布式表.mp4
11-[掌握]-SparkSQL实战-2-RDD转DF-1-使用样例类.mp4
12-[掌握]-SparkSQL实战-2-RDD转DF-2-指定类型+列名.mp4
13-[掌握]-SparkSQL实战-2-RDD转DF-3-自定义Schema.mp4
14-[掌握]-SparkSQL实战-3-RDD-DF-DS-相互转换.mp4
15-[掌握]-SparkSQL实战-4-花式查询.mp4
16-[掌握]-SparkSQL实战-5-WordCount.mp4
Spark-day05
01-[掌握]-SparkSQL案例-6-多数据源支持.mp4
02-[掌握]-SparkSQL案例-7-电影数据分析.mp4
03-[掌握]-SparkSQL案例-8-SparkSQL-UDF.mp4
04-[掌握]-SparkSQL整合Hive-1-SparkSQL命令行.mp4
05-[掌握]-SparkSQL整合Hive-2-SparkSQL代码中操作Hive.mp4
06-[掌握]-SparkSQL分布式SQL引擎.mp4
07-[了解]-StructuredStreaming引入.mp4
08-[了解]-StructuredStreaming介绍.mp4
09-[理解]-StructuredStreaming编程模型和数据抽象.mp4
10-[掌握]-StructuredStreaming-Source-Socket.mp4
11-[了解]-StructuredStreaming-Source-Rate.mp4
12-[了解]-StructuredStreaming-Source-File.mp4
13-[掌握]-StructuredStreaming-Operation.mp4
14-[掌握]-StructuredStreaming-输出模式.mp4
15-[掌握]-StructuredStreaming-输出位置.mp4
16-[掌握]-StructuredStreaming-ForeachBatch.mp4
17-[掌握]-StructuredStreaming-连续处理和Checkpoint.mp4
Spark-day06
01-[了解]-StructuredStreaming整合Kafka官方说明.mp4
02-[掌握]-StructuredStreaming整合Kafka-案例1-实时ETL.mp4
03-[掌握]-StructuredStreaming整合Kafka-案例2-物联网设备实时分析.mp4
04-[掌握]-StructuredStreaming-基于事件时间的窗口计算-水位线解决数据延迟到达问题.mp4
05-[掌握]-StructuredStreaming-流去重.mp4
06-[了解]-Spark综合案例-流程分析和业务模块划分.mp4
07-[了解]-Spark综合案例-环境搭建和数据发送.mp4
08-[掌握]-Spark综合案例-实时数据分析-代码实现-1-数据加载和转换.mp4
09-[掌握]-Spark综合案例-实时数据分析-代码实现-2-业务需求代码实现.mp4
10-[理解]-Spark综合案例-实时推荐易错题-需求分析和模型准备.mp4
11-[掌握]-Spark综合案例-实时推荐易错题-代码实现-1-加载数据和模型.mp4
12-[掌握]-Spark综合案例-实时推荐易错题-代码实现-2-给用户推荐并存储推荐结果.mp4
Spark-day07
01-[理解]-Spark综合案例-学生答题情况离线分析-需求分析.mp4
02-[理解]-Spark综合案例-学生答题情况离线分析-代码实现-1.mp4
03-[理解]-Spark综合案例-学生答题情况离线分析-代码实现-2.mp4
04-[补充]-推荐系统概述.mp4
05-[补充]-推荐算法分类.mp4
06-[补充]-推荐算法-ALS-数学基础补充.mp4
07-[补充]-推荐算法-ALS-案例需求和算法思想.mp4
08-[补充]-推荐算法-ALS-电影推荐案例-代码实现.mp4
09-[补充]-推荐算法-ALS-在易错题推荐案例中的模型实现.mp4
10-[了解]-Spark3.0诞生背景.mp4
11-[了解]-Spark3.0新特性-动态分区裁剪.mp4
12-[了解]-Spark3.0初体验-代码演示.mp4
12-[了解]-Spark3.0新特性-自适应查询执行优化.mp4
13-[了解]-Spark3.0新特性-加速器感知调度.mp4
14-[了解]-Spark3.0新特性-更好的API扩展.mp4
15-[了解]-Spark3.0新特性-更好的SQL支持和SparkR的向量化读写.mp4
16-[理解]-Spark3.0初体验-静态分区裁剪.mp4
17-[理解]-Spark3.0初体验-动态分区裁剪.mp4
18-[注意]-Spark3.0初体验-参数设置和注意事项.mp4
19-[理解]-Spark3.0初体验-结果对比.mp4
20-[了解]-Spark生态与未来.mp4
Spark-day08
01-[了解]-Spark多语言开发-说明.mp4
02-[掌握]-Spark多语言开发-JavaSpark-SparkCore.mp4
03-[掌握]-Spark多语言开发-JavaSpark-SparkStreaming.mp4
04-[掌握]-Spark多语言开发-JavaSpark-SparkSQL.mp4
05-[掌握]-Spark多语言开发-JavaSpark-StructuredStreaming.mp4
06-[了解]-Spark多语言开发-JavaSpark-线性回归算法-房价预测案例.mp4
07-[了解]-Spark多语言开发-JavaSpark-线性回归算法-房价预测案例-代码实现.mp4
08-[了解]-Spark多语言开发-PySpark-SparkCore.mp4
09-[了解]-Spark多语言开发-PySpark-SparkStreaming.mp4
10-[了解]-Spark多语言开发-PySpark-SparkSQL.mp4
11-[了解]-Spark多语言开发-PySpark-StructuredStreaming.mp4
12-[了解]-Spark多语言开发-PySpark-决策树算法-相亲决策案例-需求-原理.mp4
13-[了解]-Spark多语言开发-PySpark-决策树算法-相亲决策案例-代码实现.mp4
14-[了解]-Spark性能优化-9项基本原则.mp4
15-[了解]-Spark性能优化-N多配置参数.mp4
16-[了解]-Spark性能优化-数据倾斜.mp4
17-[了解]-Spark性能优化-shuffle优化.mp4
18-[了解]-Spark性能优化-内存管理.mp4
资料
更多知识
-
抖音直播打号起号实时录屏,全程4小时起号操作,毫无保留
你是不是入局抖音直播,却卡在“起号难、打号慢”的第一关?精心筹备开播,要么直播间零人在线、冷冷清清,要么流量忽高忽低、留不住人;跟着教程学起号,却全是过时理论,实操环节一笔带过,自己上手依旧无从下手;
分半
40 阅读
-
绩效管理与团队激励实战,即学即用,成为一个真正的绩效激励专家
课程介绍:掌握诊断企业绩效管理有效性的评测方法学会制定支撑于战略的绩效目标(4+7)解决绩效考核与排名的公平性与接受度问题学会设计从战略到目标到考核到分钱的方案掌握制定薪酬包并科学分配薪酬包的方案拥有
★芭比々娃娃
43 阅读
-
小红书带货达人启航计划,从0-1运营小红书账号
想做小红书带货达人,却卡在起点无从下手?看着别人靠小红书带货月入过万,自己却连账号定位都搞不清,发布的笔记无人问津、没有流量;不懂平台规则、不会做内容、不会选品带货,哪怕盲目跟风发笔记,也始终无法实现
你陪我醉i
76 阅读
-
抖音35W粉丝博主AI解压视频制作教学,从零开始用AI打造爆款解压视频,涨粉变现两不误
自从有了AI,在创意方面真的是只有我们想不到,没有做不到的。解压类视频一直是涨粉快的赛道,像修马蹄、搭积木这类内容,大家看着就觉得放松。今天给大家分享抖音某大佬的解压视频制作教学,一个超适合新手的,非
等风也等你
57 阅读
-
小红书带货达人实战营:账号注册定位、内容创作、选品策略、带货技巧、流量运营等
小红书带货达人实战营:账号注册定位、内容创作、选品策略、带货技巧、流量运营等课程简介本课程是专为新手量身打造的小红书带货达人启航计划,聚焦从0到1运营小红书账号的全流程实战。课程摒弃空泛理论,全程实操
轻吟潜唱丶华灯初上
42 阅读
-
付费文1+2:年轻人还能抓住的几大隐形翻身机会:打开思路,发现那些闷声发财的冷门赛道
付费文1+2:年轻人还能抓住的几大隐形翻身机会:打开思路,发现那些闷声发财的冷门赛道文章介绍本课程聚焦当下年轻人还能抓住的几大隐形翻身机会,深度剖析“涉外经济”与“银发经济”两大红利赛道。第一部分围绕
那思念爱尖叫
68 阅读
-
一张照片秒变N种专属表情包,三步搞定可爱搞怪治愈风,从此斗图聊天不再到处存别人图
一张照片秒变N种专属表情包,三步搞定可爱搞怪治愈风,从此斗图聊天不再到处存别人图课程简介这是一套教你用AI技术零门槛制作专属表情包的趣味实操课程。只需一张普通照片,通过简单的三步流程——上传照片、选择
哭了,谁疼
33 阅读
-
六大豆包AI修图指令全公开:高清画质逼真细节一键生成,每张图都像专业场地实拍大片
六大豆包AI修图指令全公开:高清画质逼真细节一键生成,每张图都像专业场地实拍大片课程简介这是一套聚焦AI生图实战的技巧课程,系统传授利用豆包AI生成专业级场景画面的六个核心指令。课程涵盖六大不同风格的
一开始就结束
81 阅读
撰写回复