极客时间出品的专栏课《Spark 性能调优实战》作者吴磊,价值59元现在免费分享。
课程介绍
Spark已成为分布式数据处理的事实标准,对工程师而言,掌握Spark开发尤为重要。但在实际开发中,很多工程师往往遇到性能问题难以解决。
为解决这一问题,我们特邀吴磊老师为大家讲解。吴老师根据多年的数据处理经验,梳理出一套性能调优的方法论。课程分为原理、性能、实战三大模块。原理篇讲解核心概念,如RDD、DAG等;性能篇则分为通用技巧与Spark SQL的优化;实战篇以具体案例手把手教你进行分布式应用开发,并实践调优技巧。
通过这门课程,你不仅能快速掌握Spark性能调优的技巧,更能建立起以性能为导向的开发习惯。课程更新时,还会不定期加入热点话题和Spark新特性的讲解,帮助你更好地应对变化,把握先机。无论你是初入数据领域的工程师,还是希望进一步提升技能的大厂工程师,这门课程都将为你带来宝贵的收获。
课程目录
│ ├── 01丨性能调优的必要性:Spark本身就很快,为啥还需要我调优?.m4a
│ ├── 01丨性能调优的必要性:Spark本身就很快,为啥还需要我调优?.pdf
│ ├── 02丨性能调优的本质:调优的手段五花八门,该从哪里入手?.m4a
│ ├── 02丨性能调优的本质:调优的手段五花八门,该从哪里入手?.pdf
│ ├── 开篇词丨Spark性能调优,你该掌握这些“套路”.m4a
│ └── 开篇词丨Spark性能调优,你该掌握这些“套路”.pdf
├── 02-原理篇 (5讲)
│ ├── 03丨RDD:为什么你必须要理解弹性分布式数据集?.m4a
│ ├── 03丨RDD:为什么你必须要理解弹性分布式数据集?.pdf
│ ├── 04丨DAG与流水线:到底啥叫“内存计算”?.m4a
│ ├── 04丨DAG与流水线:到底啥叫“内存计算”?.pdf
│ ├── 05丨调度系统:“数据不动代码动”到底是什么意思?.m4a
│ ├── 05丨调度系统:“数据不动代码动”到底是什么意思?.pdf
│ ├── 06丨存储系统:空间换时间,还是时间换空间?.m4a
│ ├── 06丨存储系统:空间换时间,还是时间换空间?.pdf
│ ├── 07丨内存管理基础:Spark如何高效利用有限的内存空间?.m4a
│ └── 07丨内存管理基础:Spark如何高效利用有限的内存空间?.pdf
├── 03-通用性能调优篇 (12讲)
│ ├── 08丨应用开发三原则:如何拓展自己的开发边界?.m4a
│ ├── 08丨应用开发三原则:如何拓展自己的开发边界?.pdf
│ ├── 09丨调优一筹莫展,配置项速查手册让你事半功倍!(上).m4a
│ ├── 09丨调优一筹莫展,配置项速查手册让你事半功倍!(上).pdf
│ ├── 10丨调优一筹莫展,配置项速查手册让你事半功倍!(下).m4a
│ ├── 10丨调优一筹莫展,配置项速查手册让你事半功倍!(下).pdf
│ ├── 11丨Shuffle的工作原理:为什么说Shuffle是一时无两的性能杀手?.m4a
│ ├── 11丨Shuffle的工作原理:为什么说Shuffle是一时无两的性能杀手?.pdf
│ ├── 12丨广播变量(一):克制Shuffle,如何一招制胜!.m4a
│ ├── 12丨广播变量(一):克制Shuffle,如何一招制胜!.pdf
│ ├── 13丨广播变量(二):有哪些途径让SparkSQL选择BroadcastJoins?.m4a
│ ├── 13丨广播变量(二):有哪些途径让SparkSQL选择BroadcastJoins?.pdf
│ ├── 14丨CPU视角:如何高效地利用CPU?.m4a
│ ├── 14丨CPU视角:如何高效地利用CPU?.pdf
│ ├── 15丨内存视角(一):如何最大化内存的使用效率?.m4a
│ ├── 15丨内存视角(一):如何最大化内存的使用效率?.pdf
│ ├── 16丨内存视角(二):如何有效避免Cache滥用?.m4a
│ ├── 16丨内存视角(二):如何有效避免Cache滥用?.pdf
│ ├── 17丨内存视角(三):OOM都是谁的锅?怎么破?.m4a
│ ├── 17丨内存视角(三):OOM都是谁的锅?怎么破?.pdf
│ ├── 18丨磁盘视角:如果内存无限大,磁盘还有用武之地吗?.m4a
│ ├── 18丨磁盘视角:如果内存无限大,磁盘还有用武之地吗?.pdf
│ ├── 19丨网络视角:如何有效降低网络开销?.m4a
│ └── 19丨网络视角:如何有效降低网络开销?.pdf
├── 04-Spark SQL 性能调优篇 (4讲)
│ ├── 20丨RDD和DataFrame:既生瑜、何生亮.m4a
│ ├── 20丨RDD和DataFrame:既生瑜、何生亮.pdf
│ ├── 21丨Catalyst逻辑计划:你的SQL语句是怎么被优化的?(上).m4a
│ ├── 21丨Catalyst逻辑计划:你的SQL语句是怎么被优化的?(上).pdf
│ ├── 22丨Catalyst物理计划:你的SQL语句是怎么被优化的(下)?.m4a
│ ├── 22丨Catalyst物理计划:你的SQL语句是怎么被优化的(下)?.pdf
│ ├── 23丨钨丝计划:Tungsten给开发者带来了哪些福报?.m4a
│ ├── 23丨钨丝计划:Tungsten给开发者带来了哪些福报?.pdf
│ ├── 24丨Spark3.m4a
│ ├── 24丨Spark3.pdf
│ ├── 25丨Spark3.m4a
│ ├── 25丨Spark3.pdf
│ ├── 26丨JoinHints指南:不同场景下,如何选择Join策略?.m4a
│ ├── 26丨JoinHints指南:不同场景下,如何选择Join策略?.pdf
│ ├── 27丨大表Join小表:广播变量容不下小表怎么办?.m4a
│ ├── 27丨大表Join小表:广播变量容不下小表怎么办?.pdf
│ ├── 28丨大表Join大表(一):什么是“分而治之”的调优思路?.m4a
│ ├── 28丨大表Join大表(一):什么是“分而治之”的调优思路?.pdf
│ ├── 29丨大表Join大表(二):什么是负隅顽抗的调优思路?.m4a
│ ├── 29丨大表Join大表(二):什么是负隅顽抗的调优思路?.pdf
│ ├── 30丨应用开发:北京市小客车(汽油车)摇号趋势分析.m4a
│ ├── 30丨应用开发:北京市小客车(汽油车)摇号趋势分析.pdf
│ ├── 31丨性能调优:手把手带你提升应用的执行性能.m4a
│ └── 31丨性能调优:手把手带你提升应用的执行性能.pdf
└── 05-结束语(2讲)
├── 结束语丨在时间面前,做一个笃定学习的人.m4a
└── 结束语丨在时间面前,做一个笃定学习的人.pdf
6 directories, 66 files
以上就是极客时间吴磊老师的专栏课《Spark 性能调优实战》的详细介绍了。
本文由提供IT教程网提供,仅供学习交流使用,未经许可,禁止转载!
原课程地址:https://time.geekbang.org/column/intro/100073401,有条件的朋友请支持正版,谢谢!
评论(0)