第26期全国高校大数据课程教师培训交流班（Hadoop+Spark综合班，寒假，厦门，2025年1月12日-19日），已经开始报名，欢迎访问报名主页。
2024年最新教材林子雨编著《数据库系统原理（微课版）》
访问林子雨编著《数据库系统原理（微课版）》教材官网
国内高校知名大数据教师——厦门大学计算机系林子雨副教授编著
系统讲解传统的关系数据库和新兴的NoSQL数据库，全书共14章，内容包括数据库概述、关系数据库、关系数据库标准语言SQL、关系数据库编程、关系数据库安全和保护、关系数据库的规范化理论、关系数据库设计、NoSQL数据库、分布式数据HBase、文档数据库MongoDB、键值数据库Redis、云数据库、数据仓库和数据湖、SQL与大数据。在每个章节的习题解析部分，设计了单选题、多选题、填空题、判断题、简答题和应用题等题型，内容涵盖了理论教材中的核心知识点，并给出了参考答案。在涉及上机实验的相关章节，设计了与理论教材相关的上机实验操作练习，并给出了参考答案。
访问林子雨编著《数据库系统原理（微课版）》教材官网
大数据软件安装和基础编程实践指南（2023年7月版）
版权声明：版权所有，请勿转载。
博客：在VMWare中安装Linux虚拟机
作者：厦门大学计算机系林子雨副教授
E-mail: ziyulin@xmu.edu.cn
摘要：本博客介绍如何在Linux系统中安装各种大数据软件，包括Hadoop、HBase、Spark、Hive、Flink等，以及如何进行编程。本博客内容与林子雨编著《大数据技术原理与应用（第4版）》（访问教材官网）教材配套。
本站所有重要博客索引（可以快速找到你想要阅读的文章）
本站提供了大量大数据学习博客，为了方便读者找到自己感兴趣的文章，特地制作了本索引。
基于Scala语言的Spark数据处理分析案例集锦
【版权声明】版权所有，严禁转载，严禁用于商业用途，侵权必究。
基于Scala语言的Spark数据处理分析案例集锦
案例制作：厦门大学数据库实验室
指导老师：厦门大学信息学院计算机系数据库实验室 林子雨 博士/副教授 E-mail: ziyulin@xmu.edu.cn
相关教材：林子雨、赖永炫、陶继平编著《Spark编程基础（Scala版，第2版）》（访问教材官网）
相关案例：基于Python语言的Spark数据处理分析案例集锦（PySpark）
(1)基于泰坦尼克号生还数据的Spark数据处理分析
(2)基于美剧《权力的游戏》剧集数据的Spark数据处理分析
(3)基于Covid-19传播数据的Spark数据处理分析
(4)基于DOTA2 Matches数据集的Spark数据处理分析
(5)基于音乐数据的Spark数据处理与分析
(6)基于咖啡连锁店的Spark数据处理分析
(7)基于Spark的气象监测数据分析
(8)基于Spark的厦门市市民球场处理与分析
(9)基于Spark的Google Play应用商店数据分析
(10)基于Spark的淘宝数据分析
(11)基于Spark的电信客户流失分析
(12)基于Spark的NBA球员数据分析
基于Python语言的Spark数据处理分析案例集锦（PySpark）
【版权声明】版权所有，严禁转载，严禁用于商业用途，侵权必究。
基于Python语言的Spark数据处理分析案例集锦（PySpark）
案例制作：厦门大学数据库实验室
指导老师：厦门大学信息学院计算机系数据库实验室 林子雨 博士/副教授 E-mail: ziyulin@xmu.edu.cn
相关教材：林子雨、郑海山、赖永炫编著《Spark编程基础（Python版，第2版）》（访问教材官网）
相关案例：基于Scala语言的Spark数据处理分析案例集锦
（1）基于YELP数据集的商业数据分析
（2）2020年美国新冠肺炎疫情数据分析
（3）基于零售交易数据的Spark数据处理与分析
（4）基于地震数据的Spark数据处理与分析
（5）基于Spark的地震数据处理与分析
（6）基于信用卡逾期数据的Spark数据处理与分析
（7）基于 TMDB 数据集的电影数据分析
（8）厦门租房信息分析展示
（9）基于Spark的气象数据处理与分析
（10）基于Spark的音乐专辑数据分析展示
（11）基于CO2排放量数据集的数据分析及可视化
（12）Bilibili网站“每周必看”栏目数据分析
（13）基于电影数据的PySpark数据处理与分析
（14）基于Spark的NBA球员数据分析
（15）基于英国航空公司客户反馈数据的PySpark数据处理与分析
（16）基于Spark的中风数据处理与分析
（17）基于Spark的1996-2022多赛季NBA球员数据分析
（18）基于Spark与大型语言模型的融合应用
（19）基于Python和Spark的淘宝展示广告点击率预估
（20）基于Spark的书籍推荐数据处理与分析
（21）基于Spark的PUBG游戏统计数据分析
子雨大数据之Spark入门教程（Scala版）
【版权声明】博客内容由厦门大学数据库实验室拥有版权，未经允许，请勿转载！版权所有，侵权必究！
Spark最初诞生于美国加州大学伯克利分校（UC Berkeley）的AMP实验室，是一个可应用于大规模数据处理的快速、通用引擎。2013年，Spark加入Apache孵化器项目后，开始获得迅猛的发展，如今已成为Apache软件基金会最重要的三大分布式计算系统开源项目之一（即Hadoop、Spark、Storm）。Spark最初的设计目标是使数据分析更快——不仅运行速度快，也要能快速、容易地编写程序。为了使程序运行更快，Spark提供了内存计算，减少了迭代计算时的IO开销；而为了使编写程序更为容易，Spark使用简练、优雅的Scala语言编写，基于Scala提供了交互式的编程体验。虽然，Hadoop已成为大数据的事实标准，但其MapReduce分布式计算模型仍存在诸多缺陷，而Spark不仅具备Hadoop MapReduce所具有的优点，且解决了Hadoop MapReduce的缺陷。Spark正以其结构一体化、功能多元化的优势逐渐成为当今大数据领域最热门的大数据计算平台。
基于Python和Flink的全球疫苗接种数据分析
【版权声明】版权所有，严禁转载，严禁用于商业用途，侵权必究。
作者：厦门大学计算机科学与技术系2023级研究生 黄邦
指导老师：厦门大学数据库实验室 林子雨 博士/副教授
时间：2024年6月
相关教材：林子雨编著《Flink编程基础（Java版）》（访问教材官网）
相关案例：Flink大数据处理分析案例集锦
本案例使用了Kaggle上的全球疫苗接种数据集，在Ubuntu虚拟机上使用Flink框架完成数据处理，使用Python语言实现，最后使用Python plotly包完成数据可视化。
数据集和代码下载：从百度网盘下载本案例的代码和数据集。（提取码是ziyu）
基于Python和Flink的Spotify歌曲数据分析
【版权声明】版权所有，严禁转载，严禁用于商业用途，侵权必究。
作者：厦门大学计算机科学与技术系2023级研究生 亢恒越
指导老师：厦门大学数据库实验室 林子雨 博士/副教授
时间：2024年6月
相关教材：林子雨编著《Flink编程基础（Java版）》（访问教材官网）
相关案例：Flink大数据处理分析案例集锦
本案例用Python语言编写了Flink程序，对Spodify数据集进行了数据处理和分析，之后对分析结果使用Pyecharts进行了可视化，并分别保存为HTML和PNG格式。
数据集和代码下载：从百度网盘下载本案例的代码和数据集。（提取码是ziyu）
基于Spark的PUBG游戏统计数据分析
【版权声明】版权所有，严禁转载，严禁用于商业用途，侵权必究。
作者：厦门大学计算机科学与技术系2023级研究生 黄万嘉
指导老师：厦门大学数据库实验室 林子雨 博士/副教授
时间：2024年6月
相关教材：林子雨、郑海山、赖永炫编著《Spark编程基础（Python版，第2版）》（访问教材官网）
相关案例：基于Python语言的Spark数据处理分析案例集锦（PySpark）
数据集和代码下载：从百度网盘下载本案例数据集和代码。（提取码是ziyu）
基于Python和Flink的酒店数据分析
【版权声明】版权所有，严禁转载，严禁用于商业用途，侵权必究。
作者：厦门大学计算机科学与技术系2023级研究生 欧立瀚
指导老师：厦门大学数据库实验室 林子雨 博士/副教授
时间：2024年6月
相关教材：林子雨编著《Flink编程基础（Java版）》（访问教材官网）
相关案例：Flink大数据处理分析案例集锦
本案例数据集来源于Kaggle 公开项目 Hotel booking demand。使用pandas进行数据清洗，保存到分布式文件系统HDFS中，接下来使用Flink Python API 进行数据分析，主要使用其中的 Table API，最后，采用matplotlib进行可视化。
数据集和代码下载：从百度网盘下载本案例的代码和数据集。（提取码是ziyu）
基于Spark的书籍推荐数据处理与分析
【版权声明】版权所有，严禁转载，严禁用于商业用途，侵权必究。
作者：厦门大学计算机科学与技术系2023级研究生 吴聪霞
指导老师：厦门大学数据库实验室 林子雨 博士/副教授
时间：2024年6月
相关教材：林子雨、郑海山、赖永炫编著《Spark编程基础（Python版，第2版）》（访问教材官网）
相关案例：基于Python语言的Spark数据处理分析案例集锦（PySpark）
数据集和代码下载：从百度网盘下载本案例数据集和代码。（提取码是ziyu）
本案例数据集来自Kaggle的书籍推荐数据集。采用pandas对数据进行清洗，采用分布式文件系统HDFS进行数据存储，采用Python编写Spark程序进行数据分析，使用Matplotlib进行数据可视化。
基于Python和Spark的淘宝展示广告点击率预估
【版权声明】版权所有，严禁转载，严禁用于商业用途，侵权必究。
作者：厦门大学计算机科学与技术系2023级研究生 李坤华
指导老师：厦门大学数据库实验室 林子雨 博士/副教授
时间：2024年6月
相关教材：林子雨、郑海山、赖永炫编著《Spark编程基础（Python版，第2版）》（访问教材官网）
相关案例：基于Python语言的Spark数据处理分析案例集锦（PySpark）
数据集和代码下载：从百度网盘下载本案例数据集和代码。（提取码是ziyu）
本案例数据集来自阿里云天池公共数据集——淘宝展示广告点击率预估数据集。采用pandas对数据进行清洗，采用分布式文件系统HDFS进行数据存储，采用Python编写Spark程序进行数据分析，使用Matplotlib进行数据可视化。
基于PyFlink的二手车交易数据处理与分析
【版权声明】版权所有，严禁转载，严禁用于商业用途，侵权必究。
作者：厦门大学计算机科学与技术系2023级研究生 李鑫
指导老师：厦门大学数据库实验室 林子雨 博士/副教授
时间：2024年6月
相关教材：林子雨编著《Flink编程基础（Java版）》（访问教材官网）
相关案例：Flink大数据处理分析案例集锦
本案例采用阿里天池大赛提供的某交易平台的二手车交易记录数据集。使用pandas进行数据清洗，保存到分布式文件系统HDFS中，接下来使用PyFlink进行数据分析，最后，采用matplotlib进行可视化。
数据集和代码下载：从百度网盘下载本案例的代码和数据集。（提取码是ziyu）
基于PyFlink的钻石价格数据处理与分析
【版权声明】版权所有，严禁转载，严禁用于商业用途，侵权必究。
作者：厦门大学计算机科学与技术系2023级研究生 董畅
指导老师：厦门大学数据库实验室 林子雨 博士/副教授
时间：2024年6月
相关教材：林子雨编著《Flink编程基础（Java版）》（访问教材官网）
相关案例：Flink大数据处理分析案例集锦
本案例采用阿里天池大赛提供的钻石价格数据集。使用pandas进行数据清洗，保存到分布式文件系统HDFS中，接下来使用PyFlink进行数据分析，最后，采用matplotlib和seaborn进行可视化。
数据集和代码下载：从百度网盘下载本案例的代码和数据集。（提取码是ziyu）
基于Python和Flink的人体肥胖数据分析
【版权声明】版权所有，严禁转载，严禁用于商业用途，侵权必究。
作者：厦门大学计算机科学与技术系2023级研究生 许雅萍
指导老师：厦门大学数据库实验室 林子雨 博士/副教授
时间：2024年6月
相关教材：林子雨编著《Flink编程基础（Java版）》（访问教材官网）
相关案例：Flink大数据处理分析案例集锦
本案例采用数据集obesity_level.csv来源于kaggle网站，该Kaggle数据集提供了关于个人的全面信息。使用pandas进行数据清洗，保存到分布式文件系统HDFS中，接下来使用Python语言编写Flink程序进行数据分析，最后，采用python+plotly+matplotlib进行可视化。
数据集和代码下载：从百度网盘下载本案例的代码和数据集。（提取码是ziyu）