Cricket Analytics Data
收藏资源简介:
本项目专注于板球分析的数据工程,包括从JSON文件中提取数据,通过多个层级进行数据处理,并构建用于分析的数据消费层。分析结果可通过Snowsight在仪表板上可视化。
This project focuses on the data engineering of cricket analysis, including extracting data from JSON files, processing data through multiple layers, and constructing a data consumption layer for analysis. The analysis results can be visualized on dashboards via Snowsight.
数据集概述
本项目是一个端到端的板球分析数据工程项目,涉及数据的摄取、处理和分析结果的可视化。项目结构包括以下几个主要层级:
-
Land Layer: 原始数据以JSON格式存储的初始层级。使用Json Cracker工具解析JSON结构,并在Snowflake中创建内部Stage和Json File Format存储JSON文件。
-
RAW Layer: 存储未经转换的摄取数据。数据从JSON文件加载到Snowflake的MATCH_RAW_TABLE表中。
-
Clean Layer: 负责清洗和转换原始数据。创建了三个清洁表:Player、Match_detail、Delivery Table。
-
Consumption Layer: 设计用于分析和报告。使用数据建模构建数据仓库的事实表和维度表。
-
Dashboard: 使用Snowsight可视化分析结果,提供数据分析和报告的界面。
-
Automate Continuous Data Flow: 通过创建自动化任务监听变更数据捕获(CDC)并更新所有表中的数据。
项目设置
- 需要Snowflake账户(免费试用账户即可)和Snowflake客户端(SnowSQL或Snowflake网页界面)。
- 按照正确的顺序执行各层的SQL脚本以创建表、流、任务和视图。
- 使用任务或其他数据加载方法将数据加载到Land Layer。
- 运行RAW Layer的任务以将数据从Land Layer移动到RAW Layer。
- 运行Clean Layer的任务进行数据清洗和转换。
- 最后,执行Consumption Layer的任务以创建最终的分析表和视图。
- 使用Snowsight访问仪表板并可视化板球分析。
文件结构
Json Cricket files/: 包含JSON文件。Sql Worksheet/: 包含所有层级使用的SQL脚本。dashboard/: 包含与Snowsight仪表板创建相关的截图和SQL脚本。




