遇见数据集

firestorm-lightning-data

收藏
github2026-06-06 更新2026-06-07 收录
官方服务:

资源简介:

该仓库提供实时闪电数据,用于FIRESTORM野火仪表板。数据源来自NOAA开放数据S3桶中的GOES-R GLM Level-2 LCFA闪光数据,通过GitHub Actions定时抓取并处理为轻量JSON格式。数据集包含闪电的经纬度、能量、年龄和卫星来源等信息,覆盖CONUS、加勒比海、墨西哥和南美洲等区域,用于增强野火监测和态势感知。

This repository provides real-time lightning data for the FIRESTORM wildfire dashboard. The data source originates from GOES-R GLM Level-2 LCFA flash data stored in the NOAA Open Data S3 bucket, which is periodically fetched and processed into lightweight JSON format via GitHub Actions. The dataset includes information such as lightning latitude and longitude, energy, age, and satellite origin, covering regions including CONUS, the Caribbean Sea, Mexico, and South America. It is used to enhance wildfire monitoring and situational awareness.

创建时间:
2026-05-21
原始信息汇总

数据集概述

数据集名称:firestorm-lightning-data
用途:为 FIRESTORM 项目提供实时闪电数据源,替代之前使用的随机生成模拟闪电数据。数据通过 GitHub Actions 定时轮询 NOAA 公共 S3 存储桶,处理为精简 JSON 格式后供前端 fetch() 调用。

数据来源

  • 源数据:NOAA GOES-R 系列卫星搭载的地球静止闪电测绘仪(GLM)的 Level-2 闪电集群滤波算法(LCFA)产品。
  • 卫星
    • GOES-East(G19):s3://noaa-goes19/GLM-L2-LCFA/<YYYY>/<DDD>/<HH>/(2025年4月起替代 G16)
    • GOES-West(G18):s3://noaa-goes18/GLM-L2-LCFA/<YYYY>/<DDD>/<HH>/(2023年起替代 G17)
  • 访问方式:公共匿名访问,无需认证,无数据传输费用。
  • 原始数据频率:每颗卫星约20秒生成一个文件,格式为 netCDF-4,单文件大小约50–500 KB。

输出格式

  • 文件路径data/lightning.json
  • 格式说明:扁平 JSON,结构如下:
    • generated_at:数据生成时间戳(UTC)
    • window_minutes:时间窗口(15分钟)
    • counts:各卫星及总闪电数量
    • source:数据来源描述
    • flashes:闪电对象数组,每个对象包含:
      • lat / lng:经纬度
      • energy_fJ:能量(飞焦耳)
      • age_sec:距当前时间秒数
      • type:固定为 "flash"
      • sat:来源卫星(g19g18
  • 限制:每次循环最多输出5000条闪电记录,按能量降序排列(前端实际有效渲染约100–500个标记)。

注意事项

  1. 闪电类型限制:GLM 为光学传感器,无法区分云地闪(CG)和云闪(IC),所有记录标记为 type: "flash"。纯云地闪分类需要 NLDN 交叉关联,不在本数据集范围内。
  2. 探测效率:云地闪探测效率约为70%,总闪电计数效率更高。适用于态势感知,不适用于亚秒级延迟或保证云地闪检测的场景。
  3. 端到端延迟:从闪电发生到 JSON 文件生成约需2–7分钟(闪电→卫星下行约30秒→地面处理约30秒→S3发布约30秒→轮询最长5分钟→推送)。
  4. 覆盖范围:GOES 卫星位于约35,786 km高度的地球静止轨道,极地纬度高于55°的区域观测几何效果较差。覆盖较好的区域包括美国本土、加勒比地区、墨西哥、南美洲大部(G19)、太平洋、阿拉斯加、美国西部(G18)。

本地运行

  • 依赖boto3botocorenetCDF4numpy
  • 命令python fetch_glm.py → 生成 data/lightning.json
  • 认证:无需凭证,使用 boto3UNSIGNED 配置访问 NOAA 公共存储桶。

成本

  • 数据获取成本为0(NOAA 承担存储费用,GitHub Actions 对公共仓库免费)。

许可

  • 管道代码未授权在 FIRESTORM 之外分发。
  • 底层 GLM 数据为美国联邦政府生产,属于公共领域。
搜集汇总
数据集介绍
firestorm-lightning-data 数据集图片
构建方式
firestorm-lightning-data 数据集通过 GitHub Actions 的定时任务(cron)自动拉取 NOAA 公开 S3 存储桶中的 GOES-R GLM Level-2 LCFA 闪电数据,将其从 netCDF-4 格式转换为精简 JSON 格式,并存储于 GitHub 仓库的 data/lightning.json 文件中。该管道无需认证即可访问,通过 boto3 库以 UNSIGNED 配置连接 NOAA 的公共数据源,实现了从卫星观测到前端可消费数据的无缝衔接。数据覆盖 GOES-East(G19)和 GOES-West(G18)两颗卫星,每约20秒生成一帧观测文件,管道在每个触发周期内提取过去15分钟的闪电事件,并按能量降序保留最多5000次闪击。
特点
该数据集具备多项鲜明特点。它以实时性为核心,端到端延迟控制在2至7分钟,能满足态势感知的时效需求。数据结构简洁高效,每条闪击记录包含经纬度、能量(fJ)、存活时间、类型和卫星来源字段,便于前端轻量级渲染。数据来源权威,来自 NOAA 的 GOES-R 系列地球静止卫星上的闪电测绘仪(GLM),采用光学传感器捕获777.4纳米氧线信号,对总闪电计数具有较高探测效率。数据集自动平衡双星覆盖,兼顾美洲大陆、太平洋及阿拉斯加等区域,并对弱信号闪击进行能量排序筛选,突出最具操作意义的强闪击。
使用方法
使用该数据集前可通过 pip 安装 boto3、botocore、netCDF4 和 numpy 依赖库,本地运行 fetch_glm.py 脚本即可生成 data/lightning.json 文件。前端应用通过 fetch() 接口直接读取 GitHub 原始文件路径(raw.githubusercontent.com)获取 JSON 数据。数据集支持 FIRESTORM 项目前端渲染,用户无需注册 AWS 账户或认证,完全免费。数据集窗口默认覆盖15分钟的闪电事件,开发者可调整脚本中的时间参数以适应不同应用场景。由于 GLM 本身无法区分云地闪和云闪,所有事件均标记为 "flash" 类型,如需精确区分云地闪需额外关联 NLDN 地面网络数据。
背景与挑战
背景概述
火光冲天(FIRESTORM)项目致力于提供实时的环境态势感知数据,其闪电数据模块在2025年经历了从模拟数据到真实观测数据的重大革新。该数据集由Deasus团队创建,核心研究问题在于如何高效地将NOAA GOES-R系列卫星搭载的地球静止闪电测绘仪(GLM)所采集的Level-2闪电簇滤波算法(LCFA)产品,转化为前端可消费的轻量级JSON格式。通过GitHub Actions定时轮询公共S3存储桶,该管道实现了对GOES-East(G19)与GOES-West(G18)两颗卫星数据的准实时镜像,每15分钟生成包含闪电位置、能量及卫星来源的JSON文件。这一设计不仅替代了此前基于随机生成点的演示路径,更为野火监测、风暴追踪等应用提供了真实可靠的数据支撑,在气象灾害预警领域产生了显著影响。
当前挑战
当前数据集面临的首要挑战源于GLM传感器的物理限制:作为光学传感器,它无法区分云闪(IC)与地闪(CG),所有事件均标注为统一类型,这限制了需要精确地闪分类的灾害评估场景应用。检测效率方面,其对地闪的探测率仅约70%,虽适用于态势感知,但无法替代地基闪电定位网络(NLDN)在亚秒级延迟或确定性地闪检测中的角色。端到端延迟问题同样突出,从闪电发生到JSON生成需2至7分钟,这一滞后在处理快速演变的对流天气时可能错过关键预警窗口。此外,地球静止轨道在极区(纬度高于55°)的视场几何畸变导致覆盖盲区,而单个循环5000次闪电的容量上限虽偏向强能量事件,却可能遗漏中等强度的有效信号,影响数据集的完备性。
常用场景
经典使用场景
在气象监测与灾害预警领域,firestorm-lightning-data数据集为实时雷电活动可视化提供了坚实的数据支撑。该数据集通过镜像NOAA GOES-R卫星搭载的地球静止闪电测绘仪(GLM)的Level-2 LCFA产品,将原本以netCDF-4格式存储的大规模闪电簇信息,转化为轻量化的JSON格式,便于前端程序直接调用。其经典使用场景是驱动FIRESTORM系统的高保真闪电图层,替代了早期仅依赖随机生成模拟数据的演示路径,使得界面上呈现的每一个闪电点都具备真实的物理来源,显著提升了气象态势感知的可信度与实时性。
衍生相关工作
围绕firestorm-lightning-data的数据架构,已衍生出一系列协同工作的经典项目。其中,firestorm-aircraft-data、firestorm-wind-data与firestorm-news-data共享同一设计范式——均采用GitHub Actions定时轮询、公开S3数据源再精简为JSON的前端消费路径。这些衍生工作共同构成了FIRESTORM生态的核心数据管道,分别提供航空器位置、气象风场和突发事件新闻等实时情报。此外,基于该闪电数据流,研究者可以进一步开发云地闪分类器(结合NLDN地面观测网)、闪电能量统计分析模型,以及用于天气预报模式的闪电同化方案,不断拓展其在跨学科研究中的价值边界。
数据集最近研究
最新研究方向
该数据集聚焦于将实时闪电数据集成至野火监测系统,取代传统模拟数据源,以提升火灾态势感知的准确性。通过镜像NOAA GOES-R系列卫星的地球静止闪电探测器(GLM)二级闪电集群滤波算法(LCFA)产品,系统能够以约20秒/次的频率捕获东西半球闪电事件,并筛选出能量最强的5000次闪击用于前端渲染。这一流程解决了GLM无法区分云地闪与云闪的固有局限,同时以2-7分钟端到端延迟提供了可靠的闪电分布概况。该方向与当前气象灾害快速响应、开源卫星数据应用热潮紧密相连,展示了公共云与持续集成工具在环境监测领域的创新结合,为低成本、高时效的火灾预警体系奠定了实践基础。
以上内容由遇见数据集搜集并总结生成
二维码
社区交流群
二维码
科研交流群
商业服务