遇见数据集

apac-nwp-forecast

收藏
Hugging Face2026-07-03 更新2026-07-04 收录
官方服务:

资源简介:

APAC NWP Forecast数据集是一个专为太阳能应用设计的分析就绪数值天气预报(NWP)数据集。它提供了亚太地区(纬度范围-44至46度,经度范围92至154度,覆盖日本、台湾、东南亚、澳大利亚及周边海域)的逐小时天气预报数据。数据集以Zarr立方体格式存储,每个气象模型对应一个持续增长的立方体,维度为初始时间×预报时效×纬度×经度,完整保留了模型网格(包括海洋单元格)。数据来源于Open-Meteo开放数据分发平台。数据集包含两个主要气象模型:日本气象厅(JMA)的`jma_msm`模型(分辨率约5公里)和德国气象局(DWD)的`dwd_icon`模型(分辨率约11公里)。每个模型立方体包含多个气象变量,如短波辐射(GHI)、直接辐射、漫射辐射、2米气温、2米相对湿度、10米风速、地表气压、降水量、云量(低/中/高)等,其中`dwd_icon`模型还包含雪深和降雪量变量。数据以原始数据类型(uint8/uint16/float32)存储,并采用分片结构以优化读取性能。该数据集旨在记录历史预报序列,适用于天气预报校正、模型融合机器学习等任务,尤其服务于太阳能发电预测和管理等应用场景。

创建时间:
2026-06-29
原始信息汇总

数据集概述:APAC NWP Forecast — analysis-ready Zarr cube

该数据集提供亚太地区(纬度 -44 至 46,经度 92 至 154)的逐小时数值天气预报(NWP)预报,覆盖日本、台湾、东南亚、澳大利亚及周边海域。数据来自多个天气模型的每一次运行,并归档为分析就绪的 Zarr 立方体,专为太阳能应用(辐照度、温度、云量、风等)选配变量。

核心结构

每个模型存储为一个独立的 Zarr v3 立方体,维度为 run_init × lead_time × latitude × longitude。这是一个过去预报的记录,可用于预报修正或模型融合的机器学习任务。新的运行每日追加,run_init 轴预分配至 2027 年底,立方体会原地增长。完整模型网格被保留,包括海洋格点。

数据集家族

数据集 格式 角色
jimtseng/apac-nwp-forecast(本数据集) Zarr 立方体(Mode A,分片) 分析就绪的银级 — 推荐使用
jimtseng/apac-nwp-forecast-raw 每次运行一个 Parquet 文件 青铜级 — 每次运行的不可变捕获
jimtseng/apac-nwp-forecast-zip 每次运行一个 .zarr.zip 历史冷存档

覆盖范围

  • 空间范围:涵盖整个亚太区域(纬度 −44° 至 46°N,经度 92° 至 154°E)
  • 示例:dwd_icon 模型的全域总水平辐照度(GHI)图,以及 jma_msm 模型的日本区域云量和风速图。

模型信息

模型 提供方 分辨率 每日运行次数 预报时长 网格尺寸(含海洋)
jma_msm 日本气象厅(JMA) 0.0625°×0.05°(约 5 公里) 8 次(每 3 小时) 00/12 UTC:78 小时;其他运行:39 小时 473×481,22.4–47.6°N · 120–150°E
dwd_icon 德国气象局(DWD) 0.125°(约 11 公里) 4 次 180 小时(7.5 天) 721×497,−44–46°N · 92–154°E

注意

  • 超过模型原生逐小时范围的预报值(如 ICON 超过 78 小时)由 Open-Meteo 从 3 小时间隔插值得到(辐射使用太阳几何感知的晴空指数,其他使用 Hermite 插值)。日总量可靠,但次 3 小时云量变异性被平滑。
  • 预报时长依赖于运行jma_msm:00/12 UTC 可达 78 小时,其他运行仅 39 小时)。超出实际预报时长的槽位将返回缺失值哨兵(NaN 或掩码)。
  • 海洋格点包含真实模型值。elevation 在海域为 0,可用于掩膜陆/海。

数据结构

每个 <model>_silver.zarr 是 Zarr v3 存储(Mode A格式):

  • 维度(run_init, lead, latitude, longitude),其中 lead 是预报相对于 run_init小时数valid_time = run_init + lead)。run_init 维度随着新运行的追加而增长。
  • 坐标run_initleadlatitudelongitude,以及二维静态坐标 elevationlocation_id(维度为 (latitude, longitude),仅存储一次)。
  • 数据变量:每个天气变量是其自己的数组,使用原生数据类型(uint8 / uint16 / float32)。
  • 分片:每次运行一个分片(run_init=1 × 所有 lead × 整个网格),内部包含小块,使得点/序列读取访问少量字节,同时文件数量对 Hugging Face 友好。
  • slot_filled(run_init,) 的 int8 标记,1 表示该运行有数据,0 表示空未来槽位。

未写入(空或超出预报时长)的单元格读取为哨兵值(float 类型为 NaN,int 类型为掩码)。

变量模式

变量 类型 描述
shortwave_radiation_wattPerSquareMetre uint16 总水平辐照度(GHI),过去一小时的向后平均
direct_radiation_wattPerSquareMetre uint16 直接水平辐照度
diffuse_radiation_wattPerSquareMetre uint16 散射辐照度
direct_normal_irradiance_wattPerSquareMetre uint16 直接法向辐照度(DNI,太阳高度角 < 5° 时不稳定,使用前需过滤)
temperature_2m_celsius float32 2 米空气温度
relative_humidity_2m_percentage uint8 2 米相对湿度
wind_speed_10m_metrePerSecond float32 10 米风速
surface_pressure_hectopascal float32 地表气压
precipitation_millimetre float32 小时降水量
cloud_cover_percentage(+ _low / _mid / _high uint8 云量分层
snow_depth_metre float32 雪深(dwd_icon
snowfall_water_equivalent_millimetre float32 小时降雪量,水当量(dwd_icon
elevation float32 网格单元海拔(米);海域为 0
location_id int32 模型网格内的格点索引

各模型变量集dwd_icon15 个天气变量;jma_msm13 个(无降雪变量,因为其上游源不提供)。最早的 dwd_icon 运行(2026-03-19/20/21)不包含降雪变量,这些槽位也为哨兵值。

整数列反映源量化(辐射步长 1 W/m²,云量/湿度为整数百分比);数值与浮点表示相同,是原始网格格点值(无海拔降尺度)。

使用示例

python import xarray as xr

直接从 Hugging Face 打开完整增长的立方体(惰性加载,仅读取访问的块)

ds = xr.open_zarr( "hf://datasets/jimtseng/apac-nwp-forecast/dwd_icon_silver.zarr", consolidated=True, )

仅选择实际有数据的运行(跳过空的未来槽位)

ds = ds.isel(run_init=(ds["slot_filled"] == 1))

一个点的时间序列:所有运行 × 所有预报时长,在单一格点

ts = ds["shortwave_radiation_wattPerSquareMetre"].sel( latitude=25.0, longitude=121.5, method="nearest" )

"所有在时间 T 有效的预报" 即对角线 run_init + lead == T

需要较新的 zarr>=3huggingface_hubhf:// 流式读取按需访问分片;对于大量使用,建议先下载立方体(或特定变量)到本地。

许可与引用

数据使用 CC BY 4.0 许可证——<a href="https://open-meteo.com/">Weather data by Open-Meteo.com</a>,基于 JMA(MSM)和 DWD(ICON)的开放数据。在重新分发或展示数据时请保留此出处。

搜集汇总
数据集介绍
apac-nwp-forecast 数据集图片
构建方式
该数据集以亚太地区为空间范围,整合了来自日本气象厅(JMA)的MSM模型与德国气象局(DWD)的ICON模型所生成的小时级数值天气预报(NWP)场。数据源自Open-Meteo开放数据分发平台,经由开源工具链处理,以Zarr v3格式存储为每个模型独立的Silver级分析就绪立方体。每个立方体按run_init(预报起始时刻)、lead(预报时效)、latitude与longitude四个维度组织,预报场每日追加,且立方体已预分配至2027年底的存储空间,使其在追加过程中无需重新调整结构,保持了数据的高效持续增长。
使用方法
用户可通过xarray库直接调用xr.open_zarr()从Hugging Face流式读取该数据集,例如打开dwd_icon_silver.zarr立方体。由于数据以Zarr v3格式存储且支持延迟加载,仅在访问时读取所需分片,适合高效探索。使用前可通过slot_filled标记过滤掉尚未写入的空闲预报起始时刻。对于特定位置的时间序列提取,可使用sel方法按经纬度最近邻匹配。因不同预报的时效长度可能不同(如jma_msm中00/12 UTC可达78小时),超出真实预报范围的单元会自动返回缺失值。频繁使用者可先下载局部数据至本地以加速访问。
背景与挑战
背景概述
在太阳能源应用领域,高时空分辨率的数值天气预报(NWP)数据是提升光伏功率预测、模型校准与集成学习的关键资源。现有再分析资料虽覆盖广泛,却无法回溯天气模型历史运行中的预报误差演变,而这恰是机器学习方法修正预报偏差的核心依据。为此,该数据集由jimtseng联合Open-Meteo开源平台于2025年构建,整合日本气象厅(JMA)的MSM模型与德国气象局(DWD)的ICON模型,覆盖亚太地区(纬度-44至46°N,经度92至154°E),提供逐运行、逐小时的分析就绪型Zarr立方体。数据集以init_time×lead_time×latitude×longitude四维架构存储,包含太阳辐射、温度、云量等15种面向太阳能应用的变量,支持点序列与时序对角切片等灵活查询,为预报校正与多模型融合研究奠定了标准化数据基础。
当前挑战
该数据集面临的核心挑战源自动态增长的预报立方体架构与领域应用需求之间的张力。首先,结构设计上需解决的不变难题是处理不同模型运行周期与预报时效的异质性:JMA MSM模型每日8次运行,但仅有00/12时次达78小时预报时效,其余运行仅为39小时,超出实际预报范围的空槽必须以NaN标记,这对模型训练中的缺失值处理与损失函数设计提出要求。其次,构建过程中的挑战在于保持海量运行数据的一致追加更新:Zarr数组虽预分配至2027年底以支持原地增长,但历史冷归档的原始捕获格式(Zarr ZIP)与增量铜级数据集(Zarr分片)的追溯对齐需要精确的元数据校验。此外,保留完整海洋格点虽避免了网格插值退化,却增加了数据冗余,需通过elevation或location_id变量辅助用户屏蔽无效区域,这对下游应用的自动预处理与存储效率构成额外负担。
常用场景
经典使用场景
在亚太区域太阳能预报研究中,该数据集以其独特的时间序列结构成为数值天气预报后处理的黄金标准。其采用Zarr立方体格式存储,按初始时间、预报时效、经纬度四维组织数据,支持对任意网格点进行高效的时间序列提取。研究者常利用其涵盖的全球水平辐照度、直接辐射、散射辐射等核心气象变量,结合云量、温度、风速等辅助要素,构建基于机器学习的光伏功率预测模型。数据集的预报起始时间轴持续增长,记录了完整的历史预报轨迹,特别适合开展预报误差分析与模式纠偏研究。
解决学术问题
该数据集系统性地解决了亚太地区太阳能资源评估中缺乏统一、高质量数值天气预报后处理基准数据的难题。传统研究受限于单一预报模式或时空分辨率不足,难以深入开展跨模式融合、预报偏差校正等学术探索。该数据集合括了日本JMA的高分辨率MSM模式和德国DWD的全球ICON模式,覆盖从5公里到11公里的多尺度预报场,使得研究者能够系统比较不同数值模式的性能差异,探究模式误差的时空分布规律,并开发基于统计学习或深度学习的最优融合策略。这些工作对提升亚太地区太阳能预报精度具有重要的学术推动意义。
实际应用
在实际能源运营中,该数据集为光伏电站的日前调度与实时功率预测提供了稳定的数据基础设施。电力交易中心、新能源开发商和电网调度机构可基于该数据集训练矫正模型,将原始数值天气预报输出的系统偏差降至最低,从而获得更精准的发电功率曲线。数据集覆盖的太平洋西岸区域包含日本、台湾、东南亚及澳大利亚等重要太阳能市场,支持对这些地区光伏电站进行定制化预报建模。此外,其标准化的Zarr格式便于与主流数据科学框架集成,降低了从数据获取到业务部署的技术门槛,已在实际工程中被用于开发区域级太阳能监测与预报系统。
数据集最近研究
最新研究方向
在亚太区域太阳能预测领域,该数据集通过提供高时空分辨率的数值天气预报再分析立方体,为基于机器学习的预报订正与多模型融合技术开辟了新路径。研究人员可利用其多模型存档(如日本JMA的MSM和德国DWD的ICON)的完整网格场,训练能够纠正系统性偏差或融合不同模型优势的深度学习模型,从而提升光伏发电功率的短期预测精度。该数据集的独特价值在于它记录了每个预报运行时刻的原始模型输出,这是无法从传统再分析资料中重建的,因而成为开发数据驱动后处理算法的理想基石,对推动再生能源并网调度和电力市场运营的智能化具有重要影响。
以上内容由遇见数据集搜集并总结生成
二维码
社区交流群
二维码
科研交流群
商业服务