five

afhubbard/gpu-prices

收藏
Hugging Face2026-05-30 更新2026-05-31 收录
下载链接:
https://hf-mirror.com/datasets/afhubbard/gpu-prices
下载链接
链接失效反馈
官方服务:
资源简介:
GPU价格追踪器是一个持续更新的跨云GPU租赁价格数据集,覆盖12家以上的公共云提供商(包括AWS、GCP、Azure、Lambda Labs、RunPod、Vast.ai、DataCrunch、Cudo Compute、TensorDock、Vultr、Oracle、Nebius、CloudRift)。通过使用gpuhunt库抓取提供商定价界面,每日两次收集快照数据,并以Hive分区Parquet文件格式发布。该数据集适用于研究云市场微观结构、GPU价格动态以及作为利用率代理的按需与现货价差的研究者,也适用于跨提供商比较GPU租赁成本以进行容量规划、采购和机器学习训练成本估算的实践者。

GPU Price Tracker is a continuously updated cross-cloud GPU rental pricing dataset covering more than 12 public cloud providers, including AWS, GCP, Azure, Lambda Labs, RunPod, Vast.ai, DataCrunch, Cudo Compute, TensorDock, Vultr, Oracle, Nebius, and CloudRift. Snapshot data is collected twice daily by scraping the pricing interfaces of these providers using the gpuhunt library, and the dataset is released in Hive-partitioned Parquet file format. This dataset is suitable for researchers studying cloud market microstructure, GPU price dynamics, and on-demand vs. spot price spreads as a proxy for resource utilization, as well as practitioners comparing GPU rental costs across providers for capacity planning, procurement, and machine learning training cost estimation.
提供机构:
afhubbard
搜集汇总
数据集介绍
main_image_url
构建方式
该数据集名为gpu-prices,由Alex Hubbard构建,旨在追踪跨云GPU租赁价格的动态变化。数据通过`gpuhunt`库每日两次(约UTC时间09:00和21:00)从12个以上的公有云提供商(包括AWS、GCP、Azure、Lambda Labs等)的定价页面抓取快照,并以Hive分区的Parquet文件格式存储于`prices/dt=YYYY-MM-DD/`路径下。数据收集由GitHub Actions的cron作业自动化执行,采用追加写入模式,每次运行生成一个不可变的Parquet文件,确保时间序列的完整性与可追溯性。
特点
该数据集具有多维度结构化特征,包含时间戳、提供商、实例类型、GPU型号与数量、GPU内存、vCPU数、RAM、区域、每小时价格、是否为抢占式实例、可用性及可用区等字段。其独特之处在于覆盖了跨越公有云与多云平台的实时租赁信息,支持`price_per_gpu_hour`计算以进行跨SKU公平比较。然而,数据存在一些局限性:区域字段未标准化,抢占式实例的定义因提供商而异,且不含客户使用数据;同时部分行存在`gpu_count=0`或`gpu_type=Unknown`的情况,需在分析前过滤。
使用方法
该数据集可通过HuggingFace的`datasets`库便捷加载,使用`load_dataset("afhubbard/gpu-prices", split="train")`即可获取训练集。亦支持DuckDB直接查询,通过安装并加载`httpfs`扩展后,利用`read_parquet`函数读取Parquet文件并进行SQL分析,例如计算每种GPU类型的平均每GPU小时价格。建议使用时注意处理`gpu_count>0`的筛选,并参考`methodology.md`文档理解各提供商的定价语义差异,以确保跨云比较的准确性。来源代码及仪表盘见GitHub仓库。
背景与挑战
背景概述
近年来,随着大规模深度学习模型与高性能计算需求的激增,图形处理器(GPU)成为云计算市场中不可或缺的核心资源,其租赁价格波动与跨供应商差异深刻影响着科研机构与企业的成本决策。由Alex Hubbard于2026年创建的GPU Price Tracker数据集,依托GitHub Actions每日两次的自动化采集流程,系统记录来自AWS、GCP、Azure等12余家主流云服务商的GPU实例定价信息,涵盖H100、A100等主流加速器家族的现货与按需价格。该数据集为研究云市场微观结构、GPU定价动态以及供需关系变化提供了宝贵的高频时间序列资源,已在学术界与工程界引发广泛关注。
当前挑战
该数据集所解决的领域问题聚焦于云GPU定价透明度不足与跨供应商比价困难,传统依赖单一供应商报价或手动收集数据的方式难以捕捉快速变化的市场格局。在构建过程中,挑战主要体现为:供应商定价接口与语义各异,例如区域标识未标准化,现货定价机制(AWS拍卖模式与Vast.ai点对点模式)差异显著,需通过详尽的元数据文档加以澄清;数据质量的把控亦面临困难,部分上游记录缺失GPU数量或类型标注为“Unknown”,需在分析前进行过滤;此外,12小时的采集频率无法捕捉日内高频竞价波动,对某些市场微观结构研究构成局限。
常用场景
经典使用场景
在云计算与人工智能基础设施研究的交汇地带,gpu-prices数据集扮演着不可或缺的角色。其最为经典的应用场景,莫过于跨云GPU租赁价格的时序对比与统计分析。研究者可借助该数据集,精准追踪AWS、GCP、Azure等十余家主流云商在H100、A100等关键加速器型号上的定价波动,进而剖析spot实例与按需实例之间的价差动态。这一能力使得市场微观结构分析、GPU算力成本建模以及云厂商定价策略的比较研究成为可能,为学术界提供了量化云GPU市场运行规律的坚实数据基石。
衍生相关工作
围绕gpu-prices数据集,已涌现出一系列富有启发性的衍生工作。最为直接的贡献是基于gpuhunt库构建的自动化数据采集管道,其架构设计为同类云计算价格追踪项目提供了可复用的范式。其次,该数据集支撑了关于GPU云市场微观结构的探索性研究,例如学者利用其spot-on-demand价差数据构建了云算力利用率的代理指标。此外,该数据催生了配套的开源仪表板与交互式可视化分析工具,使得非专业用户也能直观地解读跨云定价趋势。在更长远的维度上,它正成为未来云资源定价预测模型、算力经济博弈论分析及AI训练成本预测等方向研究的启动平台。
数据集最近研究
最新研究方向
该数据集聚焦于跨云GPU租赁定价的微观市场结构研究,覆盖AWS、GCP、Azure等12余家主流云提供商,以每日两次的快照频率持续更新。当前前沿方向包括:利用实时定价与现货-按需价差作为GPU利用率的代理指标,分析H100、A100等高端加速器的价格动态与供需失衡;结合大模型训练成本激增与AI算力租赁市场扩张的热点事件,该数据集为容量规划、成本优化及云市场透明化提供了关键实证基础。其意义在于揭示寡头竞争下的定价策略差异与短期波动规律,推动资源调度与经济学建模的跨学科整合,对降低AI基础设施门槛具有深远影响。
以上内容由遇见数据集搜集并总结生成
二维码
社区交流群
二维码
科研交流群
商业服务