Yambda-5B|音乐流媒体数据集|推荐系统数据集
收藏Yambda-5B数据集概述
基本信息
- 许可证: Apache-2.0
- 标签: recsys, retrieval, dataset
- 数据集名称: Yambda-5B
- 规模: 1B<n<10B
数据集配置
- flat-50m: 包含likes、listens、unlikes、multi_event、dislikes、undislikes的parquet文件
- flat-500m: 包含likes、listens、unlikes、multi_event、dislikes、undislikes的parquet文件
- flat-5b: 包含likes、listens、unlikes、multi_event、dislikes、undislikes的parquet文件
- sequential-50m: 包含likes、listens、unlikes、multi_event、dislikes、undislikes的parquet文件
- sequential-500m: 包含likes、listens、unlikes、multi_event、dislikes、undislikes的parquet文件
- sequential-5b: 包含likes、listens、unlikes、multi_event、dislikes、undislikes的parquet文件
关键特性
- 4.79B用户-音乐交互(包括收听、喜欢、不喜欢、取消喜欢、取消不喜欢)
- 带有全局时间顺序的时间戳
- 7.72M条目的音频嵌入
- 有机和推荐驱动的交互
- 多种数据集规模(50M、500M、5B交互)
- 标准化评估协议和基准测试
数据集统计
数据集 | 用户数量 | 项目数量 | 收听次数 | 喜欢次数 | 不喜欢次数 |
---|---|---|---|---|---|
Yambda-50M | 10,000 | 934,057 | 46,467,212 | 881,456 | 107,776 |
Yambda-500M | 100,000 | 3,004,578 | 466,512,103 | 9,033,960 | 1,128,113 |
Yambda-5B | 1,000,000 | 9,390,623 | 4,649,567,411 | 89,334,605 | 11,579,143 |
数据格式
文件描述
listens.parquet
: 用户收听事件,包含播放详情likes.parquet
: 用户喜欢行为dislikes.parquet
: 用户不喜欢行为undislikes.parquet
: 用户取消不喜欢行为unlikes.parquet
: 用户取消喜欢行为embeddings.parquet
: 曲目音频嵌入
通用事件结构
字段 | 类型 | 描述 |
---|---|---|
uid |
uint32 | 唯一用户标识符 |
item_id |
uint32 | 唯一曲目标识符 |
timestamp |
uint32 | 以5秒为单位的时间戳 |
is_organic |
uint8 | 布尔标志(0/1),表示交互是否为有机(1)或算法推荐(0) |
统一事件结构
字段 | 类型 | 描述 |
---|---|---|
uid |
uint32 | 唯一用户标识符 |
item_id |
uint32 | 唯一曲目标识符 |
timestamp |
uint32 | 以5秒为单位的时间戳 |
is_organic |
uint8 | 布尔标志,表示有机交互 |
event_type |
enum | 事件类型:listen , like , dislike , unlike , undislike |
played_ratio_pct |
Optional[uint16] | 播放百分比(1-100),非收听事件为null |
track_length_seconds |
Optional[uint32] | 曲目总时长(秒),非收听事件为null |
顺序(聚合)格式
字段 | 类型 | 描述 |
---|---|---|
uid |
uint32 | 唯一用户标识符 |
item_ids |
List[uint32] | 交互曲目标识符的时序列表 |
timestamps |
List[uint32] | 对应交互时间戳 |
is_organic |
List[uint8] | 对应交互的有机标志 |
常见问题
- 测试项目是否出现在训练数据中?: 部分出现,部分不出现
- 测试用户是否出现在训练数据中?: 是,测试集中没有冷启动用户
- 音频嵌入如何生成?: 使用基于卷积神经网络的模型生成
is_organic
标志的含义?: 表示交互是通过有机发现(True)还是推荐驱动(False)- 哪些事件被视为推荐驱动?: 包括来自个性化音乐源和个性化播放列表的交互
- 什么是“收听”曲目?: 播放超过50%时长的曲目被视为“收听”

mstz/speeddating
Speed dating数据集来自OpenML,主要用于二分类任务,即判断两个人是否会约会。数据集的规模在1K到10K之间,包含多个特征,如性别、年龄、种族、兴趣等。
hugging_face 收录
Global Burden of Disease Study (GBD)
全球疾病负担研究(GBD)数据集提供了全球范围内疾病、伤害和风险因素的详细统计数据。该数据集包括了各种健康指标,如死亡率、发病率、伤残调整生命年(DALYs)等,涵盖了多个国家和地区。数据集还提供了不同年龄组、性别和时间段的详细分析。
ghdx.healthdata.org 收录
中国区域地面气象要素驱动数据集 v2.0(1951-2024)
中国区域地面气象要素驱动数据集(China Meteorological Forcing Data,以下简称 CMFD)是为支撑中国区域陆面、水文、生态等领域研究而研发的一套高精度、高分辨率、长时间序列数据产品。本页面发布的 CMFD 2.0 包含了近地面气温、气压、比湿、全风速、向下短波辐射通量、向下长波辐射通量、降水率等气象要素,时间分辨率为 3 小时,水平空间分辨率为 0.1°,时间长度为 74 年(1951~2024 年),覆盖了 70°E~140°E,15°N~55°N 空间范围内的陆地区域。CMFD 2.0 融合了欧洲中期天气预报中心 ERA5 再分析数据与气象台站观测数据,并在辐射、降水数据产品中集成了采用人工智能技术制作的 ISCCP-ITP-CNN 和 TPHiPr 数据产品,其数据精度较 CMFD 的上一代产品有显著提升。 CMFD 历经十余年的发展,其间发布了多个重要版本。2019 年发布的 CMFD 1.6 是完全采用传统数据融合技术制作的最后一个 CMFD 版本,而本次发布的 CMFD 2.0 则是 CMFD 转向人工智能技术制作的首个版本。此版本与 1.6 版具有相同的时空分辨率和基础变量集,但在其它诸多方面存在大幅改进。除集成了采用人工智能技术制作的辐射和降水数据外,在制作 CMFD 2.0 的过程中,研发团队尽可能采用单一来源的再分析数据作为输入并引入气象台站迁址信息,显著缓解了 CMFD 1.6 中因多源数据拼接和气象台站迁址而产生的虚假气候突变。同时,CMFD 2.0 数据的时间长度从 CMFD 1.6 的 40 年大幅扩展到了 74 年,并将继续向后延伸。CMFD 2.0 的网格空间范围虽然与 CMFD 1.6 相同,但其有效数据扩展到了中国之外,能够更好地支持跨境区域研究。为方便用户使用,CMFD 2.0 还在基础变量集之外提供了若干衍生变量,包括近地面相对湿度、雨雪分离降水产品等。此外,CMFD 2.0 摒弃了 CMFD 1.6 中通过 scale_factor 和 add_offset 参数将实型数据化为整型数据的压缩技术,转而直接将实型数据压缩存储于 NetCDF4 格式文件中,从而消除了用户使用数据时进行解压换算的困扰。 本数据集原定版本号为 1.7,但鉴于本数据集从输入数据到研制技术都较上一代数据产品有了大幅的改变,故将其版本号重新定义为 2.0。
国家青藏高原科学数据中心 收录
中国1km分辨率逐月降水量数据集(1901-2024)
该数据集为中国逐月降水量数据,空间分辨率为0.0083333°(约1km),时间为1901.1-2024.12。数据格式为NETCDF,即.nc格式。该数据集是根据CRU发布的全球0.5°气候数据集以及WorldClim发布的全球高分辨率气候数据集,通过Delta空间降尺度方案在中国降尺度生成的。并且,使用496个独立气象观测点数据进行验证,验证结果可信。本数据集包含的地理空间范围是全国主要陆地(包含港澳台地区),不含南海岛礁等区域。为了便于存储,数据均为int16型存于nc文件中,降水单位为0.1mm。 nc数据可使用ArcMAP软件打开制图; 并可用Matlab软件进行提取处理,Matlab发布了读入与存储nc文件的函数,读取函数为ncread,切换到nc文件存储文件夹,语句表达为:ncread (‘XXX.nc’,‘var’, [i j t],[leni lenj lent]),其中XXX.nc为文件名,为字符串需要’’;var是从XXX.nc中读取的变量名,为字符串需要’’;i、j、t分别为读取数据的起始行、列、时间,leni、lenj、lent i分别为在行、列、时间维度上读取的长度。这样,研究区内任何地区、任何时间段均可用此函数读取。Matlab的help里面有很多关于nc数据的命令,可查看。数据坐标系统建议使用WGS84。
国家青藏高原科学数据中心 收录
Wind Turbine Data
该数据集包含风力涡轮机的运行数据,包括风速、风向、发电量等参数。数据记录了多个风力涡轮机在不同时间点的运行状态,适用于风能研究和风力发电系统的优化分析。
www.kaggle.com 收录