five

Yambda-5B|音乐流媒体数据集|推荐系统数据集

收藏
arXiv2025-06-02 更新2025-05-30 收录
音乐流媒体
推荐系统
下载链接:
https://huggingface.co/datasets/yandex/yambda
下载链接
链接失效反馈
资源简介:
Yambda-5B是一个大规模的多模态数据集,来自Yandex.Music流媒体平台,包含1百万用户在939万首曲目上的47.9亿次用户-项目交互。数据集包括两种主要类型的交互:隐式反馈(收听事件)和显式反馈(喜欢、不喜欢、取消喜欢和取消不喜欢)。此外,我们还提供了大多数曲目的音频嵌入,这些嵌入由一个在音频频谱图上训练的卷积神经网络生成。Yambda-5B的一个关键区别特征是包含is_organic标志,该标志将有机用户行为与推荐驱动事件分开。这种区分对于开发和评估机器学习算法至关重要,因为Yandex.Music依赖于推荐系统为用户个性化选择曲目。为了支持严格的基准测试,我们引入了一种基于全局时间分割的评价协议,使推荐算法能够在接近现实世界使用条件的条件下进行评估。我们报告了使用各种评价指标的典型基线(ItemKNN,iALS)和先进模型(SANSA,SASRec)的基准结果。通过将Yambda-5B发布到社区,我们的目标是提供一个易于访问的工业规模资源,以推进研究、促进创新并促进推荐系统中的可重复结果。
提供机构:
Yandex
创建时间:
2025-05-28
原始信息汇总

Yambda-5B数据集概述

基本信息

  • 许可证: Apache-2.0
  • 标签: recsys, retrieval, dataset
  • 数据集名称: Yambda-5B
  • 规模: 1B<n<10B

数据集配置

  • flat-50m: 包含likes、listens、unlikes、multi_event、dislikes、undislikes的parquet文件
  • flat-500m: 包含likes、listens、unlikes、multi_event、dislikes、undislikes的parquet文件
  • flat-5b: 包含likes、listens、unlikes、multi_event、dislikes、undislikes的parquet文件
  • sequential-50m: 包含likes、listens、unlikes、multi_event、dislikes、undislikes的parquet文件
  • sequential-500m: 包含likes、listens、unlikes、multi_event、dislikes、undislikes的parquet文件
  • sequential-5b: 包含likes、listens、unlikes、multi_event、dislikes、undislikes的parquet文件

关键特性

  • 4.79B用户-音乐交互(包括收听、喜欢、不喜欢、取消喜欢、取消不喜欢)
  • 带有全局时间顺序的时间戳
  • 7.72M条目的音频嵌入
  • 有机和推荐驱动的交互
  • 多种数据集规模(50M、500M、5B交互)
  • 标准化评估协议和基准测试

数据集统计

数据集 用户数量 项目数量 收听次数 喜欢次数 不喜欢次数
Yambda-50M 10,000 934,057 46,467,212 881,456 107,776
Yambda-500M 100,000 3,004,578 466,512,103 9,033,960 1,128,113
Yambda-5B 1,000,000 9,390,623 4,649,567,411 89,334,605 11,579,143

数据格式

文件描述

  • listens.parquet: 用户收听事件,包含播放详情
  • likes.parquet: 用户喜欢行为
  • dislikes.parquet: 用户不喜欢行为
  • undislikes.parquet: 用户取消不喜欢行为
  • unlikes.parquet: 用户取消喜欢行为
  • embeddings.parquet: 曲目音频嵌入

通用事件结构

字段 类型 描述
uid uint32 唯一用户标识符
item_id uint32 唯一曲目标识符
timestamp uint32 以5秒为单位的时间戳
is_organic uint8 布尔标志(0/1),表示交互是否为有机(1)或算法推荐(0)

统一事件结构

字段 类型 描述
uid uint32 唯一用户标识符
item_id uint32 唯一曲目标识符
timestamp uint32 以5秒为单位的时间戳
is_organic uint8 布尔标志,表示有机交互
event_type enum 事件类型:listen, like, dislike, unlike, undislike
played_ratio_pct Optional[uint16] 播放百分比(1-100),非收听事件为null
track_length_seconds Optional[uint32] 曲目总时长(秒),非收听事件为null

顺序(聚合)格式

字段 类型 描述
uid uint32 唯一用户标识符
item_ids List[uint32] 交互曲目标识符的时序列表
timestamps List[uint32] 对应交互时间戳
is_organic List[uint8] 对应交互的有机标志

常见问题

  • 测试项目是否出现在训练数据中?: 部分出现,部分不出现
  • 测试用户是否出现在训练数据中?: 是,测试集中没有冷启动用户
  • 音频嵌入如何生成?: 使用基于卷积神经网络的模型生成
  • is_organic标志的含义?: 表示交互是通过有机发现(True)还是推荐驱动(False)
  • 哪些事件被视为推荐驱动?: 包括来自个性化音乐源和个性化播放列表的交互
  • 什么是“收听”曲目?: 播放超过50%时长的曲目被视为“收听”
AI搜集汇总
数据集介绍
main_image_url
构建方式
Yambda-5B数据集构建于Yandex.Music音乐流媒体平台的用户交互数据,涵盖了11个月内100万用户与939万曲目间的47.9亿次交互行为。数据采集采用严格的匿名化处理,通过定义用户活跃度阈值(前10个月至少10次交互)进行抽样,并采用5秒精度的时间戳标准化处理。数据集创新性地引入is_organic标志位,区分用户自主行为与推荐系统驱动的交互,同时提供基于卷积神经网络生成的音频嵌入特征,支持多模态研究。数据以Apache Parquet格式存储,包含平面表和时序聚合两种组织形式,确保分布式计算框架的兼容性。
特点
该数据集的核心价值体现在其工业级规模与多维特征集成。作为当前最大的开放音乐交互数据集之一,其47.9亿交互量级远超传统基准(如MovieLens的3200万次)。独特的事件类型划分(播放、喜欢/不喜欢及其撤销行为)与有机行为标注,为研究推荐系统反馈环路提供了细粒度分析基础。音频嵌入特征通过对比学习生成,支持内容感知的推荐算法开发。全局时间分割评估协议(训练300天/测试1天+30分钟缓冲)严格模拟工业场景,有效防止时序数据泄露。数据分布呈现典型的长尾特性,头部曲目与稀疏交互的尾部形成鲜明对比,真实反映了音乐流媒体平台的物品流行度分布。
使用方法
研究者可通过Hugging Face平台获取完整数据集及其两个子采样版本(Yambda-500M/Yambda-50M)。推荐采用Global Temporal Split协议进行模型验证,重点关注NDCG@K和Recall@K等排序指标。对于序列建模任务,建议使用时序聚合格式数据,利用多事件类型联合文件(multi_event.parquet)构建用户行为序列。音频嵌入特征可与交互数据联合训练,开发跨模态推荐模型。基准代码库提供ItemKNN、iALS等传统算法与SASRec等序列模型的实现,支持OPTUNA框架的超参数优化。特别注意区分有机行为与推荐驱动事件,可开展推荐系统偏差影响等前沿研究。
背景与挑战
背景概述
Yambda-5B数据集由Yandex团队于2025年发布,是一个专注于音乐推荐系统研究的大规模多模态数据集。该数据集源自Yandex.Music流媒体平台,包含47.9亿条用户-项目交互记录,覆盖100万用户和939万首曲目。其核心研究问题在于解决音乐推荐领域中的数据稀疏性和算法可扩展性挑战,通过提供有机行为与推荐驱动行为的区分标记(is_organic),为研究推荐系统的反馈循环效应提供了独特视角。该数据集以其工业级规模和精细的时间戳设计(5秒精度),显著推进了序列推荐和跨模态推荐的研究边界,成为连接学术研究与工业实践的重要桥梁。
当前挑战
Yambda-5B面临的挑战主要体现在两个方面:领域问题方面,音乐推荐系统需解决极端数据稀疏性(长尾曲目覆盖)与动态兴趣演化的平衡,同时需区分算法推荐对用户行为的潜在偏置影响;构建过程方面,数据匿名化处理导致部分元信息损失,多模态特征(音频嵌入与行为序列)的对齐需要复杂预处理,而维持47.9亿交互事件的时间一致性则对分布式存储架构提出苛刻要求。此外,全球时间分割评估协议的设计需规避数据泄漏风险,这对基准测试的可靠性构成显著挑战。
常用场景
经典使用场景
Yambda-5B数据集在音乐推荐系统研究中扮演着重要角色,尤其在处理大规模用户-项目交互数据时表现出色。该数据集通过提供丰富的隐式和显式反馈,包括用户收听事件、喜欢、不喜欢等行为,为研究者提供了一个真实的工业级数据环境。其独特的is_organic标志进一步区分了用户自发行为与推荐系统驱动的行为,使得研究能够更精确地分析推荐算法的影响。
实际应用
在实际应用中,Yambda-5B数据集被广泛用于音乐流媒体平台的推荐系统优化。例如,平台可以利用该数据集中的用户行为数据训练个性化推荐模型,提升用户体验和参与度。此外,数据集中的有机行为与推荐行为区分有助于平台评估推荐算法的实际影响,从而优化算法策略。
衍生相关工作
Yambda-5B的发布催生了一系列相关研究,特别是在大规模序列推荐和多模态推荐领域。例如,基于该数据集的SANSA和SASRec等模型在序列推荐任务中表现出色。此外,研究者还利用该数据集探索了音频嵌入与用户行为的关联,推动了多模态推荐算法的发展。
以上内容由AI搜集并总结生成
用户留言
有没有相关的论文或文献参考?
这个数据集是基于什么背景创建的?
数据集的作者是谁?
能帮我联系到这个数据集的作者吗?
这个数据集如何下载?
点击留言
数据主题
具身智能
数据集  4099个
机构  8个
大模型
数据集  439个
机构  10个
无人机
数据集  37个
机构  6个
指令微调
数据集  36个
机构  6个
蛋白质结构
数据集  50个
机构  8个
空间智能
数据集  21个
机构  5个
5,000+
优质数据集
54 个
任务类型
进入经典数据集
热门数据集

mstz/speeddating

Speed dating数据集来自OpenML,主要用于二分类任务,即判断两个人是否会约会。数据集的规模在1K到10K之间,包含多个特征,如性别、年龄、种族、兴趣等。

hugging_face 收录

Global Burden of Disease Study (GBD)

全球疾病负担研究(GBD)数据集提供了全球范围内疾病、伤害和风险因素的详细统计数据。该数据集包括了各种健康指标,如死亡率、发病率、伤残调整生命年(DALYs)等,涵盖了多个国家和地区。数据集还提供了不同年龄组、性别和时间段的详细分析。

ghdx.healthdata.org 收录

中国区域地面气象要素驱动数据集 v2.0(1951-2024)

中国区域地面气象要素驱动数据集(China Meteorological Forcing Data,以下简称 CMFD)是为支撑中国区域陆面、水文、生态等领域研究而研发的一套高精度、高分辨率、长时间序列数据产品。本页面发布的 CMFD 2.0 包含了近地面气温、气压、比湿、全风速、向下短波辐射通量、向下长波辐射通量、降水率等气象要素,时间分辨率为 3 小时,水平空间分辨率为 0.1°,时间长度为 74 年(1951~2024 年),覆盖了 70°E~140°E,15°N~55°N 空间范围内的陆地区域。CMFD 2.0 融合了欧洲中期天气预报中心 ERA5 再分析数据与气象台站观测数据,并在辐射、降水数据产品中集成了采用人工智能技术制作的 ISCCP-ITP-CNN 和 TPHiPr 数据产品,其数据精度较 CMFD 的上一代产品有显著提升。 CMFD 历经十余年的发展,其间发布了多个重要版本。2019 年发布的 CMFD 1.6 是完全采用传统数据融合技术制作的最后一个 CMFD 版本,而本次发布的 CMFD 2.0 则是 CMFD 转向人工智能技术制作的首个版本。此版本与 1.6 版具有相同的时空分辨率和基础变量集,但在其它诸多方面存在大幅改进。除集成了采用人工智能技术制作的辐射和降水数据外,在制作 CMFD 2.0 的过程中,研发团队尽可能采用单一来源的再分析数据作为输入并引入气象台站迁址信息,显著缓解了 CMFD 1.6 中因多源数据拼接和气象台站迁址而产生的虚假气候突变。同时,CMFD 2.0 数据的时间长度从 CMFD 1.6 的 40 年大幅扩展到了 74 年,并将继续向后延伸。CMFD 2.0 的网格空间范围虽然与 CMFD 1.6 相同,但其有效数据扩展到了中国之外,能够更好地支持跨境区域研究。为方便用户使用,CMFD 2.0 还在基础变量集之外提供了若干衍生变量,包括近地面相对湿度、雨雪分离降水产品等。此外,CMFD 2.0 摒弃了 CMFD 1.6 中通过 scale_factor 和 add_offset 参数将实型数据化为整型数据的压缩技术,转而直接将实型数据压缩存储于 NetCDF4 格式文件中,从而消除了用户使用数据时进行解压换算的困扰。 本数据集原定版本号为 1.7,但鉴于本数据集从输入数据到研制技术都较上一代数据产品有了大幅的改变,故将其版本号重新定义为 2.0。

国家青藏高原科学数据中心 收录

中国1km分辨率逐月降水量数据集(1901-2024)

该数据集为中国逐月降水量数据,空间分辨率为0.0083333°(约1km),时间为1901.1-2024.12。数据格式为NETCDF,即.nc格式。该数据集是根据CRU发布的全球0.5°气候数据集以及WorldClim发布的全球高分辨率气候数据集,通过Delta空间降尺度方案在中国降尺度生成的。并且,使用496个独立气象观测点数据进行验证,验证结果可信。本数据集包含的地理空间范围是全国主要陆地(包含港澳台地区),不含南海岛礁等区域。为了便于存储,数据均为int16型存于nc文件中,降水单位为0.1mm。 nc数据可使用ArcMAP软件打开制图; 并可用Matlab软件进行提取处理,Matlab发布了读入与存储nc文件的函数,读取函数为ncread,切换到nc文件存储文件夹,语句表达为:ncread (‘XXX.nc’,‘var’, [i j t],[leni lenj lent]),其中XXX.nc为文件名,为字符串需要’’;var是从XXX.nc中读取的变量名,为字符串需要’’;i、j、t分别为读取数据的起始行、列、时间,leni、lenj、lent i分别为在行、列、时间维度上读取的长度。这样,研究区内任何地区、任何时间段均可用此函数读取。Matlab的help里面有很多关于nc数据的命令,可查看。数据坐标系统建议使用WGS84。

国家青藏高原科学数据中心 收录

Wind Turbine Data

该数据集包含风力涡轮机的运行数据,包括风速、风向、发电量等参数。数据记录了多个风力涡轮机在不同时间点的运行状态,适用于风能研究和风力发电系统的优化分析。

www.kaggle.com 收录