five

laion/LAION-DISCO-12M

收藏
Hugging Face2024-11-14 更新2024-12-14 收录
下载链接:
https://hf-mirror.com/datasets/laion/LAION-DISCO-12M
下载链接
链接失效反馈
官方服务:
资源简介:
LAION-DISCO-12M数据集包含12M个YouTube音乐链接,这些链接是通过从初始艺术家列表开始,递归探索“粉丝可能也喜欢”部分中的艺术家来发现的。数据集中的每个歌曲或音乐视频都关联了YouTube URL,并收集了包括歌曲ID、标题、艺术家名称、专辑名称等在内的元数据。该数据集的创建受到了DISCO-10M的启发,并建议使用该数据集时引用DISCO-10M。

The LAION-DISCO-12M dataset contains 12M links to music on YouTube, inspired by the methodology of DISCO-10M. Starting from an initial seed list of artists, we can discover new artists by recursively exploring the artists listed in the Fans might also like section. For a given artist, we can extract their metadata, such as their name and number of subscribers, as well as a list of all of their songs and music videos. Each song or music video is associated with a YouTube URL. The collected metadata fields are: song_id, title, artist_names, artist_ids, album_name, album_id, isExplicit, views, duration. The authors compiled a larger seed list by considering the artists that appear on YouTube Music charts of top songs by country and genre playlists, resulting in more artists and songs discovered.
提供机构:
laion
搜集汇总
数据集介绍
main_image_url
构建方式
LAION-DISCO-12M数据集以YouTube音乐生态为背景,借鉴DISCO-10M的构建范式,通过递归探索艺术家关联图谱实现大规模数据采集。研究团队首先从YouTube Music的国家与流派热门歌曲榜单中遴选45,218位艺术家作为初始种子列表,相较于DISCO-10M仅18位艺术家的种子集,显著扩展了探索广度。随后,针对每位艺术家,系统化提取其元数据(如名称、订阅者数)及作品列表,并利用“粉丝可能还喜欢”模块递归挖掘关联艺术家,直至无法发现新节点。最终,该流程累计覆盖250,516位艺术家,收录12,648,485首歌曲的YouTube链接,每条记录包含song_id、title、artist_names、artist_ids、album_name、album_id、isExplicit、views、duration等结构化字段。
使用方法
使用该数据集时,用户可通过HuggingFace Datasets库直接加载,例如调用`load_dataset('laion/LAION-DISCO-12M')`获取训练分片。每条样本以字典形式提供,包含字符串、整数、布尔及序列类型字段,便于进行音乐推荐、艺术家相似性分析或元数据驱动的分类任务。由于数据仅包含YouTube链接而非原始音频,研究者需自行实现视频下载与音频提取流程,并遵守YouTube服务条款。建议结合DISCO-10M的预处理工具链,利用views和duration字段过滤低质量或非音乐内容,或基于artist_ids构建艺术家协同过滤模型。
背景与挑战
背景概述
在音乐信息检索与多模态学习领域,大规模、高质量的音乐数据集是驱动模型性能提升的关键基础。2023年,受DISCO-10M数据集的启发,LAION团队构建了LAION-DISCO-12M数据集,旨在通过更广泛的艺术家图谱探索,弥补现有数据集在覆盖范围与多样性上的不足。该数据集由LAION(Large-scale Artificial Intelligence Open Network)主导开发,核心研究问题在于如何利用YouTube Music平台的结构化推荐关系,系统性地挖掘海量音乐视频及其元数据。通过从45,218位种子艺术家出发,递归遍历“粉丝可能也喜欢”的关联图,最终收录了250,516位艺术家和超过1200万首歌曲,涵盖歌曲ID、标题、艺术家信息、专辑详情、观看次数及时长等字段。这一工作不仅扩展了DISCO-10M的规模,更为音乐生成、推荐系统及跨模态对齐研究提供了更丰富的训练资源,在学术界与工业界均引发了广泛关注。
当前挑战
LAION-DISCO-12M数据集面临的核心挑战首先源于其底层数据源的固有局限:YouTube平台上的音乐内容质量参差不齐,存在大量重复、低质量或版权存疑的视频,这给数据清洗与标注一致性带来了严峻考验。其次,在构建过程中,初始种子列表的选取直接影响艺术家图谱的探索深度——仅依赖18位种子艺术家只能发现约9万位艺术家,而扩大至4.5万位种子后虽显著提升了覆盖度,但图谱遍历的递归策略仍可能遗漏小众或非英语区域的音乐人,导致数据分布偏向主流文化。此外,元数据字段(如观看次数、时长等)的时效性与动态变化特性,使得数据集在静态发布后难以反映实时流行趋势,同时YouTube链接的失效风险也威胁着数据的长期可用性。这些挑战共同制约了数据集在跨领域泛化与长期研究中的可靠性。
常用场景
经典使用场景
LAION-DISCO-12M 数据集的核心价值在于为音乐信息检索与推荐系统研究提供了大规模、多模态的语料库。研究者可借助其包含的12M条YouTube音乐链接及丰富的元数据(如歌曲标题、艺术家信息、专辑详情、播放量、时长等),开展基于内容的音乐分类、艺术家相似度建模、播放量预测等经典任务。该数据集尤其适用于探索音乐图谱的递归扩展方法,通过种子艺术家列表的迭代挖掘,为无监督或弱监督下的音乐社群发现与风格迁移研究奠定了数据基础。
解决学术问题
该数据集有效解决了音乐领域大规模标注数据稀缺与艺术家图谱覆盖不足的学术难题。传统音乐数据集往往受限于人工标注成本与版权限制,而LAION-DISCO-12M通过递归爬取YouTube Music的‘粉丝可能还喜欢’推荐图,将艺术家覆盖范围从初始的4.5万提升至25万以上,歌曲规模突破1200万。这为音乐图谱的结构分析、长尾艺术家的冷启动推荐、以及跨语言/跨文化的音乐流行度演化研究提供了前所未有的实验平台,推动了音乐信息检索领域从有限标注向大规模弱监督学习的范式转变。
实际应用
在实际产业应用中,LAION-DISCO-12M 可直接赋能音乐流媒体平台的智能推荐系统。平台可利用其元数据训练歌曲嵌入模型,实现基于播放量、时长、显式内容标签的个性化排序;艺术家关联图谱的递归构建逻辑可迁移至‘相似艺人发现’功能,提升用户探索新音乐的体验。此外,数据集中包含的YouTube链接为音频特征提取提供了便利,支持音乐情感分析、自动歌单生成等落地场景,尤其适合中小型开发团队在版权合规前提下快速构建音乐知识库。
数据集最近研究
最新研究方向
在音乐信息检索与推荐系统领域,LAION-DISCO-12M数据集的出现标志着大规模多模态音乐数据资源的重要突破。该数据集通过创新的艺术家图谱递归探索方法,从初始种子列表出发,利用YouTube Music的“粉丝可能也喜欢”推荐机制,系统性地发掘关联艺术家及其音乐作品。与先前DISCO-10M仅基于18位种子艺术家、覆盖约9万艺术家和540万歌曲的规模相比,LAION-DISCO-12M通过整合YouTube Music全球及地区热门榜单中的45,218位种子艺术家,成功将探索范围扩展至25万艺术家和超过1260万首歌曲,显著提升了数据集的覆盖广度与领域代表性。这一前沿研究方向紧密关联当前音乐推荐系统对长尾内容挖掘、冷启动问题缓解以及跨文化音乐图谱构建的迫切需求,为训练更鲁棒的音频嵌入模型、推动音乐理解与生成任务提供了坚实基础,同时为研究音乐社交网络拓扑结构与用户行为模式开辟了新的可能性。
以上内容由遇见数据集搜集并总结生成
二维码
社区交流群
二维码
科研交流群
商业服务