five

bond005/sberdevices_golos_10h_crowd

收藏
Hugging Face2022-10-27 更新2024-03-04 收录
下载链接:
https://hf-mirror.com/datasets/bond005/sberdevices_golos_10h_crowd
下载链接
链接失效反馈
官方服务:
资源简介:
Sberdevices Golos是一个包含约1200小时16kHz俄语语音的语料库,由SberDevices团队准备,数据来源于众包平台,并经过手动注释。数据集分为训练和测试子集,训练子集包括约1000小时的语音数据。为了实验方便,作者还提供了更短的训练子集:100小时、10小时、1小时和10分钟。该数据集是Golos的简化版本,仅包含众包领域的语音数据,不包括远场领域的语音。验证集基于1小时的训练子集构建,训练集对应于10小时的训练子集,不包括1小时训练子集中的语音,测试集是完整的原始测试集。

Sberdevices Golos is a corpus containing approximately 1,200 hours of 16 kHz Russian speech, prepared by the SberDevices team, sourced from crowdsourcing platforms and manually annotated. The dataset is divided into training and test subsets, where the training subset includes roughly 1,000 hours of speech data. For experimental convenience, the authors also provide scaled-down training subsets of 100 hours, 10 hours, 1 hour, and 10 minutes respectively. This dataset is a simplified variant of the original Golos corpus, which only encompasses speech data from the crowdsourcing domain and excludes far-field speech. The validation set is constructed based on the 1-hour training subset, while the training set corresponds to the 10-hour training subset with speech content from the 1-hour training subset excluded, and the test set is the complete original test set.
提供机构:
bond005
原始信息汇总

数据集概述

数据集名称

  • 名称: Sberdevices Golos
  • 别名: sberdevices_golos_10h_crowd

数据集详情

  • 语言: 俄语 (ru)
  • 许可证: 其他
  • 多语言性: 单语
  • 大小: 10K<n<100k
  • 任务类别:
    • 自动语音识别
    • 音频分类
  • 源数据集: 扩展
  • 论文代码ID: golos

数据集描述

  • 摘要: Sberdevices Golos是一个包含约1200小时16kHz俄语语音的数据集,来自人群(阅读语音)和远场(与智能设备通信)领域。数据来源于众包平台,并经过手动标注。
  • 结构: 数据集分为训练和测试子集。训练子集约1000小时,还包括100小时、10小时、1小时和10分钟的训练子集。当前数据集仅包含人群领域数据,不包含远场数据。
  • 实例结构: 每个数据点包含音频数据及其转录文本。
  • 数据分割: 训练集对应10小时训练子集,验证集基于1小时训练子集,测试集为完整原始测试集。

使用考虑

  • 个人和敏感信息: 数据集包含捐赠语音的个人,使用时不得尝试确定说话者身份。

创建信息

  • 创建者: Alexander Denisenko, Angelina Kovalenko, Fedor Minkin, Nikolay Karpov
  • 许可证: 公共许可证,需遵守特定条件和归属要求
  • 引用信息: 请参考提供的引用格式进行引用。

贡献者

搜集汇总
数据集介绍
main_image_url
构建方式
在语音识别研究领域,高质量标注语料库的构建是推动技术进步的关键基石。bond005/sberdevices_golos_10h_crowd数据集源自SberDevices团队创建的Golos语料库,该原始语料包含约1200小时16kHz采样率的俄语语音,涵盖众包朗读与远场交互两大领域。本数据集作为其简化版本,专为有限数据场景设计:仅保留众包领域语音,剔除远场数据;训练集取自原始10小时子集并排除1小时子集内容,验证集基于1小时子集构建,测试集则沿用完整的原始测试划分。所有音频均通过众包平台采集,并经由人工专家进行精确标注,最终形成约8.9小时训练集、0.9小时验证集与11.2小时测试集的规模配置。
特点
该数据集的核心特点在于其精炼的结构与明确的适用边界。首先,它聚焦于单一众包朗读领域,避免了多领域混合带来的声学特征异质性,有利于模型在特定场景下的稳定训练与评估。其次,数据划分策略极具匠心:训练集与验证集无重叠,确保评估的公正性;验证集与测试集分别对应不同时长子集,为研究数据量与模型性能的关联提供了基准。此外,每条数据实例包含完整的音频波形数组(16kHz采样率)及其对应的文本转录,不附带说话人身份等敏感信息,既满足隐私保护要求,又保留了语音识别任务的核心要素。这种简洁而严谨的格式设计,使其成为俄语ASR入门研究与基准测试的理想选择。
使用方法
使用该数据集进行自动语音识别(ASR)模型训练时,推荐通过Hugging Face Datasets库加载。用户可直接调用`load_dataset('bond005/sberdevices_golos_10h_crowd')`获取数据,其中每个样本的`audio`字段为包含路径、波形数组及采样率的字典,而`transcription`字段提供对应文本。需注意,访问音频列时应优先使用索引方式(如`dataset[0]['audio']`)以避免大规模解码耗时。模型评估可参照Hugging Face Speech Bench排行榜,以词错误率(WER)为核心指标。开发者亦可基于此数据集进行数据增强、迁移学习或预训练模型微调,其适中的规模既适合快速迭代,又能保证实验的统计可靠性。
背景与挑战
背景概述
在自动语音识别(ASR)领域,俄语作为一种形态复杂、资源相对稀缺的语言,长期面临高质量标注语料库匮乏的困境。2021年,由SberDevices团队的Alexander Denisenko、Angelina Kovalenko、Fedor Minkin及Nikolay Karpov等人构建的Golos语料库应运而生,旨在填补这一空白。该数据集包含约1200小时的16kHz俄语语音,涵盖众包朗读与远场交互两大领域,并经由人工精细标注。bond005/sberdevices_golos_10h_crowd作为其简化版本,专注于众包朗读领域,剔除了远场噪声干扰,为研究者提供了更易入门的10小时训练子集与完整测试集,大幅降低了俄语ASR研究的实验门槛,推动了该语言在语音识别技术上的进展。
当前挑战
该数据集虽为俄语ASR研究提供了宝贵资源,但仍面临多重挑战。首先,在领域问题层面,俄语复杂的词形变化与同音异形现象对声学模型与语言模型的联合优化提出了极高要求,仅依赖10小时训练数据难以覆盖丰富的语音变体,导致词错误率(WER)居高不下。其次,在构建过程中,众包平台的录音质量参差不齐,背景噪声与口音差异增加了标注难度;同时,人工标注虽保证了精度,但耗时且成本高昂,限制了数据规模的扩展。此外,数据集仅包含单通道16kHz音频,缺乏多通道或高采样率配置,难以适应复杂声学环境下的前沿研究需求。
常用场景
经典使用场景
在自动语音识别(ASR)领域,该数据集作为俄语朗读语音的标准化基准,广泛应用于端到端声学模型的训练与评估。研究者常利用其10小时的紧凑训练集,在资源受限条件下验证模型收敛效率与泛化能力,并通过其完整的测试集(约11.2小时)进行跨模型性能对比。其精心划分的验证集(0.9小时)为超参数调优提供了可靠依据,尤其适合探索基于Transformer或Conformer架构的轻量化语音识别系统。
解决学术问题
该数据集填补了俄语朗读语音公开基准的稀缺性,解决了非英语语言ASR研究中标注数据不足、领域覆盖单一等问题。通过提供经人工精校的转录文本与标准化16kHz音频,它使得学术研究能够聚焦于俄语特有的音系特征(如重音模式、清浊辅音对立)对识别精度的影响。此外,其简化的单领域设计(仅含众包朗读语音)有效隔离了远场噪声干扰,为分析语速、发音清晰度等声学变量对WER的贡献提供了纯净的实验平台。
衍生相关工作
该数据集衍生了一系列俄语语音研究的经典工作,包括基于wav2vec 2.0的预训练模型(如RuBERT-wav2vec)在俄语ASR任务上的微调方案,以及跨语言迁移学习中利用Golos作为目标域数据的对比实验。此外,研究者提出了针对低资源场景的噪声增强策略(如SpecAugment)和知识蒸馏框架,显著降低了10小时子集上的词错误率。在语音评测领域,该数据集被用作基线与后续发布的Golos Farfield版本进行领域适应性的系统对比,推动了多条件声学建模的理论发展。
以上内容由遇见数据集搜集并总结生成
二维码
社区交流群
二维码
科研交流群
商业服务