phongdtd/youtube_casual_audio

--- multilinguality: vi: - 190K<n<200K source_datasets: - extended|youtube task_categories: - automatic-speech-recognition task_ids: [] Pretty_name: Youtube Casual Audio Annotations_creators: - crowdsourced Language_creators: - datlq Languages: - vi Licenses: - cc0-1.0 --- # Dataset Card for common_voice ## Table of Contents - [Dataset Description](#dataset-description) - [Dataset Summary](#dataset-summary) - [Supported Tasks and Leaderboards](#supported-tasks-and-leaderboards) - [Languages](#languages) - [Dataset Structure](#dataset-structure) - [Data Instances](#data-instances) - [Data Fields](#data-fields) - [Data Splits](#data-splits) - [Dataset Creation](#dataset-creation) - [Curation Rationale](#curation-rationale) - [Source Data](#source-data) - [Annotations](#annotations) - [Personal and Sensitive Information](#personal-and-sensitive-information) - [Considerations for Using the Data](#considerations-for-using-the-data) - [Social Impact of Dataset](#social-impact-of-dataset) - [Discussion of Biases](#discussion-of-biases) - [Other Known Limitations](#other-known-limitations) - [Additional Information](#additional-information) - [Dataset Curators](#dataset-curators) - [Licensing Information](#licensing-information) - [Citation Information](#citation-information) - [Contributions](#contributions) ## Dataset Description - **Homepage:** [Needs More Information] - **Repository:** [Needs More Information] - **Paper:** [Needs More Information] - **Leaderboard:** [Needs More Information] - **Point of Contact:** [Needs More Information] ### Dataset Summary [Needs More Information] ### Supported Tasks and Leaderboards [Needs More Information] ### Languages Vietnamese ## Dataset Structure ### Data Instances A typical data point comprises the path to the audio file, called path and its sentence. Additional fields include accent, age, client_id, up_votes down_votes, gender, locale and segment. ` { 'file_path': 'audio/_1OsFqkFI38_34.304_39.424.wav', 'script': 'Ik vind dat een dubieuze procedure.', 'audio': {'path': 'audio/_1OsFqkFI38_34.304_39.424.wav', 'array': array([-0.00048828, -0.00018311, -0.00137329, ..., 0.00079346, 0.00091553, 0.00085449], dtype=float32), 'sampling_rate': 16000} ` ### Data Fields file_path: The path to the audio file audio: A dictionary containing the path to the downloaded audio file, the decoded audio array, and the sampling rate. Note that when accessing the audio column: `dataset[0]["audio"]` the audio file is automatically decoded and resampled to `dataset.features["audio"].sampling_rate`. Decoding and resampling of a large number of audio files might take a significant amount of time. Thus it is important to first query the sample index before the `"audio"` column, *i.e.* `dataset[0]["audio"]` should **always** be preferred over `dataset["audio"][0]`. script: The sentence the user was prompted to speak ### Data Splits The speech material has been subdivided into portions for train, test, validated. The val, test, train are all data that has been reviewed, deemed of high quality and split into val, test and train. ## Dataset Creation ### Curation Rationale [Needs More Information] ### Source Data #### Initial Data Collection and Normalization [Needs More Information] #### Who are the source language producers? [Needs More Information] ### Annotations #### Annotation process [Needs More Information] #### Who are the annotators? [Needs More Information] ### Personal and Sensitive Information [Needs More Information] ## Considerations for Using the Data ### Social Impact of Dataset [Needs More Information] ### Discussion of Biases [More Information Needed] ### Other Known Limitations [More Information Needed] ## Additional Information ### Dataset Curators [More Information Needed] ### Licensing Information [Needs More Information] ### Citation Information [Needs More Information] ### Contributions Thanks to [@datlq](https://github.com/datlq98) for adding this dataset.--- 多语言性： 越南语： - 数据量介于19万至20万之间 源数据集： - 扩展|YouTube 任务类别： - 自动语音识别（automatic-speech-recognition） 任务标识：[] 友好名称：YouTube 日常语音（Youtube Casual Audio） 标注创建者： - 众包（crowdsourced） 语言数据创建者： - datlq 语言： - 越南语（Vietnamese） 许可协议： - CC0 1.0（cc0-1.0） --- # 通用语音（Common Voice）数据集卡片 ## 目录 - [数据集描述](#dataset-description) - [数据集摘要](#dataset-summary) - [支持任务与基准榜单](#supported-tasks-and-leaderboards) - [语言](#languages) - [数据集结构](#dataset-structure) - [数据实例](#data-instances) - [数据字段](#data-fields) - [数据划分](#data-splits) - [数据集构建](#dataset-creation) - [数据整理依据](#curation-rationale) - [源数据](#source-data) - [标注信息](#annotations) - [个人与敏感信息](#personal-and-sensitive-information) - [数据使用注意事项](#considerations-for-using-the-data) - [数据集的社会影响](#social-impact-of-dataset) - [偏见讨论](#discussion-of-biases) - [其他已知局限](#other-known-limitations) - [附加信息](#additional-information) - [数据集整理者](#dataset-curators) - [许可信息](#licensing-information) - [引用信息](#citation-information) - [贡献](#contributions) ## 数据集描述 - **主页：** [需补充更多信息] - **代码仓库：** [需补充更多信息] - **论文：** [需补充更多信息] - **基准榜单：** [需补充更多信息] - **联系人：** [需补充更多信息] ### 数据集摘要 [需补充更多信息] ### 支持任务与基准榜单 [需补充更多信息] ### 语言 越南语 ## 数据集结构 ### 数据实例 一条典型数据样本包含音频文件路径（命名为`path`）与对应的目标文本语句。额外字段还包括口音（accent）、年龄（age）、客户端ID（client_id）、点赞数（up_votes）、点踩数（down_votes）、性别（gender）、区域设置（locale）以及语音片段（segment）。 { 'file_path': 'audio/_1OsFqkFI38_34.304_39.424.wav', 'script': 'Ik vind dat een dubieuze procedure.', 'audio': {'path': 'audio/_1OsFqkFI38_34.304_39.424.wav', 'array': array([-0.00048828, -0.00018311, -0.00137329, ..., 0.00079346, 0.00091553, 0.00085449], dtype=float32), 'sampling_rate': 16000} } ### 数据字段 - `file_path`：音频文件的存储路径 - `audio`：包含音频文件路径、解码后的音频数组以及采样率的字典。请注意，当访问音频列时：`dataset[0]["audio"]` 会自动对音频文件进行解码并重采样至 `dataset.features["audio"].sampling_rate`。对大量音频文件进行解码和重采样可能会耗费大量时间，因此建议优先通过样本索引查询`"audio"`列，即**始终优先使用 `dataset[0]["audio"]`，而非 `dataset["audio"][0]`**。 - `script`：用户被提示朗读的文本语句 ### 数据划分 该语音数据集被划分为训练集、测试集与验证集。所有划分的数据均经过人工审核，被认定为高质量数据。 ## 数据集构建 ### 数据整理依据 [需补充更多信息] ### 源数据 #### 初始数据收集与归一化 [需补充更多信息] #### 源语言数据生产者是谁？ [需补充更多信息] ### 标注信息 #### 标注流程 [需补充更多信息] #### 标注者身份 [需补充更多信息] ### 个人与敏感信息 [需补充更多信息] ## 数据使用注意事项 ### 数据集的社会影响 [需补充更多信息] ### 偏见讨论 [需补充更多信息] ### 其他已知局限 [需补充更多信息] ## 附加信息 ### 数据集整理者 [需补充更多信息] ### 许可信息 [需补充更多信息] ### 引用信息 [需补充更多信息] ### 贡献 感谢 [@datlq](https://github.com/datlq98) 为本数据集提供的支持。

原始信息汇总

数据集卡片 for Youtube Casual Audio

数据集描述

数据集摘要

• 多语言性:
  • 越南语: 190K<n<200K
• 源数据集:
  • 扩展自 YouTube
• 任务类别:
  • 自动语音识别
• 任务ID: 无
• 美观名称: Youtube Casual Audio
• 注释创建者:
  • 众包
• 语言创建者:
  • datlq
• 语言:
  • 越南语
• 许可证:
  • cc0-1.0

支持的任务和排行榜

[需要更多信息]

语言

越南语

数据集结构

数据实例

一个典型的数据点包括音频文件的路径、脚本、音频字典（包含路径、解码的音频数组和采样率）。

json { "file_path": "audio/_1OsFqkFI38_34.304_39.424.wav", "script": "Ik vind dat een dubieuze procedure.", "audio": { "path": "audio/_1OsFqkFI38_34.304_39.424.wav", "array": array([-0.00048828, -0.00018311, -0.00137329, ..., 0.00079346, 0.00091553, 0.00085449], dtype=float32), "sampling_rate": 16000 } }

数据字段

• file_path: 音频文件的路径
• audio: 包含下载的音频文件路径、解码的音频数组和采样率的字典。注意，访问音频列时，音频文件会自动解码并重采样到 dataset.features["audio"].sampling_rate。解码和重采样大量音频文件可能需要大量时间。因此，应先查询样本索引，再访问 "audio" 列，即 dataset[0]["audio"] 应始终优先于 dataset["audio"][0]。
• script: 用户被提示说的句子

数据分割

语音材料已被细分为训练、测试、验证部分。验证、测试、训练数据均已审核，被认为质量高并分割为验证、测试和训练。

数据集创建

策划理由

[需要更多信息]

源数据

初始数据收集和规范化

[需要更多信息]

源语言生产者是谁？

[需要更多信息]

注释

注释过程

[需要更多信息]

注释者是谁？

[需要更多信息]

个人和敏感信息

[需要更多信息]

使用数据时的考虑

数据集的社会影响

[需要更多信息]

偏见的讨论

[需要更多信息]

其他已知限制

[需要更多信息]

附加信息

数据集策展人

[需要更多信息]

许可信息

[需要更多信息]

引用信息

[需要更多信息]

贡献

感谢 @datlq 添加此数据集。

搜集汇总

数据集介绍

构建方式

在语音识别研究领域，构建高质量数据集是推动技术发展的基石。phongdtd/youtube_casual_audio数据集通过众包方式精心构建，其原始音频素材来源于YouTube平台的扩展资源，涵盖了越南语的自然语音。数据采集后，经过细致的标注流程，每条音频均配有对应的文本脚本，并依据语音质量进行筛选与划分，最终形成训练、验证及测试三个子集，确保了数据在模型开发中的有效利用。

特点

该数据集以越南语为核心，规模介于19万至20万条样本之间，呈现出丰富的语音多样性。每条数据实例不仅包含音频文件路径及原始波形数组，还整合了说话者的口音、年龄、性别等多维度元数据，为语音模型的细粒度分析提供了可能。音频采样率统一为16kHz，符合主流语音处理标准，而其宽松的CC0-1.0许可证则促进了学术与工业界的无障碍使用。

使用方法

在语音识别任务中，该数据集可直接应用于模型的训练与评估。使用者可通过HuggingFace数据集库便捷加载，利用`audio`字段获取解码后的音频数组及采样率，同时结合`script`字段进行文本对齐。为提升处理效率，建议在访问音频列前优先索引样本，例如采用`dataset[0]["audio"]`而非`dataset["audio"][0]`，以避免大规模音频解码带来的计算开销。数据已预设分割，便于研究者直接投入跨口音、跨年龄的语音识别系统开发。

背景与挑战

背景概述

在语音识别技术迅速发展的背景下，多语言语音数据的稀缺性成为制约模型泛化能力的关键瓶颈。phongdtd/youtube_casual_audio数据集由研究人员datlq于近年构建，专注于越南语这一资源相对有限的语言，旨在通过从YouTube平台采集约19万至20万条日常音频片段，为自动语音识别任务提供大规模、真实场景的语音语料。该数据集的创建响应了语音技术领域对多样化、非结构化语音资源的需求，其采用CC0-1.0许可协议，促进了开源社区的协作与创新，对提升低资源语言语音识别模型的鲁棒性与实用性具有显著意义。

当前挑战

该数据集致力于解决越南语自动语音识别中因数据匮乏导致的模型性能瓶颈，其核心挑战在于如何从非约束性音频源中提取高质量、高准确度的语音转录。构建过程中，挑战主要体现在数据采集与标注环节：首先，YouTube音频的多样性引入了背景噪声、口音变异和语速差异，增加了语音清洗与归一化的复杂度；其次，众包标注机制可能引发标注一致性与准确性问题，需设计严谨的质量控制流程以确保文本与音频的对齐可靠性。此外，数据隐私与伦理考量亦要求对原始音频进行敏感信息过滤，这进一步加大了数据处理的难度。

常用场景

经典使用场景

在越南语语音识别领域，该数据集作为一项关键资源，其经典使用场景聚焦于自动语音识别模型的训练与评估。数据集收录了约19万至20万条越南语日常音频片段，这些片段源自YouTube平台，涵盖了自然对话语境，为模型提供了丰富的声学特征和语言模式。研究者通常利用这些数据构建端到端的语音识别系统，通过监督学习优化声学模型与语言模型的联合性能，从而在嘈杂或非正式的语音环境中实现高精度的转录。

解决学术问题

该数据集有效解决了越南语语音识别研究中数据稀缺与多样性不足的学术难题。传统上，越南语语音资源有限，且多集中于正式或受限领域，导致模型在真实世界场景中泛化能力较弱。通过提供大规模、众包标注的日常音频，该数据集支持了跨口音、年龄和性别等变量的鲁棒性研究，促进了低资源语言语音技术的公平发展，并为多语言语音处理领域的理论探索提供了实证基础。

衍生相关工作

围绕该数据集，已衍生出多项经典研究工作，主要集中在低资源语音识别与跨领域适应领域。例如，研究者利用其构建了基于Transformer的端到端越南语识别模型，显著提升了非正式语音的识别准确率。同时，该数据集常与Common Voice等国际语料库结合，用于多语言预训练模型的微调实验，推动了如XLSR等跨语言表示学习框架的发展，为全球语音技术生态注入了多样性活力。