five

Chijioke-Mgbahurike/spot_data_women

收藏
Hugging Face2024-05-07 更新2024-06-12 收录
下载链接:
https://hf-mirror.com/datasets/Chijioke-Mgbahurike/spot_data_women
下载链接
链接失效反馈
官方服务:
资源简介:
该数据集包含音频数据及其相关特征,如转录文本、注释者ID、文件名、说话者数量、方言和口音信息、性别信息等。数据集分为训练集,包含749个样本,总大小为2058469415.1994083字节。

该数据集包含音频数据及其相关特征,如转录文本、注释者ID、文件名、说话者数量、方言和口音信息、性别信息等。数据集分为训练集,包含749个样本,总大小为2058469415.1994083字节。
提供机构:
Chijioke-Mgbahurike
原始信息汇总

数据集概述

数据集特征

  • audio: 音频数据,采样率为16000。
  • Unnamed: 0: 整数类型。
  • transcription: 字符串类型。
  • annotator_id: 浮点数类型。
  • filename: 字符串类型。
  • num_speakers: 浮点数类型。
  • aave: 浮点数类型。
  • aave_speaker_count: 浮点数类型。
  • chicano_english: 浮点数类型。
  • ce_speaker_count: 浮点数类型。
  • spanglish: 浮点数类型。
  • spanglish_speaker_count: 浮点数类型。
  • sae: 浮点数类型。
  • sae_speaker_count: 浮点数类型。
  • codeswitching: 浮点数类型。
  • other_dialect_accent: 浮点数类型。
  • women: 浮点数类型。
  • women_speaker_count: 浮点数类型。
  • men: 浮点数类型。
  • men_speaker_count: 浮点数类型。
  • demographic_info_correct: 浮点数类型。
  • demographic_group: 字符串类型。
  • input_values: 序列类型,数据类型为float32。
  • input_length: 浮点数类型。
  • labels: 序列类型,数据类型为int64。

数据集划分

  • train: 训练集,包含749个样本,数据大小为2058469415.1994083字节。

数据集大小

  • 下载大小: 2243913756字节。
  • 数据集大小: 2058469415.1994083字节。
搜集汇总
数据集介绍
main_image_url
构建方式
在语音识别与方言研究交叉领域,Chijioke-Mgbahurike/spot_data_women数据集应运而生,专为捕捉女性话语中的语言变体特征而设计。该数据集以16kHz采样率的音频为核心,收集了749条训练样本,每条样本均标注了转录文本、说话人数量及性别分布。构建过程中,数据集引入了多维度的社会语言学标签,包括非裔美国人英语(AAVE)、奇卡诺英语、西班牙语混合语(Spanglish)及标准美式英语(SAE)等方言变体,并统计了每种变体的说话人计数。此外,通过demographic_info_correct字段验证人口统计信息的准确性,最终以demographic_group字段整合为完整的人口分组标签,形成层次化标注体系。
特点
该数据集的核心特色在于其精细化的方言与性别交叉标注架构。除了基础的音频与转录字段,它创新性地将女性说话人数量(women_speaker_count)与男性说话人数量(men_speaker_count)分离统计,并与AAVE、Spanglish等五种方言变体进行关联,使得研究者能够精准分析不同方言在性别维度上的分布差异。数据集还包含codeswitching(语码转换)指标,为多语言混合语境研究提供量化依据。此外,input_values与labels序列字段的加入,支持直接用于深度学习模型的预训练输入与标签对齐,而input_length字段则便于批次处理时的长度归一化,显著提升了模型训练的便捷性。
使用方法
该数据集适用于自动语音识别(ASR)与方言识别模型的训练与评估。用户可通过HuggingFace Datasets库加载默认配置,直接获取包含音频数组、转录文本及所有标注字段的字典对象。对于语音识别任务,可将audio字段与transcription字段配对作为输入-标签对;对于方言分类任务,则可利用aave、chicano_english等二元字段作为多标签目标。推荐采用16kHz的音频重采样以匹配数据集规格,并利用input_length字段进行动态批处理填充。此外,labels序列字段已预计算为整数编码,可直接用于CTC(连接主义时序分类)损失函数的计算,简化了端到端语音识别系统的开发流程。
背景与挑战
背景概述
在语音识别与方言分类研究领域,数据集的多样性与代表性是推动技术公平性和鲁棒性的关键。由Chijioke-Mgbahurike等人创建的spot_data_women数据集,聚焦于女性说话者的语音数据,特别关注非裔美国人英语(AAVE)、奇卡诺英语、西班牙英语及标准美式英语(SAE)等多种方言与语码转换现象。该数据集于近期发布,包含749条训练样本,每条样本均标注了说话者性别、方言类型、说话者数量及人口统计信息正确性等细粒度元数据。其核心研究问题在于探索如何通过高质量、多方言的女性语音数据,提升语音系统对边缘化群体的识别能力,从而缓解主流语音技术中存在的性别与方言偏见。该数据集的出现,为语音公平性研究提供了宝贵的资源,对推动包容性人工智能发展具有重要影响。
当前挑战
该数据集所面临的挑战主要从两个维度展开。首先,在领域问题层面,语音识别系统长期面临方言与性别偏见,传统数据集多偏向标准美式英语和男性说话者,导致AAVE、西班牙英语等非标准方言的识别准确率显著偏低。spot_data_women虽聚焦女性群体,但如何平衡各方言样本数量(如AAVE与西班牙英语的标注比例差异)并确保模型泛化能力,仍是核心难题。其次,在构建过程中,数据采集与标注面临多重困难:语音样本需在自然对话环境中获取以反映真实口音,但标注者需准确识别细微的方言特征(如语码转换边界),且人口统计信息的正确性依赖人工校验,容易引入主观偏差。此外,样本量仅749条,规模有限,可能限制深度学习模型的表现,亟需通过数据增强或迁移学习策略弥补不足。
常用场景
经典使用场景
在语音与语言技术领域,该数据集聚焦于女性说话者的多方言、多口音语音数据,为构建鲁棒的语音识别与方言分类系统提供了宝贵的资源。其经典使用场景包括训练和评估能够识别非裔美国人英语(AAVE)、奇卡诺英语、西班牙语混合语(Spanglish)及标准美语(SAE)等多样语言变体的模型,尤其关注女性群体的语音特征。通过标注音频文件中的方言类别、说话者人口统计信息及语码转换现象,研究者可深入探究女性语音在不同社会语言环境下的声学与韵律模式,进而推动包容性语音技术的进步。
衍生相关工作
围绕该数据集,学术界已衍生出多项富有影响力的工作。例如,研究者基于其方言标签开发了细粒度的语音方言识别器,通过对比AAVE与SAE的声学差异,提出了适应非标准方言的声学模型微调策略。另一些工作则利用数据中的语码转换标注,探索了双语说话者在自然对话中切换语言的声学线索,进而构建了端到端的语码转换语音识别系统。此外,该数据集还催生了关于语音技术公平性的评估基准,其中通过分析不同方言组别上的识别错误率,揭示了模型偏差的根源并提出了去偏训练方法。这些成果共同推动了多方言语音处理领域的理论深化与实践创新。
数据集最近研究
最新研究方向
在语音识别与语言变异研究交叉领域,该数据集聚焦于女性说话者的多方言语音数据,涵盖非洲裔美国人英语、奇卡诺英语、西班牙语混合语及标准美式英语等多元语言变体,并标注了性别、方言种类及说话者人数等细粒度元信息。当前前沿研究方向集中于利用此类高维度标注数据训练公平性增强的自动语音识别模型,以缓解主流语音系统对非标准方言和女性音色的系统性偏差。该数据集为探索方言切换和口音辨识中的性别差异提供了宝贵资源,其发布恰逢人工智能伦理与包容性技术讨论的高潮,对于推动语音技术在社会边缘群体中的普惠应用具有深远意义。
以上内容由遇见数据集搜集并总结生成
二维码
社区交流群
二维码
科研交流群
商业服务