five

BrunoHays/ESLO

收藏
Hugging Face2023-10-03 更新2024-03-04 收录
下载链接:
https://hf-mirror.com/datasets/BrunoHays/ESLO
下载链接
链接失效反馈
官方服务:
资源简介:
ESLO音频数据集是一个用于自动语音识别任务的法语数据集。数据集包含不同长度的音频文件配置,如最大30秒、最大10秒和单样本(默认)。数据集的使用受Creative Commons Attribution - NonCommercial - ShareAlike 4.0 International许可证保护。数据集的原始数据包括转录文件和音频文件,依赖ffmpeg和ffmpeg-python进行处理。数据集来源于Laboratoire Ligérien de Linguistique - UMR 7270 (LLL) 2023年的研究,并在ORTOLANG平台上发布。

The ESLO Audio Dataset is a French-language dataset intended for automatic speech recognition (ASR) tasks. It offers audio file configurations with various durations, including up to 30 seconds, up to 10 seconds, and single-sample (default) settings. The usage of this dataset is governed by the Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International Public License. The original dataset consists of transcription files and audio files, with processing relying on ffmpeg and ffmpeg-python libraries. This dataset is derived from research conducted by the Laboratoire Ligérien de Linguistique - UMR 7270 (LLL) in 2023, and was released on the ORTOLANG platform.
提供机构:
BrunoHays
原始信息汇总

ESLO音频数据集概述

数据集基本信息

  • 任务类别:自动语音识别
  • 语言:法语
  • 许可证:CC BY-NC-4.0

数据集配置

  • 配置选项
    • max30s
    • max10s
    • single_samples(默认)

数据集来源与引用

  • 作者:Eshkol-Taravella I., Baude O., Maurel D., Hriba L., Dugua C., Tellier I.
  • 出版年份:2012
  • 文献标题:Un grand corpus oral « disponible » : le corpus d’Orléans 1968-2012.
  • 出版物:Ressources linguistiques libres, TAL. Volume 52 – n° 3/2011, 17-46
  • 机构:Laboratoire Ligérien de Linguistique - UMR 7270 (LLL)
  • 数据集版本:v1
  • 数据集链接:https://hdl.handle.net/11403/eslo/v1

数据集依赖工具

  • ffmpeg:安装命令为sudo apt-get install ffmpeg
  • ffmpeg-python:安装命令为pip install ffmpeg-python
搜集汇总
数据集介绍
main_image_url
构建方式
ESLO数据集源自奥尔良语料库(Orléans 1968-2012),是一个大规模法语口语语料库。其构建基于ORTOLANG平台提供的原始转录文件和音频文件,通过脚本整合形成。数据集提供三种配置:默认的single_samples保留原始样本,而max30s和max10s则按顺序将样本拼接至30秒或10秒的时长,以适配不同研究需求。音频以16kHz采样率存储,每个样本包含音频数组、时间戳、说话人标识及对应文本,确保与HuggingFace datasets库无缝集成。
特点
该数据集聚焦于法语自动语音识别任务,具有独特的时长配置灵活性。其样本覆盖真实对话场景,如'eh bien je voudrais vous demander...'等自然语句,包含说话人、时间戳、重叠标记等元数据,支持细粒度分析。音频与文本对齐精确至秒级,且样本顺序得以保留,便于时序建模。数据集采用CC-BY-NC-4.0许可,强调非商业用途,并依赖ffmpeg处理音频,确保了高质量与可复现性。
使用方法
使用ESLO数据集需先安装ffmpeg及ffmpeg-python依赖。通过HuggingFace datasets库加载时,可指定配置参数选择single_samples、max30s或max10s。每个样本以字典形式返回,包含'audio'(数组与采样率)、'sentence'(转录文本)、'start_timestamp'与'end_timestamp'、'speaker'及'overlap'字段。研究人员可直接用于训练或评估法语ASR模型,或利用时长配置调整输入长度,适用于对比实验与声学建模。
背景与挑战
背景概述
在自动语音识别(ASR)领域,高质量的口语语料库是推动模型性能突破的关键基石,尤其对于法语等非英语语言而言,大规模、真实场景的语音数据尤为稀缺。ESLO数据集(Enquête Sociolinguistique à Orléans)由法国Ligérien语言学实验室(LLL)于2012年创建,核心研究团队包括Eshkol-Taravella、Baude、Maurel等学者,旨在记录并分析1968年至2012年间奥尔良地区的法语口语演变。该数据集依托ORTOLANG平台发布,收录了大量涵盖日常对话、访谈等自然场景的语音及对应转写文本,为法语ASR研究提供了珍贵的真实语音资源。其影响力辐射至语言学、方言学及语音技术领域,成为法语口语处理研究的重要基准,推动了从社会语言学分析到端到端语音识别模型训练的跨学科探索。
当前挑战
ESLO数据集所面临的挑战首先体现在领域问题的复杂性上:法语口语中广泛存在的连音、省略、非流利现象(如填充词、重复与修正)以及多说话人重叠语音,对ASR模型的声学建模和语言模型鲁棒性构成严峻考验。构建过程中,研究人员需处理原始录音中长达数十年的音频质量差异(如1960年代模拟录音与数字录音的信噪比不一),同时精确对齐时间戳与转写文本,避免因方言变体或口音导致的标注歧义。此外,数据集遵循CC-BY-NC-4.0许可协议,在确保隐私合规的前提下,需平衡数据开放性与说话人匿名化处理,这对大规模语料共享提出了伦理与技术上的双重挑战。
常用场景
经典使用场景
ESLO数据集作为大规模法语口语语料库,最经典的使用场景是自动语音识别(ASR)模型的训练与评估。研究者可利用其提供的精细时间戳标注、说话人身份信息及转写文本,构建端到端或混合型语音识别系统。该数据集通过提供最长30秒的音频片段配置,有效适配长短时记忆网络(LSTM)、Transformer及Whisper等主流架构的输入要求,成为法语ASR领域基准测试的基石。其多样化的口语风格和自然对话情境,使得模型能够学习真实环境中的语音变体、语速变化及非流利现象,显著提升识别鲁棒性。
实际应用
在实际应用中,ESLO数据集支撑了法语智能语音助手的本地化开发,例如帮助优化车载系统、智能家居设备对法语口语指令的识别准确率。在教育领域,它被用于构建法语口语评测系统,通过对比学习者发音与母语者语料,实现发音纠错与流利度分析。此外,医疗场景中,该数据集辅助开发针对法语失语症患者的语音康复工具,利用其丰富的自然对话样本训练模型识别异常语音模式。企业级会议转录系统亦从中受益,凭借其多人对话标注特性实现说话人分离与内容结构化。
衍生相关工作
基于ESLO数据集衍生了多项经典工作:Eshkol-Taravella等人(2012)发表的语料库建设论文成为法语口语资源标准化的里程碑,后续研究如语音活动检测(VAD)算法在此基准上验证了跨场景泛化能力。在ASR领域,HuggingFace社区基于ESLO开发了法语版Wav2Vec2.0微调模型,显著降低词错误率。此外,该数据集催生了面向低资源语言的半监督学习框架,通过ESLO预训练模型迁移至非洲法语方言识别任务。多模态研究中,ESLO与视频语料结合的说话人面部-语音关联分析,推动了视听觉联合建模的发展。
以上内容由遇见数据集搜集并总结生成
二维码
社区交流群
二维码
科研交流群
商业服务