johnatanebonilla/coser

--- dataset_info: features: - name: audio dtype: audio - name: filename dtype: string - name: turno_id dtype: int64 - name: turno_time dtype: string - name: sentence dtype: string - name: sentence_fono dtype: string - name: sentence_fono_sin_marcas dtype: string - name: sentence_orto dtype: string - name: sentence_orto_sin_marcas dtype: string - name: Provincia dtype: string - name: Enclave dtype: string - name: Fecha dtype: string - name: Duración dtype: string - name: Informantes dtype: string splits: - name: train num_bytes: 4600923777.433 num_examples: 53971 - name: validation num_bytes: 503026194.46 num_examples: 6689 - name: test num_bytes: 486076659.954 num_examples: 6726 download_size: 4707509912 dataset_size: 5590026631.847 configs: - config_name: default data_files: - split: train path: data/train-* - split: validation path: data/validation-* - split: test path: data/test-* task_categories: - automatic-speech-recognition - conversational language: - es pretty_name: COSER-ASR Subset size_categories: - 10K<n<100K --- # Introduction The "COSER-ASR" Subset is a specialized extract from the "Corpus Oral y Sonoro del Español Rural" (COSER; Fernández-Ordóñez 2005-present), meaning the "Audible Corpus of Spoken Rural Spanish". This dataset has been specifically curated to facilitate the fine-tuning of Whisper, an automatic speech recognition system. For this purpose, audio and text segments ranging from 3 to 30 seconds have been automatically extracted from the COSER corpus. These segments provide concise and diverse samples of spoken rural Spanish, ideal for training and refining speech recognition models. To ensure manageability and efficient processing, a maximum of 1024 tokens were used in the dataset, striking a balance between comprehensive coverage and computational efficiency. # Content and Demographic Focus The original COSER dataset includes 218 transcriptions of semi-structured interviews primarily with elderly, less-educated individuals from rural Spain. These interviews, each averaging around 54 minutes, are rich in dialectal variations and linguistic nuances, offering valuable insights into traditional Spanish dialects. # Transcription Approach The "coser" dataset provides multiple layers of transcription to cater to different linguistic and computational needs: ### Original Transcription (sentence): This is the direct transcription of the audio segments, preserving the original speech as closely as possible and the complete original transcription. ### Phonological Approximation (sentence_fono): Here, the transcription is modified to reflect the phonological characteristics of the dialectal pronunciation. This version is crucial for understanding the phonetic nuances of rural Spanish dialects. ### Phonological Transcription without Discourse Markers (sentence_fono_sin_marcas): This transcription removes discourse markers such as laughter, assent, etc., that are typically enclosed in square brackets. It offers a cleaner version focusing solely on the spoken words. ### Orthographic Correspondence (sentence_orto): This layer provides the standard orthographic equivalent of the words transcribed phonologically. It bridges the gap between dialectal speech and standard Spanish orthography. ### Orthographic Transcription without Discourse Markers (sentence_orto_sin_marcas): Similar to the phonological version without markers, this transcription provides a standard orthographic text devoid of any discourse markers. This is particularly useful for applications requiring clean text data. # Limitations Limitations of this model include the fact that the time intervals in the COSER corpus are not systematically aligned, meaning that there may not be a perfect one-to-one correspondence between the audio and text data. # Additional Information and Resources To explore more about the COSER corpus, its methodologies, and the full range of transcriptions, visit http://coser.lllf.uam.es/ and http://coser.lllf.uam.es/transcripcion.php. These resources provide an in-depth look at the COSER project, detailing its comprehensive approach to capturing the linguistic diversity of rural Spanish. # References Fernández-Ordóñez, I. (Ed.). (2005-present). Corpus Oral y Sonoro del Español Rural. Retrieved April 15, 2022, from http://www.corpusrural.es/dataset_info: 特征字段: - 字段名: 音频, 数据类型: 音频 - 字段名: 文件名, 数据类型: 字符串 - 字段名: 轮次ID, 数据类型: 64位整数 - 字段名: 轮次时间, 数据类型: 字符串 - 字段名: 语句, 数据类型: 字符串 - 字段名: 语音近似转写语句（sentence_fono）, 数据类型: 字符串 - 字段名: 无标记语音转写语句（sentence_fono_sin_marcas）, 数据类型: 字符串 - 字段名: 标准正写法对应语句（sentence_orto）, 数据类型: 字符串 - 字段名: 无标记标准正写法转写语句（sentence_orto_sin_marcas）, 数据类型: 字符串 - 字段名: 省份, 数据类型: 字符串 - 字段名: 区域, 数据类型: 字符串 - 字段名: 录制日期, 数据类型: 字符串 - 字段名: 时长, 数据类型: 字符串 - 字段名: 受访人信息, 数据类型: 字符串 划分集: - 划分名称: 训练集, 字节数: 4600923777.433, 样本量: 53971 - 划分名称: 验证集, 字节数: 503026194.46, 样本量: 6689 - 划分名称: 测试集, 字节数: 486076659.954, 样本量: 6726 下载总大小: 4707509912, 数据集总大小: 5590026631.847 配置项: - 配置名称: 默认配置, 数据文件: - 训练集: data/train-* - 验证集: data/validation-* - 测试集: data/test-* 任务类别: - 自动语音识别 - 会话类 语言: 西班牙语 样本量范围: 1万至10万 友好显示名称: COSER-ASR 子集 # 简介 “COSER-ASR 子集”是从《西班牙乡村口语有声语料库》（Corpus Oral y Sonoro del Español Rural，简称COSER；Fernández-Ordóñez 2005年至今）中提取的专业子集，该语料库意为“有声乡村西班牙语语料库”。本数据集专为微调自动语音识别系统Whisper而打造，已从原始COSER语料库中自动截取3至30秒的音频与文本片段。这些片段涵盖了多样且精炼的乡村西班牙语口语样本，非常适合用于训练与优化语音识别模型。为兼顾可处理性与计算效率，数据集单条样本的Token（Token）数量上限设为1024，在覆盖广度与计算成本间取得了平衡。 # 内容与人口统计聚焦 原始COSER语料库包含218份半结构化访谈转录文本，受访对象主要为西班牙乡村地区的老年、低教育水平群体。每份访谈时长平均约54分钟，蕴含丰富的方言变体与语言细节，为研究传统西班牙语方言提供了宝贵资料。 # 转写方案 本数据集提供多层级转写方案，以满足不同语言学研究与计算应用的需求： ## 原始转写（sentence） 该字段完整保留音频片段的原始口语转录，尽可能还原原始语音内容与完整的原始转写文本。 ## 语音近似转写（sentence_fono） 该版本调整了转写内容，以反映方言发音的语音学特征，对于理解乡村西班牙语方言的语音细节至关重要。 ## 无标记语音转写（sentence_fono_sin_marcas） 此转写移除了通常以方括号标注的话语标记（如笑声、应答声等），仅保留口语词汇，提供更简洁的文本版本。 ## 标准正写法对应（sentence_orto） 该层级提供语音转写内容对应的标准正写法文本，搭建了方言口语与标准西班牙语正写法之间的桥梁。 ## 无标记标准正写法转写（sentence_orto_sin_marcas） 与无标记语音转写类似，该版本移除了所有话语标记，提供纯净的标准正写法文本，特别适用于需要干净文本数据的应用场景。 # 局限性 本数据集存在以下局限：COSER语料库中的时间区间未经过系统对齐，因此音频与文本数据之间可能无法实现完全的一一对应。 # 补充信息与资源 若需了解更多COSER语料库的研究方法与完整转写内容，可访问http://coser.lllf.uam.es/ 与 http://coser.lllf.uam.es/transcripcion.php。这些资源将深入展示COSER项目如何全面捕捉乡村西班牙语的语言多样性。 # 参考文献 Fernández-Ordóñez, I.（编辑）. (2005年至今). 《西班牙乡村口语有声语料库》. 2022年4月15日检索自 http://www.corpusrural.es/

原始信息汇总

数据集概述

数据集信息

• 特征列表:

  • audio: 音频数据
  • filename: 文件名
  • turno_id: 标识符
  • turno_time: 时间
  • sentence: 原始转录
  • sentence_fono: 音系近似转录
  • sentence_fono_sin_marcas: 无话语标记的音系转录
  • sentence_orto: 正字法对应转录
  • sentence_orto_sin_marcas: 无话语标记的正字法转录
  • Provincia: 省份
  • Enclave: 飞地
  • Fecha: 日期
  • Duración: 持续时间
  • Informantes: 发音人

• 数据分割:

  • train: 训练集，包含 53971 个样本，大小为 4600923777.433 字节
  • validation: 验证集，包含 6689 个样本，大小为 503026194.46 字节
  • test: 测试集，包含 6726 个样本，大小为 486076659.954 字节

• 数据集大小:

  • 下载大小: 4707509912 字节
  • 数据集大小: 5590026631.847 字节

• 配置:

  • default:
    • 训练集路径: data/train-*
    • 验证集路径: data/validation-*
    • 测试集路径: data/test-*

• 任务类别:

  • 自动语音识别
  • 对话

• 语言:

  • 西班牙语

• 数据集名称:

  • COSER-ASR Subset

• 数据集规模:

  • 10K<n<100K

内容和人口统计重点

原始COSER数据集包括218份半结构化访谈，主要对象是来自西班牙农村的老年、受教育程度较低的个体。这些访谈平均时长约54分钟，富含方言变体和语言细节，为传统西班牙方言提供了宝贵的见解。

转录方法

• 原始转录 (sentence): 直接转录音频片段，尽可能保留原始语音和完整原始转录。
• 音系近似转录 (sentence_fono): 转录修改以反映方言发音的音系特征，对于理解农村西班牙方言的音韵细节至关重要。
• 无话语标记的音系转录 (sentence_fono_sin_marcas): 去除话语标记（如笑声、同意等），提供仅关注口语的更清洁版本。
• 正字法对应转录 (sentence_orto): 提供音系转录的标准正字法等价物，弥合方言语音和标准西班牙语正字法之间的差距。
• 无话语标记的正字法转录 (sentence_orto_sin_marcas): 类似于无标记的音系转录，提供无话语标记的标准正字法文本，特别适用于需要清洁文本数据的应用。

局限性

该模型的局限性包括COSER语料库中的时间间隔未系统对齐，这意味着音频和文本数据之间可能不存在完美的一一对应关系。

搜集汇总

数据集介绍

构建方式

该数据集源自“Corpus Oral y Sonoro del Español Rural”（COSER）语料库，旨在服务于Whisper自动语音识别系统的微调任务。构建过程中，从COSER语料库中自动提取了时长介于3至30秒的音频与文本片段，以确保样本的简洁性与多样性。为平衡计算效率与数据覆盖，每个片段的最大令牌数被限制为1024。数据集共包含约53971个训练样本、6689个验证样本及6726个测试样本，覆盖了西班牙农村地区的半结构化访谈录音。

特点

该数据集的核心特色在于其多层转录体系，为语言学与计算研究提供了丰富维度。原始转录（sentence）忠实保留语音原貌；音位近似转录（sentence_fono）捕捉方言发音的语音学特征；去除话语标记的音位转录（sentence_fono_sin_marcas）聚焦纯语言内容；正字法对应转录（sentence_orto）将方言语音映射为标准西班牙语拼写；而去除标记的正字法转录（sentence_orto_sin_marcas）则提供清洁的文本数据。此外，数据集包含地域、日期等元数据，便于方言变体分析。

使用方法

用户可通过HuggingFace的datasets库直接加载该数据集，默认配置下按训练、验证和测试集划分使用。数据集中音频字段可直接用于语音识别模型的输入，而多层文本字段（如sentence_orto_sin_marcas）适用于监督学习中的标签。建议在微调Whisper模型时，优先选用去除话语标记的转录版本以提升训练稳定性。需注意，由于原始语料时间区间未系统对齐，音频与文本之间可能存在非精确对应，使用时应适当调整对齐策略。

背景与挑战

背景概述

在自动语音识别（ASR）领域，方言与口音的多样性始终是模型泛化能力面临的重大挑战。为应对这一难题，由Fernández-Ordóñez领衔的团队自2005年起构建了“Corpus Oral y Sonoro del Español Rural”（COSER）语料库，并于近期从中提取出名为COSER-ASR的子集。该数据集聚焦于西班牙农村地区老年、低教育程度人群的半结构化访谈录音，涵盖了218段平均时长54分钟的方言变体与语音细节。其创建旨在微调Whisper等ASR系统，通过提供3至30秒的音频-文本片段，为模型注入对传统西班牙语方言的识别能力。COSER-ASR的发布不仅弥补了主流语音数据集在乡村方言领域的空白，还推动了语言学与计算语言学的交叉研究，成为探索语音多样性与ASR鲁棒性之间关系的重要资源。

当前挑战

COSER-ASR数据集面临的核心挑战源于其独特的数据特性。首先，所解决的领域问题在于ASR系统对非标准方言的适应性：传统模型在标准西班牙语上表现优异，却难以处理老年群体口语中的音位变异、语法省略及话语标记（如笑声、赞同声），这些特征在sentence_fono和sentence_orto等分层转录中得以保留，但增加了识别复杂度。其次，构建过程中遭遇了时间对齐不精确的难题——COSER语料库的音频与文本片段并非完美同步，导致训练样本可能存在偏差，影响模型学习对应关系。此外，数据来源的单一性（仅限农村老年人群）与规模限制（约6.7万训练样本）进一步制约了模型的泛化能力，使其在应对不同年龄、地域或社交语境的口语时可能表现不稳。

常用场景

经典使用场景

在语料库语言学与语音识别交叉领域，COSER-ASR子集作为西班牙乡村口语方言的专属语音数据集，其核心应用场景在于微调Whisper等端到端自动语音识别模型。该数据集精心提取了时长3至30秒的音频-文本片段，保留了老年、低教育程度农村受访者半结构化访谈中的方言变体与音韵细节，为模型适应非标准发音、语速波动及环境噪声提供了极具代表性的训练素材。多层级转录标注（如音近转写、标准正字法转写）进一步支持了语音识别中从原始声学信号到语言学表征的映射研究。

实际应用

在实际应用中，COSER-ASR可用于开发面向西班牙农村地区的语音交互系统，例如农业信息查询、方言语音转写服务及文化遗产数字化记录工具。该数据集训练的ASR模型能够处理老年人群体的非标准发音，提升智能客服、语音助手的包容性。此外，其在语音诊断辅助、方言地图绘制及语言教学中的方言对比分析场景也具有显著价值，为技术落地提供了兼顾语言多样性与实用性的数据基础。

衍生相关工作

该数据集衍生的经典工作包括基于Whisper的方言语音微调框架，其多层级转录设计启发了后续研究如跨方言语音识别中的音系特征对齐方法。相关学者利用其音近转写与标准正字法的对应关系，提出了方言语音的规范化映射模型，并拓展至西班牙其他方言（如加泰罗尼亚语、巴斯克语）的ASR适配。此外，COSER-ASR还促进了口语语音中话语标记自动检测及方言识别任务的发展，成为评估无监督预训练模型在方言鲁棒性上的重要基准数据集。