bookbot/OpenBible_Swahili

OpenBible Swahili是一个基于斯瓦希里语圣经的音频和文本对齐数据集，主要用于自动语音识别（ASR）和文本到语音（TTS）任务。该数据集通过使用Massively Multilingual Speech (MMS)模型进行音频和文本的对齐，并采用了CTC Forced Alignment API进行对齐处理。数据集中包含圣经的每一节经文，音频和文本被分割为节级别的片段，用于TTS模型的训练。数据集还包含一个‘clean’子集，通过长度归一化的概率差异过滤去除了噪声对齐。

OpenBible Swahili is an audio-text aligned dataset built upon the Swahili Bible, mainly intended for automatic speech recognition (ASR) and text-to-speech (TTS) tasks. Alignment between audio and text is implemented using the Massively Multilingual Speech (MMS) model, with alignment processing carried out via the CTC Forced Alignment API. The dataset covers every verse of the Bible, with both audio and text segmented into verse-level fragments for TTS model training. Additionally, it includes a 'clean' subset that removes noisy alignments by filtering based on length-normalized probabilistic differences.

原始信息汇总

数据集概述

数据集名称

• 名称: OpenBible Swahili
• 语言: Swahili (swa)
• 许可证: CC-BY-SA-4.0

任务类别

• 自动语音识别
• 文本到语音

数据集描述

OpenBible Swahili 是一个基于 Swahili 语言的圣经文本的音频数据集，采用 Biblica® Open Kiswahili Contemporary Version (Neno) 的音频版本。该数据集受到 masakhane-io/bibleTTS 和 coqui-ai/open-bible-scripts 项目的启发，并应用了 Massively Multilingual Speech (MMS) 进行音频对齐。

数据集处理

• 使用 PyTorch 提供的 CTC Forced Alignment API 教程进行音频对齐。
• 采用 MMS 模型处理音频对齐，解决包括章节介绍叙述、偶尔的诗句编号阅读和数字处理等问题。
• 实施长度归一化概率差过滤，以移除噪声对齐，使用特定的概率计算公式。

数据集结构

• 数据实例: 每个实例包含唯一标识符、诗句标识符、音频文件路径、解码音频数组、采样率、诗句文本和转录文本。
• 数据字段:
  • id: 诗句的唯一标识符。
  • verse_id: 诗句的标识符。
  • audio: 包含音频文件路径、解码音频数组和采样率。
  • verse_text: 包含正确大小写和标点的诗句文本。
  • transcript: 用于强制对齐的诗句文本的低级版本，无标点。

数据分割

• 数据集分为多个书卷，每个书卷包含不同数量的诗句。
• 提供“干净”子集，其中某些书卷的诗句数量有所不同。

使用示例

• 数据集可通过 load_dataset 函数加载，支持加载所有书卷或特定书卷，以及是否加载“干净”子集。

注意事项

• 2 Chronicles 13-14 的源音频损坏，在非“干净”子集中可能对训练造成问题。