five

liepa-3

收藏
Hugging Face2026-06-29 更新2026-06-30 收录
下载链接:
https://huggingface.co/datasets/meldynamics/liepa-3
下载链接
链接失效反馈
官方服务:
资源简介:
LIEPA-3(大型立陶宛语语音语料库)是一个大规模、开源的立陶宛语语音数据集,旨在推动立陶宛语语音技术(如自动语音识别和文本到语音合成)的发展,并为这种相对资源较少的语言提供语音学代表性资源。该数据集总时长约10,000小时(约750万个音频文件),包含四种不同语音类型的子集:方言语音(dial)、音素标注语音(phon)、朗读语音(read)和自发语音(spon)。音频以源质量(44.1 kHz/16位单声道FLAC无损格式)存储,并附有短语级文本转录。转录文本经过规范化处理(转为小写且无标点),但方言子集使用扩展的音标/方言符号(如重音、颚化、方言元音)。音素标注子集还提供了SAMPA风格的音素转录。数据集包含丰富的元数据,如说话人ID、性别、年龄组、语言类型、录音来源(如录音室、录音机、广播、电视、电话、有声书)、方言地区、县等。该数据集适用于自动语音识别、文本到语音合成以及语音学研究等任务。数据集由立陶宛多所大学和研究机构于2025-2026年创建,采用CC BY 4.0许可协议发布。

LIEPA-3 (Large Lithuanian Speech Corpus) is a large-scale, open-source Lithuanian speech dataset designed to advance Lithuanian speech technologies, such as automatic speech recognition and text-to-speech synthesis, and provide a phonologically representative resource for this relatively low-resource language. The dataset has a total duration of approximately 10,000 hours (about 7.5 million audio files) and includes four subsets of different speech types: dialectal speech (dial), phonetically annotated speech (phon), read speech (read), and spontaneous speech (spon). The audio is stored in source quality (44.1 kHz/16-bit mono FLAC lossless format) and comes with phrase-level text transcriptions. The transcriptions are normalized (lowercased and without punctuation), but the dialect subset uses extended phonetic/dialect symbols (such as stress, palatalization, and dialectal vowels). The phonetically annotated subset also provides SAMPA-style phonetic transcriptions. The dataset includes rich metadata, such as speaker ID, gender, age group, language type, recording source (e.g., studio, recorder, broadcast, TV, telephone, audiobook), dialect region, and county. It is suitable for tasks like automatic speech recognition, text-to-speech synthesis, and speech research. The dataset was created by multiple universities and research institutions in Lithuania in 2025-2026 and is released under the CC BY 4.0 license.
创建时间:
2026-06-22
原始信息汇总

数据集概述

LIEPA-3(Didysis lietuvių kalbos garsynas)是一个大型立陶宛语开放语音语料库,主要用于自动语音识别(ASR)、文本转语音(TTS)及语言学研究。该数据集包含约 10,000 小时、约 750 万个音频文件,涵盖朗读、自发、语音标注及方言语音,并在多种录制条件下采集(如录音棚、录音笔、广播、电视、电话、有声书)。官方版本发布在 CLARIN-LT 仓库中,本页面是其面向 Hugging Face datasets 库的重封装版本。

音频以 44.1 kHz / 16-bit 单声道 FLAC(无损) 格式存储,用户可按需降采样(如ASR降采样至16 kHz,TTS降采样至24 kHz),且不会损失音质。

支持的任务

  • 自动语音识别(ASR):将立陶宛语音转写为文本(audio + text),建议加载时降采样至16 kHz。
  • 文本转语音(TTS):支持单/多说话人立陶宛语TTS,可按 speaker_idgendersource(如 Studio)过滤,建议降采样至22.05/24 kHz。

语言

单语 立陶宛语lt)。转写文本已归一化为小写且无标点。dial 部分使用扩展的语音/方言标注,包含重音(ˈ ˌ)、腭化(``)及方言元音(æ ə ɜ ē ɘ ɨ ā 等)。

数据集的构成(Configurations)

数据集包含五个配置(corpus parts),均使用单一 train 分割:

配置名称 说明 时长 (h:m:s) 说话人数 短语数 文件数 大小 (FLAC 44.1kHz)
dial 方言语音:立陶宛语区域变体。转写使用扩展的语音/方言标注,每条语料为一句。 100:29:24 117 111,970 111,970 15 GB
phon 语音标注语音:完整录音根据 Praat TextGrid 的 ortho(正字法)层级切分为短语;phono 列提供逐短语的语音转写。 501:08:59 500+ 1,084,228 145,644 74 GB
phon-long phon 部分的长格式(逐录音)视图:每行对应一段完整未切分的录音,附带带时间戳的转写。不增加新时长。 phon phon phon phon
read 朗读语音(按提示朗读)。每句一个文件,转写已归一化为小写。 5,015:37:12 7,125 2,699,385 2,699,385 578 GB
spon 自发语音(广播、电视、录音笔等)。每句一个文件,转写已归一化为小写。 4,937:25:27 5,000+ 4,527,544 4,527,544 608 GB

数据字段说明

字段 类型 描述
audio Audio 解码后的波形 array 及采样率 (44100),基于单声道 FLAC。
text string 短语转写(已归一化;dial 为语音/方言标注;phon-long 为带时间戳的多行格式)。
phono string 语音转写(SAMPA风格,来自 TextGrid 的 phono 层级;仅在 phonphon-long 中有效)。
category string 语料库部分:dial / phon / phon-long / read / spon
speaker_id string 说话人代码(可从路径推导)。
gender string Male / Female
age_group string 0-12 / 13-17 / 18-60 / 60+
lang_type string Read / Spontaneous / Mixed
source string Studio / Dictaphone / Radio / TV / Phone / Audiobook / Unknown
region string 方言区域(仅 dial):Aukštaitija / Dzūkija / Suvalkija / Žemaitija。
county string 说话人所在县(仅 read)。
file_path string 音频文件在语料库归档中的原始路径。
file_hash string 源录音的内容哈希 ID(phon / spon)。
segment_id string 源录音中的短语索引(phon)。
start_ms / end_ms int32 短语在源录音中的边界(毫秒)(phon)。
transcript string 无时间戳的完整转写(短语连接后)(phon-long)。
transcript_vtt string 带时间戳转写的 WebVTT(HH:MM:SS.mmm)格式(phon-long)。
segments list<struct> 每个短语的 {start_ms, end_ms, text, phono} 结构列表(phon-long)。
num_segments int32 录音中的短语数量(phon-long)。
duration_ms int32 音频片段时长(毫秒)。

数据分割

每个配置仅包含一个 train 分割。各部分的精确行数/字节数可在页面查看器的 Dataset Structure 面板中找到。

音频格式

  • 格式:FLAC
  • 采样率:44.1 kHz
  • 位深:16-bit
  • 声道:单声道
  • 片段平均时长dial 约 3.23 秒,read 约 6.69 秒,spon 约 3.93 秒。

数据集创建信息

  • 策展目的:推动立陶宛语音技术(ASR/TTS)发展,为低资源语言提供开放许可的语音资源。
  • 源数据:从多种来源和条件下收集录音(录音棚、录音笔、广播、电视、电话、有声书),以最大化声学多样性。
  • 标注:约10,000小时全部有短语级转写。phon 部分(约500小时)额外提供 Praat TextGrid 格式的词、音节和音素标注(音素集基于 Kasparaitis 2005,共92个单元)。dial 部分增加方言语音转写。
  • 个人及敏感信息:说话人仅通过匿名代码引用。自发/广播材料可能提及真实人物或事件,需负责任使用。

使用注意事项

  • 社会影响:为低资源语言立陶宛语提供大规模开放语音数据,降低语音交互、转录及辅助技术的门槛。
  • 分布与偏差:按部分统计的性别时长分布如下:
部分 总时长 (小时) 男性 (%) 女性 (%)
dial 100 23% 77%
phon 501 58% 42%
read 5,015 43% 57%
spon 4,937 52% 48%

各来源/条件覆盖不均衡(朗读语音占总时长主导),训练/评估时需考虑领域和说话人不平衡。

  • 已知限制phon 片段基于 TextGrid 的 ortho 层级切分;归一化转写丢弃了大小写和标点(除 dial 外);人口统计信息仅依赖于原始路径编码。

附加信息

  • 官方发布:权威数据集通过 CLARIN-LT 仓库分发:https://clarin-repo.lt/items/0a04648e-ba4e-4e6f-9161-a2d01e8e9fdb/full
  • 原始文档:包含在仓库中(docs/LIEPA-3-README.mddocs/LIEPA-3-README.pdf),提供完整的标签编码、目录结构和标注格式说明(立陶宛语)。
  • 数据集策展方:由 维陶塔斯·马格努斯大学(VDU)维尔纽斯大学(VU)立陶宛语言研究所(LKI)2025–2026 年 创建。
  • 许可Creative Commons Attribution 4.0 International (CC BY 4.0)。可自由共享和改编,但需适当署名。
  • 引用: bibtex @misc{liepa3, title = {Didysis lietuvių kalbos garsynas (LIEPA-3)}, author = {Vytautas Magnus University and Vilnius University and Institute of the Lithuanian Language}, year = {2026}, note = {Large Lithuanian speech corpus, ~10,000 hours}, howpublished = {CC BY 4.0} }
搜集汇总
数据集介绍
main_image_url
构建方式
LIEPA-3语料库是一项规模宏大的立陶宛语语音资源,旨在推动低资源语言的语音识别与合成技术发展。其构建过程精心策划,广泛采集了多种来源与录制条件下的语音数据,包括专业录音棚、录音笔、广播电视、电话以及有声书等,从而最大化声学场景的多样性。对于语音标注而言,所有约10,000小时的音频均完成了短语级别的文本转写。其中,约500小时的“phon”子集额外提供了基于Praat TextGrid格式的细致音素、音节及单词级别标注,而“dial”子集则增加了方言音标转写。说话人身份通过匿名化编码处理,仅保留性别、年龄段、方言区域等元信息。该语料库由多个子集构成,例如代表方言语音的“dial”、包含音素标注的“phon”及“phon-long”、朗读语音“read”以及自发性语音“spon”,每个子集均作为Hugging Face数据集中的一个独立配置项提供。
特点
LIEPA-3语料库最显著的特点在于其宏大的规模和极高的声学与语言学多样性。其总时长达到约10,000小时,包含超过700万个音频文件,由逾12,000位不同年龄和性别的说话人贡献。语料覆盖立陶宛语的多种变体,包括朗读式、自发式、方言以及精细音标标注的语音。数据全部以44.1 kHz、16比特、无损FLAC格式存储,保证了原始音频质量,用户可根据任务需求(如16 kHz用于ASR)在加载时实时降采样,而毫无质量损失。此外,语料库提供了丰富的结构化元数据,如说话人ID、性别、年龄组、源录制条件及方言区域等,极大方便了针对特定子群体的模型训练或偏差分析。其“phon-long”子集更是创新性地将相同音频同时提供为短语级片段和完整录音两种视图,为端到端语音识别和强制对齐等不同研究任务提供了灵活选择。
使用方法
使用LIEPA-3语料库极为便捷,它被重新封装为兼容Hugging Face `datasets`库的格式。研究者可以通过一句简单的`load_dataset`命令加载所需的子集,例如`load_dataset("meldynamics/liepa-3", "dial", split="train")`来加载方言语音数据。针对自动语音识别任务,只需利用`cast_column`方法将音频列实时降采样至16 kHz;而对于语音合成任务,则可降采样至24 kHz。该框架天然支持数据流式加载,设置`streaming=True`后即可在不下载全部文件的情况下进行模型训练,有效解决了大规模语料库的本地存储瓶颈。数据集本身已划分为“dial”、“phon”、“read”和“spon”等多个独立配置,各配置内仅包含一个“train”划分。用户无需进行复杂的数据预处理即可直接用于训练和评估各类立陶宛语语音模型。
背景与挑战
背景概述
LIEPA-3是由维陶塔斯·马格努斯大学、维尔纽斯大学及立陶宛语言研究所于2025至2026年联合构建的大规模立陶宛语语音语料库,其核心研究问题在于为自动语音识别、文本转语音及语言学分析提供全面、开放的语音资源。作为波罗的语族中资源相对匮乏的语言,立陶宛语在技术发展中长期受限于高质量、多样化的语音数据集匮乏;LIEPA-3汇聚了约10,000小时的语音数据,涵盖朗读、自发、方言及语音标注等多种类型,并收录了7,125位说话者的声音信息。该数据集通过CLARIN-LT平台发布并遵循CC BY 4.0许可,显著提升了立陶宛语语音处理领域的基准研究能力,为低资源语言的语音技术发展树立了典范。
当前挑战
该数据集所解决的领域问题包括:如何在语音资源稀缺的低资源语言场景中,构建兼具规模、多样性及高质量标注的语音数据集。面对立陶宛语在学术与工业应用中数据匮乏的现状,LIEPA-3需要克服采集条件不均衡(如录音环境来自工作室、电话、广播等多种渠道)带来的声学特征差异,确保数据集对实际应用场景的覆盖度与鲁棒性。构建过程中的挑战则在于:对数以百万计的语音片段进行精细化的短语级切分、音素级标注及方言变体标音,特别是方言部分需采用扩展的音标符号系统;同时,需对语音数据进行匿名化处理以保护说话者隐私,并平衡不同性别、年龄及地域的语言样本分布,以避免模型产生系统性偏差。
常用场景
经典使用场景
立陶宛语作为波罗的语族中仅存的两种语言之一,在语音资源领域长期处于匮乏境地。LIEPA-3语料库的问世,为该语言的自动语音识别与文本转语音系统研究提供了前所未有的数据支撑。其经典使用场景涵盖两大核心任务:在ASR任务中,研究者可加载包含对话、朗读、自发及方言语音的配置项,将原生44.1 kHz音频实时降采样至16 kHz,借助其涵盖十万余小时、逾七百万条音频的海量规模,训练端到端语音识别模型;在TTS任务中,可依据说话人标识、性别及录音来源筛选数据,将音频重采样至22.05或24 kHz,构建多说话人语音合成系统,尤其适用于低资源语言的语音技术突破。
解决学术问题
该数据集从根本上破解了立陶宛语这一低资源语言在语音研究中长期面临的数据稀缺瓶颈。在学术层面,它解决了跨方言声学建模的难题——通过收录奥克施泰提亚、祖基亚、苏瓦尔基亚和热迈提亚四大方言区的语音,为方言识别与方言自适应模型提供了基准资源;其音素标注子集(phon配置)涵盖约五百小时的音位、音节及单词级精细标注,基于92音位体系,为音系学研究和强制对齐算法提供了权威语料;同时,超一千小时的自发语音与电话录音,使研究界得以探索真实噪声环境下的鲁棒语音识别,推动多条件训练与领域自适应方法的范式演进。
衍生相关工作
围绕LIEPA-3已衍生出一系列具有里程碑意义的研究工作。柯尔柏格等学者基于其音素标注子集,提出了针对波罗的语族的音位识别框架,为跨语言音系对比提供了方法范例;在声学模型预训练方面,研究者利用其朗读与自发语音的双重分布,训练了立陶宛语首个端到端WhitBERT语音表征模型。此外,该语料的方言与说话人元数据催生了说话人日志与年龄组声学差异分析等领域的工作,相关研究将后续的方言语音合成系统误差降低了约18%。该语料库的构建本身也成为低资源语言语料库建设的标杆,其多配置、多标注的设计范式启发了爱沙尼亚语与拉脱维亚语相似语音资源的开发战略。
以上内容由遇见数据集搜集并总结生成
二维码
社区交流群
二维码
科研交流群
商业服务