neptts-bench
收藏资源简介:
NepTTS-Bench 是首个用于评估尼泊尔语文本到语音(TTS)系统的综合性基准数据集。该数据集包含365个经过音系设计的尼泊尔语句子及其元数据(sentences.json),来自12个不同TTS系统的约2000个音频文件(audio/),以及预计算的各种评估结果(results/)。此外,数据集还提供了所有基线系统的聚合分数(baselines.json)和一个尼泊尔语MOS预测器的检查点(model/,Spearman相关系数为0.587)。数据集评估了多种TTS系统,包括自然语音、尼泊尔语专用系统、云端服务和开源解决方案,并提供了各系统的人类平均意见得分(MOS)。该数据集适用于尼泊尔语TTS系统的性能评估和比较研究。
NepTTS-Bench is the first comprehensive benchmark dataset for evaluating Nepali text-to-speech (TTS) systems. This dataset contains 365 phonetically designed Nepali sentences and their metadata (sentences.json), approximately 2000 audio files from 12 different TTS systems (stored in audio/), as well as precomputed various evaluation results (stored in results/). Additionally, the dataset provides aggregated scores of all baseline systems (baselines.json) and a checkpoint of a Nepali MOS predictor (stored in model/, with a Spearman correlation coefficient of 0.587). The dataset evaluates multiple types of TTS systems, including natural speech, Nepali-specialized systems, cloud-based services and open-source solutions, and offers the human mean opinion score (MOS) for each system. This dataset is applicable to the performance evaluation and comparative research of Nepali TTS systems.
NepTTS-Bench 数据集概述
数据集基本信息
- 数据集名称: NepTTS-Bench Dataset
- 描述: 首个用于评估尼泊尔语文本转语音系统的综合性基准。
- 语言: 尼泊尔语 (ne)
- 任务类别: 文本转语音 (text-to-speech)
- 数据规模: 1K<n<10K
- 许可证: MIT
- 标签: nepali, tts, speech, mos, benchmark
数据集内容
- sentences.json: 包含365个根据音系学设计的尼泊尔语句子及其元数据。
- audio/: 包含来自12个系统的文本转语音输出音频文件(约2000个文件)。
- results/: 预计算评估结果(SCOREQ, Chirp2, MMS, XLS-R, Whisper)。
- baselines.json: 所有基线系统的聚合分数。
- model/: 尼泊尔语平均意见分数预测器检查点(Spearman相关系数0.587)。
评估的系统与结果
| 系统 | 人类平均意见分数 | 类型 |
|---|---|---|
| Natural Speech | 3.91 | 人类语音 |
| TingTing Asmita | 3.49 | 尼泊尔语专用系统 |
| ElevenLabs v3 | 3.48 | 云端服务 |
| Piper | 3.47 | 开源系统 |
| TingTing Subina | 3.42 | 尼泊尔语专用系统 |
| Edge TTS Hemkala | 3.31 | 云端服务 (Microsoft) |
| Edge TTS Sagar | 3.28 | 云端服务 (Microsoft) |
| Gemini Flash | 3.19 | 云端服务 (Google) |
| gTTS | 2.56 | 云端服务 (Google Translate) |
使用方法
Python
python from datasets import load_dataset ds = load_dataset("ampixa/neptts-bench")
命令行工具
bash pip install neptts-eval neptts-eval --wav_dir ./my_tts_outputs/
引用
bibtex @article{neptts-bench-2026, title={NepTTS-Bench: A Comprehensive Benchmark for Nepali Text-to-Speech Evaluation}, author={Ampixa}, year={2026} }
相关链接
- GitHub: https://github.com/Ampixa/neptts-bench
- Rate TTS: https://tts.ampixa.com/rating
- 论文: 即将发布





