Trelis/eval-canary-1b-v2-multimed-hard-20260408-1931

---
tags:
- whisper
- evaluation
- speech
- speech-to-text
---
# Evaluation Results: canary-1b-v2

Evaluation results from Whisper model evaluation.

## Summary

| Model | WER | CER |
|-------|-----|-----|
| [nvidia/canary-1b-v2](https://huggingface.co/nvidia/canary-1b-v2) | 15.02% | 9.27% |

## Source Data

- **Evaluation Dataset:** [Trelis/multimed-hard](https://huggingface.co/datasets/Trelis/multimed-hard)
- **Model Evaluated:** [nvidia/canary-1b-v2](https://huggingface.co/nvidia/canary-1b-v2)

## Columns

| Column | Description |
|--------|-------------|
| `audio` | Audio sample (if available from source dataset) |
| `reference` | Ground truth transcription |
| `prediction` | Model prediction |
| `wer` | Word Error Rate for this sample |
| `cer` | Character Error Rate for this sample |

| `entities` | Entity annotations from source dataset |
| `entity_cer` | Per-sample entity CER (-1.0 if no entities) |

## Entity CER

**Overall Entity CER:** 25.47%

| Category | CER |
|----------|-----|
| anatomy | 21.70% |
| biomarker | 21.37% |
| condition | 25.68% |
| drug | 7.14% |
| organisation | 36.63% |
| procedure | 33.14% |

---
*Generated by [Trelis Studio](https://studio.trelis.com)*

---
标签：
- Whisper
- 评估
- 语音
- 语音转文字
---

# 评估结果：canary-1b-v2

本结果来自Whisper模型的评估测试。

## 摘要

| 模型 | 词错误率（Word Error Rate, WER） | 字符错误率（Character Error Rate, CER） |
|-------|-----|-----|
| [nvidia/canary-1b-v2](https://huggingface.co/nvidia/canary-1b-v2) | 15.02% | 9.27% |

## 源数据集

- **评估数据集：** [Trelis/multimed-hard](https://huggingface.co/datasets/Trelis/multimed-hard)
- **待评估模型：** [nvidia/canary-1b-v2](https://huggingface.co/nvidia/canary-1b-v2)

## 数据列说明

| 列名 | 描述 |
|--------|-------------|
| `audio` | 音频样本（若源数据集提供） |
| `reference` | 基准转录文本（真实标注） |
| `prediction` | 模型预测转录结果 |
| `wer` | 该样本的词错误率（WER） |
| `cer` | 该样本的字符错误率（CER） |
| `entities` | 源数据集自带的实体标注 |
| `entity_cer` | 单样本实体字符错误率（若无实体则为-1.0） |

## 实体字符错误率

**整体实体字符错误率：** 25.47%

| 类别 | 字符错误率（CER） |
|----------|-----|
| 解剖学（anatomy） | 21.70% |
| 生物标志物（biomarker） | 21.37% |
| 病症（condition） | 25.68% |
| 药物（drug） | 7.14% |
| 机构（organisation） | 36.63% |
| 诊疗操作（procedure） | 33.14% |

---

*由 [Trelis Studio](https://studio.trelis.com) 生成*