Trelis/eval-gemini-2.5-pro-eka-hard-20260408-1922

---
tags:
- whisper
- evaluation
- speech
- speech-to-text
---
# Evaluation Results: gemini-2.5-pro

Evaluation results from Whisper model evaluation.

## Summary

| Model | WER | CER |
|-------|-----|-----|
| [google/gemini-2.5-pro](https://huggingface.co/google/gemini-2.5-pro) | 15.04% | 7.80% |

## Source Data

- **Evaluation Dataset:** [Trelis/eka-hard](https://huggingface.co/datasets/Trelis/eka-hard)
- **Model Evaluated:** [google/gemini-2.5-pro](https://huggingface.co/google/gemini-2.5-pro)

## Columns

| Column | Description |
|--------|-------------|
| `audio` | Audio sample (if available from source dataset) |
| `reference` | Ground truth transcription |
| `prediction` | Model prediction |
| `wer` | Word Error Rate for this sample |
| `cer` | Character Error Rate for this sample |

| `entities` | Entity annotations from source dataset |
| `entity_cer` | Per-sample entity CER (-1.0 if no entities) |

## Entity CER

**Overall Entity CER:** 21.00%

| Category | CER |
|----------|-----|
| anatomy | 0.00% |
| biomarker | 44.44% |
| condition | 6.72% |
| drug | 25.61% |
| procedure | 27.27% |

---
*Generated by [Trelis Studio](https://studio.trelis.com)*

标签：
- Whisper语音识别模型（Whisper）
- 模型评估
- 语音
- 语音转文字
---
# 评估结果：Gemini 2.5 Pro

本数据集收录了基于Whisper评估框架生成的模型评估结果。

## 摘要

| 模型 | 词错误率（Word Error Rate, WER） | 字符错误率（Character Error Rate, CER） |
|-------|-----|-----|
| [google/gemini-2.5-pro](https://huggingface.co/google/gemini-2.5-pro) | 15.04% | 7.80% |

## 源数据

- **评估数据集**：[Trelis/eka-hard](https://huggingface.co/datasets/Trelis/eka-hard)
- **评估模型**：[google/gemini-2.5-pro](https://huggingface.co/google/gemini-2.5-pro)

## 数据列

| 列名 | 描述 |
|--------|-------------|
| `audio` | 音频样本（若源数据集提供） |
| `reference` | 基准转录文本（即真实标注） |
| `prediction` | 模型预测转录文本 |
| `wer` | 单样本词错误率 |
| `cer` | 单样本字符错误率 |
| `entities` | 源数据集自带的实体标注 |
| `entity_cer` | 单样本实体字符错误率（若无实体则取值为-1.0） |

## 实体字符错误率

**整体实体字符错误率**：21.00%

| 实体类别 | 字符错误率 |
|----------|-----|
| 解剖学（anatomy） | 0.00% |
| 生物标志物（biomarker） | 44.44% |
| 病症（condition） | 6.72% |
| 药物（drug） | 25.61% |
| 诊疗操作（procedure） | 27.27% |

---
*由[Trelis Studio](https://studio.trelis.com)生成*