ilmariky/WikiQA-100-fi

---
language:
- fi
license:
- gpl-3.0
multilinguality:
- monolingual
size_categories:
- n<1k
task_categories:
- question-answering
task_ids:
- extractive-qa
pretty_name: WikiQA-100-fi
tags:
- question-generation
train-eval-index:
- config: plain_text
task: question-answering
task_id: extractive_question_answering
splits:
train_split: train
eval_split: validation
col_mapping:
question: question
context: context
answers:
text: text
answer_start: answer_start
---
# Dataset Card for "WikiQA-100-fi"
### Dataset Summary
WikiQA-100-fi dataset contains 100 questions related to Finnish Wikipedia articles. The dataset is in the [SQuAD](https://rajpurkar.github.io/SQuAD-explorer/) format, and there are 10 questions for each category identified by the authors of SQuAD. Unlike SQuAD2.0, WikiQA-100-fi contains only answerable questions. The dataset is tiny compared to actual QA test sets, but it still gives an impression of the models' performance on purely native text data collected by a native speaker. The dataset was originally created as an evaluation set for models that had been mostly fine-tuned with automatically translated QA data. More information about the dataset and models created with it can be found [here](https://helda.helsinki.fi/handle/10138/344973).
## Dataset Structure
### Data Instances
Example data:
```
{
"title": "Folksonomia",
"paragraphs": [
{
"qas": [
{
"question": "Minkälaista sisältöä käyttäjät voivat luokitella folksonomian avulla?",
"id": "6t4ufel624",
"answers": [
{
"text": "www-sivuja, valokuvia ja linkkejä",
"answer_start": 155
}
],
"is_impossible": false
}
],
"context": "Folksonomia (engl. folksonomy) on yhteisöllisesti tuotettu, avoin luokittelujärjestelmä, jonka avulla internet-käyttäjät voivat luokitella sisältöä, kuten www-sivuja, valokuvia ja linkkejä. Etymologisesti folksonomia on peräisin sanojen \"folk\" (suom. väki) ja \"taxonomy\" (suom. taksonomia) leikkimielisestä yhdistelmästä."
}
]
}
```
### Data Fields

#### plain_text
- `id`: a `string` feature.
- `title`: a `string` feature.
- `context`: a `string` feature.
- `question`: a `string` feature.
- `answers`: a dictionary feature containing:
- `text`: a `string` feature.
- `answer_start`: a `int32` feature.
### Data Splits
| name | test|
|----------|----:|
|plain_text| 100|

### Citation Information
```
@MastersThesis{3241c198b3f147faacbc6d8b64ed9419,
author = "Kylli{\"a}inen, {Ilmari}",
title = "Neural Factoid Question Answering and Question Generation for Finnish",
language = "en",
address = "Helsinki, Finland",
school = "University of Helsinki",
year = "2022",
month = "jun",
day = "15",
url = "https://helda.helsinki.fi/handle/10138/344973"
}
```

语言：
- 芬兰语
许可证：
- GNU通用公共许可证第3.0版（gpl-3.0）
多语言属性：
- 单语言
样本规模类别：
- 样本量小于1000（n<1k）
任务类别：
- 问答（question-answering）
任务子类型：
- 抽取式问答（extractive-qa）
展示名称：WikiQA-100-fi
标签：
- 问题生成（question-generation）
训练-评估索引：
- 配置项：纯文本（plain_text）
任务：问答
任务子类型：抽取式问答（extractive_question_answering）
数据集划分：
训练集划分：train
评估集划分：validation
列映射：
问题（question）：question
上下文（context）：context
答案（answers）：
文本（text）：text
答案起始位置（answer_start）：answer_start

# "WikiQA-100-fi" 数据集卡片
### 数据集概览
WikiQA-100-fi数据集包含100条与芬兰语维基百科文章相关的问答样本。该数据集采用[SQuAD](https://rajpurkar.github.io/SQuAD-explorer/)格式构建，且按照SQuAD原作者设定的分类标准，每个分类包含10条问题。与SQuAD2.0不同，WikiQA-100-fi仅包含可回答的问题。尽管相较于主流问答测试集而言，该数据集规模极小，但它仍能有效展现模型在由母语者采集的纯本土文本数据上的性能表现。本数据集最初被设计为评估集，用于测试那些主要基于自动翻译的问答数据进行微调的模型。有关该数据集及基于其构建的模型的更多详细信息，可查阅[此处](https://helda.helsinki.fi/handle/10138/344973)。
## 数据集结构
### 数据实例
示例数据如下：

{
"title": "Folksonomia",
"paragraphs": [
{
"qas": [
{
"question": "Minkälaista sisältöä käyttäjät voivat luokitella folksonomian avulla?",
"id": "6t4ufel624",
"answers": [
{
"text": "www-sivuja, valokuvia ja linkkejä",
"answer_start": 155
}
],
"is_impossible": false
}
],
"context": "Folksonomia (engl. folksonomy) on yhteisöllisesti tuotettu, avoin luokittelujärjestelmä, jonka avulla internet-käyttäjät voivat luokitella sisältöä, kuten www-sivuja, valokuvia ja linkkejä. Etymologisesti folksonomia on peräisin sanojen "folk" (suom. väki) ja "taxonomy" (suom. taksonomia) leikkimielisestä yhdistelmästä."
}
]
}

### 数据字段
#### 纯文本配置
- `id`：字符串类型特征
- `title`：字符串类型特征
- `context`：字符串类型特征
- `question`：字符串类型特征
- `answers`：包含以下子字段的字典类型特征：
- `text`：字符串类型特征
- `answer_start`：int32类型特征
### 数据集划分
| 配置名称 | 样本数量 |
|----------|-------:|
| 纯文本 | 100 |
### 引用信息

@硕士论文{3241c198b3f147faacbc6d8b64ed9419,
作者 = "Kylliäinen, Ilmari（基利亚宁, 伊尔马里）",
标题 = "面向芬兰语的神经事实型问答与问题生成（Neural Factoid Question Answering and Question Generation for Finnish）",
语言 = "英语",
通讯地址 = "芬兰赫尔辛基",
学校 = "赫尔辛基大学（University of Helsinki）",
年份 = "2022",
月份 = "6月",
日期 = "15日",
链接 = "https://helda.helsinki.fi/handle/10138/344973"
}

原始信息汇总

WikiQA-100-fi 数据集概述

数据集总结

WikiQA-100-fi 数据集包含100个与芬兰语维基百科文章相关的问题。该数据集采用 SQuAD 格式，每个类别有10个问题。与SQuAD2.0不同，WikiQA-100-fi 仅包含可回答的问题。尽管数据集规模较小，但它仍能反映模型在纯本土文本数据上的表现。

数据集结构

数据实例

数据实例包括：

• title: 文章标题，字符串类型。
• context: 文章段落，字符串类型。
• question: 问题，字符串类型。
• answers: 答案，包含：
  • text: 答案文本，字符串类型。
  • answer_start: 答案在文本中的起始位置，整数类型。

数据字段

• id: 字符串类型。
• title: 字符串类型。
• context: 字符串类型。
• question: 字符串类型。
• answers: 字典类型，包含：
  • text: 字符串类型。
  • answer_start: 整数类型。

数据分割

• plain_text: 包含100个实例。

引用信息

@MastersThesis{3241c198b3f147faacbc6d8b64ed9419, author = "Kylli{"a}inen, {Ilmari}", title = "Neural Factoid Question Answering and Question Generation for Finnish", language = "en", address = "Helsinki, Finland", school = "University of Helsinki", year = "2022", month = "jun", day = "15", url = "https://helda.helsinki.fi/handle/10138/344973" }

搜集汇总

数据集介绍

构建方式

WikiQA-100-fi数据集专为芬兰语抽取式问答任务而设计，源自对芬兰语维基百科文章的深度挖掘。该数据集遵循SQuAD格式，由母语者精心构建，共包含100个问题，每个问题均对应一个可回答的答案。其构建过程强调数据的纯净性与本土性，旨在评估那些主要依赖自动翻译数据进行微调的模型在真实芬兰语文本上的表现。数据集中的问题均匀分布在SQuAD作者定义的十个类别中，每类十问，确保了内容的多样性与代表性。

特点

该数据集的核心特点在于其小巧而精炼的规模，仅含100个样本，却足以成为测试芬兰语问答模型性能的可靠基准。所有问题均为可回答类型，排除了SQuAD2.0中存在的无答案情况，简化了评估流程。此外，数据完全由母语者收集，保证了文本的自然性与文化准确性，为模型在纯正芬兰语环境下的表现提供了真实写照。这种设计使得WikiQA-100-fi成为评估自动翻译数据微调模型效果不可或缺的测试集。

使用方法

使用WikiQA-100-fi数据集时，可直接通过HuggingFace的datasets库加载，其结构包含'id'、'title'、'context'、'question'和'answers'等字段，其中'answers'字段包含文本及起始位置。数据集仅提供测试集，适用于抽取式问答模型的评估。用户可将模型预测的答案与标准答案进行比对，利用SQuAD评估脚本计算精确匹配和F1分数。由于数据规模较小，它特别适合快速验证模型在芬兰语上的泛化能力，或作为微调后性能的初步检验工具。

背景与挑战

背景概述

WikiQA-100-fi数据集由Ilmari Kylliäinen于2022年在赫尔辛基大学创建，旨在填补芬兰语机器阅读理解与问答领域的资源空白。该数据集包含100个基于芬兰语维基百科文章的问题，遵循SQuAD格式，每个问题对应一个可回答的答案，避免了不可回答问题的干扰。其核心研究问题在于评估那些主要依赖自动翻译数据进行微调的模型在纯正母语文本上的表现。作为一个小型但精心构建的评估集，WikiQA-100-fi为低资源语言的自然语言处理研究提供了重要基准，推动了芬兰语问答系统的发展，并凸显了语言多样性在NLP领域中的关键地位。

当前挑战

WikiQA-100-fi面临的挑战首先在于芬兰语作为低资源语言在问答领域的固有难题，包括数据稀缺、形态复杂以及缺乏大规模高质量标注语料，这限制了模型的泛化能力。其次，数据集的构建过程面临细致的人工筛选挑战：需要确保每个问题在芬兰语维基百科中具有明确答案，并覆盖SQuAD定义的多种类别，同时避免自动翻译带来的语义偏差。此外，仅有100个样本的规模虽便于快速评估，却难以全面反映模型在真实场景中的表现，可能导致过拟合或统计显著性不足的问题，这对研究结果的可靠性提出了考验。

常用场景

经典使用场景

WikiQA-100-fi作为面向芬兰语的抽取式问答数据集，其经典使用场景在于评估机器阅读理解模型在低资源语言上的表现。该数据集包含100个源自芬兰语维基百科文章的问题，遵循SQuAD格式，每个问题均附有精确的答案片段及其在上下文中的起始位置。研究者常将其用作测试集，以衡量经过自动翻译数据微调的模型在纯正母语文本上的泛化能力，从而揭示翻译数据与原生数据之间的语义鸿沟。

衍生相关工作

该数据集衍生的经典工作包括Ilmari Kylliäinen的硕士论文《Neural Factoid Question Answering and Question Generation for Finnish》，其中不仅构建了WikiQA-100-fi，还探索了基于神经网络的芬兰语事实性问答与问题生成方法。此外，该数据集常被用于对比实验，验证多语言预训练模型（如XLM-R、mBERT）在芬兰语上的微调效果，并催生了针对低资源语言问答的领域自适应策略研究，如结合回译与对抗训练以减少翻译噪声的影响。

数据集最近研究

最新研究方向

WikiQA-100-fi作为芬兰语抽取式问答与问题生成领域的精炼评估基准，正引领着小样本和低资源语言场景下的前沿探索。该数据集由母语者精心构建，涵盖100道芬兰语维基百科事实性问题，严格遵循SQuAD格式但仅包含可回答样本，为评估模型在纯正本土文本上的表现提供了独特窗口。当前研究热点聚焦于利用该基准验证自动翻译数据微调模型的泛化能力，特别是在芬兰语这一非主流语言中，通过对比原生数据与合成数据的效果差异，推动多语言问答系统的鲁棒性提升。此外，该数据集在问题生成任务中的价值日益凸显，研究者借助其结构化标注探索少样本条件下的生成质量与语义保真度，为低资源语言的自然语言处理技术突破提供了关键支撑。