SEACrowd/x_fact

X-FACT是最大的公开多语言数据集，用于对自然存在的现实世界声明进行事实核查。该数据集支持多种语言，包括阿拉伯语、阿塞拜疆语、孟加拉语、德语、西班牙语、波斯语、法语、古吉拉特语、印地语、印尼语、意大利语、格鲁吉亚语、马拉地语、挪威语、荷兰语、旁遮普语、波兰语、葡萄牙语、罗马尼亚语、俄语、僧伽罗语、塞尔维亚语、阿尔巴尼亚语、泰米尔语和土耳其语。

X-FACT is the largest publicly available multilingual dataset for factual verification of naturally existing real-world claims. The dataset supports the task of fact-checking and includes languages such as Arabic, Azerbaijani, Bengali, German, Spanish, Persian, French, Gujarati, Hindi, Indonesian, Italian, Georgian, Marathi, Norwegian, Dutch, Punjabi, Polish, Portuguese, Romanian, Russian, Sinhalese, Serbian, Albanian, Tamil, and Turkish.

原始信息汇总

X Fact 数据集概述

语言

• 阿拉伯语 (ara)
• 阿塞拜疆语 (aze)
• 孟加拉语 (ben)
• 德语 (deu)
• 西班牙语 (spa)
• 波斯语 (fas)
• 法语 (fra)
• 古吉拉特语 (guj)
• 印地语 (hin)
• 印度尼西亚语 (ind)
• 意大利语 (ita)
• 格鲁吉亚语 (kat)
• 马拉地语 (mar)
• 挪威语 (nor)
• 荷兰语 (nld)
• 旁遮普语 (pan)
• 波兰语 (pol)
• 葡萄牙语 (por)
• 罗马尼亚语 (ron)
• 俄语 (rus)
• 僧伽罗语 (sin)
• 塞尔维亚语 (srp)
• 阿尔巴尼亚语 (sqi)
• 泰米尔语 (tam)
• 土耳其语 (tur)

支持的任务

• 事实核查 (Fact Checking)

数据集使用

使用 datasets 库

python from datasets import load_dataset dset = datasets.load_dataset("SEACrowd/x_fact", trust_remote_code=True)

使用 seacrowd 库

python import seacrowd as sc

使用默认配置加载数据集

dset = sc.load_dataset("x_fact", schema="seacrowd")

检查数据集的所有可用子集（配置名称）

print(sc.available_config_names("x_fact"))

使用特定配置加载数据集

dset = sc.load_dataset_by_config_name(config_name="<config_name>")

数据集主页

• X Fact 数据集主页

数据集版本

• 源版本: 1.0.0
• SEACrowd 版本: 2024.06.20

数据集许可证

• MIT

引用

bibtex @inproceedings{gupta2021xfact, title={{X-FACT: A New Benchmark Dataset for Multilingual Fact Checking}}, author={Gupta, Ashim and Srikumar, Vivek}, booktitle = "Proceedings of the 59th Annual Meeting of the Association for Computational Linguistics", month = jul, year = "2021", address = "Online", publisher = "Association for Computational Linguistics", }

@article{lovenia2024seacrowd, title={SEACrowd: A Multilingual Multimodal Data Hub and Benchmark Suite for Southeast Asian Languages}, author={Holy Lovenia and Rahmad Mahendra and Salsabil Maulana Akbar and Lester James V. Miranda and Jennifer Santoso and Elyanah Aco and Akhdan Fadhilah and Jonibek Mansurov and Joseph Marvin Imperial and Onno P. Kampman and Joel Ruben Antony Moniz and Muhammad Ravi Shulthan Habibi and Frederikus Hudi and Railey Montalan and Ryan Ignatius and Joanito Agili Lopo and William Nixon and Börje F. Karlsson and James Jaya and Ryandito Diandaru and Yuze Gao and Patrick Amadeus and Bin Wang and Jan Christian Blaise Cruz and Chenxi Whitehouse and Ivan Halim Parmonangan and Maria Khelli and Wenyu Zhang and Lucky Susanto and Reynard Adha Ryanda and Sonny Lazuardi Hermawan and Dan John Velasco and Muhammad Dehan Al Kautsar and Willy Fitra Hendria and Yasmin Moslem and Noah Flynn and Muhammad Farid Adilazuarda and Haochen Li and Johanes Lee and R. Damanhuri and Shuo Sun and Muhammad Reza Qorib and Amirbek Djanibekov and Wei Qi Leong and Quyet V. Do and Niklas Muennighoff and Tanrada Pansuwan and Ilham Firdausi Putra and Yan Xu and Ngee Chia Tai and Ayu Purwarianti and Sebastian Ruder and William Tjhi and Peerat Limkonchotiwat and Alham Fikri Aji and Sedrick Keh and Genta Indra Winata and Ruochen Zhang and Fajri Koto and Zheng-Xin Yong and Samuel Cahyawijaya}, year={2024}, eprint={2406.10118}, journal={arXiv preprint arXiv: 2406.10118} }

搜集汇总

背景与挑战

背景概述

X-FACT是一个用于事实核查的多语言数据集，覆盖包括阿拉伯语、阿塞拜疆语、孟加拉语等在内的25种语言，旨在验证现实世界中的自然存在主张。该数据集被描述为目前最大的公开多语言事实核查数据集，主要支持事实核查任务，并附有相关的学术论文引用。