five

Ugandan Cultural Context Benchmark (UCCB) Suite

收藏
github2025-07-27 更新2025-07-28 收录
下载链接:
https://github.com/Crane-AI-Labs/UCCB
下载链接
链接失效反馈
官方服务:
资源简介:
乌干达文化背景基准(UCCB)套件是第一个全面的问答数据集,旨在评估大型语言模型(LLMs)在乌干达多方面环境中的文化理解和推理能力。

The Uganda Cultural Context Benchmark (UCCB) suite is the first comprehensive question answering dataset designed to evaluate the cultural comprehension and reasoning capabilities of Large Language Models (LLMs) within the multifaceted Ugandan context.
创建时间:
2025-07-27
原始信息汇总

Ugandan Cultural Context Benchmark (UCCB) Suite 数据集概述

🎯 数据集简介

  • 目的:评估大型语言模型(LLMs)对乌干达多元文化的理解和推理能力。
  • 特点:首个针对乌干达文化背景的综合性问答数据集。

📊 数据集基本信息

  • 数据量:1,039个问答对。
  • 类别:涵盖24个文化领域。
  • 数据划分:仅包含测试集(评估基准)。
  • 获取地址:https://huggingface.co/datasets/CraneAILabs/UCCB

🏛️ 文化领域分类

  1. 建筑
  2. 服饰与着装文化
  3. 习俗
  4. 人口统计
  5. 经济
  6. 教育
  7. 节日
  8. 民间传说
  9. 食物与烹饪实践
  10. 地理
  11. 历史
  12. 语言
  13. 文学
  14. 媒体
  15. 音乐
  16. 著名关键人物
  17. 宗教
  18. 俚语与本地表达
  19. 体育
  20. 街头生活
  21. 传统与仪式
  22. 乌干达草药
  23. 价值增加
  24. 价值观与社会规范

🔧 使用方法

python from datasets import load_dataset dataset = load_dataset("CraneAILabs/UCCB") test_data = dataset["test"]

📋 评估框架

  • 评估标准
    • 事实准确性
    • 文化真实性
    • 清晰度
    • 完整性
  • 评分范围:1-5分
  • 评估工具:使用GPT-4o作为评判模型

📄 许可信息

  • 许可证类型:Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International (CC BY-NC-SA 4.0)

📚 引用格式

bibtex @misc{uccb_2025, author = {Lwanga Caleb and Gimei Alex and Kavuma Lameck and Kato Steven Mubiru and Roland Ganafa and Sibomana Glorry and Atuhaire Collins and JohnRoy Nangeso and Bronson Bakunga}, title = {The Ugandan Cultural Context Benchmark (UCCB) Suite}, year = {2025}, url = {https://huggingface.co/datasets/CraneAILabs/UCCB} }

🤝 贡献与联系

  • 贡献:欢迎通过GitHub仓库提交改进建议。
  • 联系方式:可通过Crane AI Labs团队联系。
搜集汇总
数据集介绍
main_image_url
构建方式
Ugandan Cultural Context Benchmark (UCCB) Suite数据集的构建旨在填补全球评估套件在本地化文化理解能力评估上的空白。研究团队通过系统性地收集涵盖乌干达24个文化领域的1,039个问答对,包括历史、语言、艺术、社会规范等多个维度,构建了这一综合性评估基准。数据集采用严格的测试集划分,确保评估结果的可靠性,并通过权威来源验证每个问答对的文化准确性和事实正确性。
特点
该数据集最显著的特点是其对乌干达文化的深度覆盖和细致分类。24个文化领域从建筑、服饰到草药、社会价值观,全面展现了乌干达文化的多样性。每个问答对都经过精心设计,既包含基础文化知识,也涉及复杂的文化推理问题。数据集采用标准化的JSON格式存储,便于研究人员直接使用Hugging Face库加载,并提供了详细的类别标注和元数据信息。
使用方法
研究人员可通过Hugging Face平台快速加载该数据集,使用提供的Python接口访问测试集中的问答对。数据集特别设计了基于LLM-as-a-Judge的评估框架,允许用户使用GPT-4等模型对回答质量进行多维度评分,包括事实准确性、文化真实性和回答完整性。用户只需修改评估脚本中的模型接口函数,即可对自定义模型进行文化理解能力的系统评估,并获取详细的性能分析报告。
背景与挑战
背景概述
Ugandan Cultural Context Benchmark (UCCB) Suite是首个专注于评估大型语言模型(LLMs)在乌干达多元文化环境中理解与推理能力的综合性问答数据集。该数据集由Crane AI Labs团队于2025年创建,旨在填补全球评估套件在本地化文化语境评估方面的空白。UCCB涵盖了乌干达文化的24个核心领域,包括历史、语言、艺术、社会动态等,为研究者提供了衡量模型文化认知深度的可靠工具。其创新性在于将文化特异性纳入AI评估框架,推动了语言模型在非西方语境下的适应性研究,对跨文化人工智能的发展具有重要意义。
当前挑战
UCCB面临的挑战主要体现在两个方面:领域问题层面,现有语言模型对乌干达文化特有的语言变体(如当地方言和俚语)、口述传统等非结构化知识的处理能力有限,且缺乏权威的本土知识库作为验证基准;数据构建层面,需平衡24个文化领域的覆盖深度与数据质量,确保问题设计既能反映文化复杂性,又保持评估的客观性。此外,标注过程涉及文化敏感内容的准确表述,要求本土专家参与验证,这对资源协调和知识标准化提出了较高要求。
常用场景
经典使用场景
Ugandan Cultural Context Benchmark (UCCB) Suite数据集专为评估大型语言模型在乌干达文化背景下的理解能力而设计。该数据集通过涵盖24个文化领域的1039个问答对,为研究者提供了一个全面的测试平台,用于衡量模型在历史、语言、艺术和社会动态等方面的表现。经典使用场景包括模型在跨文化理解任务中的性能评估,以及针对特定文化背景的微调实验。
解决学术问题
UCCB Suite解决了当前全球评估套件在本地化文化理解能力评估上的不足。通过提供权威的乌干达文化知识基准,该数据集帮助研究者量化模型在文化敏感性、语言细微差别识别和社会规范理解等方面的能力。其意义在于填补了非洲文化语境下AI评估工具的空白,为跨文化自然语言处理研究提供了重要基础设施。
衍生相关工作
基于UCCB Suite已衍生出多项重要研究,包括跨文化语言模型微调框架的构建、低资源语言环境下文化知识注入方法等。该基准启发了类似区域性文化评估工具的创建,如针对东非其他国家的文化基准研究。在模型架构方面,催生了专门处理文化特定信息的注意力机制改进方案。
以上内容由遇见数据集搜集并总结生成
5,000+
优质数据集
54 个
任务类型
进入经典数据集
二维码
社区交流群

面向社区/商业的数据集话题

二维码
科研交流群

面向高校/科研机构的开源数据集话题

数据驱动未来

携手共赢发展

商业合作