himalaya-ai/nepali-deva-ocr-eval

该数据集名为“Nepali Deva Eval”，是一个用于评估尼泊尔语Devanagari OCR（光学字符识别）质量的保留切片数据集，专门针对直接尼泊尔语提取任务。它属于图像到文本任务类别，支持尼泊尔语、印地语和马拉地语，并包含OCR、Devanagari和glm-ocr相关标签。数据集的核心内容包括id（唯一样本标识符）、image（图像文件的相对路径）和ocr（真实文本标签）。数据来源100%来自“nepali_ocr_printed”默认训练集，主要用于微调和评估，例如通过GLM OCR工作空间生成。主要原始文件为*.ocr.jsonl格式，包含图像、OCR结果、来源仓库和语言/来源列；可选文件为*.sharegpt.json格式，包含消息和图像。该数据集旨在帮助评估OCR模型在尼泊尔语Devanagari文本提取中的性能。The dataset is named Nepali Deva Eval and serves as a held-out slice for evaluating the quality of Nepali Devanagari OCR (Optical Character Recognition) in direct Nepali extraction tasks. It falls under the image-to-text task category, supports languages including Nepali, Hindi, and Marathi, and is tagged with OCR, Devanagari, and glm-ocr. Core columns include id (unique sample identifier), image (relative path to the image file), and ocr (ground-truth text label). The data is sourced 100% from the nepali_ocr_printed default training split. It is generated from the GLM fine-tuning workspace and is intended for fine-tuning and evaluation purposes, with main raw files in *.ocr.jsonl format (containing image, ocr, source_repo, and language/provenance columns) and optional files in *.sharegpt.json format (with messages and images). The dataset aims to assess OCR model performance in extracting Nepali Devanagari text.

搜集汇总

数据集介绍

构建方式

该数据集专为评估尼泊尔语天城文OCR模型性能而构建，源自GLM微调工作空间中的`scripts/sample_ocr_eval_sets.py`脚本。数据集从`nepali_ocr_printed`数据源的默认训练集中，通过确定性方法抽取保留样本，确保这些样本不参与模型的训练过程。数据以Parquet格式存储于`nepali_deva_eval.viewer.ocr.parquet`文件中，包含测试集拆分，为模型提供独立的验证基准。

特点

数据集聚焦于尼泊尔语、印地语及马拉地语的天城文OCR识别，包含图像路径、OCR文本标签及来源仓库等核心字段。每个样本具有唯一标识符，并附带了`image`、`ocr`及语言溯源列。可选的文件格式`*.sharegpt.json`进一步整合了消息与图像信息，便于微调或评估任务。其构建方式确保了评估的公平性，避免训练数据泄露。

使用方法

用户可直接加载Parquet文件中的测试拆分进行OCR模型评估，利用`image`与`ocr`列完成图像到文本的比对任务。对于需要微调的场景，可选用`*.sharegpt.json`文件，其中`messages`与`images`字段支持多轮对话式训练。使用时需注意避免将保留样本混入训练流程，以维持评估的客观性与准确性。

背景与挑战

背景概述

尼泊尔语-天城文OCR评估数据集（nepali-deva-ocr-eval）由Himalaya AI研究团队创建，旨在为天城文光学字符识别（OCR）提供标准化的评估基准。天城文作为尼泊尔语、印地语、马拉地语等多种南亚语言的书写系统，其复杂连字结构和字符变体给OCR技术带来了严峻挑战。该数据集聚焦于直接提取尼泊尔语文本质量的评估，源于GLM微调工作流，通过确定性留出样本构建。其出现填补了低资源语言OCR评估数据集的空白，为南亚语言数字化、文档分析和多语言NLP系统提供了关键验证工具，推动了天城文OCR技术的可复现研究。

当前挑战

该数据集面临的核心挑战包括：1）天城文字符的视觉复杂性，如大量合字、修饰符和字形变体，导致传统OCR模型识别率低下；2）数据稀缺性，尼泊尔语等低资源语言缺乏大规模标注语料，训练集仅依赖单一印刷源，易造成模型过拟合；3）构建过程中需从有限源中确定性划分留出集，确保不污染训练流程，同时保持分布代表性；4）多语言混合场景（尼泊尔语、印地语、马拉地语）加剧了字符混淆，尤其共享天城文基底却存在词汇和拼写差异，对跨语言OCR泛化能力提出额外要求。

常用场景

经典使用场景

该数据集专为评估天城体文光学字符识别（OCR）模型而设计，聚焦于尼泊尔语、印地语和马拉地语等使用天城体文字的语言。其经典使用场景包括作为标准化的测试集，用于衡量OCR系统在真实天城体文本图像上的转录准确性。研究人员常以此数据集为基准，对比不同OCR架构、预处理策略或后处理校正方法的性能，特别关注模型对印刷体天城体字符的识别鲁棒性。数据集提供的图像与对应文本标签对，使得端到端的OCR模型评估变得直观且可重复。

实际应用

在实际应用中，该数据集直接服务于尼泊尔及印度地区的历史文献数字化工程、政府文书自动录入和现代印刷媒体内容解析等场景。例如，将天城体OCR模型部署于图书馆档案系统，可高效完成古老手稿或报纸的文本转录。此外，其还可用于开发辅助阅读工具，帮助视障人士通过图像识别获取文字信息。在快递分拣、证件识别等需要处理多语种地址或姓名的业务中，基于该数据集训练的OCR模型能够显著提升对尼泊尔语等文字的识别准确率。

衍生相关工作

该数据集衍生出的相关工作主要围绕天城体OCR模型的优化与拓展。经典工作包括基于Vision Transformer或ConvNeXt架构的端到端识别模型，它们在该数据集上进行微调与评估。此外，还有研究利用该数据集结合数据增强技术（如合成文本图像生成）来提升模型泛化能力。部分工作进一步将其扩展至场景文本识别领域，探索在自然场景图像中检测并识别天城体文字的方法。这些衍生工作共同推动了低资源文字OCR技术的进步，并成为后续多语言OCR模型联合训练的重要参考基准。