joelniklaus/legalnero

LegalNERo是一个手动标注的语料库，用于罗马尼亚法律领域的命名实体识别。它提供了法律文档中提到的组织、地点、人物、时间和法律资源的黄金标注。此外，它还提供了标注为地点的命名实体的GEONAMES代码（在可以建立链接的情况下）。数据集支持命名实体识别任务，语言为罗马尼亚语，数据格式为jsonl，包含训练、验证和测试三个数据分割。数据集的创建过程包括从MARCELL-RO语料库中提取的370个文档，并由5名人类标注者在两位资深研究员的监督下进行标注。数据集的许可证为CC BY-NC-ND 4.0。

LegalNERo is a manually annotated corpus for named entity recognition (NER) in the Romanian legal domain. It provides gold-standard annotations for organizations, locations, persons, temporal expressions, and legal resources mentioned in legal documents. Additionally, it offers GEONAMES codes for location-labeled named entities where such linkages can be established. This dataset supports named entity recognition tasks, uses the Romanian language, adopts the jsonl data format, and includes three data splits: training, validation, and test. It was constructed from 370 documents extracted from the MARCELL-RO corpus, with annotation completed by five human annotators under the supervision of two senior researchers. The dataset is licensed under CC BY-NC-ND 4.0.

原始信息汇总

数据集概述

数据集名称

• 名称: Romanian Named Entity Recognition in the Legal domain (LegalNERo)
• 别名: LegalNERo

数据集基本信息

语言

• 语言: 罗马尼亚语 (ro)

许可证

• 许可证: Creative Commons Attribution Non Commercial No Derivatives 4.0 International (cc-by-nc-nd-4.0)

多语言性

• 多语言性: 单语种

数据集大小

• 大小: 10K<n<100K

源数据集

• 源数据集: 原始数据

任务类别

• 任务类别: 令牌分类
• 任务ID: 命名实体识别

标签

• 标签: 法律

数据集描述

数据集摘要

• 摘要: LegalNERo 是一个手动标注的罗马尼亚法律领域命名实体识别语料库，提供组织、地点、人物、时间和法律资源在法律文件中的黄金标注。此外，它还为标注为位置的命名实体提供GEONAMES代码（如有链接）。

支持的任务和排行榜

• 支持的任务: 命名实体识别

语言

• 语言来源: 法律文档从更大的MARCELL-RO语料库中提取，使用的是1881年至2021年间的罗马尼亚国家立法语言。

数据集结构

数据实例

• 文件格式: jsonl
• 数据分割: 训练、验证和测试
• 命名实体标注: 非重叠
• 过滤: 过滤掉仅包含一个单词（如 , 或-----）的行

数据字段

• 字段:
  • file_name: 相关标注文档的文件名
  • words: 通过spacy希腊语分词器（v 3.3.1）获得的令牌列表
  • ner: 命名实体标签列表，包括LEGAL, LOC, ORG, PER, TIME, O
  • 标签集: [O, B-TIME, I-TIME, B-LEGAL, I-LEGAL, B-ORG, I-ORG, B-LOC, I-LOC, B-PER, I-PER]

数据分割

• 分割详情:
  • 训练: 296文档 (80%), 7552句子
  • 验证: 37文档 (10%), 966句子
  • 测试: 37文档 (10%), 907句子

数据集创建

来源数据

• 数据收集: 从MARCELL-RO语料库中收集的370文档
• 语言生产者: 政治家和律师

标注过程

• 标注者: 5名人类标注者，由罗马尼亚科学院人工智能研究所的两位高级研究员监督
• 使用的工具: BRAT
• 标注内容: 组织、地点、人物、时间和法律资源
• 标注一致性: Cohen’s Kappa值为0.89

数据集使用考虑

• 数据集结构: 可能与原始数据集结构有显著差异，建议查看转换脚本convert_to_hf_dataset.py以了解从原始数据集到当前jsonl格式的转换步骤。

搜集汇总

数据集介绍

构建方式

LegalNERo数据集的构建根植于罗马尼亚法律文本的深度挖掘与精工细作。其原始语料源自MARCELL-RO语料库，该库囊括了自1881年至2021年间罗马尼亚国家立法的庞大文本集合，涵盖政府决议、部门命令、法令及法律等多种类型。研究团队从这一语料库中精选出370份法律文档，由五名人类标注员在两名资深研究员的督导下，采用BRAT标注工具进行手工标注。标注过程严格遵循预定义的实体类别，包括组织、地点、人物、时间及法律引用，并采用了IOB标注格式。为评估标注一致性，部分文档被多标注员重复标注，最终Cohen's Kappa系数达到0.89，彰显了标注结果的高度可靠性。此外，对于标注为地点的实体，数据集还附加了GEONAMES地理编码信息，进一步丰富了数据维度。最终，数据集被划分为训练集（296份文档）、验证集（37份文档）和测试集（37份文档），并以JSONL格式存储，便于后续处理。

特点

该数据集的核心特色在于其专为罗马尼亚法律领域定制的命名实体识别标注体系，兼具专业性与精细度。首先，它定义了五类核心实体——组织、地点、人物、时间及法律引用，其中法律引用类别内部还细分了组织与时间子实体，支持两种不同粒度的识别场景。其次，所有标注均为人工完成，且通过多标注员重叠标注与Cohen's Kappa系数验证，确保了数据质量的高标准。此外，数据集在预处理阶段已过滤掉仅含单个单词的噪音行，并采用spacy分词器进行标准化分词，提高了数据的一致性。值得注意的是，其语料时间跨度长达140年，涵盖了罗马尼亚法律语言的历史演变，为研究法律文本中的实体随时间变化提供了独特视角。最后，数据集以IOB格式呈现标签，标签集合包含11个类别，结构清晰，可直接用于序列标注模型的训练与评估。

使用方法

使用LegalNERo数据集进行模型训练与评估时，推荐采用标准的命名实体识别流程。用户可直接加载JSONL格式的文件，通过解析'words'字段获取分词后的文本序列，并利用'ner'字段对应的IOB标签进行监督学习。该数据集已预分为训练、验证和测试三个子集，比例分别为80%、10%和10%，便于直接划分实验数据。在模型输入阶段，建议使用与预处理一致的spacy分词器对文本进行分词，以保持与数据集标注的一致性。对于涉及法律领域的研究，可重点关注'LEGAL'类别的识别性能，或利用其子实体结构进行多任务学习。此外，数据集附带的GEONAMES编码可用于地理实体消歧或知识图谱构建。用户应遵守CC BY-NC-ND 4.0许可协议，仅限非商业用途，并在发表成果时引用原始论文及数据集的DOI信息。

背景与挑战

背景概述

在自然语言处理领域，法律文本的命名实体识别（NER）是一项极具挑战性的任务，因其涉及高度专业化的术语与复杂的实体类别。LegalNERo数据集由罗马尼亚科学院“Mihai Drăgănescu”人工智能研究所的研究团队于2021年创建，旨在推动罗马尼亚法律领域的命名实体识别研究。该数据集从MARCELL-RO语料库中精选370份罗马尼亚国家立法文件（覆盖1881年至2021年），由五名人工标注者在两名资深研究员监督下完成标注，标注类别涵盖组织、地点、人物、时间及法律资源，并额外提供GEONAMES编码以增强地理实体的可追溯性。其研究核心在于构建高精度、细粒度的法律NER基准，为低资源语言的司法智能化应用奠定基础。该数据集的发布显著提升了罗马尼亚法律文本的信息抽取能力，成为该领域的重要参考资源。

当前挑战

LegalNERo面临的核心挑战源于法律领域的特殊性与标注过程的复杂性。首先，法律文本中实体边界模糊、嵌套结构频繁（如法律资源内包含组织与时间子实体），且罗马尼亚语作为低资源语言缺乏大规模预训练模型，导致通用NER方法难以直接适配。其次，构建过程中需解决标注一致性问题：五名标注者对重叠文档的标注结果经Cohen's Kappa检验仅为0.89，虽属良好但仍存在分歧，尤其在法律资源与组织实体的区分上。此外，原始MARCELL-RO语料包含多层级自动标注（如词法、句法、术语），但自动NER工具的错误会引入噪声，需人工二次校正；而数据集仅涵盖370份文档，数据规模有限，难以覆盖法律文本的多样性，可能引入领域偏差。最终，许可证（CC BY-NC-ND 4.0）限制了商业与衍生用途，进一步制约了其在工业场景中的推广与社区协作。

常用场景

经典使用场景

LegalNERo数据集专为罗马尼亚法律领域的命名实体识别任务而设计，其经典使用场景聚焦于从法律文献中精准抽取组织机构、地理位置、人物姓名、时间表述以及法律援引等五类实体。该数据集以人工精标注的370份罗马尼亚国家立法文档为基础，涵盖从1881年至2021年的法律文本，为法律自然语言处理研究提供了高质量的黄金标准语料。研究者通常利用其IOB标注格式，训练序列标注模型以自动识别法律文本中的关键实体，进而支撑法律信息检索、文档结构化解析与知识图谱构建等下游任务。

实际应用

在实际应用中，LegalNERo可赋能罗马尼亚法律领域的智能化文档处理系统。例如，法律检索平台利用其训练的NER模型自动提取案件中的当事人、法院名称及法律条文引用，大幅提升法律文书的索引效率与检索精度。法律合规审查系统可借助实体识别快速定位合同中的关键法律资源与时间节点，辅助律师进行风险评估。此外，该数据集支持的法律知识图谱构建技术，能够将分散的法律文献转化为结构化的实体关系网络，服务于法律咨询机器人、判例分析工具等商业化产品，显著降低法律从业者的信息处理负担。

衍生相关工作

LegalNERo衍生了一系列重要的学术工作，推动了法律自然语言处理的发展。原始论文（Pais et al., 2021）详细阐述了语料构建与标注流程，并基于该数据集建立了罗马尼亚法律NER的基准性能。后续研究者将其纳入跨语言法律NER基准测试，如LEGAL-BERT等预训练模型在Romanian法律文本上的微调实验，验证了多语言模型在低资源法律领域的迁移能力。此外，该数据集被整合进Joel Niklaus等人构建的法律NER统一基准平台，促进了不同法律NER系统间的公平比较。这些衍生工作不仅深化了法律文本理解的研究，也为其他罗曼语族语言的类似任务提供了方法论参考。