five

CMNEE(Chinese Military News Event Extraction dataset)|自然语言处理数据集|军事新闻分析数据集

收藏
github2024-04-18 更新2024-05-31 收录
自然语言处理
军事新闻分析
下载链接:
https://github.com/Mzzzhu/CMNEE
下载链接
链接失效反馈
资源简介:
CMNEE(Chinese Military News Event Extraction dataset)是国防科技大学、东南大学和清华大学联合构建的一个大规模的、基于文档标注的开源中文军事新闻事件抽取数据集。该数据集包含17,000份文档和29,223个事件,所有事件均基于预定义的军事领域模式人工标注,包括8种事件类型和11种论元角色。数据集构建遵循两阶段多轮次标注策略,首先通过权威网站获取军事新闻文本并预处理,然后依据触发词字典进行预标注,经领域专家审核后形成事件模式。随后,通过人工分批、迭代标注并持续修正,直至满足既定质量标准。CMNEE作为首个专注于军事领域文档级事件抽取的数据集,对推动相关研究具有显著意义。
提供机构:
国防科技大学、东南大学和清华大学
创建时间:
2024-04-18
原始信息汇总

CMNEE数据集概述

数据集基本信息

  • 名称: CMNEE
  • 类型: 大规模文档级中文军事新闻事件抽取数据集
  • 文档数量: 17,000
  • 事件数量: 29,223
  • 事件类型: 8种
  • 论元角色类型: 11种
  • 数据来源: 开源中文军事新闻
  • 数据获取: Google Drive链接

数据集结构

  • 数据格式: JSON
  • 核心字段:
    • id: 实例唯一标识
    • text: 包含事件信息的文档文本
    • event_list: 标注的事件列表,每个事件包含event_type, trigger(触发词), arguments(论元)
    • coref_arguments: 实例中的共指论元列表,每个子列表指向文本中的同一对象

数据集应用

  • 相关竞赛: 用于支持“特定领域多事件信息联合抽取”竞赛,竞赛平台为DataFountain
  • 竞赛特点:
    • 数据分割: CMNEE分为训练集、验证集和测试集
    • 测试标签: 测试集无标签信息
    • 评估方法: 使用Precision, Recall和F1-score进行评估

数据集评估

  • 基准模型:
    • DCFEE-O & DCFEE-M
    • GreedyDec & Doc2EDAG
    • DEPPN
    • BERT+CRF
    • EEQA
    • TEXT2EVENT
    • PAIE
  • 数据处理: 相关处理数据可从Google Drive链接获取

引用信息

AI搜集汇总
数据集介绍
main_image_url
构建方式
CMNEE数据集的构建基于大规模的开放源中文军事新闻,涵盖了17,000份文档和29,223个事件。该数据集通过预定义的军事领域事件模式,包括8种事件类型和11种参数角色类型,进行手动标注。构建过程中采用了两阶段多轮的标注策略,以确保数据的高质量和一致性。
特点
CMNEE数据集的主要特点在于其大规模性和领域专一性。它不仅提供了丰富的军事新闻文本,还通过详细的标注确保了事件和参数的高精度识别。此外,数据集的结构化设计使其适用于多种事件提取模型的训练和评估,为军事领域的情报分析和决策支持提供了强有力的数据基础。
使用方法
使用CMNEE数据集时,用户可以通过提供的链接下载数据,并根据数据格式进行解析。数据集分为训练集、验证集和测试集,适合用于训练和评估事件提取模型。用户可以参考相关论文和竞赛网站上的详细信息,了解数据集的评估方法和基准模型,以便更好地利用该数据集进行研究和开发。
背景与挑战
背景概述
在军事领域,事件提取技术对于情报分析和决策支持至关重要。然而,该领域的数据稀缺性问题限制了事件提取模型的研究与发展。为应对这一挑战,CMNEE(Chinese Military News Event Extraction dataset)应运而生,由朱梦娜等人于2024年创建。CMNEE是一个大规模的文档级中文军事新闻事件提取数据集,包含17,000份文档和29,223个事件,这些事件均基于预定义的军事领域模式进行手动标注,涵盖8种事件类型和11种论元角色类型。该数据集不仅支持了国家国防科技大学大数据与决策实验室举办的‘特定领域多事件信息联合提取’竞赛,还为军事领域的事件提取研究提供了宝贵的资源,推动了相关技术的发展。
当前挑战
CMNEE数据集在构建过程中面临多重挑战。首先,军事领域的文本具有高度专业性和敏感性,导致数据获取和标注的复杂性增加。其次,事件类型的多样性和论元角色的复杂性要求精细的标注策略和高质量的标注人员。此外,数据集的评估方法需兼顾精确性、召回率和F1分数,以确保模型的公平性和有效性。尽管CMNEE在军事领域的事件提取研究中具有重要意义,但其性能仍需进一步提升,以应对军事文本中特有的挑战,如事件触发词的多样性和论元角色的模糊性。
常用场景
经典使用场景
在军事领域,CMNEE数据集的经典使用场景主要集中在文档级别的事件抽取任务中。该数据集通过大规模的军事新闻文本,提供了丰富的事件标注信息,包括事件类型和参数角色,从而为研究人员提供了宝贵的资源,以开发和评估事件抽取模型。这些模型可以用于自动识别和分类军事新闻中的关键事件,如军事演习、事故和伤亡等,极大地提升了信息处理的效率和准确性。
实际应用
在实际应用中,CMNEE数据集被广泛用于军事情报分析和决策支持系统。通过自动抽取和分析军事新闻中的事件信息,这些系统能够实时监控和预测军事动态,为军事指挥和战略规划提供数据支持。此外,该数据集还支持军事新闻的自动化处理和内容生成,提高了新闻报道的效率和准确性。
衍生相关工作
CMNEE数据集的发布催生了一系列相关研究工作,特别是在事件抽取和自然语言处理领域。例如,基于该数据集,研究人员开发了多种事件抽取模型,如DCFEE-O、GreedyDec和Doc2EDAG等,这些模型在军事文本处理中表现出色。此外,CMNEE还促进了跨领域的事件抽取技术交流,推动了事件抽取技术在不同领域的应用和发展。
以上内容由AI搜集并总结生成
用户留言
有没有相关的论文或文献参考?
这个数据集是基于什么背景创建的?
数据集的作者是谁?
能帮我联系到这个数据集的作者吗?
这个数据集如何下载?
点击留言
数据主题
具身智能
数据集  4098个
机构  8个
大模型
数据集  439个
机构  10个
无人机
数据集  37个
机构  6个
指令微调
数据集  36个
机构  6个
蛋白质结构
数据集  50个
机构  8个
空间智能
数据集  21个
机构  5个
5,000+
优质数据集
54 个
任务类型
进入经典数据集
热门数据集

中国区域地面气象要素驱动数据集 v2.0(1951-2020)

中国区域地面气象要素驱动数据集(China Meteorological Forcing Data,以下简称 CMFD)是为支撑中国区域陆面、水文、生态等领域研究而研发的一套高精度、高分辨率、长时间序列数据产品。本页面发布的 CMFD 2.0 包含了近地面气温、气压、比湿、全风速、向下短波辐射通量、向下长波辐射通量、降水率等气象要素,时间分辨率为 3 小时,水平空间分辨率为 0.1°,时间长度为 70 年(1951~2020 年),覆盖了 70°E~140°E,15°N~55°N 空间范围内的陆地区域。CMFD 2.0 融合了欧洲中期天气预报中心 ERA5 再分析数据与气象台站观测数据,并在辐射、降水数据产品中集成了采用人工智能技术制作的 ISCCP-ITP-CNN 和 TPHiPr 数据产品,其数据精度较 CMFD 的上一代产品有显著提升。 CMFD 历经十余年的发展,其间发布了多个重要版本。2019 年发布的 CMFD 1.6 是完全采用传统数据融合技术制作的最后一个 CMFD 版本,而本次发布的 CMFD 2.0 则是 CMFD 转向人工智能技术制作的首个版本。此版本与 1.6 版具有相同的时空分辨率和基础变量集,但在其它诸多方面存在大幅改进。除集成了采用人工智能技术制作的辐射和降水数据外,在制作 CMFD 2.0 的过程中,研发团队尽可能采用单一来源的再分析数据作为输入并引入气象台站迁址信息,显著缓解了 CMFD 1.6 中因多源数据拼接和气象台站迁址而产生的虚假气候突变。同时,CMFD 2.0 数据的时间长度从 CMFD 1.6 的 40 年大幅扩展到了 70 年,并将继续向后延伸。CMFD 2.0 的网格空间范围虽然与 CMFD 1.6 相同,但其有效数据扩展到了中国之外,能够更好地支持跨境区域研究。为方便用户使用,CMFD 2.0 还在基础变量集之外提供了若干衍生变量,包括近地面相对湿度、雨雪分离降水产品等。此外,CMFD 2.0 摒弃了 CMFD 1.6 中通过 scale_factor 和 add_offset 参数将实型数据化为整型数据的压缩技术,转而直接将实型数据压缩存储于 NetCDF4 格式文件中,从而消除了用户使用数据时进行解压换算的困扰。 本数据集原定版本号为 1.7,但鉴于本数据集从输入数据到研制技术都较上一代数据产品有了大幅的改变,故将其版本号重新定义为 2.0。CMFD 2.0 的数据内容与此前宣传的 CMFD 1.7 基本一致,仅对 1983 年 7 月以后的向下短/长波辐射通量数据进行了更新,以修正其长期趋势存在的问题。2021 年至 2024 年的 CMFD 数据正在制作中,计划于 2025 年上半年发布,从而使 CMFD 2.0 延伸至 2024 年底。

国家青藏高原科学数据中心 收录

中国1km分辨率逐月降水量数据集(1901-2023)

该数据集为中国逐月降水量数据,空间分辨率为0.0083333°(约1km),时间为1901.1-2023.12。数据格式为NETCDF,即.nc格式。该数据集是根据CRU发布的全球0.5°气候数据集以及WorldClim发布的全球高分辨率气候数据集,通过Delta空间降尺度方案在中国降尺度生成的。并且,使用496个独立气象观测点数据进行验证,验证结果可信。本数据集包含的地理空间范围是全国主要陆地(包含港澳台地区),不含南海岛礁等区域。为了便于存储,数据均为int16型存于nc文件中,降水单位为0.1mm。 nc数据可使用ArcMAP软件打开制图; 并可用Matlab软件进行提取处理,Matlab发布了读入与存储nc文件的函数,读取函数为ncread,切换到nc文件存储文件夹,语句表达为:ncread (‘XXX.nc’,‘var’, [i j t],[leni lenj lent]),其中XXX.nc为文件名,为字符串需要’’;var是从XXX.nc中读取的变量名,为字符串需要’’;i、j、t分别为读取数据的起始行、列、时间,leni、lenj、lent i分别为在行、列、时间维度上读取的长度。这样,研究区内任何地区、任何时间段均可用此函数读取。Matlab的help里面有很多关于nc数据的命令,可查看。数据坐标系统建议使用WGS84。

国家青藏高原科学数据中心 收录

中国逐日降水数据集(1961-2022,0.1°/0.25°/0.5°)

CHM_PRE数据集基于中国境内及周边1961至今共2839个站点的日降水观测,在传统的“降水背景场 + 降水比值场”的数据集构建思路上,尝试应用月值降水约束和地形特征校正,并依据中国范围内约4万个高密度站点2015–2019年的日降水量插值后数据进行精度评价。经评估认为,CHM_PRE可以较好的表征降水的空间变异性,其日值时间序列与高密度站点日值降水观测结果之间的相关系数中位数为0.78,均方根误差中位数为8.8 mm/d,KGE值中位数为0.69,与目前常用的降水数据集(CGDPA、CN05.1、CMA V2.0)有很好的一致性。 数据集的时间范围为1961年至今,空间分辨率为0.1°、0.25°和0.5°,经纬度范围为18°N–54°N, 72°E–136°E。

国家青藏高原科学数据中心 收录

TT100K - Tsinghua-Tencent 100K

TT100K数据集是一个用于交通标志检测和识别的大规模数据集,包含100,000张标注的交通标志图像。该数据集主要用于计算机视觉和自动驾驶领域的研究。

cg.cs.tsinghua.edu.cn 收录

MOOCs Dataset

该数据集包含了大规模开放在线课程(MOOCs)的相关数据,包括课程信息、用户行为、学习进度等。数据主要用于研究在线教育的行为模式和学习效果。

www.kaggle.com 收录