semeru/Code-Code-CloneDetection-POJ104|代码克隆检测数据集|编程语言处理数据集

该数据集用于CodeXGLUE的代码克隆检测任务，基于POJ-104数据集，旨在通过比较源代码的语义相似性来识别代码克隆。数据集包含源代码、问题标签和索引，分为训练、验证和测试集，总计52,000个示例，涵盖104个问题。评估模型性能的指标是MAP@R，即平均精度均值。

原始信息汇总

数据集概述

基本信息

• 许可证: MIT
• 编程语言: C
• 日期: 2015年，源自论文POJ-104
• 污染可能性: 很可能
• 数据大小: 标准分词器

数据集来源与处理

• 数据集从CodeXGLUE导入，并使用其脚本进行预处理。

数据集位置

• 在Semeru中的位置: /nfs/semeru/semeru_datasets/code_xglue/code-to-code/Clone-detection-POJ-104

任务定义

• 任务: 给定一段代码和一组候选代码，返回语义相同的Top K代码。
• 评估指标: MAP@R分数，其中R在本数据集中为499。

数据格式

• 每个文件的每一行代表一个函数，包含以下信息:
  • code: 源代码
  • label: 源代码解决的问题编号
  • index: 示例索引

数据统计

	#问题数	#示例数
训练	64	32,000
开发	16	8,000
测试	24	12,000

引用

@inproceedings{mou2016convolutional, title={Convolutional neural networks over tree structures for programming language processing}, author={Mou, Lili and Li, Ge and Zhang, Lu and Wang, Tao and Jin, Zhi}, booktitle={Proceedings of the Thirtieth AAAI Conference on Artificial Intelligence}, pages={1287--1293}, year={2016} }

AI搜集汇总

数据集介绍

构建方式

SEMERU的Code-Code-CloneDetection-POJ104数据集，源自CodeXGLUE，经过特定的预处理脚本处理而成。该数据集以C语言编程问题为对象，采用标准的分词器对代码进行预处理，构建起一个包含训练集、验证集和测试集的完整数据体系。数据集的构建，不仅涉及代码文本的抽取，还包括对应问题的编号以及示例索引的整理，旨在为代码语义相似性检测任务提供基准数据。

特点

本数据集具备鲜明的特点，其数据质量极高，尽管存在污染的可能性，但经过严格的筛选和处理，确保了数据的可靠性和一致性。数据集规模适中，包含了64个问题的32000个训练示例，以及分别针对验证和测试的8000和12000个示例。此外，数据集以MAP@R评分机制作为模型评估标准，使得该数据集在代码克隆检测领域具有标杆性。

使用方法

使用SEMERU的Code-Code-CloneDetection-POJ104数据集，用户需访问Semeru平台指定路径/nfs/semeru/semeru_datasets/code_xglue/code-to-code/Clone-detection-POJ-104进行数据获取。数据以文本格式存储，其中每一行代表一个函数，包含源代码、问题编号和示例索引等信息。用户可根据自身需求，利用这些信息进行模型的训练、验证和测试，以评估模型在代码语义相似性检测任务上的性能。

背景与挑战

背景概述

SEMERU的Code-Code-CloneDetection-POJ104数据集，源自2015年的POJ数据集，其研究成果发表在《Thirtieth AAAI Conference on Artificial Intelligence》。该数据集由Mou Lili等研究人员开发，旨在解决编程语言处理中的代码克隆检测问题，对编程语言处理领域产生了显著影响。数据集采用C语言编写，包含训练、开发和测试三个部分，共计52,000个代码示例，覆盖64个编程问题，是研究代码相似度检测的重要资源。

当前挑战

该数据集在构建过程中所面临的挑战主要包括数据污染问题，标记为'Very Likely'，这意味着数据集中可能含有噪声数据，对模型的训练和评估造成干扰。此外，数据集在处理代码的语义相似度时，如何精确地衡量代码间的相似性，以及如何有效地从大量代码中检索到最相似的代码，是当前研究的主要挑战。评价模型性能的MAP@R指标要求模型在检索相似代码时达到高精度，这对于算法设计提出了较高的要求。

常用场景

经典使用场景

在程序语言处理领域，semeru/Code-Code-CloneDetection-POJ104数据集的典型应用场景是进行代码克隆检测。此任务旨在给定一段代码和一组候选代码，从中找出与其在语义上最为接近的Top K代码。该数据集通过精确度平均值的均值（MAP@R）来评估模型性能，这对于提高代码检索质量和代码库维护效率具有重要意义。

解决学术问题

该数据集解决了学术研究中关于代码相似性识别和代码复用检测的核心问题。通过Code-Code-CloneDetection-POJ104数据集，研究者能够开发出更为高效的算法来识别具有相同功能的代码片段，这对于代码审查、缺陷识别以及软件维护等领域具有显著意义，有助于提升软件工程的研究与实践水平。

衍生相关工作

基于该数据集，已衍生出众多经典工作，如Mou等人在2016年的研究中提出了一种基于卷积神经网络的代码处理方法，该方法能够有效处理程序语言中的树状结构，为后续的代码理解和生成任务提供了新的视角和解决方案。此类研究推动了程序语言处理技术的进步，为软件工程领域带来了深远影响。