five

mcanoglu/defect-detection

收藏
Hugging Face2024-01-18 更新2024-03-04 收录
下载链接:
https://hf-mirror.com/datasets/mcanoglu/defect-detection
下载链接
链接失效反馈
官方服务:
资源简介:
该数据集包含用于微调大型语言模型(LLM)以进行缺陷检测的安全和易受攻击的代码。数据来源于CVEFixes仓库。

该数据集包含用于微调大型语言模型(LLM)以进行缺陷检测的安全和易受攻击的代码。数据来源于CVEFixes仓库。
提供机构:
mcanoglu
原始信息汇总

数据集概述

数据集描述

该数据集包含用于微调大型语言模型(LLM)进行缺陷检测的安全代码和脆弱代码。

数据来源

数据来源于CVEFixes仓库中的工作。

引用信息

@inproceedings{bhandari2021:cvefixes, title = {{CVEfixes: Automated Collection of Vulnerabilities and Their Fixes from Open-Source Software}}, booktitle = {{Proceedings of the 17th International Conference on Predictive Models and Data Analytics in Software Engineering (PROMISE 21)}}, author = {Bhandari, Guru and Naseer, Amara and Moonen, Leon}, year = {2021}, pages = {10}, publisher = {{ACM}}, doi = {10.1145/3475960.3475985}, copyright = {Open Access}, isbn = {978-1-4503-8680-7}, language = {en} }

搜集汇总
数据集介绍
main_image_url
构建方式
在软件安全领域,缺陷检测模型的训练高度依赖于高质量的正负样本数据。该数据集源自CVEFixes仓库,后者系统性地从开源软件中收集了已知漏洞及其修复补丁。构建过程通过提取修复前后的代码变更,将修复前的脆弱代码标记为缺陷样本,修复后的安全代码标记为正常样本,从而形成适用于大语言模型微调的成对数据。这种基于真实漏洞库的构建策略确保了样本的生态有效性和多样性。
特点
该数据集的突出特点在于其样本的二元对立性——每组数据包含语义相近但安全性迥异的代码片段,这为模型学习缺陷的细微模式提供了理想训练材料。数据覆盖多种编程语言和漏洞类型,来源真实开源项目,具有高度的领域代表性和实际应用价值。此外,基于权威CVE编号的溯源机制保证了每对样本的漏洞背景可查证,增强了数据集的可信度。
使用方法
使用者可将该数据集直接用于微调预训练语言模型,实现代码缺陷的自动检测任务。推荐采用对比学习或二分类的训练范式,利用安全与脆弱代码对作为正负样本。数据以标准格式存储,可便捷加载至HuggingFace Transformers等框架。评估时建议采用精确率、召回率等指标,并注意划分训练集与测试集以避免数据泄露,从而客观衡量模型的泛化能力。
背景与挑战
背景概述
在软件安全领域,缺陷检测是保障代码质量与系统稳健性的核心任务。随着大型语言模型在代码理解与生成中的广泛应用,如何利用其强大的语义表征能力自动识别代码中的安全漏洞,成为近年来的研究热点。mcanoglu/defect-detection数据集应运而生,其构建基于CVEFixes这一权威开源漏洞修复数据库,由研究人员在2021年通过系统化收集与整理而成。该数据集聚焦于区分安全代码与脆弱代码,旨在为微调语言模型以执行细粒度缺陷检测提供高质量训练资源。其发布推动了深度学习在软件安全自动化分析中的实用化进程,为后续研究提供了可复现的基准与数据支撑。
当前挑战
该数据集所面临的挑战首先体现在领域问题的复杂性上:缺陷检测需在代码语义层面精准捕捉潜在脆弱模式,而漏洞往往隐藏于逻辑分支、边界条件或第三方库调用中,模型易受样本不平衡与上下文依赖影响。其次,在数据构建过程中,从CVEFixes中提取安全与非安全代码对时,需确保配对样本的语义等价性,避免因修复前后代码结构差异引入噪声;此外,跨项目、跨语言的通用性不足,以及漏洞标注的细粒度缺失,均限制了模型在实际开发场景中的泛化能力与可解释性。
常用场景
经典使用场景
在软件安全领域,缺陷检测是保障代码质量与系统鲁棒性的关键环节。mcanoglu/defect-detection数据集汇集了源自CVEfixes项目的安全与脆弱代码样本,为微调大型语言模型(LLM)以实现自动化缺陷识别提供了高质量的训练资源。该数据集的经典使用场景在于训练LLM区分安全代码与包含已知漏洞的代码,从而构建智能化的代码审查工具。研究人员可基于此数据集进行监督学习,使模型掌握漏洞模式的特征表示,进而在大规模代码库中高效定位潜在缺陷。
衍生相关工作
该数据集衍生了一系列经典工作,包括基于Transformer架构的漏洞分类模型(如VulBERTa和CodeBERT的微调变体),以及结合图神经网络(GNN)的代码依赖关系分析系统。研究者还利用该数据集探索了跨项目漏洞迁移学习,验证了预训练模型在不同编程语言间的泛化能力。此外,CVEfixes项目本身作为数据源,催生了多项关于漏洞修复模式挖掘与自动补丁生成的研究,进一步拓展了缺陷检测的技术边界。
数据集最近研究
最新研究方向
在软件安全领域,缺陷检测作为保障代码质量与系统韧性的关键环节,正经历从传统静态分析向大语言模型驱动范式的深刻转变。mcanoglu/defect-detection数据集基于CVEfixes项目精心构建,汇集了来自真实开源软件的安全与脆弱代码片段,为微调大语言模型进行精确缺陷识别提供了高质量训练资源。当前前沿研究聚焦于利用该数据集训练具备上下文理解能力的检测模型,探索跨语言、跨项目的漏洞泛化能力,并尝试结合补丁生成任务形成端到端的安全修复流水线。该数据集的出现不仅推动了自动化漏洞挖掘从规则匹配向语义理解跃迁,更与软件供应链安全、AI辅助代码审计等热点事件紧密呼应,为构建可信赖的智能开发环境奠定了数据基石。
以上内容由遇见数据集搜集并总结生成
二维码
社区交流群
二维码
科研交流群
商业服务