Awesome-AI-For-Security

这是一个精心策划的资源合集，专门收集和整理应用于网络安全任务的AI工具、论文和数据集，重点关注大型语言模型（LLMs）、智能体（Agents）和多模态系统等现代AI技术及其在安全运营中的应用。合集内容涵盖了预训练数据集、安全基准与漏洞数据集等多个类别，旨在为安全研究提供全面的数据资源索引。This is a carefully curated resource collection that specifically compiles and organizes AI tools, academic papers, and datasets for cybersecurity tasks, with a focus on modern AI technologies including large language models (LLMs), AI Agents, and multimodal systems, as well as their applications in security operations. The collection spans multiple categories such as pre-trained datasets, security benchmarks and vulnerability datasets, aiming to provide a comprehensive data resource index for cybersecurity research.

原始信息汇总

数据集详情总结

概述

该页面是一个名为 Awesome AI for Security 的精选资源列表，专注于将人工智能（特别是大语言模型、智能体、多模态系统）应用于网络安全任务。页面汇集了工具、论文和数据集，为安全研究和应用提供参考。

数据集

预训练数据集

• Primus-FineWeb：基于 FineWeb 使用分类器筛选的网络安全语料库，包含约25.7亿 tokens。

指令微调与能力数据集

• Primus-Reasoning：网络安全推理任务数据集，包含 o1 模型生成的推理步骤和反思过程。
• Primus-Instruct：由专家策划的网络安全场景指令数据集，涵盖多样化任务，响应由 GPT-4o 生成。

安全基准与漏洞数据集

• AI AppSec Index：开源参考数据集，包含6个结构化子数据集，覆盖AI修复基准、ASPM供应商矩阵、AI生成代码中的48个以上真实CVE漏洞、欧盟CRA合规映射、SAST误报率等。支持 JSON/CSV 格式，并提供交互式仪表板。

基准与评估

漏洞评估

• AutoPatchBench：自动化修复模糊测试发现漏洞的基准。
• SecLLMHolmes：系统化评估大语言模型漏洞检测能力的自动化框架。

威胁情报

• CTI-Bench：评估大语言模型在网络威胁情报任务上表现的基准套件。
• SECURE：面向工业控制系统安全知识的实用网络安全场景数据集。

进攻性安全

• NYU CTF Bench：Docker化的CTF挑战仓库，支持与大语言模型智能体自动交互。
• Practical AI Security Course：AI/LLM安全课程，聚焦于将AI/LLM应用于安全问题和创建渗透测试智能体。

通用安全知识

• CyberSecEval 4：综合性基准套件，用于评估大语言模型网络安全漏洞，支持多厂商评估。
• SecBench：最大规模的全面基准数据集，区分知识型问题和推理型问题。
• MMLU Computer Security：通用MMLU基准中专门针对计算机安全的评估子集。
• MMLU Security Studies：通用MMLU基准中针对安全研究的评估子集。

其他资源

• 页面还收录了多个专业安全模型（如 Foundation-Sec 系列、Llama-Primus 系列）、学术论文、工具框架以及安全智能体（如 HackingBuddyGPT、HackGPT 等），均与人工智能应用于安全领域相关。

搜集汇总

数据集介绍

构建方式

在人工智能与网络安全深度融合的背景下，Awesome-AI-For-Security数据集应运而生。该数据集以开源社区驱动的协作方式构建，系统梳理了现代AI技术（如大语言模型、智能体及多模态系统）在安全运营中的应用资源。其构建过程遵循精选策展原则，通过分类学框架将分散的模型、数据集、基准测试、学术论文及工具框架进行结构化整合，形成涵盖预训练语料、指令微调数据、安全基准与漏洞数据集等多元层次的资源体系。数据集还引入了专家筛选机制，确保收录内容的前沿性与实用性，从而构建起一个动态更新的知识生态。

特点

该数据集的核心特色在于其全景式的覆盖广度与深度。它不仅囊括了Foundation-Sec、Llama-Primus等专用安全模型的详细信息，还整合了Primus-FineWeb等经过分类器筛选的网络安全语料库，以及CTI-Bench、SecBench等多维度评估基准。尤为突出的是，数据集对安全智能体（如HackingBuddyGPT）和红队工具（如HackGPT）的专门收录，填补了现有资源在自动化攻防领域的空白。此外，其结构化的层级目录设计（如威胁情报、漏洞评估、通用安全知识等子领域）使用户能够精准定位所需资源，显著提升了在安全研究中的检索效率。

使用方法

使用者可通过GitHub仓库的清晰目录导航，直接访问每个条目附带的原始链接（如Hugging Face模型卡、论文DOI或工具GitHub页面）。针对模型应用，数据集提供了从基础模型到指令微调版本（如Foundation-Sec-8B-Instruct）的渐进式选择路径，支持根据任务复杂度（如SOC自动化、威胁情报分析）灵活调用。对于基准测试，用户可结合SECURE、NYU CTF Bench等配套框架进行标准化评估。数据集还鼓励通过贡献指南参与资源扩展，持续优化其作为安全AI研究知识枢纽的实用性。

背景与挑战

背景概述

随着网络攻击手段的日益复杂和隐蔽，传统基于规则的安全防御体系逐渐显露出局限性。人工智能，尤其是大型语言模型、智能体与多模态系统的崛起，为网络安全领域带来了范式变革的契机。在此背景下，Awesome-AI-For-Security数据集应运而生，由AmanPriyanshu等研究者于2024年创建并维护，旨在系统性地梳理并整合应用于安全任务的AI工具、论文与数据集。该资源聚焦于现代AI技术在安全运营中的前沿应用，如威胁情报分析、漏洞自动修复与红队测试，为学术界和工业界提供了宝贵的知识索引与基准参考，有力推动了AI赋能安全这一交叉领域的标准化进程。

当前挑战

该数据集所面临的挑战主要源于网络安全与AI技术深度融合的复杂性。首先，领域问题层面，如何利用AI模型准确理解并推理多样化的安全场景，如从海量日志中提取威胁情报、在代码中精准识别零日漏洞，仍是核心难题。其次，构建过程中，高质量、带标注的安全语料极度匮乏，且数据涉及敏感信息，导致预训练与指令微调数据集的构建成本高昂。此外，不同安全任务的评估标准尚未统一，现有基准如SecBench虽具规模，但仍需更全面的多维度评测体系来客观衡量AI模型的真实安全能力与鲁棒性。

常用场景

经典使用场景

在网络安全领域，该数据集最经典的使用场景是作为大规模语言模型（LLM）安全能力的评估基准。通过整合诸如CTI-Bench、SecBench、CyberSecEval 4等多元化评估框架，研究者能够系统性地衡量模型在威胁情报分析、漏洞识别、渗透测试等任务上的表现。这些基准不仅涵盖了从基础安全知识到复杂推理的多个维度，还为安全模型的横向比较提供了标准化平台，推动了AI在安全运营中的可信应用。

实际应用

在实际应用中，该数据集支撑了安全运营自动化的多项落地场景。例如，Foundation-Sec系列模型被部署为SOC（安全运营中心）的智能副驾，辅助分析师进行威胁告警研判、事件响应和漏洞修复。此外，基于该数据集训练的AI代理（如HackingBuddyGPT）能够自主执行渗透测试任务，显著提升了红队评估的效率。在代码安全领域，AutoPatchBench等基准则推动了自动化漏洞修复工具的发展，帮助企业降低安全修复的人工成本。

衍生相关工作

围绕该数据集已衍生出一系列具有影响力的学术工作。例如，Foundation-Sec技术报告详细阐述了如何通过领域自适应训练将通用LLM（如Llama-3.1）转化为安全专用模型，其方法被后续研究广泛借鉴。Primus论文作为首个开源网络安全数据集集合，首次系统性地解决了预训练语料短缺问题，激发了后续如CyberMetric等基准的构建。此外，SecLLMHolmes研究揭示了LLM在漏洞识别中的非鲁棒性缺陷，推动了对抗性评估方法的发展，为安全AI的可信性研究开辟了新方向。