ai-agent-security-incidents

AI Agent 安全事件数据库（AI Agent Security Incident Database）v0.3 是一个专注于 AI 代理安全事件的开源数据集，包含 1,018 个已分类的事件，每日更新，采用 CC BY 4.0 许可。数据来源于 CVE/NVD、GitHub Advisories、HackerNews 以及 26 个安全源，通过全本地化流水线（使用 Ollama 和 Llama 3.1 8B 模型，仅 CPU）自动采集并分类。事件共分为 21 个类别，包括 API 漏洞（312 个）、未授权操作（144 个）、配置漏洞（141 个）、数据泄露（106 个）、提示注入（78 个）、沙箱逃逸（72 个）、代理逃逸（52 个）等。严重程度分布为：严重 81 个、高 765 个、中 156 个、低 16 个。所有事件均附带可验证的源 URL，分类错误率约为 4.8%。数据集以 CSV 和 JSON 格式提供，包含元数据和被拒绝的条目。该数据集适用于 AI 安全研究、事件分类模型训练、安全趋势分析等任务。The AI Agent Security Incident Database (v0.3) is an open-source dataset focusing on AI agent security incidents, containing 1,018 classified events, updated daily, and licensed under CC BY 4.0. Data is sourced from CVE/NVD, GitHub Advisories, HackerNews, and 26 other security sources, automatically collected and classified via a fully local pipeline (using Ollama and Llama 3.1 8B model, CPU only). Events are categorized into 21 classes, including API vulnerabilities (312), unauthorized operations (144), configuration vulnerabilities (141), data leaks (106), prompt injections (78), sandbox escapes (72), agent escapes (52), etc. Severity distribution: 81 critical, 765 high, 156 medium, 16 low. All events include verifiable source URLs, with a classification error rate of approximately 4.8%. The dataset is provided in CSV and JSON formats, including metadata and rejected entries. It is suitable for AI security research, incident classification model training, security trend analysis, and other tasks.

原始信息汇总

AI Agent 安全事件数据库 (v0.3)

数据集概览

• 许可协议: CC BY 4.0
• 任务类型: 文本分类
• 语言: 英语
• 数据规模: 少于 1,000 条
• 更新频率: 每日更新

核心内容

该数据集包含 1,018 条已分类的 AI Agent 安全事件记录，通过完全本地化的流水线（CPU-only，使用 Ollama + Llama 3.1 8B 模型）从 CVE/NVD、GitHub Advisories、HackerNews 等 26 个安全信息源 自动收集并分类。

关键统计（截至 2026 年 8 月 22 日）

• 1,018 条已接受事件（另有 51 条因过于模糊被拒绝）
• 82 条严重（critical）级别事件
• 受影响最多的厂商：NVIDIA (48)、OpenAI (46)、TensorFlow (44)、Microsoft (23)、Anthropic (13)
• 共 21 个事件类别，包含 LLM 发现的新模式
• 100% 的事件附带可验证的来源 URL
• 分类错误率：约 4.8%

事件类别分布

类别	数量
api_exploit	312
unauthorized_action	144
configuration_exploit	141
data_exfiltration	106
prompt_injection	78
sandbox_escape	72
agent_escape	52
command_injection	35
security_by_obscurity	34
path_traversal	10
denial_of_service	9
injection	7
cross_site_scripting	4
supply_chain	4
model_manipulation	4
slopsploit_attack_chain	1
adversarial_examples	1

分类器发现了原始分类体系中不存在的新类别，包括 slopsploit_attack_chain（利用存在漏洞的 LLM 生成代码进行攻击）和 adversarial_examples。

严重级别分布

严重级别	数量
critical	81
high	765
medium	156
low	16

方法论

1. 通过 API 和 RSS 从 26 个公开信息源自动收集
2. 使用 Llama 3.1 8B 模型（本地、设备端）进行 AI 分类
3. 归一化处理：统一值类型和严重级别
4. 质量过滤：拒绝模糊条目，拆分复合条目
5. 被拒绝的条目单独提供，保持透明度

已知局限性

• 自动化分类（8B 模型）可能存在错误
• 严重级别分布偏斜：75% 被归类为 high
• 部分 CVE 可能并非专门针对 AI Agent
• 覆盖时间范围为 2026 年，正在向历史数据扩展

数据文件

• ai_agent_security_incidents_v0.1.csv — 1,018 条已接受事件
• AISI_v0.1_20260822.json — 完整数据集，包含元数据及被拒绝的条目

版本更新记录

• v0.3（8月22日）：1,018 条事件，错误率 4.8%，发现新类别
• v0.2（8月20日）：981 条事件，26 个信息源，错误率 4.2%
• v0.1（8月18日）：98 条事件，10 个信息源，错误率 8.4%

相关资源

• 流水线及 n8n CVE 扫描器 v2.0 代码仓库：https://github.com/Legion33shadow/legion-n8n-shield

搜集汇总

数据集介绍

构建方式

该数据集由一套完全本地化的流水线构建，依托CPU-only环境中的Ollama与Llama 3.1 8B模型，从CVE/NVD、GitHub Advisories、HackerNews及26个安全资讯源自动采集原始信息，继而通过AI分类、归一化处理与严格的质量筛选，最终形成包含1,018条已标注事件的数据集。构建流程涵盖自动采集、模型分类、类型与严重性归一化、模糊条目剔除及复合事件拆分，并单独保留被拒条目以增强透明度。

特点

数据集具有多维度特征，涵盖21个事件类别，包括API利用、非法操作、配置漏洞等，并创新性地发现了LLM生成的脆弱代码所引发的slopsploit攻击链及对抗样本等新类别。严重性分布以高危为主（75%），每条记录均附有可验证的来源URL，整体错误率约4.8%。数据每日更新，覆盖2026年事件，并不断回溯历史，为AI代理安全领域提供了时效性强、类别丰富的实证基础。

使用方法

数据集以CSV和JSON两种格式提供，便于不同场景的集成与分析。用户可直接加载CSV文件进行统计或机器学习建模，或利用JSON格式获取包含元数据及被拒条目的完整信息。适用于安全研究、漏洞分析、AI代理风险评估等领域，可支持分类模型训练、趋势检测及新兴攻击模式的识别。数据集的官方GitHub仓库提供了完整流水线及CVE扫描器代码，便于复现与扩展。

背景与挑战

背景概述

随着人工智能技术的飞速发展，AI代理（AI agents）在各行各业的应用日益广泛，其安全性问题也随之凸显。在此背景下，一项针对AI代理安全事件的系统性数据库构建工作于2026年启动，由独立研究者通过全本地化流水线（基于CPU-only环境，借助Ollama与Llama 3.1 8B模型）持续从CVE/NVD、GitHub Advisories、HackerNews等26个安全来源汇聚数据，形成了涵盖1,018起已分类事件的权威资源库。该数据库于2026年8月18日发布初版，历经多次迭代，至8月22日已具备每日更新能力，核心研究问题在于系统性地分类、量化并揭示AI代理面临的安全威胁模式。其影响力体现在为AI安全社区提供了首个公开的、基于实证的事件统计基础，促进了针对薄弱环节的防御策略研发，并为后续研究提供了数据支撑。

当前挑战

该数据集面临的挑战涉及多个层面。首先，在领域问题上，AI代理安全事件因其攻击面复杂（包括API利用、提示注入、沙箱逃逸等）而难以全面覆盖与准确分类；分类体系需随新型攻击模式（如slopsploit_attack_chain）的出现而动态演进，而传统安全数据源对AI特有漏洞的标注不足，导致自动收集的样本中混杂非AI代理特有问题。其次，构建过程中的挑战包括：采用自动化流水线（8B LLM分类器）带来的固有误差（约4.8%），需通过人工审核与质量过滤来缓解；严重度评估存在偏斜（75%被标记为高），需校准；以及数据源覆盖范围有限（集中于2026年），历史事件的回溯性扩展尚需努力。此外，数据更新频率与规模增长间的平衡，以及确保每起事件具备可验证来源URL的可追溯性，同样构成持续挑战。

常用场景

经典使用场景

该数据集作为AI代理安全领域的首个系统化事件汇编，为研究者提供了宝贵的基准资源。其收录的1,018起已分类安全事件，覆盖API利用、未授权操作、配置漏洞、数据外泄、提示注入等21个细分类别，并附带严重性分级与可验证来源链接。该数据集常被用于构建安全事件分类模型、训练异常检测算法以及评估AI代理系统的潜在风险，为学术研究提供了标准化的实证基础。

实际应用

在实际应用中，该数据集为AI安全从业者提供了即时的威胁情报源。企业可利用其识别高频攻击向量（如API利用、配置错误），优先修补高风险暴露；安全团队可基于事件分类和严重性数据优化入侵检测规则，并校准自动化防御机制。此外，数据集中新发现的攻击模式（如slopsploit攻击链）有助于开发更健壮的AI代码生成工具与安全审计框架。

衍生相关工作

该数据集已催生多项衍生研究，例如基于事件类别的自动分类器优化（从原始8B模型迭代至更高精度版本）、针对特定漏洞类型的深度分析（如提示注入与沙箱逃逸的关联性研究），以及构建预测性安全模型以预警未识别的攻击链。其公开的管道和n8n扫描器也启发了社区开发自定义的实时监控工具，推动AI安全从被动响应向主动防御演进。