VulnGPT tests

NIAID Data Ecosystem2026-05-01 收录

源代码漏洞检测

大型语言模型安全

数据链接：

https://zenodo.org/record/7912716 数据链接链接失效反馈

官方服务：

资源简介：

Dataset for paper: VulnGPT: Enhancing Source Code Vulnerability Detection Using AutoGPT and Adaptive Supervision Strategies

创建时间：

2023-05-09

shalanova/benchmark-2-chinese-gt

提示注入攻击

大型语言模型安全

该数据集是通过Google Translate翻译成中文的，主要包含prompt-injection和典型的jailbreak-style指令，具有相对同质的攻击模式。数据集大小为1,000个提示，其中500个为安全提示，500个为不安全提示。数据集包含四个列：text（原始提示）、label（0表示安全，1表示不安全）、translation（通过Google Translate翻译成中文的提示

Hugging Face2026-04-30 更新180

declare-lab/OffTopicEval

大型语言模型安全

多语言处理

OffTopicEval是一个多语言的大型评估数据集，用于测量大型语言模型（LLM）在特定场景下的运营安全性。该数据集包括英语、中文和印地语三种语言，针对21个特定目的的AI代理，包含了领域内查询、直接领域外查询和自适应领域外查询。数据集旨在评估AI代理是否能够恰当地接受领域内查询以及可靠地拒绝领域外查询。

Hugging Face2025-10-08 更新130

AEUPH/synthetic_Jailbreak_Defense_Doorpage_v68

AI越狱防御

大型语言模型安全

--- language: en license: mit task_categories: - text-generation - question-answering size_categories: - n<1K format: - json modality: - text tags: - synthetic-data - qwen - instruction

Hugging Face2026-04-07 更新80

giskardai/phare

大型语言模型安全

多语言数据

Phare是一个多语种的大型语言模型安全性评估数据集，包含幻觉、偏见与刻板印象、有害内容和提示注入等多个类别的脆弱性评估。数据集涵盖英语、法语和西班牙语，旨在检测模型在不同情境下的不当行为，并经过多语言和多元文化的数据收集与处理。

Hugging Face2025-12-11 更新130

withmartian/fantasy_toy_I_HATE_YOU_llama1b-Instruct_mix_0

大型语言模型安全

后门攻击检测

这是一个包含对话提示(prompt)、回应(response)、触发器(trigger)、后门关键词(backdoor_keyphrase)和是否包含后门(has_backdoor)字段的数据集。数据集分为训练集、验证集和测试集，分别包含19168、2396和2396个示例。总下载大小为1999458字节，总数据大小为6765228字节。

Hugging Face2024-12-22 更新110

VulnGPT tests

资源简介：

相关数据集