v4_adversarial_jailbreak_scenarios

kaggle2026-07-03 更新2026-07-24 收录

AI安全

对抗性越狱攻击

数据链接：

https://www.kaggle.com/datasets/barbaragaskins/v4-adversarial-jailbreak-scenarios 数据链接链接失效反馈

官方服务：

资源简介：

Adversarial red-team scenarios testing AI safety guardrails in Community Violenc

面向社区暴力（Community Violence）场景、用于测试AI安全护栏（AI safety guardrails）的对抗性红队（Adversarial red-team）测试场景

创建时间：

2026-07-03

BackdoorLLM

AI安全

后门攻击

BackdoorLLM是由新加坡管理大学、墨尔本大学和复旦大学联合创建的一个综合基准数据集，专门用于研究大型语言模型中的后门攻击。该数据集包括一个标准化的训练流程和多种攻击策略，如数据中毒、权重中毒、隐藏状态攻击和思维链攻击。数据集内容丰富，涉及多种模型架构和任务数据集，旨在全面评估和分析后门攻击的有效性和局限性。BackdoorLLM的应用领域主要集中在提高AI安全性，解决大型语言模型在敏感应用

arXiv2024-08-23 更新1100

giskardai/realharm

AI安全

内容过滤

RealHarm是一个包含与AI代理有害的真实世界交互的集合。它包括10个有害类别的有害样本，并为每个样本提供了一个安全版本。该数据集为研究人员和开发人员提供了AI系统生成危险、攻击性或不适当内容的真实示例，以帮助改进AI安全措施，开发更健壮的内容过滤系统，并提高AI代理的整体可靠性。

Hugging Face2025-04-16 更新110

enkryptai/Jamba-Alignment-Data

模型对齐

AI安全

AI21 Jamba-Specific Enkrypt Alignment数据集是Enkrypt AI专门为改善AI21 Jamba-1.5-mini模型校准效果而创建的目标数据集。该数据集通过使用SAGE-RT管道识别出的模型漏洞，专注于高风险故障模式，并包含了针对AI21 Jamba-1.5-mini模型的高风险对抗性提示和回应，如偏见、误导信息、不道德内容生成、歧视和有害语言等类别，旨在进行

Hugging Face2025-03-07 更新80

zachz/prompt-injection-benchmark

提示注入攻击检测

AI安全

--- license: mit task_categories: - text-classification language: - en tags: - prompt-injection - security - llm - ai-safety pretty_name: Prompt Injection Benchmark size_categories: - n<

Hugging Face2026-04-10 更新110

AI Security Engine

AI安全

威胁建模

AI Security Engine that understands architecture and models threats

kaggle2025-12-10 更新100