Prompt Risk Dataset

kaggle2026-06-04 更新2026-08-19 收录

AI安全

对抗性提示风险

数据链接：

https://www.kaggle.com/datasets/ziya07/prompt-risk-dataset 数据链接链接失效反馈

官方服务：

资源简介：

Prompt Risk Dataset: Adversarial GAI Safety Data

提示词风险数据集（Prompt Risk Dataset）：对抗性生成式人工智能（Generative AI）安全数据

创建时间：

2026-06-04

BackdoorLLM

AI安全

后门攻击

BackdoorLLM是由新加坡管理大学、墨尔本大学和复旦大学联合创建的一个综合基准数据集，专门用于研究大型语言模型中的后门攻击。该数据集包括一个标准化的训练流程和多种攻击策略，如数据中毒、权重中毒、隐藏状态攻击和思维链攻击。数据集内容丰富，涉及多种模型架构和任务数据集，旨在全面评估和分析后门攻击的有效性和局限性。BackdoorLLM的应用领域主要集中在提高AI安全性，解决大型语言模型在敏感应用

arXiv2024-08-23 更新1100

giskardai/realharm

AI安全

内容过滤

RealHarm是一个包含与AI代理有害的真实世界交互的集合。它包括10个有害类别的有害样本，并为每个样本提供了一个安全版本。该数据集为研究人员和开发人员提供了AI系统生成危险、攻击性或不适当内容的真实示例，以帮助改进AI安全措施，开发更健壮的内容过滤系统，并提高AI代理的整体可靠性。

Hugging Face2025-04-16 更新110

AI Security Engine

AI安全

威胁建模

AI Security Engine that understands architecture and models threats

kaggle2025-12-10 更新100

zachz/prompt-injection-benchmark

提示注入攻击检测

AI安全

--- license: mit task_categories: - text-classification language: - en tags: - prompt-injection - security - llm - ai-safety pretty_name: Prompt Injection Benchmark size_categories: - n<

Hugging Face2026-04-10 更新110

Prompt Defender

AI安全

PromptInjection防护

Designed for developers, Prompt Defender offers robust protection against prompt injection attacks in AI-powered applications and websites. Secure your LLM and AI tool integrations with confidence. H

RapidAPI2024-04-02 更新100

Prompt Risk Dataset

资源简介：

相关数据集