mcsb_master

kaggle2026-04-10 更新2026-05-09 收录

AI安全

元认知评估

数据链接：

https://www.kaggle.com/datasets/surfiniaburger/mcsb-master 数据链接链接失效反馈

官方服务：

资源简介：

Metacognitive Coding Safety Benchmark (MCSB)

元认知代码安全基准（Metacognitive Coding Safety Benchmark，简称MCSB）

创建时间：

2026-04-08

BackdoorLLM

AI安全

后门攻击

BackdoorLLM是由新加坡管理大学、墨尔本大学和复旦大学联合创建的一个综合基准数据集，专门用于研究大型语言模型中的后门攻击。该数据集包括一个标准化的训练流程和多种攻击策略，如数据中毒、权重中毒、隐藏状态攻击和思维链攻击。数据集内容丰富，涉及多种模型架构和任务数据集，旨在全面评估和分析后门攻击的有效性和局限性。BackdoorLLM的应用领域主要集中在提高AI安全性，解决大型语言模型在敏感应用

arXiv2024-08-23 更新1100

zachz/prompt-injection-benchmark

提示注入攻击检测

AI安全

--- license: mit task_categories: - text-classification language: - en tags: - prompt-injection - security - llm - ai-safety pretty_name: Prompt Injection Benchmark size_categories: - n<

Hugging Face2026-04-10 更新110

AI Security Engine

AI安全

威胁建模

AI Security Engine that understands architecture and models threats

kaggle2025-12-10 更新100

Alignment-Lab-AI/StampyAI-alignment-data

AI对齐

AI安全

--- language: - en license: mit size_categories: - 10K<n<100K task_categories: - question-answering pretty_name: alignment-research-dataset dataset_info: features: - name: id dtype: string -

Hugging Face2024-06-12 更新230

giskardai/realharm

AI安全

内容过滤

RealHarm是一个包含与AI代理有害的真实世界交互的集合。它包括10个有害类别的有害样本，并为每个样本提供了一个安全版本。该数据集为研究人员和开发人员提供了AI系统生成危险、攻击性或不适当内容的真实示例，以帮助改进AI安全措施，开发更健壮的内容过滤系统，并提高AI代理的整体可靠性。

Hugging Face2025-04-16 更新110