LLM-SafeX: A 6-Language Adversarial & PI Attack

kaggle2026-02-25 更新2026-05-09 收录

大型语言模型安全评估

多语言对抗攻击

数据链接：

https://www.kaggle.com/datasets/alexanderhortua/llm-safex-a-5-language-adversarial-and-pi-attack 数据链接链接失效反馈

官方服务：

资源简介：

Lang (EN/ES/HI/ZH/FR/DE)

语言数据集（Language Dataset，简称Lang），涵盖英语、西班牙语、印地语、中文、法语、德语六种语言，对应语言代码为EN/ES/HI/ZH/FR/DE

创建时间：

2026-02-25

achand45/first-llama-eval

大型语言模型安全评估

对抗性检测

--- dataset_info: features: - name: prompt dtype: string - name: response dtype: string - name: eval_prompt dtype: string - name: eval_model_response dtype: string splits:

Hugging Face2026-03-22 更新130

giskardai/do-not-answer-scenarios

大型语言模型安全评估

对抗性测试

Do-Not-Answer Scenarios数据集是从Do-Not-Answer数据集派生的拒绝评估场景，序列化为giskard Scenario对象（每行一个JSON对象）。每行包含一个对齐良好的助手应拒绝的问题，并配有一个Conformity检查，用于断言代理是否拒绝或安全地拒绝。数据集包含939个场景，涵盖5个风险区域和12种伤害类型，仅用于评估（无训练数据）。

Hugging Face2026-06-19 更新90

Multimodal_Redteaming

红队测试

大型语言模型安全评估

Multimodal Redteaming是一个高质量的多语言红队测试数据集，旨在评估大型语言模型（LLM）对抗对抗性提示的鲁棒性和安全性。该数据集包含英语、法语、德语、意大利语和西班牙语五种语言的对话，涵盖纯文本和图像支持的提示，用于模拟现实攻击场景下AI系统对对抗性、有害或违反政策请求的响应。数据集由4,500个样本组成，采用JSON格式，每个样本都经过领域专家专业策划和评审，以确保标注一致性

Hugging Face2026-06-11 更新30

DukeCEICenter/Malicious_Educator_hcot_DeepSeek-R1

大型语言模型安全评估

对抗性提示生成

该数据集包含五个字段：分类（Category）、目标（Goal）、请求（Request）、人类协作思维（H_CoT）以及完整输入（Full_Input，即H-CoT与Request的结合）。训练集共有50个示例，数据集总大小为659698字节。具体描述未知。

Hugging Face2025-02-19 更新130

innodatalabs/rtb-toxigen-data-guard

大型语言模型安全评估

有毒内容检测

--- license: apache-2.0 language: en tags: - red teaming - not-for-all-audiences labels: domain: general genre: web skill: multiple choice safety: toxicity dataset_info: - config_n

Hugging Face2024-12-02 更新70

LLM-SafeX: A 6-Language Adversarial & PI Attack

资源简介：

相关数据集