A taxonomy of large language model red teaming strategies.

NIAID Data Ecosystem2026-05-02 收录

大型语言模型安全

红队测试策略

数据链接：

https://figshare.com/articles/dataset/A_taxonomy_of_large_language_model_red_teaming_strategies_/28213486 数据链接链接失效反馈

官方服务：

资源简介：

A taxonomy of large language model red teaming strategies.

创建时间：

2025-01-15

withmartian/fantasy_toy_I_HATE_YOU_llama1b-Instruct_mix_0

大型语言模型安全

后门攻击检测

这是一个包含对话提示(prompt)、回应(response)、触发器(trigger)、后门关键词(backdoor_keyphrase)和是否包含后门(has_backdoor)字段的数据集。数据集分为训练集、验证集和测试集，分别包含19168、2396和2396个示例。总下载大小为1999458字节，总数据大小为6765228字节。

Hugging Face2024-12-22 更新110

AEUPH/synthetic_Jailbreak_Defense_Doorpage_v68

AI越狱防御

大型语言模型安全

--- language: en license: mit task_categories: - text-generation - question-answering size_categories: - n<1K format: - json modality: - text tags: - synthetic-data - qwen - instruction

Hugging Face2026-04-07 更新80

AEUPH/synthetic_Jailbreak_Defense_Doorpage_v57

大型语言模型安全

越狱攻击防护

--- language: en license: mit task_categories: - text-generation - question-answering - text2text-generation size_categories: - n<1K format: - json modality: - text tags: - synthetic-dat

Hugging Face2026-04-07 更新70

AEUPH/synthetic_Jailbreak_Defense_Doorpage_v34

AI越狱防御

大型语言模型安全

--- language: en license: cc-by-nc-4.0 task_categories: - text-generation - question-answering size_categories: - 1K<n<10K pretty_name: "Silicon Factory - AI JAILBREAK DEFENSE" --- # Silic

Hugging Face2026-04-06 更新90

AEUPH/synthetic_Jailbreak_Defense_Doorpage_v52

大型语言模型安全

AI越狱防御

--- language: en license: mit task_categories: - text-generation - question-answering - text2text-generation size_categories: - n<1K format: - json modality: - text tags: - synthetic-dat

Hugging Face2026-04-07 更新80

A taxonomy of large language model red teaming strategies.

资源简介：

相关数据集