Tabla. 3 - Artículos incluido en el análisis segun sus enfoques - 1

Figshare2023-05-18 更新2026-04-28 收录

网络安全AI应用

AI安全

数据链接：

https://figshare.com/articles/dataset/Picture3_png/22944764 数据链接链接失效反馈

官方服务：

资源简介：

Ciberseguridad y su relación con IA: Ventajas y Desventajas

创建时间：

2023-05-18

AgentHarm

AI安全

危害评估

AgentHarm是一个用于测量大型语言模型（LLM）代理有害性的基准测试。数据集包含两个配置：'harmless_benign'和'harmful'，分别对应无害和有害行为的数据文件。数据集的目的是评估和提高AI系统的安全性和安全性。数据集包含可能被认为是有害或冒犯性的内容，因此在使用时需要特别注意。数据集的许可证为MIT，但附加条款禁止将数据集和基准用于除改进AI系统安全性和安全性之外的任何目

Hugging Face2024-10-14 更新2640

Awesome-AI-For-Security

AI安全

网络安全研究资源

这是一个精心策划的资源合集，专门收集和整理应用于网络安全任务的AI工具、论文和数据集，重点关注大型语言模型（LLMs）、智能体（Agents）和多模态系统等现代AI技术及其在安全运营中的应用。合集内容涵盖了预训练数据集、安全基准与漏洞数据集等多个类别，旨在为安全研究提供全面的数据资源索引。

github2026-05-21 更新170

gretel-safety-alignment-en-v1

语言模型校准

AI安全

# Gretel Synthetic Safety Alignment Dataset This dataset is a synthetically generated collection of prompt-response-safe_response triplets that can be used \ for aligning language models. Created u

魔搭社区2026-04-30 更新90

WaveFake: DeepFake Audio Detection Dataset

DeepFake

AI安全

A dataset of 104,885 DeepFake audio clips for detection research and AI safety.

kaggle2023-08-09 更新400

Guardrail-Fingerprinting-Prompts

AI安全

prompt评估

这个数据集包含为了评估和识别AI安全guardrails而设计的prompt。数据集分为两个部分：prompts和judge_prompt，其中prompts包含259个用于测试guardrails的prompt，judge_prompt包含13个用于评估的judge prompt。

Hugging Face2025-11-16 更新160