Ronglidd/claude-sonnet-4.6-100000X-filtered

Name: Ronglidd/claude-sonnet-4.6-100000X-filtered
Creator: Ronglidd
Published: 2026-05-03T03:11:04+08:00

Hugging Face2026-04-29 更新2026-05-03 收录

语言模型安全

无害响应数据集

数据链接：

https://hf-mirror.com/datasets/Ronglidd/claude-sonnet-4.6-100000X-filtered 数据链接链接失效反馈

官方服务：

资源简介：

完全无害的样本，且无拒绝内容

completely no harmful samples, and no refusals

提供机构：

该数据集包含约27,000个训练条目和3,000个测试条目。每个条目包含一个元组（x, y0, y1），并附有注释，指明哪个回应更有帮助，哪个更安全，以及对每个回应的二元安全指示器。此外，该数据集被用于评估SafeDPO算法在减少不安全回应和提升回应有用性方面的性能。该任务旨在训练和测试语言模型在安全对齐方面的算法。

arXiv300

nayohan/KoSBi

语言模型安全

社会偏见

该数据集名为KoSBi，旨在通过缓解社会偏见风险来提高大型语言模型应用的安全性。数据集包含人口统计类别、人口统计组、上下文、英文上下文、句子、英文句子、上下文标签、上下文子标签、句子标签、句子子标签和注释的人口统计信息等特征。数据集分为训练集、验证集和测试集，分别包含54393、6799和6801个示例。数据集的许可证为MIT，主要语言为韩语，标签为安全。

Hugging Face2024-07-07 更新220

dralsarrani/prompt_safety

语言模型安全

文本分类

Prompt Safety Aggregation Dataset是一个经过策划的提示安全示例聚合数据集，收集自三个高质量来源：SG-Bench、do_not_answer_en.csv和SalKhan12/prompt-safety-dataset。该数据集旨在支持安全感知语言模型的发展和评估。它包含英语语言的双标签安全注释（例如，安全、不安全），并适用于文本分类、提示过滤、安全评估和越狱检测等

Hugging Face2025-11-03 更新120

sqrti/SPA-VL

语言模型安全

有害内容过滤

SPA-VL是一个大规模、高质量且多样化的对齐数据集，旨在提高视觉语言模型（VLMs）的安全性对齐。数据集涵盖了6个有害领域、13个类别和53个子类别，包含100,788个样本，每个样本包括问题、图像、选择的回答和拒绝的回答。数据集的目标是在不损害VLMs核心能力的情况下，增强其无害性和帮助性。数据集的结构包括训练、验证和测试部分，每个部分都有详细的字段描述。数据集的创建过程包括从LAION-5B

Hugging Face2024-07-03 更新280

KoSBi

偏见减少

语言模型安全

该数据集旨在通过提供多个人口统计和上下文相关的特征，如人口统计类别、人口统计组、上下文、上下文英文、句子、句子英文、上下文标签、上下文子标签、句子标签和句子子标签等，来减少大型语言模型应用中的社会偏见风险，确保安全性。数据集分为训练、验证和测试三个部分，分别包含54393、6799和6801个样本。数据集的语言为韩语，标签包括安全性。

Hugging Face2024-07-07 更新190

Ronglidd/claude-sonnet-4.6-100000X-filtered

资源简介：

相关数据集