thu-coai/diasafety

---
license: apache-2.0
language:
- en
---

The DiaSafety dataset. [GitHub repo](https://github.com/thu-coai/DiaSafety). [Original paper](https://arxiv.org/abs/2110.08466).

```bib
@inproceedings{sun-etal-2022-safety,
title = "On the Safety of Conversational Models: Taxonomy, Dataset, and Benchmark",
author = "Sun, Hao and
Xu, Guangxuan and
Deng, Jiawen and
Cheng, Jiale and
Zheng, Chujie and
Zhou, Hao and
Peng, Nanyun and
Zhu, Xiaoyan and
Huang, Minlie",
booktitle = "Findings of ACL 2022",
year = "2022"
}
```

原始信息汇总

数据集概述

数据集名称

DiaSafety dataset

数据集来源

• GitHub仓库: https://github.com/thu-coai/DiaSafety
• 原始论文: https://arxiv.org/abs/2110.08466

数据集语言

• 英语 (en)

许可证

Apache-2.0

相关出版物

• 标题: On the Safety of Conversational Models: Taxonomy, Dataset, and Benchmark
• 作者: Sun, Hao et al.
• 出版年份: 2022
• 会议: Findings of ACL 2022

搜集汇总

背景与挑战

背景概述

DiaSafety是一个英文对话安全数据集，由清华大学CoAI组发布，包含约11,000条对话数据，每条数据标注了上下文、回复、安全类别和安全性标签。该数据集用于对对话模型进行安全性评估和基准测试，涵盖多种安全风险类别如冒犯性用户、风险忽视和偏见观点等。