thu-coai/diasafety

--- license: apache-2.0 language: - en --- The DiaSafety dataset. [GitHub repo](https://github.com/thu-coai/DiaSafety). [Original paper](https://arxiv.org/abs/2110.08466). ```bib @inproceedings{sun-etal-2022-safety, title = "On the Safety of Conversational Models: Taxonomy, Dataset, and Benchmark", author = "Sun, Hao and Xu, Guangxuan and Deng, Jiawen and Cheng, Jiale and Zheng, Chujie and Zhou, Hao and Peng, Nanyun and Zhu, Xiaoyan and Huang, Minlie", booktitle = "Findings of ACL 2022", year = "2022" } ```--- 许可证：Apache-2.0 语言： - 英语 --- 本数据集为DiaSafety数据集。[GitHub仓库](https://github.com/thu-coai/DiaSafety)。[原始研究论文](https://arxiv.org/abs/2110.08466)。 bib @inproceedings{sun-etal-2022-safety, title = "对话模型的安全性研究：分类体系、数据集与基准测试", author = "孙浩、徐广轩、邓佳文、程佳乐、郑楚杰、周浩、彭南芸、朱小燕、黄民烈", booktitle = "国际计算语言学协会年会（ACL）2022 研究发现", year = "2022" }

原始信息汇总

数据集概述

数据集名称

DiaSafety dataset

数据集来源

• GitHub仓库: https://github.com/thu-coai/DiaSafety
• 原始论文: https://arxiv.org/abs/2110.08466

数据集语言

• 英语 (en)

许可证

Apache-2.0

相关出版物

• 标题: On the Safety of Conversational Models: Taxonomy, Dataset, and Benchmark
• 作者: Sun, Hao et al.
• 出版年份: 2022
• 会议: Findings of ACL 2022

搜集汇总

背景与挑战

背景概述

DiaSafety是一个英文对话安全数据集，由清华大学CoAI组发布，包含约11,000条对话数据，每条数据标注了上下文、回复、安全类别和安全性标签。该数据集用于对对话模型进行安全性评估和基准测试，涵盖多种安全风险类别如冒犯性用户、风险忽视和偏见观点等。