vinhtran2611/lmsys-chat-1m_filtered

---
dataset_info:
features:
- name: conversation_id
dtype: string
- name: model
dtype: string
- name: conversation
list:
- name: content
dtype: string
- name: role
dtype: string
- name: turn
dtype: int64
- name: language
dtype: string
- name: openai_moderation
list:
- name: categories
struct:
- name: harassment
dtype: bool
- name: harassment/threatening
dtype: bool
- name: hate
dtype: bool
- name: hate/threatening
dtype: bool
- name: self-harm
dtype: bool
- name: self-harm/instructions
dtype: bool
- name: self-harm/intent
dtype: bool
- name: sexual
dtype: bool
- name: sexual/minors
dtype: bool
- name: violence
dtype: bool
- name: violence/graphic
dtype: bool
- name: category_scores
struct:
- name: harassment
dtype: float64
- name: harassment/threatening
dtype: float64
- name: hate
dtype: float64
- name: hate/threatening
dtype: float64
- name: self-harm
dtype: float64
- name: self-harm/instructions
dtype: float64
- name: self-harm/intent
dtype: float64
- name: sexual
dtype: float64
- name: sexual/minors
dtype: float64
- name: violence
dtype: float64
- name: violence/graphic
dtype: float64
- name: flagged
dtype: bool
- name: redacted
dtype: bool
splits:
- name: train
num_bytes: 3235778.21952
num_examples: 1232
download_size: 2597724
dataset_size: 3235778.21952
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
---

数据集信息:
特征字段:
- 字段名: 对话ID
数据类型: 字符串
- 字段名: 模型
数据类型: 字符串
- 字段名: 对话序列
数据类型: 列表类型:
- 字段名: 内容
数据类型: 字符串
- 字段名: 角色
数据类型: 字符串
- 字段名: 对话轮次
数据类型: 64位整型
- 字段名: 语言
数据类型: 字符串
- 字段名: OpenAI内容审核
数据类型: 列表类型:
- 字段名: 审核分类
数据类型: 结构体:
- 字段名: 骚扰
数据类型: 布尔型
- 字段名: 骚扰/威胁性
数据类型: 布尔型
- 字段名: 仇恨言论
数据类型: 布尔型
- 字段名: 仇恨/威胁性
数据类型: 布尔型
- 字段名: 自残
数据类型: 布尔型
- 字段名: 自残指导
数据类型: 布尔型
- 字段名: 自残意图
数据类型: 布尔型
- 字段名: 色情内容
数据类型: 布尔型
- 字段名: 涉及未成年人的色情内容
数据类型: 布尔型
- 字段名: 暴力内容
数据类型: 布尔型
- 字段名: 暴力/图像化
数据类型: 布尔型
- 字段名: 分类得分
数据类型: 结构体:
- 字段名: 骚扰
数据类型: 64位浮点型
- 字段名: 骚扰/威胁性
数据类型: 64位浮点型
- 字段名: 仇恨言论
数据类型: 64位浮点型
- 字段名: 仇恨/威胁性
数据类型: 64位浮点型
- 字段名: 自残
数据类型: 64位浮点型
- 字段名: 自残指导
数据类型: 64位浮点型
- 字段名: 自残意图
数据类型: 64位浮点型
- 字段名: 色情内容
数据类型: 64位浮点型
- 字段名: 涉及未成年人的色情内容
数据类型: 64位浮点型
- 字段名: 暴力内容
数据类型: 64位浮点型
- 字段名: 暴力/图像化
数据类型: 64位浮点型
- 字段名: 是否触发标记
数据类型: 布尔型
- 字段名: 是否已脱敏
数据类型: 布尔型
数据集划分:
- 划分名称: 训练集
占用字节数: 3235778.21952
样本总数: 1232
下载大小: 2597724
数据集存储大小: 3235778.21952
配置项:
- 配置名称: 默认配置
数据文件:
- 划分: 训练集
文件路径: data/train-*

原始信息汇总

数据集概述

数据集信息

特征

• conversation_id: 对话ID，数据类型为字符串。
• model: 模型名称，数据类型为字符串。
• conversation: 对话内容，包含以下子特征：
  • content: 对话内容，数据类型为字符串。
  • role: 角色，数据类型为字符串。
• turn: 对话轮次，数据类型为整数（int64）。
• language: 语言，数据类型为字符串。
• openai_moderation: OpenAI内容审核，包含以下子特征：
  • categories: 分类，包含多个布尔类型子特征：
    • harassment: 骚扰
    • harassment/threatening: 威胁性骚扰
    • hate: 仇恨
    • hate/threatening: 威胁性仇恨
    • self-harm: 自残
    • self-harm/instructions: 自残指导
    • self-harm/intent: 自残意图
    • sexual: 性相关
    • sexual/minors: 涉及未成年人的性相关
    • violence: 暴力
    • violence/graphic: 暴力描述
  • category_scores: 分类分数，包含多个浮点数类型子特征：
    • harassment: 骚扰分数
    • harassment/threatening: 威胁性骚扰分数
    • hate: 仇恨分数
    • hate/threatening: 威胁性仇恨分数
    • self-harm: 自残分数
    • self-harm/instructions: 自残指导分数
    • self-harm/intent: 自残意图分数
    • sexual: 性相关分数
    • sexual/minors: 涉及未成年人的性相关分数
    • violence: 暴力分数
    • violence/graphic: 暴力描述分数
  • flagged: 是否标记，数据类型为布尔值。
• redacted: 是否被编辑，数据类型为布尔值。

数据分割

• train: 训练集，包含1232个样本，总大小为3235778.21952字节。

数据集大小

• download_size: 下载大小为2597724字节。
• dataset_size: 数据集总大小为3235778.21952字节。

配置

• default: 默认配置，包含训练集数据文件路径为data/train-*。

搜集汇总

数据集介绍

构建方式

在人工智能对话系统蓬勃发展的背景下，vinhtran2611/lmsys-chat-1m_filtered数据集应运而生。该数据集源自大规模多轮对话平台，通过精密的筛选机制构建而成。其原始数据经过严格的预处理流程，特别引入了OpenAI内容审核接口，对每条对话进行了多维度安全评估，涵盖骚扰、仇恨、自残、色情及暴力等敏感类别。最终，依据审核结果对数据进行过滤与清洗，确保了数据内容的合规性与高质量，形成了包含千余条样本的纯净对话集合。

特点

该数据集在对话生成研究领域展现出鲜明的特色。其核心特征在于每条对话记录均附有详尽的结构化元数据，不仅包含对话ID、模型来源、对话轮次和语言标识，更集成了全面的内容安全标签与置信度评分。这种设计使得数据集超越了单纯的文本集合，成为一个自带丰富标注信息的评估基准。数据格式高度结构化，便于研究者进行深入的量化分析与模型安全性能的细粒度评测，为负责任的人工智能发展提供了关键的数据支撑。

使用方法

对于致力于对话模型训练与评估的研究者而言，本数据集提供了清晰的应用路径。使用者可直接加载数据集，利用其内置的对话序列与角色标签进行模型微调或生成任务训练。更重要的是，数据集中的安全审核标签为开发内容安全过滤器、构建模型对齐技术或进行安全性基准测试提供了即用的监督信号。研究人员可以基于`openai_moderation`字段中的分类与分数，定量分析模型输出的安全风险，从而推动构建更安全、可靠的对话智能体。

背景与挑战

背景概述

随着大规模语言模型在对话系统领域的广泛应用，构建高质量、多样化的对话数据集成为推动技术发展的关键。vinhtran2611/lmsys-chat-1m_filtered数据集由研究社区于近期创建，旨在提供经过筛选的真实用户与语言模型之间的多轮对话记录。该数据集的核心研究问题聚焦于如何从海量交互数据中提取有效样本，以支持对话生成、模型评估及安全性分析等任务。通过对对话内容、角色、语言及安全审核信息的结构化记录，该数据集为研究人机交互动态、模型行为模式及内容安全机制提供了重要资源，对促进对话人工智能的透明性与可靠性具有显著影响力。

当前挑战

该数据集致力于解决开放域对话系统中内容安全与质量评估的挑战，具体包括识别和过滤含有骚扰、仇恨、暴力等有害信息的对话，以及确保生成内容的合规性与伦理性。在构建过程中，面临的挑战主要源于数据清洗与标注的复杂性：如何准确运用OpenAI审核工具对多语言、多轮对话进行细粒度分类，同时平衡误判与漏判的风险；此外，在保留对话多样性与真实性的前提下，实现大规模数据的高效过滤与去标识化处理，亦对数据处理流程的设计提出了较高要求。

常用场景

经典使用场景

在对话系统与大型语言模型的研究领域，vinhtran2611/lmsys-chat-1m_filtered数据集为模型评估与比较提供了宝贵的真实对话语料。该数据集源自LMSys Chatbot Arena平台，记录了用户与多种语言模型之间的多轮交互，并经过严格的过滤与标注。研究者可借助其丰富的对话历史、模型标识及内容安全标签，系统性地分析不同模型在开放域对话中的表现，评估其回复质量、一致性与安全性，从而为模型优化与基准测试奠定数据基础。

解决学术问题

该数据集有效应对了对话人工智能领域若干关键挑战。其一，它通过大规模、多模型的真实对话记录，缓解了以往评估中依赖合成数据或有限场景的局限性，为模型性能的公平对比提供了实证依据。其二，数据集集成的OpenAI内容审核标签，为研究对话安全性与有害内容过滤机制创造了条件，助力探索模型在伦理边界与内容风险控制方面的学术问题。这些贡献推动了对话系统向更可靠、更安全的方向演进。

衍生相关工作

围绕该数据集，已衍生出多项经典研究工作。例如，基于对话历史与模型标识的对比分析，推动了开源模型与闭源模型在对话能力上的系统性评估。同时，结合内容审核标签的研究，促进了对话安全领域的进展，如有害内容检测模型的训练与评估框架的构建。这些工作不仅深化了对大型语言模型对话行为的理解，也为后续的模型对齐、安全强化及评估基准的完善提供了重要借鉴。