遇见数据集

community-datasets/re_dial

收藏
Hugging Face2024-06-26 更新2024-06-15 收录
官方服务:

资源简介:

ReDial(推荐对话)是一个关于用户之间推荐电影的对话数据集。该数据集由蒙特利尔理工学院、MILA – 魁北克人工智能研究所、微软研究蒙特利尔、HEC蒙特利尔和Element AI的研究团队收集。数据集支持目标导向对话系统(如餐厅推荐)和自由形式(也称为“闲聊”)对话系统的交叉研究。数据集包含11348个对话,分为10006个训练对话和1342个测试对话。每个对话包含多个字段,如对话ID、发起者ID、响应者ID、消息列表、提到的电影及其相关信息等。数据集以JSONL格式发布,每个对话作为一个有效的JSON文档。

ReDial (Recommendation Dialogues) is an annotated dataset of dialogues, where users recommend movies to each other. The dataset was collected by a team of researchers working at Polytechnique Montréal, MILA – Quebec AI Institute, Microsoft Research Montréal, HEC Montreal, and Element AI. The dataset allows research at the intersection of goal-directed dialogue systems (such as restaurant recommendation) and free-form (also called “chit-chat”) dialogue systems. The dataset contains a total of 11348 dialogues, 10006 for training and model selection, and 1342 for testing. Each dialogue contains multiple fields such as conversation ID, initiator ID, respondent ID, list of messages, mentioned movies and related information, etc. The dataset is published in the “jsonl” format, i.e., as a text file where each line corresponds to a Dialogue given as a valid JSON document.

提供机构:
community-datasets
原始信息汇总

数据集卡片 ReDial (Recommendation Dialogues)

数据集描述

数据集摘要

ReDial (Recommendation Dialogues) 是一个标注的对话数据集,用户在其中互相推荐电影。该数据集由 Polytechnique Montréal、MILA – Quebec AI Institute、Microsoft Research Montréal、HEC Montreal 和 Element AI 的研究团队收集。

该数据集允许在目标导向的对话系统(如餐厅推荐)和自由形式的对话系统(也称为“闲聊”)的交叉点进行研究。

支持的任务和排行榜

[更多信息待补充]

语言

数据集中的文本为英语。

数据集结构

数据实例

JSON 格式的数据集典型实例示例。

数据字段

数据集以“jsonl”格式发布,即每个对话对应一个有效的 JSON 文档。

一个对话包含以下字段:

  • conversationId: 整数
  • initiatorWorkerId: 发起对话的工人的整数标识符(推荐寻求者)
  • respondentWorkerId: 回应发起者的工人的整数标识符(推荐者)
  • messages: 消息对象列表
  • movieMentions: 对话中提到的电影 ID 到电影名称的映射字典
  • initiatorQuestions: 发起者提供的电影 ID 到标签的映射字典。每个标签对应发起者是否看过电影、喜欢它或推荐它。
  • respondentQuestions: 回应者提供的电影 ID 到标签的映射字典。每个标签对应回应者是否看过电影、喜欢它或推荐它。

每个消息包含以下字段:

  • messageId: 消息的唯一 ID
  • text: 实际消息的字符串。字符串可能包含以 @ 开头的标记,后跟一个整数。这是可以在对话对象的 movieMentions 字段中查找的电影 ID。
  • timeOffset: 对话开始后的时间(以秒为单位)
  • senderWorkerId: 发送消息的工人的 ID,即 initiatorWorkerId 或 respondentWorkerId。

initiatorQuestions 和 respondentQuestions 中的标签含义如下:

  • suggested: 0 表示寻求者提到,1 表示推荐者建议
  • seen: 0 表示寻求者未看过电影,1 表示看过,2 表示未提及
  • liked: 0 表示寻求者不喜欢电影,1 表示喜欢,2 表示未提及

数据分割

数据集包含总共 11348 个对话,其中 10006 个用于训练和模型选择,1342 个用于测试。

数据集创建

策划理由

该数据集允许在目标导向的对话系统和自由形式的对话系统的交叉点进行研究。用户在数据集中讨论他们喜欢和不喜欢的电影,哪些他们看过或没看过等,并且我们确保双方参与者的一致性。这允许研究对话中的情感表达,这与评论网站等有很大不同。

对话和提到的电影形成了一个有趣的二分图结构,这与用户讨论电影的方式(例如类型信息)有关。

忽略标签信息,该数据集也可以被视为一个有限的领域闲聊对话数据集。

源数据

初始数据收集和规范化

描述数据收集过程。描述任何数据选择或过滤的标准。列出任何使用的关键词或搜索词。如果可能,包括收集过程的运行时信息。

如果数据是从其他预先存在的数据集中收集的,请在此处链接到源数据集及其 Hugging Face 版本。

如果数据在收集后被修改或规范化(例如,如果数据被词 token 化),请描述该过程和使用的工具。

源语言生产者是谁?

我们为数据收集目的正式化了涉及推荐的对话设置。为了给我们的数据(和模型)提供一些额外的结构,我们将对话中的一个人定义为推荐寻求者,另一个人定义为推荐者。

为了以这种形式获取数据,我们开发了一个接口和配对机制,由 Amazon Mechanical Turk (AMT) 中介。

我们将 AMT 工人配对,并给他们分配角色。电影寻求者必须解释他/她喜欢什么样的电影,并询问电影建议。推荐者试图了解寻求者的电影品味,并推荐电影。所有信息交换和推荐都是使用自然语言进行的。

我们添加了额外的说明以提高数据质量和指导工人按照我们的预期进行对话。因此,我们要求使用正式语言,并且对话至少包含十条消息。我们还要求每个对话中至少提到四部不同的电影。最后,我们还要求只讨论电影,特别是不提及 Mechanical Turk 或任务本身。

此外,我们要求每个电影提及都使用 @ 符号进行标记。当工人输入 @ 时,后续字符用于查找匹配的电影名称,工人可以从该列表中选择一部电影。这使我们能够准确检测到提到的电影及其时间。我们从 DBpedia 收集了类型为 http://dbpedia.org/ontology/Film 的实体以获取电影列表,但也允许工人添加他们自己的电影(如果尚未在列表中)。我们从电影标题(例如 http://dbpedia.org/page/American_Beauty_(1999_film))或通过额外的 SPARQL 请求获取电影的发行日期。请注意,电影的发行年份或日期对于区分同名但不同发行日期的电影至关重要。

我们将这些额外的标签称为电影对话形式。尽管这实际上涉及寻求者的电影品味,但双方工人都必须回答这些形式。理想情况下,两个参与者会对每个形式给出相同的答案,但他们的答案可能不一致(由于粗心或对话歧义)。因此,电影对话形式允许我们更系统地评估整体神经对话系统的子组件,例如可以直接使用这些标签训练和评估情感分析模型。

在每个对话中,提到的电影数量不同,因此每个对话的电影对话形式答案数量也不同。电影对话形式的不同类别的分布如表 1a 所示。喜欢/不喜欢/未提及标签高度不平衡。这是推荐数据的典型特征,因为人们自然更倾向于谈论他们喜欢的电影,而推荐者的目标是推荐寻求者可能喜欢的电影。

注释

注释过程

在上述子部分中提到。

注释者是谁?

对于 AMT HIT,我们收集英语数据,并选择将数据收集限制在英语为主要语言的国家。由于我们配对工人一起工作,数据收集速度较慢,因为我们要求至少两个人同时在线才能完成任务,因此需要大量工人才能使收集成为可能。同时,任务相当繁重,我们必须选择合格的工人。HIT 奖励和资格要求对于确保良好的对话质量同时仍能确保人们能够配对至关重要。我们通过初步 HIT 找到了一个折中方案,最终将奖励设置为每人每次完成对话 $0.50(因此每个对话成本为 $1,加上税),并要求工人满足以下要求:(1)批准百分比大于 95,(2)批准的 HIT 数量大于 1000,(3)他们的位置必须在美

搜集汇总
数据集介绍
community-datasets/re_dial 数据集图片
构建方式
ReDial(Recommendation Dialogues)数据集由蒙特利尔理工学院、MILA魁北克人工智能研究所、微软研究院蒙特利尔分校、HEC蒙特利尔和Element AI的研究团队共同构建。数据通过Amazon Mechanical Turk平台收集,将工人配对为推荐寻求者与推荐者,要求双方在自然语言对话中讨论电影偏好并完成推荐。每场对话至少包含十条消息和四部不同电影,工人在提及电影时需使用'@'符号标记,系统通过DBpedia中的电影实体列表辅助标注。对话结束后,双方需填写电影对话表单,记录对每部电影的观看状态、喜好程度及推荐来源,从而形成结构化的标注数据。数据集共包含11,348场对话,其中10,006场用于训练,1,342场用于测试。
特点
该数据集的核心特色在于融合了目标导向的推荐对话与自由形式的闲聊,为研究对话系统中的情感表达与推荐机制提供了独特视角。数据中的电影提及形成了奇特的二分图结构,反映了用户讨论电影时隐含的类别信息。每条对话均包含丰富的结构化字段,如消息序列、电影提及映射以及由推荐寻求者和推荐者分别填写的表单标签(如是否看过、是否喜欢、是否为推荐)。标签分布存在自然的不平衡性,用户更倾向于讨论喜爱的电影,这符合真实推荐场景的规律。此外,数据集还支持情感分类任务,可用于训练对话情感分析模型。
使用方法
数据集以JSONL格式发布,每行对应一个完整的对话JSON对象。用户可通过Hugging Face的datasets库直接加载,使用`load_dataset('community-datasets/re_dial', trust_remote_code=True)`命令即可获取训练和测试分割。数据字段包括conversationId、messages(含时间戳、文本及发送者ID)、movieMentions(电影ID与名称的映射)以及initiatorQuestions和respondentQuestions(电影标签字典)。在应用中,研究者可抽取消息文本进行对话生成或推荐系统训练,利用标签字段进行情感分类或推荐效果评估,也可将电影提及图结构用于图神经网络建模。数据采用CC BY 4.0许可证,引用时需参考NIPS 2018的相关论文。
背景与挑战
背景概述
ReDial(Recommendation Dialogues)数据集由蒙特利尔理工学院、MILA-魁北克人工智能研究所、微软研究院蒙特利尔、HEC蒙特利尔及Element AI的研究团队于2018年创建,旨在弥合目标导向型对话系统与自由式闲聊系统之间的鸿沟。该数据集通过Amazon Mechanical Turk平台,以众包方式收集了超过一万一千段电影推荐对话,其中包含参与者对电影的情感倾向、观影状态及推荐偏好等结构化标注。作为首个大规模融合推荐任务与自然语言交互的语料库,ReDial不仅推动了对话式推荐系统的研究进展,还为情感分析、对话策略学习及知识图谱构建等子领域提供了基准测试平台,其论文发表于NeurIPS 2018,对学术界与工业界产生了深远影响。
当前挑战
ReDial所解决的领域核心挑战在于如何将结构化推荐目标无缝嵌入到开放域对话中,传统推荐系统依赖静态用户画像,而对话场景要求系统实时理解用户动态偏好并生成自然回应。构建过程中面临多重困难:首先,众包数据需平衡对话的自然性与任务导向性,研究者通过限定至少提及四部电影、使用'@'标记电影实体等规则来保证数据质量;其次,情感标注存在严重类别不平衡,用户更倾向讨论喜爱的影片,导致负面样本稀缺;此外,双人对话中标注一致性难以保障,需设计交叉验证机制确保推荐者与寻求者对电影状态的判断吻合,这增加了数据清洗的复杂度。
常用场景
经典使用场景
ReDial数据集的核心应用场景在于构建与评估融合了任务导向与自由对话的深度对话推荐系统。该数据集精心收集了超过一万一千段关于电影推荐的自然语言对话,其中对话者既进行闲谈式的交流,又完成明确的推荐任务。研究者可利用这些对话记录,训练模型在动态交互中理解用户偏好、生成个性化推荐,并维持流畅的社交互动。其独特的标注体系,包括电影提及、观看状态与喜好反馈,为模拟真实世界中信息寻求与建议提供的复杂对话流程提供了基准,是开发更贴近人类交流习惯的推荐Agent的经典起点。
衍生相关工作
ReDial数据集催生了一系列在对话推荐领域具有里程碑意义的学术工作。经典衍生研究包括基于强化学习的对话推荐策略,利用该数据集的对话结构训练Agent在探索用户偏好与推荐项目间寻求平衡。此外,许多工作聚焦于从对话中提取情感信号以增强推荐准确性,例如利用序列模型对用户“喜欢/不喜欢”的显式反馈进行建模。还有研究将其作为基准,比较不同图谱增强或预训练语言模型在对话推荐任务上的表现。这些工作共同推动了从静态推荐向动态、交互式推荐系统的范式转变。
数据集最近研究
最新研究方向
ReDial数据集作为融合目标导向推荐与自由形式闲聊的典范,当前研究前沿聚焦于构建具备情感理解与多轮交互能力的深度对话推荐系统。该数据集通过众包方式采集了超过一万组电影推荐对话,每段对话均包含丰富的电影提及、用户偏好标注及情感标签,为探索对话中的情感表达与推荐策略耦合机制提供了宝贵资源。在热点事件方面,随着大语言模型在个性化服务中的广泛应用,ReDial正被用于训练能够动态捕捉用户兴趣演变、实现自然语境下精准推荐的智能体,其蕴含的对话情感分类与双视角标注(寻求者与推荐者)特性,推动了对话系统从单轮问答向具备共情能力与上下文感知的复杂交互演进,对构建下一代人机协同推荐平台具有里程碑意义。
以上内容由遇见数据集搜集并总结生成
二维码
社区交流群
二维码
科研交流群
商业服务