OpenLeecher/Teatime
收藏Hugging Face2023-07-09 更新2024-03-04 收录
下载链接:
https://hf-mirror.com/datasets/OpenLeecher/Teatime
下载链接
链接失效反馈官方服务:
资源简介:
这些数据是从teatime logs xlsx文件中解析出来的日志。每次用户编辑或消息重新生成都会在对话树中创建一个新的分支,这导致在all_logs.json文件中出现消息重复。每次更改都会创建一个新的分支,复制所有先前的消息。而longest文件则不同,它们只包含从第一条到最后一条消息的最长路径,旨在避免重复。理想情况下,_longest文件应没有重复消息。
This data consists of logs parsed from the teatime logs XLSX file. Each user edit or message regeneration creates a new branch in the conversation tree, which results in message duplication in the all_logs.json file. Every change generates a new branch that copies all prior messages. In contrast, the 'longest' files differ: they only contain the longest path from the first to the last message, intended to avoid duplication. Ideally, the '_longest' files should contain no duplicate messages.
提供机构:
OpenLeecher原始信息汇总
数据集概述
基本信息
- 许可证: Apache-2.0
- 任务类别: 文本生成
- 支持语言: 英语 (en), 韩语 (ko)
- 数据集大小: 10K<n<100K
数据集详情
all_logs.json
- 总令牌数: 237442515
- 平均聊天令牌长度: 4246.03
- 中位数聊天令牌长度: 3797.0
- 平均每聊天消息数: 18.96
- 中位数每聊天消息数: 15.0
- 聊天总数: 55921
all_logs_longest.json
- 总令牌数: 27611121
- 平均聊天令牌长度: 2499.65
- 中位数聊天令牌长度: 1335.5
- 平均每聊天消息数: 11.27
- 中位数每聊天消息数: 5.0
- 聊天总数: 11046
搜集汇总
数据集介绍

构建方式
在对话系统与语言模型微调领域,高质量的多轮交互数据是提升模型连贯性与上下文理解能力的关键。OpenLeecher/Teatime数据集源自解析后的“teatime logs”Excel文件,通过提取用户与系统间的真实对话日志构建而成。数据集的独特之处在于保留了对话树的分支结构——每一次用户编辑或消息重新生成均会形成新的分支,这一设计虽导致原始'all_logs.json'文件中存在消息重复,但也完整记录了交互的动态演化。为减少冗余,构建者额外提供了'_longest'版本,仅保留从首条至末条消息的最长路径,确保无重复内容。
特点
该数据集在规模与结构上展现出鲜明的特性。整体包含55921段对话,总token数高达2.37亿,平均每段对话长度约4246个token,中位数为3797个token,平均包含近19条消息,反映出对话的深度与丰富性。相比之下,'_longest'版本精简至11046段对话,token总数降至2761万,平均长度约2500个token,中位数仅1335.5个token,平均消息数缩减至11条。这种双版本设计兼顾了数据多样性与去冗余需求,为不同训练场景提供了灵活选择。
使用方法
该数据集主要面向文本生成任务,尤其适用于多轮对话模型的监督微调与评估。用户可依据需求选择完整版'all_logs.json'以捕捉对话分支的复杂性,或采用'_longest'版本获取无重复的线性交互序列。在应用时,建议将数据按标准格式解析为输入-输出对,利用其英语与韩语双语特性进行跨语言对话能力训练。此外,数据集中丰富的分支结构可被用于研究模型对用户编辑行为的鲁棒性,或作为对话树生成任务的基准资源。
背景与挑战
背景概述
在自然语言处理领域,对话系统与文本生成模型的进步高度依赖于大规模、高质量的人机交互数据。OpenLeecher/Teatime数据集应运而生,其构建源于对用户与AI助手间真实对话日志的深度挖掘。该数据集由OpenLeecher团队于近期整理发布,核心研究问题聚焦于捕捉多轮对话中的分支结构与用户行为模式,例如消息编辑与重生成引发的对话树分叉现象。通过解析“teatime logs”电子表格中的原始记录,数据集提供了超过五万次对话实例,平均每段对话包含近19条消息,显著丰富了对话生成任务的训练资源。其在HuggingFace平台上的开源发布,为多语言(英语与韩语)对话建模、对话状态追踪及用户意图理解等研究方向注入了新动力,尤其为探索非单一线性对话结构的复杂性提供了宝贵基准。
当前挑战
该数据集所解决的领域挑战在于突破传统对话数据局限于线性结构的局限,真实用户交互中频繁的消息编辑与重生成操作导致对话树产生大量分支,使得模型难以捕捉连贯的上下文依赖关系。构建过程中,团队面临的核心挑战是数据冗余问题:每次用户操作均复制历史消息,导致all_logs.json中出现大量重复内容,总令牌数高达2.37亿,但有效信息占比低。为此,研究者引入了最长路径提取策略,生成all_logs_longest.json文件,仅保留从根节点到末端的唯一路径,将对话数压缩至约1.1万,平均令牌数降低至2500左右,从而在保留关键语义的同时显著减少噪声。这一处理过程不仅考验了对复杂对话树结构的解析能力,还要求平衡数据完整性与训练效率,为后续对话数据集的清洗与标准化树立了范例。
常用场景
经典使用场景
在自然语言处理与对话系统研究的前沿,多轮交互数据的匮乏始终是制约模型泛化能力的关键瓶颈。OpenLeecher/Teatime数据集以其源自真实用户与智能助手的茶歇式闲聊日志而独树一帜,为探究开放域对话中话题漂移、用户意图演化与回复多样性提供了宝贵资源。研究者可借此剖析对话树结构中因消息编辑与重新生成而产生的分支现象,从而训练模型在长程对话中保持上下文一致性。其最长路径子集更剔除了重复讯息,为构建无冗余的高质量对话生成任务奠定了坚实基础。
解决学术问题
该数据集精准回应了对话建模领域两大经典学术难题:多轮对话中的信息重复抑制与对话树的拓扑结构理解。通过提供包含分支结构的原始日志与仅保留最长路径的简化版本,它使学者能够量化用户修改行为对对话历史的影响,并探索如何利用树状路径选择策略优化生成模型的记忆机制。这一资源推动了基于真实交互的对话评估框架发展,使得对模型在非单调、自纠正场景下的鲁棒性研究成为可能,从而显著提升了学术探究的生态效度。
衍生相关工作
围绕该数据集,学术界已衍生出多项开创性工作。在对话状态追踪领域,研究者基于其分支结构提出了树状注意力机制,有效捕捉用户意图的分岔与合并。另有一批工作聚焦于对话摘要生成,利用最长路径子集训练模型从冗长交互中抽取核心脉络,相关方法在多个基准测试中取得了领先性能。此外,该数据集还催生了面向对话系统鲁棒性的对抗样本构建框架,通过模拟用户编辑行为生成压力测试用例,为评估模型稳定性提供了标准化工具,进一步拓展了对话技术的研究边界。
以上内容由遇见数据集搜集并总结生成



