餐厅评论数据集
收藏github2020-03-06 更新2024-05-31 收录
下载链接:
https://github.com/henceforth1984/Albert_Finetune_with_Pretrain_on_Custom_Corpus
下载链接
链接失效反馈官方服务:
资源简介:
该数据集包含餐厅评论文本,用于预训练Albert模型并进行特定任务的微调,如识别评论中的菜品名称。数据集包括去除标点的评论文本和标记菜品名称的训练及评估数据。
This dataset comprises restaurant review texts, intended for pre-training the Albert model and fine-tuning for specific tasks, such as identifying dish names within the reviews. The dataset includes review texts with punctuation removed, along with training and evaluation data that have been annotated for dish names.
创建时间:
2020-03-03
原始信息汇总
数据集概述
数据集名称
- Restaurant reviews
数据集文件
-
data_toy/restaurant_review_nopunct.txt
- 示例内容:
- "I like the mala steamboat a lot"
- "The chicken rice doesnt taste nice"
- 示例内容:
-
data_toy/dish_name_train.csv
- 示例内容:
- "I like the mala steamboat a lot", "mala steamboat"
- "The chicken rice doesnt taste nice.", "chicken rice"
- 示例内容:
-
data_toy/dish_name_val.csv
- 示例内容:
- "I like the chicken rice a lot", "chicken rice"
- "The mala steamboat doesnt taste nice.", "mala steamboat"
- 示例内容:
数据集用途
- 用于预训练Albert模型和进一步微调以识别餐厅评论中的菜品名称。
数据集构建步骤
-
构建自定义语料库的词汇表
- 使用开源工具如t2t文本编码器子词构建器生成与bert/albert模型兼容的词汇表。
- 示例命令:
python subword_builder.py --corpus_filepattern "{corpus_for_vocab}" --output_filename {name_of_vocab} --min_count {minimum_subtoken_counts}
-
使用自定义语料库预训练Albert
- 使用构建的词汇表和语料库生成预训练数据。
- 示例命令:
python create_pretraining_data.py --input_file "{corpus}" --output_file {output_file} --vocab_file {vocab_file} - 预训练命令:
python run_pretraining.py --input_file={albert_pretrain_file} --output_dir={models_dir} --albert_config_file={albert_config_file}
-
微调Albert以适应下游任务
- 使用tensorflow或pytorch版本的Albert模型进行微调。
- 参考笔记本:
albert_finetuning_toy.ipynb和albert_finetuning_toy_pytorch_multiGPU.ipynb
搜集汇总
数据集介绍

构建方式
餐厅评论数据集的构建,首先通过收集餐厅评论文本作为原始语料库,接着从中提取出包含菜品名称的评论作为预训练和微调的基础数据。具体而言,该数据集包含两个主要部分:未加标点的餐厅评论文本文件(restaurant_review_nopunct.txt)和两个分别用于训练与评估的加标签的菜品名称数据文件(dish_name_train.csv和dish_name_val.csv)。构建过程涉及使用开源的t2t文本编码器子词构建器生成与BERT/ALBERT模型兼容的词汇表,并以此进行模型的预训练和微调。
特点
该数据集的特点在于,它专门针对餐厅评论中的菜品名称识别任务而构建。数据集的文本来源真实,覆盖了多样化的餐厅评论,能够为模型提供丰富的学习材料。此外,通过预训练和微调ALBERT模型,数据集能够有效支持下游的命名实体识别任务,尤其是针对菜品名称的识别,具有很高的实用价值。
使用方法
使用该数据集的方法包括三个主要步骤:首先是构建适用于自定义语料库的词汇表;其次是使用该语料库对ALBERT模型进行预训练;最后,将预训练的模型进行微调以适应具体的菜品名称识别任务。具体操作包括克隆相关代码库,准备语料库文件,运行预训练脚本,并根据需求调整配置文件。此外,使用PyTorch或TensorFlow版本的不同实现,用户可以根据自身环境选择合适的微调方式。
背景与挑战
背景概述
餐厅评论数据集是一份专门用于自然语言处理任务的数据集,其主要来源于餐厅客户的评论。该数据集的创建旨在推动模型对特定领域文本的理解和解析能力,尤其是对餐厅评论中的菜品名称识别。该数据集的构建时间为未明确指出,但根据所使用的模型和技术,可以推断其应产生于深度学习模型发展较为成熟的近期。主要研究人员或机构未在README中直接提及,但数据集的构建显然借鉴了Google的ALBERT模型及其开源代码库,以及Huggingface的transformers库。该数据集的核心研究问题是如何准确识别和提取餐厅评论中的菜品名称,这对于餐厅评论情感分析、推荐系统等领域具有重要的研究价值。此外,该数据集的开源共享对相关领域的研究人员提供了极大的便利,促进了学术交流和技术的进步。
当前挑战
餐厅评论数据集在构建和应用过程中面临的挑战主要包括:1) 领域特定语言的处理,餐厅评论中的语言风格和用词习惯具有独特性,这对模型的泛化能力提出了挑战;2) 菜品名称的多样性和复杂性,同一菜品可能有多种称呼方式,甚至存在非标准化的名称,这增加了识别的难度;3) 数据集构建过程中的技术挑战,包括对ALBERT模型进行定制化预训练和微调,以及跨平台框架的兼容性问题。这些挑战要求研究人员在模型设计、训练策略和数据预处理等方面进行深入的研究和优化。
常用场景
经典使用场景
餐厅评论数据集被广泛应用于自然语言处理任务中,其经典使用场景在于通过预训练和微调Albert模型,实现对餐厅评论中文本数据的深入理解。具体而言,该数据集被用于提取评论中的菜品名称,进而为餐厅评论的情感分析、菜品推荐等下游任务提供基础。
解决学术问题
该数据集解决了学术研究中如何准确识别非结构化文本中特定信息(如菜品名称)的问题,为情感分析、话题建模等任务提供了高质量的数据基础。其对于改进自然语言处理模型在特定领域的表现,提升模型微调的针对性和有效性具有重要意义。
衍生相关工作
基于该数据集,研究者们衍生出了多种相关经典工作,包括但不限于菜品名称识别、情感分析模型的研究,以及结合地理位置信息的餐厅推荐系统等,进一步推动了自然语言处理技术在服务业中的应用。
以上内容由遇见数据集搜集并总结生成



