环卫业河湖水域作业垂类大模型预训练数据
收藏资源简介:
本数据集合是专为河湖水域作业垂类大模型预训练阶段打造的专业领域语料库,来源于公司在环卫业务中多年对于河道、水域等业务积累的作业数据。 数据集覆盖河道保洁作业、水生植物治理、水质监测评价、黑臭水体治理、岸坡养护管理、水域应急处置、水生态修复、水域作业安全八大核心领域。 语料内容深度聚焦河湖水域作业场景,涵盖从日常保洁到应急处置、从水质监测到生态修复的全链条专业知识,能够为水域作业垂类大模型提供系统的领域知识基础,显著提升模型在水环境治理场景下的专业理解和应用能力,该语料可直接用于训练Text-to-SQL环卫业垂类问数模型,推动环卫行业管理从'粗放式管理'向'数据导向'演进,并可横向复用至城市固废监管、冰雪作业等场景。 1.数据采集与清洗:以母公司河湖水域作业实际运行与管理数据为基础,对标城市河道保洁作业规范、水域应急处置预案、水环境治理标准、水生植物治理技术指南、河道岸坡养护标准等行业资料,按业务内容粒度切分,去除重复与低质量内容,清洗后数据有效率≥98%。每段语料均标注语料编号、语料来源与字数,形成可追溯的结构化语料库。 2.维度分类与标注:按业务内容维度分类,标注语料分类、分类描述、关键词标签、难度等级等标签信息。语料覆盖河道保洁作业、水生植物治理、水质监测评价、黑臭水体治理、岸坡养护管理、水域应急处置、水生态修复、水域作业安全八大核心业务内容,覆盖率≥90%,构建覆盖河湖水域作业全链条的基础预训练语料库。 3.核心算法:(1)文本清洗与标准化:对原始文本统一编码和去噪,去除无关标记与冗余信息,专项识别并保留水域作业特有专业表述,如漂浮物打捞、保洁船作业、水质监测、水生态修复等关键词,文本清洗准确率≥96%;(2)内容分类与标签标注:基于水域业务分类体系对语料进行分层分类,结合内容特征自动标注关键词标签和所属分类,分类准确率≥94%;(3)难度分级与质量评估:综合术语专业度、业务复杂度和推理深度对语料进行难度分级(基础/进阶/高级/专家),并按内容完整度和结构化程度赋予质量评分,难度分级与质量评分联动校验;(4)异常检测与核验:检测分类错位、标签缺失、内容重复等异常语料并过滤,异常过滤率≥99%,最终由业务人员结合水域作业相关规范对语料进行一致性核验。 4.独立语料价值:本语料系面向河湖水域作业垂直领域的大模型预训练基础语料,覆盖水面保洁、水质治理、水生态保护等专业作业规范。相较通用环卫或开放语料,河湖水域作业涉及大量跨领域专业术语(如防汛调度、水生植物、漂浮物分类处置、保洁船操作安全等),通用语料中文档覆盖极少、语义支撑不足。构建本独立预训练语料,可让模型在预训练阶段即充分学习水域作业特有的词汇、句式与业务逻辑,避免领域语义在混合语料中被稀释,为后续细分场景训练与推理能力提升奠定基础,更好支撑水域环境精细化治理对大模型高质量领域语料的需求。



