five

Locutusque/hercules-v2.0

收藏
Hugging Face2024-02-07 更新2024-03-04 收录
下载链接:
https://hf-mirror.com/datasets/Locutusque/hercules-v2.0
下载链接
链接失效反馈
官方服务:
资源简介:
Hercules-v2.0是一个旨在为高级机器学习模型的开发和评估提供全面、多方面训练材料的数据集,特别是在自然语言理解和处理方面。它包含多种格式,如问答对、对话、函数调用和角色扮演场景,适用于处理复杂指令和执行函数调用。数据集来源于多个数据源,强调生物学、物理学、医学、数学、计算机科学、指令跟随、函数调用和角色扮演等领域。

Hercules-v2.0是一个旨在为高级机器学习模型的开发和评估提供全面、多方面训练材料的数据集,特别是在自然语言理解和处理方面。它包含多种格式,如问答对、对话、函数调用和角色扮演场景,适用于处理复杂指令和执行函数调用。数据集来源于多个数据源,强调生物学、物理学、医学、数学、计算机科学、指令跟随、函数调用和角色扮演等领域。
提供机构:
Locutusque
原始信息汇总

数据集概述

基本信息

  • 数据集名称: Hercules-v2.0
  • 版本: 2.0
  • 发布日期: 2024年2月2日
  • 大小: 1,307,174条数据
  • 许可证: Apache-2.0

数据来源

Hercules-v2.0是从OpenHermes-2.5衍生出来的增强型指令数据集,旨在提高其多样性和范围。该数据集融合了来自多个数据源的贡献,特别强调生物学、物理学、医学、数学、计算机科学、指令遵循、函数调用和角色扮演等领域。数据来源包括:

  • cognitivecomputations/dolphin(前20万条数据)
  • Evol Instruct 70K && 140K
  • teknium/GPT4-LLM-Cleaned
  • jondurbin/airoboros-3.2
  • AlekseyKorshuk/camel-chatml
  • CollectiveCognition/chats-data-2023-09-22
  • Nebulous/lmsys-chat-1m-smortmodelsonly
  • glaiveai/glaive-code-assistant-v2
  • glaiveai/glaive-code-assistant
  • glaiveai/glaive-function-calling-v2
  • garage-bAInd/Open-Platypus
  • meta-math/MetaMathQA(前4万条数据)
  • teknium/GPTeacher-General-Instruct
  • GPTeacher角色扮演数据集
  • BI55/MedText
  • pubmed_qa标记子集
  • Unnatural Instructions
  • CollectiveCognition/chats-data-2023-09-27
  • CollectiveCognition/chats-data-2023-10-16

数据格式

数据集包含JSON格式的条目,具有独特的结构以包含函数调用示例。每个条目由一系列交互组成,每个交互标记为“from”以指示说话者(人类、函数调用、函数响应或gpt)和“value”以呈现交互的内容或有效负载。例如: json [ { "from": "human", "value": "Hi, I need to convert a temperature from Celsius to Fahrenheit. The temperature is 30 degrees Celsius." }, { "from": "function-call", "value": "{"name": "convert_temperature", "arguments": {"temperature": 30, "from_unit": "Celsius", "to_unit": "Fahrenheit"}}" }, { "from": "function-response", "value": "{"converted_temperature": 86}" }, { "from": "gpt", "value": "The converted temperature from 30 degrees Celsius to Fahrenheit is 86 degrees Fahrenheit." } ]

使用场景

Hercules-v2.0数据集旨在用于训练和评估AI系统在遵循指令、执行函数调用以及在各种科学和技术学科中进行角色扮演场景的能力。研究人员和开发人员可以利用此数据集进行以下工作:

  • 增强语言模型对复杂主题的理解。
  • 提高会话代理中函数调用执行的准确性。
  • 开发能够参与教育和信息性对话的模型。
  • 在遵循复杂指令和提供准确响应的能力方面对系统进行基准测试。

引用

使用Hercules-v2.0的研究人员应按以下方式引用数据集:

@misc{sebastian_gabarain_2024, title = {Hercules-v2.0: An Instruction Dataset for Specialized Domains}, author = {Sebastian Gabarain}, publisher = {HuggingFace}, year = {2024}, doi = {10.57967/hf/1744} url = {https://huggingface.co/datasets/Locutusque/hercules-v2.0} }

版本历史

  • v2.0: 当前版本,具有增强的多样性和范围。
  • v1.0: 初始版本。
搜集汇总
数据集介绍
main_image_url
构建方式
Hercules-v2.0 数据集是基于 OpenHermes-2.5 的丰富化指令数据集,旨在提升其多样性与覆盖范围。该数据集融合了来自多个数据源的贡献,重点涵盖生物学、物理学、医学、数学、计算机科学、指令遵循、函数调用及角色扮演等专业领域。构建过程中,数据集整合了 cognitivecomputations/dolphin、Evol Instruct 70K 与 140K、teknium/GPT4-LLM-Cleaned、jondurbin/airoboros-3.2、glaiveai 系列数据集、meta-math/MetaMathQA、BI55/MedText 等众多来源,并主要依赖 GPT-4 生成,同时包含 Claude 和 GPT-3.5-Turbo 等其他模型的贡献。数据集的筛选与优化基于 hercules-v1.0 的实验发现,最终形成包含约 130 万条样本的高质量训练资源。
特点
Hercules-v2.0 数据集的核心特色在于其多维度、跨学科的结构设计。每条数据以 JSON 格式存储,包含多轮交互序列,通过 'from' 字段标识发言者(人类、函数调用、函数响应或 GPT),以 'value' 字段承载具体内容,从而支持函数调用与角色扮演等复杂场景。数据集涵盖问答对、对话、函数调用及角色扮演等多种格式,为模型提供丰富的训练材料。此外,数据集在科学、技术、医学等领域具有深度覆盖,其指令遵循能力经过精心优化,能够有效提升模型在专业任务上的表现。需要注意的是,数据集中包含部分有毒示例,使用时需谨慎评估。
使用方法
Hercules-v2.0 数据集主要用于训练和评估人工智能系统在指令遵循、函数调用执行及角色扮演交互方面的能力。研究人员和开发者可利用该数据集增强语言模型对复杂主题的理解,提升对话智能体在函数调用中的准确性,并开发能够进行教育性与信息性对话的模型。数据集以默认配置提供训练集分割,可通过 HuggingFace Datasets 库直接加载,例如使用 `load_dataset('Locutusque/hercules-v2.0', split='train')` 获取数据。应用时,建议结合具体任务需求对数据进行预处理,如提取对话序列或解析函数调用格式,以适配不同模型的输入要求。
背景与挑战
背景概述
Hercules-v2.0 是由研究者 Sebastian Gabarain 于 2024 年 2 月发布的一个大规模指令数据集,旨在推动大语言模型在科学、技术、工程及数学等专业领域的自然语言理解与执行能力。该数据集在 OpenHermes-2.5 的基础上进行扩充与精细化,融合了来自 dolphin、airoboros、MetaMathQA、MedText 等十余个高质量数据源的贡献,涵盖生物、物理、医学、数学、计算机科学、函数调用与角色扮演等多维场景。其构建基于对早期版本 v1.0 的经验反思,以提升数据多样性与覆盖面为核心目标。Hercules-v2.0 的出现为训练能够处理复杂指令、执行工具调用并参与教育性对话的智能系统提供了宝贵的资源,在指令微调与多任务学习领域产生了重要影响。
当前挑战
Hercules-v2.0 面临的核心挑战在于如何平衡专业知识的深度与指令理解的广度。在领域问题层面,现有语言模型在应对跨学科、高精度的函数调用与科学推理时,常因数据稀疏或标注不一致而出现错误响应,尤其是涉及化学、生物等需要严格逻辑的问答。在数据集构建过程中,挑战则集中于多源异构数据的融合与质量控制:不同来源(如 GPT-4 与 Claude 系列模型)生成的指令格式与风格差异显著,导致噪声与毒性样本混入;同时,函数调用格式的标准化、角色扮演场景的真实性评估以及大规模合成数据的自动校验均缺乏成熟方案。此外,数据集的规模(超过 130 万条)也增加了去重与平衡各领域分布的难度,亟需更高效的过滤与增强策略以提升模型的泛化能力。
常用场景
经典使用场景
Hercules-v2.0 作为一个经过精心富化的指令数据集,其最经典的使用场景在于训练和评估大型语言模型在跨学科科学领域的指令遵循与函数调用能力。该数据集整合了来自生物学、物理学、医学、数学及计算机科学等多个专业领域的对话与问答样本,尤其强化了模型在复杂科学推理和精确函数执行方面的表现。通过模拟真实世界中人类与AI助手之间涉及专业术语和计算任务的交互,该数据集为构建能够胜任科研辅助、技术问答和自动化流程处理的智能系统提供了坚实的训练基础。
衍生相关工作
基于Hercules-v2.0 的丰富特性,研究者已衍生出多项具有影响力的工作。其中,部分工作聚焦于利用该数据集进行多任务指令微调,探索如何在保持通用能力的同时增强模型在科学领域的专精表现;另有研究将其与检索增强生成(RAG)框架结合,构建能够动态调用外部知识库和计算工具的混合智能体。此外,该数据集也被用作基准测试集,用于评估不同模型在函数调用场景下的鲁棒性和准确性,进而催生了针对工具使用能力评估的新指标与标准化评测协议。
数据集最近研究
最新研究方向
Hercules-v2.0数据集聚焦于多领域专业知识与指令遵循能力的深度融合,代表了当前大语言模型训练数据从通用对话向专业化、工具化演进的前沿方向。该数据集通过整合OpenHermes-2.5的多样化来源,并重点强化生物学、物理学、医学、数学、计算机科学以及函数调用等硬科学领域,回应了业界对模型在科学推理、精准任务执行和复杂指令理解方面的迫切需求。其独特的函数调用格式设计,直接服务于AI代理(Agent)和工具使用场景的突破性研究,与近期AI领域对自主智能体、代码生成及科研辅助系统的热点探索紧密相连。Hercules-v2.0的发布,为构建能够跨越学科壁垒、在医疗诊断、化学分析、物理模拟等高风险领域提供可靠决策支持的语言模型奠定了关键数据基础,其影响在于推动AI从“会聊天”向“会干活”的实质性跨越,具有显著的学术与应用价值。
以上内容由遇见数据集搜集并总结生成
二维码
社区交流群
二维码
科研交流群
商业服务