TechWolf/Skill-extraction-TechWolf-graded

该数据集名为skill-extraction-techwolf-graded，是一个用于技能提取的分级相关性检索数据集。它基于ESCO（欧洲技能、能力、资格和职业）v1.1.0技能分类体系，对来自TechWolf/skill-extraction-techwolf数据集的句子进行标注，采用分级相关性布局，并遵循BEIR（信息检索基准）规范。数据集仅包含测试分割，有324个查询句子和13,891个ESCO技能条目作为语料库，以及582个相关性标注行。相关性标注是真实但二元的：分数为1表示真正相关的目标（源自公共非分级真实标注），未列出的查询-语料对则隐式视为0分。细粒度的0-4分级标注目前暂未公开，将在RecSys-HR挑战赛后发布。数据集使用ESCO分类，基于CC BY 4.0许可证，内容未做语义修改。

Graded-relevance layout for sentences from TechWolf/skill-extraction-techwolf against the ESCO v1.1.0 skill taxonomy. Layout follows the BEIR convention. Only a test split is available for this dataset, and it carries real but binary relevance: score = 1 marks a genuinely relevant target (derived from the public non-graded ground truths), and every pair not listed is implicit grade 0. The fine-grained 0-4 graded annotations are withheld during the ongoing RecSys-HR challenge and will be released afterwards. The dataset uses the ESCO classification licensed under CC BY 4.0, with no semantic modifications.

搜集汇总

数据集介绍

构建方式

该数据集源自TechWolf/skill-extraction-techwolf原始数据，通过将句子与ESCO v1.1.0技能分类体系进行关联，并遵循BEIR检索基准的格式规范构建而成。数据划分为三个配置：queries配置包含324条查询句子，每句带有唯一标识符和文本内容；corpus配置存储13,891条ESCO技能条目，涵盖URI、英文标签与描述；qrels配置则提供582条查询-文档对的评分记录。当前仅发布测试集，且其相关性标注为实值但呈二元分布——得分1表示明确相关的目标，其余未列出的配对隐含得分为0。细粒度的0-4级标注因RecSys-HR挑战赛而暂未公开。

特点

数据集的核心特点在于其面向技能检索任务的二元分级相关性布局，以及严格遵循BEIR惯例的标准化接口。尽管目前仅提供测试拆分，但324条查询与13,891条技能语料库的组合已形成中等规模的评估环境。其独特价值体现在两方面：一是源自真实业务场景的TechWolf技能抽取数据，兼具工业应用背景；二是基于欧盟ESCO官方分类体系，具备权威性与跨领域通用性。此外，标注的渐进式释放机制——先开放二元真值后再发布多级评分——为竞赛公平性提供了保障。

使用方法

用户可通过HuggingFace Datasets库按配置名称加载数据：使用'queries'配置获取查询语句及其ID，'corpus'配置获取技能语料库的完整字段，'qrels'配置获取查询-文档相关性标签。典型用法是将queries与corpus构建为检索索引，再借助qrels中的二元评分进行召回或排序模型评估。需注意当前仅支持测试集拆分，且需待RecSys-HR挑战结束后方可获取完整0-4分级标注。数据以Parquet格式存储，兼容Python生态下的加载与处理流程，适合用于知识图谱构建、技能匹配及信息检索等下游任务。

背景与挑战

背景概述

在人力资源与技能管理领域，技能抽取（Skill Extraction）是链接非结构化文本与标准化技能本体（如ESCO）的核心任务。Skill-extraction-TechWolf-graded数据集由TechWolf团队于2025年左右创建，基于ESCO v1.1.0分类体系，旨在为句子级技能检索提供具备渐进相关度标注（graded relevance）的基准。该数据集将324条查询句子与13,891个技能实体对齐，并遵循BEIR检索标准，设计上直接服务于招聘场景下的技能匹配与推荐系统。通过引入真实但二元的初始相关性标签，该数据集为后续的精细粒度标注（0-4级）和RecSys-HR挑战赛奠定了评估基础，在推动技能抽取从简单分类向信息检索评估范式转型方面具有标杆意义。

当前挑战

当前数据集面临的核心挑战可分为两方面。领域问题层面，技能抽取需解决从自由文本中准确识别并匹配ESCO层级化技能实体的困难，尤其在表达模糊、同义术语泛滥及行业语境差异时，二元相关度标注难以捕捉细微语义差异。构建过程层面，第一，当前仅提供测试集且标注为真实二元（score=1），缺失验证集与全量精细粒度标注（0-4级），导致模型训练与评估不完整；第二，从公开非分级真实数据推导标注可能引入噪声，而ESCO版本差异与跨语言复杂性（当前限定英文）进一步加大了构建高质量数据集的难度；第三，未来精细标注的发布依赖于竞赛机制，时序滞后限制了即时研究应用。

常用场景

经典使用场景

Skill-extraction-TechWolf-graded数据集专为技能提取与检索任务设计，其核心应用场景是将自然语言句子与欧洲技能分类体系（ESCO v1.1.0）中的技能本体进行语义匹配。该数据集遵循BEIR评估框架，包含324条查询句子、13,891条技能语料及582条相关性标注，适用于训练和评估基于稠密检索或稀疏检索的模型，以精准识别句子中蕴含的职业技能。

解决学术问题

该数据集有效解决了技能标准化与本体对齐的学术难题，即在非结构化文本中自动识别并映射至ESCO标准化技能分类。它填补了技能提取领域缺乏分级相关性基准的空白，通过提供真实但二元的关联标签，支持研究者量化模型在跨领域技能匹配上的性能。其意义在于推动人才匹配与劳动力市场分析的自动化，为个性化职业推荐与技能缺口分析奠定数据基础。

衍生相关工作

该数据集衍生出多项经典工作，包括基于对比学习的技能嵌入方法（如SkillBERT）和结合图神经元的技能推理模型。此外，RecSys-HR挑战赛将其作为评测基准，推动了检索增强生成在技能匹配中的应用。相关研究还探索了利用该数据集的关联注释，改进跨语言技能迁移与零样本学习能力，从而扩展技能提取的边界。