HSCodeComp
收藏资源简介:
HSCodeComp是一个真实且具有专家级水平的数据集,用于评估深度搜索代理在分层规则应用中的能力。该数据集由大型电子商务平台收集的真实世界数据构建,包含632个产品条目,涵盖27个独特的HS章节和32个不同的第一级类别。这些HS代码由多位电子商务领域专家严格标注,确保HSCodeComp具有专家级水平。准确预测精确的10位HS代码提出了重大挑战:代理必须执行多跳分层推理,同时处理包含缩写、语言变化或不完整信息的嘈杂但真实的产品描述。
HSCodeComp is a real-world, expert-level dataset developed to evaluate the capabilities of deep search agents in hierarchical rule application. This dataset is constructed from real-world data collected from large e-commerce platforms, containing 632 product entries spanning 27 unique HS chapters and 32 distinct first-level categories. These HS codes are strictly annotated by multiple e-commerce domain experts, ensuring that HSCodeComp meets expert-level standards. Accurately predicting precise 10-digit HS codes poses a substantial challenge: agents must perform multi-hop hierarchical reasoning while processing noisy yet authentic product descriptions that may include abbreviations, language variations, or incomplete information.
HSCodeComp 数据集概述
数据集简介
HSCodeComp 是首个面向电子商务领域的真实专家级基准数据集,专门用于评估深度搜索代理在层次规则应用方面的能力。该数据集聚焦于海关商品编码预测任务,要求代理根据带有噪声的真实电商产品描述,准确预测10位协调制度编码。
核心特性
- 任务类型:层次规则应用(Level-3知识)
- 数据来源:大规模电子商务平台
- 标注质量:专家标注,标注者间一致性>98%
- 知识层级:第3级 - 层次规则应用
数据结构
输入格式
每个产品包含丰富信息:$x = (t, A, c, i, p, u, r)$,其中:
- $t$:产品标题
- $A = {(k_j, v_j)}_{j=1}^K$:产品属性集合
- $c$:电商平台定义的产品类别
- $p$:价格
- $u$:货币
输出格式
- HSCode:10位数字字符串 $mathcal{Y} subseteq {0,1,ldots,9}^{10}$
- 编码结构:
- 前2位:HS章节
- 前4位:HS标题
- 前6位:HS子标题
- 后4位(7-10位):国家特定编码
知识类型
- 来自官方分类系统的层次关税规则
- 指定如何正确应用关税规则的人工编写决策规则
- 包含历史HSCode分类决策的官方海关裁决数据库
数据集统计
| 指标 | 数值 |
|---|---|
| 总产品数 | 632个专家标注条目 |
| HS章节数 | 27个章节 |
| 一级类别数 | 32个类别 |
| 测试模型 | 14个基础模型,6个开源代理,3个闭源系统 |
性能基准
- 最佳AI代理:SmolAgent + GPT-5 VLM,准确率46.8%
- 人类专家:准确率95.0%
- 评估指标:2位、4位、6位、8位和10位精确匹配准确率
关键发现
- 推理时间扩展策略无法提升性能
- 更多思考导致性能下降
- 当前代理难以有效利用层次决策规则
许可证
Apache-2.0许可证
免责声明
数据集基于公开可用的产品数据源构建,已移除产品图片和URL,但仍可能存在版权问题或不适当内容。




