Ascend-COT-v2-packed
收藏资源简介：
AscendKernelGen/Ascend-COT-v2-packed数据集是Ascend-CoT数据集的一个子集，该数据集将分阶段发布。Ascend-CoT数据集是一个高质量、领域特定的数据集，结合了从真实世界内核实现中提取的思维链（CoT）推理。它融合了三种推理类型：基于文档的推理、从实际NPU内核代码中提取的以代码为中心的推理，以及捕捉低级别NPU编程所需的结构化逻辑和严格约束的通用推理链。该数据集是AscendKernelGen (AKGen) 框架的一部分，旨在通过数据构建、训练和评估的闭环系统，弥合通用代码生成与硬件特定编程之间的差距。数据集的应用场景包括低级别NPU编程、代码生成任务，以及与华为Ascend硬件相关的特定领域编程任务。
The AscendKernelGen/Ascend-COT-v2-packed dataset is a subset of the Ascend-CoT dataset, which will be released in phases. The Ascend-CoT dataset is a high-quality, domain-specific dataset that combines Chain-of-Thought (CoT) reasoning extracted from real-world kernel implementations. It integrates three types of reasoning: document-based reasoning, code-centric reasoning extracted from actual NPU kernel code, and general reasoning chains that capture the structured logic and strict constraints required for low-level NPU programming. This dataset is part of the AscendKernelGen (AKGen) framework, aiming to bridge the gap between general-purpose code generation and hardware-specific programming through a closed-loop system of data construction, training, and evaluation. The datasets application scenarios include low-level NPU programming, code generation tasks, and domain-specific programming tasks related to Huawei Ascend hardware.
数据集概述：AscendKernelGen/Ascend-COT-v2-packed
基本信息
- 数据集名称: AscendKernelGen/Ascend-COT-v2-packed
- 语言: 英语（en）、中文（zh）
- 许可协议: Apache-2.0
- 任务类别: 文本生成（text-generation）
- 标签: 代码生成（code-generation）、思维链（cot）、NPU
数据集内容与特点
- 来源: 该数据集是完整 Ascend-CoT 数据集的一个子集，完整数据集将分阶段发布。
- 核心特性:
- 高质量、领域特定: 专注于华为昇腾（Ascend）硬件的底层NPU编程。
- 融入思维链（Chain-of-Thought, CoT）推理: 数据基于真实世界的内核实现生成。
- 三种推理类型:
- 基于文档的推理: 从技术文档中提取。
- 代码中心推理: 从实际的NPU内核代码中提取。
- 通用推理链: 捕捉底层NPU编程所需的结构化逻辑和严格约束。
关联项目与资源
- 技术报告: 论文《AscendKernelGen: A Systematic Study of LLM-Based Kernel Generation for Neural Processing Units》发表在arXiv上，地址为 https://huggingface.co/papers/2601.07160。
- 评估框架: NPUKernelBench 评估框架开源在GitHub上，地址为 https://github.com/weich97/NPUKernelBench。
背后的框架（AscendKernelGen / AKGen）
该数据集是 AscendKernelGen (AKGen) 框架的一部分，该框架通过数据构建、训练和评估的闭环系统，弥合通用代码生成与硬件特定编程之间的差距。关键创新包括：
- Ascend-CoT数据集: 提供高质量的领域特定数据，融合三种推理类型。
- 领域自适应后训练（Domain-Adaptive Post-Training）: 两步优化过程，生成 KernelGen-LM 模型。
- 第一步: 监督微调（SFT），利用错误驱动的监督（纠正API误用和数值错误）。
- 第二步: 基于执行正确性和性能信号的直接偏好优化（DPO）强化学习。
- 硬件接地评估: 通过 NPUKernelBench 在真实昇腾硬件上进行验证，评估编译成功、功能正确性和性能（延迟）。
- 性能表现: 在复杂的Level-2内核任务上，相比基线模型（如Qwen3、Llama3.1）有显著提升，并能有效解决通用模型完全失败的任务。
引用信息
- 论文引用: bibtex @article{cao2026ascendkernelgen, title={AscendKernelGen: A Systematic Study of LLM-Based Kernel Generation for Neural Processing Units}, author={Xinzi Cao and Jianyang Zhai and Pengfei Li and Zhiheng Hu and Cen Yan and Bingxu Mu and Guanghuan Fang and Bin She and Jiayu Li and Yihan Su and Dongyang Tao and Xiansong Huang and Fan Xu and Feidiao Yang and Yao Lu and Chang-Dong Wang and Yutong Lu and Weicheng Xue and Bin Zhou and Yonghong Tian}, journal={arXiv preprint arXiv:2601.07160}, year={2026}, url={https://arxiv.org/abs/2601.07160} }
