Annoy-PyEdu-Rs
收藏资源简介:
Annoy-PyEdu-Rs是一个专注于代码推理与思维链生成的合成数据集,它是Annoy项目完整数据集的子集,目前仅公开发布Python教育相关部分。该数据集采用完全基于大语言模型(LLM)的方法合成所有期望的响应,旨在解决从可执行代码生成可靠执行轨迹时面临的两个挑战:1) 获得确定性的反向函数进行输入预测不切实际;2) 自动构建的轨迹受限于预设计模板,缺乏自由形式自然语言推理的表达力和泛化能力。数据集基于DeepSeek-V2.5合成,原始代码数据来源于HuggingFaceTB/smollm-corpus中的python-edu子集,遵循Open Data Commons Attribution License v1.0 (ODC-By 1.0)许可发布。
Annoy-PyEdu-Rs is a synthetic dataset focused on code reasoning and chain-of-thought generation. It is a subset of the complete Annoy project dataset, with only the Python education-related portion currently publicly released due to compliance requirements from collaborators. This dataset employs a fully large language model (LLM)-based approach to synthesize all desired responses, aiming to address two challenges in generating reliable execution traces from executable code: 1) obtaining deterministic inverse functions for input prediction is impractical; 2) automatically constructed traces are limited by pre-designed templates, lacking the expressiveness and generalization ability of free-form natural language reasoning. The dataset is synthesized using DeepSeek-V2.5, with original code data sourced from the python-edu subset of HuggingFaceTB/smollm-corpus, and is released under the Open Data Commons Attribution License v1.0 (ODC-By 1.0).
数据集概述
数据集名称:Annoy-PythonEdu-Rs
发布页面:https://huggingface.co/datasets/liuferet114/Annoy-PyEdu-Rs
所属项目:该项目为 Annoy 研究项目的一部分,该项目旨在通过全LLM方法合成高质量响应,用于训练代码相关的推理模型。
数据集性质:该数据集是完整数据集的一个子集,仅包含 PythonEdu-Rs 部分。
原始/处理后数据:除了本数据集,项目还提供了原始处理后的数据,可访问 liuferet114/Annoy-PyEdu-Rs-Raw 获取。
核心介绍:
- 研究团队采用完全基于大语言模型(LLM)的方法来合成所有期望的响应,使用的基座模型为 DeepSeek-V2.5,原因是该模型性能顶尖且成本极低。
- 选择LLM合成而非直接使用可执行代码生成执行轨迹的原因:
- 获取用于输入预测的确定性逆函数是不切实际的。
- 自动构建的轨迹受限于预设计模板,缺乏自由形式自然语言推理的表达能力和泛化能力。
相关资源:
- 该项目还发布了一系列基于不同基座模型和训练阶段的模型权重,具体见 README 中的模型表格,涵盖 Qwen 2.5 7B Coder、LLaMA 3.1 8B、DeepSeek v2 Lite Coder 等,并分为 Annoy 和 Annoy++ 两种模型变体,每个变体包含 Stage 1 和 Stage 2 的训练阶段权重。
- 其他资源可在项目的 Huggingface 集合页面 liuferet114/specx 中查看。
声明:由于合作者的合规要求,当前仅公开发布完整数据集中的 PythonEdu-Rs 子集。




