stefanocarrera/autophagycode_D_mercury_Qwen3-4B_lr0.0001_c142_trust_t1.25_g9_run0

该数据集是一个包含142个训练示例的机器学习数据集，主要用于任务相关的生成或评估。每个示例包含以下特征：task_id（任务标识符）、entry_point（入口点）、prompt（提示文本）、completion（完成文本）、top_k_progression（前k个进展）和test（测试信息）。数据集仅提供训练分割，总大小约为2.2MB，下载大小约为585KB，适用于自然语言处理或代码生成等任务，可能涉及基于提示的文本完成或任务执行评估。This is a machine learning dataset containing 142 training examples, primarily intended for task-related generation or evaluation. Each example includes the following features: task_id (task identifier), entry_point, prompt, completion, top_k_progression, and test (test information). The dataset only provides a training split, with a total size of approximately 2.2 MB and a download size of around 585 KB. It is suitable for tasks such as natural language processing or code generation, and may involve prompt-based text completion or task execution evaluation.

搜集汇总

数据集介绍

构建方式

该数据集以自噬代码（autophagycode）为核心主题，基于Qwen3-4B模型进行微调生成，采用学习率为0.0001、上下文长度限制为142 tokens的配置，并融合信任阈值1.25与生成轮次9的采样策略。数据构建过程从任务定义出发，包含task_id、entry_point、prompt、completion、top_k_progression及test六个字段，其中top_k_progression记录了模型在推理过程中的渐进式选择路径，而test字段则用于验证生成结果的正确性。最终通过严格筛选，形成包含142条样本的紧凑训练集，数据总量约2.2 MB，确保每个样本均具备高质量的结构化信息。

特点

该数据集展现出鲜明的精细调控特性：一方面通过低学习率与短上下文窗口限制模型过拟合风险，另一方面借助信任阈值与多轮采样（g=9）增强生成结果的多样性与稳健性。top_k_progression字段提供了模型推理的动态演化轨迹，为分析代码生成中的决策过程提供了透明化视角。此外，数据规模虽小但结构完整，每个样本均包含原始提示、完整补全及测试验证，适合于在资源受限场景下进行针对性的自噬代码生成模型微调与评估。

使用方法

用户可通过HuggingFace Datasets库加载该数据集，默认配置下仅包含train拆分，共142个样本。使用时建议将prompt字段作为模型输入，completion字段作为目标输出进行监督学习；top_k_progression可用于研究模型推理的阶段性行为，test字段则用于自动评估生成代码的功能正确性。由于数据集规模较小，推荐结合数据增强或迁移学习策略进行训练，同时注意保持与Qwen3-4B模型架构的兼容性以微调最优参数配置。

背景与挑战

背景概述

该数据集名为autophagycode_D_mercury_Qwen3-4B_lr0.0001_c142_trust_t1.25_g9_run0，由研究人员基于Qwen3-4B模型在特定超参数配置下（学习率0.0001、信任阈值1.25、生成次数9）构建而成，创建于近期，专注于程序合成领域中的自噬代码生成任务。核心研究问题在于探索大语言模型在无外部监督条件下，通过自我进化机制生成高质量代码的能力。该数据集包含142个训练样本，每个样本均包含任务标识、入口函数、提示、完整代码补全、逐步推理过程及测试用例，为评估模型的自监督代码生成能力提供了标准化的基准。尽管规模较小，但该数据集在推动大语言模型自主编程和持续学习研究方面具有潜在的引领作用，为后续更复杂程序合成任务的研究奠定了基础。

当前挑战

该数据集所解决的领域挑战在于程序合成中模型依赖大量人工标注数据，而自噬代码生成（autophagy code）旨在突破这一瓶颈，使模型能够利用自身生成的数据进行自我改进，降低对昂贵人工标注的依赖。构建过程中面临的主要挑战包括：在142个样本的小规模数据下，如何确保模型生成代码的一致性与可靠性，避免过拟合或生成无效程序；其次，信任阈值（trust=1.25）和生成次数（g=9）的设定需要平衡探索与利用，若阈值过高则样本有效数量不足，过低则引入噪声；此外，模型在无外部验证信号下，需从迭代生成的逻辑中筛选出正确补全，对推理链的鲁棒性提出极高要求。

常用场景

经典使用场景

在程序合成与自动代码修复的研究领域中，该数据集为自噬性强化学习算法提供了独特的训练与评估基准。其聚焦于从错误代码片段逐步演化至正确实现的过程，记录了模型在自回归生成与修正中的完整轨迹。研究者通常利用其“top_k_progression”字段，探究大规模语言模型在多次迭代中的解空间探索行为，从而设计更高效的搜索策略，提升代码合成的成功率与鲁棒性。

解决学术问题

该数据集致力于解决语言模型在复杂编程任务中缺乏细粒度错误修正机制的问题。传统方法多依赖单次生成结果，忽略了推理过程中的渐进式优化。通过记录从初始提示到最终补全的中间状态，它揭示了模型在局部最优解中循环或偏离正确路径的共性问题，为分析解码策略、奖励塑造及课程学习提供了实证基础，显著推动了可解释程序合成理论的发展。

衍生相关工作

基于该数据集的特性，衍生出诸多代表性工作，包括渐进式贪心解码算法、基于信念状态的探索-利用平衡机制以及多粒度奖励模型。这些工作借鉴了其多步修正的轨迹结构，提出了分阶段课程学习与动态温度调整等方法。此外，融合因果推理与子目标分解的范式中，该数据集常被用作验证模型能否自主识别错误类型并规划修正顺序的基准，成为连接顺序决策与程序语言理解的重要桥梁。