CodeFlow

CodeFlow数据集是由清华大学和微软研究院共同构建的，通过迭代调试过程生成的函数级代码片段和测试用例，不断迭代直到代码通过所有单元测试。数据集包含正确版本和之前失败版本的对比，形成偏好对，用于指导代码生成模型学习更精确的错误修正模式。该数据集的构建模仿了人类程序员如何通过不断修改代码来调试程序，旨在帮助代码生成模型学习识别关键错误并提高代码质量。The CodeFlow dataset was jointly developed by Tsinghua University and Microsoft Research. It is constructed via iterative debugging workflows, generating function-level code snippets and test cases, with the iteration process continuing until the code passes all unit tests. The dataset includes comparisons between correct code versions and their previously failed counterparts, forming preference pairs to guide code generation models in learning more precise error correction patterns. The construction of this dataset mimics how human programmers debug programs through continuous code modifications, aiming to help code generation models learn to identify critical errors and improve code quality.

搜集汇总

数据集介绍

构建方式

CodeFlow数据集的构建是通过模仿人类迭代调试的过程来进行的。首先，使用LLM生成一个函数级的代码片段及其测试用例，然后通过单元测试验证其正确性。若代码未通过测试，则进行迭代调试，直到代码通过所有单元测试。将最终的正确版本视为首选样本，随机选择一个较早的版本作为非首选样本，形成偏好对。此外，通过最长公共子序列(LCS)算法提取偏好对之间的关键差异，从而突出显示导致功能差异的关键更改。

使用方法

CodeFlow数据集可以用于偏好学习，通过对比偏好对之间的关键差异，引导模型学习更精细的错误修正策略。具体来说，可以使用改进的DPO算法对模型进行训练，该算法通过对比偏好对之间的关键差异，引导模型学习更精细的错误修正策略。此外，还可以使用SFT和RPO等方法对模型进行训练，进一步提高模型的性能。

背景与挑战

背景概述

代码生成是大型语言模型（LLM）中的一个重要领域，其中Code LLMs展现出在多种代码生成任务中的能力。然而，传统的监督微调（SFT）方法在使Code LLMs学习错误模式或如何纠正代码错误方面存在局限性。为了解决这一问题，IterPref框架应运而生。IterPref通过模拟人类的迭代调试过程来提高Code LLMs的性能。该框架明确地定位错误区域，并通过定制的DPO算法对相应的标记进行对齐。为了生成信息丰富的对，引入了CodeFlow数据集，其中样本经过迭代改进直到通过测试，修改记录了错误修正。IterPref框架由清华大学和微软研究院的研究人员于2025年3月提出，并在Code LLMs中取得了显著的性能提升。

当前挑战

现有的代码生成方法主要依赖于通过测试案例成功构建的偏好对，这种方法无法确定代码中的具体错误，这阻止了模型学习更有信息的错误校正模式，因为将失败的代码整体对齐缺乏捕捉有意义的错误解决关系的粒度。此外，IterPref框架依赖于生成的测试案例，当这些测试案例的质量无法保证时，IterPref的性能也可能受到影响。最后，该研究集中在59k样本的数据集上，这可能会限制其泛化能力。

常用场景

经典使用场景

CodeFlow数据集作为迭代调试过程的一部分，被用于生成代码生成大型语言模型（Code LLMs）的偏好对。该数据集通过迭代地将代码片段修改直至通过所有单元测试，从而捕获错误修正过程。这些修改记录了从错误代码到正确代码的关键变化，为偏好学习提供了丰富而细粒度的数据。CodeFlow数据集被用于训练IterPref框架，该框架通过对比正确版本和先前迭代版本之间的关键标记来指导模型学习细粒度的对齐。IterPref框架利用了人类迭代调试的方式来优化Code LLMs，通过定制的数据预处理优化（DPO）算法来显式地定位错误区域并对齐相应的标记。CodeFlow数据集和IterPref框架的结合，使得Code LLMs在代码生成任务上取得了显著的性能提升。

解决学术问题

CodeFlow数据集解决了现有偏好学习方法在代码生成任务中的局限性。传统方法基于测试用例的成功率来构建偏好对，但这种做法无法定位代码中的具体错误，从而限制了模型学习更有效的错误修正模式。CodeFlow数据集通过迭代调试过程捕获错误修正，使得模型能够学习到更细粒度的错误修正模式，从而提高了代码生成模型的准确性和鲁棒性。

实际应用

CodeFlow数据集在实际应用中具有广泛的应用前景。通过使用IterPref框架和CodeFlow数据集训练的Code LLMs，可以生成更准确、更鲁棒的代码。这些模型可以应用于自动化编程、代码补全、代码调试等场景，从而提高软件开发效率和代码质量。此外，CodeFlow数据集还可以用于研究代码生成模型的错误模式和优化策略，为代码生成领域的研究提供重要的数据资源。

数据集最近研究

最新研究方向

在代码生成领域，研究者们不断探索如何提高代码生成模型的准确性和鲁棒性。针对现有方法在构建偏好对时未能精确识别代码错误的问题，IterPref 框架应运而生。该框架模拟人类迭代调试过程，通过精细对比关键代码片段，指导模型学习更有效的错误纠正模式。IterPref 引入了 CodeFlow 数据集，其中样本经过迭代优化直至通过测试，从而捕捉到错误修正的过程。实验表明，IterPref 框架在代码生成和复杂任务如 BigCodeBench 上取得了显著性能提升。IterPref 的发展为代码生成模型的学习和优化提供了新的思路和方法。

相关研究论文

• IterPref: Focal Preference Learning for Code Generation via Iterative Debugging

  清华大学 · 2025年