遇见数据集

EDUARDO Near-Transfer Dataset

收藏
arXiv2026-10-05 更新2026-10-07 收录
数据链接:
官方服务:

资源简介:

EDUARDO近迁移数据集由苏黎世联邦理工学院构建,包含8,671个数学问题对,旨在支持多轮对话式教学场景。每个问题对由源问题与近迁移变体组成,源问题用于辅导,变体用于评估学生学习效果,变体通过改写数字或故事背景生成并经过求解验证。数据集采自BigMath语料,创建过程强调可测量的学习增益,并包含先验求解率以控制难度。该数据集主要应用于强化学习训练教学型大语言模型,解决LLM在辅导中倾向于直接告知答案而无法促进学习迁移的困境。

The EDUARDO Near-transfer Dataset, developed by ETH Zurich, contains 8,671 pairs of math problems and is designed to support multi-turn conversational tutoring scenarios. Each problem pair consists of a source problem for tutoring and a near-transfer variant for evaluating student learning outcomes; the variants are generated by modifying numbers or story contexts and verified for solution correctness. The dataset is sourced from the BigMath corpus, with its creation process emphasizing measurable learning gains and including prior solution rates to control difficulty levels. This dataset is primarily used for reinforcement learning training of instructional large language models (LLMs), addressing the dilemma that LLMs tend to directly provide answers during tutoring without facilitating learning transfer.

创建时间:
2026-10-05
原始信息汇总

EduardoRL 数据集概述

基本信息

  • 数据集名称:dmacjam/eduardoRL-transfer-dataset
  • 数据集地址:https://huggingface.co/datasets/dmacjam/eduardoRL-transfer-dataset
  • 关联论文:The Assistance Dilemma: Learning to Teach via Multi-Turn Reinforcement Learning(arXiv:2610.06446)
  • 关联仓库:https://github.com/eth-lre/EduardoRL
  • 许可协议:Creative Commons Attribution-ShareAlike 4.0 International(CC BY-SA 4.0)

数据集用途

该数据集用于训练与评估 Eduardo 辅导模型。Eduardo tutors 通过多轮强化学习(DPPO,基于 veRL)训练,学生模型为冻结的 Llama-3.1-8B-Instruct。奖励基于学生在**掩蔽近迁移后测(masked near-transfer post-test)**上的归一化学习增益。

数据来源

每个源问题(source problem)均来自 Big-Math 数据集。

数据字段说明

字段 含义
problem, answer 源问题(被辅导的问题)及其答案
transfer_problem, transfer_answer 近迁移变体(仅用于后测);若无变体通过验证则为空
pre_solve_rate 冻结学生在源问题上的冷启动解决率(k=16)
pre_solve_rate_transfer_problem 冻结学生在变体问题上的冷启动解决率(k=16)
*_n_scored 每个解决率背后被评分的样本数量
llama8b_solve_rate 从 Big-Math 继承的解决率(不用于奖励计算)

数据划分

划分 规模 含变体数量
train 10,000 个源问题 9,876 个含变体
test 500 个问题 494 个含变体(即 494 题环境测试集)
all_test 1,945 个问题 1,919 个含变体

加载与处理

  • 加载方式: python from datasets import load_dataset ds = load_dataset("dmacjam/eduardoRL-transfer-dataset")

  • 转换为 veRL parquet 文件: bash python -m eduardo.process_dataset --num-train 10000 --num-test 100 --seed 42 --out-dir $WORK_DIR/data/eduardo

    该脚本默认从 Hub 下载数据集;可通过 --data-dir <dir> 读取本地 train.jsonl / test.jsonl 文件。

  • 从零重新生成数据集(Gemini 重写器、盲解验证、难度门控)参见 eduardo/create_transfer_dataset.py 与 eduardo/scripts/transfer_dataset_slurm.sh。

奖励机制

  • 奖励为学生在中测上的归一化学习增益。
  • 两个二元奖励门控:事实正确性(factual correctness) 与 不直接给出解答(no solution handover),由 Qwen3.6-27B 判定。
  • 后测采用掩蔽协议:学生仅能看到自己的轮次,辅导者的轮次被替换为 (hidden)。

相关模型

模型 基础模型 链接
Eduardo-27B Qwen3.8-27B https://huggingface.co/eth-nlped/Eduardo-27b
Eduardo-4B Qwen3.5-4B https://huggingface.co/eth-nlped/Eduardo-4b(即将发布)
搜集汇总
数据集介绍
EDUARDO Near-Transfer Dataset 数据集图片
构建方式
针对现有辅导模型缺乏教学性的问题,该数据集的构建源于学习科学中的“援助困境”理论,即过度帮助会阻碍学生自主建构知识。构建者从BigMath数据集中选取问题,利用Gemini 3.1 Pro对源问题进行改写,保留解题结构但改变数值或表面故事,生成近迁移变体。每个变体需经盲解验证,确保答案与预设一致。随后,以冻结的Llama-3.1-8B-Instruct作为学生模型,对源问题和迁移问题各采样16次,测量其冷启动解决率,并据此设置难度门槛,剔除解决率过高或与源问题差异过大的变体,最终形成包含8,671对问题的近迁移数据集。
特点
该数据集的核心特点在于其“掩蔽近迁移后测”设计。在评估学习增益时,学生仅能看到自己与辅导者对话中自己撰写的轮次,辅导者的所有话语被替换为占位符,从而杜绝了学生通过复制辅导者答案而获得虚假增益的可能。这一设计迫使辅导者必须通过引导学生自己生成可迁移的推理来提升后测表现。数据集的每个问题对均附有学生模型的先验解决率,用于计算归一化学习增益,使奖励对问题难度不敏感。此外,数据集涵盖了从4B到27B参数规模的模型训练需求,并配有二元奖励门控,确保辅导者回答正确且不直接给出答案。
使用方法
该数据集主要用于基于多轮强化学习的辅导模型训练。使用者可将源问题输入辅导模型,与模拟学生进行至多22轮对话,随后在掩蔽对话历史的条件下,让学生尝试解决近迁移变体。学习增益由后测解决率相对于先验解决率的归一化提升计算得出,并结合事实正确性与无答案泄露两个二元门控构成最终奖励。训练采用DPPO算法,在8,192序列长度内优化。该数据集亦可用于评估模型的迁移教学能力,如在MathTutorBench和TutorMoments等独立基准上测试其教学法表现,以及分析模型在引导性提问、追问理由等教学行为上的分布变化。
背景与挑战
背景概述
在人工智能赋能教育的浪潮中,大语言模型虽以解题见长,却天然缺乏教学智慧,常在辅导中过早泄露答案,陷入“援助困境”。2026年,苏黎世联邦理工学院Macina、Kapur与Sachan等研究者发布EDUARDO近迁移数据集,旨在通过多轮强化学习重塑模型的教授能力。该数据集包含8,671个经严格验证的数学问题近迁移对,核心在于以掩蔽后测迫使模型关注学生自主生成的推理,而非直接告知答案。此项工作为教学型智能体的奖励设计提供了学习科学启发的范式,对智能辅导系统的发展具有重要影响力。
当前挑战
EDUARDO需应对双重挑战。领域问题上,如何让模型在援助困境中平衡帮助与保留,避免过度脚手架或答案泄露,同时促进可迁移的深度学习,是智能辅导的核心难题。构建过程中,近迁移对的生成需确保问题结构一致而表面变化,并通过盲解验证与难度门控筛选,以保证学生认知增益可测;掩蔽后测须在移除导师话语后仍能真实反映学生自述推理的成效,防止认知卸载;二元奖励门与效率衰减的协同设计还需抑制奖励黑客行为,如答案回响与空转对话,从而在长程多轮交互中稳定优化教学策略。
常用场景
经典使用场景
在智能辅导系统与教育大语言模型的研究中,EDUARDO Near-Transfer Dataset 的经典用途在于为多轮强化学习提供可量化的迁移评估环境。其核心设计是以掩码近迁移后测替代传统的同题复测:学生在完成辅导对话后,仅凭自身轮次所写下的推理内容去解答一道结构相同但数值或情境已变的变式题,教师的言语在测试时被遮蔽。如此,辅导策略的优化目标从‘让学生答对原题’转为‘让学生独立迁移方法’,从而在数学辅导场景中精确刻画教学与告知之间的边界,成为衡量辅导增益的标准化试验台。
衍生相关工作
该数据集及配套训练配方衍生了若干经典工作。TutorRL 率先以冻结学生模型进行同题复测的强化学习,而 EDUARDO 在此基础上以近迁移与掩码机制重构奖励,催生了以学习科学条件为先导的辅导策略优化路线。MathTutorBench 与 TutorMoments 作为独立评估基准,持续检验此类模型的开放教学能力。此外,EDUARDO-27B 在无需提示的情况下自发涌现出‘追问理由’等教学动作,启发了后续关于通过优化自发发现教学策略、以及多目标奖励弥补情感支持缺口的研究。
数据集最近研究
最新研究方向
针对大语言模型在辅导场景中因预训练与偏好对齐而倾向于直接给出答案的“助益困境”,近期研究转向以多轮强化学习重塑其教学行为。EDUARDO Near-Transfer Dataset 以8,671个近迁移问题对为核心,构建掩蔽式延迟测验与二元奖励门控机制,使奖励仅通过学生在自身回合中生成的推理得以提升,从根源上抑制认知卸载与答案泄露。该数据集与开放训练配方推动模型习得催生自我解释等教学动作,在低推理开销下逼近前沿模型的辅导质量,为教育人工智能的可泛化教学能力评测与安全部署提供了关键基础设施,亦呼应了“促进产出性挣扎”这一教育热点议题。
相关研究论文
  • 1
    The Assistance Dilemma: Learning to Teach via Multi-Turn Reinforcement Learning苏黎世联邦理工学院 · 2026年
以上内容由遇见数据集搜集并总结生成
二维码
社区交流群
二维码
科研交流群
商业服务