BCCard/gemma-4-31B-korean-on-policy-150k

--- license: apache-2.0 language: - ko task_categories: - text-generation tags: - korean - synthetic - instruction - on-policy - speculative-decoding - eagle3 size_categories: - 100K<n<1M pretty_name: Korean On-Policy QA for Gemma 4 EAGLE-3 configs: - config_name: default data_files: - split: train path: data/*.jsonl --- # Korean On-Policy QA (Gemma 4) — EAGLE-3 training data Korean instruction/response pairs where the **responses were regenerated on-policy by a Gemma 4 verifier**. Originally built to retrain an EAGLE-3 speculator for Korean, but also usable for general Korean instruction-tuning / distillation. ## Structure - **Rows**: ~150,000 - **Language**: Korean - **Columns**: - `instruction` (string) — the question / instruction - `output` (string) — the verifier-generated response - `messages` (list) — chat format `[{"role":"user",...},{"role":"assistant",...}]` - **Split**: `train` ## How it was made - **Prompt source**: [sh2orc/bccard-maywell-jojo0217-markai-lcw99-kendamarron-microsoft](https://huggingface.co/datasets/sh2orc/bccard-maywell-jojo0217-markai-lcw99-kendamarron-microsoft) (1.71M-row Korean QA). Only the `instruction` column was sampled (~150k); **the original answers were discarded.** - **Response regeneration**: responses generated on-policy by `<VERIFIER>`. - e.g. `RedHatAI/gemma-4-26B-A4B-it-FP8-Dynamic` or `BCCard/gemma-4-31B-it-FP8-Dynamic` - thinking off; temperature 1.0 / top-p 0.95 / top-k 64 (aligned to the serving distribution); text-only. > Fill in: replace `<VERIFIER>` above with the exact verifier model you used, and note the sampling seed. ## Usage ```python from datasets import load_dataset ds = load_dataset("<this-repo-id>", split="train") print(ds[0]["instruction"], ds[0]["output"]) ``` ## License / provenance **Apache 2.0**. Both the prompt-source dataset (Apache 2.0) and the response-generating model Gemma 4 (Apache 2.0) are Apache 2.0. The responses are **synthetic data** generated by Gemma 4; original attribution of the source dataset is retained. (Informational, not legal advice.)Korean instruction/response pairs where the responses were regenerated on-policy by a Gemma 4 verifier. Originally built to retrain an EAGLE-3 speculator for Korean, but also usable for general Korean instruction-tuning / distillation. The dataset structure includes approximately 150,000 rows in Korean, with columns: instruction (string) for the question/instruction, output (string) for the verifier-generated response, and messages (list) in chat format [{"role":"user",...},{"role":"assistant",...}]. It was created by sampling instructions from a source dataset and discarding original answers, then generating responses using a specified verifier model under parameters like temperature 1.0, top-p 0.95, top-k 64. Only the train split is available, and it is licensed under Apache 2.0, with synthetic responses generated by Gemma 4.

搜集汇总

数据集介绍

构建方式

本数据集构建于大规模韩语问答语料库之上，精选自sh2orc/bccard-maywell-jojo0217-markai-lcw99-kendamarron-microsoft这一包含171万条记录的源数据集。在构建过程中，原始问答对中的答案被完全舍弃，仅保留指令部分，并从中随机采样约15万条作为输入。随后，利用Gemma 4系列验证器模型（如RedHatAI/gemma-4-26B-A4B-it-FP8-Dynamic或BCCard/gemma-4-31B-it-FP8-Dynamic）在策略内（on-policy）重新生成响应，确保响应分布与实际的推理服务分布对齐。生成时关闭思维链，采用温度1.0、top-p 0.95、top-k 64的采样参数，仅输出文本内容。

特点

该数据集的核心特点在于其响应的‘策略内生成’属性，即所有输出均源自与部署阶段一致的验证器模型，高度契合推理时的真实分布，尤其适合用于自回归推测解码（speculative decoding）中EAGLE-3投机器的再训练。数据集包含15万条高质量韩语指令-响应对，每条记录均提供原始指令字符串、验证器生成的响应字符串以及标准的多轮聊天格式消息列表（messages），便于不同框架灵活调用。数据来源和生成模型均遵循Apache 2.0许可协议，确保了可追溯性与合规性。

使用方法

用户可通过HuggingFace Datasets库便捷加载该数据集，Python调用方式为：from datasets import load_dataset; ds = load_dataset('<此仓库ID>', split='train')。加载后，每条记录包含instruction（指令文本）、output（验证器生成的响应文本）以及messages（符合聊天格式的消息列表）三个字段。该数据集释放了两个核心应用场景：一是直接用于韩语指令微调（instruction-tuning）或知识蒸馏（distillation），提升模型对韩语指令的遵循能力；二是作为EAGLE-3投机器的训练数据，在保持生成质量的同时大幅加速推理速度。

背景与挑战

背景概述

在大型语言模型快速迭代的背景下，如何高效提升非英语语言（尤其是韩语）的指令遵循能力与推理效率成为关键研究方向。Gemma-4-31B-korean-on-policy-150k数据集由研究机构基于Google的Gemma 4系列模型构建，旨在利用on-policy方法生成高质量的韩语指令-回复对，以支持EAGLE-3推测解码训练或通用韩语指令微调。该数据集创建于2025年初，包含约15万条样本，其特色在于摒弃原始问答对，转而通过Gemma 4验证器重新生成回复，确保数据分布与目标服务环境一致。这一工作推动了韩语大模型在推理加速与对齐优化方面的发展，为多语言模型部署提供了可靠的数据基础。

当前挑战

该数据集面临的核心挑战首先源自韩语指令遵循领域的固有难题：韩语依赖复杂的助词与敬语系统，且存在大量外来词与混合体，这对模型生成自然且符合语境的回复构成严峻考验。在构建过程中，挑战体现为如何从170万条原始韩语问答中有效筛选出约15万条典型指令，并确保其覆盖常见任务类别；同时，使用Gemma 4验证器进行on-policy重生成时，需平衡温度、top-p等采样参数以保持回复质量与多样性，避免模式坍塌。此外，合成数据可能引入验证器自身的偏差，且原始数据集的归属权利与验证模型的开源协议需审慎管理，以符合Apache 2.0许可要求。

常用场景

经典使用场景

在自然语言处理领域，gemma-4-31B-korean-on-policy-150k数据集专为韩语文本生成任务而设计，其经典使用场景涵盖指令微调与知识蒸馏两大方向。该数据集包含约15万条韩语指令-响应对，其中响应部分由Gemma 4验证器通过on-policy策略重新生成，确保了输出质量与模型分布的一致性。研究者可将其直接用于韩语大语言模型的监督微调，或作为教师模型输出蒸馏至小型学生模型，从而在保持韩语理解与生成能力的同时提升推理效率。此外，该数据集的聊天格式字段（messages）便于集成至多轮对话系统的训练流程，支持从单轮问答到复杂交互场景的迁移学习，为韩语NLP研究提供了高质量、可复现的基准训练资源。

实际应用

在实际工业场景中，该数据集可赋能韩语智能客服、实时翻译系统和交互式AI助手的部署效率提升。例如，移动端韩语阅读助手可利用基于该数据集训练的EAGLE-3推测器，在保证回答连贯性的前提下将解码延迟降低数倍，从而支持离线或弱网环境下的流畅交互。韩语内容创作平台可借助微调后的模型实现指令驱动的文案生成，如个性化营销文案或自动化新闻摘要。此外，数据集对原始指令源（sh2orc联合数据集）的Apache-2.0许可兼容设计，降低了商业集成的法律风险，尤其适合需要高频更新数据策略的敏捷开发团队，在保持输出多样性的同时控制推理成本。

衍生相关工作

该数据集直接衍生了面向韩语的EAGLE-3推测器重训练工作，为投机解码框架在低资源语言上的适配提供了标杆性基线。基于其on-policy生成范式，后续研究可拓展至：（1）多粒度验证器融合策略，如结合词汇级与语义级奖励模型优化响应质量；（2）动态温度采样调整技术，以适配不同复杂度的指令分布；（3）跨语言迁移学习，将韩语on-policy方法扩展至其他形态丰富的语言（如日语或土耳其语）。此外，该数据集的构建流程（丢弃原始答案、统一采样参数）已被社区采纳为合成数据基准方法论，广泛引用于指令微调数据筛选与蒸馏效率对比的学术实验中。