sensix-zo/SFT-Paite_Translation

--- license: mit language: - pck pretty_name: Paite Vocabulary — SFT Translate-Only (Instruction / Input / Output) task_categories: - text-generation tags: - paite - instruction-finetuning - sft - gemma - unsloth - alpaca - translation size_categories: - 10K<n<100K --- # Paite Vocabulary — SFT Translate-Only (`vocab_paite_2025-12-13_translate_only.jsonl`) This dataset is a **filtered** slice of the Paite vocabulary instruction set for **supervised fine-tuning (SFT)**. Only rows whose **`instruction`** starts with **`Translate`** (case-insensitive) are kept, so every example is an English-to-Paite translation task. The classic **Instruction–Input–Output** structure matches Alpaca-style training on Gemma, Unsloth, and similar stacks. ## Dataset composition * **Task focus:** English appears in **`input`**; Paite is the target in **`output`**. **`instruction`** frames the task (e.g. `Translate … to Paite`). * **Coverage:** Broad vocabulary and short-sentence patterns (kitchen, travel, emotion, daily life, and related domains). * **Filtering:** Rows whose `instruction` did not start with `Translate` were removed so supervision stays a single task type. ## File description ### `vocab_paite_2025-12-13_translate_only.jsonl` | Property | Value | |----------|--------| | **Lines** | 26,502 | | **Format** | JSONL (one JSON object per line, UTF-8) | | **Schema** | `instruction` (string), `input` (string), `output` (string) | **Example line:** ```json {"instruction": "Translate The knife is very sharp to Paite", "input": "The knife is very sharp.", "output": "tem a hiam mahmah."} ``` * **`instruction`:** Always begins with `Translate` (after optional leading whitespace). * **`input`:** English phrase or sentence to translate. * **`output`:** Paite translation (supervision target). ## Relationship to the full release The parent file `vocab_paite_2025-12-13.jsonl` may include non-translate instructions. This **`_translate_only`** file is the subset for **translate-only** SFT. For **CPT** plain-text data from the same project, see **`README_vocab_paite_2025-12-13_paragraph.md`** and `vocab_paite_2025-12-13_paragraph.jsonl`. ## Technical training parameters (SFT) * **SFT learning rate:** `2e-5` (tune if loss is unstable). * **LoRA rank (r):** `64` or `128` * **LoRA alpha (α):** `128` or `256` * **Context length:** `4096` tokens is typical for Gemma/Unsloth (examples are short; packing may help throughput). * **Packing:** Enable where supported (e.g. Unsloth) for faster training. ## Usage notes * **Format:** JSONL — one record per line. * **Structure:** Each line has `instruction`, `input`, and `output`. * **Training:** Map `instruction` + `input` to the user/prompt and train on `output` per your chat or Alpaca template. * **License:** MIT (frontmatter); confirm compliance with your base model’s license (e.g. Gemma) before redistribution. ## Citation Reference this artifact by filename and date: `vocab_paite_2025-12-13_translate_only`.许可证：MIT协议 语言：pck 数据集名称：派特语（Paite）词汇集——仅翻译型监督微调（指令/输入/输出格式） 任务类别：文本生成 标签： - 派特语（Paite） - 指令微调（Instruction Fine-Tuning） - 监督微调（SFT, Supervised Fine-Tuning） - Gemma - Unsloth - Alpaca - 翻译 样本规模：10000 < 样本数量 < 100000 --- # 派特语（Paite）词汇集——仅翻译型监督微调数据集（`vocab_paite_2025-12-13_translate_only.jsonl`） 本数据集为派特语词汇指令集的经筛选子集，用于**监督微调（SFT, Supervised Fine-Tuning）**。仅保留指令字段（`instruction`）以不区分大小写的`Translate`开头的数据行，因此所有样本均为英语到派特语的翻译任务。经典的**指令-输入-输出**结构适配Gemma、Unsloth及类似训练栈下的Alpaca风格训练。 ## 数据集构成 * **任务焦点：** 英语内容置于`input`字段，派特语为`output`字段的目标译文。`instruction`字段用于说明任务（例如`Translate … to Paite`）。 * **覆盖范围：** 涵盖厨房、旅行、情感、日常生活等相关领域的丰富词汇与短句表达模式。 * **筛选规则：** 移除了指令字段未以`Translate`开头的数据行，确保监督任务类型单一。 ## 文件说明 ### `vocab_paite_2025-12-13_translate_only.jsonl` | 属性 | 取值 | |----------|--------| | **行数** | 26,502 | | **格式** | JSONL（每行一个JSON对象，UTF-8编码） | | **Schema** | `instruction`（字符串类型）、`input`（字符串类型）、`output`（字符串类型） | **示例行：** json {"instruction": "Translate The knife is very sharp to Paite", "input": "The knife is very sharp.", "output": "tem a hiam mahmah."} * **`instruction`：** 始终以`Translate`开头（可前置可选空白字符）。 * **`input`：** 待翻译的英语短语或句子。 * **`output`：** 派特语译文（监督训练的目标标签）。 ## 与完整版本的关联 父文件`vocab_paite_2025-12-13.jsonl`可能包含非翻译类指令。本**仅翻译型**数据集为完整数据集的子集，专用于仅翻译任务的监督微调。如需获取本项目下的**CPT**纯文本数据，请参阅`README_vocab_paite_2025-12-13_paragraph.md`与`vocab_paite_2025-12-13_paragraph.jsonl`。 ## 监督微调技术参数 * **学习率：** `2e-5`（若训练损失不稳定可调整该值）。 * **LoRA秩（r）：** `64` 或 `128` * **LoRA Alpha（α）：** `128` 或 `256` * **上下文长度：** 针对Gemma/Unsloth框架，通常使用`4096`个Token（样本长度较短，启用序列打包可提升训练吞吐量）。 * **序列打包：** 在支持该功能的框架（如Unsloth）中启用，可加速训练流程。 ## 使用须知 * **文件格式：** JSONL格式，每行一条数据记录。 * **数据结构：** 每条记录包含`instruction`、`input`与`output`三个字段。 * **训练方法：** 将`instruction`与`input`拼接为用户提示文本，按照聊天模型或Alpaca模板对`output`进行监督训练。 * **许可证：** 采用MIT协议（见前文元数据）；重新分发前请确认与基础模型的许可证兼容（例如Gemma）。 ## 引用方式 请通过文件名与日期引用本数据集：`vocab_paite_2025-12-13_translate_only`。