typhoon-s-sovereign-capability-dataset

Typhoon-S Instruct Post-Training 数据集是为 Typhoon-S 项目中的泰语语言模型训练和评估而设计的。该数据集包含两个主要子集：NitiBench（法律领域）和 MIRAGE（通用领域）。NitiBench 子集包括 RL 训练集、预训练集、SFT 集和测试集，共计 8,211 个 RL 训练样本、3,648 个预训练和 SFT 样本，以及 373 个测试样本。MIRAGE 子集则提供 RL 训练集、预训练集和测试集。数据集适用于文本生成任务，支持泰语和英语，特别关注强化微调和工具使用场景。数据来源于多个公开数据集，并以 parquet 格式提供。使用示例和引用信息也包含在数据集中。

原始信息汇总

Typhoon-S Instruct Post-Training 数据集概述

数据集基本信息

• 数据集名称: Typhoon-S Instruct Post-Training
• 标签: 强化微调、工具使用、泰语、英语、主权AI
• 任务类别: 文本生成
• 支持语言: 泰语 (th)、英语 (en)
• 许可证: odc-by

数据集描述

该数据集为Typhoon-S项目第3节中泰语语言模型的训练与评估数据集。

包含的数据子集

NitiBench (法律领域)

• nitibench_train_rl.parquet - RL训练集 (8,211个样本)
• nitibench_train_pretrain.parquet - 预训练集 (3,648个样本)
• nitibench_train_sft.parquet - SFT集 (3,648个样本)
• nitibench_test.parquet - 测试集 (373个样本) (源自 https://huggingface.co/datasets/VISAI-AI/nitibench ccl 分割的10%)
• nitibench_train_rl_agent.parquet - 智能体RL训练集 (8,211个样本)

原始数据来源:

• https://huggingface.co/datasets/airesearch/WangchanX-Legal-ThaiCCL-RAG
• https://huggingface.co/datasets/VISAI-AI/nitibench

MIRAGE (通用领域)

• mirage_train_rl.parquet - RL训练集
• mirage_train_pretrain.parquet - 预训练集
• mirage_test.parquet - 测试集

原始数据来源:

• https://huggingface.co/datasets/nthakur/mirage-bench-instruct
• https://huggingface.co/datasets/nthakur/mirage-bench

使用方式

可通过 datasets 库的 load_dataset 函数加载单个或多个数据文件。

更多信息

详细信息请访问: https://github.com/scb-10x/typhoon-s

引用

若使用此数据集，请引用数据集仓库及相关的Typhoon-S技术报告。

搜集汇总

数据集介绍

构建方式

在自然语言处理领域，针对特定语言和任务的数据集构建是推动模型性能提升的关键。Typhoon-S数据集通过整合两个核心领域的数据源精心构建而成：法律领域的NitiBench与通用领域的MIRAGE。NitiBench源自WangchanX-Legal-ThaiCCL-RAG和VISAI-AI/nitibench，经过划分生成了用于强化学习训练、预训练、监督微调和测试的多个子集；MIRAGE则来源于mirage-bench系列，同样被处理为适用于不同训练阶段的版本。该构建过程注重数据来源的权威性与任务针对性，确保了数据在泰语和英语双语环境下的质量与代表性。

特点

该数据集的核心特征体现在其领域覆盖的深度与训练阶段的全面性。数据集不仅涵盖了法律这一专业垂直领域，也包含了通用领域的指令数据，为模型的多领域适应能力提供了支撑。在数据组织上，它明确区分了强化学习训练、预训练、监督微调和测试等不同用途的子集，这种结构化的设计便于研究人员针对模型训练的不同阶段进行精准的数据调用与实验。此外，数据集以泰语和英语双语形式呈现，契合了构建主权人工智能模型对本土语言支持的需求。

使用方法

对于希望利用该数据集的研究者而言，其使用方法清晰且便捷。通过Hugging Face的`datasets`库，用户可以灵活加载所需的数据文件。既可以加载单个文件进行特定任务的分析，也可以通过指定字典的方式一次性加载多个文件，例如分别加载训练集和测试集。这种设计赋予了用户高度的灵活性，能够轻松适配不同的实验流程和模型训练管线。更详细的技术细节和背景信息，用户可参考提供的GitHub仓库链接以获取完整说明。

背景与挑战

背景概述

在人工智能领域，特别是自然语言处理（NLP）的研究中，多语言大语言模型（LLMs）的开发已成为推动技术前沿的关键驱动力。Typhoon-S Instruct Post-Training 数据集由泰国研究团队于2026年创建，主要研究人员包括 Kunat Pipatanakul 和 Pittawat Taveekitworachai，其核心研究问题聚焦于通过强化微调（reinforcement fine-tuning）和工具使用（tool-use）技术，提升泰语和英语双语模型在特定领域（如法律）及通用任务中的性能。该数据集作为 Typhoon-S 项目的重要组成部分，旨在促进主权人工智能（sovereign AI）的发展，增强泰语在全球化AI生态中的代表性，对推动低资源语言NLP研究具有显著影响力。

当前挑战

该数据集致力于解决泰语大语言模型在专业领域（如法律文本处理）和通用任务中性能优化的挑战，具体包括模型对低资源语言的适应能力、跨语言知识迁移的复杂性，以及工具调用与指令遵循的精准度问题。在构建过程中，研究人员面临数据收集与标注的困难，尤其是泰语高质量领域数据（如法律文档）的稀缺性，需从现有资源如 WangchanX-Legal-ThaiCCL-RAG 和 NitiBench 中整合与清洗；同时，多阶段训练（如预训练、监督微调和强化学习）的数据划分与对齐也增加了构建的复杂性，确保数据一致性与评估有效性成为关键难点。

常用场景

经典使用场景

在泰语自然语言处理领域，Typhoon-S数据集为法律与通用领域的指令微调提供了关键资源。该数据集通过整合NitiBench法律子集与MIRAGE通用子集，支持强化学习、监督微调及预训练等多种训练范式。研究人员能够利用这些结构化数据，针对泰语语言模型进行指令遵循能力、工具使用及多任务泛化性能的系统性评估与优化，从而推动泰语大语言模型在复杂场景下的适应性发展。

实际应用

在实际部署中，Typhoon-S数据集能够赋能面向泰语用户的法律咨询助手、智能文档处理系统及多语言客户服务机器人等应用。基于该数据集训练的模型可准确解析泰语法律条文、生成合规文本回复，并在教育、金融及公共服务等领域提供精准的泰语信息交互支持。这显著提升了泰语数字化服务的智能化水平，促进了人工智能技术在泰国本土社会经济活动中的深度融合与普惠应用。

衍生相关工作

围绕该数据集衍生的经典工作主要包括Typhoon-S项目本身的技术报告及其提出的最小化开放后训练框架。相关研究进一步拓展至泰语法律文本的检索增强生成、低资源语言的多任务指令微调策略优化等领域。这些工作不仅深化了对泰语语言模型训练范式的理解，也为后续类似低资源语言模型的构建提供了可复现的基准与方法论参考，激发了更多面向区域性语言AI系统的创新探索。