schemasage-sql-clean-text2sql

SchemaSage-SQL Clean Text-to-SQL数据集是一个经过规范化的文本到SQL监督示例集合，旨在提供一致的模式、问题和答案格式。该数据集通过处理原始数据，将破坏性SQL目标转换为显式拒绝示例，移除无效的SQL目标，并过滤掉引用不存在的表或列的答案SQL，从而增强数据的安全性和模式一致性。数据集包含111,444个接受示例，分为训练集（95,508条）、验证集（10,612条）和测试集（5,324条），数据来源包括b-mc2/sql-create-context（15,401条）和gretelai/synthetic_text_to_sql（96,043条）。每个示例包含instruction（指令）、schema（模式）、question（问题）、answer_sql（答案SQL）、source（来源）、split（分割）、explanation（解释）和safety（安全性）字段。该数据集适用于文本到SQL生成任务，特别关注SQL查询的安全性验证和模式匹配，可用于训练和评估自然语言到SQL查询的模型。处理过程确保了数据质量，移除了重复、无效和模式不匹配的条目，并采用确定性训练保留策略创建验证集。

The SchemaSage-SQL Clean Text-to-SQL dataset is a normalized collection of text-to-SQL supervised examples designed to provide consistent schema, question, and answer formats. By processing raw data, it converts disruptive SQL targets into explicit rejection examples, removes invalid SQL targets, and filters answer SQL that references tables or columns not present in the provided schema, thereby enhancing data safety and schema consistency. The dataset contains 111,444 accepted examples, divided into training set (95,508 entries), validation set (10,612 entries), and test set (5,324 entries). Data sources include b-mc2/sql-create-context (15,401 entries) and gretelai/synthetic_text_to_sql (96,043 entries). Each example includes fields such as instruction, schema, question, answer_sql, source, split, explanation, and safety. The dataset is suitable for text-to-SQL generation tasks, with a focus on SQL query safety verification and schema matching, and can be used for training and evaluating natural language to SQL query models. The processing ensures data quality by removing duplicate, invalid, and schema-mismatched entries, and employs a deterministic training retention strategy to create the validation set.

原始信息汇总

数据集概述

数据集名称：SchemaSage-SQL Clean Text-to-SQL Dataset
仓库地址：rishhh/schemasage-sql-clean-text2sql
许可证：MIT
任务类型：文本生成（text-generation）
语言：英语（en）
标签：text-to-sql, sql, safety, schemasage-sql

数据内容与格式

该数据集包含规范化的 SchemaSage-SQL 监督学习样本，采用一致的 schema/question/answer 格式。

• 破坏性的 SQL 目标被转换为明确的拒绝示例
• 无效的 SQL 目标被移除
• 引用了 schema 中不存在的表或列的答案 SQL 被过滤

每条数据包含以下字段：instruction、schema、question、answer_sql、source、split、explanation、safety。

文件列表

• text2sql_train.jsonl
• text2sql_validation.jsonl
• text2sql_test.jsonl
• data_report.md
• data_stats.json

数据规模与划分

总共接受的样本数：111,444

数据划分	样本数量
train（训练集）	95,508
validation（验证集）	10,612
test（测试集）	5,324

数据来源

来源	样本数量
b-mc2/sql-create-context	15,401
gretelai/synthetic_text_to_sql	96,043

处理统计

• 输入行数：184,428
• 移除重复项：6
• 移除分割污染：0
• 创建拒绝示例：10,862
• 移除无效 SQL 目标：354
• 移除 schema 不匹配的目标：72,624
• 验证策略：deterministic_train_holdout
• 从训练集创建的验证示例：10,612

拒绝原因统计

原因	数量
answer_sql_schema_mismatch	72,624
invalid_answer_sql_parse	354

其他说明

• 原始公开数据集未提交至 Git
• 处理后的数据划分通过 scripts/prepare_data.sh 重新生成
• 后续阶段将增加 SQL 有效性、schema 遵循性和执行评估

搜集汇总

数据集介绍

构建方式

该数据集基于SchemaSage-SQL原始监督示例构建，通过一整套规范化流程进行清洗与重构。首先，从b-mc2/sql-create-context和gretelai/synthetic_text_to_sql两个公开来源共收集184428条原始数据，经过去重与分割污染剔除后，保留有效样本。对于具有破坏性的SQL目标，将其转换显式拒绝示例；对于无效SQL解析目标，则直接移除；同时，严格过滤掉答案SQL中引用缺失表或列的不匹配条目。最终形成111444条高质量样本，并按确定性训练保留策略划分为训练集（95508条）、验证集（10612条）与测试集（5324条）。

使用方法

使用该数据集时，可直接加载三个JSONL格式的拆分文件进行监督学习或微调。推荐将instruction字段作为模型输入前缀，schema字段提供数据库上下文，question字段作为用户查询，answer_sql字段作为目标输出。对于安全性敏感的模型训练，可利用safety字段筛选或加权样本。用户还可参考data_report.md了解数据分布与处理细节，或通过data_stats.json获取统计信息。后续阶段将引入SQL有效性、模式遵循及执行结果评估，进一步提升数据集的实用性。

背景与挑战

背景概述

SchemaSage-SQL Clean Text-to-SQL数据集由研究人员于近期构建，旨在应对自然语言到结构化查询语言（Text-to-SQL）任务中数据质量参差不齐的挑战。该数据集整合了b-mc2/sql-create-context与gretelai/synthetic_text_to_sql两大公开来源，经严格清洗与归一化处理后，形成了包含约11万条样本的高质量监督数据。其核心研究问题聚焦于提升序列到序列模型在复杂数据库模式下的SQL生成准确性与安全性，通过标准化schema/question/answer格式并过滤有害或无效SQL语句，为Text-to-SQL领域提供了可靠的基准资源。该数据集的发布显著推动了语言模型在跨领域数据库查询任务中的泛化能力研究，并成为后续安全性评估与模式对齐工作的重要参考。

当前挑战

当前领域面临的主要挑战包括：其一，Text-to-SQL任务需解决自然语言歧义性与数据库模式异质性的矛盾，模型需精准理解用户意图并映射至合规的SQL结构；其二，构建过程中需克服多源数据融合噪声，如原始数据中超过7.2万条因SQL引用的表或列与给定模式不匹配而被过滤，以及354条因SQL语法无效而被去除，同时需处理1万条以上潜在的对抗性或破坏性查询以生成拒绝回答示例。此外，跨数据集污染控制、训练与验证集的分割策略（确定性留出法）以及后续SQL执行正确性评估等环节，均对数据集的鲁棒性和可用性构成系统性挑战。

常用场景

经典使用场景

在自然语言处理与数据库交叉融合的学术疆域中，SchemaSage-SQL Clean Text-to-SQL数据集为语义解析研究提供了规范化、高纯净度的训练样本。其经典应用场景聚焦于将自然语言问题精准转化为结构化查询语言（SQL），要求模型在理解用户意图的同时，严格遵循给定的数据库模式。该数据集通过剔除无效SQL、过滤模式不匹配的目标以及将破坏性SQL转换为拒绝示例，确保了输入与输出之间逻辑链路的完整性，进而成为评估和提升文本到SQL模型核心能力的标准基准。

解决学术问题

该数据集着力攻克了文本到SQL任务中长期存在的脏数据干扰与语义歧义困境。研究者可借此探索新范式，以解决因数据库模式与自然语言表达间的不一致而导致解析错误频发的学术难题。其贡献在于，通过系统性的数据清洗与规范化流程，为模型提供了可靠的学习信号，推动了无谓查询过滤与安全性响应的研究。这不仅提升了语法解析的鲁棒性，亦为构建可信赖的跨领域查询系统奠定了方法论基石，在数据库自动化与人工智能对话系统领域具有深远影响。

实际应用

在现实世界的商业智能与数据分析场景中，该数据集赋予非技术用户以自然语言操控复杂数据库的能力。基于此类数据训练的系统可部署于企业报表生成平台，允许业务人员通过提问获取销售趋势、库存状态等实时洞察，而无需掌握SQL语法。同时，智能客服与虚拟助手亦能借助其衍生模型，从庞大的知识库中抽取精确信息回应用户咨询，显著降低了人类与数据系统交互的门槛，实现了从数据孤岛到普惠访问的跃迁。

数据集最近研究

最新研究方向

当前，Text-to-SQL领域正朝着更可靠、更安全的语义解析方向演进。SchemaSage-SQL Clean数据集的问世恰逢其时，它通过对原始SQL指令进行系统性清洗——剔除无效与模式不匹配的目标、将破坏性SQL转化为明确拒绝示例——为构建鲁棒且安全的自然语言到SQL转换模型提供了高质量的监督数据。这一工作呼应了业界对于大语言模型在数据查询场景中可信度与可控性的迫切需求，特别是面对复杂数据库模式时避免生成错误或危险查询的挑战。该数据集整合了sql-create-context与gretelai/synthetic_text_to_sql两大来源，经严格过滤后保留逾11万条有效样例，为评估模型在结构化上下文中的推理能力、模式遵循能力以及安全性奠定了坚实基准，有望推动Text-to-SQL从实验性应用迈向生产级部署。