Fable5 Dataset
收藏资源简介:
Fable5数据集是FableForge生态系统的一部分,用于加载、预处理和管理代理跟踪数据集,以进行微调和评估。它包括多个来源的数据,如Glint(基于会话的完整代理会话,包含工具使用)、armand0e(多轮对话,包含函数调用)、vfable(代理轨迹,包含顺序工具使用)、Coding Excellence(基于会话的高质量编码会话,由专家评分)、OpenCoven(指令跟随的输入/输出对)和Victor(单轮编码指令对)。
The Fable5 dataset is part of the FableForge ecosystem, dedicated to loading, preprocessing, and managing agent trace datasets for fine-tuning and evaluation. It includes data from multiple sources: Glint (full session-based agent sessions with tool usage), armand0e (multi-turn dialogues with function calls), vfable (agent trajectories with sequential tool usage), Coding Excellence (session-based high-quality coding sessions scored by experts), OpenCoven (instruction-following input-output pairs), and Victor (single-turn coding instruction pairs).
Fable5 数据集概述
Fable5 数据集 是一个用于微调与评估智能体(Agent)轨迹的数据集,提供加载、预处理和管理功能。它是 FableForge 生态系统 的一部分,该生态系统包含 21 个开源项目,基于 210K 真实智能体轨迹构建。
数据集来源
| 来源 | 格式 | 描述 |
|---|---|---|
| Glint | 基于会话的轮次结构 | 包含工具使用的完整智能体会话 |
| armand0e | 带有 tool_calls 的多轮对话 | 支持函数调用的多轮对话 |
| vfable | 带有 tool_use 的轨迹 | 包含顺序工具使用的智能体轨迹 |
| Coding Excellence | 基于会话并附带质量评分 | 由专家评分的高质量编程会话 |
| OpenCoven | 源/目标对 | 遵循指令的输入/输出对 |
| Victor | 提示/回复对 | 单轮编程指令对 |
安装与使用
- 安装:
pip install fable5-dataset - 加载数据:支持命令行与编程 API。可加载单一来源(如
fable5 load glint)或全部数据,支持 PII 移除与质量过滤。 - 查看统计:通过
fable5 stats命令可查看单一数据集或所有数据集的统计信息。 - 格式转换:支持将数据转换为 OpenAI Chat 格式或 Alpaca 格式。
- 基准生成:可根据来源和类别(如
debugging,implementation)生成基准测试任务。 - 数据拆分:支持按比例或分层(如按工具分布)拆分为训练集和验证集。
编程 API 示例
python from fable5_dataset import DatasetLoader, Preprocessor, BenchmarkGenerator, DatasetStats
加载数据
loader = DatasetLoader() records = loader.load_dataset("glint", normalize=True, remove_pii=True)
预处理
preprocessor = Preprocessor() normalized = preprocessor.normalize_format(records, source_format="glint") cleaned = preprocessor.remove_pii(normalized) filtered = preprocessor.filter_quality(cleaned, min_quality=0.7)
统计
stats = DatasetStats() result = stats.compute_stats(records) print(result.summary())
基准生成
gen = BenchmarkGenerator() tasks = gen.generate_benchmark(records, num_tasks=50, categories=["debugging"])
数据集比较
comparisons = stats.compare_datasets(all_data)
许可证
采用 MIT 许可证。




