遇见数据集

synthesized-cloud-optimization-recommendations

收藏
Hugging Face2026-06-04 更新2026-06-05 收录
官方服务:

资源简介:

该数据集名为合成云优化建议,是一个专门设计用于云基础设施优化任务的开源数据集。数据集包含18个精心设计的场景,每个场景将多层次的云遥测数据(包括计算、数据库、缓存、网络四个层面的性能指标)和基础设施描述(Terraform文件)与手工制作的黄金标准优化建议进行配对。数据集采用合成方法生成,遥测数据根据场景叙述程序生成,确保逻辑一致性,所有优化建议均经过手工制作和验证。数据集完全基于AWS生态系统,使用AWS的实例类型、服务名称和字段命名,使场景具体而非供应商中立。每个场景包含多个文件,如metadata.json(场景元数据)、main.tf(Terraform基础设施代码)、各类遥测数据文件(如compute_telemetry.json)、correlation_evidence.json(跨层相关性证据)和handcrafted_recommendation.json(黄金标准建议)。场景类型多样,包括单层问题(如计算资源过度配置)、跨层问题(如数据库问题在计算层表现)、无操作案例、诊断延迟案例以及SLA审查案例。优化建议输出包含关键字段,如finding_type(问题发现类型)、primary_tier(主要层)、secondary_tier(次要层)、action_category(操作类别)、specific_change(具体更改)等。数据集适用于训练或微调将云遥测映射到优化建议的模型、评估AI代理在云优化推理方面的能力,以及比较单次预测与协调代理设计的性能。数据集提供了完整性检查脚本和示例预测格式,但需要用户自行定义质量评分方法。

创建时间:
2026-05-27
原始信息汇总

数据集概述:Synthesized Cloud-Optimization Recommendations

该数据集是一个合成生成的云端优化建议数据集,专为训练模型或评估AI代理而设计,专注于AWS环境下的资源优化。

核心信息

  • 名称:Synthesized Cloud-Optimization Recommendations
  • 许可证:MIT
  • 语言:英语
  • 规模:少于1000条数据 (n<1K)
  • 任务类型:其他 (other)
  • 标签:cloud-optimization, aws, telemetry, benchmark, agent-evaluation, synthetic-data, terraform

数据构成

数据集包含18个不同的场景(scenario),每个场景都包含以下核心要素:

  • 输入:多层遥测数据 (telemetry) + 描述基础设施的Terraform文件
  • 输出:一个手工制作的标准优化建议 (gold-standard recommendation)

场景类型与覆盖范围

数据集包含多种优化情境,涵盖以下类型:

  • 单层优化 (single-tier):仅单个层级(如计算、数据库)存在问题,例如过度预配、扩缩策略调整、缓存命中率下降等。
  • 跨层优化 (cross-tier):问题跨多个层级,例如数据库慢查询影响计算层、网络延迟影响计算层等。
  • 无操作 (no-action):所有层级运行健康,无需更改。
  • 诊断延期 (diagnostic deferral):需要更多诊断信息才能确定问题。
  • SLA审查 (SLA review):建议审查服务等级协议而非基础设施变更。

完整场景列表(ID、类型、描述):

ID 类型 描述
01 single-tier 计算层过度预配
02 single-tier 计算层峰值窗口,需要计划性扩缩
03 single-tier 数据库层过度预配
04 single-tier 慢查询加连接池耗尽
05 single-tier ALB轮询调度导致CPU不均衡
06 no-action 所有层级健康
07 single-tier 缓存命中率下降
08 cross-tier 慢数据库查询影响计算层
09 cross-tier 工作日双峰峰值,需计划性扩缩
10 cross-tier 网络延迟影响计算层
11 cross-tier 三个层级全部过度预配
12 mixed 计算层健康,数据库层过度预配
13 cross-tier 计算层峰值冲击数据库
14 cross-tier 计算层和数据库层均过度预配
15 reliability 通过过度预配满足99.99% SLA
16 mild 部分计算层优化
17 deferral 所有层级同步上升,需更多诊断
18 mostly healthy 轻微计算层低效

数据文件与结构

  • 主数据文件scenarios_summary.jsonl(包含每个场景的摘要字段,用于浏览和发现)
  • 场景数据目录scenarios/NN/(每个场景文件夹包含完整输入文件)
  • 每个场景文件
    • metadata.json:场景摘要与固定配置
    • main.tf:描述部署的Terraform文件
    • compute_telemetry.json:CPU、内存、延迟遥测数据
    • database_telemetry.json:数据库查询率、连接池、慢查询
    • cache_telemetry.json:缓存命中率、驱逐情况
    • network_telemetry.json:带宽、丢包情况
    • correlation_evidence.json:跨层关联关系
    • handcrafted_recommendation.json:标准答案(优化建议)

推荐输出格式

每个场景的标准推荐遵循以下JSON结构:

json { "scenario_id": "01", "finding_type": "issue_found", "specific_change": "...", "primary_tier": "compute", "secondary_tier": null, "action_category": "rightsizing", "conclusion": { ... }, "evidence": { "telemetry_observations": [ ... ], "infrastructure_context": [ ... ], "correlation_observations": [ ... ] }, "reasoning": "...", "projected_state": { ... }, "cost_impact": { ... }, "risk_assessment": { ... } }

允许的字段值范围

  • finding_typeissue_found, no_issue_found, diagnostic_deferral, insufficient_data
  • primary_tier / secondary_tiercompute, database, cache, network, deferred, 或 null
  • action_categoryrightsizing, scaling_policy_change, query_cache_optimization, cache_capacity_adjustment, pool_sizing, replica_adjustment, load_balancer_reconfiguration, network_topology_change, sla_review, 或 null

使用方式

  1. 训练或微调模型:将每个场景的遥测数据和元数据作为输入,以 handcrafted_recommendation.json 作为目标输出。
  2. 评估AI代理:让代理基于场景输入生成建议,并与标准建议对比。

评估检查

  • 提供基础快速检查脚本 eval.py,用于验证预测的格式和字段合法性。
  • 不提供质量评分器,用户可根据需要自行设计评分方法(如精确匹配、关键词匹配、语义相似度等)。

引用

bibtex @misc{synthesized_cloud_optimization_recommendations_2026, title = {Synthesized Cloud-Optimization Recommendations}, author = {Alexander Meau}, year = {2026}, version = {1.0.0} }

搜集汇总
数据集介绍
synthesized-cloud-optimization-recommendations 数据集图片
构建方式
该数据集以云优化为核心场景,采用合成数据与人工精修相结合的方式构建。首先,基于AWS基础设施的典型故障模式与性能瓶颈,设计了18个不同的优化情境,涵盖单层问题、跨层级联、无操作、诊断延迟及SLA审查等类型。每个情境均包含程序化生成的多层遥测数据(计算、数据库、缓存、网络),以及描述部署状态的Terraform配置文件。随后,领域专家针对每个情境手工撰写并验证了黄金标准优化建议,确保输出建议的合理性与专业性。所有输入输出数据被组织为独立的文件夹结构,便于按情境独立加载。
特点
数据集具有高度结构化和领域专精的特点。每个样本包含多维遥测数据、基础设施代码与跨层关联证据,输入层面完整覆盖云环境监控的典型维度。输出推荐采用细粒度的JSON Schema,包含发现类型、影响层级、行动类别、具体变更、成本影响与风险评估等字段,支持精确匹配与语义对比两种评估方式。特别地,数据集引入了‘诊断延迟’与‘SLA审查’等非常规场景,模拟真实运维中信息不足或业务约束限制下的决策情境,提升了评估AI智能体推理能力的深度与复杂度。
使用方法
数据集支持两种典型使用途径。其一作为微调与训练语料,将每个情境的遥测与元数据作为模型输入,以手工推荐作为监督目标,训练模型生成优化建议。其二作为AI智能体评估基准,要求智能体读取完整场景输入(包括Terraform与遥测文件),输出结构化推荐,并与黄金标准比对。数据集内置了Floor基础验证脚本(eval.py),可检查输出是否符合字段类型与枚举值约束。超越基础校验的评分方案(如精确匹配、语义相似度或自定义评分规则)需使用者自行实现,数据集提供了完整的黄金答案作为参照标准。
背景与挑战
背景概述
在云计算成本与性能优化的研究领域中,自动化诊断与推荐系统正成为关键方向。该数据集由Alexander Meau于2026年创建,专注于解决云基础设施的多层遥测数据与优化推荐之间的映射问题。其核心研究问题是:如何基于CPU、数据库、缓存和网络等多维度遥测指标,结合Terraform描述的基础设施状态,生成精准且可解释的优化建议。数据集涵盖了18种精心设计的场景,包括单层过配、跨层性能级联、无操作案例及SLA审查等,为训练和评估AI代理提供了标准化基准。该数据集以AWS生态为背景,通过合成数据与人工校验的黄金标准推荐,弥补了真实场景中标注成本高昂的缺口,对云优化自动化研究具有重要的推动价值。
当前挑战
该数据集面临的挑战首先体现在领域问题的复杂性上:云优化需在成本、性能与可靠性之间取得平衡,同一故障现象可能源于不同层的协同失效(如数据库慢查询引发计算层过载),而“不执行操作”或“延迟诊断”等非典型场景更增加了决策难度。构建过程中,合成数据的真实性验证是一大难题——程序化生成的遥测需精确匹配预设的故障叙事,同时避免产生非现实关联;此外,人工编写的黄金推荐(handcrafted_recommendation)需确保泛化性,避免过拟合单一解法。跨层场景(scenario 10)中网络延迟对计算层的级联效应模拟,以及负成本节省(如增加只读副本以修复可靠性)的合理性论证,也对数据构造提出了严格约束。
常用场景
经典使用场景
在云计算资源管理与优化的研究领域中,数据驱动的决策模型正逐步取代传统的经验法则。该数据集通过精心构造的18个场景,为研究人员提供了一个从多层级遥测数据、基础设施代码到优化建议的完整映射。每个场景包含计算、数据库、缓存及网络等多维度的监控指标,并配以Terraform定义的基础设施配置和手工验证的最优方案。研究人员可以将其作为监督学习的训练语料,训练模型学习如何从海量监控数据中精准识别资源过度配置、性能瓶颈或可靠性风险,并输出结构化的优化动作和成本影响评估。
解决学术问题
该数据集直面云计算优化中一个长期存在的核心挑战:如何将分散、异构的遥测数据与基础设施配置关联,形成可执行的优化决策。传统方法依赖专家经验,难以规模化;而纯数据驱动模型又常因缺乏标注真值而难以验证。该数据集通过手工标注的18个差异化场景,覆盖了单层优化、跨层级联故障、无操作场景、诊断延迟及SLA审查等多种典型学术问题。它使研究者能够量化评估模型在“发现问题-定位根源-推荐动作”全链路上的推理能力,推动了从简单的异常检测向复杂因果推理与决策优化的范式转变。
衍生相关工作
自发布以来,该数据集已催生出多个重要的衍生研究方向。在模型层面,研究者基于其开发了面向云优化的专用语言模型微调方案,通过注入基础设施语义增强决策的可解释性。在评估体系方面,社区围绕数据集构建了多维度的评价框架,突破传统精确匹配的局限,引入语义相似度与领域专家审阅相结合的打分机制。更值得关注的是,该数据集推动了“遥测-诊断-行动”端到端Agent系统的设计范式演进,出现了诸如多轮诊断树搜索、基于因果图的跨层推理等创新工作。这些衍生产品不仅深化了对云优化问题的理解,也为AI在运维领域的落地提供了坚实的实验基座。
以上内容由遇见数据集搜集并总结生成
二维码
社区交流群
二维码
科研交流群
商业服务