Open Source AI Stack Gap Map Data
收藏资源简介:
该数据集是开源AI堆栈差距地图背后的精选数据和模型,包含15个类别、249个组织和458个产品的信息,每个产品在开放性、采用度和能力三个维度上进行评分,数据以YAML格式存储在`sources/`目录中,并通过自动化管道验证和序列化。
This dataset comprises curated data and models underlying the Open-Source AI Stack Gap Map. It contains information on 15 categories, 249 organizations, and 458 products, with each product scored across three dimensions: openness, adoption, and capability. The data is stored in YAML format under the `sources/` directory, and validated and serialized via automated pipelines.
数据集概述:Open Source AI Stack Gap Map
该数据集为开源人工智能(AI)技术栈的缺口地图(Open Source AI Stack Gap Map)提供底层数据与评分机制,旨在让社区清晰了解AI技术栈的组成、各环节的开放程度、使用广度及现存缺口,从而指导建设、投资与开源化方向。
核心数据规模
- 类别 (Categories):15 个
- 组织 (Organizations):249 个
- 产品 (Products):458 个
数据结构与文件组织
所有核心数据以 YAML 格式 存储在 sources/ 目录下,具体包含以下子目录与关键文件:
| 路径 | 内容说明 | 关键规则 |
|---|---|---|
sources/organizations/ |
组织元数据及其 products: 清单 |
每个产品标识符仅出现在一个组织清单中 |
sources/categories/ |
类别定义(权重、副标题等)及有序的 products: 清单 |
显示顺序由清单决定;每个产品仅隶属于一个类别 |
sources/products/ |
产品记录(名称、类型、描述、类型化资源链接) | 组织归属信息写在组织文件中,不在此处 |
sources/scores/ |
每个产品的 openness、adoption、capability 评分 |
任何非空评分值必须附带 sources: 引用来源 |
sources/taxonomy.yaml |
弧线分组与显示顺序;三个弧线对应Columbia本体层 | 每个类别仅出现在一个弧线中 |
- 类别标识符使用下划线格式(如
base_pretrained);产品和组织标识符使用连字符格式(如llama-3-1、allen-ai)。 - 产品资源键类型包括:
github、npm、pypi、crates、go、huggingface_model、huggingface_dataset。 - 所有文件类型的 JSON Schema 位于
docs/schemas/。
评分机制
每个产品在三个独立、多源的维度上进行评分:
- 开放性 (Openness):0–5 分,依据开放框架(模型采用 Model Openness Framework,软件采用 OSI 许可证分类)。
- 采纳度 (Adoption):基于实际使用数据(下载量、活跃用户、部署量),而非 GitHub Stars。
- 能力度 (Capability):优先使用社区基准评估,若无基准则使用功能覆盖情况。
类别则根据其下属产品汇总得出成熟度 阶段 (Stage)(0 级 Void 至 5 级 Mature)以及一份 缺口 (Gaps) 清单,指明开放生态中仍缺乏的部分。
分类法与开放性框架源自 2024 Columbia Convening on Openness in AI。完整的计算方法(阶段与缺口公式、各维度数据源、已知局限性)见 docs/methodology.md,该文件是权威来源,最终结论亦呈现在官方网站上。
仓库布局
sources/:需要手动维护的 YAML 数据文件(组织、类别、产品、评分 +taxonomy.yaml)。build/:确定性的验证→序列化→渲染管道。notebooks/:自动生成的ai-stack-map.py及其它独立配套笔记本。docs/:JSON Schemas、贡献指南、方法论和维护手册。warehouse/:UDM SQL 和用于获取采纳/活动信号的抓取器。skills/:与贡献指南相对应的智能体技能。tests/:用于构建辅助工具的 pytest 测试套件。
如何贡献
社区可通过两种方式参与:
-
提交 Issue(无需代码):可通过以下模板提交建议:
-
提交 Pull Request:直接编辑
sources/目录下的文件。添加产品需要创建产品记录、评分(附引用来源)以及分别在类别和组织清单中注册。详细步骤见 CONTRIBUTING.md。
基本规则:
- 每个评分必须引用一手来源。
- 不要手动编辑生成文件:
build/notebook_data.json和notebooks/ai-stack-map.py由机器人自动生成。 - 每次 PR 都会触发 CI 验证(包括
build.validate和pytest)。
本地运行
需 Python 3.12+ 及 uv。无需 API 密钥即可编辑源文件或进行验证:
bash uv sync uv run python -m build.validate # 进行架构与跨文件检查;必须输出 "0 error(s)" uv run pytest -q # 可选;与 CI 运行相同的测试套件
如需预览生成的地图(仅供预览,不要提交):
bash uv run python -m build.serialize # sources/ → build/notebook_data.json uv run python build/render.py # → notebooks/ai-stack-map.py uv run marimo export html notebooks/ai-stack-map.py -o /tmp/preview.html
使用仓库查询(pyoso)需要 OSO_API_KEY 环境变量。




