Local AI Registry

一个硬件感知的本地模型工件、启动配方、测量速度扫描和公共质量排行榜的注册表。A registry of hardware-aware local model artifacts, launch recipes, speed measurement scans, and public quality leaderboards.

原始信息汇总

Local AI Registry 数据集概述

1. 数据集状态

• 归档状态：已退役（Retired 2026-09-30），仓库已归档并设为只读
• 数据去向：数据保留在 local-ai-registry 仓库的 data/ 目录下
• 许可证：MIT

2. 数据集定位

一个硬件感知的注册表，涵盖：

• 本地模型工件（local model artifacts）
• 启动配方（launch recipes）
• 实测速度扫描（measured speed sweeps）
• 公开质量排行榜（public quality leaderboards）

数据优先设计：客户端可从磁盘读取、作为静态 JSON 提供服务，或通过任意静态 HTTP 主机解析。

3. 发现机制（渐进式披露）

客户端仅获取其问题所需的数据：

• collections.json：所有集合的 id 与计数
• recipes.json：用于过滤的紧凑配方行
• 五个反向查找：recipes-by-hardware.json、instances-by-model.json、benchmarks-by-model.json、prices-by-hardware.json、hardware-speed-evidence.json

流程为：索引 → 选择 → 精确记录及所选视图所需的直接引用。API 不维护第二套 UI 专用数据集，也不递归嵌入整个图。

4. 集合（Collections）

集合	含义
hardware/	单个加速器或 Apple 芯片及内存配置
model/	单个规范基础模型
model-instance/	单个可下载工件或量化版本
recipe/	单个工件 × 硬件 × 引擎兼容单元
speed-sweep/	附加到单个配方的实测推理证据
benchmark/	按模型变体索引的抓取公开排行榜分数
price/<product-id>/	按地区和本币划分的当前零售商观测值
asset/	配方挂载的引擎配置与补丁，以 manifest + blob 存储

5. 信任边界

• validated（已验证）：模型修订版与运行时已固定，启动契约有验收证据
• candidate（候选）：注册表有可用的兼容性或速度证据，但无法承诺可复现的启动

规则要点：

• LocalMaxxing、local.ai Postgres、mlx.fast 导入始终为 candidate，且 launch.kind: "reference"
• mlx.fast 官方分数仅附加到 apple-m5-max-128gb
• 无实测 SKU 的推测性引擎文档不导入
• 区域价格记录是观测值，不是通用硬件价值
• 扫描器匹配保持为 candidate

6. 硬件覆盖

• Apple M1 至 M5 系列及其支持的内存层级（含 Pro、Max、Ultra）
• GeForce RTX 30/40/50 系列
• NVIDIA 工作站加速器
• 四个当前 AMD 本地 AI 目标
• Intel Arc 工作站卡
• 现有已审计的服务器/工作站类别

Apple 产品名称为发现别名；兼容性键为芯片加统一内存容量。通用标签如 Apple Max 128GB 明确保持代际未指定状态。

7. 网站应用

Next.js 应用在运行时直接读取 registry/，不将记录复制到数据库或第二套数据集。

• 启动开发：npm install 后 npm run dev，访问 http://localhost:3000
• 支持搜索模型文本、硬件文本或两者
• 过滤器来自注册表字段：信任状态、可启动性、引擎、权重精度、厂商、加速器内存、硬件数量、能力状态、附加速度证据
• 生产检查：npm test、npm run typecheck、npm run build、npm start

8. 只读 API

版本化 JSON 路由位于 /api/v1，仅支持 GET 和 HEAD，无写入路径。

路由	用途
/api/v1	API 发现文档
/api/v1/index	规范化注册表发现索引
/api/v1/facets	可用过滤器值
/api/v1/models 及 /api/v1/models/:id	规范模型及详情
/api/v1/model-instances 及 /:id	可下载工件及量化版本
/api/v1/hardware 及 /:id	加速器配置及规格
/api/v1/prices 及 /:id	区域市场观测值及关联硬件规格
/api/v1/recipes 及 /:id	兼容单元及完全解析详情
/api/v1/compatibility	模型 × 硬件兼容性查询
/api/v1/speed-sweep 及 /:id	实测速度证据
/api/v1/benchmark 及 /:id	抓取的公开排行榜分数

列表路由支持 limit（最大 100）与 offset。模型实例结果中，huggingface 对象含非空 url、status、link_type；repository 为精确仓库链接，search 为明确标注的搜索回退（非工件声明）。

9. 验证脚本

• python3 scripts/curate_registry.py
• python3 scripts/validate_registry.py

数据刷新流程涉及：

• 市场快照导入（import_market_snapshot.py）
• Postgres 发布快照导入（import_postgres_publication.py）
• HF 基准抓取导入（import_hf_benchmarks.py）
• 额外价格抓取（fetch_extra_prices.py）
• Micro Center GPU 价格流程（需美国出口，通过 SOCKS 隧道与有头浏览器）
• Geizhals 价格历史流程（EUR 每日序列）

校验器检查 ID、引用、计数、状态边界、固定的已验证工件、正证据值及 CUDA-graph 策略。

10. 本地 CLI

bin/local-ai 直接读取独立树：

• 检测 macOS 上的 Apple Silicon 与 Linux 上的 NVIDIA/AMD/Intel 加速器
• 统计相同 NVIDIA 设备数量
• 查找精确或容量兼容的配方
• 仅解析用户选择的记录

命令示例：detect、list --json、choose、search qwen、show <recipe-id>。可通过 LOCAL_AI_HARDWARE 与 LOCAL_AI_HARDWARE_COUNT 覆盖检测。

11. 关键约束

• 基准分数为公开排行榜的已报告测量值，从不附加到配方或影响启动验证
• 每个数字在持有它的记录内携带自己的 provenance 来源（URL 与 captured_at）
• 测量的本地推理证据位于 speed-sweep/
• 公开质量排行榜（如 Terminal-Bench 2.1）位于 benchmark/，从不附加到配方

12. 本地推理实验室来源

• 固定清单：sources/local-inference-lab/2026-09-13.json，编目 230 个具体源配置与全部九个目录清单
• scripts/check_lil_import.py（CI 中运行）对照清单检查导入配方
• 导入的上游配方为仅参考候选，附可见归属
• 单独接受的 GLM-5.3-Flash R35 TP4 配方链接公开 Docker 包，测量总/单请求解码速度及其验证限制

搜集汇总

数据集介绍

构建方式

该注册表以数据优先的架构理念构建，将本地模型工件、启动配方、实测速度扫描以及公开质量排行榜整合为分层索引体系。构建过程始于从多元上游来源采集原始数据，包括LocalMaxxing、local.ai Postgres及mlx.fast等平台的导入记录，以及通过专用爬虫脚本从Micro Center、Geizhals等零售商获取的区域价格观测数据。所有导入记录均遵循统一的JSON Schema与TypeScript接口契约，经由curate_registry.py脚本进行确定性整理与索引重建，再由validate_registry.py执行严格校验，确保标识符、引用关系、计数、状态边界、已固定验证工件及正值证据等维度的一致性。

特点

该注册表的显著特征在于其硬件感知能力与渐进式披露机制。注册表涵盖Apple M1至M5全系芯片、GeForce RTX 30/40/50系列、NVIDIA工作站加速器、AMD本地AI目标卡及Intel Arc工作站卡等广泛硬件类别。数据组织采用索引、选择、精确记录的三层披露规则，客户端可依据查询需求仅获取必要分片，避免全图递归嵌入。信任边界明确区分validated与candidate状态，前者意味着模型修订与运行时已固定且启动契约具备验收证据，后者仅表明存在有用的兼容性或速度证据。每条数值记录均内嵌provenance来源信息，包含URL与捕获时间戳，确保数据可追溯。

使用方法

使用者可通过多种途径访问该注册表。本地CLI工具bin/local-ai可直接读取独立目录树，自动检测Apple Silicon或Linux下的NVIDIA、AMD、Intel加速器，支持detect、list、choose、search、show等子命令。只读API在/api/v1路径下提供版本化JSON路由，支持GET与HEAD方法，涵盖模型、硬件、价格、配方、兼容性查询、速度扫描及基准测试等端点，列表路由接受limit与offset参数及丰富的过滤条件。Next.js应用在运行时直接读取registry/目录，提供搜索与筛选界面。数据更新流程通过一系列Python脚本完成，包括市场快照导入、Postgres发布导入、HuggingFace基准测试导入及价格爬取等，均需在重建索引前执行导入操作。

背景与挑战

背景概述

随着本地人工智能推理需求的迅猛增长，硬件与模型工件之间的适配关系日益复杂，碎片化的配置信息与缺乏可复现验证的部署方案成为制约该领域发展的关键瓶颈。2026年，由0xSero主导创建的Local AI Registry数据集应运而生，该注册表以硬件感知为核心，系统整合了本地模型工件、启动配方、实测速度扫描及公开质量排行榜等多维记录，旨在为本地推理生态提供一份可溯源、可筛选且渐进式披露的标准化数据契约。其影响力在于打通了从硬件规格到模型部署的信任链路，为研究人员与开发者构建起一座连接硬件能力与模型可用性的可靠桥梁，推动了本地AI部署向规范化与透明化方向演进。

当前挑战

Local AI Registry所面对的领域问题在于，本地推理场景中硬件与模型的兼容性验证长期缺乏统一基准，海量模型量化版本与加速器组合导致启动契约难以复现，而公开排行榜分数又常被误读为本地可复现的性能承诺。构建过程中的挑战同样严峻：一方面，异构硬件（涵盖Apple M系列、NVIDIA RTX及工作站加速器、AMD与Intel多类目标）的规格与内存层级差异巨大，候选配方与已验证配方之间的信任边界需严格界定；另一方面，价格与速度证据的来源分散且常受地域限制与反爬机制阻碍，需在保持观察值原生时效与货币属性的同时，避免将零售观测值误升为普适硬件参数，并确保每一次数据导入与索引重建均满足确定性与引用完整性要求。

常用场景

经典使用场景

在本地大模型部署与推理优化的研究领域，硬件与模型之间的兼容性匹配始终是核心议题。Local AI Registry 最经典的使用场景在于，研究者或开发者借助其硬件感知的注册表结构，依据自身所持有的加速器型号与显存容量，检索与之适配的量化模型制品、推理引擎配置及启动配方。该数据集通过渐进式披露的索引机制，先呈现集合概览，再逐层揭示配方、模型实例与硬件详情，使得用户能够以最小信息负载完成精准的兼容性筛选与推理方案定位。

衍生相关工作

以该数据集为基石，衍生出一系列围绕本地推理生态的经典工作。独立命令行工具 local-ai 直接读取注册表树，实现了硬件检测与配方解析的自动化；GPU价格历史可视化页面完全从价格记录重算生成，确保了数据与呈现的一致性。此外，本地推理实验室的固定清单目录与GLM-5.3-Flash多卡配方等社区贡献，均以该注册表的模式为契约进行导入与验证，形成了可扩展的协作网络，持续丰富着本地AI部署的公共知识库。

数据集最近研究

最新研究方向

Local AI Registry作为硬件感知的本地模型注册表，近期研究聚焦于以渐进式披露原则重构模型、硬件与推理引擎的兼容性检索，通过分层索引与反向查找实现按需加载，降低静态数据集的查询开销。与此同时，社区在候选与已验证配方之间建立严格的信任边界，要求可复现的启动契约与实测速度证据方可晋升，并引入区域性价格观测与公开排行榜分数作为独立参考，确保数据出处与采集时间可追溯。该数据集为边缘侧异构加速器选型与本地推理部署提供了标准化契约，推动了社区在透明性、可复现性与供应链可观测性方面的实践。