Indonesian-running-photos
收藏资源简介:
Fotoyu Album Archive 是一个从Fotoyu相册中归档的照片和视频集合数据集,主要作为基于Cloudflare的高性能CDN,用于提供静态媒体资源服务,同时也可用于图像/视频分类和机器学习模型训练。数据集包含从Fotoyu树状结构(用户管理的相册)中抓取的高分辨率照片和HLS流媒体视频,所有文件采用2字符前缀分片系统组织,以避免超过Hugging Face平台的目录文件数量限制。数据集结构按相册别名组织,包含图片文件和视频目录(内含HLS播放列表和分段文件)。数据采集通过专门的下载器工具完成,包括API连接、本地归档、分片和批量上传等步骤。数据集适用于计算机视觉分类任务和前端应用直接资源调用,但需注意其遵循CC BY-NC 4.0非商业许可,且包含的公开照片可能涉及个人隐私,使用时需尊重相关边界。
Fotoyu Album Archive is a dataset comprising archived photos and videos from Fotoyu albums, primarily serving as a Cloudflare-based high-performance CDN for static media resource delivery, and also applicable for image/video classification and machine learning model training. The dataset includes high-resolution photos and HLS streaming videos crawled from the Fotoyu tree structure (user-managed albums). All files are organized using a 2-character prefix sharding system to avoid exceeding directory file limits on the Hugging Face platform. The dataset structure is organized by {album-alias}, containing image files and video directories (including HLS playlists and segment files). Data collection is completed through a dedicated downloader tool, involving steps such as API connection, local archiving, sharding, and batch uploading. The dataset is suitable for computer vision classification tasks and direct resource invocation in front-end applications, but note that it follows the CC BY-NC 4.0 non-commercial license, and the included public photos may involve personal privacy, requiring respect for relevant boundaries during use.
数据集概述
数据集名称:Fotoyu Album Archive
许可证:Creative Commons Attribution-NonCommercial 4.0 International (CC BY-NC 4.0)
任务类型:图像分类、视频分类
标签:摄影、存档、HLS视频、CDN
数据集规模:10,000 < 样本数 < 100,000
数据集描述
该数据集是从 Fotoyu 相册中归档的照片和视频集合,通过 potoyu-tree-downloader 工具抓取生成。旨在作为基于 Cloudflare 的高速 CDN 提供静态媒体资源,同时可用于图像/视频分类和机器学习模型训练。
- 策划者:使用
potoyu-tree-downloader的系统管理员 - 共享者:管理员贡献者
- 语言:英语、印尼语(用于相册标签/元数据)
数据来源
- 存储库:https://github.com/Stalker-moment/potoyu-tree-downloader
用途
直接用途
- 静态资源服务(CDN):主要用途是作为公共 CDN,前端应用可直接从仓库的
resolve/main/路径获取优化后的图片和视频流。 - 分类与计算机视觉:可用于训练和评估自定义人类活动、事件及跑步摄影分类模型。
超出范围的使用
- 未经原始照片所有者和创作者明确许可,不得用于商业广告。
数据集结构
采用 2字符前缀分片系统,以避免文件夹超过 Hugging Face 每目录 10,000 个文件的提交限制。
目录布局
dataset-root/ └── {album-alias}/ ├── {prefix}/ # 唯一 leafId 的最后2个字符 │ └── {leafId}.jpg # 原始图片文件或视频缩略图 │ └── videos/ └── {prefix}/ └── {leafId}/ ├── index.m3u8 # HLS 流播放列表 ├── segment0.ts # 视频流分片 ├── segment1.ts └── ...
{album-alias}:代表特定图库或相册的自定义字母数字名称。{prefix}:唯一字母数字leafId的最后两个字符(例如,若leafId为...a7b9c2,则prefix为c2)。划分最多 3,844 个目录,确保每个目录仅包含数百个文件。videos/{prefix}/{leafId}/:存放 HLS 流播放列表文件(.m3u8)和视频分片(.ts)。
数据集创建
策划理由
将数千张高分辨率图片和视频直接从单台 VPS 提供服务会导致高网络带宽成本和全球用户延迟。将资源同步到 Hugging Face 数据集可将媒体请求转移到 Hugging Face 的全球边缘缓存(Cloudflare),从而加快加载速度并降低带宽费用。
源数据
源数据来自 Fotoyu 用户策划的相册。
数据收集与处理
- 抓取:后端下载器使用共享授权令牌连接到
FotoyuAPI 端点。 - 本地归档:下载并结构化媒体文件,保存到本地。解析视频播放列表并完全归档其分片文件(
.ts)。 - 分片与上传:
@huggingface/hub集成将待处理文件分组为每批 100 项,每 40 秒提交一次 Git 提交,以避免达到 Hugging Face 每小时 128 次提交的速率限制。
偏见、风险与限制
- 速率限制:仓库提交上限为每小时 128 次,批量更新需保持节流。
- 隐私:存档的公开照片可能包含个人身份信息,应尊重适当的隐私边界和许可证。




