Streamo-Instruct-465K
收藏资源简介:
# Streamo-Instruct-360K-NoKoala 这是从 `Streamo-Instruct-465K` 整理出的无 Koala 子集。目录采用统一布局: ```text Streamo-Instruct-360K-NoKoala/ ├── annotations/ # 训练 JSON │ ├── action_caption/ │ ├── event_caption/ │ ├── event_grounding/ │ ├── narration/ │ └── qa/ ├── videos/ # JSON 引用的视频 │ ├── ActivityNet/ │ ├── LLaVA_Video/ │ ├── QVHighlight/ │ └── ... └── tools/ ``` - 训练 JSON:21 份,位于 `annotations/` - 训练条目:360,569 条 - 唯一视频:144,021 个,位于 `videos/<数据集名>/` - 已排除:`event_caption/Koala.json`、`event_grounding/Koala.json`、`narration/Koala.json`、`qa/Koala.json` 及全部 Koala 媒体 原始标注中的 14,504 个重复路径已合并到同一视频入口。除 LLaVA 为避免真实同名冲突保留一层必要类别外,视频均直接放在对应数据集目录。媒体文件均位于 JSON 指定路径,且为普通硬链接,不含软链接。硬链接不会因源目录中的另一个文件名被删除而失效;视频内容应视为只读。详细计数与校验结果见 `manifest.json`。 ## 视频打包与解包 `tools/` 提供零参数、可直接运行的工具。打包器会复制完整数据集目录,但只把训练 JSON 引用的视频制成 tar;标注、工具和根目录文件保持原样: ```bash ./tools/pack_videos.py ./tools/unpack_videos.py ``` 打包结果位于数据集同级的 `Streamo-Instruct-360K-NoKoala-packed/`,整体目录结构与原数据集一致。唯一变化是 `videos/ActivityNet/`、`videos/LLaVA_Video/` 等目录中的视频被替换为 `part-xxxxx.tar`;每个分片不超过约 50 GiB、最多包含 20,000 个视频。视频本身已经压缩,因此不再额外压缩。 分发整个 `-packed/` 目录即可。接收端进入该目录运行 `./tools/unpack_videos.py`,视频会在各自的 `videos/<数据集名>/` 中原位恢复。工具会检查归档完整性、路径清单和解包后的文件总大小;全部通过后自动删除 tar 和内部归档清单,使当前目录直接成为可用数据集。打包不会修改或删除原数据集。



