YT-Temporal-1B

最近关于静态图像的先前工作证明了通过增加数据集大小的经验改进-一直到JFT-3B。同样的模式出现在视频中: 先前的工作显示出有希望的经验改进，不仅通过缩放到600万视频/180M帧，而且通过收集不同的集合 (即，超越教学视频)。为此，我们引入了一个新的训练数据集，其中包含2000万个英文字幕的YouTube视频和10亿帧，称为YT-Temporal-1B。同时，我们采取措施保护用户隐私，将scrap引向公共，大型和货币化渠道。我们在附录E中详细介绍了我们的收集、预处理和发布策略。