five

Whispering-GPT/linustechtips-transcript-audio

收藏
Hugging Face2022-12-05 更新2024-03-04 收录
下载链接:
https://hf-mirror.com/datasets/Whispering-GPT/linustechtips-transcript-audio
下载链接
链接失效反馈
官方服务:
资源简介:
--- task_categories: - automatic-speech-recognition dataset_info: features: - name: id dtype: string - name: channel dtype: string - name: channel_id dtype: string - name: title dtype: string - name: categories sequence: string - name: tags sequence: string - name: description dtype: string - name: text dtype: string - name: segments list: - name: start dtype: float64 - name: end dtype: float64 - name: text dtype: string - name: audio dtype: audio: sampling_rate: 48000 splits: - name: train num_bytes: 117140526959.355 num_examples: 5643 download_size: 111764307564 dataset_size: 117140526959.355 tags: - whisper - whispering - medium --- # Dataset Card for "linustechtips" ## Table of Contents - [Table of Contents](#table-of-contents) - [Dataset Description](#dataset-description) - [Dataset Summary](#dataset-summary) - [Languages](#languages) - [Dataset Structure](#dataset-structure) - [Data Instances](#data-instances) - [Data Fields](#data-fields) - [Data Splits](#data-splits) - [Dataset Creation](#dataset-creation) - [Curation Rationale](#curation-rationale) - [Source Data](#source-data) - [Annotations](#annotations) - [Personal and Sensitive Information](#personal-and-sensitive-information) - [Considerations for Using the Data](#considerations-for-using-the-data) - [Social Impact of Dataset](#social-impact-of-dataset) - [Discussion of Biases](#discussion-of-biases) - [Other Known Limitations](#other-known-limitations) - [Additional Information](#additional-information) - [Contributions](#contributions) ## Dataset Description - **Homepage:** [Whispering-GPT](https://github.com/matallanas/whisper_gpt_pipeline) - **Repository:** [whisper_gpt_pipeline](https://github.com/matallanas/whisper_gpt_pipeline) - **Paper:** [whisper](https://cdn.openai.com/papers/whisper.pdf) and [gpt](https://s3-us-west-2.amazonaws.com/openai-assets/research-covers/language-unsupervised/language_understanding_paper.pdf) - **Point of Contact:** [Whispering-GPT organization](https://huggingface.co/Whispering-GPT) ### Dataset Summary This dataset is created by applying whisper to the videos of the Youtube channel [Linus Tech Tips](https://www.youtube.com/channel/UCXuqSBlHAE6Xw-yeJA0Tunw). The dataset was created a medium size whisper model. ### Languages - **Language**: English ## Dataset Structure The dataset contains all the transcripts plus the audio of the different videos of Linus Tech Tips. ### Data Fields The dataset is composed by: - **id**: Id of the youtube video. - **channel**: Name of the channel. - **channel\_id**: Id of the youtube channel. - **title**: Title given to the video. - **categories**: Category of the video. - **description**: Description added by the author. - **text**: Whole transcript of the video. - **segments**: A list with the time and transcription of the video. - **start**: When started the trancription. - **end**: When the transcription ends. - **text**: The text of the transcription. - **audio**: the extracted audio of the video. ### Data Splits - Train split. ## Dataset Creation ### Source Data The transcriptions are from the videos of [Linus Tech Tips Channel](https://www.youtube.com/channel/UCXuqSBlHAE6Xw-yeJA0Tunw) ### Contributions Thanks to [Whispering-GPT](https://huggingface.co/Whispering-GPT) organization for adding this dataset.

task_categories: - 自动语音识别(automatic-speech-recognition) dataset_info: features: - name: id dtype: 字符串(string) - name: channel dtype: 字符串(string) - name: channel_id dtype: 字符串(string) - name: title dtype: 字符串(string) - name: categories dtype: 字符串序列(sequence<string>) - name: tags dtype: 字符串序列(sequence<string>) - name: description dtype: 字符串(string) - name: text dtype: 字符串(string) - name: segments 类型: 列表(list) 子字段: - name: start dtype: 64位浮点型(float64) - name: end dtype: 64位浮点型(float64) - name: text dtype: 字符串(string) - name: audio dtype: audio: 采样率(sampling_rate): 48000 splits: - name: train 字节数: 117140526959.355 样本数量: 5643 下载大小: 111764307564 数据集总大小: 117140526959.355 tags: - Whisper(Whisper) - 语音转录(whispering) - 中型(medium) --- # 「linustechtips」数据集卡片 ## 目录 - [目录](#table-of-contents) - [数据集描述](#dataset-description) - [数据集概述](#dataset-summary) - [语言信息](#languages) - [数据集结构](#dataset-structure) - [数据实例](#data-instances) - [数据字段](#data-fields) - [数据划分](#data-splits) - [数据集构建](#dataset-creation) - [筛选依据](#curation-rationale) - [源数据](#source-data) - [标注信息](#annotations) - [个人与敏感信息](#personal-and-sensitive-information) - [数据集使用注意事项](#considerations-for-using-the-data) - [数据集的社会影响](#social-impact-of-dataset) - [偏差讨论](#discussion-of-biases) - [其他已知局限](#other-known-limitations) - [附加信息](#additional-information) - [贡献声明](#contributions) ## 数据集描述 - **主页:** [Whispering-GPT](https://github.com/matallanas/whisper_gpt_pipeline) - **代码仓库:** [whisper_gpt_pipeline](https://github.com/matallanas/whisper_gpt_pipeline) - **相关论文:** [Whisper(Whisper)](https://cdn.openai.com/papers/whisper.pdf) 与 [GPT](https://s3-us-west-2.amazonaws.com/openai-assets/research-covers/language-unsupervised/language_understanding_paper.pdf) - **联系方式:** [Whispering-GPT 组织](https://huggingface.co/Whispering-GPT) ### 数据集概述 本数据集通过将Whisper(Whisper)模型应用于YouTube频道[Linus Tech Tips](https://www.youtube.com/channel/UCXuqSBlHAE6Xw-yeJA0Tunw)的视频内容生成,构建过程使用了中型尺寸的Whisper模型。 ### 语言信息 - **语言:** 英语 ## 数据集结构 本数据集包含Linus Tech Tips频道各视频的完整转录文本与提取得到的音频文件。 ### 数据字段 数据集由以下字段构成: - **id**:YouTube视频的唯一标识符 - **channel**:YouTube频道名称 - **channel_id**:YouTube频道的唯一标识符 - **title**:视频官方标题 - **categories**:视频所属分类标签 - **tags**:视频关联的自定义标签 - **description**:视频作者撰写的视频描述文本 - **text**:视频的完整转录文本 - **segments**:包含转录时段与对应文本的列表 - **start**:该转录片段的起始时间 - **end**:该转录片段的结束时间 - **text**:该转录片段对应的具体文本内容 - **audio**:从原视频中提取的音频文件 ### 数据划分 仅包含训练集划分。 ## 数据集构建 ### 源数据 本数据集的转录文本源自[Linus Tech Tips频道](https://www.youtube.com/channel/UCXuqSBlHAE6Xw-yeJA0Tunw)的公开视频内容。 ### 标注信息 ### 个人与敏感信息 ## 数据集使用注意事项 ### 数据集的社会影响 ### 偏差讨论 ### 其他已知局限 ## 附加信息 ### 贡献声明 感谢[Whispering-GPT](https://huggingface.co/Whispering-GPT)组织为本数据集的收录提供支持。
提供机构:
Whispering-GPT
原始信息汇总

数据集概述

数据集信息

  • 任务类别: 自动语音识别
  • 数据集大小: 117140526959.355 字节
  • 下载大小: 111764307564 字节
  • 标签: whisper, whispering, medium

数据集特征

  • id: 字符串类型
  • channel: 字符串类型
  • channel_id: 字符串类型
  • title: 字符串类型
  • categories: 字符串序列类型
  • tags: 字符串序列类型
  • description: 字符串类型
  • text: 字符串类型
  • segments: 列表类型,包含以下字段:
    • start: 浮点数类型
    • end: 浮点数类型
    • text: 字符串类型
  • audio: 音频类型,采样率为 48000 Hz

数据集结构

  • 训练集: 包含 5643 个样本,总大小为 117140526959.355 字节

数据集创建

  • 来源数据: 来自 Linus Tech Tips 频道的视频
  • 贡献者: Whispering-GPT 组织
搜集汇总
数据集介绍
main_image_url
构建方式
在自动语音识别领域,高质量且带有精准时间戳的转录数据集对于模型训练至关重要。Whispering-GPT/linustechtips-transcript-audio数据集正是为满足这一需求而构建的。其构建过程依托于YouTube上知名的Linus Tech Tips科技频道,首先从该频道采集视频内容,随后利用OpenAI的Whisper中等规模模型对视频中的语音进行自动化转录。通过这一流程,不仅生成了完整的视频文本转录,还保留了音频文件,并精确提取了每一段语音的起止时间戳,最终形成结构化的数据记录。
特点
该数据集的核心特色在于其多模态与细粒度的信息整合能力。它不仅提供了完整的视频音频与对应的全文转录,更通过“segments”字段精确标注了每一句语音的时间边界,这为时序建模任务提供了关键支持。此外,数据集还囊括了视频的元数据,如标题、描述、分类标签等,丰富了数据维度。整个数据集包含5643个训练样本,音频采样率高达48kHz,确保了声学特征的保真度,使其在语音识别、说话人分割及多模态学习等研究场景中具有独特价值。
使用方法
使用者可通过HuggingFace的datasets库便捷地加载该数据集。加载后,可直接访问“audio”字段获取高采样率的音频数组,利用“text”字段获取对应的完整转录文本,或通过“segments”列表获取细粒度的时间戳与片段文本。该数据集预定义了训练集划分,便于直接用于模型训练与评估。在应用时,研究者可基于其时间戳信息构建端到端的语音识别模型,或利用其丰富的元数据进行视频内容理解与分析,亦可将其作为多模态预训练任务的基准数据源。
背景与挑战
背景概述
自动语音识别(ASR)技术作为人机交互的核心环节,近年来在深度学习推动下取得了显著突破,尤其以OpenAI提出的Whisper模型为代表,其多语言、多任务泛化能力为构建高质量语音数据集提供了新范式。Whispering-GPT/linustechtips-transcript-audio数据集诞生于2023年,由Whispering-GPT组织基于Whisper medium模型对知名科技频道Linus Tech Tips的5643个视频进行自动转录与音频提取而成。该数据集聚焦于技术评测与消费电子领域的真实对话场景,旨在弥合通用ASR模型在特定垂直领域(如科技术语密集的硬件评测)的识别鸿沟。其研究核心在于验证Whisper模型在非标准化、多说话人、背景噪声复杂环境下的转录鲁棒性,同时为技术社区提供开箱即用的多模态资源,推动ASR在科技媒体内容理解、智能剪辑与语音检索等下游任务中的应用探索。
当前挑战
该数据集面临的核心挑战源于其构建方式与领域特性。首要挑战在于ASR模型对技术领域专有名词(如CPU型号、显卡架构、散热方案等)的识别精度不足,Whisper medium模型虽具备通用能力,但在长尾技术术语、缩写及品牌名称上易产生错译,影响转录质量。其次,视频内容包含多说话人快速交替、背景音乐与设备噪声叠加等复杂声学场景,导致语音分割与说话人标注的准确性难以保障。构建过程中,自动流水线虽降低了人工成本,但缺乏对转录结果的人工校验与修正,可能引入系统性偏差,例如对特定口音或语速的偏好。此外,数据集仅提供单次Whisper推理结果,未包含多模型集成或置信度评分,限制了其在模型对比与错误分析中的效用。这些挑战共同制约了数据集在工业级ASR基准测试中的直接应用,需通过后续标注优化与多模态融合策略加以缓解。
常用场景
经典使用场景
在自动语音识别(ASR)领域,Whispering-GPT/linustechtips-transcript-audio 数据集以其丰富的技术评测类视频内容,成为评估和微调端到端语音识别模型的理想基准。该数据集涵盖了Linus Tech Tips频道中数千个高保真音频片段及其对应的精确转录文本,特别适合用于研究在专业硬件术语、多语种口音混合以及快速语速等复杂声学环境下的语音识别性能。研究者常借助该数据集检验Whisper等预训练模型在技术领域长尾词汇上的泛化能力,并探索音频-文本对齐策略的鲁棒性。
实际应用
在实际应用中,该数据集可被用于构建面向科技媒体内容的智能语音助手和自动字幕生成系统。例如,技术评测视频的实时字幕生成需要精准捕捉大量专业术语(如CPU型号、显卡架构),该数据集提供的带时间戳分段音频-文本对可直接用于训练低延迟、高精度的流式ASR模型。同时,数据集中的视频描述和标签信息也为内容推荐系统提供了多模态特征,助力实现基于语音内容的视频片段检索与自动摘要生成。
衍生相关工作
该数据集衍生了一系列具有影响力的研究工作,包括基于Whisper模型进行领域自适应微调的技术报告,以及探索利用GPT模型对ASR转录结果进行语法纠正和术语规范化的流水线方法。此外,研究者还基于该数据集开发了视频语音-文本对齐的评估基准,用于对比不同时间戳预测算法的精度。在开源社区中,该数据集促进了Whispering-GPT项目的发展,催生了多语言技术视频语料库的构建方法论,并为后续的YouTube频道语音数据集标准化提供了参考范式。
以上内容由遇见数据集搜集并总结生成
二维码
社区交流群
二维码
科研交流群
商业服务