five

irds/clueweb09_catb

收藏
Hugging Face2023-01-05 更新2024-03-04 收录
下载链接:
https://hf-mirror.com/datasets/irds/clueweb09_catb
下载链接
链接失效反馈
官方服务:
资源简介:
--- pretty_name: '`clueweb09/catb`' viewer: false source_datasets: [] task_categories: - text-retrieval --- # Dataset Card for `clueweb09/catb` The `clueweb09/catb` dataset, provided by the [ir-datasets](https://ir-datasets.com/) package. For more information about the dataset, see the [documentation](https://ir-datasets.com/clueweb09#clueweb09/catb). # Data This dataset provides: - `docs` (documents, i.e., the corpus); count=50,220,423 ## Usage ```python from datasets import load_dataset docs = load_dataset('irds/clueweb09_catb', 'docs') for record in docs: record # {'doc_id': ..., 'url': ..., 'date': ..., 'http_headers': ..., 'body': ..., 'body_content_type': ...} ``` Note that calling `load_dataset` will download the dataset (or provide access instructions when it's not public) and make a copy of the data in 🤗 Dataset format.
提供机构:
irds
原始信息汇总

数据集卡片 clueweb09/catb

clueweb09/catb 数据集由 ir-datasets 包提供。

数据

该数据集包含:

  • docs(文档,即语料库);数量为 50,220,423。

使用方法

python from datasets import load_dataset

docs = load_dataset(irds/clueweb09_catb, docs) for record in docs: record # {doc_id: ..., url: ..., date: ..., http_headers: ..., body: ..., body_content_type: ...}

注意:调用 load_dataset 将下载数据集(或提供非公开数据集的访问指令),并在 🤗 Dataset 格式中创建数据的副本。

5,000+
优质数据集
54 个
任务类型
进入经典数据集
二维码
社区交流群

面向社区/商业的数据集话题

二维码
科研交流群

面向高校/科研机构的开源数据集话题

数据驱动未来

携手共赢发展

商业合作