Confirm-Labs/pile_top_trigrams
收藏Hugging Face2023-06-25 更新2024-03-04 收录
下载链接：
https://hf-mirror.com/datasets/Confirm-Labs/pile_top_trigrams
下载链接
链接失效反馈官方服务：
资源简介：
# top_trigrams
See https://confirmlabs.org/posts/catalog.html for details.
- `id0`: the first token in the trigram
- `id1`: the second token in the trigram
- `id2`: the most common token following `(id0, id1)` in The Pile
- `sum_count`: the number of times that `(id0, id1)` appears in The Pile.
- `max_count`: the number of times that `id2` appears after `(id0, id1)` in The Pile.
- `frac_max`: `max_count / sum_count`
- `token0`: the string representation of `id0`
- `token1`: the string representation of `id1`
- `token2`: the string representation of `id2`
- `seq`: the string representation of the trigram, `token0 token1 token2`
- `p_{model_size}`: the probability of the trigram under Pythia-{model_size} when prompted with `(id0, id1)`.
提供机构：
Confirm-Labs
原始信息汇总
数据集概述：top_trigrams
数据集结构
- id0: 三元组中的第一个词
- id1: 三元组中的第二个词
- id2: 在The Pile数据集中，紧随
(id0, id1)出现的最常见词 - sum_count:
(id0, id1)在The Pile数据集中的出现次数 - max_count:
id2在The Pile数据集中紧随(id0, id1)出现的次数 - frac_max:
max_count / sum_count - token0:
id0的字符串表示 - token1:
id1的字符串表示 - token2:
id2的字符串表示 - seq: 三元组的字符串表示，即
token0 token1 token2 - p_{model_size}: 在Pythia-{model_size}模型中，当提示为
(id0, id1)时，该三元组的概率
