geniacllm/ApolloCorpus-ja-askllm-v1

---
license: apache-2.0
---
# ApolloCorpus-ja-askllm-v1

データセット [kunishou/ApolloCorpus-ja](https://huggingface.co/datasets/kunishou/ApolloCorpus-ja) に対して、 Ask-LLM 手法でスコア付けしたデータセットです。

元データセットのカラムに加え `askllm_score` というカラムが追加されており、ここに Ask-LLM のスコアが格納されています。

Ask-LLM でスコア付けに使用した LLM は [Rakuten/RakutenAI-7B-instruct](https://huggingface.co/Rakuten/RakutenAI-7B-instruct) で、プロンプトは以下の通りです。

```
###
{data}
###

Does the previous paragraph demarcated within ### and ### contain informative signal for pre-training a large-language model? An informative datapoint should be well-formatted, contain some usable knowledge of the world, and strictly NOT have any harmful, racist, sexist, etc. content.

OPTIONS: yes / no
ANSWER:
```

- 元データセット
- https://huggingface.co/datasets/kunishou/ApolloCorpus-ja

- Ask-LLM 手法
- https://arxiv.org/abs/2402.09668
- https://speakerdeck.com/s_ota/ask-llm-20240313
- https://github.com/susumuota/nano-askllm

ライセンスはオリジナルのデータセットのライセンスに従います。

---
license: apache-2.0
---
# ApolloCorpus-ja-askllm-v1

本数据集是基于[kunishou/ApolloCorpus-ja](https://huggingface.co/datasets/kunishou/ApolloCorpus-ja)数据集，通过Ask-LLM方法完成评分后得到的产物。

相较于原始数据集，本数据集新增了`askllm_score`字段，该字段用于存储Ask-LLM方法给出的评分结果。

本次评分所用的大语言模型（Large Language Model，LLM）为[Rakuten/RakutenAI-7B-instruct](https://huggingface.co/Rakuten/RakutenAI-7B-instruct)，所用提示词如下：

###
{data}
###

请判断###与###标记界定的段落是否包含可用于大语言模型预训练的有效信息。有效数据样本应格式规范、包含可用的现实世界知识，且绝对不得包含有害、种族主义、性别歧视等不当内容。

选项：是 / 否
回答：

- 原始数据集
- https://huggingface.co/datasets/kunishou/ApolloCorpus-ja
- Ask-LLM 方法
- https://arxiv.org/abs/2402.09668
- https://speakerdeck.com/s_ota/ask-llm-20240313
- https://github.com/susumuota/nano-askllm

本数据集遵循原始数据集的开源许可协议。