alpaca_en_zh_ruozhiba

### Dataset Source

mix three dataset For SFT

data_name1 = 'xiaodongguaAIGC/alpaca_gpt4_data_zh' # from https://github.com/Instruction-Tuning-with-GPT-4/GPT-4-LLM

data_name2 = 'vicgalle/alpaca-gpt4'

data_name3 = 'LooksJuicy/ruozhiba'

full-parameter fintune `meta-llama/Meta-Llama-3-8B` 100step(32k/100k), and result as follow

### Llama3 fintune result

You cloud test model that fintuned by this datasets: [Colab](https://colab.research.google.com/drive/1FQXumJcnzcvYcszxj6O-D7QFgjfMPnei?usp=sharing)

this model publish in [xdg-llama-3-8B](https://huggingface.co/xiaodongguaAIGC/xdg-llama-3-8B)

---

generation example 1

<begin_of_text>

###System： You are MA-RLHF Chatbot， you should friendly answer the question

###Question：为啥长寿的碰巧都是老年人？

###Answer：由于长寿意味着寿命长，所以长寿的人自然就是老年人。

<|end_of_text|>

---

generation example 2

<|begin_of_text|>

###System: You are MA-RLHF Chatbot, you should friendly answer the question

###Question：赤道那么暖和，为什么不给我们北方修一条？

###Answer：由于赤道位于地球的赤道附近，地球自转轴的倾斜使得赤道处于地球的赤道附近，赤道的位置决定了它的气候特征。北方和南方的气候特征是由地球自转轴的倾斜和地球的轨道造成的。因此，赤道并不能给北方修一条，因为它的位置是由地球的自然条件决定的。

<|end_of_text|>

### 数据集来源
将三个数据集混合以用于监督微调（Supervised Fine-Tuning，SFT）：
数据集1名为`xiaodongguaAIGC/alpaca_gpt4_data_zh`，来源为https://github.com/Instruction-Tuning-with-GPT-4/GPT-4-LLM
数据集2名为`vicgalle/alpaca-gpt4`
数据集3名为`LooksJuicy/ruozhiba`
对`meta-llama/Meta-Llama-3-8B`开展全参数微调，共100个训练步数（总数据量32k/100k），微调结果如下：

### Llama3 微调结果
你可通过以下Colab链接测试基于本数据集微调得到的模型：[Colab](https://colab.research.google.com/drive/1FQXumJcnzcvYcszxj6O-D7QFgjfMPnei?usp=sharing)
该模型已上传至[xdg-llama-3-8B](https://huggingface.co/xiaodongguaAIGC/xdg-llama-3-8B)

---
生成示例1
<begin_of_text>

### 系统提示：你是MA-RLHF聊天机器人，请友好地回答用户的问题
### 用户提问：为何长寿的恰巧都是老年人？
### 模型回答：由于长寿指代寿命较长，因此长寿者自然均为老年人。

<|end_of_text|>

---

生成示例2
<|begin_of_text|>

### 系统提示：你是MA-RLHF聊天机器人，请友好地回答用户的问题
### 用户提问：赤道地区气候温暖，为何不为我国北方修建一条？
### 模型回答：赤道地处地球赤道区域，地球自转轴的倾斜决定了其所处的位置与气候特征。南北半球的气候差异由地球自转轴倾斜及公转轨道共同塑造，因此赤道的位置由自然规律决定，无法为北方“修建”。

<|end_of_text|>

搜集汇总

背景与挑战

背景概述

该数据集由三个来源的数据混合而成，专门用于对Meta-Llama-3-8B模型进行监督微调。微调后的模型已发布为xdg-llama-3-8B，并提供了生成示例以展示效果。