Finance Alpaca dataset
收藏FinanceLlama Chatbot
简介
FinanceLlama 是一个基于 LLaMA-2 模型微调的聊天机器人,专门用于回答与金融、投资和银行业相关的问题。该模型适用于回答诸如“什么是定期存款?”和“作为学生,我可以在哪里投资?”等问题。
开始使用
以下步骤帮助您运行 FinanceLlama 并与其微调模型进行交互:
-
下载模型目录:
-
克隆此仓库到您的本地机器: bash git clone https://github.com/madanarnav2004/Finance-Llama.git
-
导航到包含模型文件或 model 文件夹的目录,该文件夹本质上是微调 LLaMA 笔记本的结果文件夹。
-
-
使用微调笔记本:
- 打开
Use Finetuned Model.ipynb笔记本。 - 添加您的查询提示并执行单元格以获取结果。
注意:确保您已使用 GitHub CLI 登录并有权访问受限的 meta LLaMA 模型。
- 打开
-
安装所需包:
- 使用 pip 安装依赖项: bash pip install intel_extension_for_transformers
示例用法
python from intel_extension_for_transformers.neural_chat import build_chatbot from intel_extension_for_transformers.neural_chat import PipelineConfig from intel_extension_for_transformers.neural_chat.config import LoadingModelConfig
配置并加载 LLaMA-2 模型
config = PipelineConfig( model_name_or_path="meta-llama/Llama-2-7b-chat-hf", loading_config=LoadingModelConfig(peft_path="./path_to_model_directory") ) chatbot = build_chatbot(config)
示例查询
query1 = "告诉我关于定期存款的信息" query2 = "作为学生,我可以在哪里投资?" response1 = chatbot.predict(query=query1) response2 = chatbot.predict(query=query2)
print(response1) print(response2)




