依据中文金融常识的 LLaMA 系微调模型的智能问答体系：LLaMA大模型训练微调推理等具体教学

依据 LLaMA 系基模型经过中文金融常识指令精调/指令微调(Instruct-tuning) 的微调模型。经过中文金融揭露问答数据+爬取的金融问答数据构建指令数据集，并在此基础上对 LLaMA 系模型进行了指令微调，提高了 LLaMA 在金融范畴的问答作用。

依据已有数据和持续爬取的中文金融数据，将持续运用 GPT3.5/4.0 API 构建高质量的数据集，另在中文常识图谱-金融、CFLEB 金融数据集等数据上进一步扩大高质量指令数据集。

• 依据 Chinese-LLaMA 和中文金融数据进行指令微调的模型。

• 依据 Meta-LLaMA 和中文金融数据进行指令微调的模型。

1. 环境装置

首先装置依赖包，python环境主张3.9+

pip install -r requirements.txt

其次装置 lfs 方便本地下载 LLaMa 大模型

git lfs install
# 下载7B模型到本地
bash ./base_models/load.sh

2.模型下载

LoRA 权重能够经过 Huggingface 下载，结构如下：

    Fin-Alpaca-LoRA-7B-Meta/
       - adapter_config.json   # LoRA权重配置文件
       - adapter_model.bin     # LoRA权重文件

3.Inference：单模型推理-多模型比照

现在在./instruction_data/infer.json中供给了一些测试用例，也可替换成其它的数据集但留意格局保持一致

运转infer脚本

#单模型推理
bash ./scripts/infer.sh
#多模型比照
bash ./scripts/comparison_test.sh

4.数据集构建

此前版别采用了揭露和爬取的中文金融范畴问答数据，涉及到稳妥、理财、股票、基金、贷款、信用卡、社保等。

指令数据示例如下：

问题：办理商业汇票应恪守哪些准则和规则？
回答: 办理商业汇票应恪守下列准则和规则：1.运用商业汇票的单位，有必要是在银行开立帐户的法人；2.商业汇票在同城和异地均可运用；3.签发商业汇票有必要以合法的商品生意为基础；4.经承兑的商业汇票，可向银行贴现；5.商业汇票一律记名，答应背书转让；6.商业汇票的付款期限由生意双方商定，最长不得超越6个月；7.商业汇票经承兑后，承兑人即付款人负有到期无条件交付票款的职责；8.商业汇票由银行印制和发售。

针对此前数据仍存在不准确和类型单一等不完善的地方；现在咱们运用GPT3.5/4.0 接口进一步优化数据、并扩大中文金融常识库，设置多种Prompt方法、multi-task方法拓宽丰富指令数据集，完成金融范畴多事务场景覆盖。

最新模型状况：（行将发布，敬请期待～）

5.微调Finetune

若想用自己的数据集微调 LLaMA，请依照./instruction_data/fin_data.json的格局构建自己的数据集

运转 finetune 脚本

bash ./scripts/finetune.sh

6.训练细节

6.1 核算资源需求

现在训练设备为一张A100-SXM-80GB显卡，训练总次序10轮。batch_size=64的状况下显存占用在40G左右、batch_size=96的状况下显存占用在65G左右。预计3090/4090显卡(24GB显存)以上显卡能够较好支撑，依据显存巨细来调整batch_size。

6.2试验记载

6.3 模型作用比照

7.提示词模板

此目录包括用于 LoRA 微调 LLaMa 模型的提示的模板样式。

• Format

模板是经过一个JSON文件描绘的，该文件包括以下键：

• prompt_input: The template to use when input is not None. Uses {instruction} and {input} placeholders.
• prompt_no_input: The template to use when input is None. Uses {instruction} placeholders.
• description: A short description of the template, with possible use cases.
• response_split: The text to use as separator when cutting real response from the model output.

No {response} placeholder was used, since the response is always the last element of the template and is just to be concatenated to the rest.

7.1模板案例

The default template, used unless otherwise specified, is alpaca.json

{
    "description": "Template used by Alpaca-LoRA.",
    "prompt_input": "Below is an instruction that describes a task, paired with an input that provides further context. Write a response that appropriately completes the request.\n\n### Instruction:\n{instruction}\n\n### Input:\n{input}\n\n### Response:\n",
    "prompt_no_input": "Below is an instruction that describes a task. Write a response that appropriately completes the request.\n\n### Instruction:\n{instruction}\n\n### Response:\n",
    "response_split": "### Response:"    
}

7.2 现有模板

7.2.1 alpaca

到现在为止，用于通用LoRA微调的默许模板。

7.2.2 alpaca_legacy

原始羊驼运用的旧模板，响应字段后没有“\n”。保存以供参阅和试验。

7.2.3 alpaca_short

一个修剪过的羊驼模板，它好像也体现得很好，并保存了一些 tokens。运用默许模板创立的模型好像也能够经过短时刻查询。

8.提示构建模块

• prompter.py

Prompter class, a template manager.

from utils.prompter import Prompter

• 本项目参阅了以下开源项目，

  • Facebook LLaMA: github.com/facebookres…
  • Stanford Alpaca: github.com/tatsu-lab/s…
  • alpaca-lora by @tloen: github.com/tloen/alpac…
  • Huatuo-Llama-Med-Chinese: github.com/SCIR-HI/Hat…
  • 文心一言 yiyan.baidu.com/welcome 本项意图logo由文心一言主动生成
  • 讯飞星火认知 xinghuo.xfyun.cn/desk

项目码源见文末

项目链接跳转

更多优质内容请关注公号：汀丶人工智能；会供给一些相关的资源和优质文章，免费获取阅览。