一、LLaMA Factory

项目地址：https://github.com/hiyouga/LLaMA-Factory/tree/main

LLaMA Factory 是一个简单易用且高效的大型语言模型（Large Language Model）训练与微调 平台。通过 LLaMA Factory，可以在无需编写任何代码的前提下，在本地完成上百种预训练模 型的微调，框架特性包括：

        模型种类：LLaMA、LLaVA、Mistral、Mixtral-MoE、Qwen、Yi、Gemma、Baichuan、 ChatGLM、Phi 等等。

        训练算法：（增量）预训练、（多模态）指令监督微调、奖励模型训练、PPO 训练、DPO 训练、KTO 训练、ORPO 训练等等。

        运算精度：16 比特全参数微调、冻结微调、LoRA 微调和基于 AQLM/AWQ/GPTQ/LLM.int8/HQQ/EETQ 的 2/3/4/5/6/8 比特 QLoRA 微调。

        优化算法：GaLore、BAdam、DoRA、LongLoRA、LLaMA Pro、Mixture-of-Depths、 LoRA+、LoftQ 和 PiSSA。

        加速算子：FlashAttention-2 和 Unsloth。

        推理引擎：Transformers 和 vLLM。

        实验监控：LlamaBoard、TensorBoard、Wandb、MLflow、SwanLab 等等。

安装依赖 

安装 

​git clone --depth 1 https://github.com/hiyouga/LLaMA-Factory.git

cd LLaMA-Factory

pip install -e ".[torch,metrics]"

LLaMA-Factory 校验

llamafactory-cli version

二、魔搭社区下载大模型

通义千问2.5-7B-Instruct · 模型库

​

from modelscope.hub.snapshot_download import snapshot_download
llm_model_dir = snapshot_download('Qwen/Qwen2.5-7B-Instruct',cache_dir='models')

三、开启WebUI服务器端口 

        LLaMA-Factory 支持通过 WebUI 零代码微调大语言模型。 在完成安装后，可以通过以下指 令进入 WebUI：

llamafactory-cli webui

如果多卡分布式训练，可以使用以下命令启动：

 CUDA_VISIBLE_DEVICES=0,1 llamafactory-cli webui

​

四、操作步骤

4.1、构建数据集

https://atp-modelzoo-sh.oss-cn-shanghai.aliyuncs.com/release/tutorials/llama_factory/data.zip

 将下载下来的压缩包 data.zip 放在服务器中的LLaMA-Factory路径下。

cd LLaMA-Factory/

mkdir -p data/role_play && unzip data.zip -d data/role_play

在LLaMA-Factory-main/data/dataset_info.json 下添加如下配置

"role_play_train": {
    "file_name": "role_play/train.json",
    "formatting": "sharegpt"
  },
  "role_play_eval": {
    "file_name": "role_play/eval.json",
    "formatting": "sharegpt"
  }

4.2、模型微调

配置信息

​

微调结果 

4.3、模型评估

4.4、模型对话

​

4.5、模型导出

​