想要使用llama-factory首先要有docker的wsl的ubutun虚拟环境,miniconda3的python运行环境,vscode软件等工具

一、Ubutun环境(要有docker的wsl)

打开PowerShell(右键以管理员身份运行)

运行以下命令:

wsl --install

如果报错可以尝试下面的方式进行解决,这个方式我解决了报错问题:

打开C:\Windows\System32\drivers\etc\hosts文件(以管理员身份运行记事本)。在文件末尾添加以下行并保存:

185.199.108.133 raw.githubusercontent.com

保存完成后,回到powershell继续执行命令:

wsl --install

 

二、下载llama-Factory

llama-factory下载地址https://github.com/hiyouga/LLaMA-Factory

下载安装包到本地后,可以将其解压到任意目录

三、安装Conda

使用vscode,在llama-factory目录下,打开ubutun命令终端

依次输入下面的命令:

#安装miniconda3 
wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh 


#运行安装脚本 
bash Miniconda3-latest-Linux-x86_64.sh 


#激活 
source ~/.bashrc 


#验证安装 
conda --version

 四、创建python运行环境

打开vscode,在ubutun终端下,通过之前安装的conda,设置python环境,你可以使用conda创建很多个运行环境

#其中llama是python环境的名字,python版本为3.10
conda create -n llama python=3.10

#激活创建的llama环境
conda activate llama

#查看已创建的环境
conda env list

#删除环境
conda remove -n llama --all

五、安装llama-factory 

继续在创建的llama环境中安装,输入下面代码:

#安装llama-factory
pip install -e ".[torch,metrics]" -i https://pypi.tuna.tsinghua.edu.cn/simple

如果你是AMD显卡且支持rocm,可以尝试安装 llama-factory 的 rocm 版本:

pip install -e ".[rocm,metrics]"

安装成功后启动llama-factory:

llamafactory-cli webui

ctrl+左键,点击进入http://127.0.0.1:7860或者http://0.0.0.0:7860 

Logo

中国智能体开发者社区,聚焦智能体与大模型开发,提供前沿资讯、实用工具链、开源项目及行业案例。通过技术沙龙、开发者大赛等活动,促进经验交流与协作,助力开发者快速构建创新智能应用。

更多推荐