最近的课程作业是LLaVA模型的本地部署，主要步骤参考这篇帖子：保姆级llava-v1.5-7b部署教程https://blog.csdn.net/kikiLQQ/article/details/135613642?spm=1001.2014.3001.5501

期间也遇到了一些问题，下面是以部署步骤为顺序，对问题简单的汇总和解决思路。新人小白，如有疏漏请谅解。

Step 1:环境配置

1.克隆仓库

原帖直接克隆的git仓库。但网络不稳定时从gitee等镜像克隆也是可以的：

git clone https://gitee.com/mirrors/llava.git

2.安装package、升级代码库参照原帖即可。

Step 2:LLaVA模型下载

由于服务器联网问题，无法直接使用git下载对应模型，原帖的做法是在本地下载好模型，再上传到服务器。而我的网络格外不好，上传的过程中丢失了很多文件。另外，如果直接用git命令，会导致大文件无法克隆到本地，而是由一个git-lfs链接管理：

于是采用下面的做法：继续从gitee镜像克隆（也可以选择其他镜像），并使用git lfs命令

git lfs clone https://gitee.com/hf-models/llava-v1.5-7b.git

等待一段时间，即可下载成功。

下载成功后继续按照原帖子的步骤修改config.json中的clip-vit模型文件夹路径为服务器的绝对路径。

Step 3:Vits模型下载

和上一步一样的思路，也是从gitee使用git lfs命令下载：

git lfs clone https://gitee.com/hf-models/NimaBoscarino-clip-vit-large-patch14-336.git

Step 4:CLI推理验证

这一步我没有遇到问题，直接参照原帖进行即可。

 Step 5:网页端测试

按照原帖的步骤启动三个终端后，可能会在第二个终端出现各种错误，但终端的输出中会给出提示，一步一步来：

1. 首先可以看到缺失frpc_linux_amb64_v0.2文件，直接点击终端输出中的链接，文件会自动下载（此处记得关闭所有的杀毒软件）。下载文件后拖到对应目录下。
2. 
3. 随后看到提示，修改对应文件的value=True
4. 
5. 
6. 最后还剩下一个提示，是gradio包的升级：
7. 

8. pip install --update gradio

升级之后，终端2中又会出现上述的缺失文件、修改Value等问题，我都一一修改了。其实最好一开始就升级gradio。

上述步骤结束后可能仍然无法打开localhost链接，提示gradio无法生成可分享的外部链接。

此处的解决参考了这篇帖子：
gradio无法生成可分享的外部连接Could not create share link. Missing file:或Could not create share link. Please chehttps://blog.csdn.net/powerbond/article/details/132911392

修改完之后，点击终端2中的Public URL(不是localhost):

进入网页：

上传一张图片试试：

成功！