直接讲重点,首先去官网下载.gguf的文件,下载后保存到一个目录里面

如我下的是这个模型:DeepSeek-Coder-V2-Lite-Instruct-IQ2_S.gguf

LM Studio 建立一个文件夹作为,模型目录,但是开始总也不显示下载的模型,后来才知道需要包两层文件夹的目录才行。

第一层目录名和gguf的文件名要相同

 

第二层目录名为:lmstudio-ai

 

这样再选择lmstudio-ai的上一层文件夹,作为模型目录就可以在LM Studio中显示了

 

 

整体目录层级如下:

 

Logo

火山引擎开发者社区是火山引擎打造的AI技术生态平台,聚焦Agent与大模型开发,提供豆包系列模型(图像/视频/视觉)、智能分析与会话工具,并配套评测集、动手实验室及行业案例库。社区通过技术沙龙、挑战赛等活动促进开发者成长,新用户可领50万Tokens权益,助力构建智能应用。

更多推荐