本地部署chatglm4-9b(超简单)
本地部署chatglm4-9b大模型
·
参考链接:link
1.建议前去魔塔社区下载大模型,时间挺久的。。。
魔塔社区网址:link
下载模型:git clone https://www.modelscope.cn/ZhipuAI/glm-4-9b-chat.git
2.创建虚拟环境:python -m venv chatglm-9bvenv
3.激活虚拟环境:进入到chatglm-9bvenv文件夹,再进入scripts文件夹,在命令行输入activate,运行;
4.下载资源文件:link,输入git clone https://github.com/THUDM/GLM-4.git,或者下载zip文件;
5.安装依赖:从虚拟环境中进入到刚刚下载的源码中的requirements.txt的同级文件夹,输入pip install -r requirements.txt
6.进入到下载的资源文件中,打开trans_cli_demo.py文件,修改模型路径为我们下载的模型的路径;
7.输入:python trans_cli_demo.py
ok了
火山引擎开发者社区是火山引擎打造的AI技术生态平台,聚焦Agent与大模型开发,提供豆包系列模型(图像/视频/视觉)、智能分析与会话工具,并配套评测集、动手实验室及行业案例库。社区通过技术沙龙、挑战赛等活动促进开发者成长,新用户可领50万Tokens权益,助力构建智能应用。
更多推荐
所有评论(0)