1、新建一个虚拟环境(mamba是虚拟环境的名字,也可以根据自己的喜好取其他的名字,python是3.10版本,后续其他包的版本都要与之对应):

2、激活虚拟环境(后面安包的过程都在这个虚拟环境里):

conda list命令可以查看所有安装包

3、安装torch以及相应的 torchvison、torchaudio,建议三个包同时安装,直接在命令行中输入如下命令即可:

pip install torch==2.4.1 torchvision==0.19.1 torchaudio==2.4.1 --index-url https://download.pytorch.org/whl/cu118

也可以使用离线安装的方法,先到官网去找相应的.whl文件,快捷的方法是直接问kimi,它会直接给你链接:

特定的cuda版本:(我自己选择的是cuda11.8版本的)https://download.pytorch.org/whl/cu118/https://download.pytorch.org/whl/cu118/

 

 下载到本地之后,利用cd命令进入到.whl文件所在的目录下,利用如下命令进行安装:

1.pip install torch-2.4.1+cu118-cp310-cp310-linux_x86_64.whl 
2.pip install torchvision-0.19.1+cu118-cp310-cp310-linux_x86_64.whl 
3.pip install torchaudio-2.4.1+cu118-cp310-cp310-linux_x86_64.whl

 不知道什么原因,我离线安装不上,采用的是在线安装。

 4、安装triton和transformers

1.pip install triton==3.0.0 -i https://pypi.tuna.tsinghua.edu.cn/simple
2.pip install transformers==4.36.1 -i https://pypi.tuna.tsinghua.edu.cn/simple

安装的适合版本一定要和torch版本对应,不确定安装什么版本的话同样可以问kimi:

5、安装Mamba所需的一些依赖,由于Mamba需要底层的C++进行编译,需要手动安装一下cuda-nvcc,直接使用conda命令即可:

conda install -c "nvidia/label/cuda-11.8.0" cuda-nvcc

6、离线安装causal-conv1d 和mamba-ssm库:

官方下载链接:Releases · state-spaces/mamba · GitHub(链接如果失效了的话同样也可以问kimi)

官方下载链接:Releases · Dao-AILab/causal-conv1d · GitHub

将对应版本的.whl文件下载到本地之后,利用cd命令进入到.whl文件所在的目录下,利用如下命令进行安装:

1.pip install causal_conv1d-1.3.0-cp310-cp310-win_amd64.whl
2.pip install mamba_ssm-2.2.1+cu118torch2.4cxx11abiFALSE-cp310-cp310-linux_x86_64.whl

 7、根据自己的需要安装其他的包:

1.pip install scikit-image -i https://pypi.tuna.tsinghua.edu.cn/simple
2.pip install einops -i https://pypi.tuna.tsinghua.edu.cn/simple
3.pip install timm -i https://pypi.tuna.tsinghua.edu.cn/simple

注:在安装causal-conv1d 和mamba-ssm库时有时候因为网络连接不稳定导致中断,多尝试几次可能就好了

Logo

火山引擎开发者社区是火山引擎打造的AI技术生态平台,聚焦Agent与大模型开发,提供豆包系列模型(图像/视频/视觉)、智能分析与会话工具,并配套评测集、动手实验室及行业案例库。社区通过技术沙龙、挑战赛等活动促进开发者成长,新用户可领50万Tokens权益,助力构建智能应用。

更多推荐