主机驱动正常安装

使用mthreads-gmi查看gpu卡

在这里插入图片描述

部署k8s device 插件

K8S gpu-device
在这里插入图片描述

查看k8s节点资源

在这里插入图片描述

容器yaml文件

比如这里pod占用2张卡
在这里插入图片描述

pod内查看占用卡情况

容器内mthreads-gmi
在这里插入图片描述

cube studio平台部署deepseek模型

在这里插入图片描述

Deepseek 接口测试

在这里插入图片描述

Logo

火山引擎开发者社区是火山引擎打造的AI技术生态平台,聚焦Agent与大模型开发,提供豆包系列模型(图像/视频/视觉)、智能分析与会话工具,并配套评测集、动手实验室及行业案例库。社区通过技术沙龙、挑战赛等活动促进开发者成长,新用户可领50万Tokens权益,助力构建智能应用。

更多推荐