vllm关于riscv的issue和PR梳理
上面issue有人提问是否有riscv的支持，回复是说如果pytorch支持了那么vllm应该可以直接支持。这个issue提到有人想为vllm提供riscv贡献。这个稍早的PR提供的是RVV支持，但是还在拉扯中。这个PR提供的是Riscv的标量支持，已经合入。
·
https://github.com/vllm-project/vllm/issues/8996
上面issue有人提问是否有riscv的支持，回复是说如果pytorch支持了那么vllm应该可以直接支持。
https://github.com/vllm-project/vllm/issues/19611
这个issue提到有人想为vllm提供riscv贡献。
https://github.com/vllm-project/vllm/pull/20292
这个稍早的PR提供的是RVV支持，但是还在拉扯中。
https://github.com/vllm-project/vllm/pull/22112
这个PR提供的是Riscv的标量支持，已经合入。
火山引擎开发者社区是火山引擎打造的AI技术生态平台，聚焦Agent与大模型开发，提供豆包系列模型（图像/视频/视觉）、智能分析与会话工具，并配套评测集、动手实验室及行业案例库。社区通过技术沙龙、挑战赛等活动促进开发者成长，新用户可领50万Tokens权益，助力构建智能应用。
更多推荐
3
0- 0
已为社区贡献1条内容
所有评论(0)