llama.cpp cmake 配置OpenBLAS
i5-12400f cpu选avx2,降低CPU明显。BLAS_LIBRARIES,类型FILEPATH。下载譬如OpenBLAS-0.3.30-x64。BLAS_INCLUDE_DIRS,类型PATH。gpt-oss 20b,支持中文提示词。
·
下载譬如OpenBLAS-0.3.30-x64。

增加入口:
BLAS_LIBRARIES,类型FILEPATH
BLAS_INCLUDE_DIRS,类型PATH

i5-12400f cpu选avx2,降低CPU明显。
C:\Users\yusp7\llama\build\bin\Release>llama-server -m d:\jinx-gpt-oss-20b-mxfp4.gguf -c 1024

gpt-oss 20b,支持中文提示词。
火山引擎开发者社区是火山引擎打造的AI技术生态平台,聚焦Agent与大模型开发,提供豆包系列模型(图像/视频/视觉)、智能分析与会话工具,并配套评测集、动手实验室及行业案例库。社区通过技术沙龙、挑战赛等活动促进开发者成长,新用户可领50万Tokens权益,助力构建智能应用。
更多推荐
所有评论(0)