Deepseek-671B: Error: timed out waiting for llama runner to start - progress 0.00 on
·
ollama运行deepseek-r1:671b报错
需要设置环境变量：
[Service]
Environment="OLLAMA_LOAD_TIMEOUT=90m"
Environment="GGML_CUDA_ENABLE_UNIFIED_MEMORY=1"
Environment="OLLAMA_GPU_OVERHEAD=536870912"
Environment="OLLAMA_FLASH_ATTENTION=1"
中国智能体开发者社区，聚焦智能体与大模型开发，提供前沿资讯、实用工具链、开源项目及行业案例。通过技术沙龙、开发者大赛等活动，促进经验交流与协作，助力开发者快速构建创新智能应用。
更多推荐
1
0- 0
已为社区贡献1条内容
所有评论(0)