ollama 提示词超过一定长度会被截断
摘要：Ollama默认上下文长度为2048，需手动修改。操作方法是：1)导出原模型配置到current_modelfile.txt；2)在文件中添加"PARAMETER num_ctx 8192"字段；3)使用修改后的配置文件创建新模型。通过这种方式，可将上下文长度扩展到8192。
·
原因：ollama默认的上下文长度是2048，需要人工创建新的模型并更改默认的上下文长度
操作步骤：
1 生成原模型配置文件：
ollama show --modelfile 模型名 > current_modelfile.txt
2 在生成的current_modelfile.txt文件中增加一个字段：
PARAMETER num_ctx 8192
我这里将修改后的配置文件名改成了Modelfile
3 创建新的模型
sudo ollama create 新名字 -f ./Modelfile
火山引擎开发者社区是火山引擎打造的AI技术生态平台，聚焦Agent与大模型开发，提供豆包系列模型（图像/视频/视觉）、智能分析与会话工具，并配套评测集、动手实验室及行业案例库。社区通过技术沙龙、挑战赛等活动促进开发者成长，新用户可领50万Tokens权益，助力构建智能应用。
更多推荐
1
0- 0
已为社区贡献1条内容
所有评论(0)