Ollama 安装

本地部署方法

1. 访问Ollama官网下载对应操作系统的安装包（Windows/macOS/Linux）。
2. 运行安装程序并完成基础配置，确保环境变量已自动添加。
3. 通过命令行验证安装成功：

   ollama --version
   

模型下载与运行
使用pull命令下载指定模型（如Llama 2）：

ollama pull llama2

启动模型交互界面：

ollama run llama2

---

流式输出配置

启用流式响应
在API请求中设置stream: true参数，实现实时逐字输出：

fetch('/api/generate', {
  method: 'POST',
  body: JSON.stringify({ model: 'llama2', prompt: '你好', stream: true })
});

客户端处理示例
前端通过EventSource接收分块数据：

const eventSource = new EventSource('/stream');
eventSource.onmessage = (e) => {
  console.log(e.data);
};

---

多模态支持

图像与文本联合处理

1. 下载支持多模态的模型（如LLaVA）：

   ollama pull llava
   

2. 通过API上传图像并关联文本提示：

   curl -X POST -F "image=@photo.jpg" -F "prompt=描述这张图片" http://localhost:11434/api/generate
   

输出格式控制
使用format参数指定响应类型（JSON/文本）：

ollama run llava --format json

---

思考模型应用

Chain-of-Thought（CoT）提示
在提示中明确要求模型展示推理步骤：

用户：请解释如何计算圆的面积，并分步说明。
模型：1. 确定半径长度；2. 使用公式A=πr²；3. 代入数值计算...

Few-Shot示例
通过示例引导模型逻辑推理：

示例1: 问题: 若x+3=7，x是多少？ 解答: 7-3=4，x=4  
示例2: 问题: 2y=10，y是多少？ 解答: 10/2=5，y=5  
新问题: 5z=20，z是多少？

工具调用集成
结合外部计算工具增强准确性：

from math import pi
def circle_area(r):
    return pi * r ** 2