前言

在上一章中，我们通过 HuggingFace 成功调用了 Llama3 模型，但整个过程相对繁琐。不仅需要在 HuggingFace 上申请访问权限，还要编写代码来调用模型。如果我们需要提供外部访问接口，还需要自行实现。本文将介绍如何通过 Ollama 部署 Llama3 模型，并通过接口调用，简化这一过程。

前排提示，文末有大模型AGI-CSDN独家资料包哦！

Ollama 简介

Ollama 是一个本地运行的大语言模型（LLM）工具平台，允许用户在本地设备上运行和管理大模型，而无需依赖云服务。它支持多种开源模型，并提供了用户友好的接口，非常适合开发者和企业使用。

安装 Ollama

首先，从 Ollama 官网 下载安装包，并按照提示完成安装。

Ollama 命令介绍

Ollama 提供了几个简单易用的命令，基本功能如下：

Usage:
  ollama [flags]
  ollama [command]

Available Commands:
  serve       启动 Ollama 服务
  create      从 Modelfile 创建一个模型
  show        查看模型详细信息
  run         运行一个模型
  stop        停止正在运行的模型
  pull        从注册表拉取一个模型
  push        将一个模型推送到注册表
  list        列出所有可用的模型
  ps          列出当前正在运行的模型
  cp          复制一个模型
  rm          删除一个模型
  help        获取关于任何命令的帮助信息

Flags:
  -h, --help      help for ollama
  -v, --version   Show version information

下载大模型

在 Ollama 官网的 Models 页面 中，可以找到 Ollama 支持的大模型列表。

如果没有明确的模型选择，建议使用阿里的 qwen2.5:7b 或 Meta 的 llama3.1:8b。7b 以上的大模型通常能提供更好的对话效果。

查看模型信息

选择一个模型后，点击进入可以查看模型的详细信息。

下载模型

使用 ollama run 命令可以在拉取模型后直接进入交互窗口。如果只想下载模型而不进入交互界面，可以使用 ollama pull 命令。

ollama run llama3.2:1b

等待模型下载完成后，会直接进入交互界面。

在命令行中输入消息，即可与模型进行交互。

交互窗口命令

在交互窗口中输入 /? 可以查看可用命令。

Available Commands:
  /set            设置会话变量
  /show           显示模型信息
  /load <model>   加载会话或模型
  /save <model>   保存当前会话
  /clear          清除会话上下文
  /bye            退出会话
  /?, /help       显示命令帮助
  /? shortcuts    显示快捷键帮助

Use """ to begin a multi-line message.

例如，使用 /show 命令查看模型信息：

输入 /bye 即可退出交互界面。

调用 Ollama 接口

Ollama 提供了丰富的 API 接口，供外部调用访问。详细的 接口文档 可以在官方 GitHub 中找到。

接口名称	接口地址	请求方法	接口描述
Generate	/api/generate	POST	使用提供的模型为给定提示生成响应。
Chat	/api/chat	POST	使用提供的模型生成聊天中的下一条消息
Create	/api/create	POST	从 Modelfile 创建一个新的模型。
Tags	/api/tags	GET	列出本地可提供的型号。
Show	/api/show	POST	获取指定模型的详细信息。
Copy	/api/copy	POST	从现有模型创建副本。
Delete	/api/delete	DELETE	删除模型及其数据。
Pull	/api/pull	POST	从 Ollama 库中下载指定模型。
Push	/api/push	POST	将模型上传到模型库。
Embed	/api/embed	POST	使用指定模型生成嵌入。
ListRunning	/api/ps	POST	列出当前加载到内存中的模型。
Embeddings	/api/embeddings	POST	生成嵌入（与 Embed 类似，但可能适用场景不同）。
Version	/api/version	GET	获取 Ollama 服务的版本号。

检查服务

安装 Ollama 后，服务通常会自动启动。为了确保服务正常运行，可以通过以下命令检查：

Ollama 默认端口为 11434，访问地址为 127.0.0.1:11434。

curl http://127.0.0.1:11434

如果服务未启动，可以使用以下命令启动：

ollama serve

调用模型列表接口

首先，调用一个简单的接口来查询模型列表：

curl http://localhost:11434/api/tags

返回结果：

调用生成接口

接下来，调用生成接口来获取模型的响应：

curl http://localhost:11434/api/generate -d '{
  "model": "llama3.2:1b",
  "prompt": "天空为什么是蓝色的?"
}'

默认情况下，接口会返回流式数据：

可以通过设置 stream: false 参数，直接返回完整内容：

curl http://localhost:11434/api/generate -d '{
  "model": "llama3.2:1b",
  "prompt": "天空为什么是蓝色的?",
  "stream": false
}'

此时，接口会等待模型生成完整响应后一次性返回：

结语

通过本文，我们成功使用 Ollama 部署并调用了 Llama 大模型。Ollama 提供了简单易用的接口，极大简化了大模型的本地部署和调用过程。对于其他接口如 chat、pull、delete 等，可以参考官方文档进行调用。

读者福利：如果大家对大模型感兴趣，这套大模型学习资料一定对你有用

对于0基础小白入门：

如果你是零基础小白，想快速入门大模型是可以考虑的。

一方面是学习时间相对较短，学习内容更全面更集中。
二方面是可以根据这些资料规划好学习计划和方向。

包括：大模型学习线路汇总、学习阶段，大模型实战案例，大模型学习视频，人工智能、机器学习、大模型书籍PDF。带你从零基础系统性的学好大模型！

😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

👉AI大模型学习路线汇总👈

大模型学习路线图，整体分为7个大的阶段：（全套教程文末领取哈）

第一阶段： 从大模型系统设计入手，讲解大模型的主要方法；

第二阶段： 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；

第三阶段： 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；

第四阶段： 大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；

第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；

第六阶段： 以SD多模态大模型为主，搭建了文生图小程序案例；

第七阶段： 以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。

👉大模型实战案例👈

光学理论是没用的，要学会跟着一起做，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

👉大模型视频和PDF合集👈

观看零基础学习书籍和视频，看书籍和视频学习是最快捷也是最有效果的方式，跟着视频中老师的思路，从基础到深入，还是很容易入门的。

👉学会后的收获：👈

• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；

• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；

• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；

• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。

👉获取方式：

😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓