Ollama系列05：Ollama API 使用指南

本文是Ollama系列教程的第5篇，在前面的4篇内容中，给大家分享了如何再本地通过Ollama运行DeepSeek等大模型，演示了chatbox、CherryStudio等UI界面中集成Ollama的服务，并介绍了如何通过cherryStudio构建私有知识库。

在今天的分享中，我将分享如何通过API来调用ollama服务，通过整合ollama API，将AI能力集成到你的私有应用中，提升你的职场价值！

Ollama API

Ollama 提供了一套简单好用的接口，让开发者能通过API轻松使用大语言模型。

本篇内容将使用Postman作为请求工具，和开发语言无关。

基本概念

在开始之前，我们先了解几个基本的概念：

Model：模型，我们调用接口时使用的模型名字。我们可以把Ollama理解为模型商店，它里面运行着很多模型，每个模型都有一个唯一的名字，例如deepseek-r1:1.5b
Prompt: 提示词，是我们给模型的指令。比如天空为什么是蓝色的就是一条简单的提示词。
Token：字符块，是大模型的最小输出单位，同时也是大模型的计费单位。举个例子，对于天空为什么是蓝色的这句话，大模型会进行拆分天空/为什么/是/蓝色/的，每一段就是一个token（实际情况会比这个例子复杂）

内容生成（/api/generate）

让大模型帮我们生成指定的内容，就可以使用内容生成接口。一问一答，不带上下文。

我们试着用最少的参数来调用：

{

  "model": "deepseek-r1:1.5b",

  "prompt": "天空为什么是蓝色的"

}

在postman里面看看输出：

可以看到输出的内容很长，这是因为默认采用的是stream的方式输出的，也就是我们在deepseek app里面看到的一个字一个字输出的那种效果。我们可以将stream参数设置成false来禁用流式输出。

{

    "model": "deepseek-r1:1.5b",

    "prompt": "天空为什么是蓝色的",

    "stream": false

}

参数列表

参数名	是否必填	描述
`model`	是	模型名称
`prompt`	是	需要生成响应的提示词
`suffix`	否	模型响应后追加的文本
`images`	否	Base64编码的图片列表（适用于多模态模型如llava）
`format`	否	返回响应的格式（可选值：`json` 或符合 JSON Schema 的结构）
`options`	否	模型额外参数（对应 Modelfile 文档中的配置如 `temperature`）
`system`	否	自定义系统消息（覆盖 Modelfile 中的定义）
`template`	否	使用的提示词模板（覆盖 Modelfile 中的定义）
`stream`	否	设为 `false` 时返回单个响应对象而非流式对象
`raw`	否	设为 `true` 时不格式化提示词（适用于已指定完整模板的情况）
`keep_alive`	否	控制模型在内存中的保持时长（默认：5m）
`context`	否	（已弃用）来自前次 `/generate` 请求的上下文参数，用于维持短期对话记忆

生成对话（/api/chat）

生成对话，是一种具备上下文记忆的内容生成。在内容生成API中，我们仅传入了prompt，大模型仅对我们本地的prompt进行回答，而在生成对话API中，我们还可以传入messages参数，包含我们多轮对话内容，使大模型具备记忆功能。

最简单的调用（为了方便演示，我们将stream参数设置为false）：

{

    "model": "deepseek-r1:1.5b",

    "messages": [

        {

            "role": "user",

            "content": "天空通常是什么颜色"

        }

    ],

    "stream": false

}

postman调用截图：

多轮对话

聊天的时候，ollama通过messages参数保持上下文记忆。当模型给我们回复内容之后，如果我们要继续追问，则可以使用以下方法（注意：deepseek-r1模型需要在上下文中移除think中的内容）：

{

    "model": "deepseek-r1:1.5b",

    "messages": [

        {

            "role": "user",

            "content": "天空通常是什么颜色"

        },

        {

            "role": "assistant",

            "content": "天空通常看起来是**柔和的、明快的或稍微有些昏黄的色调**。具体颜色可能会因不同的天气情况而有所变化，例如：\n\n1. **晴朗天气**：天空可能呈现出温暖、明亮的颜色，比如蓝天、碧空等。\n2. **下雨天**：云层覆盖天空，可能导致颜色较为阴郁或变黑。\n3. **雨后天气**：雨后的天空可能恢复为明亮的色调。\n\n总的来说，天空的颜色主要取决于大气中的光线反射和折射情况，以及太阳的位置。"

        },

        {

            "role": "user",

            "content": "为什么是蓝色的？"

        }

    ],

    "stream": false

}

postman调用截图：

结构化数据提取

当我们和系统对接时，通常要需要从用户的自然语言中提到结构化数据，用来调用现有的外部系统的接口。在ollama中我们只需要指定format参数，就可以实现结构化数据的提取：

{

    "model": "deepseek-r1:1.5b",

    "messages": [

        {

            "role": "user",

            "content": "哈喽，大家好呀~ 我是拓荒者IT，今年36岁了，是一名软件工程师"

        }

    ],

    "format": {

        "type": "object",

        "properties": {

            "name": {

                "type": "string"

            },

            "age": {

                "type": "integer"

            },

            "job": {

                "type": "string"

            }

        },

        "required": [

            "name",

            "age",

            "job"

        ]

    },

    "stream": false

}

参数列表

参数名	是否必填	描述
`model`	是	模型名称
`messages`	是	聊天消息数组（用于维持对话记忆）
`messages.role`	是	消息角色（可选值：`system`, `user`, `assistant`, `tool`）
`messages.content`	是	消息内容
`messages.images`	否	消息中Base64编码的图片列表（适用于多模态模型如llava）
`messages.tool_calls`	否	模型希望调用的工具列表（JSON格式）
`tools`	否	模型可使用的工具列表（JSON格式，需模型支持）
`format`	否	返回响应的格式（可选值：`json` 或符合 JSON Schema 的结构）
`options`	否	模型额外参数（对应 Modelfile 文档中的配置如 `temperature`）
`stream`	否	设为 `false` 时返回单个响应对象而非流式对象
`keep_alive`	否	控制模型在内存中的保持时长（默认：5m）

生成嵌入数据（/api/embed）

嵌入数据的作用是将输入内容转换成向量，可以用于向量检索等场景。比如我们在第四篇中介绍的知识库，就需要用到embedding模型。

在调用embed接口时，我们要选择支持Embedding功能的模型，deepseek是不支持的。

调用示例：

{

  "model": "bge-m3",

  "input": "为什么天空是蓝色的呢？"

}

postman调用截图：

兼容openAI接口

因为现在很多应用、类库都是基于OpenAI构建的，为了让这些系统能够使用Ollama提供的模型，Ollama提供了一套兼容OpenAI的接口（官方说是实验性的，以后可能会有重大调整）。

因为这种兼容，使得我们可以直接通过OpenAI的python库、node库来访问ollama的服务，确实方便了不少。

注意：ollama属于第三方接口，不能100%支持OpenAI的接口能力，因此在使用的时候需要先了解清楚兼容的情况。

其它接口

ollama还有一些其它的接口，用来实现对模型的管理等功能，而这些功能我们通常会在命令行完成，因此不做详细说明。这些API的列表如下：

模型创建（/api/create）
列出本地模型（/api/tags）
查看模型信息（/api/show）
复制模型（/api/copy）
删除模型（/api/delete）
拉取模型（/api/pull）
推送（上传）模型（/api/push）
列出运行中的模型（/api/ps）
查看ollama版本（/api/version）

这些接口的调用都非常简单，大家感兴趣的可以尝试以下。

总结

本文介绍了ollama api的用法，详细介绍了生成内容、多轮对话、大模型记忆功能的实现、提取参数化内容等接口。通过使用这些接口，我们可以将AI能力集成到现有的项目中，提升软件的智能化程度。

如果你对这些内容感兴趣，关注[拓荒者IT]公众号，获取最新的文章内容。

持续分享AI工具，AI应用场景，AI学习资源 ️

参考内容

官方API文档：https://github.com/ollama/ollama/blob/main/docs/api.md
官方兼容OpenAI文档：https://github.com/ollama/ollama/blob/main/docs/openai.md