前言
本文档介绍了在 Dify 平台中集成和使用 Ollama 大模型的具体步骤。首先需要完成 Ollama 的安装与配置。然后登录 Dify,进入设置界面,在模型供应商中找到并安装 Ollama 供应商。接着添加模型,填写模型信息时需注意基础 URL 的设置:若 Dify 与 Ollama 部署在同一 Docker 机器上,使用 http://host.docker.internal:11434;若在不同机器上,则使用本机 IP(如 http://192.168.x.x:11434)。配置完成后,可在 Dify 中创建应用(如聊天助手)并进行测试。
一、安装Ollama
Windows下Ollama安装及常用指令,含软件安装包
二、Dify 中配置 Ollama
2.1 登录 Dify
2.2 进入设置
2.3 模型供应商
2.4 安装模型供应商
找到 Ollama 模型供应商
安装完成
2.5 添加模型
填写模型信息
注意:基础 URL
docker(同一机器)部署 dify:http://host.docker.internal:11434
docker(不同机器)部署 dify:http://192.168.x.x(自己的IP):11434
配置完成
三、Dify 中使用 Ollama 配置的大模型
3.1 创建应用
创建聊天助手