我们相信:世界是美好的,你是我也是。 来玩一下解压小游戏吧!

dify是当前风头正劲的LLM应用开发平台,支持接入多种大模型。它的正常使用,必须配合各个大模型才能完成。也就是说dify离不开大模型供应商们的鼎力支持。而大模型供应商是个新的概念,包括chatgptollamaqwendeepseek等等都可以叫做大模型供应商。

苏南大叔:Dify大模型供应商,如何配置 deepseek (ollama) 接入? - dify大模型供应商
Dify大模型供应商,如何配置 deepseek (ollama) 接入?(图10-1)

苏南大叔的“程序如此灵动”博客,记录苏南大叔的代码编程经验总结。测试环境:win10@22h2docker@28.0.4dify@1.3.1

dify

当然,必须现有一个dify的运行实例了。这里从github上安装了最新的dify@1.3.1。安装过程就不细说了,通过docker安装的。

cd docker
copy .env.example .env
docker compose up -d

苏南大叔:Dify大模型供应商,如何配置 deepseek (ollama) 接入? - docker
Dify大模型供应商,如何配置 deepseek (ollama) 接入?(图10-2)

安装过程,一笔带过。不会安装的同学,可以参考下面的文章:

ollama

作为大模型供应商,ollama目前是比较六边形的合适人选。基于ollama可以对接更多的本地大模型,其中就包括deepseek

基于ollama,安装deepseek本地大模型的文章,参考如下:

ollama pull deepseek-r1:7b

另外,基于分布式的部署体验,需要开启ollama的外部访问权限。也就是设置环境变量OLLAMA_HOST。参考文章:

进入配置界面

在以前的文章里面,苏南大叔曾经说过自己的dify的大模型配置。使用了三台机器,都部署了ollama。然后分别安装了不同的qwendeepseek等大模型。在dify右上角,可以进行配置。截图如下:

苏南大叔:Dify大模型供应商,如何配置 deepseek (ollama) 接入? - 进入设置界面
Dify大模型供应商,如何配置 deepseek (ollama) 接入?(图10-3)

大模型供应商

dify支持的大模型供应商,那是非常的多。这些大模型供应商,也是你中有我,我中有你,混战一团。大家可以根据自己的实际情况进行选择。无论选择哪一款,操作上都是类似的。

如果接入的是本地或者定制化的大模型,推荐选择ollama。如果没有隐私顾虑,省心省力免硬件的考虑的话,也可以直接对接对应的在线版大模型,购买对应的key即可。

苏南大叔:Dify大模型供应商,如何配置 deepseek (ollama) 接入? - 设置模型供应商2
Dify大模型供应商,如何配置 deepseek (ollama) 接入?(图10-4)

苏南大叔:Dify大模型供应商,如何配置 deepseek (ollama) 接入? - 设置模型供应商3
Dify大模型供应商,如何配置 deepseek (ollama) 接入?(图10-5)

配置大模型(ollama)

安装ollama模型供应商,然后配置ollama下的各个模型。一般情况下,部署的模型都是属于“LLM”类型的。模型的名字,要和ollama list中的返回值保持一致。其余的参数,保持默认即可。

苏南大叔:Dify大模型供应商,如何配置 deepseek (ollama) 接入? - ollama-models
Dify大模型供应商,如何配置 deepseek (ollama) 接入?(图10-6)

一定要保证对应的ollama服务器能够正常通信,否则添加失败。

苏南大叔:Dify大模型供应商,如何配置 deepseek (ollama) 接入? - ollama-host
Dify大模型供应商,如何配置 deepseek (ollama) 接入?(图10-7)

配置大模型(deepseek)

也可以直接接入deepseek官方原版的接口,比自己搭建的接口要快的多。不过就是要收费,价格不算贵。充值十块钱就可以体验了,还算靠谱。不过就是需要(象征性的)填个实名身份证信息,比较不爽的说。

在下面的地址可以购买deepseekapikey

苏南大叔:Dify大模型供应商,如何配置 deepseek (ollama) 接入? - 深度求索keys
Dify大模型供应商,如何配置 deepseek (ollama) 接入?(图10-8)

然后填入到dify的【大模型供应商"深度求索"】的界面里面就可以了。(当然要先安装大模型供应商"深度求索")

苏南大叔:Dify大模型供应商,如何配置 deepseek (ollama) 接入? - 添加到dify大模型里面
Dify大模型供应商,如何配置 deepseek (ollama) 接入?(图10-9)

测试大模型

dify里面,新建一个最基础的对话模型,然后选择刚刚建好的大模型即可。如图所示:

苏南大叔:Dify大模型供应商,如何配置 deepseek (ollama) 接入? - 测试成功
Dify大模型供应商,如何配置 deepseek (ollama) 接入?(图10-10)

参考资料

结语

多试验几次,就可以熟悉dify的基础操作了。更多dify的相关文章,请参考:

如果本文对您有帮助,或者节约了您的时间,欢迎打赏瓶饮料,建立下友谊关系。
本博客不欢迎:各种镜像采集行为。请尊重原创文章内容,转载请保留作者链接。

 【福利】 腾讯云最新爆款活动!1核2G云服务器首年50元!

 【源码】本文代码片段及相关软件,请点此获取更多信息

 【绝密】秘籍文章入口,仅传授于有缘之人   ollama    dify