我们相信:世界是美好的,你是我也是。 来玩一下解压小游戏吧!

2025年会是AI应用大规模落地的元年,本文将要描述开源大语言模型(LLM)应用开发平台dify,如何安装。difyai agent开发的必会内容,它正常运行的前提是正确安装docker

苏南大叔:如何安装dify?开源的大语言模型(LLM)应用开发平台 - 大语言模型dify部署安装
如何安装dify?开源的大语言模型(LLM)应用开发平台(图13-1)

苏南大叔的“程序如此灵动”博客,记录苏南大叔的代码编程经验总结。测试环境:win10docker@28.0.4dify@1.1.3

dify

Dify是一款开源的大语言模型(LLM) 应用开发平台。它融合了后端即服务(`Backend as Service)和LLMOps的理念,使开发者可以快速搭建生产级的生成式AI应用。即使非技术人员,也能参与到AI`应用的定义和数据运营过程中。

官方文档:

苏南大叔:如何安装dify?开源的大语言模型(LLM)应用开发平台 - dify-www
如何安装dify?开源的大语言模型(LLM)应用开发平台(图13-2)

可以通过github下载到最新的源码:

苏南大叔:如何安装dify?开源的大语言模型(LLM)应用开发平台 - release
如何安装dify?开源的大语言模型(LLM)应用开发平台(图13-3)

dify的更新迭代速度比较快,

  • 可以通过github仓库下载最新的dify-main
  • 也可以通过release下载最新的稳定版【推荐】。

docker

不管是什么操作系统,dify的最简单安装方式,都是以docker为基础的。因此,请在相关环境中,确认安装好了docker。参考文章:

注意:一定要注意设置registry-mirrors。否则,无法docker compose成功。

苏南大叔:如何安装dify?开源的大语言模型(LLM)应用开发平台 - 注意配置registry-mirrors
如何安装dify?开源的大语言模型(LLM)应用开发平台(图13-4)

docker compose

按照说明,dify/docker/.env.example复制改名为.env文件【重要】。没这个文件,虽然也能安装。但是后续会出现一些奇怪的问题。

然后,进入dify/docker目录,然后执行命令:

docker compose up -d

苏南大叔:如何安装dify?开源的大语言模型(LLM)应用开发平台 - docker-compose-up-d
如何安装dify?开源的大语言模型(LLM)应用开发平台(图13-5)

大概要等待半小时左右,相关镜像就会被下载好并运行起来了。

进入系统

如果一切顺利的话,则可以直接通过下面的连接,进入界面。(本地不能占用80端口,避免冲突)

第一次进入的时候,需要输入用户名密码邮箱,用于注册用户。【应该是注册到本地,不是远程】

苏南大叔:如何安装dify?开源的大语言模型(LLM)应用开发平台 - 设置用户名密码
如何安装dify?开源的大语言模型(LLM)应用开发平台(图13-6)

成功后,输入邮箱及密码即可登陆系统。

苏南大叔:如何安装dify?开源的大语言模型(LLM)应用开发平台 - 进入界面
如何安装dify?开源的大语言模型(LLM)应用开发平台(图13-7)

安装过程中,可能会存在很多问题。极有可能就是测试环境中的docker版本问题。当然,也可以自己调试一下相关问题。

api接口报错,容器反复重启

windows系统下面的话,可能碰到的问题就是:进入操作界面后,直接在控制台发现api报错。

苏南大叔:如何安装dify?开源的大语言模型(LLM)应用开发平台 - api出错
如何安装dify?开源的大语言模型(LLM)应用开发平台(图13-8)

第一种情况就是:所有的容器都在正常的running。那么,你可以稍作等待再刷新,或者重启nginx容器。

第二种情况就是:一些容器在不停的restarting。进入容器的log,可能会看到各种no permission报错信息。解决方案就是编辑dify/docker/docker-compose.yaml文件,在对应一直重启的容器(们)下,增加配置:

security_opt:
  - seccomp:unconfined
cap_add:
  - SYS_PTRACE

苏南大叔:如何安装dify?开源的大语言模型(LLM)应用开发平台 - 修改配置
如何安装dify?开源的大语言模型(LLM)应用开发平台(图13-9)

然后删除掉出问题的容器[不删除停止也可以],然后在dify/docker/目录下,重新执行:

docker compose up -d

.env文件解析出错

执行docker compose up -d的时候,提示.env文件出错。如下图所示:

苏南大叔:如何安装dify?开源的大语言模型(LLM)应用开发平台 - env文件解析失败
如何安装dify?开源的大语言模型(LLM)应用开发平台(图13-10)

解决方案0【推荐】,可以升级docker到最新版,可以识别这种不标准的.env格式。
解决方案1,不使用这个.env文件,问题也不是很大。【部分和向量数据库相关的功能会不能使用】
解决方案2,可以修改.env文件,修改等号右侧有空格的项目。比如:

LOG_DATEFORMAT="%Y-%m-%d %H:%M:%S"
NGINX_SSL_PROTOCOLS="TLSv1.1 TLSv1.2 TLSv1.3"

苏南大叔:如何安装dify?开源的大语言模型(LLM)应用开发平台 - 格式解析的问题
如何安装dify?开源的大语言模型(LLM)应用开发平台(图13-11)

向量数据库容器丢失

建立知识库的时候,可能会发现丢失了个向量数据库weaviate容器。那么,可以再拉取一个weaviatedocker容器。步骤就是:确认.env文件存在,再次docker compose up -d

苏南大叔:如何安装dify?开源的大语言模型(LLM)应用开发平台 - 拉取向量数据库
如何安装dify?开源的大语言模型(LLM)应用开发平台(图13-12)

传说中,需要确认.env文件的内容如下(持保留意见):

WEAVIATE_ENABLE = true
VECTOR_STORE = weaviate

修正时区

这个dify安装完成后,系统的时区显示不对。无论是出于什么样的角度考虑,这都是一个不该出现的问题。通过界面右上角的下拉,进入“设置”界面。

苏南大叔:如何安装dify?开源的大语言模型(LLM)应用开发平台 - 修改dify的默认时区
如何安装dify?开源的大语言模型(LLM)应用开发平台(图13-13)

结语

有件事情必须要说明的是:内存太小的机器,就别尝试了,跑不起来dify... 苏南大叔拿了三台机器,才勉强跑起来。一个16G内存的跑dify,两个8G内存的跑ollamadify需要各种大模型配合,才能正常运行。

就这么一篇内容,可以反复尝试了半个多月才得出的结论。苏南大叔后续更新的dify相关文章,都可以通过下面的连接找到:

如果本文对您有帮助,或者节约了您的时间,欢迎打赏瓶饮料,建立下友谊关系。
本博客不欢迎:各种镜像采集行为。请尊重原创文章内容,转载请保留作者链接。

 【福利】 腾讯云最新爆款活动!1核2G云服务器首年50元!

 【源码】本文代码片段及相关软件,请点此获取更多信息

 【绝密】秘籍文章入口,仅传授于有缘之人   docker    dify