k8s部署dify详细过程

一、概述

dify官方提供的安装方式是docker-compose方式部署的，单机运行。

但是在企业生产环境，单机没法提供冗余，一旦故障，就很麻烦了。

如果有大量的APP用户，那么单机承受不住这么多并发，也会出现故障。

 

很多小伙伴们，想在k8s中运行dify，解决冗余以及并发问题，直接扩容节点即可。

注意：只有企业版会提供k8s部署，社区版是没有的。

对于我们这种个人开发者来说，囊中羞涩，不愿意花费这笔钱。企业版还得联系商务，提供企业相关信息，特别麻烦。

 

对于在k8s中部署dify，确实比较难。几个月前一筹莫展，经过不懈的努力，终于搞定了。

二、准备工作

前提条件

硬件

CPU：建议至少 4 核。

内存：建议至少 8GB，推荐 16GB。

存储：建议至少 20GB 可用空间。

操作系统：推荐 Ubuntu 22.04+ 或 WSL（Windows 子系统）。

软件依赖：需要 Docker（版本 20.10.5 或更高）和 Docker Compose（版本 2.0.0 或更高）

软件

Docker，Docker Compose，参考文章：https://www.cnblogs.com/xiao987334176/p/18809253

Harbor，参考文章：https://www.cnblogs.com/xiao987334176/p/18809269

如果有现成的私有仓库，可以忽略

NFS，参考文章：https://www.cnblogs.com/xiao987334176/p/18809415

如果有现成的NFS，可以忽略

 

符合以上条件，就可以部署了

镜像推送

下载镜像

docker pull postgres:15-alpine
docker pull redis:6-alpine
docker pull semitechnologies/weaviate:1.19.0
docker pull nginx:latest
docker pull langgenius/dify-plugin-daemon:0.0.6-local
docker pull langgenius/dify-sandbox:0.2.11
docker pull ubuntu/squid:latest
docker pull langgenius/dify-api:1.1.3
docker pull langgenius/dify-web:1.1.3

推送镜像

这里使用shell脚本完成

#!/bin/bash

images="postgres:15-alpine
redis:6-alpine
semitechnologies/weaviate:1.19.0
nginx:latest
langgenius/dify-plugin-daemon:0.0.6-local
langgenius/dify-sandbox:0.2.11
ubuntu/squid:latest
langgenius/dify-api:1.1.3
langgenius/dify-web:1.1.3"

# 遍历镜像列表，并推送到harbor
for line in $images; do
    #echo "$line"
    docker tag $line harbor.qq.com:8083/dify/$line
    docker push harbor.qq.com:8083/dify/$line
done

注意修改harbor的的地址为实际访问地址

登录到harbor，查看镜像

创建命名空间以及密钥

创建命名空间dify

kubectl create namespace dify

创建拉取镜像需要的密钥

kubectl create secret docker-registry harbor-key --docker-server=harbor.qq.com:8083 --docker-username=devops --docker-password=1sB5r9UShgK5 --namespace=dify

注意：修改harbor地址，用户名，密码。

下载部署yaml

yaml已经写好了，推送到我个人的github，地址：https://github.com/987334176/dify-k8s

下载项目后，进入文件夹1.1.3

目录结构

env --> 全局环境变量
pvc --> 所有组件，统一使用一个pvc来进行持久化存储
databases --> 数据库相关：postgresql，redis，weaviate
middleware --> 中间件相关：plugin-daemon，sandox，ssf-proxy，nginx
services --> 服务相关：api，web，worker

三、创建全局环境变量

这里有500个多个变量，直接一键运行

kubectl apply -f env/env.yaml

四、创建pv和pvc

创建storageClass，因为pv和pvc必须是同一个storageClass才能绑定成功

kubectl apply -f pvc/storageClass.yaml

注意：修改NFS 服务端的共享路径

创建pv，pvc。注意：这里的pv是自建的NFS，请根据实际情况修改

kubectl apply -f pvc/pv.yaml
kubectl apply -f pvc/pvc.yaml

查看pvc状态，注意：请确保pvc状态为Bound

# kubectl -n dify get pvc
NAME       STATUS   VOLUME   CAPACITY   ACCESS MODES   STORAGECLASS   VOLUMEATTRIBUTESCLASS   AGE
dify-pvc   Bound    dify     10Gi       RWX            nfs-storage    <unset>                 12m

服务器已经挂载好了NFS，进入到NFS根目录

cd /mnt/nfs_share

创建dify相关持久化文件，并设置权限

mkdir -p dify/volumes/db/data
mkdir -p dify/volumes/redis/data
mkdir -p dify/volumes/weaviate
mkdir -p dify/volumes/plugin_daemon
mkdir -p dify/volumes/app/storage
chmod 777 -R dify

五、数据库相关

postgresql

修改文件postgres-StatefulSet.yaml

vi databases/postgresql/postgres-StatefulSet.yaml

修改红色部分，增加了密钥，改了镜像地址

    spec:
      imagePullSecrets:
        - name: harbor-key
      terminationGracePeriodSeconds: 10
      containers:
        - name: postgres
          image: harbor.qq.com:8083/dify/postgres:15-alpine

发布应用

kubectl apply -f databases/postgresql/postgres-StatefulSet.yaml
kubectl apply -f databases/postgresql/postgres-Service.yaml

查看postgresql日志

# kubectl -n dify logs -f postgres-0
...
UTC [72] WARNING:  no usable system locales were found
performing post-bootstrap initialization ... 

第一次会出现，pod到这里就终止了，不用管

再次查看日志。

# kubectl -n dify logs -f postgres-0
2025-04-05 16:29:11.415 UTC [1] LOG:  database system is ready to accept connections
2025-04-05 16:29:13.707 UTC [46] FATAL:  database "postgres" does not exist
2025-04-05 16:29:18.721 UTC [53] FATAL:  database "postgres" does not exist
...

提示数据库postgres不存在，因为在全局configMap里面，POSTGRES_DB的值为dify，所以默认的postgres不会创建。

这个是不影响dify运行的，但是postgres的健康检查命令，必须要这个数据库存在，否则会一直发日志。

手动创建postgres

kubectl -n dify exec -it postgres-0 -- createdb postgres

再次查看日志，就不会再出现了。

进入容器，查看dify数据库是否创建完成

# kubectl -n dify exec -it postgres-0 -- /bin/bash
postgres-0:/# pg_isready -U $PGUSER -d $POSTGRES_DB
/var/run/postgresql:5432 - accepting connections

出现accepting connections，说明连接成功了

111