在前一篇博文中记录了 k8s 集群上部署 ollama + deepseek-r1:7b，这篇博文记录一下 Open WebUI 的部署。
还是用 helm 部署，helm chart 用的是 https://github.com/open-webui/helm-charts
添加 open-webui 的 helm repo
helm repo add open-webui https://helm.openwebui.com/
helm repo update
准备 helm 清单文件 open-webui-values.yaml
ollamaUrls:- "http://ollama-deepseek.ai:11434"extraEnvVars:
- name: "ENABLE_OPENAI_API"value: "False"ollama:enabled: falsepipelines:enabled: falsepersistence:storageClass: "cnblogs-default"podLabels:app: open-webuiservice:type: NodePortnodePort: "31116"
清单说明：
- ollama-deepseek.ai 是在写前一篇博文时部署好的
- 通过 extraEnvVars 设置环境变量禁用 openai，详见博问
- storageClass 用的是集群上已有的
- service 用的是 NodePort，通过 NodePort 在节点上暴露端口，然后通过阿里云负载均衡转发到这个端口
- 没有使用 ingress，集群上部署了 ingress，但在不同的 namespace 下，ingress 不支持直接转发请求到不同 namespace 下的 service
通过下面的 helm 命令在 ai 命名空间下进行部署
helm upgrade --install --namespace ai open-webui open-webui/open-webui --values open-webui-values.yaml
查看 pod 运行情况
# kubectl get pods -l app=open-webui -n ai
NAME READY STATUS RESTARTS AGE
open-webui-0 1/1 Running 0 29s
pod 成功启动。
通过 kubectl logs 命令查看 open webui 的启动日志
# kubectl logs open-webui-0 -n aiv0.5.14 - building the best open-source AI user interface.https://github.com/open-webui/open-webuiINFO: Started server process [1]
INFO: Waiting for application startup.
INFO: Application startup complete.
INFO: Uvicorn running on http://0.0.0.0:8080 (Press CTRL+C to quit)
准备阿里云负载均衡，将请求转发到 k8s 节点的 31116 端口。
这时就可以通过浏览器访问 open-webui：
创建账号并登录，这时可以与通过 ollama 运行的 deepseek-r1:7b 模型对话了：
（7b模型的回答的确差很多）
