Dify 框架连接 PGSQL 数据库与 Sandbox 环境下的 Linux 系统调用权限问题
背景
在使用 Dify 框架进行开发时,遇到了两个主要的技术挑战:
- 代码节点连接到 PGSQL(PostgreSQL)数据库。
- 解决沙盒环境中由于系统调用限制导致的“operation not permitted”错误。
本文档将详细描述如何解决这两个问题,并介绍 psycopg2-binary
Python 依赖的作用及其配置方法。同时,我们将强调配置文件修改后正确重启服务的重要性。
技术解决方案
PGSQL 数据库连接
为了使基于 Python 的 Dify 应用能够与 PostgreSQL 数据库通信,我们在 volumes\sandbox\dependencies\python-requirements.txt
文件中添加了 psycopg2-binary==2.9.10
依赖。该库提供了一个 PostgreSQL 数据库适配器,它包含了预编译的二进制文件,简化了安装过程,避免了需要单独编译 C 扩展的问题。
# volumes/sandbox/dependencies/python-requirements.txt
psycopg2-binary==2.9.10
当 Docker Compose 构建服务时,它会读取此文件并安装列出的所有 Python 包,包括 psycopg2-binary
,从而为应用程序提供与 PGSQL 数据库交互的能力。安装完成后,通过代码节点配置应用中的数据库连接参数(如主机、端口、用户名、密码等),实现了代码节点与 PGSQL 数据库的成功连接。
Sandbox 中的 Linux 系统调用权限问题
在尝试运行代码节点时,遇到了如下错误信息:
error: operation not permitted
此错误表明应用程序尝试执行的操作被操作系统或沙盒环境所禁止。经分析,确定这是由于沙盒环境中对特定 Linux 系统调用的访问权限不足造成的。
为了解决这个问题,采取了以下步骤:
- 调整沙盒策略:在
volumes\sandbox\conf\config.yaml
文件中扩展了allowed_syscalls
列表,以允许必要的系统调用。这确保了沙盒内的应用程序可以执行所需的底层操作系统功能,而不会遇到权限错误。
下面是一个简化的 config.yaml
配置示例,其中列出了部分关键系统调用编号,表示这些操作是被允许的:
allowed_syscalls:# 基础文件操作- 0 # read - 从文件描述符读取数据- 1 # write - 向文件描述符写入数据- 2 # open - 打开文件- 3 # close - 关闭文件描述符- 4 # stat - 获取文件状态- 5 # fstat - 获取文件描述符状态- 6 # lstat - 获取符号链接状态- 7 # poll - 等待文件描述符上的事件- 8 # lseek - 重新定位读/写文件偏移量- 9 # mmap - 将文件或设备映射到内存- 10 # mprotect - 设置内存区域的保护- 11 # munmap - 取消内存映射- 12 # brk - 改变数据段大小# 系统操作- 13 # rt_sigaction - 检查或修改信号处理- 14 # rt_sigprocmask - 检查或修改阻塞信号- 15 # rt_sigreturn - 从信号处理程序返回- 16 # ioctl - 控制设备- 17 # pread64 - 从指定偏移量读取- 18 # pwrite64 - 向指定偏移量写入- 19 # readv - 从文件描述符读取数据到多个缓冲区- 20 # writev - 从多个缓冲区写入数据到文件描述符- 21 # access - 检查文件访问权限- 22 # pipe - 创建管道- 23 # select - 同步 I/O 多路复用- 24 # sched_yield - 让出处理器- 25 # mremap - 重新映射虚拟内存地址# 高级内存管理- 26 # msync - 同步内存与物理存储- 27 # mincore - 确定内存页是否驻留在内存中- 28 # madvise - 给出内存使用建议- 29 # shmget - 获取共享内存段- 30 # shmat - 附加共享内存段- 31 # shmctl - 共享内存控制- 32 # dup - 复制文件描述符- 33 # dup2 - 复制文件描述符到指定编号- 34 # pause - 挂起进程直到收到信号# 进程管理- 35 # nanosleep - 高精度睡眠- 36 # getitimer - 获取定时器值- 37 # alarm - 设置定时器- 38 # setitimer - 设置定时器- 39 # getpid - 获取进程ID- 40 # sendfile - 在文件描述符之间传输数据# 网络操作- 41 # socket - 创建套接字- 42 # connect - 初始化套接字连接- 43 # accept - 接受套接字连接- 44 # sendto - 通过套接字发送消息- 45 # recvfrom - 从套接字接收消息- 46 # sendmsg - 通过套接字发送消息- 47 # recvmsg - 通过套接字接收消息- 48 # shutdown - 关闭套接字连接- 49 # bind - 绑定套接字到地址- 50 # listen - 监听套接字连接# 进程间通信- 51 # getsockname - 获取套接字本地地址- 52 # getpeername - 获取套接字对端地址- 53 # socketpair - 创建一对已连接的套接字- 54 # setsockopt - 设置套接字选项- 55 # getsockopt - 获取套接字选项# 进程控制- 56 # clone - 创建子进程- 57 # fork - 创建进程- 58 # vfork - 创建进程并阻塞父进程- 59 # execve - 执行程序- 60 # exit - 终止进程- 61 # wait4 - 等待进程改变状态- 62 # kill - 发送信号# 信号处理- 63 # uname - 获取系统信息- 64 # semget - 获取信号量集- 65 # semop - 信号量操作- 66 # semctl - 信号量控制- 67 # shmdt - 分离共享内存段- 68 # msgget - 获取消息队列- 69 # msgsnd - 发送消息到队列- 70 # msgrcv - 从队列接收消息- 71 # msgctl - 消息队列控制# 文件系统操作- 72 # fcntl - 文件描述符控制- 73 # flock - 应用或删除文件锁- 74 # fsync - 同步文件到存储设备- 75 # fdatasync - 同步文件数据- 76 # truncate - 截断文件- 77 # ftruncate - 截断文件描述符指向的文件- 78 # getdents - 获取目录项- 79 # getcwd - 获取当前工作目录- 80 # chdir - 改变当前工作目录# 文件系统管理- 81 # fchdir - 通过文件描述符改变当前工作目录- 82 # rename - 重命名文件- 83 # mkdir - 创建目录- 84 # rmdir - 删除目录- 85 # creat - 创建新文件- 86 # link - 创建硬链接- 87 # unlink - 删除文件名- 88 # symlink - 创建符号链接- 89 # readlink - 读取符号链接的值- 90 # chmod - 改变文件权限# 权限和所有权- 91 # fchmod - 改变文件描述符的权限- 92 # chown - 改变文件所有者和组- 93 # fchown - 改变文件描述符指向文件的所有者和组- 94 # lchown - 改变符号链接的所有者和组- 95 # umask - 设置文件模式创建掩码# 系统信息和统计- 96 # gettimeofday - 获取时间和日期- 97 # getrlimit - 获取资源限制- 98 # getrusage - 获取资源使用情况- 99 # sysinfo - 获取系统统计信息- 100 # times - 获取进程时间# 系统控制- 101 # ptrace - 进程跟踪- 102 # getuid - 获取用户ID- 103 # syslog - 读取或清除内核消息- 104 # getgid - 获取组ID- 105 # setuid - 设置用户ID- 106 # setgid - 设置组ID# 用户和组管理- 107 # geteuid - 获取有效用户ID- 108 # getegid - 获取有效组ID- 109 # setpgid - 设置进程组- 110 # getppid - 获取父进程ID- 111 # getpgrp - 获取进程组ID# 会话管理- 112 # setsid - 创建会话并设置进程组ID- 113 # setreuid - 设置实际和有效用户ID- 114 # setregid - 设置实际和有效组ID- 115 # getgroups - 获取附加组ID- 116 # setgroups - 设置附加组ID# 系统资源管理- 117 # setresuid - 设置实际、有效和保存的用户ID- 118 # getresuid - 获取实际、有效和保存的用户ID- 119 # setresgid - 设置实际、有效和保存的组ID- 120 # getresgid - 获取实际、有效和保存的组ID# 系统时间管理- 121 # getpgid - 获取进程组ID- 122 # setfsuid - 设置文件系统用户ID- 123 # setfsgid - 设置文件系统组ID- 124 # getsid - 获取会话ID- 125 # capget - 获取进程权能- 126 # capset - 设置进程权能# 实时调度- 127 # rt_sigpending - 检查待处理信号- 128 # rt_sigtimedwait - 同步等待信号- 129 # rt_sigqueueinfo - 排队一个信号和数据- 130 # rt_sigsuspend - 等待信号# 高级进程管理- 131 # sigaltstack - 设置和获取信号栈上下文- 132 # utime - 改变文件的访问和修改时间- 133 # mknod - 创建特殊文件- 134 # uselib - 加载共享库- 135 # personality - 设置进程执行域# 系统调用- 136 # ustat - 获取文件系统统计信息- 137 # statfs - 获取文件系统信息- 138 # fstatfs - 获取文件系统信息- 139 # sysfs - 获取文件系统类型信息- 140 # getpriority - 获取程序调度优先级# 进程优先级- 141 # setpriority - 设置程序调度优先级- 142 # sched_setparam - 设置调度参数- 143 # sched_getparam - 获取调度参数- 144 # sched_setscheduler - 设置调度策略和参数- 145 # sched_getscheduler - 获取调度策略# 调度策略- 146 # sched_get_priority_max - 获取静态优先级上限- 147 # sched_get_priority_min - 获取静态优先级下限- 148 # sched_rr_get_interval - 获取时间片- 149 # mlock - 锁定内存页- 150 # munlock - 解锁内存页# 内存锁定- 151 # mlockall - 锁定进程的地址空间- 152 # munlockall - 解锁进程的地址空间- 153 # vhangup - 虚拟挂起终端- 154 # modify_ldt - 读取或写入本地描述符表- 155 # pivot_root - 改变根文件系统# 系统引导- 156 # _sysctl - 读取/写入系统参数- 157 # prctl - 操作进程或线程- 158 # arch_prctl - 设置架构特定的线程状态- 159 # adjtimex - 调整系统时钟# 文件系统控制- 161 # chroot - 改变根目录- 162 # sync - 同步文件系统缓冲区- 163 # acct - 切换进程记账- 164 # settimeofday - 设置时间和日期- 165 # mount - 挂载文件系统# 系统维护- 166 # umount2 - 卸载文件系统- 167 # swapon - 开启交换设备和文件- 168 # swapoff - 关闭交换设备和文件- 169 # reboot - 重新启动系统- 170 # sethostname - 设置系统主机名# 网络配置- 171 # setdomainname - 设置系统域名- 172 # iopl - 改变I/O权限级别- 173 # ioperm - 设置端口I/O权限- 174 # create_module - 创建可加载的模块项- 175 # init_module - 初始化内核模块# 内核模块- 176 # delete_module - 删除内核模块- 177 # get_kernel_syms - 检索导出的内核符号- 178 # query_module - 查询内核模块信息- 179 # quotactl - 操作文件系统配额- 180 # nfsservctl - NFS服务器控制# 系统信息查询- 181 # getpmsg - 接收控制消息- 182 # putpmsg - 发送控制消息- 183 # afs_syscall - 未实现的系统调用- 184 # tuxcall - 未实现的系统调用- 185 # security - 未实现的系统调用# 新增系统调用- 186 # gettid - 获取线程标识符- 187 # readahead - 预读文件到页面缓存- 188 # setxattr - 设置扩展属性- 189 # lsetxattr - 设置符号链接的扩展属性- 190 # fsetxattr - 设置文件描述符的扩展属性# 扩展属性操作- 191 # getxattr - 获取扩展属性- 192 # lgetxattr - 获取符号链接的扩展属性- 193 # fgetxattr - 获取文件描述符的扩展属性- 194 # listxattr - 列出扩展属性- 195 # llistxattr - 列出符号链接的扩展属性# 高级文件系统特性- 196 # flistxattr - 列出文件描述符的扩展属性- 197 # removexattr - 删除扩展属性- 198 # lremovexattr - 删除符号链接的扩展属性- 199 # fremovexattr - 删除文件描述符的扩展属性- 200 # tkill - 发送信号到线程# 时间管理- 201 # time - 获取时间- 202 # futex - 快速用户空间锁定- 203 # sched_setaffinity - 设置进程的CPU亲和性掩码- 204 # sched_getaffinity - 获取进程的CPU亲和性掩码- 205 # set_thread_area - 设置线程本地存储# 进程/线程控制- 206 # io_setup - 创建异步I/O上下文- 207 # io_destroy - 销毁异步I/O上下文- 208 # io_getevents - 从完成队列读取异步I/O事件- 209 # io_submit - 提交异步I/O块- 210 # io_cancel - 取消异步I/O操作# 异步I/O- 211 # get_thread_area - 获取线程本地存储- 212 # lookup_dcookie - 获取目录cookie的路径- 213 # epoll_create - 创建epoll实例- 214 # epoll_ctl_old - 旧的epoll控制接口- 215 # epoll_wait_old - 旧的epoll等待接口# 事件通知- 216 # remap_file_pages - 创建非线性文件映射- 217 # getdents64 - 获取目录项(64位版本)- 218 # set_tid_address - 设置清除子线程ID的地址- 219 # restart_syscall - 重启被中断的系统调用- 220 # semtimedop - 带超时的信号量操作# 定时器和时钟- 221 # fadvise64 - 预声明访问模式- 222 # timer_create - 创建POSIX定时器- 223 # timer_settime - 设置定时器的时间- 224 # timer_gettime - 获取定时器的时间- 225 # timer_getoverrun - 获取定时器超限次数# POSIX定时器- 226 # timer_delete - 删除POSIX定时器- 227 # clock_settime - 设置指定时钟的时间- 228 # clock_gettime - 获取指定时钟的时间- 229 # clock_getres - 获取时钟精度- 230 # clock_nanosleep - 高精度睡眠# 进程终止- 231 # exit_group - 终止所有线程- 232 # epoll_wait - 等待epoll事件- 233 # epoll_ctl - 控制epoll实例- 234 # tgkill - 发送信号到线程- 235 # utimes - 更改文件访问和修改时间# 虚拟内存操作- 236 # vserver - Linux-VServer操作- 237 # mbind - 设置内存策略- 238 # set_mempolicy - 设置NUMA内存策略- 239 # get_mempolicy - 检索NUMA内存策略- 240 # mq_open - 打开消息队列# POSIX消息队列- 241 # mq_unlink - 删除消息队列- 242 # mq_timedsend - 发送消息到队列- 243 # mq_timedreceive - 从队列接收消息- 244 # mq_notify - 注册消息队列通知- 245 # mq_getsetattr - 获取/设置消息队列属性# 密钥管理- 246 # kexec_load - 加载新内核- 247 # waitid - 等待进程状态改变- 248 # add_key - 添加密钥到内核密钥管理系统- 249 # request_key - 请求操作密钥- 250 # keyctl - 密钥管理控制# 输入输出多路复用- 251 # ioprio_set - 设置I/O调度优先级- 252 # ioprio_get - 获取I/O调度优先级- 253 # inotify_init - 初始化inotify实例- 254 # inotify_add_watch - 添加inotify监视- 255 # inotify_rm_watch - 删除inotify监视# 文件系统监控- 256 # migrate_pages - 在NUMA系统中迁移进程页- 257 # openat - 相对路径打开文件- 258 # mkdirat - 相对路径创建目录- 259 # mknodat - 相对路径创建特殊文件- 260 # fchownat - 相对路径改变所有权# 相对路径操作- 261 # futimesat - 相对路径更改时间戳- 262 # newfstatat - 相对路径获取文件状态- 263 # unlinkat - 相对路径删除文件- 264 # renameat - 相对路径重命名- 265 # linkat - 相对路径创建硬链接# 符号链接操作- 266 # symlinkat - 相对路径创建符号链接- 267 # readlinkat - 相对路径读取符号链接- 268 # fchmodat - 相对路径改变权限- 269 # faccessat - 相对路径检查访问权限- 270 # pselect6 - 改进的select系统调用# 高级I/O操作- 271 # ppoll - 改进的poll系统调用- 272 # unshare - 解除共享命名空间- 273 # set_robust_list - 设置健壮的futex列表- 274 # get_robust_list - 获取健壮的futex列表- 275 # splice - 在文件描述符之间移动数据# 零拷贝操作- 276 # tee - 复制管道数据- 277 # sync_file_range - 同步文件段- 278 # vmsplice - 在进程和内核之间传输数据- 279 # move_pages - 在NUMA系统中移动页面- 280 # utimensat - 相对路径更改文件时间戳# 事件通知- 281 # epoll_pwait - 等待epoll事件,可中断- 282 # signalfd - 创建信号接收文件描述符- 283 # timerfd_create - 创建定时器文件描述符- 284 # eventfd - 创建事件通知文件描述符- 285 # fallocate - 预分配文件空间# 定时器操作- 286 # timerfd_settime - 设置定时器文件描述符- 287 # timerfd_gettime - 读取定时器文件描述符- 288 # accept4 - 接受带标志的连接- 289 # signalfd4 - 改进的signalfd- 290 # eventfd2 - 改进的eventfd# 文件系统操作- 291 # epoll_create1 - 改进的epoll_create- 292 # dup3 - 改进的dup2- 293 # pipe2 - 改进的pipe- 294 # inotify_init1 - 改进的inotify_init- 295 # preadv - 向量化的pread# 向量I/O操作- 296 # pwritev - 向量化的pwrite- 297 # rt_tgsigqueueinfo - 排队实时信号到线程组- 298 # perf_event_open - 性能监控- 299 # recvmmsg - 接收多个消息- 300 # fanotify_init - 初始化fanotify# 文件系统通知- 301 # fanotify_mark - 管理fanotify标记- 302 # prlimit64 - 获取/设置资源限制- 303 # name_to_handle_at - 文件句柄操作- 304 # open_by_handle_at - 通过文件句柄打开- 305 # clock_adjtime - 调整系统时钟# 同步操作- 306 # syncfs - 同步文件系统- 307 # sendmmsg - 发送多个消息- 308 # setns - 设置命名空间- 309 # getcpu - 获取CPU和NUMA节点- 310 # process_vm_readv - 进程间读取数据# 进程间通信- 311 # process_vm_writev - 进程间写入数据- 312 # kcmp - 内核比较两个进程- 313 # finit_module - 从文件描述符加载内核模块- 314 # sched_setattr - 设置调度属性- 315 # sched_getattr - 获取调度属性# 安全计算- 316 # renameat2 - 扩展的重命名操作- 317 # seccomp - 设置安全计算模式- 318 # getrandom - 获取随机数- 319 # memfd_create - 创建匿名文件- 320 # kexec_file_load - 从文件加载新内核# 命名空间操作- 321 # bpf - 扩展的BPF系统调用- 322 # execveat - 相对路径执行程序- 323 # userfaultfd - 用户页错误处理- 324 # membarrier - 发出内存屏障- 325 # mlock2 - 改进的内存锁定# 套接字操作- 326 # copy_file_range - 复制文件范围- 327 # preadv2 - 带标志的向量化pread- 328 # pwritev2 - 带标志的向量化pwrite- 329 # pkey_mprotect - 设置内存保护键- 330 # pkey_alloc - 分配内存保护键# 内存保护- 331 # pkey_free - 释放内存保护键- 332 # statx - 扩展的文件状态- 333 # io_pgetevents - 获取异步I/O事件- 334 # rseq - 重启序列- 335 # pidfd_send_signal - 通过文件描述符发送信号
- 验证更改:在实施上述更改后,重新测试应用程序,确认错误已解决且应用程序可以正常工作,同时确保没有引入额外的安全风险。
修改 docker-compose.yaml
以挂载本地配置文件
默认情况下,Dify 可能不会自动挂载本地配置文件到容器中。为了确保我们的自定义配置文件(如 config.yaml
)能够在容器内生效,我们需要修改 docker/docker-compose.yaml
文件,添加卷挂载选项,以便将本地配置目录挂载到容器内的相应位置。
在 docker/docker-compose.yaml
文件中找到 sandbox 服务的部分,并添加以下行来挂载本地配置文件:
yaml深色版本
services:sandbox:# 其他配置...volumes:- ./volumes/sandbox/conf:/conf # 添加这一行以挂载本地配置文件- ./volumes/sandbox/dependencies:/dependencies # 如果有其他依赖项也需要挂载# 其他配置...
这样做的好处是可以直接在本地编辑配置文件,而不需要每次都进入容器内部进行修改,提高了开发和调试效率。
结果
通过上述措施,成功解决了应用程序连接 PGSQL 数据库的问题,并克服了沙盒环境下系统调用权限不足的障碍。最终,代码节点能够在保留安全性的同时正确地与外部资源交互。
注意事项
配置文件修改完成后,确保正确重启 Dify 服务以应用更改非常重要。为了保证新的配置生效,必须使用 docker compose stop
和 docker compose up -d
命令来重启 Dify。这是因为这些命令会确保 Docker Compose 重新读取并应用最新的配置文件更改。
正确的重启步骤
-
停止当前运行的服务:使用
docker compose stop
命令来停止所有由 Docker Compose 启动的服务。这一步确保所有容器都停止运行,以便可以重新创建和启动它们。docker compose stop
-
重新启动服务:使用
docker compose up -d
命令来后台启动服务。这个命令会根据最新的docker-compose.yml
文件以及其他关联的配置文件(如python-requirements.txt
和config.yaml
)重新创建和启动容器。docker compose up -d
不推荐的重启方法
- 通过可视化工具(如 Podman 的界面)来重启:这种方式可能不会触发 Docker Compose 重新加载配置文件,因此可能导致新配置不被应用。此外,不同工具的实现细节可能会有所不同,不能保证它们会按照预期处理配置更新。
确认配置更新
在完成上述重启步骤后,建议检查日志输出或直接测试应用程序的功能,以确认新的配置已经成功应用。可以通过以下命令查看服务的日志:
docker compose logs -f
这样可以实时监控服务启动过程中的输出,并验证是否遇到任何问题。