一、docker安装
升级kali
apt-get update && apt-get upgrade && apt-get dist-upgrade
清缓存
apt-get clean
安装docker
apt-get install wmdocker docker-compose
启动docker
service docker start
二、ollama安装
安装ollama
curl -fsSL https://aliendao.cn/ollama/install.sh | sh\n
启动ollama
systemctl start ollama
安装模型,内存不足时无法运行,注意内存分配
ollama run qwen2.5
暴露API到局域网
vim /etc/systemd/system/ollama.service
Environment="OLLAMA_HOST=0.0.0.0:11434"
systemctl daemon-reload
systemctl restart ollama
三、open-webui安装
查看IP
ifconfig
安装open-webui (192.168.X.X替换成kali的IP)
docker run -d -p 3000:8080 -e OLLAMA_BASE_URL=http://192.168.X.X:11434 -v open-webui:/app/backend/data --name open-webui --restart always ghcr.nju.edu.cn/open-webui/open-webui:main
大功告成,访问虚拟机3000端口查看结果
http://localhost:3000