背景
Ollama官方提供了一键式安装脚本,但因国内网络问题,效率太低,所以探索更为快捷方式。
我的系统信息如下
root@yan:/mnt/d/data# lsb_release -a
No LSB modules are available.
Distributor ID: Ubuntu
Description: Ubuntu 22.04.5 LTS
Release: 22.04
Codename: jammy
root@yan:/mnt/d/data# uname -a
Linux yan 5.15.167.4-microsoft-standard-WSL2 #1 SMP Tue Nov 5 00:21:55 UTC 2024 x86_64 x86_64 x86_64 GNU/Linux
下载
从夸克>ollama下载对应的安装包, 比如我下载的是ollama-linux-amd64-v0.5.13.tgz
Ollama Github Releases提供了Linux安装包, 根据上节系统信息, 选择
ollama-linux-amd64.tgz
解压
sudo tar -C /usr/local -xzf ollama-linux-amd64-v0.5.13.tgz
创建用户和组
sudo groupadd ollama
sudo useradd -r -g ollama ollamasudo mkdir /home/ollama
sudo chown -R ollama:ollama /home/ollama
sudo mkdir -p /data/models/ollama
sudo chown -R ollama:ollama /data/models/ollama
创建服务
sudo cat <<EOF >> /etc/systemd/system/ollama.service
[Unit]
Description=Ollama Service
After=network-online.target[Service]
ExecStart=/usr/local/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="OLLAMA_MODELS=/data/models/ollama"
Environment="OLLAMA_HOST='0.0.0.0'"
Environment="PATH=$PATH"[Install]
WantedBy=default.targetEOF
启动服务
sudo systemctl daemon-reload
sudo systemctl enable ollama
sudo systemctl start ollama
测试
以最小的deepseek-r1:1.5b
为例。
命令行
ollama run deepseek-r1:1.5b "你好"
接口
curl -X POST http://localhost:11434/api/generate \-H "Content-Type: application/json" \-d '{"model": "deepseek-r1:1.5b","prompt": "你好"}'