Linux安装Ollama并启用服务教程

Ollama 官网

　　https://ollama.com/download/linux

Install with one command:

curl -fsSL https://ollama.com/install.sh | sh

使用systemd运行Ollama服务

　　查看 ollama 所在目录

whereis ollama# ollama: /usr/local/bin/ollama /usr/local/lib/ollama

启动 Ollama 服务

　　创建systemd服务文件：

• 在/etc/systemd/system/​目录下创建ollama.service​文件，内容如下

[Unit]
Description=Ollama Service
After=network-online.target[Service]
Environment="OLLAMA_HOST=0.0.0.0"
Environment="OLLAMA_ORIGINS=*"
Environment="OLLAMA_MODELS=/data/ollama/.ollama/models"
ExecStart=/usr/local/bin/ollama serve
User=root
Group=root
Restart=always
RestartSec=3[Install]
WantedBy=default.target

　　启动 Ollama 服务：

• 重新载入 systemd 配置：

systemctl daemon-reload

• 启动服务

systemctl start ollama

• 设置开机自启

systemctl enable ollama

• 查看服务状态

systemctl status ollama

直接使用ollama命令启动服务

• 在安装好Ollama后，直接在命令行中运行：

ollama serve

　　这样Ollama服务就会启动，监听默认端口11434

　　‍

可能遇到的问题：

• Ollama 默认是未开启跨域配置的
• Ollama响应速度过慢，CPU 占用过高：那没办法，服务器配置不够而已，哈哈