计算机软件技术总结 计算机软件技术总结
/ 29浏览

Linux安装Ollama并启用服务教程

Ollama 官网

　　https://ollama.com/download/linux

Install with one command:

curl -fsSL https://ollama.com/install.sh | sh

使用systemd运行Ollama服务

　　查看 ollama 所在目录

whereis ollama

# ollama: /usr/local/bin/ollama /usr/local/lib/ollama

启动 Ollama 服务

　　创建systemd服务文件：

　　在/etc/systemd/system/​目录下创建ollama.service​文件，内容如下

[Unit]
Description=Ollama Service
After=network-online.target

[Service]
Environment="OLLAMA_HOST=0.0.0.0"
Environment="OLLAMA_ORIGINS=*"
Environment="OLLAMA_MODELS=/data/ollama/.ollama/models"
ExecStart=/usr/local/bin/ollama serve
User=root
Group=root
Restart=always
RestartSec=3

[Install]
WantedBy=default.target

　　启动 Ollama 服务：

　　重新载入 systemd 配置：

systemctl daemon-reload

　　启动服务

systemctl start ollama

　　设置开机自启

systemctl enable ollama

　　查看服务状态

systemctl status ollama

直接使用ollama命令启动服务

　　在安装好Ollama后，直接在命令行中运行：

ollama serve

　　这样Ollama服务就会启动，监听默认端口11434

可能遇到的问题：

  • Ollama 默认是未开启跨域配置的
  • Ollama响应速度过慢，CPU 占用过高：那没办法🤡，服务器配置不够而已，哈哈
shenhuanjie