一、安装篇

Linux在线安装

在线安装 Ollama，运行以下命令：

curl -fsSL https://ollama.com/install.sh | sh
如果无法访问或速度慢，可以尝试手动安装

Linux手动安装

下载并解压软件包：

curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz
sudo tar -C /usr -xzf ollama-linux-amd64.tgz

启动方式1：直接启动 Ollama:

ollama serve

在另一个终端中，验证 Ollama 是否正在运行：

ollama -v

启动方式2：添加 Ollama 作为系统服务启动（推荐）

为 Ollama 创建用户和组：

sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
sudo usermod -a -G ollama $(whoami)

手动创建服务文件/etc/systemd/system/ollama.service：

[Unit]
Description=Ollama Service
After=network-online.target

[Service]
Environment="OLLAMA_HOST=0.0.0.0"
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"

[Install]
WantedBy=default.target

启动服务：

sudo systemctl daemon-reload
sudo systemctl enable ollama

安装 CUDA 驱动程序（可选）

下载和安装 CUDA.

通过运行以下命令来验证驱动程序是否已安装:

nvidia-smi

更新Ollama版本

通过再次运行安装脚本来更新 Ollama：

curl -fsSL https://ollama.com/install.sh | sh

或者重新下载 Ollama覆盖安装：

curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz
sudo tar -C /usr -xzf ollama-linux-amd64.tgz

卸载Ollama

删除 ollama 服务：

sudo systemctl stop ollama
sudo systemctl disable ollama
sudo rm /etc/systemd/system/ollama.service

从 bin 目录中删除 ollama 二进制文件 (/usr/local/bin, /usr/bin, 或 /bin):

sudo rm $(which ollama)

删除下载的模型和 Ollama 服务用户和组：

sudo rm -r /usr/share/ollama
sudo userdel ollama
sudo groupdel ollama

查看服务日志

要查看作为启动服务运行的 Ollama 的日志，请运行：

journalctl -e -u ollama

二、使用篇

待续