内网服务器离线安装部署 Ollama
一、安装 Ollama1.官网下载地址：Releases · ollama/ollama
2.cd至下载目录
3.执行二进制文件安装
sudo tar -C /usr -xzf ollama-linux-amd64.tgz二、测试是否安装成功
2.1 启动服务
ollama serve2.2 验证是否安装成功
ollama -v三、 设置开机启动服务
3.1 创建服务文件
vi /etc/systemd/system/ollama.service如果权限不足的话，尝试切换到root权限，再执行上方命令
sudo -s内容如下：
Description=Ollama Service
After=network-online.target
ExecStart=/usr/bin/ollama serve
User=填自己的用户名
Group=填自己的用户组
Restart=always
RestartSec=3
Environment="PATH=$PATH"
WantedBy=default.target 服务文件内容解释：
Description=Ollama Service
# 描述服务的名称和用途，表明这是一个用于运行 Ollama 应用的服务。
After=network-online.target
# 指定服务应在系统网络完全就绪（即 network-online.target 达成）之后启动。确保服务依赖的网络功能可用。
ExecStart=/usr/bin/ollama serve
# 定义启动服务时执行的命令：运行 /usr/bin/ollama 程序的 serve 子命令（通常用于启动服务端）。
User=ollama 和 Group=ollama
# 服务以 ollama 用户和组的身份运行，避免使用 root 权限，提高安全性。需确保系统中已存在该用户和组，否则服务会启动失败。
Restart=always
# 服务无论因何原因退出（包括正常退出、异常崩溃、被杀死等），都会自动重启。
RestartSec=3
# 重启前等待 3 秒，防止频繁崩溃导致系统负载过高。
Environment="PATH=$PATH"
# 显式设置环境变量 PATH，继承当前 systemd 环境中的 PATH 值，确保服务能找到所需命令路径。需注意实际环境可能与 Shell 中的 PATH 不同。
WantedBy=default.target
# 当通过 systemctl enable 启用服务时，该服务会关联到 default.target（系统默认启动目标，通常是图形界面或多用户模式）。系统启动时，服务会自动运行。3.2 启动服务并设置为开机自启
sudo systemctl daemon-reload
sudo systemctl enable ollama
sudo systemctl start ollama // 启动 ollama
sudo systemctl status ollama // 查看 ollama 状态2.4 自定义安装，配置环境变量
编译配置文件shell
sudo systemctl edit ollama
也可以手动创建 vi /etc/systemd/system/ollama.service.d/override.conf添加配置
Environment="OLLAMA_HOST=0.0.0.0"
Environment="OLLAMA_MODELS=/home/xxxx/.ollama/models"
Environment="OLLAMA_KEEP_ALIVE=-1"常见环境变量
2.5 ollama 命令
ollama serve #启动 ollama
ollama create#从模型文件创建模型
ollama show #显示模型信息
ollama run #运行模型
ollama pull #拉取模型
ollama push #推送模型
ollama list #列出模型
ollama cp #复制模型
ollama rm #删除模型
ollama help #获取有关任何命令的帮助信息2.6 查看日志
journalctl -e -u ollama2.7 卸载
停止并删除 ollama 服务
sudo systemctl stop ollama
sudo systemctl disable ollama
sudo rm /etc/systemd/system/ollama.service移除 ollama 二进制文件 (either /usr/local/bin, /usr/bin, or /bin):
sudo rm $(which ollama)删除模型和用户、用户组
sudo rm -r /usr/share/ollama
sudo userdel ollama # 若为 ollama 专门添加了用户
sudo groupdel ollama # 若为 ollama 专门添加了用户组
来源：程序园用户自行投稿发布，如果侵权，请联系站长删除
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！
页:
[1]