使用Ollama
% ollama list
名称 ID 大小 修改时间
deepseek-coder:6.7b ce298d984115 3.8 GB 14小时前
mistral:7b f974a74358d6 4.1 GB 15小时前
ollama remove model
这是一个很棒的工具。Ollama有一些bug。例如，当它从本地API接收响应时，应用程序中的几个文本框会更新。
然而，在Linux中，Ollama运行为系统服务。以下是服务配置文件：
/etc/systemd/system/ollama.service:
[Unit]
Description=Ollama服务
After=network-online.target
[Service]
ExecStart=/usr/local/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=/home/lzw/.local/bin:/home/lzw/bin:/usr/local/cuda-12.2/bin:/home/lzw/.local/share/gem/ruby/3.0.0/bin:/home/lzw/.local/bin:/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin:/usr/games:/usr/local/games:/snap/bin:/snap/bin"
[Install]
WantedBy=default.target
使用以下命令来控制Ollama服务：
sudo systemctl stop ollama.service
sudo systemctl disable ollama.service
sudo systemctl status ollama.service