Ollama verwenden
% ollama list
NAME ID SIZE MODIFIED
deepseek-coder:6.7b ce298d984115 3.8 GB vor 14 Stunden
mistral:7b f974a74358d6 4.1 GB vor 15 Stunden
ollama remove model
Es ist ein großartiges Werkzeug. Es gibt einige Fehler in Ollamac. Beispielsweise werden beim Empfang einer Antwort von der lokalen API mehrere Textfelder in der App aktualisiert.
Unter Linux läuft Ollama jedoch als Systemdienst. Hier ist die Dienstkonfigurationsdatei:
/etc/systemd/system/ollama.service:
[Unit]
Description=Ollama Service
After=network-online.target
[Service]
ExecStart=/usr/local/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=/home/lzw/.local/bin:/home/lzw/bin:/usr/local/cuda-12.2/bin:/home/lzw/.local/share/gem/ruby/3.0.0/bin:/home/lzw/.local/bin:/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin:/usr/games:/usr/local/games:/snap/bin:/snap/bin"
[Install]
WantedBy=default.target
Verwenden Sie die folgenden Befehle, um den Ollama-Dienst zu steuern:
sudo systemctl stop ollama.service
sudo systemctl disable ollama.service
sudo systemctl status ollama.service