Utiliser Ollama
% ollama list
NOM ID TAILLE MODIFIÉ
deepseek-coder:6.7b ce298d984115 3.8 Go Il y a 14 heures
mistral:7b f974a74358d6 4.1 Go Il y a 15 heures
ollama remove model
C’est un excellent outil. Il y a quelques bugs dans Ollamac. Par exemple, lorsqu’il reçoit une réponse de l’API locale, plusieurs zones de texte de l’application se mettent à jour.
Cependant, sous Linux, Ollama s’exécute comme un service système. Voici le fichier de configuration du service :
/etc/systemd/system/ollama.service :
[Unit]
Description=Service Ollama
After=network-online.target
[Service]
ExecStart=/usr/local/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=/home/lzw/.local/bin:/home/lzw/bin:/usr/local/cuda-12.2/bin:/home/lzw/.local/share/gem/ruby/3.0.0/bin:/home/lzw/.local/bin:/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin:/usr/games:/usr/local/games:/snap/bin:/snap/bin"
[Install]
WantedBy=default.target
Utilisez les commandes suivantes pour contrôler le service Ollama :
sudo systemctl stop ollama.service
sudo systemctl disable ollama.service
sudo systemctl status ollama.service