Guide du stockage pour développeurs

Où sont stockés les modèles d'IA locaux

Chaque outil range ses poids ailleurs, aucun ne vous dit où, et ensemble ils constituent ce qui grossit le plus vite sur le disque d'un développeur. Voici la liste complète, par plateforme.

Essai gratuit de 14 jours, sans carte. Ensuite 15 $ une fois pour 3 ordinateurs, macOS et Linux.

Bytesweep listant par taille les dépôts de modèles d'IA locaux sur un Mac de développeur

Pourquoi aucun nettoyeur ne les trouve

Les nettoyeurs Mac courants ont été écrits avant l'existence des modèles locaux, et ils travaillent à partir d'une liste fixe de dossiers de cache connus. ~/.ollama n'y figure pas. Un outil vous annoncera donc avec assurance que votre Mac est propre pendant que 120 Go de poids dorment dans un dossier caché de votre répertoire personnel — et comme ce sont des dossiers à point, le Finder ne les montre pas non plus.

Les chemins

Ollama

macOS    ~/.ollama/models
Linux    /usr/share/ollama/.ollama/models
Windows  %USERPROFILE%\.ollama\models

Listez et supprimez avec Ollama lui-même, pour que son manifeste reste cohérent :

ollama list
ollama rm llama3:70b

Déplacez le dépôt sur un disque externe en définissant OLLAMA_MODELS avant de démarrer le serveur.

LM Studio

macOS    ~/.lmstudio/models
Linux    ~/.lmstudio/models
Windows  %USERPROFILE%\.lmstudio\models

Les anciennes versions utilisaient ~/.cache/lm-studio/models; si vous avez traversé plusieurs versions, vérifiez les deux. Le répertoire est configurable dans l'onglet My Models de l'application, la façon sûre de le déplacer.

Hugging Face — transformers, diffusers, datasets

macOS/Linux  ~/.cache/huggingface/hub
Windows      %USERPROFILE%\.cache\huggingface\hub

Généralement le plus gros et le plus désordonné, parce que toutes les bibliothèques qui touchent au Hub écrivent ici. Inspectez et nettoyez de façon interactive avec l'outil officiel :

pip install "huggingface_hub[cli]"
huggingface-cli scan-cache
huggingface-cli delete-cache

Déplacez-le avec HF_HOME. Notez que le cache du Hub utilise des liens symboliques vers un dossier blobs — le copier avec un outil qui suit les liens symboliques doublera sa taille.

PyTorch

~/.cache/torch/hub
~/.cache/torch/kernels

Points de contrôle pré-entraînés téléchargés par torch.hub. Déplacement avec TORCH_HOME.

Sept chemins, et celui que vous avez oublié

Cette liste est exacte aujourd'hui. Elle grandit à chaque nouvel outil que vous essayez, et le dépôt que vous perdez de vue est celui qui coûte cher. Bytesweep trouve tous ceux-ci et ceux ajoutés depuis, les signale par taille, et marque les poids à examiner plutôt qu'à nettoyer — parce qu'un modèle que vous avez affiné vous-même n'est pas un cache, et que rien d'autre sur votre disque ne coûte aussi cher en cas d'erreur.

GPT4All

macOS    ~/Library/Application Support/nomic.ai/GPT4All
Linux    ~/.local/share/nomic.ai/GPT4All
Windows  %LOCALAPPDATA%\nomic.ai\GPT4All

Whisper et whisper.cpp

~/.cache/whisper
./models  (inside a whisper.cpp checkout)

À vérifier aussi

~/.cache/torch/sentence_transformers
~/.keras/models
~/.cache/gguf
~/.cache/vllm

Avant de supprimer un modèle

Un cache n'est pas un poids

Tout le reste sur le disque d'un développeur se régénère en quelques secondes. Un modèle de 40 Go est un nouveau téléchargement sur votre connexion, et une quantisation que vous avez produite localement ou un modèle que vous avez affiné ne revient pas du tout. Ces dossiers méritent un examen, pas un nettoyage.

Supprimez par l'outil quand il y en a un

Ollama et Hugging Face gardent tous deux un manifeste à côté des blobs. Supprimer des fichiers à la main laisse l'index pointer vers ce qui n'existe plus, ce qui ressurgit plus tard en erreurs déroutantes. ollama rm et huggingface-cli delete-cache existent exactement pour cela.

Déplacer plutôt que supprimer

Chaque outil ci-dessus peut déplacer son dépôt via une variable d'environnement ou un réglage. Si vous avez un disque externe, déplacer le dépôt vaut mieux que supprimer et retélécharger les mêmes poids encore et encore.

Trouver chaque dépôt de modèles sur votre disque

Bytesweep connaît tous ces chemins, les signale par taille à côté de Docker, Xcode et node_modules, et marque les poids comme à examiner plutôt que sûrs à nettoyer — parce qu'un modèle affiné n'est pas un cache.

À voir aussi : Docker disk space · Xcode cleanup · la liste Mac complète

Questions

Comment changer l'endroit où Ollama stocke les modèles ?

Définissez la variable d'environnement OLLAMA_MODELS sur le répertoire voulu, puis redémarrez le serveur Ollama. Sur macOS, définissez-la pour l'environnement de lancement de l'application, pas seulement dans votre shell, sinon l'application de bureau ne la verra pas.

Peut-on supprimer ~/.cache/huggingface sans risque ?

Sans risque au sens où rien ne casse : ce qui manque est retéléchargé au prochain usage. Coûteux au sens où « prochain usage » peut vouloir dire 30 Go à reprendre. Utilisez huggingface-cli scan-cache pour voir ce qu'il y a et supprimer de façon sélective.

Pourquoi les dossiers de modèles n'apparaissent-ils pas dans le Finder ?

La plupart commencent par un point, que macOS masque par défaut. Dans une fenêtre du Finder, appuyez sur Cmd-Shift-. pour les afficher, ou ouvrez le chemin directement avec Aller → Aller au dossier.

Puis-je garder les modèles sur un disque externe ?

Oui, et c'est la meilleure réponse passé une centaine de gigaoctets. Ollama utilise OLLAMA_MODELS, Hugging Face utilise HF_HOME, PyTorch utilise TORCH_HOME, et LM Studio a un réglage dans l'application. Attendez-vous à des premiers chargements plus lents en USB.

Pourquoi mon dossier de modèles est-il plus gros que les modèles téléchargés ?

Généralement des téléchargements partiels et des révisions dépassées. Le cache du Hub Hugging Face garde chaque révision d'un dépôt que vous avez tirée, pas seulement l'actuelle — c'est exactement ce que scan-cache est fait pour vous montrer.