Foldery modeli LM Studio, Ollama i Hugging Face

Dane programistyczne: Xcode, Docker, npm i więcej, a każdy element mówi, czym jest i co zmieni jego usunięcie

Dlaczego żaden program czyszczący ich nie znajduje

Popularne programy czyszczące dla Maca powstały, zanim istniały lokalne modele, i działają na stałej liście znanych folderów pamięci podręcznej. ~/.ollama nie ma na niej. Narzędzie z pełnym przekonaniem zgłosi więc, że twój Mac jest czysty, podczas gdy 120 GB wag śpi w ukrytym folderze w twoim katalogu domowym — a ponieważ to foldery z kropką, Finder też ich nie pokazuje.

Ścieżki

Ollama

macOS    ~/.ollama/models
Linux    /usr/share/ollama/.ollama/models
Windows  %USERPROFILE%\.ollama\models

Wypisuj i usuwaj samą Ollamą, żeby jej manifest pozostał spójny:

ollama list
ollama rm llama3:70b

Przenieś magazyn na dysk zewnętrzny, ustawiając OLLAMA_MODELS przed uruchomieniem serwera.

LM Studio

macOS    ~/.lmstudio/models
Linux    ~/.lmstudio/models
Windows  %USERPROFILE%\.lmstudio\models

Starsze wersje używały ~/.cache/lm-studio/models; jeśli aktualizowałeś przez kilka wydań, sprawdź obie. Katalog można ustawić w karcie My Models w aplikacji, i to jest bezpieczny sposób na jego przeniesienie.

Hugging Face — transformers, diffusers, datasets

macOS/Linux  ~/.cache/huggingface/hub
Windows      %USERPROFILE%\.cache\huggingface\hub

Zwykle największy i najbardziej zabałaganiony, bo każda biblioteka dotykająca Huba zapisuje tutaj. Przejrzyj i posprzątaj interaktywnie oficjalnym narzędziem:

pip install "huggingface_hub[cli]"
huggingface-cli scan-cache
huggingface-cli delete-cache

Przenieś go za pomocą HF_HOME. Zwróć uwagę, że pamięć podręczna Huba używa dowiązań symbolicznych do folderu blobs — kopiowanie jej narzędziem, które podąża za dowiązaniami, podwoi jej rozmiar.

PyTorch

~/.cache/torch/hub
~/.cache/torch/kernels

Wstępnie wytrenowane punkty kontrolne pobrane przez torch.hub. Przeniesienie przez TORCH_HOME.

GPT4All

macOS    ~/Library/Application Support/nomic.ai/GPT4All
Linux    ~/.local/share/nomic.ai/GPT4All
Windows  %LOCALAPPDATA%\nomic.ai\GPT4All

Whisper i whisper.cpp

~/.cache/whisper
./models  (inside a whisper.cpp checkout)

Warto też sprawdzić

~/.cache/torch/sentence_transformers
~/.keras/models
~/.cache/gguf
~/.cache/vllm

Zanim usuniesz model

Pamięć podręczna to nie waga

Wszystko inne na dysku programisty odbudowuje się w kilka sekund. Model o rozmiarze 40 GB to ponowne pobranie przez twoje łącze, a kwantyzacja, którą sam wykonałeś, albo model, który sam dostroiłeś, nie wraca wcale. Te foldery zasługują na przegląd, nie na sprzątanie.

Usuwaj przez narzędzie, jeśli takie jest

Ollama i Hugging Face trzymają manifest obok blobów. Usuń pliki samodzielnie, a manifest nadal będzie je wymieniał, co później objawia się mylącymi błędami. ollama rm i huggingface-cli delete-cache istnieją dokładnie po to.

Przenieś zamiast usuwać

Każde narzędzie powyżej pozwala przenieść swój magazyn zmienną środowiskową albo ustawieniem. Jeśli masz dysk zewnętrzny, przeniesienie magazynu jest lepsze niż usuwanie i ponowne pobieranie tych samych wag w kółko.

Pytania

Jak zmienić miejsce, w którym Ollama przechowuje modele?

Ustaw zmienną środowiskową OLLAMA_MODELS na katalog, który chcesz, i uruchom ponownie serwer Ollamy. Na macOS ustaw ją dla środowiska uruchomieniowego aplikacji, nie tylko w swojej powłoce, bo inaczej aplikacja jej nie zobaczy.

Czy bezpiecznie jest usunąć ~/.cache/huggingface?

Bezpiecznie w tym sensie, że nic się nie zepsuje: czego brakuje, zostanie pobrane ponownie przy następnym użyciu. Kosztownie w tym sensie, że „następne użycie” może oznaczać ponowne ściąganie 30 GB. Użyj huggingface-cli scan-cache aby zobaczyć, co tam jest, i usuwać wybiórczo.

Dlaczego foldery modeli nie pojawiają się w Finderze?

Większość zaczyna się od kropki, którą macOS domyślnie ukrywa. W oknie Findera naciśnij Cmd-Shift-. aby je pokazać, albo otwórz ścieżkę wprost przez Idź → Idź do folderu.

Czy mogę trzymać modele na dysku zewnętrznym?

Tak, i powyżej stu gigabajtów to lepsza odpowiedź. Ollama używa OLLAMA_MODELS, Hugging Face używa HF_HOME, PyTorch używa TORCH_HOME, a LM Studio ma ustawienie w aplikacji. Licz się z wolniejszym pierwszym wczytywaniem przez USB.

Dlaczego mój folder modeli jest większy niż pobrane modele?

Zwykle przez przerwane pobrania i zastąpione rewizje. Pamięć podręczna Huba Hugging Face przechowuje każdą rewizję repozytorium, jaką kiedykolwiek pobrałeś, nie tylko bieżącą — a to dokładnie to, co scan-cache ma ci pokazać.

Gdzie przechowywane są lokalne modele AI