Руководство по месту для разработчиков

Где хранятся локальные модели ИИ

Каждый инструмент держит свои веса в своём месте, ни один об этом не сообщает, а вместе они — самое быстрорастущее, что есть на диске разработчика. Вот полный список по платформам.

14 дней бесплатно, карта не нужна. Затем $15 один раз за 3 компьютера, macOS и Linux.

Bytesweep перечисляет локальные хранилища моделей ИИ по размеру на Mac разработчика

Почему их не находит ни одна программа очистки

Массовые программы очистки для Mac писались до появления локальных моделей и работают по фиксированному списку известных папок кэша. ~/.ollama в него не входит. Поэтому программа уверенно сообщит, что ваш Mac чист, пока 120 ГБ весов лежат в скрытой папке вашей домашней директории, — и, поскольку это папки с точкой, Finder их тоже не показывает.

Пути

Ollama

macOS    ~/.ollama/models
Linux    /usr/share/ollama/.ollama/models
Windows  %USERPROFILE%\.ollama\models

Выводите список и удаляйте средствами самой Ollama, чтобы её манифест оставался целостным:

ollama list
ollama rm llama3:70b

Перенесите хранилище на внешний диск, задав OLLAMA_MODELS перед запуском сервера.

LM Studio

macOS    ~/.lmstudio/models
Linux    ~/.lmstudio/models
Windows  %USERPROFILE%\.lmstudio\models

В старых версиях использовалась ~/.cache/lm-studio/models; если вы обновлялись через несколько выпусков, проверьте оба варианта. Каталог настраивается на вкладке My Models в самой программе — это безопасный способ его перенести.

Hugging Face — transformers, diffusers, наборы данных

macOS/Linux  ~/.cache/huggingface/hub
Windows      %USERPROFILE%\.cache\huggingface\hub

Обычно самое крупное и самое запутанное, потому что сюда пишет каждая библиотека, которая работает с Hub. Осмотрите и почистите в интерактивном режиме официальным инструментом:

pip install "huggingface_hub[cli]"
huggingface-cli scan-cache
huggingface-cli delete-cache

Перенесите его с помощью HF_HOME. Учтите, что кэш hub использует символические ссылки на папку blobs — копирование инструментом, который следует по ссылкам, удвоит его размер.

PyTorch

~/.cache/torch/hub
~/.cache/torch/kernels

Предобученные контрольные точки, скачанные torch.hub. Переносится через TORCH_HOME.

Семь путей и тот, о котором вы забыли

Этот список верен сегодня. Он растёт каждый раз, когда вы пробуете новый инструмент, и самым дорогим оказывается то хранилище, о котором вы забыли. Bytesweep находит все эти папки и появившиеся позже, показывает их размер и помечает веса как требующие проверки, а не для удаления, — потому что модель, которую вы дообучали сами, не кэш, и ошибиться с ней дороже, чем с чем-либо ещё на вашем диске.

GPT4All

macOS    ~/Library/Application Support/nomic.ai/GPT4All
Linux    ~/.local/share/nomic.ai/GPT4All
Windows  %LOCALAPPDATA%\nomic.ai\GPT4All

Whisper и whisper.cpp

~/.cache/whisper
./models  (inside a whisper.cpp checkout)

Тоже стоит проверить

~/.cache/torch/sentence_transformers
~/.keras/models
~/.cache/gguf
~/.cache/vllm

Прежде чем удалять модель

Кэш — это не веса

Всё остальное на диске разработчика восстанавливается за секунды. Модель на 40 ГБ — это повторная загрузка через ваш канал, а квантование, которое вы сделали локально, или модель, которую вы дообучали сами, не вернутся вовсе. Эти папки заслуживают проверки, а не уборки.

Удаляйте через сам инструмент, если он есть

И Ollama, и Hugging Face держат манифест рядом с файлами. Удаление файлов вручную оставляет индекс указывающим на то, чего уже нет, а это позже проявляется непонятными ошибками. ollama rm и huggingface-cli delete-cache для этого и существуют.

Переносите, а не удаляйте

Каждый инструмент выше позволяет перенести своё хранилище через переменную окружения или настройку. Если у вас есть внешний диск, перенести хранилище лучше, чем раз за разом удалять и заново скачивать одни и те же веса.

Найдите все хранилища моделей на своём диске

Bytesweep знает все эти пути, показывает их размер рядом с Docker, Xcode и node_modules и помечает веса как требующие проверки, а не как безопасные для удаления, — потому что дообученная модель не кэш.

Похожее: Docker disk space · Xcode cleanup · полный список для Mac

Вопросы

Как изменить место, где Ollama хранит модели?

Задайте переменную окружения OLLAMA_MODELS на нужный каталог и перезапустите сервер Ollama. В macOS задайте её для окружения запуска программы, а не только в оболочке, иначе настольное приложение её не увидит.

Безопасно ли удалять ~/.cache/huggingface?

Безопасно в том смысле, что ничего не сломается: недостающее скачается заново при следующем использовании. Дорого в том смысле, что «следующее использование» может означать повторную загрузку 30 ГБ. Используйте huggingface-cli scan-cache чтобы посмотреть, что там, и удалять выборочно.

Почему папки с моделями не видны в Finder?

Большинство из них начинается с точки, а такие macOS скрывает по умолчанию. Нажмите Cmd-Shift-. в окне Finder, чтобы показать их, или откройте путь напрямую через «Переход → Переход к папке».

Можно ли хранить модели на внешнем диске?

Да, и после сотни гигабайт это лучший вариант. Ollama использует OLLAMA_MODELS, Hugging Face — HF_HOME, PyTorch — TORCH_HOME, а у LM Studio есть настройка в самой программе. Учтите, что первая загрузка по USB будет медленнее.

Почему папка с моделями больше, чем скачанные мной модели?

Обычно из-за незавершённых загрузок и устаревших ревизий. Кэш hub у Hugging Face хранит каждую ревизию репозитория, которую вы когда-либо скачивали, а не только текущую, — именно это и показывает scan-cache и предназначен показывать.