本地 AI 模型都存在哪里

每个工具把权重放在不同的地方,没有一个会告诉你在哪儿,而它们加起来是开发者磁盘上增长最快的东西。这里按平台给出完整清单。

下载和扫描免费。 清理需要授权:每台电脑一次性付费,Mac 或 Windows 均可。

开发者数据:Xcode、Docker、npm 等,每一项都说明它是什么以及删除后会怎样

为什么没有清理工具能找到它们

主流的 Mac 清理工具是在本地模型出现之前写的,它们依据一份固定的已知缓存文件夹清单工作。 ~/.ollama 不在那份清单上。于是工具会信心十足地报告你的 Mac 很干净,而 120 GB 的权重正躺在你个人目录下的一个隐藏文件夹里 —— 而且因为它们是点开头的文件夹,访达同样不会显示。

路径

Ollama

macOS    ~/.ollama/models
Linux    /usr/share/ollama/.ollama/models
Windows  %USERPROFILE%\.ollama\models

用 Ollama 自己来列出和删除,好让它的清单保持一致:

ollama list
ollama rm llama3:70b

在启动服务前设置 OLLAMA_MODELS 即可把存储位置迁到外接硬盘。

LM Studio

macOS    ~/.lmstudio/models
Linux    ~/.lmstudio/models
Windows  %USERPROFILE%\.lmstudio\models

旧版本使用的是 ~/.cache/lm-studio/models;如果你是一路升级过来的,两个都要看。目录可以在应用的 My Models 标签页里配置,这是迁移它的安全方式。

Hugging Face —— transformers、diffusers、数据集

macOS/Linux  ~/.cache/huggingface/hub
Windows      %USERPROFILE%\.cache\huggingface\hub

通常最大也最杂乱,因为每个接触 Hub 的库都会往这里写。用官方工具交互式地查看和清理:

pip install "huggingface_hub[cli]"
huggingface-cli scan-cache
huggingface-cli delete-cache

用 HF_HOME迁移它。请注意,hub 缓存使用指向 blobs 文件夹的符号链接 —— 用会跟随符号链接的工具复制它,会让体积翻倍。

PyTorch

~/.cache/torch/hub
~/.cache/torch/kernels

由 torch.hub下载的预训练检查点。用以下变量迁移: TORCH_HOME。

GPT4All

macOS    ~/Library/Application Support/nomic.ai/GPT4All
Linux    ~/.local/share/nomic.ai/GPT4All
Windows  %LOCALAPPDATA%\nomic.ai\GPT4All

Whisper 和 whisper.cpp

~/.cache/whisper
./models  (inside a whisper.cpp checkout)

也值得检查

~/.cache/torch/sentence_transformers
~/.keras/models
~/.cache/gguf
~/.cache/vllm

删除模型之前

缓存不等于权重

开发者磁盘上的其他东西几秒就能重新生成。一个 40 GB 的模型意味着用你的网络重新下载一遍,而你本地做的量化或自己微调过的模型则根本回不来。这些文件夹值得审阅,而不是清理。

有工具的地方就用工具删

Ollama 和 Hugging Face 都会在 blob 旁边保留一份清单。你自己动手删掉文件,清单里却还列着它们,日后就会冒出让人摸不着头脑的错误。 ollama rm 和 huggingface-cli delete-cache 就是为此存在的。

迁移,而不是删除

上面每个工具都支持通过环境变量或设置来迁移存储位置。如果你有外接硬盘,把存储迁过去,胜过反复删除又重新拉取同样的权重。

问题

怎么修改 Ollama 存放模型的位置?

把 OLLAMA_MODELS 环境变量设为你想要的目录,然后重启 Ollama 服务。在 macOS 上,请为应用的启动环境设置它,而不只是在 shell 里设置,否则桌面应用看不到。

删除 ~/.cache/huggingface 安全吗?

从「不会坏掉」的意义上说是安全的 —— 缺失的内容会在下次使用时重新下载。从代价上说很贵,因为「下次使用」可能意味着再拉 30 GB。用 huggingface-cli scan-cache 看看里面有什么,然后有选择地删除。

为什么模型文件夹在访达里看不到?

它们大多以点开头,而 macOS 默认隐藏这类文件夹。在访达窗口中按 Cmd-Shift-. 即可显示,或者用「前往 → 前往文件夹」直接打开路径。

我可以把模型放在外接硬盘上吗?

可以,而且一旦超过一百 GB,这就是更好的答案。Ollama 用 OLLAMA_MODELS,Hugging Face 用 HF_HOME,PyTorch 用 TORCH_HOME,LM Studio 则在应用里有设置项。通过 USB 首次加载会更慢,这一点要有心理准备。

为什么我的模型文件夹比我下载的模型还大?

通常是因为未完成的下载和被取代的旧版本。Hugging Face 的 hub 缓存会保留你从一个仓库拉取过的每一个版本,而不只是当前那个,这正是 scan-cache 要展示给你看的东西。