开发者存储空间指南

本地 AI 模型都存在哪里

每个工具把权重放在不同的地方,没有一个会告诉你在哪儿,而它们加起来是开发者磁盘上增长最快的东西。这里按平台给出完整清单。

14 天免费试用,无需银行卡。 之后一次性 15 美元,可用于 3 台电脑,macOS 与 Linux。

Bytesweep 在开发者 Mac 上按大小列出本地 AI 模型存储位置

为什么没有清理工具能找到它们

主流的 Mac 清理工具是在本地模型出现之前写的,它们依据一份固定的已知缓存文件夹清单工作。 ~/.ollama 不在那份清单上。于是工具会信心十足地报告你的 Mac 很干净,而 120 GB 的权重正躺在你个人目录下的一个隐藏文件夹里 —— 而且因为它们是点开头的文件夹,访达同样不会显示。

路径

Ollama

macOS    ~/.ollama/models
Linux    /usr/share/ollama/.ollama/models
Windows  %USERPROFILE%\.ollama\models

用 Ollama 自己来列出和删除,好让它的清单保持一致:

ollama list
ollama rm llama3:70b

在启动服务前设置 OLLAMA_MODELS 即可把存储位置迁到外接硬盘。

LM Studio

macOS    ~/.lmstudio/models
Linux    ~/.lmstudio/models
Windows  %USERPROFILE%\.lmstudio\models

旧版本使用的是 ~/.cache/lm-studio/models;如果你是一路升级过来的,两个都要看。目录可以在应用的 My Models 标签页里配置,这是迁移它的安全方式。

Hugging Face —— transformers、diffusers、数据集

macOS/Linux  ~/.cache/huggingface/hub
Windows      %USERPROFILE%\.cache\huggingface\hub

通常最大也最杂乱,因为每个接触 Hub 的库都会往这里写。用官方工具交互式地查看和清理:

pip install "huggingface_hub[cli]"
huggingface-cli scan-cache
huggingface-cli delete-cache

HF_HOME迁移它。请注意,hub 缓存使用指向 blobs 文件夹的符号链接 —— 用会跟随符号链接的工具复制它,会让体积翻倍。

PyTorch

~/.cache/torch/hub
~/.cache/torch/kernels

torch.hub下载的预训练检查点。用以下变量迁移: TORCH_HOME

七条路径,还有你忘掉的那一条

这份清单今天是准确的。你每试一个新工具它就会变长,而你忘掉的那处存储正是最贵的那个。Bytesweep 会找出所有这些以及后来新增的,按大小报告,并把权重标记为待审阅而不是直接清理 —— 因为你自己微调过的模型不是缓存,而且你磁盘上没有别的东西弄错了代价这么高。

GPT4All

macOS    ~/Library/Application Support/nomic.ai/GPT4All
Linux    ~/.local/share/nomic.ai/GPT4All
Windows  %LOCALAPPDATA%\nomic.ai\GPT4All

Whisper 和 whisper.cpp

~/.cache/whisper
./models  (inside a whisper.cpp checkout)

也值得检查

~/.cache/torch/sentence_transformers
~/.keras/models
~/.cache/gguf
~/.cache/vllm

删除模型之前

缓存不等于权重

开发者磁盘上的其他东西几秒就能重新生成。一个 40 GB 的模型意味着用你的网络重新下载一遍,而你本地做的量化或自己微调过的模型则根本回不来。这些文件夹值得审阅,而不是清理。

有工具的地方就用工具删

Ollama 和 Hugging Face 都会在数据旁边保存一份清单文件。手动删文件会让索引指向已经不存在的东西,之后表现为令人困惑的错误。 ollama rmhuggingface-cli delete-cache 就是为此存在的。

迁移,而不是删除

上面每个工具都支持通过环境变量或设置来迁移存储位置。如果你有外接硬盘,把存储迁过去,胜过反复删除又重新拉取同样的权重。

找出磁盘上的每一处模型存储

Bytesweep 知道所有这些路径,会把它们和 Docker、Xcode、node_modules 并排按大小报告,并把权重标为值得审阅而非可安全清理 —— 因为微调过的模型不是缓存。

相关内容: Docker disk space · Xcode cleanup · 完整的 Mac 清单

问题

怎么修改 Ollama 存放模型的位置?

OLLAMA_MODELS 环境变量设为你想要的目录,然后重启 Ollama 服务。在 macOS 上,请为应用的启动环境设置它,而不只是在 shell 里设置,否则桌面应用看不到。

删除 ~/.cache/huggingface 安全吗?

从「不会坏掉」的意义上说是安全的 —— 缺失的内容会在下次使用时重新下载。从代价上说很贵,因为「下次使用」可能意味着再拉 30 GB。用 huggingface-cli scan-cache 看看里面有什么,然后有选择地删除。

为什么模型文件夹在访达里看不到?

它们大多以点开头,而 macOS 默认隐藏这类文件夹。在访达窗口中按 Cmd-Shift-. 即可显示,或者用「前往 → 前往文件夹」直接打开路径。

我可以把模型放在外接硬盘上吗?

可以,而且一旦超过一百 GB,这就是更好的答案。Ollama 用 OLLAMA_MODELS,Hugging Face 用 HF_HOME,PyTorch 用 TORCH_HOME,LM Studio 则在应用里有设置项。通过 USB 首次加载会更慢,这一点要有心理准备。

为什么我的模型文件夹比我下载的模型还大?

通常是因为未完成的下载和被取代的旧版本。Hugging Face 的 hub 缓存会保留你从一个仓库拉取过的每一个版本,而不只是当前那个,这正是 scan-cache 要展示给你看的东西。