Сколько оперативной памяти нужно для локальной нейросети на Mac

Опубликовано 2 ноября 2026 г. · 2 мин чтения

У Mac нет отдельной видеопамяти. Процессор и GPU делят один пул унифицированной памяти, и локальная нейросеть должна поместиться в него вместе с macOS и вашими приложениями. Поэтому при выборе Mac для локального ИИ в первую очередь смотрят на объём памяти, а не на название чипа.

Что занимает память

При загрузке модели складываются три вещи:

Веса. Примерно число параметров × бит на вес ÷ 8. Модель 8B в 4-битном виде — около 4,5–5 ГБ. Модель 70B в 4 битах — около 40 ГБ. В 8 битах цифры вдвое больше.
KV-кэш. Модель хранит ключи и значения для каждого токена диалога, чтобы не считать их заново. Он растёт линейно с длиной контекста: короткий чат почти ничего не стоит, а контекст в 128 тысяч токенов у крупной модели может добавить несколько гигабайт.
Буферы и накладные расходы. Вычислительные буферы, само приложение (Ollama, LM Studio, llama.cpp, MLX) и macOS. Заложите ещё один-два гигабайта.

Не вся память доступна GPU

macOS ограничивает, сколько унифицированной памяти GPU может закрепить за собой. Как правило, это чуть больше двух третей RAM на небольших конфигурациях и около трёх четвертей на больших. Поэтому Mac с 16 ГБ даёт модели примерно 10–11 ГБ, а не 16. Продвинутые пользователи могут поднять лимит, но системе остаётся меньше запаса и она может работать нестабильно — считайте это крайней мерой.

Ориентиры по памяти

Цифры приблизительные: для 4-битных моделей и умеренного контекста. Это отправная точка, а не гарантия.

Унифицированная память	Доступно GPU	Комфортный размер модели
16 ГБ	~10–11 ГБ	до ~8B
24 ГБ	~16 ГБ	до ~14B
32 ГБ	~22 ГБ	~14B с длинным контекстом или модели класса ~30B
64 ГБ	~48 ГБ	класс 70B в 4 битах
128 ГБ и больше	~96 ГБ и больше	крупные модели mixture-of-experts, 70B в 8 битах

Модели mixture-of-experts (MoE) — исключение из правила «размер равен скорости»: все эксперты должны лежать в памяти, поэтому нужно столько же RAM, сколько весит вся модель, но на каждый токен читаются только активные эксперты, так что генерация быстрее, чем у плотной модели такого же размера.

Квантование и контекст — ваши рычаги

Если модель чуть-чуть не влезает, есть два дешёвых способа: взять квантование поменьше (4 бита вместо 8 вдвое уменьшают веса при небольшой потере качества) или сократить окно контекста. Оба видны в калькуляторе: он показывает точное распределение между весами, KV-кэшем и буферами для выбранной модели и Mac.

Коротко

Сначала выберите модель, потом объём памяти. Память — единственное, что нельзя добавить потом.
Умножьте RAM на 0,65–0,75, чтобы увидеть, что реально доступно GPU.
Оставьте запас под контекст: длинные документы и агенты его требуют.