Тема
llama.cpp
2 материала по теме
Учебник · 5 июня 2026 г. · 7 мин
Как запустить языковую модель на Mac без облака и за вечер
Вы тратите деньги на облачные AI-сервисы, данные уходят на чужие сервера, а ваш Mac простаивает. Разбираем, как запустить языковую модель локально на Mac с M-чипом - без программиста, за один вечер. Получите конкретные шаги: какой инструмент выбрать (MLX или llama.cpp), сколько памяти нужно для разных моделей, как дообучить модель под свои задачи.
Учебник · 5 июня 2026 г. · 8 мин
Языковая модель на своём сервере без облачных платежей
У вас бизнес, каждый запрос к ChatGPT стоит денег, а данные утекают в облако. Вот как за вечер поднять свою локальную модель на любом железе: от MacBook до старого сервера. Никакого кода, только готовые бинарники и пара команд. Разбираем llama.cpp, GGUF, CUDA и Metal - на примере стройфирмы, которая автоматизирует ответы на типовые вопросы клиентов.