Вопросы · · 2 мин
WindowsmacOSLinuxOllamaлокальные нейросетиИИ
Почему Ollama использует процессор вместо видеокарты
Практический ответ на запрос «почему Ollama работает на CPU а не GPU»: точные команды, реальные параметры Ollama, диагностика, ограничения и проверка результата.
Сначала выполните ollama ps: поле PROCESSOR показывает CPU/GPU-размещение. Причины обычно в неподдерживаемом или старом драйвере, недостатке VRAM, слишком большой модели/контексте либо выборе не той GPU. Логи дают точнее ответ, чем загрузка в диспетчере задач.
Что нужно знать до начала
- ollama ps показывает распределение модели между CPU и GPU.
- На Windows для NVIDIA официальная документация требует драйвер 551.61 или новее.
- Для AMD на Windows используется ROCm/HIP либо Vulkan fallback.
- Большой контекст увеличивает KV-cache и может вызвать offload на CPU.
- Встроенная и дискретная GPU могут определяться одновременно.
- Логи Windows находятся в %LOCALAPPDATA%\Ollama, включая server.log.
Пошаговая настройка
- Запустите короткую генерацию и одновременно выполните ollama ps.
- Обновите Ollama и официальный драйвер GPU.
- Проверьте, поддерживается ли точная модель видеокарты.
- Закройте процессы, занявшие VRAM, и повторите тест.
- Уменьшите модель или num_ctx и сравните PROCESSOR.
- Изучите server.log на ошибки обнаружения CUDA, ROCm или Vulkan.
Рабочий пример
ollama ps
# Windows:
Get-Content "$env:LOCALAPPDATA\Ollama\server.log" -Tail 150
# NVIDIA:
nvidia-smi
