Поиск.
Найдено: 0 моделей и 20 материалов
Материалы
Как посчитать токены локальной модели в LM Studio до запроса
Как посчитать токены локальной модели в LM Studio до запроса: точная настройка, пример, критерии проверки и типичные ошибки.
Как создать model.yaml в LM Studio для вариантов одной модели
Как создать model.yaml в LM Studio для вариантов одной модели: точная настройка, пример, критерии проверки и типичные ошибки.
Как проверить готовность llama.cpp server через /health перед запросом к модели
Разбираем ответ /health при загрузке модели и после неё; Python-проверка различает 503, 200 и сетевую ошибку.
Как запускать Transformers без интернета через локальные файлы модели
Заранее сохраняем модель и токенизатор, проверяем local_files_only и HF_HUB_OFFLINE, не обещая работу при отсутствующих весах.
Как использовать reasoning-модели OpenAI и проверить ответ на сложной задаче
Reasoning-модели OpenAI: постановка задачи, reasoning effort, проверяемый формат, инструменты и тестирование без запроса скрытой цепочки мыслей.
Как перенести модели Ollama на другой диск в Windows
Практический ответ на запрос «как перенести модели Ollama на другой диск»: точные команды, реальные параметры Ollama, диагностика, ограничения и проверка результата.
Как запустить локальную нейросеть в Ollama: установка, модель и проверка API
Практический запуск локальной языковой модели через Ollama: установка, команда запуска, API-запрос и проверка приватности.
Как обработать named tool call в vLLM без произвольного выполнения кода
Требуем вызов одной безопасной функции, валидируем аргументы и не отдаём модели право запускать произвольные команды.
Почему vLLM выдаёт неожиданные ответы: проверка generation_config.json
Проверяем наследование настроек модели из generation_config.json и фиксируем параметры запроса для воспроизводимого теста.
Как ограничить число вызовов модели в LangChain-агенте
ModelCallLimitMiddleware: run_limit, thread_limit, checkpointer и тест runaway-цикла без обещания фиксированных затрат.
Как вызвать один tool через Ollama Chat API
Описываем функцию JSON Schema, валидируем tool_call, выполняем локальный обработчик и возвращаем сообщение role:tool модели.
Что лучше в Ollama: Q4, Q5 или Q8-квантизация модели
Практический ответ на запрос «что лучше Q4 Q5 или Q8 Ollama»: точные команды, реальные параметры Ollama, диагностика, ограничения и проверка результата.
Как настроить Modelfile в Ollama: системный промпт, параметры и тест
Как создать собственную конфигурацию локальной модели в Ollama через Modelfile, собрать её и проверить одинаковыми запросами.
Как настроить Tool Calling в Ollama и валидировать аргументы функции
Как объявить функцию для локальной модели Ollama, обработать message.tool_calls, вернуть tool result и запретить опасные вызовы.
Как ограничить модели OpenRouter Auto Router через allowed_models и excluded_models
Как задать белый и черный список моделей для openrouter/auto, проверить wildcard-шаблоны и не получить 404 из-за пустого набора кандидатов.
Как вести двухшаговый диалог через llama.cpp /v1/chat/completions
Собираем messages, добавляем ответ assistant в историю и проверяем, что модель использует предыдущий вопрос.
Как настроить parallel requests в LM Studio без переполнения памяти
Как настроить parallel requests в LM Studio без переполнения памяти: точная настройка, пример, критерии проверки и типичные ошибки.
Как работать с документами офлайн в LM Studio и проверять ответы
Как работать с документами офлайн в LM Studio и проверять ответы: точная настройка, пример, критерии проверки и типичные ошибки.
Как подключить MCP-сервер в LM Studio и не дать ему лишние права
Как подключить MCP-сервер в LM Studio и не дать ему лишние права: точная настройка, пример, критерии проверки и типичные ошибки.
Как подключить удалённую модель через LM Link и проверить соединение
Как подключить удалённую модель через LM Link и проверить соединение: точная настройка, пример, критерии проверки и типичные ошибки.