Гайды.
Пошаговые инструкции по нейросетям: промпты, настройки, сравнение моделей и рабочие сценарии для учёбы, кода и картинок.
1322 материала
Наш Telegram
Новости ИИ без воды
Как проверить шаблон диалога llama.cpp через /apply-template без генерации
Вычисляем фактический промпт из messages, ищем потери ролей и избегаем двойного применения chat template.
Как проверить формат ответа нейросети собственным scorer в MLflow
Создаём @scorer для проверяемого префикса и проводим оценку без LLM-судьи и без внешнего API.
Как проверить готовность llama.cpp server через /health перед запросом к модели
Разбираем ответ /health при загрузке модели и после неё; Python-проверка различает 503, 200 и сетевую ошибку.
Как измерить Recall@k поиска через InformationRetrievalEvaluator
Готовим queries, corpus и relevant_docs, проверяем golden IDs и сравниваем качество модели до смены индекса.
Как проверить RAG-шаблон LlamaIndex RichPromptTemplate до вызова модели
Jinja-переменные context_str и query_str, предпросмотр format и отдельная проверка поведения генератора.
Как проверить промежуточное рассуждение DSPy ChainOfThought при ответе
Включаем ChainOfThought и отдельно сверяем reasoning и итоговый ответ по проверяемому вопросу.
Как измерить точность русских FAQ-ответов через DSPy Evaluate
Формируем Example с with_inputs, метрику равенства ответов и тестовый Evaluate без подмены эталона генерацией.
Как увидеть занятые слоты llama.cpp server через /slots
Диагностируем конкурирующие запросы через GET /slots и отдельный код 503 при отсутствии свободного слота.
Как разделить поиск и сборку ответа RAG на спаны MLflow Tracing
Размечаем вручную поиск фрагмента и формирование ответа; проверяем вложенные спаны без вызова платной модели.
Как разделить состояние пользователей RAG-демо через gr.State
Проверяем независимость пользовательских списков документов, сброс при новой вкладке и ограничения состояния сессии.
Как разметить темы заявок без обучения через zero-shot-classification в Transformers
Candidate labels, hypothesis_template и multi_label: размечаем англоязычные обращения без обучения новой головы и проверяем ошибочные категории.
Как скрыть email в трассе MLflow до её записи на сервер
Настраиваем span_processors для удаления email из входов спана и проверяем, что исходный текст не ушёл в backend.