Поиск.
Найдено: 0 моделей и 20 материалов
Материалы
Как оформить диалог для локальной LLM через apply_chat_template в Transformers
Роли user и assistant, add_generation_prompt и защита от двойных спецтокенов: проверяем входной шаблон перед генерацией.
Как выбрать cosine или dot для нормализованных embeddings в Sentence Transformers
Проверяем единичную норму, сопоставляем две метрики и понимаем, когда dot меняет ранжирование: таблица проверяемых сценариев.
Как создать model.yaml в LM Studio для вариантов одной модели
Как создать model.yaml в LM Studio для вариантов одной модели: точная настройка, пример, критерии проверки и типичные ошибки.
Как ограничить длину генерации в Transformers через max_new_tokens и проверить результат
Граница новых токенов против общей длины входа, детерминированный тест и контроль обрезанного ответа на локальной instruct-модели.
Как запускать Transformers без интернета через локальные файлы модели
Заранее сохраняем модель и токенизатор, проверяем local_files_only и HF_HUB_OFFLINE, не обещая работу при отсутствующих весах.
Как не потерять конец текста при truncation и padding в Transformers
max_length, truncation и padding для пары сообщений: проверяем, что юридически важная оговорка не исчезает до вызова модели.
Как получить и проверить embedding текста в Sentence Transformers
Генерируем векторы для нескольких предложений, проверяем форму массива, версию модели, язык и сохранение связи с исходной строкой.
Как ограничить модели OpenRouter Auto Router через allowed_models и excluded_models
Как задать белый и черный список моделей для openrouter/auto, проверить wildcard-шаблоны и не получить 404 из-за пустого набора кандидатов.
Как определить тональность отзыва через Transformers pipeline и проверить ошибочные метки
Практика text-classification для англоязычных отзывов: явная модель, оценки уверенности, проверка отрицаний и схема ручной приёмки.
Как принять изображение и текст в Gradio Multimodal ChatInterface для vision-модели
Разбираем message с text и files, проверяем путь и объясняем, как не выдать текстовый чат за анализ изображения.
Как создать векторное поле Typesense: float[], num_dim и проверка модели
Схема Typesense 30.2 для внешних embeddings: num_dim, vec_dist, проверка размерности и миграция без смешивания моделей.
Как найти релевантный фрагмент через semantic_search в Sentence Transformers
Кодируем вопрос и документы, связываем corpus_id с текстом, проверяем top_k и строим отказ при отсутствии подходящего источника.
Как извлечь ответ из заданного текста через Transformers question-answering
Контекст, вопрос и контроль отсутствующего ответа: извлекаем span из документа, проверяем offsets и не принимаем догадку за факт.
Как обработать большой поток отзывов пакетами в Transformers без переполнения памяти
batch_size, потоковый источник и честный замер производительности: сохраняем соответствие входов и выходов и тестируем OOM.
Как разметить темы заявок без обучения через zero-shot-classification в Transformers
Candidate labels, hypothesis_template и multi_label: размечаем англоязычные обращения без обучения новой головы и проверяем ошибочные категории.
Как собрать имена и организации из текста через Transformers NER без разорванных токенов
Token classification и aggregation_strategy=simple: выделяем сущности с offsets, сверяем фрагменты оригинала и не публикуем сырые догадки.
Как очистить текст для RAG через Haystack DocumentCleaner
Удаляем артефакты извлечения из документов, сохраняя значимые пробелы, страницы и исходную разметку.
Как посчитать токены локальной модели в LM Studio до запроса
Как посчитать токены локальной модели в LM Studio до запроса: точная настройка, пример, критерии проверки и типичные ошибки.
Как создать Preset в LM Studio для повторяемых промптов
Как создать Preset в LM Studio для повторяемых промптов: точная настройка, пример, критерии проверки и типичные ошибки.
Как хранить chunks для RAG в Vespa с проверяемыми source_id
Схема chunk-документов, parent ID, versioned embeddings, готовый prompt и тест цитат по исходным фрагментам.