Поиск.
Найдено: 0 моделей и 20 материалов
Материалы
Как извлечь ответ из заданного текста через Transformers question-answering
Контекст, вопрос и контроль отсутствующего ответа: извлекаем span из документа, проверяем offsets и не принимаем догадку за факт.
Как найти релевантный фрагмент через semantic_search в Sentence Transformers
Кодируем вопрос и документы, связываем corpus_id с текстом, проверяем top_k и строим отказ при отсутствии подходящего источника.
Как ограничить длину генерации в Transformers через max_new_tokens и проверить результат
Граница новых токенов против общей длины входа, детерминированный тест и контроль обрезанного ответа на локальной instruct-модели.
Как найти смысловые дубли вопросов через paraphrase_mining
Ищем пары похожих вопросов, читаем позиции и score, исключаем отрицания и цифры ручной проверкой до объединения записей.
Как обработать большой поток отзывов пакетами в Transformers без переполнения памяти
batch_size, потоковый источник и честный замер производительности: сохраняем соответствие входов и выходов и тестируем OOM.
Как показывать ответ LlamaIndex по мере генерации через streaming
streaming=True, response_gen и проверка полного ответа, отмены запроса и ограничений streaming-модели.
Как не потерять конец текста при truncation и padding в Transformers
max_length, truncation и padding для пары сообщений: проверяем, что юридически важная оговорка не исчезает до вызова модели.
Как определить тональность отзыва через Transformers pipeline и проверить ошибочные метки
Практика text-classification для англоязычных отзывов: явная модель, оценки уверенности, проверка отрицаний и схема ручной приёмки.
Как разметить темы заявок без обучения через zero-shot-classification в Transformers
Candidate labels, hypothesis_template и multi_label: размечаем англоязычные обращения без обучения новой головы и проверяем ошибочные категории.
Как выбрать cosine или dot для нормализованных embeddings в Sentence Transformers
Проверяем единичную норму, сопоставляем две метрики и понимаем, когда dot меняет ранжирование: таблица проверяемых сценариев.
Как сделать проверку ответа LLM перед отправкой клиенту
Как сделать проверку ответа LLM перед отправкой клиенту: пошаговый разбор, готовый шаблон, пример и контроль ошибок.
Как найти похожие документы Typesense по id без нового embedding
Рекомендации по существующему документу в Typesense 30.2: vector_query с id, исключение исходного id и проверка прав.
Как включить streaming в Groq API и правильно собрать ответ из chunks
Потоковый Chat Completion через stream=True: обработка delta.content, пустых дельт, завершения потока и проверка собранного ответа.
Как найти невидимые символы в AI-тексте перед публикацией
Проверяем категории Unicode Cc/Cf в AI-тексте, выводим U+200B для ревью и не удаляем языковые символы автоматически.
Как скрыть embeddings из ответа Vespa через document-summary
Отдельный document-summary для RAG: source_id и text вместо vector payload, запрос presentation.summary и проверка ответа.
Как привязать ответ RAG к документам через Haystack AnswerBuilder
GeneratedAnswer, reference_pattern и проверка номеров цитат против фактических документов без ложной атрибуции.
Как загрузить embeddings в Typesense через JSONL и найти ошибки по строкам
Практический импорт JSONL в Typesense 30.2: стабильные id, action=upsert, построчная проверка success и карантин ошибок.
Как анализировать ответы опроса с помощью ИИ: темы, цитаты и выводы
Как обработать открытые ответы, найти повторяющиеся проблемы и не выдать мнение модели за статистический результат.
Как оформить диалог для локальной LLM через apply_chat_template в Transformers
Роли user и assistant, add_generation_prompt и защита от двойных спецтокенов: проверяем входной шаблон перед генерацией.
Как показывать локальную генерацию потоком через TextIteratorStreamer
Потоковые фрагменты текста, фоновой поток и сборка финального ответа: проверяем завершение и не сохраняем частичный вывод.