Поиск.
Найдено: 0 моделей и 20 материалов
Материалы
Как показывать ход работы LangChain-агента через stream updates и messages
Различия stream_mode updates и messages, потоковая выдача токенов и контроль конца ответа без показа сырого tool JSON.
Как показывать локальную генерацию потоком через TextIteratorStreamer
Потоковые фрагменты текста, фоновой поток и сборка финального ответа: проверяем завершение и не сохраняем частичный вывод.
Как показывать ответ LlamaIndex по мере генерации через streaming
streaming=True, response_gen и проверка полного ответа, отмены запроса и ограничений streaming-модели.
Как создать первого AI-агента LangChain на Python и проверить ответ
Минимальный create_agent в LangChain 1.x: provider:model, системная инструкция, сообщения и тест ответа без фиктивных инструментов.
Как правильно обрабатывать streaming SSE в OpenRouter API
Парсер потокового ответа OpenRouter: stream:true, data-строки, keep-alive комментарии, маркер [DONE], финальный usage и восстановление текста.
Как включить streaming в Groq API и правильно собрать ответ из chunks
Потоковый Chat Completion через stream=True: обработка delta.content, пустых дельт, завершения потока и проверка собранного ответа.
Как включить streaming в Fireworks AI API и собрать ответ без пропусков
Потоковый Chat Completions в Fireworks: stream=true, чтение delta.content, финальная сборка, UTF-8, таймаут и проверка результата.
Как получить проверенный JSON от LangChain-агента через response_format
Схема Pydantic, structured_response и обработка некорректных данных при извлечении полей из русского текста.
Как получать streaming output из Replicate API без потери финального результата
Гайд по потоковой выдаче Replicate: проверка поддержки модели, URL stream, чтение SSE, обрыв соединения и сверка конечного prediction.
Как включить streaming в Mistral API и собрать полный ответ
Как включить streaming в Mistral API и собрать полный ответ: рабочий сценарий, шаблон, пример и критерии проверки.
Как включить streaming в OpenAI Responses API и корректно собрать ответ
Как читать поток событий Responses API, собирать текст, обрабатывать завершение и не показывать пользователю технические события.
Как добавить безопасный tool в LangChain-агента для проверки статуса заказа
Декоратор @tool, схема аргументов, серверная проверка заказа и отрицательные тесты на чужой ID.
Как обработать несколько независимых запросов через LangChain model.batch
Параллельная обработка независимых промптов, max_concurrency, порядок batch и отличие от batch API провайдера.
Как ограничить число вызовов модели в LangChain-агенте
ModelCallLimitMiddleware: run_limit, thread_limit, checkpointer и тест runaway-цикла без обещания фиксированных затрат.
Как отладить LangChain-агента через трассировку LangSmith
LANGSMITH_TRACING, проект и проверка trace модели и инструментов с защитой персональных данных.
Как сохранить историю диалога LangChain по thread_id
InMemorySaver, одинаковый thread_id для продолжения и отдельный ID для другого пользователя без смешивания бесед.
Как сжимать длинный диалог LangChain через SummarizationMiddleware
Автоматическое summary при росте истории: trigger, keep, критические факты и тест сохранности после сжатия.
Как поставить отправку сообщения LangChain-агента на одобрение человека
Пауза перед side-effect tool, checkpointer, thread_id и Command(resume) без автоматического одобрения отправки.
Как получить временный токен AssemblyAI для streaming в браузере
Серверная выдача temporary token, expires_in_seconds, max_session_duration_seconds и подключение клиента без раскрытия API-ключа.
Как включить fine-grained tool streaming в Claude API
Как включить fine-grained tool streaming в Claude API: пошаговая настройка, пример, проверка и защита от ошибок.