Поиск.
Найдено: 0 моделей и 5 материалов
Материалы
ВопросыWindowsmacOS12 сентября 2026
Как уменьшить задержку OpenAI API: что измерять до смены модели
Оптимизация задержки OpenAI API: TTFT, полное время, streaming, длина вывода, параллельные запросы, кэш и корректный нагрузочный тест.
2 мин
ГайдыGemini APIPython12 сентября 2026
Как настроить context caching в Gemini API и проверить экономию повторных запросов
Как создать кеш большого контекста Gemini, переиспользовать его, контролировать TTL и сверять usage без выдуманных процентов.
5 мин
ГайдыClaude APIPython12 сентября 2026
Как настроить Prompt Caching в Claude API и проверить cache_read_input_tokens
Как расставить cache_control в Claude API, сохранить стабильный префикс и подтвердить повторное чтение кеша по usage.
5 мин
ГайдыOpenAI APIPython12 сентября 2026
Как проверить Prompt Caching в OpenAI API и найти промахи кеша
Практическая настройка Prompt Caching в OpenAI API: стабильный префикс, cached_tokens, контрольный тест и диагностика cache miss.
6 мин
ГайдыTransformers 4.57.1Python20 сентября 2026
Как обработать большой поток отзывов пакетами в Transformers без переполнения памяти
batch_size, потоковый источник и честный замер производительности: сохраняем соответствие входов и выходов и тестируем OOM.
5 мин