Поиск.
Найдено: 4 модели и 20 материалов
Нейросети
Весь каталог
- Бесплатная$0 · ₽ уточняйте
- Dev tierуточняйте · уточняйте
- Бесплатная$0 · ₽ уточняйте
- APIуточняйте · уточняйте
- APIуточняйте · уточняйте
- Бесплатная / Pro$9 · ₽ уточняйте
Материалы
Как векторизовать инференс нейросети через jax.vmap
vmap для функции одного объекта: in_axes для параметров и входа, сравнение с циклом и пакетной матричной реализацией.
Как использовать I/O Binding ONNX Runtime на CPU
I/O Binding в Python на CPU: OrtValue из NumPy, bind_ortvalue_input, bind_output, run_with_iobinding и точная проверка результата.
Как настроить intra-op потоки ONNX Runtime через SessionOptions
SessionOptions и intra_op_num_threads в ONNX Runtime: два потока, воспроизводимый output, честный benchmark и почему больше потоков не всегда быстрее.
Как проверить Execution Provider ONNX Runtime и не ждать GPU зря
Проверка get_available_providers и session.get_providers: явный CPUExecutionProvider, отличие установленного provider от выбранного и безопасный fallback.
Как сохранить оптимизированный граф ONNX Runtime при создании сессии
Сохранение optimized_model_filepath в ONNX Runtime: исходный и оптимизированный файлы, проверка одинакового output и ограничения переносимости.
Как узнать имя, форму и тип входа ONNX-модели
Инспекция get_inputs и get_outputs в ONNX Runtime: имена, динамическая batch-размерность, tensor(float), точный тест и ошибки предположений.
Как включить profiling ONNX Runtime и получить JSON-трассу
Профилирование InferenceSession: enable_profiling, несколько run, end_profiling, JSON-файл, проверка событий и правила работы с трассой.
Как запросить конкретный выход ONNX-модели в session.run
Модель с двумя выходами в ONNX Runtime: get_outputs, run(['z']), точные результаты Add и Mul, порядок и проверка неизвестного имени.
Как запустить ONNX-модель через InferenceSession в Python
Минимальная нейросетевая операция в ONNX Runtime: создание проверяемой модели Add, InferenceSession, float32-вход и точный ожидаемый массив.
Почему ONNX Runtime отклоняет float64-вход вместо float32
Воспроизводимая ошибка типа ONNX Runtime: float64 по умолчанию в NumPy, контракт tensor(float), безопасное приведение и проверка без потери смысла.
Почему ONNX Runtime сообщает Invalid rank или неверную размерность
Ошибка формы входа ONNX Runtime на модели `[None,2]`: rank, фиксированная ось, динамический batch, негативные тесты и правильная подготовка массива.
Почему Gradio Image передаёт массив, а vision-модель ожидает путь к файлу
Выбираем type=numpy, pil или filepath и проверяем размер и формат входа до запуска vision-инференса.
Как группировать запросы к ML-модели через batch=True в Gradio Interface
Сверяем сигнатуру пакетной функции, tuple of lists и max_batch_size на детерминированном тесте.
Как извлечь ответ из заданного текста через Transformers question-answering
Контекст, вопрос и контроль отсутствующего ответа: извлекаем span из документа, проверяем offsets и не принимаем догадку за факт.
Как не потерять конец текста при truncation и padding в Transformers
max_length, truncation и padding для пары сообщений: проверяем, что юридически важная оговорка не исчезает до вызова модели.
Как обработать большой поток отзывов пакетами в Transformers без переполнения памяти
batch_size, потоковый источник и честный замер производительности: сохраняем соответствие входов и выходов и тестируем OOM.
Как оформить диалог для локальной LLM через apply_chat_template в Transformers
Роли user и assistant, add_generation_prompt и защита от двойных спецтокенов: проверяем входной шаблон перед генерацией.
Как дать DSPy ReAct только читающий инструмент для ответа по справке
Подключаем read-only функцию словаря к ReAct, ограничиваем число итераций и проверяем источник ответа.
Как ограничить длину генерации в Transformers через max_new_tokens и проверить результат
Граница новых токенов против общей длины входа, детерминированный тест и контроль обрезанного ответа на локальной instruct-модели.
Как ограничить параллельные AI-запросы в Gradio и избежать переполнения памяти
Настраиваем concurrency_limit и max_size, измеряем очередь и отделяем нагрузочную защиту от авторизации.