Поиск.
Найдено: 0 моделей и 20 материалов
Материалы
Как настроить intra-op потоки ONNX Runtime через SessionOptions
SessionOptions и intra_op_num_threads в ONNX Runtime: два потока, воспроизводимый output, честный benchmark и почему больше потоков не всегда быстрее.
Как сохранить оптимизированный граф ONNX Runtime при создании сессии
Сохранение optimized_model_filepath в ONNX Runtime: исходный и оптимизированный файлы, проверка одинакового output и ограничения переносимости.
Почему ONNX Runtime отклоняет float64-вход вместо float32
Воспроизводимая ошибка типа ONNX Runtime: float64 по умолчанию в NumPy, контракт tensor(float), безопасное приведение и проверка без потери смысла.
Почему ONNX Runtime сообщает Invalid rank или неверную размерность
Ошибка формы входа ONNX Runtime на модели `[None,2]`: rank, фиксированная ось, динамический batch, негативные тесты и правильная подготовка массива.
Как использовать I/O Binding ONNX Runtime на CPU
I/O Binding в Python на CPU: OrtValue из NumPy, bind_ortvalue_input, bind_output, run_with_iobinding и точная проверка результата.
Как проверить Execution Provider ONNX Runtime и не ждать GPU зря
Проверка get_available_providers и session.get_providers: явный CPUExecutionProvider, отличие установленного provider от выбранного и безопасный fallback.
Как включить profiling ONNX Runtime и получить JSON-трассу
Профилирование InferenceSession: enable_profiling, несколько run, end_profiling, JSON-файл, проверка событий и правила работы с трассой.
Как узнать имя, форму и тип входа ONNX-модели
Инспекция get_inputs и get_outputs в ONNX Runtime: имена, динамическая batch-размерность, tensor(float), точный тест и ошибки предположений.
Как запросить конкретный выход ONNX-модели в session.run
Модель с двумя выходами в ONNX Runtime: get_outputs, run(['z']), точные результаты Add и Mul, порядок и проверка неизвестного имени.
Как запустить ONNX-модель через InferenceSession в Python
Минимальная нейросетевая операция в ONNX Runtime: создание проверяемой модели Add, InferenceSession, float32-вход и точный ожидаемый массив.
Как настроить M, EF_CONSTRUCTION и EF_RUNTIME для HNSW в Redis
Пошаговый benchmark HNSW Redis: build-параметры M и EF_CONSTRUCTION, query-параметр EF_RUNTIME, Recall@10, p95 и память.
Как печатать значения внутри jax.jit через jax.debug.print
Runtime-диагностика compiled JAX: debug.print с format placeholders, ordered=True, block_until_ready и проверка вывода `mean=2.00`.
Как перейти с Local Shell на актуальный Shell Tool в OpenAI API
Практическая миграция с устаревшего local_shell на Shell Tool: Responses API, hosted/local runtime, обработка вызовов, песочница и тесты.
Как проверить тип final_output через final_output_as в OpenAI Agents SDK
Используем final_output_as с raise_if_incorrect_type=True, отличаем подсказку type checker от runtime-проверки и ловим TypeError в тесте.
Как запустить Shell Tool в OpenAI API и безопасно выполнять команды
Практическая настройка Shell Tool в Responses API: hosted и local runtime, container_auto, фильтрация команд, тайм-ауты и проверка файлов.
Как заморозить bias через Optax selective_transform
Optax 0.2.6: selective_transform зануляет update замороженного листа и обучает только разрешённые параметры.
Как повторить фиксированные шаги обучения через jax.lax.fori_loop
Пять функциональных обновлений параметра через lax.fori_loop в JAX 0.11.2 и проверка против Python-loop.
Как сделать типизированный state CrewAI Flow через Pydantic
Типизированное состояние CrewAI Flow на BaseModel: code, attempts, изменение между шагами, проверка типов и отличие от словаря.
Как сделать условную ветку под jit через jax.lax.cond
Динамическая scalar-ветка в JAX 0.11.2: lax.cond, одинаковые output contracts, две фактически проверенные ветви под jit.
Как собрать метрики llama.cpp server через /metrics без ложных выводов
Включаем --metrics, читаем счётчики токенов и занятые запросы, отделяем throughput от задержки пользователя.