Гайды.
Пошаговые инструкции по нейросетям: промпты, настройки, сравнение моделей и рабочие сценарии для учёбы, кода и картинок.
1322 материала
Наш Telegram
Новости ИИ без воды
Как скрыть служебные метаданные документа от LLM в LlamaIndex
Отдельные настройки metadata для генератора и embedding-модели с проверкой MetadataMode.LLM и EMBED.
Как собрать метрики llama.cpp server через /metrics без ложных выводов
Включаем --metrics, читаем счётчики токенов и занятые запросы, отделяем throughput от задержки пользователя.
Как собрать двухшаговый DSPy Module для выбора темы и ответа FAQ
Связываем распознавание темы и ответ по контексту внутри forward, чтобы видеть границы ошибки каждого шага.
Как собрать имена и организации из текста через Transformers NER без разорванных токенов
Token classification и aggregation_strategy=simple: выделяем сущности с offsets, сверяем фрагменты оригинала и не публикуем сырые догадки.
Как собирать жалобы на ответы AI через flagging в Gradio
Включаем ручную оценку конкретного ответа, раздельно проверяем выбор пользователя и хранение чувствительных данных.
Как сохранить и загрузить индекс LlamaIndex после перезапуска
persist_dir, StorageContext и load_index_from_storage с проверкой, что после рестарта не выполняется новая индексация.
Как сохранить и загрузить состояние DSPy-программы через JSON
Сохраняем state-only JSON и восстанавливаем его в новой программе; учитываем, что конфигурация модели в файл не включена.
Как сохранить историю AI-чата в браузере через Gradio save_history
Проверяем save_history в двух вкладках и объясняем границы локального хранения диалога и приватности.
Как сохранить кэш индексации LlamaIndex IngestionPipeline
Persist и load кэша преобразований для повторного запуска с неизменными документами без ложных обещаний полной идемпотентности.
Как продолжить диалог Pydantic AI через message_history без смешивания пользователей
Два последовательных ответа Pydantic AI: передаём all_messages в message_history, проверяем связность и не путаем истории разных пользователей.
Как сохранить и повторно загрузить SentenceTransformer локально
Сохраняем модель и конфигурацию в локальную папку, отключаем случайное скачивание и проверяем результат на том же контрольном тексте.
Как создать набор регрессионных вопросов для AI-бота в MLflow
Сохраняем вопросы и ожидаемые ответы в MLflow GenAI Dataset, проверяем схему и не смешиваем тесты с реальными клиентскими данными.