Гайд · TNWS AI
Как настроить function calling в OpenAI API без опасного выполнения команд
Как описать функции, валидировать аргументы, запросить подтверждение и безопасно вернуть результат инструмента модели.
Как работает function calling
Вы описываете доступные функции и их параметры. Модель может предложить вызов с аргументами, но приложение решает, разрешено ли действие, выполняет его и возвращает результат.
Безопасная схема
- Опишите узкие функции вместо универсальной команды execute.
- Задайте строгую JSON Schema аргументов.
- Проверьте типы, длину строк и допустимые значения на сервере.
- Проверьте права текущего пользователя.
- Для платежа, удаления или отправки сообщения запросите явное подтверждение.
- Выполните действие и верните модели только необходимый результат.
Защита от prompt injection
Считайте текст файлов и веб-страниц недоверенным вводом. Он не должен менять системные правила или выдавать себе право вызвать опасную функцию.
Идемпотентность
Для внешних изменений используйте уникальный ключ операции, чтобы повтор после сетевой ошибки не создал дубликат. Логируйте идентификатор, статус и имя функции без секретов.
Чего не делать
Не позволяйте модели выполнять произвольный shell-код, SQL или HTTP-запросы и не скрывайте от пользователя значимые внешние действия.
Официальный источник
OpenAI Platform Documentation: https://platform.openai.com/docs/guides/function-calling
Частые вопросы
Модель сама выполняет функцию?
Обычно модель формирует вызов, а фактическое выполнение контролирует ваше приложение.
Можно ли доверять аргументам?
Нет, их нужно валидировать и проверять права пользователя.
Что проверить перед продакшеном?
Схему ответа, обработку ошибок, лимиты, стоимость на тестовом объёме и отсутствие секретов в клиентском коде.
Читайте также
Как использовать OpenAI Batch API для больших пачек запросов
Пошаговый гайд по Batch API: подготовка JSONL, уникальные идентификаторы, проверка статуса и сопоставление результатов без путаницы.
Как использовать OpenAI Moderation API для проверки пользовательского контента
Как встроить модерацию текста и изображений: проверка входа и выхода, пороги продукта, ручная эскалация и журнал решений.
Как использовать OpenAI Responses API: первый запрос и структура ответа
Пошаговый старт с Responses API: серверный ключ, входные сообщения, чтение результата, обработка ошибок и безопасный запуск.
Комментарии
Пока тихо. Скажите первое слово