Как проверить URL из AI-ответа перед публикацией ссылки

Перед запуском запишите, какие данные считаются входом, что является ожидаемым результатом, что именно означает отказ и кому предстоит разбирать расхождение. Для такой проверки храните тестовый вход, ожидаемый результат и фактический исход раздельно: если они смешаны, тест может подтверждать сам себя. Используйте стабильные синтетические ID, чтобы видеть ошибку в журнале, не раскрывая содержимое клиентских обращений.

Сначала прогоните тест на маленьком входе, где правильное поведение известно вручную. Затем внесите одну контролируемую ошибку и убедитесь, что код её замечает. После этого верните корректный набор и только тогда расширяйте проверку до реальных данных. Не переносите демонстрационные численные значения или пороги в производство без отдельного обоснования: они выбраны для наглядности, а не рассчитаны по вашей аудитории.

Вход и ожидаемый результат

https://docs.example.org/help разрешён; javascript:alert(1), https://outside.example.net/help и https://docs.example.org@evil.test/help отклонены. Скрипт печатает URL allowlist verified. Ловушка с @ попадает на evil.test и потому отклоняется, несмотря на знакомый текст слева. Перед тем как применять правило к закрытым данным, обсудите пограничные случаи, которые могут поменять интерпретацию входа. Запись в документации о границах теста не менее важна, чем зелёный check.

Пошаговые действия

1. Создайте scripts/check.py в корне репозитория и вставьте код из блока ниже. Он использует названия функций стандартной библиотеки, указанные в официальных ссылках в конце статьи.
2. Выполните python scripts/check.py локально. Не продолжайте, если уже демонстрационная фикстура даёт иной результат: сначала проверьте копирование кода и кодировку файла.
3. Сначала запустите четыре фикстуры и разберите отдельные части URL через urlsplit. Используйте точное сравнение hostname, не startswith и не поиск имени домена внутри строки. До записи результата в CMS сохраняйте исходный URL для редакционного ревью, но не открывайте его автоматически сервером. Согласуйте, требуются ли фрагменты, нестандартные порты и URL-кодирование; если да, пересмотрите контракт с дополнительными негативными тестами. При отображении ссылки экранируйте текст отдельно от проверки href.
4. Создайте .github/workflows/ai-corpus-check.yml из YAML-шаблона. Событие pull_request полезно для проверки данных до слияния; чтение репозитория ограничено permissions: contents: read. Скрипт не должен получать ключ внешней модели или реальные секреты.
5. В разделе Actions откройте job check, сопоставьте его код завершения с локальным прогоном и зафиксируйте ссылку на проверенный коммит в PR. Не принимайте зелёный результат на старой ревизии за проверку последнего изменения.

# scripts/check.py
from urllib.parse import urlsplit
def allowed(raw):
    if not isinstance(raw,str) or raw!=raw.strip(): return False
    try:
        parts=urlsplit(raw)
        _=parts.port
    except ValueError: return False
    return (parts.scheme=="https" and parts.hostname=="docs.example.org"
            and parts.username is None and parts.password is None
            and not parts.fragment and parts.port in (None,443))
assert allowed("https://docs.example.org/help")
for bad in ("javascript:alert(1)","https://outside.example.net/help",
            "https://docs.example.org@evil.test/help"):
    assert not allowed(bad)
print("URL allowlist verified")

name: AI corpus checks
on:
  pull_request:
permissions:
  contents: read
jobs:
  check:
    runs-on: ubuntu-latest
    steps:
      - uses: actions/checkout@v7
      - uses: actions/setup-python@v7
        with:
          python-version: '3.13'
      - run: python scripts/check.py

Ошибки интерпретации и границы

urlsplit не проверяет существование документа или доверенность содержания. Allowlist для отображения не обеспечивает безопасность HTTP-клиента, который делает запрос. При ссылках на поддомены нужно отдельное строгое правило границы суффикса. Если вы расширяете набор случаев, добавляйте не только новые примеры, но и отрицательные случаи, на которых тест обязан упасть. Проверяйте, что изменение expected прошло ревью отдельно от изменения кода: иначе можно незаметно изменить правило под текущий ответ системы. Избегайте вывода полного приватного набора в CI и не сохраняйте в артефактах ответ закрытой модели без решения о доступе и хранении.

Ошибка выполнения самого Python, нераспознанный формат входа и обнаруженный бизнес-дефект — разные ситуации. В сообщении теста указывайте тип проблемы и безопасный ID. Если тест требует внешний сервис, вынесите его из PR с недоверенным кодом и явно ограничьте доступ к токенам; этот пример намеренно работает локально. Перед публикацией каких-либо результатов опишите методику, область применения и происхождение примеров, иначе читатель воспримет демонстрационную арифметику как характеристику продукта.

Практический разбор именно этого контроля

Не выводить в карточке ответа AI ссылку на чужой домен или исполняемую схему. Для самостоятельной проверки сначала выпишите три наблюдаемых состояния: допустимый вход, намеренно недопустимый вход и видимый сигнал отказа. В данной фикстуре это выглядит так: https://docs.example.org/help разрешён; javascript:alert(1), https://outside.example.net/help и https://docs.example.org@evil.test/help отклонены. При успешном тесте ожидается: Скрипт печатает URL allowlist verified. Ловушка с @ попадает на evil.test и потому отклоняется, несмотря на знакомый текст слева. Не превращайте это в числовой KPI: здесь проверяется контракт на конкретных примерах, а не поведение модели на пользовательском трафике.

urlsplit не проверяет существование документа или доверенность содержания. Allowlist для отображения не обеспечивает безопасность HTTP-клиента, который делает запрос. При ссылках на поддомены нужно отдельное строгое правило границы суффикса. Подключая проверку к продукту, расположите её до той операции, ради которой она написана: парсинга, сохранения, отображения или экспорта. Для каждого нового формата добавляйте отдельный негативный пример и письменное решение, почему он отклоняется. Отдельно просмотрите обработку ошибок: система должна отличать невалидный ответ AI от сбоя тестовой инфраструктуры, а пользователь не должен видеть сырой стек или приватное содержимое.