Гайд · TNWS AI
Как проверить canonical на языке AI-перевода статьи
Сверка canonical русской и английской статей: поиск ошибки, когда перевод указывает на оригинал вместо своего URL.
Практическая задача
Не потерять самостоятельно переведённую версию из-за неправильного сигнала о предпочтительном URL. Google рекомендует для hreflang-страниц указывать канонический URL на том же языке или лучший возможный заменитель, если версии на этом языке нет. В примере обе версии полноценны и самостоятельны, поэтому проект ожидает self-canonical для каждой. Не применяйте правило к страницам, где переведено лишь меню, а основное содержимое осталось оригинальным: их отношение к дублям сложнее. Код проверяет метаданные, а не содержимое и не реальный выбор Google. Этот сценарий применим, когда у команды есть контроль над входом или выходом AI-приложения и требуется конкретный сигнал о нарушении правила, а не общее впечатление от нескольких ответов. Все входы ниже вымышлены; числовые результаты относятся только к этим примерам.
Документация методов Python и синтаксиса workflow сверена 26.09.2026. Если вы используете другое окружение, проверьте совместимость до копирования команд. Статья не утверждает, что показанный код измеряет качество конкретной модели или заменяет ручную проверку.
Подготовка и проверяемый контракт
Перед запуском запишите, какие данные считаются входом, что является ожидаемым результатом, что именно означает отказ и кому предстоит разбирать расхождение. Для такой проверки храните тестовый вход, ожидаемый результат и фактический исход раздельно: если они смешаны, тест может подтверждать сам себя. Используйте стабильные синтетические ID, чтобы видеть ошибку в журнале, не раскрывая содержимое клиентских обращений.
Сначала прогоните тест на маленьком входе, где правильное поведение известно вручную. Затем внесите одну контролируемую ошибку и убедитесь, что код её замечает. После этого верните корректный набор и только тогда расширяйте проверку до реальных данных. Не переносите демонстрационные численные значения или пороги в производство без отдельного обоснования: они выбраны для наглядности, а не рассчитаны по вашей аудитории.
Вход и ожидаемый результат
Русская /ru/a имеет canonical /ru/a; полностью переведённая /en/a ошибочно указывает canonical /ru/a. Функция обнаруживает en→ru; после установки self-canonical печатает пустой список. Перед тем как применять правило к закрытым данным, обсудите пограничные случаи, которые могут поменять интерпретацию входа. Запись в документации о границах теста не менее важна, чем зелёный check.
Пошаговые действия
- Создайте
scripts/check.pyв корне репозитория и вставьте код из блока ниже. Он использует названия функций стандартной библиотеки, указанные в официальных ссылках в конце статьи. - Выполните
python scripts/check.pyлокально. Не продолжайте, если уже демонстрационная фикстура даёт иной результат: сначала проверьте копирование кода и кодировку файла. - Передайте в проверку только утверждённые полноценные переводы, чтобы не смешивать их с частичной локализацией шаблона. Запустите ошибочный пример и найдите английский URL, указывающий на русский оригинал. Убедитесь, что /en/a действительно содержит английскую основную часть, после чего исправьте canonical в HTML и проверьте self-ссылку на обеих страницах. Дубли с параметрами и отдельные региональные варианты разберите отдельно. После релиза сверьте hreflang и canonical на фактических URL, а не на черновых данных.
- Создайте
.github/workflows/ai-corpus-check.ymlиз YAML-шаблона. Событиеpull_requestполезно для проверки данных до слияния; чтение репозитория ограниченоpermissions: contents: read. Скрипт не должен получать ключ внешней модели или реальные секреты. - В разделе Actions откройте job
check, сопоставьте его код завершения с локальным прогоном и зафиксируйте ссылку на проверенный коммит в PR. Не принимайте зелёный результат на старой ревизии за проверку последнего изменения.
# scripts/check.py
rows=[{'url':'https://example.org/ru/a','locale':'ru','canonical':'https://example.org/ru/a','translated':True},
{'url':'https://example.org/en/a','locale':'en','canonical':'https://example.org/ru/a','translated':True}]
def wrong(rows):
return [(p['locale'],p['url'],p['canonical']) for p in rows if p['translated'] and p['url']!=p['canonical']]
assert wrong(rows)==[('en',rows[1]['url'],rows[0]['url'])]
rows[1]['canonical']=rows[1]['url']
assert wrong(rows)==[]
print('cross-language canonical:',wrong(rows))
name: AI corpus checks
on:
pull_request:
permissions:
contents: read
jobs:
check:
runs-on: ubuntu-latest
steps:
- uses: actions/checkout@v7
- uses: actions/setup-python@v7
with:
python-version: '3.13'
- run: python scripts/check.py
Как превратить фикстуру в блокирующий контроль
Приведённый Python намеренно содержит локальную демонстрацию с заранее известным ответом. Успешное завершение команды означает лишь то, что правило распознало показанный пример; оно не означает, что реальные опубликованные страницы прошли аудит. Перед использованием предложенного workflow замените учебные словари и XML на снимок данных вашего генератора страниц. Для задачи «Как проверить canonical на языке AI-перевода статьи» сохраните эталон отдельно от проверяемого вывода, посчитайте найденные нарушения и завершайте программу ненулевым кодом, если список ошибок непустой: после диагностического вывода добавьте проверку вида if errors: raise SystemExit(1), где errors — результат именно вашего контроля. Проверьте этот переход двумя отдельными прогонами: сначала подайте намеренно испорченный экспорт и убедитесь, что job красный, затем исправьте экспорт и дождитесь зелёного результата. Не меняйте ожидаемый результат вместе с данными лишь ради прохождения CI. Отдельно проверяйте доступность URL и полноту выгрузки, иначе пустой снимок даст ложное спокойствие.
Ошибки интерпретации и границы
Это проверка политики конкретного двуязычного издания, а не гарантия того, какой URL будет выбран поиском. Если вы расширяете набор случаев, добавляйте не только новые примеры, но и отрицательные случаи, на которых тест обязан упасть. Проверяйте, что изменение expected прошло ревью отдельно от изменения кода: иначе можно незаметно изменить правило под текущий ответ системы. Избегайте вывода полного приватного набора в CI и не сохраняйте в артефактах ответ закрытой модели без решения о доступе и хранении.
Ошибка выполнения самого Python, нераспознанный формат входа и обнаруженный бизнес-дефект — разные ситуации. В сообщении теста указывайте тип проблемы и безопасный ID. Если тест требует внешний сервис, вынесите его из PR с недоверенным кодом и явно ограничьте доступ к токенам; этот пример намеренно работает локально. Перед публикацией каких-либо результатов опишите методику, область применения и происхождение примеров, иначе читатель воспримет демонстрационную арифметику как характеристику продукта.
Практический разбор именно этого контроля
Не потерять самостоятельно переведённую версию из-за неправильного сигнала о предпочтительном URL. Для самостоятельной проверки сначала выпишите три наблюдаемых состояния: допустимый вход, намеренно недопустимый вход и видимый сигнал отказа. В данной фикстуре это выглядит так: Русская /ru/a имеет canonical /ru/a; полностью переведённая /en/a ошибочно указывает canonical /ru/a. При успешном тесте ожидается: Функция обнаруживает en→ru; после установки self-canonical печатает пустой список. Не превращайте это в числовой KPI: здесь проверяется контракт на конкретных примерах, а не поведение модели на пользовательском трафике.
Это проверка политики конкретного двуязычного издания, а не гарантия того, какой URL будет выбран поиском. Подключая проверку к продукту, расположите её до той операции, ради которой она написана: парсинга, сохранения, отображения или экспорта. Для каждого нового формата добавляйте отдельный негативный пример и письменное решение, почему он отклоняется. Отдельно просмотрите обработку ошибок: система должна отличать невалидный ответ AI от сбоя тестовой инфраструктуры, а пользователь не должен видеть сырой стек или приватное содержимое.
Чек-лист финальной проверки
- Синтетический вход и ожидаемый исход согласованы предметным владельцем.
- Команда
python scripts/check.pyработает локально и в CI на одной версии файлов. - Негативный случай обнаруживается, а не только успешный случай проходит.
- Имена ID и меток уникальны там, где этого требует контракт.
- В репозитории, логах и артефактах нет реальных секретов и приватных текстов.
- Понятно, какой дефект тест находит и каких выводов о качестве AI он не даёт.
- Ссылки на применённые функции и синтаксис workflow перепроверены при переносе.
FAQ
Можно всем переводам поставить canonical на русский оригинал?
Для полноценных языковых версий это может противоречить задаче показывать переводы; Google советует canonical на том же языке.
Что если английская версия не опубликована?
Не объявляйте её полноценной альтернативой; сначала завершите перевод и релиз.
Важен ли self-canonical?
В этой модели он делает намерение сайта явным, но не гарантирует индексацию.
Что если текст переведён только частично?
Требуется редакторская оценка, а не автоматическое присвоение translated=True.
Что делать после обнаружения сбоя
Сохраните конкретный ID, воспроизведите его на текущей ревизии и отделите ошибку входных данных от ошибки функции. Если неверен контракт, исправьте её после предметного ревью; если неверен код, сначала оставьте проваливающийся тест, затем вносите исправление. После зелёного запуска просмотрите соседние случаи с похожими признаками, чтобы локальная правка не изменила другое согласованное поведение. Сохраните версии кода, набора и параметров запуска рядом с выводом: без них сравнивать результаты в будущем нельзя. Не приводите цифру из синтетического примера как измеренный показатель продукта.
Официальные первоисточники
Проверено 26.09.2026: 1, 2, 3, 4, 5, 6. Описание переписано своими словами; изменяемые версии и поля нужно повторно сверять перед дальнейшим использованием.
Читайте также
Как исключить bias из weight decay через Optax
Optax 0.2.6: маска add_decayed_weights применяет decay к kernel и оставляет bias без изменения.
Как использовать Huber loss в Optax для регрессии с выбросами
Optax 0.2.6: Huber loss квадратичен около нуля и линеен после delta; проверяем ошибки 0,5 и 2.
Как использовать sigmoid focal loss в Optax
Optax 0.2.6: focal loss для logits 0 и labels 0/1 при gamma=2; проверка симметричного базового значения.
Комментарии
Пока тихо. Скажите первое слово