Как проверить, что ИИ-агент не меняет код за пределами задачи

Как проверить, что ИИ-агент не меняет код за пределами задачи

Чтобы проверить работу ИИ-агента, сравните изменения с исходной версией проекта и просмотрите список затронутых файлов до запуска кода. Сформулируйте задачу с чёткими границами, сохраните контрольную точку в системе контроля версий и попросите агента объяснить каждое изменение. Такой порядок помогает владельцу небольшого сайта заметить лишние правки до публикации. Ниже — практический процесс проверки, который можно повторить после работы Claude Code, Codex или другого агента.

Как задать границы задачи до запуска агента?

Опишите не только желаемый результат, но и область изменений. Например: «Добавь сообщение об ошибке в форму входа. Меняй только файлы формы и её стилей. Не трогай настройки сборки и другие страницы». Чем конкретнее граница, тем проще проверить результат.

Перед началом сохраните текущую версию проекта. Если вы пользуетесь системой контроля версий, создайте отдельную ветку или зафиксируйте исходное состояние. Для небольшого проекта без таких инструментов скопируйте папку в отдельное место. Контрольная точка даст возможность сравнить состояние «до» и «после».

Если агент часто работает с проектом, опишите правила в файле инструкций. Укажите, какие папки можно менять, как запускать тесты и какие части проекта требуют согласования. Подготовить такой файл поможет руководство по созданию AGENTS.md.

Как проверить список изменённых файлов и сравнить код?

Сначала откройте список изменённых файлов. Проверьте, что каждый из них относится к задаче. Если агент добавил правки в конфигурацию, подключил новую библиотеку или изменил несвязанные страницы, остановитесь и выясните причину. Такие изменения не всегда ошибочны, но должны иметь понятное объяснение.

Затем сравните версии построчно: какие строки удалены, какие добавлены и как они влияют на поведение сайта. Не принимайте файл целиком только потому, что агент сообщает об успешном выполнении. Внимательно проверьте настройки, обработку ошибок и участки, которые связаны с деньгами, заказами или входом в систему.

Что проверитьНа что обратить вниманиеДействие при сомнении
Список файловПоявились ли изменения вне указанной областиПопросить агента объяснить каждую такую правку
Сравнение кодаУдалённые проверки, изменённые условия и настройкиПроверить связанные сценарии вручную
ЗависимостиДобавились ли новые библиотеки или инструментыУточнить, зачем они нужны и можно ли обойтись без них
КонфигурацияИзменились ли параметры сборки или запускаСравнить с исходной версией до применения

Попросите агента перечислить изменённые файлы и объяснить каждое изменение одной фразой. Сверьте объяснение с кодом: описание помогает ориентироваться, но не заменяет просмотр diff — построчного сравнения версий.

Как убедиться, что сайт работает после правок?

Проверьте задачу в браузере по конкретному сценарию. Если агент менял форму, заполните её корректными и ошибочными данными. Если правил отображение, откройте страницу на узком экране и на обычном компьютере. Сравните поведение с исходным: остальные страницы должны работать как прежде.

Запустите доступные в проекте тесты и проверьте сайт локально, до публикации. Если автоматических тестов нет, составьте короткий список действий для проверки: открыть страницу, выполнить основную операцию, проверить сообщение об ошибке, перейти по ссылкам. Если тест не проходит, не просите агента «поправить всё» — укажите конкретный сценарий и попросите внести минимальную правку.

Отдельно проверьте секреты и настройки. Агент не должен переносить ключи доступа в исходный код или выводить их в сообщениях. Разбор рисков после генерации кода есть в чек-листе security review проекта.

Какие ошибки чаще всего пропускают при проверке?

  • Принимать отчёт агента на веру, не просматривая список файлов и сравнение кода.
  • Разрешать менять весь проект, хотя задача касается одной формы или страницы.
  • Проверять только успешный сценарий и не вводить ошибочные данные.
  • Публиковать правки сразу, без проверки на локальной копии или тестовом окружении.
  • Оставлять изменения в конфигурации и зависимостях без объяснения их необходимости.

Для каждой задачи оставляйте короткий след: исходное состояние, формулировка задачи, список файлов и результат проверки. Если изменения вышли за границы, верните проект к контрольной точке и попросите агента выполнить задачу заново с более точными ограничениями. Перед публикацией просмотрите diff и пройдите основной сценарий сайта вручную.