Amiga
Оглавление курса · урок 7 из 13

Модуль 2 · Риски · урок 7 из 13

Сгенерированный код: лицензии, уязвимости, ответственность

Для клиента весь код сдало агентство, и неважно, кто его набирал. На этот код распространяются гарантийные обязательства, требования к безопасности и права на результат по договору. Ответственность с появлением агента остаётся прежней, зато проблемы теперь накапливаются быстрее. Ниже три группы рисков сгенерированного кода и проверки, которые их закрывают.

Ответственность не делегируется

Агентство одинаково отвечает за весь сданный код, кто бы его ни написал. Отсюда три правила процесса:

  • Каждый merge request утверждает человек. Агент может писать код и делать первичное ревью, но решение о слиянии принимает ответственный разработчик.
  • Агент не одобряет собственную работу. Код, который написал агент, нельзя отдавать на единоличную проверку тому же агенту.
  • Существующие ворота качества остаются на месте. В документации Codex по интеграции с GitLab прямо сказано, что правила для ревьюера направляют Codex, но тесты, защиту веток и обязательные одобрения не заменяют (GitLab).

Зачем нужно второе правило, видно по данным самой OpenAI. В блоге о проверке кода в масштабе приводятся такие цифры: ревьюер Codex оставляет замечания на 36% PR, целиком сгенерированных облачным Codex, и 46% этих замечаний приводят к правке. На PR, написанных людьми, правкой заканчиваются 53% замечаний (OpenAI Alignment). Агентский код ошибается достаточно часто, чтобы его проверял кто-то независимый. Авторы там же предупреждают о самом опасном: когда чистое ревью начинают считать гарантией безопасности, хотя это лишь один из слоёв защиты.

Откуда лицензионный риск

У агента лицензионный риск приходит двумя путями.

Первый путь — зависимости. Решая задачу, агент может добавить пакет в composer.json или package.json, а у пакета может оказаться лицензия, несовместимая с условиями передачи прав клиенту. Пример: сильный копилефт в закрытом коммерческом продукте. Такое случается и без ИИ, но агент добавляет зависимости быстрее и обсуждает их меньше, чем человек.

Второй путь — содержимое из сети. В документации по доступу агента в интернет OpenAI прямо называет среди рисков загрузку контента с лицензионными ограничениями (internet access). Чем шире у агента доступ в сеть, тем вероятнее, что в код попадёт фрагмент из чужого репозитория.

Отдельно стоит вопрос прав на сам результат. По открытым материалам, условия OpenAI для бизнес-клиентов закрепляют права на результат за клиентом, а в Service Terms есть защита от претензий по авторским правам для части корпоративных тарифов, с исключениями. Распространяется ли она на Codex в вашем договоре и на каких условиях, мы по первоисточнику не подтвердили. Проверьте актуальные Service Terms и свой договор вместе с юристом. Договоры с клиентами тоже перечитайте: если там есть гарантия «оригинальности» кода или запрет на ИИ-инструменты, об этом нужно знать до начала работы.

Лицензия инструмента и лицензия результата — разные вещи. Codex CLI распространяется под Apache-2.0 (GitHub), но эта лицензия относится к самому CLI, на код, который он пишет, она не распространяется.

Уязвимости: что говорят исследования

Veracode в отчёте о безопасности сгенерированного кода (2025) проверил более 100 языковых моделей на задачах на Java, Python, C# и JavaScript (Veracode):

  • 45% образцов кода не прошли проверки безопасности и содержали уязвимости из OWASP Top 10;
  • у Java доля провалов составила 72%;
  • от межсайтового скриптинга (XSS) модели не защитились в 86% релевантных случаев;
  • более новые и крупные модели писали функционально лучший код, но безопаснее он не стал.

Исследовали модели вообще, а не Codex, и задачи были синтетическими. Вывод для процесса всё равно однозначный: без автоматических проверок безопасность сгенерированного кода остаётся делом случая. Для веб-агентства XSS вполне конкретная угроза. Речь о шаблонах вывода в Twig или Blade, где агент легко отключит экранирование, чтобы «заработало».

Проверки, которые закрывают риски

Встройте в CI проверки, которые не зависят от внимательности ревьюера:

  • статический анализ безопасности (SAST) на каждый MR;
  • SCA и проверку лицензий: новые зависимости сверяются со списком разрешённых лицензий. Для PHP хватит встроенной composer licenses, для JS подойдёт сканер лицензий в CI;
  • поиск секретов в диффе, ведь агент мог вписать ключ из примера;
  • правила для ревьюера в разделе ## Code Review Rules в AGENTS.md, например «любое отключение экранирования в шаблонах — P1». Стиль и форматирование, как советует документация, оставьте линтерам.

У OpenAI есть и отдельные инструменты. Codex Security ищет уязвимости и приводит доказательства, а команда @codex security review в PR работает в режиме research preview (Codex Security). Это дополнительный слой поверх SAST и ревью, заменой им он не служит. Пример конвейера для GitLab CI с ревью, разбором SAST и патчами есть в кукбуке OpenAI.

Как ревьюить агентский код руками, рассказано в уроке «Как ревьюить код, написанный агентом», а ворота качества для команды описаны в уроке «Ворота качества».

Раскрытие использования ИИ

OpenAI не предписывает отмечать в коммитах и MR, что код написан с агентом, это решает команда. Но клиентский договор может требовать раскрытия или, наоборот, запрещать такие инструменты. Зафиксируйте позицию компании письменно и согласуйте с юристом формулировку для будущих договоров.

Попробуйте сами

10–15 мин на рабочем месте
  1. В одном PHP-проекте выполните composer licenses и найдите зависимости, лицензии которых вы не готовы объяснить клиенту.
  2. Проверьте, есть ли в CI ваших проектов SAST и поиск секретов. Если нет, поставьте эту задачу первой, до того как агентами начнут пользоваться массово.
  3. Допишите в AGENTS.md одного проекта раздел ## Code Review Rules с тремя правилами безопасности для вашего стека.

Коротко

  • Агентство одинаково отвечает за весь сданный код. Каждый MR утверждает человек, агент свою работу не одобряет.
  • По данным OpenAI, замечания ревьюера на агентских PR приводят к правкам почти так же часто, как на человеческих, поэтому нужна независимая проверка.
  • Лицензионный риск приходит через зависимости и контент из сети; права на результат сверяйте с юристом по Service Terms и договору.
  • Veracode 2025: в 45% сгенерированных образцов нашлись уязвимости, новые модели безопаснее не стали.
  • Обязательный минимум: SAST, SCA, поиск секретов и правила ревью в AGENTS.md.
Отметка хранится только в вашем браузере
Хотите связаться с владельцем
компании напрямую?
Дмитрий Тарасов
Дмитрий Тарасов
СЕО

НАПИСАТЬ

Написать в MAX