Amazon меняет правила разработки после крупных сбоев: весь код, написанный ИИ, теперь должен одобрять старший инженер
Amazon меняет правила разработки после серии технических сбоев, которые внутри компании связали с кодом, написанным с помощью генеративного ИИ. Теперь изменения, созданные при участии таких инструментов, должны обязательно проходить проверку у старших инженеров.
О новой политике стало известно из внутреннего письма старшего вице-президента Amazon Дэйва Тредуэлла, с которым ознакомилась Financial Times. В письме он прямо признаёт, что в последнее время у компании были проблемы со стабильностью сервисов. Внутренний брифинг описывает «тенденцию инцидентов» с «большим радиусом воздействия», которые связывают с изменениями в коде, сделанными при помощи генеративного ИИ.
По данным источников издания, некоторые из недавних инцидентов затронули инфраструктуру Amazon Web Services. По крайней мере два сбоя AWS могли быть вызваны кодом, написанным или изменённым при помощи ИИ-ассистентов для программирования. Учитывая масштабы AWS — крупнейшего облачного провайдера в мире — даже небольшая ошибка в инфраструктурном коде может затронуть тысячи компаний и онлайн-сервисов.
В Amazon всегда существовала система проверки кода другими разработчиками, однако новое требование отличается от обычных проверок. Теперь любые изменения, созданные с помощью ИИ-инструментов, требуют обязательного одобрения старшего инженера. Разработчики младшего и среднего уровня больше не могут самостоятельно вносить такой код в систему.
Фактически опытные инженеры превращаются в своеобразный фильтр качества для машинного кода. Их роль постепенно смещается от написания новых компонентов к проверке и корректировке того, что предлагает ИИ.
Во внутреннем брифинге говорится, что одна из причин проблемы — быстрое распространение новых практик разработки, для которых ещё не выработаны устойчивые правила. Генеративные инструменты позволяют писать код быстрее, чем прежде, но при этом повышается риск незаметных ошибок, которые могут распространяться по сложной инфраструктуре.
Подобные опасения обсуждаются и в других технологических компаниях. Инструменты вроде GitHub Copilot значительно ускорили программирование, однако многие команды отмечают рост количества скрытых ошибок и так называемого «технического долга» — когда быстро написанный код позже требует серьёзной переработки.
Некоторые обозреватели отмечают, что массовое использование ИИ в программировании может создавать новый парадокс продуктивности. Сгенерированный код нередко сложнее проверять, чем написанный человеком: он выглядит аккуратно и убедительно, но может скрывать ошибки или неочевидные последствия для системы. В результате значительная часть времени, которое ИИ экономит на написании кода, затем уходит на его проверку и исправление — и обещанный рост эффективности начинает сокращаться.