Илья Захаров, «Группа Астра»: Код, написанный ИИ — это «кот в мешке», проверить его можно только наблюдением

Эксперт уверен, что наблюдаемость станет главным способом контролировать код, который написал ИИ.

«Раньше разработчик отчетливо понимал, что происходит в его коде, но сегодня часть, которую пишут агенты, становится всё больше, и по-настоящему код не знает никто. При этом он всё равно попадёт в промышленную эксплуатацию после проверок, тестов и согласований, по итогам которых все будут уверены, что проблем нет», — говорит Илья Захаров.

Сегодня единственный способ узнать, как такой код ведёт себя на самом деле – наблюдать за ним в работе. «Наблюдаемость из инструмента эксплуатации превращается в главный механизм контроля качества. Метрики, логи и трассировки становятся по сути документацией: они рассказывают, что делает код, лучше, чем любой человек в команде. Телеметрия будет закладываться в код уже при генерации», — продолжает эксперт «Группы Астра».

Эксперт также прогнозирует, что в ближайшем будущем агенты смогут сами устранять типовые сбои и работать в дежурной смене, подробности в статье.

«Первые шаги в этом направлении уже сделаны. На конференции «Группы Астра» был представлен AMAIA (Astra Monitoring AI Agents) – агентный слой поверх платформы наблюдаемости. Агенты работают по инструкциям на русском языке, разбирают инциденты, накапливают опыт и разворачиваются внутри контура заказчика. Сейчас они уже работают в пилотах у крупных компаний», – заключил Илья Захаров.

Уже 16 октября в 14:00 в прямом эфире продемонстрируем, какие задачи ИИ решает в мониторинге сегодня. Зарегистрироваться на вебинар можно по ссылке.