IT4IT Итоги 23 недели 2026

В этом выпуске IT for IT разбираем новый класс киберрисков, связанный с автономными AI-агентами: goal hijacking, перехват целей, и эскалацию доверия между агентами. Главный вопрос выпуска: AI-агенты действительно ломают привычные модели безопасности или просто вскрывают старые архитектурные ошибки, которые компании годами игнорировали? Мы обсуждаем, как агент может быть скомпрометирован не через классический взлом, а через естественный язык: документ, PDF, сообщение, лог, веб-страницу или цепочку взаимодействий с другим агентом. В такой архитектуре вредоносная инструкция может выглядеть как обычный контекст, а опасное действие — как легитимный API-вызов авторизованного процесса. В выпуске разбираем: как работает goal hijacking и почему это больше, чем обычный prompt injection; почему MCP-коннекторы, плагины и инструменты агента становятся новой поверхностью атаки; как вредоносный PDF или внешний сайт может изменить поведение AI-агента; почему в логах атака может выглядеть как нормальное действие доверенного сервиса; зачем компаниям нужен SBOM для AI-агентов; как supply chain угрозы переходят в мир AI-инструментов, npm-пакетов и API-оберток; почему multi-agent архитектура может привести к эскалации доверия между агентами; и почему zero trust для AI — это уже не теория, а обязательное архитектурное требование. Отдельно говорим о том, почему автономные агенты нельзя воспринимать как «цифровых коллег». Это процессы с ограниченными правами, проверяемым контекстом, наблюдаемыми действиями и жесткими контрактами. Если агент может читать данные, вызывать инструменты, менять состояние систем и передавать задачи другим агентам, то его поведение должно контролироваться не только на уровне токена, но и на уровне смысла операции. Большая часть выпуска посвящена архитектурным выводам для CTO, CISO, Enterprise Architects и команд, внедряющих генеративный AI в корпоративную среду. Мы обсуждаем принцип наименьших привилегий, микросегментацию, контроль supply chain, policy engine, human in the loop, аудит вызовов API, независимую проверку критических операций и необходимость детерминированных ограничений вокруг вероятностных моделей. Главная мысль выпуска простая: AI-агенты не прощают архитектурной небрежности. Если раньше избыточные права, слабый контроль интеграций и доверие к внутреннему периметру могли годами оставаться незаметными, то в мире автономного AI эти ошибки превращаются в экспоненциальный рост поверхности атаки. В финале задаем два практических вопроса для любой компании, которая внедряет AI-агентов: если внутренний агент сегодня прочитает вредоносный текст в обычном логе и решит изменить свою цель — на каком этапе архитектура остановит его действия? И второй вопрос: вы точно знаете, кому и чему сейчас доверяют ваши оркестраторы? Это выпуск о том, почему безопасность AI больше нельзя сводить к защите модели. Теперь нужно защищать контекст, инструменты, цепочки доверия, интеграции и сами цели, которые агенты пытаются выполнить.