AI-агентам дали доступ — но кто отдаёт им приказы?

Стремительное внедрение AI-агентов в корпоративную инфраструктуру создаёт новый класс рисков: агенты получают доступ к почте, файлам, API и внутренним системам, но при этом остаются уязвимыми к манипуляциям извне. Как отмечает BleepingComputer, злоумышленники могут использовать вредоносные электронные письма, веб-сайты и плагины, чтобы заставить агента выполнять нежелательные действия — от кражи данных до удаления файлов — в рамках его легитимных полномочий.

Подробности

Ключевая проблема заключается в том, что AI-агент действует от имени пользователя или организации и обладает соответствующими правами. Если злоумышленнику удаётся внедрить инструкции через контент, который агент обрабатывает (письмо, веб-страницу, плагин), он может перенаправить поведение агента без взлома каких-либо учётных данных. Фактически атака эксплуатирует доверие к агенту, а не уязвимость в коде. Компания Gen Digital описала, как её решение Agent Trust Hub помогает защищать AI-агентов за счёт нескольких механизмов: верификации навыков (skill verification), защищённого подключения (secure connectivity) и средств контроля времени выполнения (runtime controls), которые перехватывают опасные действия агента до их выполнения. Таким образом, защита строится не только на аутентификации самого агента, но и на постоянном контроле того, что он делает.

Что делать

Организациям, использующим AI-агентов, рекомендуется придерживаться принципа минимальных привилегий: агент должен иметь доступ только к тем ресурсам, которые действительно необходимы для его задач. Следует внимательно относиться к источникам, из которых агент получает инструкции и контент, — входящие письма, внешние сайты и сторонние плагины должны рассматриваться как потенциально недоверенные. Также важно внедрять контроль действий агента во время выполнения, чтобы опасные операции (например, массовое удаление файлов или передача данных вовне) блокировались или требовали подтверждения. Верификация подключаемых навыков и плагинов снижает риск компрометации через сторонние расширения, а защищённые каналы связи уменьшают поверхность атаки. Итог: AI-агенты расширяют возможности автоматизации, но одновременно расширяют и периметр атаки. Контроль над тем, кто и как отдаёт им приказы, становится такой же важной задачей, как и контроль доступа к самим системам.

Источник: BleepingComputer