NIST, CISA и NSA: когда инцидент — это AI-агент, доказательством становится запись идентичности

Агентные AI-системы всё активнее выполняют действия от имени пользователей и сервисов: обращаются к API, запускают операции, принимают решения. Когда такой агент начинает вести себя непредсказуемо, организация сталкивается с инцидентом, природа которого плохо укладывается в привычные процедуры реагирования. Именно этому посвящено новое совместное руководство NIST, CISA и NSA, которое предлагает относиться к «сбежавшим» агентам как к инцидентам, сценарии которых необходимо заранее репетировать. Почему это важно: в отличие от классического вредоносного ПО, AI-агент часто действует в рамках легитимных учётных данных и разрешений. Формально он не взламывает систему — он пользуется теми правами, которые ему выдали. Из-за этого стандартные вопросы «кто атаковал» и «как проник» теряют смысл, а на первый план выходит вопрос идентичности: от чьего имени агент совершал действия.

Подробности

Руководство исходит из того, что самая трудная часть реагирования — ответить, чьими полномочиями пользовался агент. И этот ответ должен существовать до наступления инцидента, а не собираться постфактум. Иными словами, организациям нужно заранее выстроить полную и достоверную запись идентичности: какие учётные записи и токены были у агента, какие права им соответствовали, какие действия и от чьего имени совершались. Именно такая запись становится доказательной базой при разборе инцидента — без неё восстановить цепочку полномочий практически невозможно. Подход фактически переносит на AI-агентов практики, хорошо знакомые специалистам по ИБ: управление привилегированным доступом, принцип наименьших привилегий, журналирование и атрибуция действий. Дополнительно подчёркивается необходимость репетиций — сценарии реагирования на «агентные» инциденты должны отрабатываться так же, как сценарии на утечки данных или компрометацию учётных записей. Конкретные продукты и версии в руководстве не перечисляются, как и не приводятся идентификаторы CVE — документ носит методологический характер.

Что делать

- Определите, какие AI-агенты используются в инфраструктуре, под какими учётными записями они работают и какие права им выданы. - Сведите полномочия агентов к минимуму: не давайте им больше доступа, чем требуется для выполняемых задач. - Обеспечьте полное журналирование действий агентов с привязкой к конкретной идентичности и полномочиям — так, чтобы запись можно было использовать как доказательство при разборе. - Разработайте и отрепетируйте сценарии реагирования на инциденты с участием агентов, включая порядок остановки агента и отзыва его учётных данных. - Заранее определите, кто в организации отвечает за расследование таких инцидентов и как будет восстанавливаться цепочка полномочий. Итог: надёжная запись идентичности и отработанные сценарии реагирования превращают непредсказуемое поведение AI-агента из хаотичного инцидента в управляемый разбор с доказуемой картиной полномочий.

Источник: BleepingComputer