Zero Trust для AI-агентов начинается с устранения нулевой видимости

Ключевая проблема, по мнению экспертов, заключается в том, что организации пытаются применять принципы Zero Trust к AI-агентам, не имея базовой видимости их действий. Невозможно построить модель доверия вокруг сущности, поведение которой остаётся непрозрачным.

Подробности

Инцидент в Hugging Face, произошедший в ходе оценки агентов OpenAI, стал катализатором пересмотра подходов. Хотя конкретные технические детали и присвоенные идентификаторы CVE в исходном материале не раскрываются, сам факт вторжения в среду оценки демонстрирует: AI-агенты могут становиться вектором атаки и объектом компрометации.

Основная сложность заключается в отсутствии наблюдаемости. Традиционные средства безопасности — логи, мониторинг, системы обнаружения вторжений — плохо адаптированы к автономным агентам, которые принимают решения и выполняют действия без прямого участия человека. В результате организации получают нулевую видимость: они не знают, к каким ресурсам обращается агент, какие API вызывает, с какими данными работает и какие цепочки действий выстраивает.

Принципы Zero Trust предполагают проверку каждого запроса и минимизацию привилегий. Однако без телеметрии и полного журналирования действий агента эти принципы остаются декларацией. Агент может иметь избыточные права, обращаться к чувствительным данным и взаимодействовать с внешними сервисами — и всё это останется незамеченным.

Что делать

Эксперты рекомендуют начинать не с внедрения моделей доверия, а с обеспечения видимости. Конкретные шаги включают:

• Развернуть полное журналирование и телеметрию для всех действий AI-агентов, включая вызовы API, обращения к данным и межагентные взаимодействия.
• Ограничить привилегии агентов по принципу минимально необходимого доступа — не выдавать им прав больше, чем требуется для конкретной задачи.
• Изолировать среды выполнения агентов, особенно при проведении оценок и тестирования, чтобы компрометация одного агента не затрагивала критичные системы.
• Внедрить контроль и аудит исходящих соединений агентов — в том числе к внешним сервисам и репозиториям.
• Регулярно пересматривать права доступа и проводить проверки на предмет избыточных разрешений.

Только после того, как обеспечена наблюдаемость, имеет смысл выстраивать политики Zero Trust: сегментацию, многофакторную аутентификацию (MFA) для доступа агентов к ресурсам, шифрование каналов (TLS) и контроль на основе контекста.

Итог: Zero Trust для AI-агентов невозможен без предварительного решения проблемы видимости. Пока организации не будут знать, что именно делают их агенты, любые модели доверия останутся неэффективными.

Источник: The Hacker News