Реализация модели авторизации на основе минимальных привилегий в цепочках ИИ с использованием Cedar
Безопасность multi-агентных систем ИИ требует особого внимания к вопросам авторизации. Без надлежащего контроля агенты могут получать доступ к данным и выполнять действия, выходящие за рамки авторизации пользователей. Эта проблема классифицируется как ASI03: Identity & Privilege Abuse в OWASP Top 10 для приложений с агентами. В этой статье мы рассмотрим, как использовать модель авторизации на основе минимальных привилегий, построенную с помощью языка авторизации Cedar, для ограничения доступа агентов в цепочках ИИ.
Подробности
Для решения этой проблемы мы предлагаем использовать трехслойную модель авторизации, построенную с помощью языка авторизации Cedar. Cedar — это язык открытого кода, позволяющий создавать политики авторизации на основе минимальных привилегий. В данной реализации используется аутентификация на основе OAuth 2.0 и авторизация на основе Cedar. Агент, получающий доступ к данным, должен продемонстрировать соответствие политикам Cedar на трех слоях: - L1 – Agent-to-tool: Проверка того, что агент имеет достаточный уровень доверия (1-5), принадлежит к правильному пространству имен (например, оплаты) и находится на этапе производства. - L2 – Agent-to-agent delegation: Проверка того, что количество делегированных шагов не превышает ограничения (五), и что запрошенные задачи являются подмножеством зарегистрированных возможностей целевого агента. - L3 – Originating user authorization: Проверка того, что пользователь, инициировавший цепочку, имеет необходимую роль (например, администратор), прошел МFA и находится в пределах допустимой глубины делегирования.Что делать
Для реализации этой модели авторизации необходимо: 1. Аутентифицировать пользователя с помощью OIDC-совместимого провайдера идентификации (например, Amazon Cognito с МFA на основе TOTP). 2. Выдать пользователю верifiable claims (например, sub, role, amr, session_id) в виде JWT. 3. Передать JWT и запрос задачи агенту. 4. Проверить авторизацию на каждом слое Cedar, выполняя политики авторизации последовательно, останавливаясь на первом отклонении. Итог: Использование модели авторизации на основе минимальных привилегий, построенной с помощью языка авторизации Cedar, позволяет ограничить доступ агентов в цепочках ИИ и предотвратить потенциальные уязвимости безопасности. Эта реализация может быть использована для построения более безопасных multi-агентных систем ИИ.Источник: AWS Security Blog