Почему Policy в Amazon Bedrock AgentCore выбрала Cedar для защиты агентных рабочих процессов
Модели Large Language Model (LLM) в агентах представляют собой фундаментальную проблему безопасности, поскольку их принятие решений не может быть предсказано или гарантировано заранее. Чтобы обеспечить безопасность, необходимо контролировать доступ агентов к инструментам, что можно реализовать с помощью авторизации на границе между агентом и инструментами. Это позволяет создать безопасную среду, в которой агент может работать автономно.
Введение
Автономность агентов создает серьезные проблемы безопасности, поскольку их принятие решений не может быть предсказано или гарантировано заранее. Модели LLM уязвимы для атак по типу "prompt injection", когда злоумышленники вводят вредоносные команды через инструменты или пользовательские входные данные. Кроме того, LLM не могут четко различать команды и данные, что делает их еще более уязвимыми.Подробности
Чтобы решить эту проблему, необходимо применить авторизацию на границе между агентом и инструментами. Это можно реализовать с помощью отдельного слоя авторизации, который находится вне агента и инструментов. Этот слой должен быть аудиторским и детерминированным, чтобы обеспечить безопасность автономных агентов. AgentCore Policies от Amazon Bedrock AgentCore Gateway может быть использован для реализации этого подхода.Что делать
Чтобы обеспечить безопасность автономных агентов, необходимо: - Контролировать доступ агентов к инструментам - Использовать авторизацию на границе между агентом и инструментами - Реализовать отдельный слой авторизации, который находится вне агента и инструментов - Обеспечить аудиторский и детерминированный механизм авторизации Итог: Безопасность автономных агентов возможна только с помощью отдельного слоя авторизации, который находится вне агента и инструментов. Этот подход обеспечивает безопасную среду, в которой агент может работать автономно, без компрометации его автономности.Источник: AWS Security Blog