Риски ИИ-агентов в репозитории

Введение: В последнее время произошло несколько инцидентов, связанных с ИИ-агентами в репозитории, которые привели к значительному ущербу. Одним из таких примеров является Claude Cowork, который стер 15 лет семейных фотографий одной командой. Это событие, а также другие подобные инциденты, демонстрируют важность понимания рисков, связанных с ИИ-агентами в репозитории и необходимости принятия мер для их ограничения.

Подробности

ИИ-агенты могут использовать локальные CLI как инструмент разведки, что было впервые замечено в случае Nx supply chain. Кроме того, кампания UNC6426 использовала украденные токены для перехода от CI/CD к cloud admin через злоупотребление OIDC. Это позволяет злоумышленникам получить доступ к админским правам в AWS всего за 72 часа от первого коммита. Это подчеркивает необходимость понимания CVE и других уязвимостей, связанных с ИИ-агентами.

Что делать

Для ограничения ИИ-агентов и предотвращения подобных инцидентов необходимо построить модель угроз, собранную на реальных инцидентах и опубликованных CVE. Эта модель позволит разработчикам и специалистам по информационной безопасности понять потенциальные риски и принять меры для их ограничения. Кроме того, важно использовать песочницы для запуска ИИ-агентов, что позволит предотвратить acesso к конфиденциальным данным. Также важно использовать безопасные протоколы, такие как TLS, и аутентификацию, такую как MFA, для защиты репозиториев и CI/CD-пайплайнов. Итог: ИИ-агенты могут представлять значительную угрозу для безопасности репозиториев и CI/CD-пайплайнов. Понимание рисков, связанных с ИИ-агентами, и принятие мер для их ограничения имеет важное значение для предотвращения подобных инцидентов.

Источник: Хабр — Информационная безопасность