Salesbleed: атака через AI-агентов Salesforce открывает путь к фишингу в Slack

Новая угроза, получившая название Salesbleed, демонстрирует, как агентный искусственный интеллект может быть использован для обхода традиционных барьеров безопасности между внешними и внутренними системами. Атака эксплуатирует способность AI-агентов Salesforce извлекать данные из веб-источников и передавать их в корпоративные каналы коммуникации, в частности в Slack. Поскольку такие сообщения поступают от доверенных внутренних инструментов, сотрудники с гораздо меньшей вероятностью заподозрят фишинг.

Подробности

Согласно исследованию, опубликованному Dark Reading, Salesbleed основан на фундаментальной особенности агентных AI-систем: они способны обрабатывать и переносить инструкции между различными приложениями, выполняя задачи автономно. Злоумышленник может разместить вредоносные инструкции на внешнем веб-ресурсе, после чего AI-агент Salesforce, интегрированный с рабочими процессами компании, извлекает эти данные и использует их для формирования сообщений внутри Slack. Ключевая опасность заключается в том, что такие сообщения выглядят как легитимные внутренние уведомления, сгенерированные доверенным корпоративным инструментом. Это позволяет обходить стандартные механизмы защиты от фишинга, ориентированные на анализ внешних источников и подозрительных отправителей. Атака затрагивает организации, которые используют Salesforce в связке с Slack и полагаются на AI-агентов для автоматизации бизнес-процессов. На момент публикации исходной статьи конкретные идентификаторы CVE не указывались. Уязвимость носит характер концептуальной демонстрации проблемы безопасности агентных AI-систем, интегрированных в корпоративную среду.

Что делать

Специалисты по информационной безопасности рекомендуют организациям, использующим Salesforce и Slack, предпринять следующие меры:

• Ограничить права AI-агентов на извлечение данных из внешних веб-источников, особенно если эти данные впоследствии попадают во внутренние каналы коммуникации.
• Внедрить дополнительные проверки и фильтрацию контента, генерируемого AI-агентами, перед его отправкой в Slack или другие корпоративные мессенджеры.
• Провести аудит существующих интеграций между Salesforce, Slack и AI-агентами, чтобы выявить потенциальные цепочки передачи данных от внешних источников к внутренним пользователям.
• Обучить сотрудников тому, что сообщения от внутренних инструментов также могут содержать фишинговые ссылки и требуют осторожности.
• Настроить мониторинг аномальной активности AI-агентов, включая необычные запросы к внешним ресурсам и генерацию сообщений с подозрительным содержимым.
• Следить за обновлениями безопасности от Salesforce и Slack, а также за публикациями исследователей по теме агентных AI-уязвимостей.

Salesbleed наглядно демонстрирует, что интеграция AI-агентов в корпоративные процессы создаёт новые векторы атак, которые не покрываются традиционными средствами защиты. Организациям необходимо пересмотреть модели доверия к автоматизированным системам и учитывать риски, связанные с передачей данных между приложениями.

Источник: Dark Reading