Мошенники использовали генеративный ИИ для подделки писем от имени руководителей компаний

Компания Microsoft опубликовала отчёт о новой волне мошенничества, в которой злоумышленники используют генеративный ИИ для имитации внутренней переписки руководителей. Атака нацелена на финансовые подразделения организаций и объединяет несколько техник социальной инженерии в рамках одного письма, что заметно снижает бдительность получателей.

Подробности

В период с 3 по 5 августа Microsoft зафиксировала кампанию из более чем миллиона писем, адресованных корпоративным пользователям. Основная доля получателей — 87,7% — находилась в США. Злоумышленники отправляли сообщения через сторонние сервисы email-рассылок и выдавали себя за топ-менеджеров компаний: CEO, CFO и президентов. Целевыми отраслями стали «IT-услуги и бизнес-консалтинг», «товары народного потребления» и другие. Ключевая особенность кампании — многослойная легенда. Вместо одного стандартного предлога мошенники сочетали в письме сразу несколько элементов: подделку личности руководителя, брендинг известного вендора, сфабрикованный счёт и фальшивую ветку переписки. Чтобы придать истории правдоподобность, злоумышленники включили в письмо якобы пересланный диалог между «руководителем» и компанией ServiceNow, имя которой также использовалось для маскировки. Конечная цель — убедить сотрудников отдела кредиторской задолженности инициировать ACH-платеж на сумму около 50 000 долларов. По данным Microsoft, шаблоны писем содержали множественные признаки использования генеративного ИИ при их создании, а также были адаптированы под конкретных получателей. Домены для импersonation злоумышленники регистрировали заранее. Наблюдаемые техники соответствуют матрице MITRE ATT&CK. Microsoft также опубликовала индикаторы компрометации (IOC) и описала работу своих защитных механизмов — Microsoft Defender и Microsoft Security Copilot, которые помогают выявлять подобные атаки.

Что делать

Организациям рекомендуется усилить контроль финансовых процессов. В частности: - Внедрить обязательную многоступенчатую проверку (MFA) и подтверждение платежей по независимым каналам связи — например, голосовым звонком проверенному контакту, а не ответом на письмо. - Настроить правила фильтрации входящей почты и мониторинг подозрительных доменов, имитирующих корпоративные адреса. - Обучать сотрудников финансовых подразделений распознаванию признаков AI-сгенерированных писем и социальной инженерии. - Использовать решения класса Microsoft Defender для детектирования импersonation-атак и задействовать аналитику угроз через Security Copilot. - Проверять индикаторы компрометации из отчёта Microsoft и сверять их с собственной инфраструктурой. Итог: сочетание генеративного ИИ с классической социальной инженерией делает мошеннические письма всё более убедительными, поэтому защита финансовых процессов должна строиться на независимой верификации платежей, а не только на фильтрах почты.

Источник: Microsoft Security Blog