Хакеры используют кастомные GPT в ChatGPT для ClickFix-атак

Злоумышленники продолжают искать новые способы доставки вредоносного кода, и на этот раз они обратились к инструментам на базе искусственного интеллекта. Согласно данным SecurityWeek, в ClickFix-атаках были замечены кастомные версии ChatGPT — Custom GPTs, которые используются для имитации легитимных продуктов и введения пользователей в заблуждение. ClickFix — это метод социальной инженерии, при котором жертву убеждают самостоятельно выполнить вредоносные команды, чаще всего через PowerShell или окно «Выполнить» в Windows. Такой подход позволяет обходить многие традиционные средства защиты, поскольку вредоносные действия инициирует сам пользователь, а не автоматизированная программа.

Подробности

Ключевая особенность новой кампании — применение Custom GPTs, персонализированных версий ChatGPT, создаваемых пользователями платформы. Злоумышленники конфигурируют таких ботов так, чтобы они выдавали себя за официальные продукты или сервисы поддержки. Взаимодействуя с поддельным ассистентом, жертва получает инструкции, которые выглядят как легитимные шаги по устранению неполадок или установке ПО. На деле эти инструкции содержат команды PowerShell, выполнение которых приводит к компрометации системы. Поскольку Custom GPTs воспринимаются пользователями как доверенный инструмент внутри экосистемы ChatGPT, уровень доверия к выдаваемым ими рекомендациям оказывается выше, чем к обычным фишинговым письмам или подозрительным сайтам. Это делает новый вектор атаки особенно опасным: жертва может не заподозрить подвоха, если взаимодействует с ИИ-ассистентом напрямую. Специфические идентификаторы CVE в исходной публикации не упоминаются, поскольку речь идёт не об уязвимости конкретного продукта, а о злоупотреблении функциональностью платформы и методами социальной инженерии.

Что делать

Для снижения рисков рекомендуется придерживаться следующих мер: - Относиться с осторожностью к любым инструкциям от ИИ-ассистентов, особенно если они предлагают выполнить команды в PowerShell, терминале или через диалог «Выполнить». - Не запускать команды, полученные от незнакомых Custom GPTs или ботов, даже если они выглядят как официальные. - Проверять подлинность ассистентов и использовать только проверенные источники при обращении к ИИ-сервисам. - Ограничить права пользователей на выполнение скриптов и применение политик контроля приложений (Application Control) для блокировки нежелательных команд PowerShell. - Проводить обучение сотрудников, объясняя, что ИИ-инструменты также могут быть скомпрометированы или использованы злоумышленниками. - Настроить мониторинг выполнения подозрительных команд PowerShell и аномальной активности на конечных точках. Итог: появление Custom GPTs в арсенале ClickFix-атак демонстрирует, что злоумышленники активно адаптируют ИИ-инструменты под свои цели. Доверие к ИИ-ассистентам не должно заменять базовые принципы кибергигиены — любые команды, предлагаемые к выполнению, требуют критической проверки.

Источник: SecurityWeek