Anthropic: российские хакеры использовали Claude AI для автоматизации обхода защит
Компания Anthropic сообщила, что злоумышленники, предположительно связанные с Россией, применяли её чат-бот Claude для автоматизации обхода механизмов защиты вредоносного ПО. Инцидент также затронул попытки атаковать собственную инфраструктуру вендора — включая кражу ещё не выпущенной модели Claude. Это демонстрирует растущую тенденцию: киберпреступники всё активнее используют инструменты ИИ не только как цель, но и как средство атаки.
Подробности
По данным Anthropic, хакеры использовали возможности Claude для генерации и модификации кода, позволяющего вредоносным программам уклоняться от обнаружения системами безопасности. Автоматизация таких процессов существенно снижает порог входа для злоумышленников и ускоряет подготовку атак. Компания не раскрывает конкретные CVE или версии продуктов, однако подчёркивает, что инцидент затронул внутреннюю инфраструктуру вендора. Отдельно упоминается попытка кражи предрелизной модели Claude — то есть версии, ещё не доступной публично. Это указывает на то, что атакующие стремятся получить доступ не только к готовым инструментам, но и к перспективным разработкам, которые могут дать преимущество в будущем. Anthropic отмечает, что подобные атаки становятся системными: преступные группы целенаправленно изучают инфраструктуру ИИ-компаний, ищут уязвимости в API, системах аутентификации и цепочках поставок. Использование ИИ для автоматизации вредоносных задач — от генерации обфусцированного кода до подбора способов обхода эвристических анализаторов — превращает такие инструменты в полноценный элемент киберпреступного арсенала.Что делать
Для организаций, использующих ИИ-сервисы или разрабатывающих собственные модели, рекомендации следующие: - Усилить контроль доступа к внутренним системам и API, включая обязательное использование MFA и принципа наименьших привилегий. - Регулярно проводить аудит кода и моделей на предмет несанкционированного использования или утечек. - Внедрять мониторинг аномальной активности, особенно в сегментах, связанных с обучением и развёртыванием моделей. - Обеспечить защиту цепочек поставок: проверять сторонние библиотеки и зависимости, используемые в ИИ-пайплайнах. - Для вендоров ИИ — изолировать предрелизные версии продуктов и ограничивать к ним доступ даже внутри компании. Также важно учитывать, что автоматизация обхода защит с помощью ИИ — это не гипотетическая угроза, а уже фиксируемая практика. Специалистам по безопасности стоит пересмотреть модели угроз с учётом того, что атакующий может использовать ИИ для адаптации вредоносного кода в реальном времени. Итог: инцидент с Anthropic подтверждает, что ИИ-инструменты становятся одновременно и мишенью, и оружием. Компаниям необходимо учитывать этот двойственный риск при построении стратегии кибербезопасности.Источник: SecurityWeek