Уязвимости ИИ: Как Расследовать Активность Систем Искусственного Интеллекта
В последнее время системы ИИ стали неотъемлемой частью нашей повседневной работы, и теперь расследователям необходимо иметь последовательный подход к реконструкции того, что произошло внутри этих систем. Без такой структуры сигналы активности не могут образовать связный отчет о том, что произошло. Microsoft опубликовала новую книгу для расследователей по активности Microsoft 365 Copilot и Azure AI services, чтобы помочь решить эту проблему.
Подробности
Команда безопасности Microsoft уже расследует активность, связанную с Microsoft 365 Copilot и Azure AI services, от попыток внедрения запросов до неожиданного доступа к данным. Эти сигналы можно наблюдать, но без структуры они не образуют связного отчета о том, что произошло. Взаимодействия с системами ИИ генерируют телеметрию в Microsoft Purview, Defender и Sentinel, которая отражает, кто инициировал взаимодействие, когда оно произошло и какие ресурсы были задействованы. Эта телеметрия обеспечивает основу для реконструкции активности ИИ в корпоративных средах.Что делать
Чтобы решить эту проблему, Microsoft опубликовала новую книгу для расследователей по активности Microsoft 365 Copilot и Azure AI services. Книга предоставляет структурированный подход для расследования активности, связанной с ИИ, sử dụng уже доступную телеметрию в продуктах безопасности Microsoft. Методология следует последовательности объема-контекста-сигнала. Расследования начинаются с определения, кто взаимодействовал с системами ИИ, когда активность произошла и какие услуги были задействованы. Затем расследователи расширяют контекст ресурсов: что система доступила, какие данные могли быть раскрыты и как эта активность соответствует ожидаемому поведению. Итог: Книга для расследователей по активности Microsoft 365 Copilot и Azure AI services обеспечивает структурированный подход к реконструкции активности ИИ, позволяя командам реагирования перейти от изолированных сигналов к связному отчету об активности: определение объема использования ИИ, понимание, какие данные были доступны во время взаимодействия, и оценка, является ли наблюдаемое поведение последовательным с нормальным использованием, нарушением политики или индикаторами активных угрозовых условий по всему спектру услуг безопасности Microsoft.Источник: Microsoft Security Blog