Как ИИ меняет кибератаки и защиту бизнеса

— Пока атакующие используют ИИ активнее защитников. Атаки стали плотнее и быстрее. В отношении одной компании число изменений векторов атак может достигать миллионов за сутки. Появились и новые сценарии. Раньше заражённые устройства получали команды от управляющего сервера, а подозрительное соединение можно было выявить по неизвестному IP-адресу или домену. Теперь боты могут получать команды и передавать данные через легитимные облачные ИИ-сервисы, и привычные индикаторы компрометации могут не сработать.

Ещё один риск — теневое использование ИИ, или shadow AI. Сотрудники отправляют конфиденциальные данные во внешние сервисы. Известны случаи, когда разработчики загружали туда весь исходный код компании. Наконец, атаковать можно и сам ИИ. Например, скрытая инструкция в анализируемых данных может заставить модель проигнорировать правила и выполнить вредоносное действие. Классические решения от таких атак не защищают.

— ИИ уже может обогащать данные, собирать сведения об инциденте, классифицировать события, выделять подозрительные и предлагать меры реагирования. Агенты могут выполнять конкретные действия в инфраструктуре заказчика, например остановить процесс, заблокировать адрес, удалить файл или закрыть пользователю доступ. Сейчас решения проверяют специалисты, и они же выполняют эти действия. Полностью автономных SOC пока нет. Применять И И нужно и в самих средствах защиты, поскольку прежними технологиями сложно справляться с таким потоком атак.

— С 2022 года отечественные решения прошли проверку в условиях серьёзных атак. Российские поставщики в целом готовы к новым вызовам, но им ещё предстоит научиться анализировать запросы к моделям, их ответы и обмен данными между агентами. Важно выявлять конфиденциальные сведения и при необходимости заменять, маскировать или токенизировать их. По моей оценке, российская отрасль кибербезопасности занимает сильные позиции и в мировом масштабе. В частности, у отечественных компаний большой опыт в разработке систем предотвращения утечек (DLP). Этот опыт поможет им адаптировать продукты и процессы SOC для работы с ИИ.

— Мы выделили безопасность ИИ в отдельное направление и выпустили Solar AI Firewall. Он защищает от атак с помощью скрытых инструкций, выявляет и маскирует конфиденциальные сведения и при необходимости подключает DLP. Вокруг этого направления формируется экосистема, в которой существующие продукты дополняют друг друга при защите от атак на модели и агентов.

Мы также сосредоточились на качестве продуктов. Использование ИИ-агентов в разработке позволяет быстрее устранять технический долг и выпускать запланированные функции. Кроме того, мы усилили основные продукты, включая DLP-систему Solar Dozor, шлюз Solar webProxy и решения для управления доступом PAM и IDM.

— Мы выделяем три приоритета: адаптация существующих технологий с помощью ИИ, объединение продуктов на одной платформе и защита самого ИИ. Одного Solar AI Firewall для этого недостаточно. У агентов есть права и привилегии, они работают с данными, сетевым трафиком и конечными устройствами. Поэтому DLP, IDM и PAM, веб-прокси и средства обнаружения и реагирования на конечных устройствах (EDR) должны действовать согласованно. Если эти продукты останутся разрозненными, часть угроз можно пропустить.