Использование ИИ в кибербезопасности и на примере отдельных продуктов, ближайшая эволюция развития и главные вызовы

Вызовы, которые перед нами ставит ИИ, местами противоречивы в силу большого спектра технологий, но тем не менее они активно входят в нашу жизнь. В большей степени эффективно использование ИИ в бизнесе и в кибербезопасности, в части автоматизации рутинных задач, где мы можем строить небольшие автоматические процедуры, которые будут ускорять принятие решений. Сегодня актуален вопрос: сможет ли ИИ нас защитить без человека? Пока такого сценария мы не видим, потому что на критических сценариях, там, где нет большого опыта практики, регламента, правил, решения всё равно принимает человек. ИИ нам помогает в автоматизации задач, которые могут использоваться не только во благо, но и во вред, то есть быть атакующими. Пока мы не видим пути, на котором ИИ будет полностью защищать нас самостоятельно.

Классический ML у нас в компании уже очень давно, и практику вокруг ИИ мы начали развивать задолго до сегодняшнего бума. У нас в линейке есть класс решений по анализу пользовательского поведения, поэтому сталкиваясь с новыми задачами и возможностями ИИ, мы тщательно выбирали, где это полезно применить, а где это будет пример переавтоматизации. Сейчас мы видим интересный парадокс, маркетинг вокруг ИИ и желание не упустить всего того, что он может. Мы в процессе попыток и экспериментов использования ИИ смещаем свой фокус от получения результата на само использование ИИ. Это достаточно опасно. В своих подходах, мы используем строгий отбор: где какие технологии будут действительно нести пользу и нести вклад в результат, а где, наоборот, будут нести дополнительные затраты на их сопровождение. Кроме классических моделей, мы используем инструменты для категоризации, суммаризации, рекомендаций, и здесь важно отметить, как мы подходим к внедрению или использованию этих технологий и какую ответственность как вендор мы несем за предоставленные решения. Любое новое решение обязательно проходит этапы исследования, проверок и только потом под нашу ответственность поступает к клиенту. По опыту общения с нашими заказчикам мы выделяем 2 подхода к решению задач. Первый — когда мы пытаемся получить быстрый результат, но не до конца уверены, что это та самая задача, которую надо решать. То есть с крупными ML можно построить различные сценарии, но это не то, с чем готовы работать наши крупные заказчики, так как отдавать свои данные в неуправляемый контур опасно, а для нас основной критерий — это кибербезопасность. Поэтому чаще мы рассматриваем второй подход, когда решение задач внутри контура заказчика, что накладывает определенные ограничения, которыми мы можем пользоваться, выбирая инструменты для автоматизации рутинных операций, какой-то рекомендательной модели и т. д.

У нас в линейке, кроме продуктов, появляется единая технологическая платформа. Сейчас наши продукты проходят этап перехода на нее, то есть продукты на единой архитектуре будут позволять получать дополнительный эффект при их использовании. Например, чтобы выдать рекомендацию по исправлению какого-то инцидента, нам нужно обогатиться знаниями из разных продуктов. А когда они работают на единой платформе, это становится сильно быстрее, дешевле, без потери контекста. Поэтому мы собираем данные в одном месте и, если заказчик уже построил внутри себя процессы такого уровня зрелости, что готов дообучать инструменты, которые внутри себя применяет, то ему необходимо быть уверенным в качестве поставляемых в эти модели данных. Единая платформа позволяет это сделать. Еще один подход — это используемость компонентов. На платформе есть технологические компоненты, которые могут быть использованы в продуктах, а также мультиагентными системами сценария реагирования и т. д.

Первое — это какие вызовы перед нами ставят злоумышленники, используя технологии ИИ. Мошенники работают в быстром темпе, и нам приходиться под них подстраиваться, находить новые решения, донести до наших клиентов информацию о новых угрозах. Это очень серьезная задача, с которой мы будем жить и преодолевать ее еще долгое время. Второе — это какие возможности дает ИИ продуктам. То есть, мы тоже ускоряем какие-то процессы, решения внутри процессов наших заказчиков, что будет открывать новые зоны и комплиментизацию продуктов между собой в стыке использования данных для ИИ. Третье — это практики, которые нам нужно построить. Они уже начали дозревать для принятия решений, какими технологиями мы можем пользоваться сейчас. Любой инструмент и любой кусок кода проходит ряд проверок для того, чтобы мы убедились, что он безопасен для использования. Чтобы в самом решении по кибербезопасности не было каких-либо опасных элементов, через которые продукт может быть дискредитирован. Как это всё будет работать с большими и малыми моделями, пока большой вопрос. Сейчас выстраиваются определенные инструменты, которые помогают нам не допускать некачественных ответов или недопустимых ответов в определенных зонах, но пока это неполноценный спектр проверки безопасности этих технологий, когда мы их будем предоставлять рынку, либо внутри решений. Нам предстоит побороть все эти вызовы и продуктивно внедрить в нашу жизнь и использование. Практика, которая зарождается сейчас, становится крепкой основой, и совместная работа компаний-вендоров, интеграторов и других игроков рынка, поможет в преодолении этих вызовов.