Дмитрий Гусев, заместитель генерального директора компании «ИнфоТеКС»

Мы исторически принимаем участие в этом мероприятии наших коллег, одним из которых является наш любый партнер «Газинформсервис». Пленарная сессия у нас начиналась с темы «Использование И И в технологиях информационной безопасности», поговорили о рисках, которые несет ИИ. Мы обсуждали не только техническую тематику, но и вопросы подготовки кадров, как ИИ повлияет на рынок труда. Это важная тема, так как уже сегодня соискатели, которые приходят к нам устраиваться на работу, предоставляют резюме, написанное ИИ, выполняют задания с использованием ИИ и у нас возникают вопросы, как это всё оценивать. Следует отметить, что, используя современные подходы, люди начинают меньше думать о своих компетенциях, считая, что ИИ — это модно и нужно. На форуме мы представляли свои продукты, обсуждали тематику, связанную с замещением зарубежных средств защиты информации: как сделать эффективными российские средства защиты, не уступающие по своим характеристикам зарубежным средствам. У нашей компании и у наших коллег уже есть хороший задел в этой части, и, я уверен, мы идем правильным курсом.

Первое перспективное направление, которым мы давно занимаемся, это направление защиты промышленных индустриальных систем. Это специфическое направление, потому что используется специфическая аппаратура. В промышленной автоматизации до сих пор тематика информационной безопасности пока еще не до конца освоена, поэтому много усилий приходится тратить на взаимодействие с инженерным составом, который создает и эксплуатирует эти системы. Второе — это импортозамещение, где сейчас появилось много российских компаний, которые делают отечественные средства промышленной автоматики, и мы считаем, что в этом направлении надо изначально учитывать принципы информационной безопасности. Направление очень интересное, емкое как рынок, последние несколько лет динамично развивающееся, и мы намерены продолжать уделять ему большое внимание. Следующее интересное направление — это массовая, или гражданская, криптография. Не секрет, что все мы, используя смартфоны, телефоны, иные рабочие станции, продолжаем работать с зарубежными операционными системами, в которых по умолчанию встроены криптографические зарубежные средства. До недавних пор, пока Запад поставлял нам свои технологии, никто особо не обсуждал массовое внедрение отечественной криптографии в массовые системы. Сейчас у нас есть объективная необходимость найти правильные заместители всем этим зарубежным технологиям, поэтому очень активно идет диалог с российскими разработчиками операционных систем, аппаратного обеспечения в отношении вопросов использования криптографии в составе готовых решений, чтобы пользователь получал их из коробки и не думал о том, какая там криптография и как она работает. На примере цифрового рубля видно, что в этой тематике происходят тектонические сдвиги.

Это серьезный вызов, потому что все компании, работающие в легитимном поле информационной безопасности, очевидным образом связаны большим количеством нормативно-правовых актов, регулирующих документов. Мы обязаны выполнять все эти требования, поэтому мы гораздо менее оперативно можем предлагать рынку механизмы ИИ или машинного обучения в составе своих продуктов, которые должны проходить соответствующие циклы оценки соответствия, сертификации и т. д. Злоумышленники такими обязательствами не связаны, поэтому они могут сразу бросать все свои инструменты в дело и видеть результат. На пленарной сессии мы отметили, что серьезным образом увеличивается количество компьютерных, фишинговых атак, в которых используются механизмы ИИ, большие языковые модели, которые качественно подделывают контент. Пока вопрос, как с этим бороться быстро и эффективно, для нас остается открытым. В свои продукты мы стараемся внедрять механизмы машинного обучения, уже есть соответствующие версии продуктов, которые поставляются на рынок, но нам еще есть над чем работать, чтобы противостоять «темной стороне».

У нас в компании активно развиваются два направления: первое — использование механизмов машинного обучения. Это нейросети, которые мы интегрируем в состав наших продуктов, учим их на определенных данных для того, чтобы повысить эффективность детектирования компьютерных атак и, соответственно, дать потребителю лучшее качество наших продуктов. Мы продолжим заниматься этим вопросом, в том числе в коллаборации с коллегами по рынку, так как здесь явно видно, куда идти и зачем. Второе — это использование локализованных моделей для улучшения качества работы нашей службы технической поддержки, улучшения ускорения задач по разработке программного обеспечения собственных продуктов. Пока мы находимся на стадии экспериментов, это направление подразумевает взаимодействие с людьми, так как все большие языковые модели учатся на естественной языковой базе. Еще одно направление с использованием ИИ, например, в разработке кода пока вызывает много вопросов, хотя надо отметить, что это направление хорошо пойдет в части разработки прикладного программного обеспечения: разработки интерфейсов, механизмов взаимодействия с потребителем и т. д. Но что касается системных элементов, каких-то базовых ключевых технологий самих источников информации, здесь пока мы видим отрицательную историю, потому что-то, что генерирует ИИ, потом приходится отдавать экспертам в руки, тратить большое количество времени для того, чтобы понять, что там сгенерировал ИИ, поправить. Проще сразу посадить за написание кода эксперта. Еще один вопрос, о котором хотелось бы сказать, это попытка замещения молодых разработчиков механизмами ИИ. Здесь можно легко угодить в ловушку, потому что в какой-то момент компания может понять, что работа ИИ не сильно удовлетворяет, но и молодых специалистов практически не осталось. Поэтому тут надо очень аккуратно пробовать разные механизмы, но не впадать в эйфорию.