Как бизнесу инвестировать в ИИ и управлять рисками

— На мой взгляд, инвестировать в ИИ необходимо. Это долгосрочное технологическое изменение. Если ждать, пока волна пройдёт, можно потерять конкурентное преимущество и даже бизнес. Но вкладывать нужно взвешенно. Начинать стоит с задач, где эффект виден быстрее всего. Например, ИИ может ускорить разработку в 2−2,5 раза или сократить затраты ресурсов. Другой пример — аналитика больших данных, где ИИ позволяет получить качественно иной результат.

На первых этапах разумно выделять из бюджета сумму, которую компания готова потерять. При этом я бы оценивал отдачу шире, чем экономию. ИИ помогает создавать новые продукты и искать новые бизнес-модели.

— ИИ-агенты способны самостоятельно принимать решения и вносить изменения в ИТ-инфраструктуру. Известны случаи, когда агент после неудачной попытки выполнить задачу удалял себя и базу данных, с которой работал. Ещё один риск — галлюцинации, когда модель уверенно выдаёт вымышленные сведения. В быту это может быть рекомендация несуществующего фильма. В бизнесе на таком ответе можно построить управленческое решение.

Мы исследуем, какой ущерб может причинить ИИ, в том числе при утечке данных во внешние модели или некорректной работе агентов. Для рынка кибербезопасности отдельный вызов — автономные атаки, которые ИИ сам планирует и проводит. Если атака под управлением человека могла развиваться неделями или месяцами, автономная занимает часы. При этом растут число и плотность атак, а у специалистов остаётся меньше времени на реагирование.
Меняется и сам рынок ПО. Небольшие команды с помощью инструментов Anthropic или OpenAI могут за недели воспроизвести функциональность систем, которые создавались годами. Некоторые корпоративные заказчики, в том числе банки, уже разрабатывают собственные средства защиты. Поставщикам приходится заново определять, какую ценность они дают клиенту. Для руководителей ключевыми остаются сбор достоверных данных о рынке и клиентах и их анализ для принятия решений.

— Клиентам нужна гарантия результата. В этом году мы запустили сервисы JSOC ONE. В сервисных договорах предусмотрена наша финансовая ответственность: если мы пропустим атаку, возместим ущерб в размере до 30 млн руб. Пока таких выплат не было.

Платформа объединяет защиту периметра и контроль входа в инфраструктуру, обнаружение и блокирование атак, а также восстановление. На некоторые виды атак мы уже реагируем автоматически, без участия специалистов. Масштабные атаки с применением ИИ, на мой взгляд, можно отражать только с помощью ИИ.

— Мы недавно анонсировали Solar AI Firewall, систему защиты языковых моделей. Она призвана предотвращать утечки внутренних данных во внешние публичные модели и защищать модели от вредоносного воздействия, в том числе от отравления. Для защиты языковых моделей мы используем собственные специализированные модели ИИ.