Как «Магнит» защищает данные и меняет разработку с помощью ИИ

— В «Магните» ИИ стал рабочей платформой для операционных задач, от логистики до прогнозирования. Он также снижает порог входа в разработку. Раньше подразделения передавали задачи внутренним разработчикам или подрядчикам. Теперь сотрудники могут сами создавать инструменты для повседневной работы.

— Собственная платформа позволяет сотрудникам работать с ИИ без передачи данных во внешние системы. При этом бизнесу нужен доступ к передовым моделям, которые быстро развиваются и помогают работать эффективнее. Если корпоративный инструмент неудобен, сотрудники могут начать пользоваться внешними сервисами без ведома компании и смешивать рабочие данные с личными.

Задача информационной безопасности — исключить передачу критичных данных во внешние модели, защитить собственную платформу и разграничить доступ пользователей и ИИ-агентов. Полный запрет на использование передовых моделей может ослабить конкурентные позиции бизнеса.

— Мы встроили проверки безопасности в конвейер разработки как часть контроля качества кода. Пока они работают в режиме, который позволяет продолжать сборку при обнаружении уязвимости. Платформа автоматически назначает задачи ответственным сотрудникам. Разработчики видят, где возникла проблема и что нужно исправить. Планируем использовать ИИ, чтобы пояснять причины ошибок, предлагать исправления и помогать разработчикам избегать повторных уязвимостей.

— ИИ ускоряет написание кода, но сам по себе не повышает качество продукта. За качество и безопасность кода отвечает разработчик. Если в сгенерированном коде есть уязвимость, специалист должен обнаружить и устранить её. Наша платформа находит такие ошибки, а ИИ может объяснить их и предложить исправления.

Модель можно настроить так, чтобы она подсказывала разработчику, как действовать в типовых ситуациях. Например, если секрет попал в код, его нужно перевыпустить и поместить в защищённое хранилище. Скорость генерации даёт преимущество, когда команда умеет проверять результат и быстро исправлять ошибки.

— Мы выстраиваем эшелонированную защиту. Меры информационной безопасности нужны на каждом уровне, от внешнего периметра до контроля качества кода. Ни один отдельный продукт не может защитить от всех угроз.

— Типы угроз меняются мало, но благодаря ИИ атаки ускоряются. Мы видим больше уязвимостей, взломов и утечек. Один из рисков связан с подрядчиками. Оценить уровень безопасности каждого сложно, хотя такая оценка важна и для закупок. Сохраняется угроза фишинга, поэтому мы повышаем осведомлённость сотрудников. С 2022 года стало больше группировок, которые целенаправленно атакуют российский бизнес. Для более эффективного реагирования на такие инциденты мы создали собственный центр мониторинга и реагирования (SOC).

— Атаки идут ежедневно. Многие из них автоматизированы и выполняются ботами. Мы рассматриваем ИИ как инструмент анализа потока событий и инцидентов. По сравнению с прошлым годом мы быстрее реагируем на целевые атаки и успеваем устранять угрозу до того, как она повлияет на бизнес.