Как растет риск киберугроз с развитием ИИ? Комментарий директора Relevant для «Известий»

Антон Даутов, коммерческий директор Relevant, прокомментировал «Известиям», как развитие нейросетей меняет киберугрозы для бизнеса.

Искусственный интеллект сокращает работу, которая раньше занимала у атакующих много времени: разбор инфраструктуры, поиск слабых мест, разбор больших массивов данных и черновики вспомогательного кода. Отдельного «нового» вида взлома от этого не появляется. Уже знакомые схемы становятся быстрее и бьют по большему числу целей сразу. При этом не каждый громкий инцидент связан с нейросетями.

Одной уязвимости достаточно

По наблюдению Даутова, для входа часто хватает одного слабого места. Это может быть устаревший кусок сайта, криво настроенный API, учётка сотрудника, пароль, оставленный в конфигурации, дыра в контейнере или доступ подрядчика.

В комментарии он разобрал свежий случай с TEZ TOUR. Компания сообщила о подозрительной активности, изолировала ERP и заявила, что признаков утечки данных клиентов и партнёров не нашла. Более жёсткие утверждения о глубине проникновения независимо не подтверждены. Принцип от этого не меняется: первый доступ — это старт, дальше атакующие стараются раздвинуть его уже внутри системы.

Что защищать кроме сайта

Риск не заканчивается на публичной витрине. Та же выгрузка данных возможна через рабочий аккаунт, забытый API, секрет в репозитории или права внешнего подрядчика. Периметр сайта эту часть не закрывает.

Имеет смысл смотреть журналы, контролировать, куда уходят данные, беречь учётные записи и проверять код на случайно закоммиченные секреты. Отдельный контур — права людей и подрядчиков, облако, контейнеры, VPN и корпоративные хранилища.

Как подключать ИИ внутри компании

Свои дыры появляются, когда агентов и модели подключают к CRM, документам, почте и другим внутренним системам. Данные могут утечь в запрос, у модели оказываются лишние права, она выполняет команду, которую никто не планировал, а специально составленный текст заставляет её обойти ограничения.

Даутов советует не выдавать искусственному интеллекту полный доступ к ресурсам компании. У модели должны быть только те права, без которых задача не выполняется. Действия стоит записывать, а операции с серьёзными последствиями — подтверждать отдельно, как если бы их делал сотрудник.

Гонка автоматизированных систем

Меняется не портрет злоумышленника, а темп. Находить слабые места и держать в работе много целей одновременно стало проще. Компаниям в ответ нужны автоматический разбор событий, мониторинг и инструменты, которые подсвечивают угрозу до того, как ею воспользовались.

Дальше кибербезопасность всё больше будет похожа на противостояние двух автоматизаций: одна ищет щели, другая успевает их закрыть.

Подробнее — в материале «Известий»: «Эксперт предупредил о росте киберугроз с развитием ИИ» (внешний источник, откроется в новой вкладке).