Как ИИ меняет экономику хакеров

Искусственный интеллект (ИИ), как и всякую прорывную технологию, используют не только на пользу, но и во вред. ИИ резко снизил затраты злоумышленников и изменил подход к информационной безопасности (ИБ), рассказывает сооснователь стартапов 3side и 4security и выпускник РЭШ Артем Наливайко*. 

На сайте известной в мире кибербезопасности компании Cobalt год назад появилась пугающая статистика: доля атак вирусов-шифровальщиков в общем числе атак за первую половину 2023 г. выросла почти в 13 раз. Такие вирусы блокируют доступ к файлам или целым системам, шифруют их, а затем злоумышленники требуют выкуп за их восстановление. 

Объяснение простое: применение ИИ делает такие атаки эффективнее. Средний ущерб от такой атаки составил $4,5 млн. Суммарные потери от кибератак только в США оценивают в районе от $10 млрд до $16 млрд. При этом именно шифровальщиков ФБР считает ключевой угрозой для критической инфраструктуры. 

В России ситуация аналогичная: Сбербанк считает, что к концу года доля атак с использованием ИИ достигнет 75%. Растет и ущерб от кибератак. За 2023–2024 гг. «Сбер» оценивал его в 1 трлн руб. (не только от шифровальщиков), а в этом году – уже в 1,5 трлн руб. за восемь месяцев. Получается, угроза реальна?

Атаки подешевели

Сейчас и кибератаки, и «атакующая безопасность» (пентест, редтим) – санкционированные попытки взлома, но не с целью причинения ущерба, а для выявления уязвимостей – это весьма слабо «детерминированные» области, которые зачастую находятся на стыке технологий и искусства. В отличие от работы «синих» (специалистов, занимающихся именно защитой) здесь гораздо меньше общепринятой методологии и больше творчества. В любой момент времени у атакующего есть достаточно много вариантов развития событий, и часто он ограничивается наиболее простыми, чтобы сократить время работы. А теперь представим, что появился инструмент, автоматизирующий большую часть работы хакера.

Я не верю, что в ближайшем будущем системы вроде BAS (Breach and Attack Simulation – имитация взлома и атаки) заменят человека, но они точно станут мощнейшим инструментом в руках человека. И пентестер (или реальный злоумышленник) будет превращаться в «погонщика» ИИ-агентов, способных взять на себя 70–80% его работы и сократить время на нее в десятки раз. В случае злоумышленников это означает радикальное сокращение таких метрик, как Time-to-Attack (время на взлом) и Cost-of-Attack (стоимость взлома). Грубо говоря, злоумышленники получат сокращение себестоимости и возможность атаковать большее количество компаний.

Снизился и порог входа на этот рынок. Работая над одним из проектов ИБ с использованием ИИ, мы поняли, что 80% усилий потратили на пользовательскую структуру, интерфейс, зарплаты программистам, маркетинг и пр., а на саму суть у нас ушло не очень много денег и времени. И занимайся мы не ИБ, а хакерством, мы уже почти создали бы кибероружие – всего четыре человека, среди которых есть те, кто хорошо разбирается в кибербезопасности и LLM. Уверен, многие по всему миру делают то же самое, но создают кибероружие.

Незаметных нет

К чему это приведет? В первую очередь мы получим вал атак на малый и средний бизнес (МСБ). Последние 20 лет главными жертвами киберпреступников были крупные компании – только при работе с ними атаки окупались. При этом крупный бизнес и особенно финансовый сектор научились защищаться, они тратят десятки и сотни миллионов долларов на защиту и в конце концов достигают успеха: после начала СВО в России известен только один (!) случай успешной атаки на банк.

Использование ИИ сделало рентабельными атаки на МСБ. Основной его стратегией построения ИБ в небольших компаниях долгое время было избегание угрозы, они были «ниже радара». И вот за ними «пришли»: сейчас резкий рост «производительности» хакеров делает атаку выгодной даже с учетом выкупа в 3–5 млн руб.

Кто только теперь не становится жертвами хакеров. Я знаю кейс овощебазы на юге России. По оценке Сбербанка, в этом году уже было атаковано не менее 53% российских компаний, из них 80% столкнулись с серьезными последствиями. Пока в гонке полицейский – вор побеждают хакеры. В США доля выявленных шифровальщиков сократилась с 22 до 13%, они становятся все более изощренными.

Я предполагаю, что в ближайшие 3–5 лет мы увидим новый пик атак шифровальщиков на пользовательские устройства, подобный тому, который мы наблюдали в конце нулевых – начале 2010-х гг. Они есть и сейчас (например, с использованием стилеров), но с большой вероятностью развитие ИИ приведет нас к совсем другой пользовательской безопасности.

А что с людьми

Тут ситуация сложнее. К сожалению, собрать сводную статистику по всем видам мошенничества достаточно тяжело – и точных цифр нет ни в одной стране в мире. Это связано с тем, что люди часто не склонны обращаться в правоохранительные органы. По оценке МВД, ущерб от действий кибермошенников вырос со 147 млрд руб. в 2023 г. до 200 млрд руб. в 2024 г. Но это оценка «снизу» – она учитывает только зарегистрированные случаи. Кроме того, само понятие «кибермошенничество» крайне разнообразно. Здесь и звонки с использованием дипфейков (в рамках атак как на компании, так и на физлиц), и многочисленные фишинговые рассылки (аналогично), и звонки, и мошенничество в криптосфере. Зачастую для атаки на физлиц используются сложные и комбинированные атаки – например, этим известна северокорейская APT Lazarus, специализирующаяся на криптосфере.

Бороться с такими атаками сложнее: здесь проблемы лежат в области психологии. Всегда найдутся люди, которые будут восприимчивы к мошенникам. Это происходит по разным причинам: все мы болеем, у всех бывают проблемы на работе, в отношениях с близкими. К сожалению, в такие стрессовые моменты критическое мышление часто отключается.

Я уверен, что любая официальная статистика значительно недооценивает потери от действий мошенников и сами виды мошенничества. Например, одной из самых распространенных схем при атаках в Telegram является рассылка с предложением проголосовать, поддержать и так или иначе ввести авторизационные данные в Telegram. В отсутствие двухфакторной аутентификации это в 99% случаев приводит к потере аккаунта и новым мошенническим действиям.

А что в России

К сожалению, «большая ИИ-трансформация» в кибербезопасности рискует пройти в России весьма односторонне: мы становимся жертвами атак, но вот со средствами защиты в сфере ИИ у нас не все хорошо. В США есть несколько сотен стартапов в области ИИ в ИБ, включая таких гигантов, как Crowdstrike, Fortinet и Palo Alto Networks. В 2024 г. в ИБ-стартапы проинвестировали $9,5 млрд в 304 раундах и 79 сделках M&A. Около 2/3 сделок – в стартапы в ИИ. В том же Y-комбинаторе около сотни ИБ-стартапов, значительная часть из которых – с ИИ. В российском венчуре ситуация гораздо более тяжелая. Совокупная выручка российских ИБ-стартапов – около $0,5 млрд, количество венчурных сделок измеряется единицами в год. 

Проблема в том, что крупные ИБ-компании увлечены импортозамещением, конкурируют за ресурсы с банками и ограничены в возможности инвестировать в новые направления. Таким образом, наша страна рискует упустить настоящую революцию в ИБ.

* Мнение автора может не совпадать с мнением редакции.
Колонка основана на выпуске «Экономики на слух».