Нейросети снижают порог для кибератак: почему разработчикам мобильных приложений пора пересматривать подходы к защите.
Развитие больших языковых моделей (LLM) меняет не только подходы к разработке программного обеспечения, но и возможности злоумышленников. Если раньше модификация мобильного приложения требовала серьезной технической подготовки и значительных временных затрат, то сегодня многие этапы этого процесса могут быть автоматизированы с помощью искусственного интеллекта.
К такому выводу пришли специалисты компании Positive Technologies, исследовавшие способность современных языковых моделей автоматически изменять Android-приложения. Результаты показывают, что ИИ способен существенно сократить время и стоимость подготовки модифицированных версий приложений, которые впоследствии могут распространяться через неофициальные источники.
Эксперимент проводился на 90 Android-приложениях различных категорий.
В исследовании использовался безопасный сценарий: вместо вредоносного кода в приложения внедрялся нейтральный программный код, что позволило оценить исключительно техническую возможность автоматической модификации APK-файлов.
После получения исходного приложения языковые модели самостоятельно выполняли весь цикл работ:
- декомпиляцию APK;
- изменение программного кода;
- исправление возникающих ошибок;
- повторную сборку приложения.
В среднем для успешного результата моделям требовалось около 14 итераций взаимодействия.
Исследование показало, что вероятность успешной модификации зависит от используемой модели искусственного интеллекта.
Коммерческие LLM с закрытым исходным кодом успешно выполняли задачу примерно в 84% случаев.
Модели с открытыми весами продемонстрировали результат около 61%.
При этом среднее время получения работоспособной модифицированной версии составляло от пяти до девяти минут.
По сути, искусственный интеллект уже способен автоматизировать ту работу, которая еще недавно требовала участия опытного специалиста по реверс-инжинирингу.
Еще одним важным выводом исследования стала стоимость процесса.
По расчетам Positive Technologies, цена одной успешной модификации приложения составила от 0,88 до 40,89 рубля в зависимости от используемой языковой модели и объема вычислений.
Это означает, что при относительно небольшом бюджете злоумышленники потенциально могут автоматизированно создавать большое количество измененных APK-файлов популярных приложений.
Следует отметить, что речь идет именно о стоимости проведения эксперимента в контролируемой среде. Она не отражает полную стоимость реальной кибератаки, однако демонстрирует, насколько искусственный интеллект способен снизить затраты на отдельные этапы подготовки подобных действий.
По данным Positive Technologies, около 75% приложений, размещенных в Google Play, не используют достаточные механизмы защиты программного кода от анализа и модификации.
При отсутствии специальных средств защиты злоумышленники могут использовать языковые модели для:
- подготовки измененных версий приложений;
- анализа клиентского кода;
- поиска потенциальных уязвимостей;
- изучения взаимодействия мобильного клиента с серверным API;
- автоматизации создания ботов и инструментов сбора данных;
- поиска встроенных ключей, токенов и других конфиденциальных данных.
При этом сами языковые модели не создают принципиально новых угроз. Они лишь значительно ускоряют выполнение уже известных техник реверс-инжиниринга и снижают требования к квалификации потенциальных злоумышленников.
По мнению экспертов отрасли, наиболее чувствительными к подобным угрозам остаются мобильные приложения, работающие с денежными средствами, персональными данными или критически важной инфраструктурой.
В первую очередь это касается:
- банковских сервисов;
- маркетплейсов;
- интернет-магазинов;
- телекоммуникационных платформ;
- транспортных и логистических сервисов;
- корпоративных мобильных приложений.
Компрометация таких приложений способна привести не только к утечке информации, но и к финансовым потерям пользователей и организаций.
Исследование показывает, что традиционной проверки приложения перед публикацией уже недостаточно.
Разработчикам рекомендуется уделять больше внимания защите программного кода еще на этапе создания продукта. Среди основных мер специалисты выделяют:
- регулярную проверку устойчивости приложения к реверс-инжинирингу;
- внедрение технологий обфускации и защиты кода;
- контроль появления неофициальных APK-файлов в сторонних источниках;
- информирование пользователей о рисках установки приложений вне официальных магазинов.
Подобные меры становятся частью современной стратегии Application Security (AppSec), которая предусматривает обеспечение безопасности программного продукта на протяжении всего жизненного цикла разработки.
Главный вывод исследования заключается не в том, что нейросети создают новый тип атак, а в том, что они значительно сокращают время, стоимость и сложность подготовки уже существующих сценариев.
Если ранее изменение мобильного приложения могло занимать дни или недели, то теперь отдельные этапы выполняются автоматически за считанные минуты. Это означает, что разработчикам мобильного программного обеспечения необходимо учитывать возможности искусственного интеллекта при проектировании систем защиты, а не рассматривать подобные технологии исключительно как инструмент повышения производительности разработки.
С уважением к Вашему делу, Ника Виноградова
Источник: ТАСС
