Ни для кого не секрет, что искусственный интеллект упрощает поиск уязвимостей в старом и малоизвестном ПО. Но именно из-за этого подход к кибербезопасности, основанный на сокрытии информации, перестаёт работать. Новые модели уже находят ошибки в системах, которые годами считались достаточно надёжными, а злоумышленники используют ИИ для поиска способов взлома вскоре после выхода исправлений. Подписывайтесь на Telegram-канал про технологии
Особенно заметной проблема становится для промышленной инфраструктуры. Системы управления предприятиями, энергетикой, водоснабжением и другими объектами часто работают на специализированном оборудовании и используют старые протоколы, о которых знают далеко не все специалисты. Раньше такая особенность могла усложнять работу атакующих, но теперь ИИ способен быстро изучить техническую документацию и особенности конкретной системы.
Риск уже вышел за пределы теории. Пять американских ведомств сообщили, что злоумышленники применяли созданные ИИ скрипты для атак на подключённые к интернету программируемые логические контроллеры Siemens серии S7. Под угрозой оказались объекты водоснабжения, энергетики, производства и другая критическая инфраструктура.
ИИ помогает находить не только новые, но и давно существующие проблемы. В Microsoft и Adobe в рамках одного из обновлений безопасности исправили сотни уязвимостей, среди которых были ошибки в старых технологиях вроде Telnet, NFS Portmapper и Windows RNDIS. По мнению специалистов, подобные находки показывают, что малоизвестные компоненты больше нельзя считать защищёнными только потому, что о них давно никто не вспоминал.
При этом автоматизация поиска уязвимостей создаёт новую проблему. ИИ способен находить ошибки быстрее, чем специалисты успевают их исправлять. Исследования показывают, что сгенерированные языковыми моделями патчи пока нельзя считать надёжной заменой разработчикам.
В исследовании 1Password были проверены 6080 вариантов исправлений для шести уязвимостей. Полностью рабочими оказались только 26 % патчей, созданных двумя современными моделями. Ещё около 20 % исправлений устраняли исходную проблему, но нарушали работу приложения. В остальных случаях уязвимость сохранялась, появлялась новая проблема или происходило и то и другое.
Похожий результат получила Veracode. В её исследовании код, созданный ИИ, в среднем проходил проверки безопасности только в 56 % случаев.
Поэтому основная задача компаний заключается не только в том, чтобы быстрее находить и закрывать уязвимости. Специалисты советуют искать причины их появления и менять процессы разработки. Например, большое количество ошибок внедрения можно сократить за счёт более безопасных шаблонов и проверок на ранних этапах CI/CD. Такой подход позволяет предотвращать целые классы проблем, а не исправлять их по одной после обнаружения.
Источник: trashbox.ru