Программы, созданные искусственным интеллектом, имеют в 15 раз больше уязвимостей, чем ПО, разработанное человеком.
Эта технология получила название вайб-кодинг, и эксперты полагают, что на данном этапе вред от нее превышает пользу. Так, количество таких брешей в ИТ-системах российских компаний увеличилось почти на 30% за год. Другой проблемой, угрожающей бизнесу в РФ, стал рост эффективности дипфейков, также создаваемых усилиями искусственного интеллекта. Эксперты оценивают суммарный ущерб от таких атак в 17 млрд рублей.
Что такое вайб-кодинг и чем он опасен
Созданные ИИ программы имеют в 15 раз больше уязвимостей, чем ПО, разработанное человеком, особенно в части проверки ввода и бизнес-логики. Об этом рассказали в Центре мониторинга и противодействия кибератакам компании «Информзащита».
Вайб-кодинг — это подход к разработке, при котором программист задает задачи нейросети на естественном языке, а ИИ переводит их в компьютерный код. На практике чаще всего используются большие языковые модели (LLM), которые ускоряют создание шаблонного кода и интерфейсов, но при этом игнорируют вопросы безопасности.
Специалисты компании отмечают, что наиболее распространенные уязвимости в 90% такого ПО — это отсутствие фильтрации ввода (76%), некорректная авторизация (52%), секреты в открытых репозиториях (39%). Кроме того, более чем в 80% решений фиксируются проблемы с бизнес-логикой, способные приводить к нарушению работы приложений и прямым финансовым потерям. ИИ-модели могут воспроизводить устаревшие и небезопасные паттерны или корректно выполнять базовые задачи, но не обрабатывать исключения и нестандартные процессы.
Источник: hi-tech.mail.ru