Новое исследование, проведенное учеными из Северо-Западного политехнического университета и Гонконгского политехнического университета, показало, что модели глубокого обучения (DL), используемые в системах дистанционного зондирования, подвержены как физическим, так и цифровым атакам. Несмотря на их широкое применение в правительственном разведывании, мониторинге окружающей среды и других сферах, эффективность этих технологий может быть серьезно подорвана.
Исследователи провели обзор существующих работ и разработали методику для оценки надежности различных моделей DL. В ходе экспериментов они выявили уязвимости, которые могут быть использованы злоумышленниками. Например, атаки с использованием шумов, таких как «соль-перец» и погодные условия, а также цифровые атаки, такие как метод градиентного спуска, показали, что модели могут легко ошибаться.
По словам ведущего автора исследования, профессора Шаохуи Мэя, важно, чтобы разработчики и пользователи технологий осознавали эти уязвимости и работали над повышением надежности моделей. Команда планирует дальнейшее улучшение своих методов оценки и тестирования для повышения безопасности DL-моделей в критически важных приложениях.
Похожие новости:
Обзор изменений в законодательстве за март 2024 года
«Слушая подкасты, ничего не узнаешь, ты должен устать, упасть без задних ног — такой должна быть встреча с образованием»
«Количество желающих повышать квалификацию в больших компаниях меньше, чем среди предпринимателей»
Уровень «цифровой зрелости» компаний в России выше, чем в среднем по миру