Группа ученых из Georgia Tech представила новый инструмент для расследования кибератак на системы глубокого обучения, которые могут угрожать безопасности автономных автомобилей и других технологий. Инструмент, названный AI Psychiatry (AiP), позволяет восстанавливать модели нейросетей, пострадавшие в результате атак, и выявлять причины их сбоев.
Современные системы автономных автомобилей могут стать мишенью для хакеров, которые получают доступ к нейронным сетям, что может привести к авариям. Однако расследовать такие инциденты сложно, так как модели нейросетей часто являются закрытыми и обновляются регулярно. В этом контексте AiP представляет собой надежное решение, способное восстанавливать оригинальные модели глубокого обучения без необходимости в предварительных знаниях о структуре или версии модели.
AiP работает, анализируя «образы памяти» — статические данные о работе модели во время её нормального функционирования. Этот подход позволяет исследователям сравнивать состояние нейросети до и после атаки, что важно для выявления уязвимостей. Успешные испытания показали, что инструмент может восстанавливать и повторно размещать модели с точностью 100%.
Источник: www.ferra.ru
Похожие новости:
«Слушая подкасты, ничего не узнаешь, ты должен устать, упасть без задних ног — такой должна быть встреча с образованием»
Обзор IT-Weekly: ИИ-консультант появится на «Госуслугах», Huawei окончательно рассталась с Android, в США открыты крупные запасы лития
Какую материнскую плату купить в мае 2024 года
«Количество желающих повышать квалификацию в больших компаниях меньше, чем среди предпринимателей»