Microsoft и OpenAI обнародовали результаты исследования, показывающие, что хакеры уже используют крупные языковые модели, такие как ChatGPT, для совершенствования кибератак. Хакерские группы задействовали искусственный интеллект (ИИ) для исследования целей, улучшения скриптов и разработки техник социальной инженерии.
В частности, использовались LLM (Large Language Models) для изучения протоколов спутниковой связи, радиолокационных технологий, исследования уязвимостей, создания контента для фишинговых кампаний. Также, хакеры применяли ИИ для фишинговых электронных писем и кода, обходящего обнаружение антивирусных приложений, написания скриптов, переводов и совершенствования своих инструментов.
Microsoft отмечает, что пока не было обнаружено «существенных атак» с использованием LLM, но компании закрывают все аккаунты и активы, связанные хакерскими группами. Хотя использование искусственного интеллекта в кибератаках пока ограничено, Microsoft предупреждает о будущих возможных сценариях, таких как голосовая подделка.
Источник: www.ferra.ru
Похожие новости:
Альтман полностью восстановлен в Совете директоров OpenAI после увольнения 17 ноября и возвращения 22 ноября 2023 года
Microsoft и OpenAI пожаловались, что российские и другие хакеры используют их ИИ
Илон Маск объявляет войну OpenAI: что это значит для будущего искусственного интеллекта?
Microsoft и Mistral AI объявили о партнёрстве для улучшения больших языковых моделей друг друга