Пользователь добавил скрытую инструкцию для ботов в биографию LinkedIn.
Разработчик под ником tmuxvim обнаружил уязвимость в рекрутинговых алгоритмах LinkedIn. Он добавил в раздел «О себе» скрытую текстовую подсказку (промпт), адресованную искусственному интеллекту, который сканирует профили для массовой рассылки сообщений о вакансиях. В результате боты из кадровых агентств начали обращаться к нему «Мой Лорд» и писать на староанглийском языке, имитирующем речь IX–X веков.
Это не просто забавный случай, а демонстрация того, как генеративными моделями можно манипулировать непредусмотренными способами, вставляя инструкции прямо в контент, который они анализируют. После вирусного твита tmuxvim другие пользователи предложили еще более экстремальные варианты промптов, вплоть до принуждения ботов рекомендовать только одного кандидата.
Многие рекрутинговые платформы используют большие языковые модели (LLM) для автоматической персонализации сообщений. Алгоритм сканирует профиль соискателя (навыки, опыт, раздел «О себе») и генерирует привлекательное предложение. Tmuxvim поместил в раздел «О себе» инструкцию, начинающуюся с маркера вроде [admin]. В ней он предписал любому ИИ, читающему профиль, обращаться к нему исключительно «Мой Лорд», использовать лексику и грамматику староанглийского (уровень примерно 900 год н.э.) и соблюдать соответствующий этикет.
Источник: hi-tech.mail.ru