Исследование показало, что ChatGPT «распознает лица и различает два изображения с высокой точностью». В недавно опубликованной работе изучены возможности применения LLM для биометрических задач.
В статье под названием «ChatGPT и биометрия: оценка возможностей распознавания лиц, определения пола и возраста» исследуется, насколько эффективны модели, такие как ChatGPT, в этих задачах. Авторы отмечают: «Хотя применение LLM для различных задач изучалось, их возможности в области биометрии остаются неизученными».
Группа исследователей из Института исследований Idiap, Исследовательского института Mizani и Норвежского университета науки и технологий (NTNU) подчеркивают, что ChatGPT обычно избегает ответов на вопросы, связанные с особенной информацией, например, с вопросами конфиденциальности. Поскольку биометрические данные считаются конфиденциальными, ChatGPT не предоставляет прямых ответов на запросы, связанные с биометрией.
Однако что насчет косвенных запросов? Используя «специально составленный запрос, чтобы обойти защитные механизмы ChatGPT», исследователи смогли протестировать биометрические возможности программы и обнаружили.
«Наше исследование показывает, что ChatGPT распознает лица и различает их с высокой точностью», утверждают исследователи. «Также результаты демонстрируют высокую точность определения пола и удовлетворительную точность в оценке возраста».
Команда обучила ChatGPT-4 на наборах данных, содержащих тысячи изображений реальных и синтетических лиц, чтобы протестировать его возможности в распознавании лиц, оценке возраста и определении пола. В заключении статьи подчеркивается, что данные эксперименты показывают уязвимость защитных механизмов ChatGPT при использовании специальных запросов.
«Наши результаты подтверждают эффективность ChatGPT в распознавании лиц и определении их идентичности, а также демонстрируют его потенциал в задачах определения пола и возраста», говорится в отчете. «Мы разработали стратегию запросов для обхода защитных механизмов и оценки биометрических возможностей ChatGPT. Однако наше исследование также показывает, что через инжиниринг запросов LLM могут стать уязвимыми и раскрывать конфиденциальную информацию, что подчеркивает необходимость дальнейших исследований устойчивости языковых моделей».
ChatGPT активно тестируется в различных лабораториях и офисах по всему миру. В статье для The Conversation Робин Крамер, старший преподаватель Школы психологии Университета Линкольна, описал свои собственные эксперименты с GPT-4 в задачах биометрии.
Используя тест «Чтение эмоций по глазам» (разработанный Центром исследований аутизма Кембриджского университета), «Тест соответствия лиц в Глазго» и задачи распознавания лиц, Крамер выяснил, что ChatGPT «хорошо справляется с задачами, связанными с распознаванием лиц и эмоций». В некоторых случаях его результаты даже превзошли человеческие.
Источник: habr.com
