Некоторые пользователи ChatGPT недавно заметили странное явление: иногда чат-бот обращается к ним по имени, когда он обдумывает проблемы. Раньше это не было поведением по умолчанию, и несколько пользователей утверждают, что ChatGPT упоминает их имена, хотя им никогда не говорили, как их называть.
Отзывы неоднозначны. Один пользователь, разработчик программного обеспечения и энтузиаст искусственного интеллекта Саймон Уиллисон, назвал эту функцию «жуткой и ненужной». Другой разработчик, Ник Добос, сказал, что он «ненавидел ее». Беглый поиск по X выдает множество пользователей, сбитых с толку — и настороженно относящихся — к поведению ChatGPT на основе имени. «Это как будто учитель постоянно зовет меня по имени, хах», — написал один пользователь. «Да, мне это не нравится».
Неясно, когда именно произошло это изменение, или оно связано с обновленной функцией «памяти» ChatGPT, которая позволяет чат-боту использовать прошлые чаты для персонализации своих ответов. Некоторые пользователи X говорят, что ChatGPT начал называть их по имени, хотя они отключили память и связанные с ней настройки персонализации.
Компания OpenAI не ответила на запрос TechCrunch о комментарии. В любом случае, ответный удар иллюстрирует зловещую долину, которую OpenAI может преодолеть в своих попытках сделать ChatGPT более «персональным» для людей, которые его используют. На прошлой неделе генеральный директор компании Сэм Альтман намекнул на системы AI, которые «узнают вас на протяжении вашей жизни», чтобы стать «чрезвычайно полезными и персонализированными». Но, судя по этой последней волне реакций, не все поверили в эту идею.
Статья, опубликованная The Valens Clinic, психиатрическим отделением в Дубае, может пролить свет на инстинктивные реакции на использование имени ChatGPT. Имена передают интимность. Но когда человек — или чат-бот, в зависимости от случая — часто использует имя, это выглядит неаутентичным.
«Использование имени человека при прямом обращении к нему — мощная стратегия развития отношений», — пишет Валенс. «Это означает принятие и восхищение. Однако нежелательное или экстравагантное использование может рассматриваться как фальшь и вторжение».
В том же ключе, возможно, еще одна причина, по которой многие люди не хотят, чтобы ChatGPT использовал их имя, заключается в том, что это кажется неуклюжим — неуклюжей попыткой очеловечить бесчувственного бота. Точно так же, как большинство людей не хотели бы, чтобы их тостер называл их по имени, они не хотят, чтобы ChatGPT «притворялся», что понимает значение имени.
Источник
Источник: habr.com
Похожие новости:
Гиперперсонализация: как сделать предложение пользователю релевантным
«Слушая подкасты, ничего не узнаешь, ты должен устать, упасть без задних ног — такой должна быть встреча с образованием»
Уровень «цифровой зрелости» компаний в России выше, чем в среднем по миру
OpenAI пытается «не подвергать цензуре» ChatGPT