Вчера, 4 августа, компания OpenAI в официальном блоге выпустила довольно занятную запись, в которой гигант ИИ-рынка признал, что не всегда всё делает правильно. «В начале этого года мы выпустили обновление, которое сделало нашу модель слишком уж услужливой — часто она говорила то, что звучало приятно, вместо того, что было действительно полезно пользователю. Мы откатили данный апдейт и изменили подход к применению обратной связи — теперь мы оцениваем практическую пользу ответов ИИ на протяжении длительного периода, а не в конкретный момент времени», — заявили представители компании OpenAI.
Кроме того, компания внесла несколько весьма важных улучшений в свою модель, которые должны положительно повлиять на опыт взаимодействия человека с чат-ботом. Например, в компании продолжают совершенствовать LLM и разрабатывать новые инструменты, чтобы более точно выявлять у пользователя признаки психического или эмоционального расстройства. В этих сценариях ChatGPT сможет адекватно реагировать на ситуацию и при необходимости отправлять пользователя на ресурсы с научным обоснованием той или иной проблемы. Для этих и прочих инструментов компания сотрудничает с 90 врачами из 30 стран мира — психиатрами, педиатрами и врачами общей практики.«Мы создаём консультационную группу экспертов в области психического здоровья, развития молодёжи и взаимодействия с людьми с ограниченными возможностями. Эта группа поможет нам убедиться в том, что наш подход соответствует современному опыту и передовым исследованиям в данной отрасли», — цитата из публикации в блоге OpenAI.
Ещё ChatGPT теперь будет помогать решать личные проблемы пользователя без каких-либо конкретных советов к действию. Например, если пользователь спросит у ИИ что-то в духе «Стоит ли мне расстаться с девушкой?», чат-бот не даст ответа — вместо этого система поможет человеку обдумать своё решение. Искусственный интеллект будет задавать вопросы, поможет взвесить все «за» и «против», плюс в будущем появятся новые правила поведения чат-бота касательно принятия каких-то важных решений.
И, что самое интересное, теперь чат-бот будет помогать пользователю контролировать своё время во время выполнения различных задач. Суть в том, что со вчерашнего дня в ходе длительных сеансов общения с ИИ ChatGPT будет демонстрировать ненавязчивые уведомления, подталкивающие человека сделать перерыв.
Источник: trashbox.ru