Сегодня, 18 августа, информационное издание The Verge со ссылкой на свои источники сообщило, что компания Anthropic выпустила довольно важное обновление, которое в корне изменит общение пользователя с чат-ботом Claude. Суть в том, что если искусственный интеллект посчитает диалог оскорбительным или нарушающим правила площадки, он, в качестве крайней меры, просто завершит общение в данной беседе, полностью её заблокировав. В компании рассказали, что данный механизм будет активирован в том случае, если пользователь продолжит запрашивать у чат-бота генерацию вредоносного контента, несмотря на множественные отказы ИИ. Подписывайтесь на Telegram-канал про технологии
В Anthropic рассказали, что если чат-бот примет решение прекратить диалог, пользователь больше не сможет в данной беседе отправлять сообщения. При этом самого пользователя, естественно, блокировать никто не станет — он всё ещё сможет создавать новые чаты с искусственным интеллектом, редактировать и переписывать предыдущие сообщения в рамках чат-бота Claude. Более того, представители компании делают акцент на том, что большинству пользователей переживать из-за блокировки диалога не стоит, потому что львиная доля юзеров чат-бота никогда с этим не столкнётся, даже если речь идёт об обсуждении спорных тем.
Также, что немаловажно, чат-бот с апдейтом получил настройку не завершать диалог в случае, если общение идёт с человеком, у которого есть определённые проблемы с психическим здоровьем. Более того, компания-разработчик ИИ даже заключила партнёрское соглашение с онлайн-сервисом кризисной поддержки Throughline, чтобы улучшить ответы на ряд вопросов, связанных с ментальными проблемами пользователей. Соответственно, блокировать диалоги ИИ будет только в крайних случаях, когда запросы пользователя явно выходят за пределы адекватного поведения.
Источник: trashbox.ru