Anthropic обновила правила использования своего ИИ-чатбота Claude, запретив пользователям «длительное и неоправданное жестокое или оскорбительное обращение» с моделью.
Ограничения, правда, не распространяются на «обычное недовольство ответами ИИ, тестирование его возможностей и творческие сценарии с мрачными темами». Представители Anthropic пока не уточнили, какое именно поведение компания будет считать «недопустимым».
Ранее, как пишут СМИ, Anthropic добавила своим моделям возможность «самостоятельно завершать разговор, если пользователь продолжает вести себя агрессивно». Компания объяснила это «мерой предосторожности» на случай, если ИИ «способен испытывать нечто, напоминающее неблагополучие».
Источник: www.ferra.ru