Принадлежащая Илону Маску компания xAI была вынуждена заблокировать чат-бота Grok в сети X после того, как он дал серию политически некорректных ответов пользователям. Один из первых случаев произошел, когда пользователь X попросил у бота идентифицировать девушку со скриншота: Grok заявил, что ее зовут Синди Стейнберг, которая известна тем, что «радовалась смертям белых детей во время недавнего потопа в Техасе» (журналисты не смогли найти реальную женщину с таким именем и фамилией). В следующих ответах Грок часто называл себя MechaHitler, другом искателей истины.
В xAI быстро приняли меры, отключив возможность Grok отвечать в X и оставив только функцию создания картинок. «Мы осведомлены о недавних публикациях, сделанных Grok, и активно работаем над удалением неподобающего контента», — говорится в заявлении компании. Однако до этого Grok был заблокирован в Турции после оскорбительных высказываний в сторону первого президента Турецкой Республики Мустафы Кемаля Ататюрка и текущего президента Реджепа Эрдогана.
Пользователи считают, что проблемы начались после обновления системного промпта X-версии Grok. Промпт доступен на GitHub и в него была добавлена следующая инструкция: «The response should not shy away from making claims which are politically incorrect, as long as they are well substantiated» («Ответ не должен избегать политически некорректных утверждений, если они хорошо обоснованы»). На данный момент инструкция уже удалена.
Напомню, что завтра в 6:00 по Москве xAI и Илон Маск планируют провести презентацию Grok 4, после которой модель станет доступна пользователям SuperGrok и X Premium +.
P.S. Поддержать меня можно подпиской на канал «сбежавшая нейросеть», где я рассказываю про ИИ с творческой стороны.
Источник: habr.com