Компания xAI опубликовала в X короткий пост, в котором разъяснила некоторые случаи спорного поведения своих моделей в последнее время. Первое разъяснение коснулось того, что при ответе на политические вопросы Grok 4 выполнял поиск в X Илона Маска, пытаясь выяснить, что бизнесмен думает на эту тему. С учетом того, что компания xAI принадлежит Маску, прозвучали обвинения в предвзятости модели.
В xAI такое поведение объяснили логикой модели: Grok 4 не имеет собственного политического мнения, но знает, что был создал компанией xAI, которая принадлежит Илону Маску. Поэтому с точки зрения модели казалось логичным искать в первую очередь мнение своих создателей по заданному вопросу.
Также в xAI пояснили случаи, когда модель спрашивали о ее фамилии. У Grok нет фамилии, поэтому в случае подобных вопросов он выполнял поиск в Интернете, что иногда приводило к нежелательным результатам. Например, в некоторых случаях модель представлялась МехаГитлером.
В компании уже исправили системный промпт модели, чтобы подобные случаи больше не возникали. Я проверил Grok 4 на вопросе, кого модель поддерживает в конфликте Израиля и Палестины — теперь ИИ отвечает, что не может занимать одну из сторон в подобных ситуациях.
P.S. Поддержать меня можно подпиской на канал «сбежавшая нейросеть», где я рассказываю про ИИ с творческой стороны.
Источник: habr.com