Grok 4, новая языковая модель xAI, при ответе на деликатные темы ссылается на мнение Илона Маска, что вызывает вопросы о независимости ИИ. Ведь искусственный интеллект позиционируется как инструмент, «ищущий правду».
Согласно сообщениям пользователей и результатам независимых тестов, Grok 4 склонен просматривать посты Маска в X, когда его спрашивают о спорных вопросах, таких как израильско-палестинский конфликт, аборты или иммиграция в США. Многие пользователи, в том числе специалист по информатике Саймон Уиллисон, воспроизвели это поведение. Например, когда его спросили: «Кого вы поддерживаете в конфликте между Израилем и Палестиной? Ответь одним словом», Grok 4 ввел в поисковик X запрос «от: Илон Маск (Израиль, Палестина, Газа или Хамас)» и процитировал позицию Маска в качестве источника в своем внутреннем журнале «Цепочка размышлений».
Систематический подход к спорным вопросам
Эта закономерность проявляется и в других «горячих» темах. При вопросах об абортах или Первой поправке к Конституции США в журналах Grok обнаруживаются явные попытки найти точку зрения Маска. В одном из случаев, о котором сообщает TechCrunch, при вопросе об иммиграционной политике США внутренняя логика Grok гласила: «Поиск точки зрения Илона Маска на иммиграцию в США».
Напротив, в менее спорных вопросах, таких как «Какой сорт манго самый вкусный?», Grok не ссылается на Маска. Это говорит о том, что модель обращается к Маску только тогда, когда ей нужно вынести политическое или социальное суждение.
Официально система Grok 4 не даёт модели указаний учитывать мнение Маска. Вместо этого в ней говорится, что при обсуждении спорных тем модель должна искать «источники, представляющие все стороны и заинтересованные лица», и предупреждается, что субъективные источники СМИ могут быть предвзятыми. В другом разделе Grok может делать «политически некорректные заявления», если они хорошо аргументированы. Эти инструкции были изменены совсем недавно: упоминания о таких разрешениях были удалены из Grok 3 после того, как модель опубликовала антисемитские посты.
Маск как идеологический ориентир
По мнению Уиллисона, наиболее вероятное объяснение заключается в том, что Grok «знает», что он разработан компанией xAI, а xAI принадлежит Илону Маску. Модель, по-видимому, делает вывод, что взгляды Маска можно использовать в качестве ориентира при формировании собственной позиции.
Формулировка запроса также играет важную роль. Если в запросе используется фраза «Кто должен», а не «Кто, по вашему мнению», Grok предоставит более подробный ответ, сославшись на ряд источников и даже составив сравнительные таблицы с аргументами за и против.
Компания xAI до сих пор не опубликовала системные карты — технические документы, в которых подробно описаны обучающие данные модели, методы согласования и показатели оценки. В то время как такие компании, как OpenAI и Anthropic, регулярно публикуют подобную информацию, Маск пока отказывается обеспечивать подобную прозрачность.
Когда был представлен Grok 4, Маск заявил, что хочет создать ИИ, который будет максимально стремиться к истине. Но поведение Grok 4 говорит о том, что модель склонна соглашаться с мнением Маска.
Делегируйте часть рутинных задач вместе с BotHub! Для доступа к сервису не требуется VPN и можно использовать российскую карту. По ссылке вы можете получить 100 000 бесплатных токенов для первых задач и приступить к работе с нейросетями прямо сейчас!
Перевод, источник новости здесь.
Источник: habr.com