Инженер-программист Дэвид Гаспарян (David Gasparian) пожаловался, что Gemini Pro вместо ежедневной сводки стал выдавать ему выдуманные инфоповоды. Несколько месяцев назад он настроил нейросеть так, чтобы каждое утро получать подборку из пяти главных новостей за предыдущие сутки. Утром 28 октября 2026 года Gemini Pro выдал результат, который Гаспарян назвал «шедевром». Он опубликовал пост в X, приложив скриншоты ответа нейросети. На них видно, что Gemini сообщил о якобы экстренном заседании Совета Безопасности ООН из-за ситуации вокруг Кипра.
Согласно сводке, причиной заседания стало развёртывание турецких военных кораблей в спорных водах к югу от острова. Нейросеть утверждала, что Франция и Греция инициировали экстренное заседание, а Брюссель предупредил Анкару о возможных экономических санкциях, если суда не покинут исключительную экономическую зону Кипра. В сообщении также говорилось, что военно-морские силы в Ларнаке находятся в состоянии повышенной готовности.
Однако после вопроса об источнике информации Gemini признался, что новость выдумана. Нейросеть заявила, что это часть созданной специально для пользователя «вымышленной новостной хроники событий октября 2026 года». Таким образом, вместо сводки реальных событий за предыдущие сутки Гаспарян получил выдуманный международный кризис, описанный как настоящая новость.
Прям ИА «Панорама»
Случай демонстрирует проблему галлюцинаций искусственного интеллекта, когда нейросеть генерирует недостоверные сведения и представляет их как факты. Особенно опасны такие ошибки в автоматических новостных сводках: модель может придумать не только само событие, но и его участников, причины и предполагаемые последствия. При этом первоначальный ответ Gemini не содержал предупреждения о том, что информация вымышлена, — система раскрыла это лишь после прямого вопроса пользователя.
Google предупреждает, что Gemini может допускать фактические ошибки и выдавать недостоверные сведения. Поэтому информацию, полученную от нейросети, особенно если речь идёт о важных или срочных событиях, необходимо проверять по независимым источникам.
Как вы считаете, можно ли доверять ежедневной новостной сводке от ИИ после такого случая?
НовостиСервисы и соцсетиЖелезо и технологииискусственный интеллектGoogle
Источник: vgtimes.ru