В ходе мероприятия Google I/O 2024 компания продемонстрировала возможности видеопоиска с моделью Gemini. Однако ИИ выдал ошибочный совет.
Gemini в Google Поиске научили отвечать на сложные вопросы со множеством деталей или несколькими вопросами в одном, а также реагировать на вопросы с помощью видео через Google Lens. Когда нейросеть слышит вопрос, она распознаёт, что происходит на видео, и отвечает на него.
Именно в ходе презентации этой функции Gemini допустила ошибку. Компания показывала видео с заклинившим рычагом перемотки плёнки в камере и спрашивала ИИ, в чём причина проблемы и как её решить. Модель выдала список советов, и Google выделила один из них. Совет заключался в том, что нужно «открыть заднюю крышку и аккуратно вытащить плёнку». Однако подобные действия в светлой комнате или на открытом воздухе могут привести к тому, что плёнка окажется засвеченной.
В 2023 году астрономы и астрофизики обнаружили ошибку в ответе чат-бота Bard от Google во время первой демонстрации. ИИ тогда заявил, что телескоп «Джеймс Уэбб» сделал самые первые снимки экзопланеты за пределами Солнечной системы. Однако первое изображение экзопланеты было сделано в 2004 году с помощью комплекса Very Large Telescope (VLT) в Чили с использованием адаптивной оптики.
Эта ошибка стоила компании 8,9% капитализации.
Источник: habr.com
