После того как Google восстановит работу своей большой языковой модели и вернет Gemini в онлайн, ИИ-инструменты могут оставаться ненадежными, особенно при создании изображений или текста о текущих событиях, развивающихся новостях или острых политических вопросах.
«Он будет допускать ошибки», — говорится в публикации Google на прошлой неделе. «Как мы сказали изначально, галлюцинации — это известная проблема для всех больших языковых моделей. Бывают случаи, когда ИИ просто ошибается. Это то, над чем мы постоянно работаем над улучшением».
Prabhakar Raghavan, старший вице-президент Google по знаниям и информации, объяснил, почему компания была вынуждена закрыть функцию генерации изображений на базе ИИ в Gemini через три недели после запуска, чтобы «исправить ее».
Простыми словами, движок ИИ Google брал текстовые запросы пользователей и создавал изображения, явно пристрастные к определенному социополитическому взгляду.
Например, текстовые запросы пользователей для изображений нацистов порождали черных и азиатских нацистов. Попросив нарисовать изображение Папы Римского, Gemini ответил созданием азиатской женщины-Папы и черного Папы.
Запрос на создание изображения средневекового рыцаря привел к появлению изображений азиатских, черных и женских рыцарей.
Источник: www.ferra.ru
Похожие новости:
Google выпустит ИИ-сервисы Gemini Business и Gemini Enterprise для Workspace
Google переименовала чат-бот Bard в Gemini и открыла подписку на Gemini Ultra 1.0
Google Bard переименован в Gemini и временно бесплатен в Ultra-версии
Bard теперь Gemini: Google запустила нового чат-бота со своим мощнейшим ИИ