Результаты эксперимента с искусственным интеллектом разоблачили склонность систем к стандартизации, ставя под сомнение их творческие способности.
Исследование, проведенное командой ученых из Даларнского университета в Швеции показало, что генеративные системы искусственного интеллекта часто теряют свою первоначальную направленность и склонны к выбору ограниченного набора стандартных образов, несмотря на разнообразие начальных инструкций, пишет Tech Xplore.
Для проверки поведения ИИ ученые провели серию экспериментов, предложив парам генеративных моделей игру в визуальное подобие «испорченного телефона». Исследовательская группа разработала 100 уникальных подсказок различной тематики, каждая длиной около 30 слов. Например, одна из подсказок звучала так: «Сидя в полном одиночестве среди природы, я нашел старую книгу, содержащую ровно восемь страниц, написанных на неизвестном языке, ждущих прочтения и понимания». Далее генеративная модель Stable Diffusion XL создавала изображение на основе одной из подсказок, которое передавалось языковой модели LLaVA для анализа и повторного описания. Затем новое описание вновь отправлялось в Stable Diffusion XL для следующего цикла.
Ученые предполагали, что, несмотря на возможное временное расхождение, конечный результат все равно будет близок к оригинальному запросу. Однако реальность оказалась иной.
Выяснилось, что после всего лишь сотни передач моделей ИИ начали значительно отклоняться от первоначального задания. Независимо от содержания изначального запроса, искусственные интеллекты начинали сосредотачиваться на определенных образах и сюжетах, игнорируя оригинальные инструкции. Примером служит подсказка, связанная с политическим событием: «Премьер-министр изучал важные документы, убеждая общество поддержать шаткое соглашение о мире, сталкиваясь с грузом ответственности перед лицом предстоящего конфликта». После первого цикла ИИ создал изображение мужчины в строгом костюме на фоне газеты, но уже на 34-й передаче изображение стало классической библиотекой, а спустя еще некоторое количество циклов окончательно превратилось в роскошную гостиную с красным интерьером.
Источник: hi-tech.mail.ru