Современные системы искусственного интеллекта умеют не только отвечать на вопросы и писать тексты, но и все заметнее влияют на то, как мы сами пишем и думаем. И ученые уже встревожены: массовое использование генеративного ИИ может незаметно «выравнивать» культуру и мышление, делая их более однообразными.
Аспирант Университета Южной Калифорнии Живар Суорати рассказывает, что, читая свежие научные статьи, он часто ловит себя на мысли: «Я уже видел эту работу». По его ощущению, тексты становятся все более похожими — и он подозревает, что дело в повсеместном использовании больших языковых моделей, например, ChatGPT.
Эта интуитивная догадка все чаще подтверждается в экспериментах. Ряд исследований показывает: ИИ действительно способен повышать оригинальность отдельных идей, но одновременно снижает их общее разнообразие. В одном из опытов людей и языковые модели просили придумывать нестандартные способы применения обычных предметов. Модели в среднем предлагали чуть более «оригинальные» варианты, чем участники, но их ответы между собой были гораздо более похожими, чем ответы людей.
Похожий эффект обнаружили в заданиях на написание коротких рассказов и мозговом штурме. Люди, которым позволяли сначала спросить совета у модели, придумывали истории и идеи, которые оценивались как более интересные и удачные. Но при этом эти тексты становились подозрительно похожими друг на друга. Метаанализы нескольких таких работ показывают: наиболее сильное «сжатие разнообразия» возникает именно на этапе генерации идей, особенно в сложных или жестко ограниченных задачах.
Источник: hi-tech.mail.ru