Компания Google начала экспериментировать с заменой оригинальных заголовков новостных статей в результатах поиска. Традиционно система выдавала 10 синих ссылок с точными названиями страниц. Теперь сотрудники портала The Verge обратили внимание, что нейросети поисковика самостоятельно генерируют новые названия для материалов. Анализ 1 из таких случаев показал полное искажение изначального смысла статьи.
Исходный заголовок рассказывал про сервис от 21-летних разработчиков, который не помог автору списать на экзамене. Однако алгоритм сократил название до 5 слов, превратив его в ИИ-инструмент для списывания всего. Подобное сокращение сделало заголовок похожим на рекламную рекомендацию продукта. Еще 1 пример показал, как нейросеть придумала название Изменения в Copilot: маркетинговые команды снова за свое, написав каждое слово с заглавной буквы. Журналисты отмечают, что за 15 лет работы они никогда не применяли подобный формат.
Представители Google подтвердили наличие тестирования. По их словам, это узкий эксперимент, который пока не одобрен для полноценного запуска. Главная цель заключается в подборе более релевантных названий для поисковых запросов пользователей. В настоящее время в процессе участвует генеративный искусственный интеллект. В компании заявили, что при финальном релизе генеративные модели для создания заголовков использоваться не будут.
Подобные изменения уже применялись в ленте рекомендаций Google Discover. Тогда алгоритмы также допускали ошибки. Искусственный интеллект неверно указал наличие режима потоковой передачи в разрешении 1080p для консоли PlayStation Portal. Авторы текстов обеспокоены такой практикой. Самовольное изменение названий делает журналистику менее заслуживающей доверия, особенно когда алгоритмы меняют суть написанного.
Источник: www.playground.ru