При этом стремительно меняется способ покупок: крупные платформы и ритейлеры активно внедряют искусственный интеллект для автоматизации коммерческих решений. ИИ-агенты уже могут искать товары, рекомендовать варианты и даже завершать покупки от имени потребителя. Однако многие покупатели не спешат отдавать контроль над шопингом машинам.
Согласно недавнему опросу консалтинговой фирмы Bain & Company, несмотря на то, что многие потребители постоянно используют ту или иную помощь ИИ в вопросах шопинга, большинство не хотели бы, чтобы ИИ-агент автономно, без их разрешения, завершал торговые транзакции. Специалисты, изучающие пересечение права и технологий, предупреждают: без обновленных правовых мер этот сдвиг к автоматизированной коммерции может незаметно подорвать экономические, психологические и социальные выгоды, которые люди получают от самостоятельных покупок.
Часть колебаний пользователей связана с вопросами приватности — многие не желают делиться чувствительной информацией с ИИ-платформами. Но глубже лежит желание контролировать выбор. Когда пользователи не понимают логику ИИ-рекомендаций, их доверие и удовлетворенность падают. Более того, исследования показывают: люди намеренно выбирают варианты, которые противоречат их предпочтениям, когда узнают, что их выбор предсказуем, — чтобы отстоять собственную независимость от технологий.
Для компаний привлекательность ИИ-автоматизации шопинга очевидна. Salesforce продвигает ИИ-агентов, которые могут «без усилий увеличивать продажи», а платежный гигант Mastercard сообщает, что его ИИ-помощник Shopping Muse генерирует на 15−20% выше конверсию, чем традиционный поиск — то есть буквально подталкивает покупателей от просмотра к завершению покупки.
Но главная проблема не в том, что системы могут дать сбой, а в том, что они могут оказаться слишком успешными. Психологи показали, что период между выбором покупки и ее получением генерирует ощущение счастье — и оно иногда гораздо сильнее, чем счастье от собственно обладания продуктом. Мы мечтаем об отпуске, который забронировали, наряде, который заказали, и это предвкушение наполняет нас радостью. Автоматизированные покупки грозят лишить нас его.
Кроме того, даже обыденные покупки позволяют выражать свои ценности. Многие намеренно покупают «этичный» кофе или косметику, продукты локальных производителей или компаний, которые дают работу людям с ограниченными возможностями. Бренды помогают нам формировать свою идентичность, причем не только внешнюю, но и нравственную.
Есть у шопинга и социальное измерение — мы бродим по магазинам с друзьями, болтаем с продавцами, выбираем подарки для любимых людей. Когда этот процесс передан автономной системе, подарок рискует превратиться из осмысленного жеста внимания в обычную доставку.
Как и в других сферах, регулирование ИИ‑шопинга отстает от технологий, но уже начинает формироваться. В центре внимания — прозрачность: кто и в чьих интересах обучал модель, какие скрытые стимулы влияют на рекомендации, есть ли конфликты интересов. В ЕС обсуждают рамки раскрытия информации об автоматизированных решениях, в США — законы о прозрачности обучения моделей. Но главный вопрос остается открытым: будут ли ИИ‑ассистенты в торговле проектироваться и регулироваться так, чтобы в первую очередь служить интересам пользователей и поддерживать человеческое благополучие — или, как многие цифровые инструменты до них, они окажутся оптимизированы преимущественно под рост корпоративных продаж?
Пока что сигналы от потребителей довольно ясны: многие люди хотят сами выбирать, как и когда обращаться к ИИ, а не превращать покупки в полностью автономный процесс. Сохранить пространство для человеческого решения — задача не только для инженеров, но и для юристов, регуляторов и самих покупателей.
Ранее ученые выяснили, как ИИ-ассистенты влияют на школьное обучение.
Источник: hi-tech.mail.ru