В мае 2024 года компания Google официально запустила функцию под названием «Обзор от ИИ» в рамках своей поисковой выдачи — с тех пор технологии на базе искусственного интеллекта предоставляют краткую сводку с основной информацией по поисковому запросу пользователей. И, что примечательно, система предоставляла краткие ответы и сводки информации даже по вопросам, связанным со здоровьем и самочувствием человека. Но, к сожалению, исходя из недавнего расследования информационного издания Guardian, ИИ довольно часто ошибался и предоставлял неточные данные — это привело к тому, что Google отключила «Обзор от ИИ» для определённых вопросов, связанных со здоровьем. Подписывайтесь на Telegram-канал про технологии
Например, эксперты отметили, что ИИ на запрос «нормальный диапазон показателей анализа крови на функции печени» выдавал множество различных цифр без контекста ситуации, а ещё система совершенно не учитывает национальность пользователя, его пол, этническую принадлежность и даже возраст пациента. Соответственно, в краткой сводке предоставлялась неточная информация, из-за которой пользователи с серьёзными заболеваниями печени могли ошибочно решить, что на самом деле они совершенно здоровы, так и не обратившись за консультацией к специалисту. Эксперты из данной области назвали данную информацию «опасной» и «тревожной», так как она может нанести реальный вред здоровью.
Хотя в Google заявили об удалении кратких сводок по вышеуказанному запросу,
К сожалению, хотя Google уже удалила краткие ИИ-сводки по запросам, связанным с результатами анализов функционирования печени (речь о двух конкретных поисковых запросах), давать развёрнутый ответ по данной ситуации представители поискового гиганта не стали. «Мы не комментируем отдельные удаления из Поиска. В случаях, когда обзоры ИИ не учитывают контекст, мы работаем над общими улучшениями, а также принимаем соответствующие меры в соответствии с нашей политикой», — заявил представитель Google.
Кроме того, исследователи обнаружили, что если задать аналогичные вопросы по анализам печени, но с немного иной формулировкой, Google всё равно будет выдавать краткую сводку с абсолютно той же информацией, на которую ранее жаловались журналисты Guardian. Также стоит отметить, что на деле данных о здоровье в «Обзорах от ИИ», вводящих пользователей в заблуждение, может быть гораздо больше — ранее эксперты уже обнаружили множество неточностей, связанных с вопросами по психическом здоровье человека.
Источник: trashbox.ru