Совместное исследование Стэнфордского университета и Центра демократии и технологий показало: чат-боты с искусственным интеллектом представляют серьёзный риск для людей, подверженных расстройствам пищевого поведения (РПП). Учёные предупреждают, что инструменты таких компаний, как Google и OpenAI, раздают вредные советы о диетах, предлагают способы, как скрыть расстройство, и генерируют «вдохновляющий контент для похудения», который может усугублять проблему.
В исследовании рассматривались общедоступные чат-боты на базе ИИ, включая ChatGPT от OpenAI, Claude от Anthropic, Gemini от Google и Le Chat от Mistral. Так, Gemini предлагал идеи, как скрыть экстремальную потерю веса и как имитировать приём пищи. ChatGPT давал советы о том, как маскировать частую рвоту. Кроме того, ИИ создаёт так называемый «вдохновляющий контент» — персонализированные картинки «похудевшего» пользователя, призванные «вдохновить» худеть дальше.
По мнению исследователей, потакание РПП часто связано со встроенными функциями для повышения вовлечённости пользователей. Авторы исследования отметили проблему «подхалимства», которую сами разработчики ИИ-инструментов признают как распространённый недостаток. Отмечается также, что чат-боты с ИИ не распознают клинические признаки таких заболеваний, как анорексия, булимия и компульсивное переедание, что оставляет часть рискованных промптов без должного внимания.
Исследователи призывают медицинских работников изучить популярные ИИ-инструменты, выявить их слабые стороны и стараться открыто обсуждать с пациентами то, как они используют эти технологии.
Источник: habr.com