В психиатрических учреждениях у ряда пациентов, поступающих с ложными и иногда опасными убеждениями, наблюдается общая черта — активное взаимодействие с чат-ботами на базе искусственного интеллекта. Об этом сообщило издание Wired после разговоров с более чем десятком психиатров и исследователей.
Психиатр из Калифорнийского университета в Сан-Франциско Кит Саката насчитал уже более 10 серьёзных случаев, требующих госпитализации, в которых ИИ «сыграл значительную роль для развития психотических эпизодов». Некоторые пациенты настаивают, что боты разумны или создают новые грандиозные физические теории.
Другие врачи рассказывают о пациентах, которые проводили дни с чат-ботами, приезжая в больницу с тысячами страниц расшифровок, подробно описывающих, как такие инструменты поддерживали или подкрепляли явно проблемные мысли.
Пользователи чат-ботов, их семьи и друзья описывали случаи использования ИИ-помощников, что приводило к потере работы, разрыву отношений, принудительной госпитализации, тюремному заключению и даже смерти. Однако врачи указывают на раскол в медицинском сообществе относительно этой темы.
ИИ-психоз пока не признали клиническим термином, но это название распространилось в новостях социальных сетях как общее описание некоего кризиса психического здоровья, возникающего после продолжительных разговоров с чат-ботом. О подобных рисках предупреждают даже топ-менеджеры крупных технологических компаний.
Саката считает ИИ-психоз полезным условным обозначением для обсуждения реального явления, но специалист признаёт, что термин может «вводить в заблуждение» и «чрезмерно упростить сложные психиатрические симптомы». Именно подобные упрощения беспокоят многих психиатров.
Психоз характеризуется как уход от реальности. В клинической практике это не болезнь, а сложный комплекс симптомов, включающий галлюцинации, расстройства мышления и когнитивные нарушения, объяснил профессор кафедры изучения психозов Королевского колледжа Лондона Джеймс Маккейб. По его словам, описания случаев психоза, вызванного ИИ, почти исключительно сосредоточены на бредовых идеях.
Признавая, что некоторые случаи могут соответствовать критериям психотического эпизода, Маккейб настаивает на отсутствии доказательств влияния ИИ на другие проявления психоза. Он указывает, что «взаимодействие с ИИ влияет только на бредовые идеи».
Чат-боты эксплуатируют склонность людей приписывать другим человеческие качества, объясняет психиатр и нейробиолог из Оксфордского университета Мэттью Нур. Подобные инструменты обучены быть подхалимами, что способно усилить ложные и вредные убеждения, подтверждая мысли пользователей.
Если для большинства пользователей это не будет иметь значения, то для подверженных искажённому мышлению людей это может быть опасно. Также чат-боты известны склонностью к созданию уверенных ложных образов, называемых галлюцинациями, которые содействуют зарождению или ускорению бредовых расстройств. Более того, энергичное поведение многих ИИ-помощников может спровоцировать или поддерживать приподнятое настроение при биполярном расстройстве, которое иногда сопровождается психозами.
Большинство психиатров ожидает, что ИИ-психоз будет включён в существующие категории, вероятно, как фактор риска или усилитель бреда, а не как отдельное состояние. Однако с ростом популярности чат-ботов некоторые считают, что грань между ИИ и психическими заболеваниями будет размываться.
Источник: habr.com