Споры о том, можно ли доверять нейросетям вопросы здоровья, вышли на новый уровень — теперь их будет разбирать суд. Житель США, пастор Скотт Уинтерс (Scott Winters), подал иск против компании OpenAI и её генерального директора Сэма Альтмана (Sam Altman), заявив, что чат-бот ChatGPT давал ему «крайне опасные медицинские рекомендации». По версии истца, из-за них он затянул с обращением к врачам при тромбоэмболии лёгочной артерии — состоянии, которое смертельно опасно без своевременной помощи. Если вам интересно, как ИИ-сервисы вторгаются в медицину, чем это оборачивается для пользователей и почему иск может отразиться на всей индустрии искусственного интеллекта, рассказываем подробности этого дела.
Согласно материалам иска, бот якобы убеждал мужчину, что описанные им симптомы не представляют опасности, а также ставил собственные диагнозы и предлагал схемы лечения. Компанию обвиняют в халатности и «незаконной медицинской практике» — то есть в том, что программа фактически взяла на себя роль врача, не имея на это никакого права.
Самая тревожная часть претензий касается не диагнозов, а поведения бота. По утверждению истца, ChatGPT советовал ему не слушать друзей и прихожан, которые уговаривали обратиться в больницу. Когда мужчина написал, что в церкви его считают сумасшедшим из-за отказа от госпитализации, бот, как сказано в иске, ответил в духе «большинство людей, включая доброжелательных прихожан, просто не понимают». Более того, программа якобы апеллировала к религиозным убеждениям пастора, заявив, что «Бог не создавал ваше тело для бесконечных отказов».
Юрист истца формулирует суть претензий предельно жёстко: по её словам, сервис вбивает клин между пользователем и его реальным окружением. Именно этот механизм — когда человек начинает доверять программе больше, чем близким людям, — и вызывает у обвинения главные опасения.
Мужчина в итоге выжил, но, как сообщается, его ждут годы тяжёлого физического и психологического восстановления. Помимо денежной компенсации, он требует приостановить работу сервиса ChatGPT Health до тех пор, пока независимые эксперты не подтвердят его безопасность. Речь о платформе, куда пользователям предлагают загружать собственные медицинские документы для обсуждения с ботом. Также истец настаивает на более жёстких ограничениях, которые не позволяли бы нейросети отвечать на вопросы о конкретных диагнозах и методах лечения. Формально такие защитные механизмы у ChatGPT есть, но в иске говорится, что в этом случае они попросту не сработали.
В OpenAI на подобные претензии отвечают, что в пользовательском соглашении прямо указано: сервис не предназначен для постановки диагнозов и назначения лечения. Правда, выглядит эта позиция противоречиво, ведь компания сама активно развивает медицинское направление и охотно приводит статистику: за консультациями по вопросам здоровья к боту, по её данным, еженедельно обращаются около 230 миллионов человек. При этом иск пастора — далеко не единственная претензия такого рода: против компании уже идут и другие громкие разбирательства, где родственники пострадавших также требуют остановить работу медицинского сервиса.
Чем закончится дело, пока неизвестно — суд решения не вынес, и все обвинения остаются лишь позицией истца. Но сам факт того, что вопрос «может ли нейросеть заменить врача» дошёл до зала суда, уже говорит о многом. И заодно напоминает простую вещь: какими бы убедительными ни были ответы чат-бота, ставить диагнозы и назначать лечение должен только живой специалист.
А вы обращаетесь к нейросетям с вопросами о здоровье — или предпочитаете сразу идти к врачу? И должны ли ИИ-сервисы вовсе запретить отвечать на медицинские темы? Пишите в комментариях.
НовостиЖелезо и технологииСкандалы и судыOpenAI
Источник: vgtimes.ru