На Reddit обсуждают обновление политики использования ChatGPT, которое запрещает модели давать персонализированные медицинские и юридические консультации, а также разбирать изображения медицинского характера: МРТ, рентгеновские снимки, фото кожных поражений и так далее. Модель теперь отвечает отказом и сообщает, что готова давать только общую информацию в образовательных целях — но без диагностики и советов, что делать.
По отзывам пользователей, не работают даже привычные уловки, когда модель просят рассмотреть гипотетическую ситуацию — алгоритм защиты дает только общие консультации, а за деталями отправляет к специалисту с лицензией.
В OpenAI никак не комментировали изменение политики, но с большой вероятностью оно сделано с целью избежать правовых рисков. Статистика показывает, что все большее количество пользователей обращается к ChatGPT за медицинскими и юридическими консультациями — были случаи, когда чат-бот даже помогал выиграть суд.
Тем не менее, использование нейросетей для таких задач регулируется слабо, что может создавать риски и для компании, и для пользователей. Некоторое время назад Сэм Альтман предупреждал, что на диалоги с ChatGPT не распространяются законы о врачебной и адвокатской тайне — это значит, что суд может потребовать у компании раскрыть переписку, которая затем будет использована как доказательство. В OpenAI работают с официальными органами, чтобы уточнить правовой статус чат-бота, но пока не добились результата.
P.S. Поддержать меня можно подпиской на канал «сбежавшая нейросеть», где я рассказываю про ИИ с творческой стороны.
Источник: habr.com