Искусственный интеллект постепенно становится привычным рабочим инструментом для врачей, исследователей и программистов. Однако постоянная опора на нейросети может привести к обратному эффекту. Специалисты рискуют утратить навыки, которые раньше применяли самостоятельно, причём заметить такие изменения бывает непросто. Telegram-канал создателя Трешбокса про технологии
К такому выводу пришла Кайса Кярки, научный сотрудник Института теоретической философии. В статье для журнала Human Affairs она рассмотрела проблему снижения профессиональных компетенций и вопрос о том, кто должен отвечать за ошибки, связанные с чрезмерным доверием к ИИ.
Главная опасность заключается в том, что ответы нейросетей часто выглядят убедительно, даже если содержат ошибки. Специалисты могут постепенно привыкнуть полагаться на результаты работы ИИ и перестать тщательно их проверять. В медицине это особенно рискованно. Если врач не заметит ошибку в рекомендации языковой модели, последствия могут оказаться серьёзными.
При этом ответственность за подобные ситуации не всегда можно полностью возложить на конкретного сотрудника. Человек не обязательно замечает, как меняются его профессиональные привычки и снижается способность самостоятельно решать задачи. Поэтому проблема касается не только отдельных специалистов, но и всей системы подготовки кадров.
Кярки считает, что профессиональным сообществам необходимо определить навыки, которыми сотрудники должны владеть независимо от доступности ИИ. Например, пилоты регулярно тренируются действовать при отказе автопилота. Аналогичный подход можно применять и в других отраслях.
В медицинском образовании уже обсуждают занятия, на которых студентам запрещено пользоваться нейросетями. Это позволяет проверить, насколько хорошо они умеют самостоятельно анализировать информацию и ставить диагнозы.
Для снижения рисков работодателям рекомендуют разработать правила использования ИИ, регулярно проверять базовые компетенции сотрудников и создавать условия для поддержания профессиональных навыков. В отдельных сферах могут потребоваться дополнительные нормативные ограничения.
Если не уделять этой проблеме внимания, в будущем может стать сложнее обучать новых специалистов без помощи нейросетей. Поэтому развитие ИИ должно сопровождаться мерами, которые позволят людям сохранять способность работать самостоятельно и выявлять ошибки технологий.
Источник: trashbox.ru