Порядка 91% опрошенных экспертов в российской нефтегазовой отрасли заявили, что готовы применять искусственный интеллект в работе, но не могут ему полностью доверять, выяснили аналитики аудиторско-консалтинговой компании Kept, их исследование есть в распоряжении РИА Новости.
«Несмотря на быстрый прогресс, ИИ остается несовершенным. 91% участников исследования готовы использовать технологию, но не готовы полностью ей доверять», — говорится в материалах Kept.
Отмечается, что ИИ-модели иногда ошибаются в фактах и их интерпретациях, «галлюцинируют», а результаты их работы критически зависят от качества данных и формы постановки задач. Также многие нейросетевые модели не показывают процесса решения задачи и не объясняют, как именно был получен ответ, что усложняет проверку результата.
«Вклад человеческого фактора в ошибки ИИ также очень высок. Создатели моделей формируют данные для обучения ИИ, задают условия и ограничения работы инструментов ИИ. Конечные пользователи формулируют запросы к моделям и ставят им задачи. Ошибки и неточности, допущенные людьми на каждом из этих шагов, ведут к ошибкам и неточностям в результатах работы ИИ», — добавляется в исследовании.
Также один из ключевых рисков использования нейросетей — кибербезопасность. Модели ИИ не только уязвимы для прямых взломов и атак, но и очень чувствительны к подмене или искажению данных, а слабым звеном зачастую являются точки стыковки ИИ-моделей с протоколами передачи первичных данных от систем или датчиков на производственных объектах нефтегазового комплекса.
Источник: hi-tech.mail.ru