Сотрудники Управления по контролю за продуктами и лекарствами США (FDA) рассказали CNN, что новая ИИ-система под названием Elsa, которую недавно представило ведомство, иногда придумывает несуществующие научные исследования или искажает реальные данные. Один из сотрудников отметил: «Если нет времени перепроверить — доверять нельзя. Она уверенно „галлюцинирует“».
Elsa предназначена для ускорения клинической экспертизы и помощи в принятии решений, влияющих на здоровье пациентов. Однако такие ошибки могут быть опасны.
Руководство FDA пока не считает проблему серьёзной. Комиссар агентства Марти Макарай сообщил CNN, что не слышал конкретных жалоб и напомнил, что использование Elsa и обучение работе с ней пока добровольны.
Информация о проблемах с ИИ появилась в тот же день, когда Белый дом представил свой «План действий в сфере ИИ». В документе говорится о стремлении США победить в технологической гонке, упрощении регулирования ИИ и устранении так называемых «идеологических перекосов» — например, упоминаний о климате.
Источник: www.ferra.ru