Профессор Кари Фрэмлинг, один из пионеров в области «Объяснимого искусственного интеллекта», разработал передовую модель, объясняющую, как и почему работает искусственный интеллект (ИИ). Эта модель открывает «черный ящик» искусственного интеллекта и доступна для практически всех систем ИИ.
Искусственный интеллект и машинное обучение используются в правительствах, здравоохранении, бизнесе и промышленности. Метод глубокого обучения (deep learning) позволяет диагностировать пациентов в здравоохранении намного быстрее, чем человек. Но как система искусственного интеллекта принимает решения и почему именно так? Эти вопросы могут быть сложными для понимания для широкой публики.
Фрэмлинг разработал метод CIU (Контекстуальный метод определения важности и полезности) и считает его более эффективным по сравнению с другими моделями. Он позволяет изучить и объяснить влияние изменения входных данных на результаты искусственного интеллекта.
Этот метод не создает «заменительную модель», а анализирует работу нейронной сети и позволяет создавать понятные объяснения для решений, принятых системой искусственного интеллекта.
Модель CIU реализована на языках программирования Python и R, ее исходный код доступен на Github. Эта модель может быть интегрирована практически с любой системой искусственного интеллекта и даже объяснять результаты классических систем ИИ.
Источник: www.ferra.ru
Похожие новости:
Обзор IT-Weekly: GigaChat сдал экзамен на врача, Nvidia приближается по уровню капитализации к Amazon
Acer объявляет о выпуске новых ПК Swift Go с поддержкой ИИ и процессорами Intel Core Ultra
Греф считает, что ИИ не заменит человека, а они будут работать вместе
Дмитрий Чернышенко: Мы делаем ставку на ИИ как на основной драйвер технологической независимости