Ученые Массачусетского технологического института (MIT) разработали систему, которая помогает пользователям понять, как искусственный интеллект (ИИ) принимает свои решения. Для этого они используют большие языковые модели (LLM), чтобы преобразовать сложные технические объяснения в понятный текст.
Модели машинного обучения могут ошибаться и быть трудными для понимания, особенно когда объяснения содержат информацию о сотнях параметров. Эти объяснения часто сопровождаются сложными графиками, которые сложно интерпретировать. Чтобы решить эту проблему, исследователи создали систему EXPLINGO, которая превращает такие объяснения в читаемые тексты.
Система состоит из двух частей. Первая — NARRATOR — использует LLM для создания текстовых объяснений, которые легко понять. Она настраивается на основе примеров, которые задает пользователь. Вторая часть — GRADER — автоматически оценивает текст по четырем критериям: точности, полноте, краткости и плавности.
Пользователи могут настроить систему так, чтобы определённые критерии оценивались важнее других. Например, в случае с высокорисковыми ситуациями можно акцентировать внимание на точности объяснений.
Результаты тестирования показали, что система успешно генерирует высококачественные объяснения и может адаптироваться под разные стили написания.
Источник: www.ferra.ru
Похожие новости:
ML в медицине: дайджест за 21 — 27 октября 2024 г
Сверхпроводящий токамак | Рентген в смартфоне | Теневая камера | Контакты для 2D-чипов
«Слушая подкасты, ничего не узнаешь, ты должен устать, упасть без задних ног — такой должна быть встреча с образованием»
«Количество желающих повышать квалификацию в больших компаниях меньше, чем среди предпринимателей»