Ученые из Университета Арканзаса разработали искусственный интеллект (ИИ), который анализирует рентгеновские снимки грудной клетки, ориентируясь на принципы работы рентгенологов. Новый алгоритм под названием ItpCtrl-AI не только выявляет отклонения, но и показывает, на чем основывает свои выводы, что делает его работу более прозрачной и понятной для врачей.
Обычно системы ИИ работают как «черный ящик» — они выдают результат, но не объясняют, как именно его получили. По мнению руководителя исследования Нган Ле, для того чтобы врачи доверяли технологиям, они должны понимать логику их решений. В этом случае специалисты смогут использовать искусственный интеллект как инструмент, а не слепо полагаться на его выводы.
Чтобы обучить ItpCtrl-AI, исследователи записали, как рентгенологи просматривают снимки: какие участки изучают и сколько времени уделяют каждой области. На основе этих данных был создан тепловой экран внимания — он показывает, куда должен «смотреть» ИИ при анализе изображения. Такой подход позволяет программе учитывать особенности снимков и повышает точность диагностики.
Прозрачность работы системы не только укрепляет доверие врачей и пациентов, но и важна с точки зрения юридической и этической ответственности. В критически важных областях, таких как медицина, автономные автомобили и финансовые технологии, необходимо понимать, как принимаются решения, чтобы избежать ошибок и предвзятости.
Сейчас команда исследователей совместно с онкологическим центром MD Anderson в Хьюстоне работает над тем, чтобы адаптировать ItpCtrl-AI для анализа более сложных медицинских изображений, например трёхмерных КТ-снимков.
