Современные системы искусственного интеллекта становятся все умнее с каждым днем, но одного важного человеческого качества им по-прежнему недостает — мудрости.
Казалось бы, зачем машине мудрость? Дело в том, что нынешние ИИ-системы отлично справляются с четко определенными задачами, но пасуют, когда проблема размыта, неоднозначна или требует учета множества точек зрения — то есть в ситуациях, с которыми люди сталкиваются ежедневно. Причина проста: у ИИ нет того набора стратегий, который помогает нам ориентироваться в неопределенности. Международная группа ученых впервые предложила конкретные способы интегрировать мудрость в ИИ, чтобы сделать его более надежным, прозрачным и безопасным.
«Мудрость — это не просто знания или интеллект. Это набор ментальных навыков, необходимых для решения жизненных задач: принятия трудных решений, ориентации в непредсказуемых социальных ситуациях», — поясняет один из руководителей исследования, профессор психологии Университета Ватерлоо Сэм Джонсон.
Ключевая идея ученых — научить ИИ метакогниции, то есть способности «думать о собственном мышлении». На практике это означает, что система должна уметь распознавать границы своих знаний, адаптироваться к контексту, учитывать разные точки зрения и сохранять гибкость в оценке того, как может развиваться ситуация. Специалисты предлагают конкретные пути: от специальных методов обучения больших языковых моделей до новых архитектур и тестов для измерения «мудрости» ИИ.
Источник: hi-tech.mail.ru