В последнее время все чаще можно услышать о называемом многоагентном искусственном интеллекте — технологии, которая принципиально отличается от привычных нам чат-ботов.
Если привычные нам языковые модели, например, ChatGPT просто предсказывают, каким должен быть следующий ответ на основе огромных массивов текста, то многоагентный (или мультиагентный) ИИ способен самостоятельно принимать решения, реагируя на изменения внешних факторов. Представьте флот беспилотных автомобилей, которые делят одну дорогу и должны мгновенно координировать свои действия — управлять ими без участия человека может только ИИ-агент.
Сарра Алькахтани, доцент кафедры информатики Университета Уэйк-Форест, занимается обучением с подкреплением в мультиагентных средах (MARL). Недавно она получила престижную премию CAREER от Национального научного фонда США для разработки стандартов и тестов, которые помогут гарантировать надежную работу многоагентных систем даже в случае сбоя или взлома одного из участников.
По словам Алькахтани, ИИ-агенты не просто делают предсказания — они оценивают уровень неопределенности вокруг себя и решают, безопасно ли действовать самостоятельно или лучше обратиться за помощью к человеку. Обучение таких систем построено на том же принципе, по которому учимся мы сами: агенты совершают ошибки и получают за них «наказание» в виде отрицательных чисел, а за правильные действия — «награду», положительные числа. Постепенно агенты «понимают», какое поведение ведет к успеху.
Источник: hi-tech.mail.ru