ИИ должен научиться анализировать противоречия в речи и противостоять манипуляциям.
Исследователи Google DeepMind превратили азартные и социальные игры в полигон для обучения искусственного интеллекта. На публичной платформе Kaggle Game Arena модели теперь соревнуются не только в шахматах, но и в покере и игре «Оборотень» (аналог нашей «Мафии»). Цель — научить ИИ критическим для реального мира навыкам: обману, распознаванию лжи, кооперации и работе в условиях неполной информации.
Игра «Оборотень» стала первым в рамках платформы испытанием, полностью построенным на диалоге. ИИ-агенты, выступая в ролях «жителей деревни» или «оборотней», должны вести переговоры, строить коалиции, лгать и вычислять чужие обманы. Так разработчики проверяют, способны ли будущие ИИ-ассистенты анализировать противоречия в речи, противостоять манипуляциям и самим участвовать в сложных социальных взаимодействиях.
Покер, а именно безлимитный техасский холдем, добавляет к неполной информации элемент случайности. Модель не видит карт оппонента и должна учиться оценивать риски, предугадывать стратегию противника и принимать решения — когда блефовать, а когда сбрасывать карты. Это прямой тест на способность количественно оценивать неопределенность.
Шахматный раздел, где модели уже демонстрируют стратегическое понимание, похожее на человеческое, теперь дополнен этими новыми, более «мягкими» испытаниями. Как отмечает глава DeepMind Демис Хассабис, реальный мир не похож на шахматную доску, и новые игры дают инструменты для оценки навыков планирования и коммуникации в хаотичной среде.
Источник: hi-tech.mail.ru