Google DeepMind анонсировала проект по изучению среды, где действуют сразу нескольких миллионов ИИ-агентов. Изучить возможные сценарии поможет финансирование в размере $10 млн. Главный вопрос – будет ли взаимодействие ИИ-агентов в таком гигантском масштабе предсказуемым, стабильным и безопасным.
Конкурс Google проводит совместно с фондом Schmidt Sciences (основан бывшим главой Google Эриком Шмидтом), Фондом кооперативного искусственного интеллекта (Cooperative AI Foundation) и Агентством перспективных исследований и изобретений (Advanced Research and Invention Agency).
Отдельные модели ИИ, функциональность, полезность и безопасность которых взращивалась годами, взаимодействуют между собой совершенно непредсказуемым образом. В экосистемах, где, как предполагается, будут общаться между собой, полностью исключив человеческий фактор, крупномасштабные мультиагентные ИИ-системы, могут внезапно возникнуть неизвестные коллективные модели поведения, сложное, труднопредсказуемое и нерациональное поведение ИИ-агентов, а также риски, до сих пор неизвестные или малоизученные. Например, резкий всплеск экономической активности, новые угрозы безопасности, уязвимости ИИ или ловушки для ИИ-агентов, конкуренция между группами ИИ-агентов и их целями. Не исключена даже версия, что синергия такой экосистемы воплотит на практике модель AGI (Artificial General Intelligence), концепция которой известна пока только в теории.
Песочницы, лабораторные исследования отдельных агентов и нескольких агентов изолированно, и даже соцсети для ИИ-агентов пока не помогли – масштабы не те. А ведь эра, когда на арену мировых экономик выйдут ИИ-агенты и мультиагентные системы разных организаций, уже, можно сказать, «на носу». Но вместо обещанного ускорения бизнес-процессов и снижения операционных затрат мировое экономическое и технологическое сообщество рискует столкнуться с высоким риском ошибок, которые обойдутся очень дорого.
Можно ли заранее повысить безопасность и стабильность экосистемы искусственного интеллекта и получится ли ими управлять – вопрос, который и хочет изучить Google DeepMind, приглашая к взаимодействию и обещая финансирование академическим и независимым исследовательским организациям.
Направления, по которым будут принимать заявки:
Сумму финансирования разделят между собой исследователи, заявки которых победят в конкурсном отборе. Их имена, как ожидается, объявят осенью текущего года.
Смогут ли российские разработчики и исследователи принять участие в этом конкурсе – покажет практика. Мы подсели на цифрового паразита QR-код. От финтех-прорыва к нишевому инструменту Матрица маркетплейсов. Как бороться с галлюцинациями алгоритмов
Источник: www.it-world.ru