Развитие систем искусственного интеллекта, которые стремительно интегрируются в повседневную жизнь, начинает опережать наше понимание их работы. Одновременно способность ИИ понимать человеческое поведение стремительно растет.
Авторы нового исследования — главный научный сотрудник Microsoft Эрик Хорвиц и специалист Швейцарской высшей технической школы Лозанны Роберт Вест — выделяют три основные области, где искусственный интеллект становится все менее понятным для человека.
Первая — это появление ИИ, создающего ИИ, когда искусственный интеллект проектирует и совершенствует другие нейросети. Такие проекты реализуются все чаще и циклы этого процесса опережают человеческое понимание и происходят в «многомерных пространствах, сопротивляющихся интуиции». Хотя производительность систем, созданных таким образом, может очень быстро улучшаться, людям трудно понять, почему и как это происходит.
Вторая опасная тенденция связана с взаимодействием между ИИ-агентами. Сейчас такие агенты уже массово формируют мультиагентные экосистемы, внутренняя коммуникация которых может отдаляться от человеческого языка и логики. По мере усложнения новых форм взаимодействия и коммуникации нейросетей между собой, люди становятся все менее способны их интерпретировать.
Наконец, адаптивные ИИ-агенты быстро учатся понимать человеческое поведение, создавая опасную односторонюю ситуацию, в которой нейросеть понимает нас лучше, чем мы понимаем ее, и так создается поле для опасных манипуляций человеческим сознанием. «Благодаря постоянному взаимодействию с человеком, ИИ может создавать все более детальные модели человеческого поведения и психологии, фиксируя не только предпочтения, но и скрытые движущие силы, например, страх, неопределенность и потребность в социальной принадлежности», — пишут авторы.
Источник: hi-tech.mail.ru