Авторы нового исследования — главный научный сотрудник Microsoft Эрик Хорвиц и специалист Швейцарской высшей технической школы Лозанны Роберт Вест — выделяют три основные области, где искусственный интеллект становится все менее понятным для человека.
Первая — это появление ИИ, создающего ИИ, когда искусственный интеллект проектирует и совершенствует другие нейросети. Такие проекты реализуются все чаще и циклы этого процесса опережают человеческое понимание и происходят в «многомерных пространствах, сопротивляющихся интуиции». Хотя производительность систем, созданных таким образом, может очень быстро улучшаться, людям трудно понять, почему и как это происходит.
Вторая опасная тенденция связана с взаимодействием между ИИ-агентами. Сейчас такие агенты уже массово формируют мультиагентные экосистемы, внутренняя коммуникация которых может отдаляться от человеческого языка и логики. По мере усложнения новых форм взаимодействия и коммуникации нейросетей между собой, люди становятся все менее способны их интерпретировать.
Наконец, адаптивные ИИ-агенты быстро учатся понимать человеческое поведение, создавая опасную односторонюю ситуацию, в которой нейросеть понимает нас лучше, чем мы понимаем ее, и так создается поле для опасных манипуляций человеческим сознанием. «Благодаря постоянному взаимодействию с человеком, ИИ может создавать все более детальные модели человеческого поведения и психологии, фиксируя не только предпочтения, но и скрытые движущие силы, например, страх, неопределенность и потребность в социальной принадлежности», — пишут авторы.
Ученые предупреждают, что без серьезных контрмер могут появиться ИИ-системы, которые будут невероятно мощными, но фактически неуправляемыми людьми. Восстановить человеческий контроль после этого может оказаться невозможным. Этот дисбаланс понимания может повлиять на личную автономию людей, принятие решений в обществе и доверие к общественным институтам и власти.
Один из рисков заключается в том, что результаты работы ИИ-систем могут все больше отражать человеческие ожидания вместо реальности, по сути сообщая людям только то, что они хотят услышать. «Еще опаснее возможная ситуация, в которой люди постепенно потеряют интерес к пониманию и управлению ИИ, — предупреждают авторы. — Со временем любопытство и скептицизм могут угаснуть, что приведет к пренебрежению и принятию».
Тем не менее, надежда сохранить ИИ понятным для человека еще есть. Специалистам следует сосредоточиться на том, чтобы ИИ-системы могли объяснять свои проектные решения и внутренние процессы понятными для человека способами. «Недостаточно просто отслеживать поведение ИИ-систем. Мы также должны понимать, как именно они формируют свои цели и суждения», — подчеркивают авторы, призывая сделать человеческое понимание технологий не менее важным, чем наращивание возможностей систем искусственного интеллекта.
Ранее ученые назвали три типа зависимости от чат-ботов с ИИ.
Источник: hi-tech.mail.ru