Современная наука слишком плохо понимает, что такое сознание и как оно возникает, поэтому есть опасность просто не заметить момент превращения «безмозглого робота» в самостоятельную личность.
Искусственный интеллект может обрести сознание незаметно для нас, пишет профессор Кембриджского университета Том Макклелланд в недавней статье для Mind & Language. Как подчеркнул ученый, на сегодняшний день считается, что у ИИ пока нет, например, чувств и субъективного опыта, но его ускоряющееся развитие делает этот вопрос все более острым. По его мнению, однажды может появиться настолько развитая нейросеть, что она начнет осознавать себя, но мы не сможем доказать это.
Исследователь напомнил о широко известной «трудной проблеме сознания»: в науке нет четкого понимания, почему определенные процессы в мозге сопровождаются субъективным опытом. Например, почему при получении ранения или даже без всяких физических травм человек испытывает страдание: робота тоже можно научить реагировать на повреждения, но мучиться он от этого не будет.
В науке о сознании возникли два противоборствующих лагеря: одни ученые утверждают, что сознание имеет «функциональную архитектуру» и может быть воспроизведено в достаточно сложной вычислительной сети, другие уверены, что для него необходима именно биологическая основа, то есть оно может возникать только у живых существ. Ни у той, ни у другой стороны нет достаточных доказательств своей правоты.
Источник: hi-tech.mail.ru