Многие пользователи описывают ChatGPT как «живой», но OpenAI не даёт однозначного ответа на вопрос о том, обладает ли ИИ сознанием, называя это более ответственным подходом.
Все больше людей взаимодействуют с ChatGPT, как с человеком. Они говорят «спасибо», делятся личными данными и даже спрашивают, как дела у модели. Джоанна Джанг, которая работает над созданием отношений между человеком и ИИ в OpenAI, говорит, что это не новое явление. Люди всегда были склонны приписывать объектам человеческие черты, будь то их автомобиль или робот-пылесос.
Разница с ChatGPT в том, что он отвечает. Он повторяет тон пользователей, запоминает предыдущие высказывания и имитирует эмпатию. У людей, которые чувствуют себя одинокими или подавленными, это может создать впечатление искренней заботы. OpenAI видит в этом как потенциальные преимущества, так и риски. Терпеливый слушатель с искусственным интеллектом может изменить то, как люди взаимодействуют, но это также может затруднить формирование настоящих отношений.
Недавно просочившийся в сеть стратегический документ показывает, что OpenAI рассматривает взаимодействие с человеком как долгосрочного конкурента взаимодействия с ИИ. Цель компании — превратить ChatGPT в «цифрового суперпомощника», который может помочь во всех сферах жизни.
OpenAI проводит черту между «реальным» и воспринимаемым сознанием
Джанг не утверждает, что ChatGPT обладает сознанием, но и не говорит обратного. Вместо этого OpenAI хочет сосредоточиться на реальных последствиях: на том, как ИИ меняет поведение людей и что это говорит о человеческой природе.
По словам Джанг, OpenAI проводит различие между двумя понятиями: онтологическое сознание, которое определяет, является ли модель в основе своей сознательной, и воспринимаемая осознанность, которая показывает, насколько человечной кажется система пользователям. Компания считает, что на онтологический вопрос пока нет научного ответа, по крайней мере на данный момент.
С другой стороны, социальные учёные могут изучать воспринимаемую осознанность. OpenAI сосредоточен на этом аспекте. Насколько человечной кажется модель пользователям? Люди могут интеллектуально понимать, что ИИ не обладает разумом, но всё равно формировать эмоциональные связи, потому что чувствуют, что их понимают.
OpenAI обучает свои модели подчёркивать сложность сознания, когда пользователи спрашивают об этом, вместо того чтобы давать чёткий ответ. Однако на практике, по словам Джанг, модели часто просто отвечают «нет», и OpenAI планирует исправить это в будущих обновлениях.
ИИ должен быть вежливым, но не иметь собственного характера
В OpenAI говорят, что ChatGPT должен казаться дружелюбным, но не таким, как будто у него есть собственное независимое существование. Такие слова, как «думаю» или «помню», используются для того, чтобы неспециалистам было легче понять ответы модели, но они подразумеваются исключительно как метафоры.
Такие элементы, как вымышленная предыстория, романтические чувства или инстинкт самосохранения, намеренно опущены. Модель создана для того, чтобы быть полезной, отзывчивой и вежливой, не формируя эмоциональных привязанностей и не преследуя собственных целей.
OpenAI также избегает технических терминов, таких как «контекстное окно» или «цепочки мыслей», которые могут быть полезны специалистам, но затрудняют использование системы обычным человеком.
Когда ChatGPT отвечает на светские беседы фразами вроде «У меня всё хорошо», объясняет Джанг, он не выражает свои чувства, а следует правилам общения. По словам Джанг, многие пользователи благодарят модель не потому, что считают её сознательной, а потому, что для них важна вежливость.
Дебаты вокруг сознания ИИ сложны и затрагивают как научные, так и этические вопросы. Исследования поведения животных показали, что даже насекомые, такие как муравьи и пчелы, могут проявлять самосознание, бросая вызов нашим предположениям о мощности мозга, необходимой для осознания. Некоторые исследователи полагают, что определенный тип памяти может объяснить сознание, предполагая, что самоосознающий ИИ может появиться раньше, чем мы думаем.
С научной точки зрения исследователи изучают, обладают ли модели ИИ характеристиками, связанными с теориями сознания, такими как теория глобального рабочего пространства.
Пользуясь случаем, хочу порекомендовать BotHub — платформу, где можно протестировать все популярные модели без ограничений. Для доступа к сервису не требуется VPN и можно использовать российскую карту. По ссылке вы можете получить 100 000 бесплатных токенов для первых задач и уже сейчас начать работать!
Источник
Источник: habr.com