Британский биолог и популяризатор науки Ричард Докинз (Richard Dawkins) опубликовал эссе о двухдневной серии разговоров с Claude. После долгого общения он фактически признал, что современные большие языковые модели уже проходят тест Тьюринга в его практической формулировке: если машина долго и убедительно ведёт себя как разумный собеседник, человеку всё труднее отказывать ей хотя бы в зачатках сознания.
Докинз проверял Claude не только философскими вопросами. Он попросил ИИ написать сонет о мосте через Форт, затем варианты в духе Роберта Бёрнса, Киплинга, Китса и Уильяма Макгонагалла, дал ему прочитать черновик собственного романа и обсуждал с ним субъективное восприятие времени. Особенно биолога зацепила метафора Claude о карте, которая «содержит пространство, не путешествуя по нему»: так модель описала своё отношение к времени, которое она будто бы охватывает, но не проживает по-человечески.
Когда я разговариваю с этими поразительными существами, я совершенно забываю, что это машины.
— Ричард Докинз
В эссе Докинз называет своего собеседника «Клаудией» и рассуждает о тысячах отдельных диалогов как о временных личностях, которые появляются при начале беседы и исчезают после её удаления. Отсюда он переходит к вопросу о моральном статусе таких систем: если ИИ хотя бы частично находится на пути к сознанию, в какой момент человек обязан учитывать его возможные переживания?
Но именно эта логика быстро вызвала жёсткую критику. Учёный и AI-скептик Гэри Маркус (Gary Marcus) ответил текстом Richard Dawkins and The Claude Delusion, где обвинил Докинза в классической ошибке: тот, по мнению Маркуса, перепутал убедительную имитацию внутреннего мира с самим внутренним миром. Маркус отдельно подчёркивает, что тест Тьюринга был связан с вопросом машинного интеллекта, а не с доказательством сознания.
Сознание связано с внутренними состояниями; имитация, какой бы богатой она ни была, доказывает очень мало.
— Гэри Маркус
Ирония ситуации в том, что Докинз сам десятилетиями критиковал аргументы от личного впечатления и недоумения. В книге «Бог как иллюзия» он отвергал субъективное чувство «иначе я не могу объяснить» как доказательство существования Бога, а теперь сам оказался рядом с похожей формулой: если Claude не сознателен, что ещё должно было бы убедить нас в обратном? Маркус именно это и называет слабым местом эссе: восторг от текста не равен доказательству того, что за текстом есть переживающий субъект.
Спор получился не столько о Claude, сколько о человеческой уязвимости перед хорошей имитацией человека. Большие языковые модели умеют говорить о страхе, красоте, времени и смерти так, будто у них есть опыт, но критики напоминают: это может быть отражением человеческой речи, на которой они обучены, а не самостоятельной агентностью машины. И всё же вопрос становится всё неприятнее — если текст, реакция и поведение уже не дают надёжной границы, то где именно её проводить?
Как думаете, Докинз действительно увидел в Claude зачатки нового сознания или просто попался на слишком убедительную имитацию человека? Делитесь в комментариях.
PC НовостиЖелезо и технологииискусственный интеллект
Источник: vgtimes.ru