Дарио Амодеи, генеральный директор компании Anthropic, заявил, что современные ИИ-модели, вопреки расхожему мнению, врут и выдумывают факты реже, чем люди.
«Конечно, это зависит от того, как посмотреть, но я подозреваю, что модели ИИ галлюцинируют меньше, чем люди. Правда, делают это более неожиданным образом», — отметил Амодеи в беседе с журналистом TechCrunch на мероприятии Anthropic для разработчиков Code with Claude в Сан-Франциско.
Амодеи считает, что ошибки — это нормально.
«Телеведущие, политики и люди разных профессий постоянно ошибаются. Тот факт, что ИИ тоже совершает ошибки, не является критикой его интеллекта», — заявил он, признав, что проблемой может быть уверенность, с которой ИИ преподносит ложную информацию как факт.
Амодеи подчеркнул, что галлюцинации ИИ не являются непреодолимым препятствием на пути к созданию AGI — искусственного интеллекта, сопоставимого или превосходящего человеческий разум.
Глава Anthropic известен своим оптимизмом в отношении перспектив AGI. В прошлом году он даже предположил, что AGI может появиться уже в 2026 году. Сейчас он видит устойчивый прогресс в этом направлении и не наблюдает «жёстких блоков», которые мешали бы развитию ИИ.
Не все ИИ-исследователи разделяют его точку зрения. Демис Хассабис, глава Google DeepMind, ранее отмечал, что у современных ИИ-моделей слишком много «дыр», и они ошибаются в очевидных вопросах.
В середине мая Anthropic привлекла к себе внимание из-за ошибки чат-бота Claude, которая прокралась в юридические документы. Юрист Anthropic использовал выдуманную цитату с неверным названием произведения и автора в тяжбе с музыкальными издателями. Anthropic извинилась за этот инцидент и назвала его «честной ошибкой цитирования, а не намеренной подделкой».
Источник: habr.com