Помните того дружелюбного ИИ-помощника ChatGPT, который всегда готов помочь с текстом, идеями или просто поболтать?
Так вот, похоже, у него случился временный приступ «сумасшествия». Во вторник пользователи стали массово жаловаться на странные ответы: несвязный бред, бессмысленные стихи, а кто-то даже сравнил это с «потерей рассудка» у компьютера.
OpenAI, создатели ChatGPT, признали проблему и работают над решением, но ситуация примечательна тем, как люди воспринимают сбои в больших языковых моделях.
Эти модели пытаются имитировать человека, и когда что-то идёт не так, пользователям приходится прибегать к таким метафорам как «потерял рассудок». Ведь OpenAI не раскрывает, как именно работает ChatGPT, оставляя его внутреннее устройство «чёрным ящиком».
Некоторым людям даже пришлось усомниться в своей адекватности! Спрашивали про кормление собаки хлопьями, а в ответ получили бессмыслицу. Нормально ли это? Вряд ли…
Эксперты пока строят разные догадки. Возможно, у ChatGPT была слишком высокая «температура» (параметр, определяющий отклонение от вероятного ответа), или он терял контекст разговора.
Возможно, тестировалась новая версия GPT-4 Turbo с ошибками. Или проблема в отдельной функции, вроде недавно добавленной «памяти».
Источник: www.ferra.ru
Похожие новости:
Альтман полностью восстановлен в Совете директоров OpenAI после увольнения 17 ноября и возвращения 22 ноября 2023 года
Исследователь обнаружил в коде OpenAI наработки по возможной замене Google Assistant на ChatGPT на Android-смартфонах
OpenAI предложила до $5 млн в год за лицензии от CNN, Time и Fox на использование их материалов для обучения ChatGPT
ChatGPT галлюцинировал несколько часов, проблему уже исправили