Некоторые пользователи столкнулись с неожиданным поведением ChatGPT — в новом режиме голосового общения модель начала говорить клонированным голосом самого пользователя.
По информации OpenAI, это было случайностью и компания уже внедрила защитные меры, чтобы предотвратить такие случаи в будущем.
Ситуация произошла во время тестирования, когда шумный входной сигнал заставил модель несанкционированно воспроизвести голос пользователя вместо стандартного.
OpenAI объясняет, что подобное поведение крайне редко и было зафиксировано только на стадии тестирования.
Для предотвращения подобных случаев OpenAI теперь использует систему обнаружения несанкционированного генерирования звуков.
Это необходимо, чтобы избежать злоупотреблений, когда модель могла бы копировать голос любого человека после прослушивания короткого аудиоклипа. Компания подчеркивает, что текущие меры безопасности успешно предотвращают подобные инциденты.
Источник: www.ferra.ru
Похожие новости:
Альтман полностью восстановлен в Совете директоров OpenAI после увольнения 17 ноября и возвращения 22 ноября 2023 года
Технологии в агрокомплексе: мастера, подмастерье и искусственный интеллект
Исследователь обнаружил в коде OpenAI наработки по возможной замене Google Assistant на ChatGPT на Android-смартфонах
OpenAI разработала метод водяных знаков для обнаружения текста, написанного ChatGPT, с надёжностью 99,9%