ElevenLabs, чей инструмент использовался для создания аудиодипфейка с участием президента США Джо Байдена, отстранила от работы ответственного за это пользователя после расследования, проведенного компанией Pindrop Security Inc, специализирующейся на обнаружении голосового мошенничества.
Стартап, специализирующийся на воспроизведении голоса с помощью ИИ на более чем двух десятках языков, серьезно относится к этому делу, подчеркивая свою приверженность предотвращению неправомерного использования инструментов ИИ для работы с аудио. Расследование, проведенное Pindrop и другими инструментами, показало, что фейк, скорее всего, был создан с помощью технологии ElevenLabs
Дипфейк, встревоживший экспертов по дезинформации и представителей избирательных органов, подчеркивает легкость создания подобных подделок и возможность злоумышленников влиять на выборы.
Компания ElevenLabs, стоимость которой недавно оценили в 1,1 миллиарда долларов после раунда финансирования в 80 миллионов долларов, позволяет создавать голосовые клоны общественных деятелей в пародийных целях, но не допускает несанкционированного подражания.
Источник: www.ferra.ru
Похожие новости:
Гражданская война в США: с чего она может начаться?
Обзор IT-Weekly: Южная Корея планирует вложить в полупроводниковый хаб $0,5 триллиона, Китай вдвое нарастит производство чипов в ближайшие пять лет
Исследователи: аудиодипфейки используют для мошеннических звонков в мессенджерах
В США решили запретить звонки голосовых роботов после имитации голоса Джо Байдена