Главный специалист Microsoft по разработке программного обеспечения Шейн Джонс обнаружил уязвимость в генераторе изображений DALL-E 3 от OpenAI, позволяющую пользователям создавать откровенные и жестокие изображения в обход мер безопасности.
Джонс, обнаруживший уязвимость самостоятельно в декабре, сообщил о ней в Microsoft, которая поручила ему проинформировать OpenAI. Обеспокоенный риском для «общественной безопасности», Джонс публично призвал некоммерческий совет OpenAI отозвать DALL-E 3. Однако, по его словам, юридический отдел Microsoft потребовал удалить пост без объяснения причин, оставив его последующие запросы без ответа.
Появление откровенных дипфейков, возможно, созданных Microsoft Designer с использованием технологии DALL-E 3, подчеркивает необходимость ответственности за безопасность продуктов ИИ, пишут СМИ. Джонс подчеркивает важность того, чтобы компании несли ответственность за раскрытие информации и обеспечивали заинтересованным сотрудникам возможность высказывать опасения по поводу безопасности «без запугивания».
Источник: www.ferra.ru
Похожие новости:
Альтман полностью восстановлен в Совете директоров OpenAI после увольнения 17 ноября и возвращения 22 ноября 2023 года
Инженер Microsoft заявил об опасности ИИ компании
Microsoft начала блокировать промпты, которые позволяют создавать запрещённые изображения
Илон Маск объявляет войну OpenAI: что это значит для будущего искусственного интеллекта?