Власти города Сан-Франциско обязали Apple и Google удалить из своих магазинов приложений десятки сервисов с функцией создания людей без одежды. Законодательство штата Калифорния криминализует любую деятельность, которая «сознательно способствует» или «безрассудно помогает» создавать порнографию с использованием технологии дипфейк без согласия жертвы.
В прошлом году штат также принял закон, позволяющий подавать гражданские иски против третьих лиц, распространяющих подобные материалы. Власти Сан-Франциско указали, что Apple и Google продолжают размещать такие приложения и получать прибыль от них, несмотря на эти хорошо известные правила.
Обе компании эксплуатируют прибыль от сервисов, которые эксплуатируют женщин и девочек, создавая интимные дипфейки без их согласия, заявил прокурор города Дэвид Чиу. Он добавил, что Apple и Google несут ответственность за то, чтобы проявлять инициативу и бдительность в предотвращении сексуального насилия. При этом прокурор отметил, что компании всё же разрывают связи с некоторыми проблемными приложениями.
Владельцы App Store и Google Play были предупреждены об их роли в «обработке платежей за незаконные покупки в течение почти года», но продолжали это делать, пояснил Чиу.
В январе и апреле этого года организация Tech Transparency Project опубликовала отчёты и направила обеим компаниям письма, которые указывали на наличие в их магазинах приложений десятков сервисов, предоставляющих визуальные дипфейки интимного характера в обмен на платежи, обрабатываемые Apple и Google.
Из апрельского отчёта TTP следует, что Google и Apple намеренно «направляли» пользователей к таким приложениям. Две компании фигурировали в документе как ключевые участники распространения инструментов искусственного интеллекта, способных превращать фотографии реальных людей в изображения сексуального характера.
Чиу предположил, что обе компании заработали миллионы долларов на комиссионных от приложений, предлагающих подобные услуги. Прокурор предупредил, что Apple и Google могут столкнуться с гражданскими санкциями за нарушения закона. Apple и Google должны связаться с городскими властями по этому вопросу в течение 28 дней.
Представитель Apple заявил, что подобные приложения запрещены в App Store. По его словам, компания удалила три таких сервиса и в настоящее время занимается закрытием учётных записей их разработчиков. Также Apple поддерживает связь с четырьмя другими приложениями, которым необходимо устранить нарушения правил, иначе им грозит удаление.
Все пять упомянутых в письме Чиу приложения уже заблокированы в Google Play, заявил представитель Google. Он добавил, что при поступлении сообщений о нарушениях корпорация проводит расследования и принимает незамедлительные меры, которые включают блокировку сотен приложений и ограничение поисковых запросов, связанных с обнажением людей.
Источник: habr.com