Google без явного согласия пользователей устанавливает на Android‑смартфоны приложение Android System SafetyCore для сканирования на предмет интимных изображений ради безопасности несовершеннолетних. Сейчас американская компания разрабатывает API, который делает функционал классификации контента доступным для сторонних приложений, пишет Cybernews.
В прошлом году вокруг этого приложения SafetyCore разразился скандал. Пользователи не доверяли ему из‑за отсутствия ярлыка и чёткого объяснения его назначения со стороны Google. Многие до сих пор неправильно понимают предназначение SafetyCore, которое постоянно переустанавливается.
Ситуация стала поводом для разработки приложения‑заглушки с тем же названием и сильно завышенным номером версии — SafetyCore v2000000000. Пользователи устанавливают его через сторонние источники, чтобы Google Play Store не мог переустановить приложение действующей версии SafetyCore.
В Google настаиваю, что её приложение обеспечивает конфиденциальность, работая только на устройстве пользователя. Однако эксперты в области кибербезопасности предупреждают, что сканирование изображений может выйти за рамки своей первоначальной функции и в будущем стать обязательным механизмом проверки.
Многие из технических обозревателей рекомендуют удалить SafetyCore и делятся инструкциями, как это сделать. Пользователей Android беспокоит не само сканирование, а установка файлов без согласия, отметили в All About Cookies.
SafetyCore выполняет классификацию изображений на устройстве, чтобы предотвратить просмотр пользователями изображений обнажённого тела при получении, отправке или пересылке сообщений в Google Messages. Функция размытия изображений деликатного характера стала доступна в Google Messages летом прошлого года. Приложение не отправляет идентифицирующие данные и конфиденциальный контент на серверы Google, уверяет компания.
Новый общедоступный API — ContentSafetyManager — позволяет другим приложениям Android запрашивать аналогичное сканирование контента на устройстве. API использует встроенную в устройство службу безопасности контента для его классификации и предоставляет этот функционал другим разработчикам приложений.
В настоящее время эта функция добавлена на уровне API 10000, который представляет собой специальный код‑плейсхолдер, обозначающий текущую версию для разработчиков. Это позволяет приложениям с предоставленными правами управлять службой безопасности контента, настроенной на устройстве.
API может принимать изображения, а также другие типы мультимедиа — он поддерживает MIME (Multipurpose Internet Mail Extension) и необработанные данные файлов. Приложение может запросить у устройства классификацию указанного контента, а ContentSafetyManager возвращает четыре основных типа: разрешённый, предупреждение, заблокированный и неклассифицированный. В документе не указано, используется ли именно приложение SafetyCore.
Предполагается, что это позволит другим Android‑приложениям стандартизировать способ проверки безопасности контента для пользователя на устройстве и получения подтверждения без потери данных за пределами гаджета. Затем приложения смогут действовать соответствующим образом: отображать или размывать изображение.
Однако Google не имеет полного контроля над тем, как сторонние приложения используют эти данные.
В сочетании с чрезмерными разрешениями вредоносное приложение может злоупотреблять возможностью сканирования контента для проверки больших объёмов пользовательского контента. Это способно привести к нарушению конфиденциальности путём сопоставления профилей пользователей или утечке личных фотографий и других данных.
При этом классификация контента сама по себе не предоставляет приложению разрешение на доступ ко всем фотографиям и другим файлам на устройстве.
Google рекомендуют разработчикам приложений запрашивать минимально необходимые разрешения для функции. В настоящее время SafetyCore требует наличия пяти разрешений:
-
Просмотр сетевых подключений
-
Полный доступ к сети
-
Автоматический запуск при включении устройства
-
Предотвращение перехода устройства в спящий режим
-
Чтение конфигураций сервисов Google.
Согласно данным Google Play Store, приложение Android System SafetyCore скачали более 1 млрд раз. Оно имеет рейтинг 3,4 звезды на основе почти 240 тыс. отзывов.
В 2021 году Apple также была втянута в скандал из‑за инструмента для сканирования материалов сексуального характера CSAM. Теперь устройства компании используют аналогичную систему размытия изображений обнажённого тела, называемую Communication Safety. Она применяет встроенное машинное обучение для анализа потенциально опасных фото‑ и видеофайлов. Communication Safety включена по умолчанию. API от Apple также позволяет другим приложениям использовать ту же функцию обнаружения с помощью фреймворка SensitiveContentAnalysis.
Источник: habr.com