Apple обновила «Правила проверки приложений» (App Review Guidelines), внеся ряд изменений, направленных на усиление защиты от вредоносного контента и недобросовестных практик при модерации.
Только за последний год появилось немало сообщений и скандалов, связанных с приложениями, которые обходят правила Apple, подвергая пользователей — в том числе несовершеннолетних — воздействию вредоносного или неуместного контента.
В январе организация Tech Transparency Project (TTP) обнаружила в App Store десятки приложений на базе искусственного интеллекта, предназначенных для создания «обнаженных» изображений (так называемые «nudify»).
В апреле та же группа опубликовала дополнительное исследование, показавшее, что поисковые подсказки и рекламные объявления в App Store также направляли пользователей к подобным продуктам. В июле власти Сан‑Франциско потребовали от Apple удалить восемь приложений, способных генерировать интимные изображения без согласия людей, запечатлённых на них.
В июле издание 9to5Mac опубликовало расследование, в ходе которого были выявлены десятки приложений, маскирующих азартные игры под безобидные игры или утилиты, чтобы обойти проверку App Store; многие из них были доступны детям.
При запуске из‑за пределов Бразилии такие приложения работали в соответствии с заявленным функционалом, однако при использовании бразильского IP‑адреса в них открывались скрытые платформы для азартных игр.
Кроме того, возник скандал вокруг чат‑бота Grok, разработанного компанией Илона Маска: выяснилось, что с его помощью создавались сексуализированные изображения женщин и несовершеннолетних без их согласия. Это побудило законодателей и общественные организации потребовать от Apple удалить платформу X и чат‑бота Grok из App Store. Позже Apple подтвердила, что в частном порядке предупредила компанию xAI: если проблема не будет решена, Grok может быть удалён из магазина.
Теперь Apple обновила «Правила проверки приложений», стремясь решить подобные проблемы. В разделе 1.2, посвящённом пользовательскому контенту, теперь содержится следующая формулировка: «Приложения, позволяющие пользователям создавать, генерировать, загружать, распространять контент или иным образом участвовать в его создании, сопряжены с особыми рисками, включая нарушение прав интеллектуальной собственности, создание интимных изображений без согласия участников и анонимную травлю».
В новых правилах Apple также указано: «Разработчики, которые не внедряют надлежащие меры защиты или не устраняют выявленные нарушения после получения соответствующего уведомления, могут быть признаны нарушившими „Кодекс поведения разработчиков“ (Developer Code of Conduct)».
Ещё одно важное изменение касается ужесточения правил в отношении так называемых приложений с «подменой функционала» (bait‑and‑switch). По определению Apple, это программы, которые «искажают свое назначение в процессе проверки, а после одобрения демонстрируют вредоносные возможности» — например, функцию «раздевания» людей.
В новый пункт 2.5.19 включено следующее положение: «В приложении не должно быть скрытых, неактивных или недокументированных функций; его функциональные возможности должны быть понятны как конечным пользователям, так и специалистам, проводящим проверку (App Review). Попытки скрыть недокументированные функции в бинарном коде приложения — например, путем его обфускации или другими методами — являются основанием для удаления приложения из App Store и аннулирования учётной записи разработчика».
Хотя запрет на наличие скрытых функций уже содержался в пункте 2.3.1, теперь Apple сформулировала это правило более чётко: в частности, прямо упоминается обфускация кода, а также подчёркивается, что подобные нарушения могут привести к удалению приложения и закрытию аккаунта разработчика.
Наконец, в разделе 5 («Юридические аспекты») Apple ужесточила формулировки, касающиеся приложений, которые способствуют торговле людьми или эксплуатации детей. Теперь там прямо указано, что такие приложения «будут удалены из App Store, а их распространение через альтернативные каналы — заблокировано».
Весной сообщалось, что App Store незаметно принимает меры против приложений, использующих искусственный интеллект для вайб‑кодинга. Теперь такие приложения нарушают правила магазина, запрещающие запускать код, изменяющий их собственную функциональность или функциональность других сервисов.
Источник: habr.com