Журналист прошел регистрацию в Wizz как 16-летний, и алгоритмы «возрастной верификации» просто не сработали.
Французский сервис Wizz позиционировал себя как безопасную площадку для знакомств подростков от 13 лет с механикой свайпов, как в Tinder. Приложение обещало разделять пользователей по возрасту через продвинутые алгоритмы ИИ, но реальность оказалась иной: взрослые мужчины легко обманывали систему и выходили на связь с детьми. Теперь Wizz удаляют из магазинов приложений, а Конгресс США готовит закон об ответственности платформ за безопасность несовершеннолетних.
Идея звучала логично: подросткам нужен способ найти сверстников без давления взрослых соцсетей, а ИИ должен проверять возраст и блокировать нарушителей. Разработчики хвалили «сложные алгоритмы безопасности», но тесты и криминальные дела показали обратное. Журналисты The Hill зарегистрировали аккаунт 28-летнему сотруднику под видом 16-летнего и система пропустила анкету без вопросов.
Реальные последствия оказались тяжелыми. На Гавайях 19-летний морпех познакомился в Wizz с 11-летней девочкой, выдал себя за 15-летнего и совершил надругательство — алгоритмы не заметили подмены. В Пуяллапе 23-летний мужчина притворился 14-летним и напал на девочку того же возраста. В Чикаго 27-летний под видом 16-летнего мальчика заманил нескольких несовершеннолетних на встречи с теми же последствиями. Такие случаи множатся, а ежегодно обман в сети затрагивает сотни миллионов детей по всему миру.
Источник: hi-tech.mail.ru