Средняя школа Lawrence High School в американском штате Канзас заключила соглашение на $162 тыс. с компанией в сфере безопасности Gaggle для обеспечения круглосуточного наблюдения за учениками ради их безопасности.
Система компании на базе искусственного интеллекта анализирует все домашние задания, электронные письма, фотографии и чаты на школьных гаджетах, чтобы найти признаки антисоциального поведения, суицидальных наклонностей, употребления наркотиков и алкоголя.
После выявления подобных нарушений к учащемуся применяют меры от отправки к администрации учебного заведения до визита в полицию.
Руководство округа указывает, что Gaggle представляет собой инструмент для повышения безопасности и благополучия учеников и персонала. Институт здравоохранения Канзаса указывает, что уровень самоубийств среди молодёжи в штате превысил средний показатель по стране.
Gaggle уверяет, что в 2018-2023 годы компания спасла почти 5,8 тыс. жизней учеников. Фирма проанализировала 28 млрд студенческих материалов и отметила 162 млн из них как подлежащие проверке.
Система Gaggle использует ИИ для маркировки опасного контента на школьных устройствах и в учётных записях, чтобы провести проверку и заблокировать его. Анализ экспертов помогает должностным лицам принимать меры до того, как подростки нанесут вред себе или другим. В серьёзных ситуациях система оповещает выбранные округом контакты даже после окончания рабочего дня или в выходные. В крайнем случае Gaggle может вызвать полицию.
После внедрения системы в одном из случаев администрация Lawrence High School вызвала весь класс, чтобы ученики объяснили содержание фотографий из творческого задания, сообщила школьная газета Budget. Именно юные журналисты многое рассказали о применении Gaggle в школе.
В Budget также задались вопросом, нарушает ли использование системы Первую поправку Конституции США, Закон о защите прав потребителей Канзаса и Закон защиты студенческих публикаций штата.
Критика системы не остановила школьный совет продлить контракт с компанией ещё на $53 тыс., хотя весной округ договорился с Budget об удалении Gaggle со школьных устройств.
Источник: habr.com
Похожие новости:
Какую материнскую плату купить в мае 2024 года
«Цифровая экономика» и «Распаковка Госуслуг» — о чем говорили министры на выставке «Россия»
В Госдуму внесли законопроект о штрафах для пользователей электросамокатов и велосипедистов
Обзор IT-Weekly: завод «Микрон» расширяет производство микросхем, «1С» и «Рексофт» стали партнерами