Новое исследование Массачусетского технологического института (MIT) и Университета штата Пенсильвания выявило проблемы в использовании больших языковых моделей (LLM) для домашнего видеонаблюдения. Модели могут рекомендовать вызов полиции даже в случаях, когда видео не показывает преступной активности.
Изученные модели показали непоследовательность в том, какие видео они отмечают для вмешательства полиции. Например, одно видео с угоном автомобиля может быть отмечено, а другое с аналогичной активностью нет.
Ученые обнаружили, что модели часто неадекватно применяют социальные нормы к видеозаписям, что затрудняет прогнозирование их поведения в различных контекстах. Это также демонстрирует проблемы с прозрачностью и объяснимостью моделей, поскольку они могут проявлять неожиданные предвзятости, основанные на демографических данных.
Источник: www.ferra.ru
Похожие новости:
«Слушая подкасты, ничего не узнаешь, ты должен устать, упасть без задних ног — такой должна быть встреча с образованием»
Сверхпроводящий токамак | Рентген в смартфоне | Теневая камера | Контакты для 2D-чипов
Уровень «цифровой зрелости» компаний в России выше, чем в среднем по миру
Вам врут, когда говорят, что китайские смартфоны во всём превзошли iPhone. Вот в чём они конкретно лучше