Однако критики считают, что ИИ может запутать граждан.
Полиция Гудиера (пригород Финикса) начала использовать искусственный интеллект для превращения карандашных эскизов подозреваемых в фотореалистичные портреты. Первые случаи — попытка похищения и стрельба — пока не раскрыты, но уже вызвали взрывной отклик граждан. Однако за этим технологическим прорывом скрываются серьезные юридические и этические ловушки, способные привести к трагическим ошибкам.
Процесс начинается по старинке: судебный художник опрашивает свидетеля, создавая карандашный набросок. Затем эскиз загружается в ИИ-инструмент, который «оживляет» изображение, добавляя текстуру кожи, мимику и даже настроение — например, «ошеломленный» вид, как в деле о стрельбе. Свидетель в реальном времени вносит правки, пока не получится максимально похожий образ.
Департамент отмечает, что первый такой портрет собрал в разы больше звонков, чем традиционные рисунки. Но именно в этом успехе и кроется главная опасность. Эксперты бьют тревогу: гиперреалистичные изображения, несущие маркировку «создано ИИ», могут подсознательно восприниматься как фотографии, а значит — как неопровержимое доказательство. Это искажает восприятие присяжных и самих свидетелей, чья память и так ненадежна. Исследования показывают, что просмотр фоторобота может «перезаписать» воспоминание о реальном лице.
Критики указывают на двойной риск. Во-первых, ИИ, обученный на несбалансированных датасетах, может непреднамеренно искажать этнические черты. Во-вторых, если такой портрет попадет в систему распознавания лиц, ошибка алгоритма может указать на невиновного.
Источник: hi-tech.mail.ru