В Соединенных Штатах участились случаи обнаружения ошибок, связанных с использованием ИИ в судах.
Ранее скандалы затрагивали в основном юристов, которые ссылались на несуществующие дела. Теперь же к генеративным моделям обращаются и судьи, что уже привело к публикации решений с «галлюцинациями» ИИ.
Например, федеральный судья в Нью-Джерси был вынужден переписать постановление, а в Миссисипи судья отказался объяснять происхождение ошибок в своём решении.
Некоторые, как судья Ксавьер Родригес, используют ИИ для вспомогательных задач — составления таймлайнов или вопросов адвокатам — избегая применения в вопросах, требующих суждения.
Другие, например судья Эллисон Годдард, применяют ChatGPT и Claude для структурирования документов, но осторожно относятся к уголовным делам.
Эксперты предупреждают: ошибка судьи, в отличие от ошибки адвоката, фактически становится законом и её сложно отменить. При неконтролируемом использовании ИИ подобные промахи могут подорвать доверие к судебной системе.
Источник: www.ferra.ru