Суд в Калифорнии оштрафовал адвоката Амира Мостафави на $10 тыс. за подачу документов с поддельными цитатами, сгенерированными ChatGPT. Порядка 21 из 23 цитат из дел юриста были выдумкой, постановила апелляционная инстанция.
Из заявления суда следует, что публикация заключения стала показательным предупреждением. Ни один документ, поданный в суд, не должен содержать никаких цитат, которые адвокат лично не прочитал и не проверил.
В прошлом месяце Судебный совет Калифорнии опубликовал указания, требующие от судей и сотрудников судов либо запретить использование генеративного ИИ, либо принять политику его применения к 15 декабря 2025 года. Одновременно с этим Ассоциация адвокатов Калифорнии рассматривает вопрос об ужесточении своего кодекса поведения в отношении различных форм ИИ в ответ на запрос Верховного суда Калифорнии.
Мостафави признался перед судом, что не ознакомился с текстом, сгенерированным ИИ-моделью, перед подачей апелляции в июле 2023 года. Это произошло спустя несколько месяцев после того, как OpenAI рекламировала ChatGPT в качестве инструмента, позволяющего сдать экзамен на адвоката. Позже успехи чат-бота опровергли исследователи МТИ.
Коллегия из трёх судей оштрафовала Мостафави за подачу бессодержательной апелляции, нарушение правил суда, цитирование фиктивных дел, трату времени суда и денег налогоплательщиков. В свою защиту адвокат заявил, что написал апелляцию самостоятельно, а затем попытался улучшить её при помощи ChatGPT.
Штраф Мостафави стал самым крупным из тех, которые выносили адвокатам Калифорнии из-за использования ИИ.
Источник: habr.com