В американском суде во время разбирательства между гражданином Томом Уитерсом и городом Абердин произошел беспрецедентный инцидент: судья полностью остановил процесс на 60 дней и оштрафовал всех четверых участвующих адвокатов за повсеместное использование галлюцинирующего искусственного интеллекта. Защитники с обеих сторон одновременно задействовали генеративные языковые модели для составления документов, не удосужившись проверить подлинность выданных данных.
Первым на этот случай обратил внимание юрист Роб Фройнд, метко назвавший инцидент «комедией ошибок ИИ». Обман вскрылся, когда судья обнаружил в поданных записках ссылки на несуществующие судебные прецеденты и законы. Во время специального слушания адвокаты Кэтлин М. Уилсон и Кэтрин Й. Уильямс, представлявшие противоборствующие стороны, признали свою вину и подтвердили, что выдуманные цитаты стали результатом слепого доверия к непроверенным нейросетям. Уильямс использовала чат-бота для проведения юридического расследования, а Уилсон с помощью ИИ генерировала итоговый текст для подачи в суд.
Самое абсурдное то, что местный совет в лице Шонси Хантера Риджвея и Марка К. Макклинтона, которые были обязаны перепроверить документы и выступить соавторами, просто подписали бумаги не глядя. Они открыто признались судье, что даже не удосужились прочитать присланные коллегами материалы.
Реакция судьи оказалась максимально суровой для американской юридической практики. За безответственность и попытку переложить свою работу на нейросети Уилсон и Уильямс получили штрафы в размере 2500 и 3500 долларов соответственно, а также двухлетний запрет на адвокатскую деятельность в данном судебном округе. Их невнимательные коллеги, Риджвея и Макклинтона, обязали выплатить по 1000 долларов за халатность при проверке документов. Само рассмотрение дела заморожено на два месяца.
Источник: gameguru.ru