Представляющий интересы компании Anthropic адвокат признался в использовании ошибочной цитаты, сгенерированной чат-ботом Claude. На поддельную цитату в судебных документах обратил внимание юрист музыкальных лейблов Universal Music, Concord и ABKCO. Последние подали иск к Anthropic из-за незаконного использования компанией текстов песен для обучения моделей на базе искусственного интеллекта.
13 мая суд обязал Anthropic ответить на обвинения о том, что в её ответе на претензии о нарушении авторских прав содержится цитата, появившаяся в результате «галлюцинации» Claude. Юрист музыкальных лейблов заявил, что специалист по данным Anthropic сослался на несуществующую научную статью.
В суде Anthropic сообщила, что чат-бот допустил «честную ошибку цитирования», которую проигнорировали юристы компании. Ручная проверка цитат не выявила ошибок, вызванных «галлюцинациями» Claude, подчеркнули в Anthropic. Ошибку допустила эксперт-свидетель и по совместительству сотрудница компании Оливия Чен, которая использовала чат-бот для подкрепления аргументации.
Это не первый случай появления ошибок в документах из-за некорректной работы ИИ-моделей. В феврале юридическая фирма Morgan & Morgan предупредила более тысячи своих сотрудников, чтобы они остерегались «галлюцинаций» ИИ-инструментов при подготовке судебных документов. Подобные инструменты способны генерировать фальшивые судебные прецеденты, а использование выдуманных сведений может привести к увольнению юристов.
В мае суд Калифорнии оштрафовал на $31 тыс. две юридические компании за «ложные, неточные и вводящие в заблуждение юридические ссылки и цитаты», сгенерированные ИИ и попавшие в судебные документы.
Источник: habr.com
