Библиотекари в США начали жаловаться, что их просят найти несуществующие книги, которые на самом деле стали результатом галлюцинаций искусственного интеллекта. Этот тренд нарастает с момента выхода GPT-3.5 в конце 2022 года.
Проблема обострилась летом, когда посетители начали запрашивать несуществующие книги, но от реальных авторов. Такие списки для летнего чтения распространялись в специальных выпусках изданий Chicago Sun-Times и The Philadelphia Inquirer. Автор такой подборки признался, что использовал ИИ для составления списка, не проверяя факты.
«К нам приходили люди в библиотеку и спрашивали об этих авторах. Это действительно очень раздражает и серьёзно отбрасывает нас назад в плане информационной грамотности сообщества», — рассказал один из сотрудников учреждения.
ИИ-инструменты меняют характер отношения посетителей к библиотекарям, как онлайн, так и в реальной жизни. Элисон Макрина, исполнительный директор проекта «Library Freedom», рассказала 404 Media, что предварительные результаты недавнего исследования новых тенденций влияния инструментов ИИ на библиотеки показывают: что посетители всё больше доверяют предпочитаемым ими инструментам или продуктам генеративного ИИ и достоверности получаемых ими результатов. По её словам, библиотекари сообщают о том, что в справочном чате с ними обращаются как с роботами, а посетители начинают сомневаться в достоверности рекомендаций, полученных от чат-бота.
«Библиотекари сообщают об общей атмосфере замешательства и недоверия, которую они испытывают со стороны своих читателей. Они видят, что у читателей, по-видимому, снизился уровень критического мышления и любопытства. Они определённо сталкиваются с некоторыми типами психозов и другими проблемами психического здоровья».
Библиотекарь-консультант рассказал, что много времени проводит, размышляя о том, насколько подвержен ошибкам человеческий разум, особенно учитывая, что сейчас к нему поступает больше запросов на несуществующие книги, чем когда-либо прежде. Он разработал свою систему: ищет предполагаемое издание по названию в библиотечном каталоге. Если его нет, то библиотекарь проверяет глобальный библиотечный каталог WorldCat. Отсюда он может связать название с платформой, например, Kindle Direct Publishing — которые продвигают на рынок книги, созданные с помощью ИИ.
Библиотекари, занимающиеся формированием фондов, просят поставщиков цифровых книг, таких как OverDrive, Hoopla и CloudLibrary, удалять издания, созданные ИИ, по мере их обнаружения.
Поставщики библиотечных технологий же спешат внедрять инструменты, которые, по словам сотрудников учреждений, затрудняют использование каталогов.
Джейми Тейлор, руководитель отдела систем управления академическими библиотечными ресурсами Массачусетского университета, говорит, что поставщики внедряют большие языковые модели в библиотечные системы одним из двух способов. Первый — это поиск на естественном языке или семантический поиск, который пытается извлечь значение из слов для получения результатов. Тейлор утверждает, что эти продукты вводят в заблуждение, поскольку, по их заявлению, устраняют необходимость строгого поиска по ключевым словам.
Другой инструмент, который Тейлор рассматривает в области библиотечных технологий, — это генерируемые ИИ-аннотации на основе журнальных статей, монографий и других академических источников. Этот продукт называется AI Insights. Он добавляет новую информацию в существующую программу магистратуры права с помощью системы, называемой генерацией дополненной поисковой информации (RAG). Тейлор и её коллеги обнаружили, что RAG не особо способствует повышению точности генерируемых ИИ-аннотаций, как было продемонстрировано в ходе бета-тестирования инструментов ИИ в библиотечных технологиях для компаний Clarivate, Elsevier и EBSCO.
Тейлор говорит, что ни один из этих продуктов не готов к выходу на рынок, особенно ИИ-аннотации.
«Мы пытаемся научить, как строить полезный, точный поиск. Но на самом деле цель этих продуктов — не допустить этого», — заключила она.
Многие библиотекари сохраняют осторожный оптимизм в отношении потенциала интеграции генеративного ИИ. Но для большинства внедрение новых систем оказалось полным ошибок и дезориентирующим — как для них самих, так и для читателей.
В 2023 году в списке романтических бестселлеров Amazon Kindle Unlimited для подростков и молодёжи оказались десятки сгенерированных искусственным интеллектом книг. В 2024 году такие книги заполнили экраны блокировки некоторых пользователей читалок Kindle.
Источник: habr.com