Согласно исследованию Originality.ai — компании, которая специализируется на поиске контента, сгенерированного искусственным интеллектом, — ИИ активно присутствует на рынке литературы о лекарственных травах и препаратах из них. Аналитики фирмы проверили 558 книг на эту тему и выяснили, что 82% из них с высокой вероятностью написаны искусственным интеллектом, сообщает The Guardian.
В качестве одного из примеров авторы исследования приводят «Справочник по естественному исцелению» (Natural Healing Handbook). Книга, которую якобы написала «травница из Австралии» Луна Филби, стала бестселлером в в категориях «Уход за кожей», «Ароматерапия» и «Фитотерапия». Сара Уинн, основательница издания Wildcraft Journal, оставила на книгу рецензию, где назвала её «ресурсом для вдохновения».
Проверка исследователей Originality.ai показала: ни Филби, ни её бренда не существует, как не существует и Сары Уинн с Wildcraft Journal. Инструменты Originality.ai пометили отрывки из книги как сгенерированные ИИ с «100% уверенностью».
«Это разоблачение огромного количества немаркированного, непроверенного, неконтролируемого ИИ-контента, который заполонил платформу [Amazon]», — цитирует The Guardian автора исследования Майкла Фреймана.
Общественники и пользователи платформы уже обращали внимание на проблему ИИ-контента на Amazon. Так, в 2023 году на платформе появилось несколько книг с руководствами по сбору грибов, которые, по всей видимости, также были написаны чат-ботами. В книгах содержались неподтверждённые и опасные советы о том, как отличить ядовитый гриб от съедобного.
Как считает Дэн Конвей, генеральный директор Ассоциации издателей, Amazon следует ввести маркировку для ИИ-контента:
«Любая книга, полностью написанная с помощью ИИ, должна быть помечена как таковая, а некачественный ИИ-контент должен быть немедленно удалён».
Источник: habr.com