Инструмент под названием IdeaLens пытается решить нетривиальную задачу: отличить идею, придуманную человеком, от идеи, сгенерированной искусственным интеллектом — причем даже в том случае, если текст полностью переписан и не похож по стилю на типичный «продукт» нейросети.
Проблема применения ИИ в науке становится все острее: по словам Ришантха Раджендхрана, специалиста по информатике из Университета Мэриленда и соавтора разработки, конференции и журналы буквально «захлестнула» волна материалов, созданных с помощью ИИ. Использование искусственного интеллекта при написании научных статей постепенно становится приемлемой практикой, но, как подчеркивает Раджендхран, лишь «при условии, что сама суть идеи принадлежит ученому, а не нейросети».
В отличие от большинства существующих детекторов, которые анализируют стиль текста — выбор слов, построение фраз, — IdeaLens работает иначе. Сначала система «сжимает» текст (например, научную статью) до некоего обобщенного плана, то есть последовательности аргументов и логики изложения, очищенной от индивидуального стиля. Затем она ищет в этом плане закономерности, характерные либо для человеческого, либо для машинного мышления — например, особенности того, как выстраиваются аргументы и как развивается мысль.
По итогам тестирования детектор верно распознавал идеи, созданные ИИ, в 91% случаев. «Меня удивило, что они способны распознавать аргументы, написанные ИИ», опираясь лишь на такие обобщенные планы, — говорит Никхил Гарг, специалист по информатике из Cornell Tech в Нью-Йорке. Впрочем, он предупреждает: поскольку инструмент не идеален, его нельзя использовать для вынесения вердикта в отдельных конкретных случаях, а точность может заметно снижаться при работе с данными, непохожими на те, на которых модель обучали. «То, что выглядит как явный “ИИ-след” в одной области, в другой может оказаться продуктом мышления человека», — поясняет он.
Источник: hi-tech.mail.ru