Недавно я наткнулся на статью доктора физико-математических наук о возможности использования LLM в научных исследованиях. Автор убедительно доказал, что такой возможности нет. Но в своих экспериментах в качестве доказательства он использовал поисковый сервис Нейро от Яндекса, а не топовые LLM. Для меня это было настолько странно, что я задался вопросом о том, что часть ученых, возможно, просто не понимают, как использовать нейросети в науке.
Эта статья не о научных открытиях с помощью LLM, а о том, что нейросети полезный инструмент, отказ от которого ставит науку в невыгодное положение, бонусом небольшой скандал, интрига и расследование.
С чего всё началось
В одну из традиционных киберленинских суббот я прочитал интересную статью. Автор Самохин Александр Александрович, доктор физико-математических наук, главный научный сотрудник Института общей физики им. А.М. Прохорова РАН. Статья называется «Что говорит искусственный интеллект» (Науковедческие исследования, 2026, №3).
В этой статье автор оценил способности ИИ к научному исследованию на примере сервиса Нейро от Яндекса.
Автор сам приводит схему работы сервиса:
Нейросеть перефразирует вопрос в поисковый запрос. Поисковая система находит топ подходящих источников и выбирает из них пять. На их основе нейросеть из семейства YandexGPT-3 генерирует ответ.
И делает вывод:
…работа слабо отличается от процесса подбора из доступной ему элементной базы некоторой совокупности утверждений, определений и т.п., выделяемых из этой базы на основе ключевых слов.
Тут у меня возникло подозрение, что автор по-другому понимает понятия поиск и исследование. То есть по этой поисковой сводке он судит, может ли ИИ быть учёным:
…рассмотренный вариант ИИ не может самостоятельно выполнять функции нормального научного исследователя.
Вспомнил годы своей незаконченной аспирантуры, и внезапно понял, что да. Для многих процесс исследования, это и есть процесс поиска и обзора литературы по теме. Не эксперименты, не доказательство гипотез, не исследование нового… А именно поиск и обзор.
Я оставлю в стороне тот факт, что на основании экспериментов с поисковым сервисом делается вывод о полезности LLM в исследовательской работе (хоть и с оговоркой, что для этого конкретного ИИ). Возможно, это результат блокировок, либо традиционная консервативность большой науки. Но вывод, который мог бы быть вполне логичным на другой экспериментальной базе, становится странной шуткой конкретно здесь.
Такое ощущение, что часть научного мира всё ещё скептически относится к использованию LLM в своей работе. Но если не ждать от LLM прорывных идей, новых теорий, а использовать нейросети в том, в чём они действительно сильны, то результат может быть крайне полезен. Поиск и обзоры по теме, оценка внутренних противоречий в текстах, проверка расчётов, написание кода, соответствие формальным требованиям и последовательность логики – будут полезны любому учёному.
Я решил провести небольшой эксперимент. Взял пять статей подряд на Киберленинке, выданных поиском по ключевым словам “искусственный интеллект” + фильтр “2026”, исключил студенческие работы и провёл анализ содержания совместно с Claude Opus и Gemini Argon.
Результаты ниже.
Анализ пяти научных статей
Первая статья “Предпринимательство и искусственный интеллект”, автор Кондрух Антон Вячеславович, кандидат педагогических наук, доцент кафедры экономики и управления Севастопольского филиала РЭУ имени Г.В. Плеханова. Universum: экономика и юриспруденция. июль 2026г.
Сразу о библиографии, то, в чём раньше обвиняли LLM, сейчас я скорее ставлю в вину авторам.
15
Farre-Mensa, Koudijs, Manso; IZA DP 17055; с. 1–48
Под номером 17055 у IZA значится работа Fossen, McLemore и Sorgner с тем же названием
Реквизиты настоящие, авторы не те
16
Smith, Miller; Cogent Business & Management, 12(1), 2533433
У статьи с этим номером один автор, Hanan Alsharah, и название кончается на «entrepreneurial performance»
Авторы не те, к названию дописан хвост
17
Wang L., Chen Y.; SEPS, 2025, 98(1), 102307
Похожая статья вышла в томе 103 за февраль 2026 под номером 102381, авторы Tian, Wang, Chen и Zhang
Искажены авторы, название, том и номер
Методы. Заявлены системный и феноменологический подходы, синергетика, ресурсная концепция, динамические способности. В тексте ни один не применён.
Семантический анализ. Сказано, что автор установил отсутствие единого определения ИИ, но ни одного чужого определения не приведено и не сравнено.
Таблица. Девять строк без источников, данных и примеров. При этом она названа результатом сравнительного анализа, выполненного “впервые в научном дискурсе”.
В целом статья скорее не исследование, а оформление без исследования.
Вторая статья “К проблеме необъяснимости решений искусственного интеллекта”. Автор Поляков С.В. аспирант кафедры истории и философии РЭУ имени Г.В. Плеханова. Философия и культура. 2026г.
Аналогия вместо доказательства. В аннотации стоит “доказано существование принципиальной связи” между эффективностью и необъяснимостью. В тексте доказательства нет: есть ссылки на два обзора и сравнение с интуицией эксперта. Переход от “сходство не случайно” к “фундаментальное свойство” просто объявлен.
Каталепсис. Автор пишет, что каталепсис обходится без активного участия рассудка. У стоиков наоборот: каталепсис наступает, когда ум видит, что впечатление не может быть ложным, и соглашается с ним. В жесте Зенона согласие идёт раньше сжатого кулака, которым он обозначал постижение.То есть стоическое понятие использовано буквально в обратном смысле. Ни одного источника по стоикам в библиографии нет.
Критерии. Стабильность, граничные условия, робастность и внешняя валидация — обычный набор тестирования моделей. К тому же первый и третий совпадают: “стабильность результатов при сходных входных данных” и “стабильность решений при небольших вариациях входных параметров”.
Кроме того, отмечена вольная интерпретация или даже отклонение при цитировании источников (Я. Хохви, цифры KPMG). Но библиография в порядке.
Стоит отметить, что официальный рецензент обратил внимание, на явные ляпы, но автор их проигнорировал.
Третья статья “Искусственный интеллект в педагогическом образовании” авторы кандидаты педагогических наук А.М. Магомедгаджиева и А.Ш. Бакмаев. Дагестанский педагогический университет имени Р. Гамзатова. Мир науки, культуры, образования. 2026г.
Гипотеза не проверяется. Она заявлена как «ИИ позволяет оптимизировать и улучшить процесс обучения». Измерений, сравнения групп или хотя бы опроса в тексте нет. В заключении вторая фраза гипотезы повторена дословно, уже как вывод.
Типов ИИ нет. Цель — «выделить типы ИИ», заключение сообщает, что они выделены. В тексте вместо типов стоит перечень сервисов, от MathGPT до Google Translate.
Рекомендации: сводятся к пяти общим строкам: два принципа «руководства» и три пункта «необходимо избегать». Именно они названы научной новизной.
В уроке нет ИИ. План-конспект «с использованием искусственного интеллекта» — обычный урок по оператору if, где ИИ не упомянут ни в одном из восьми этапов.
В библиографии есть подозрительная ссылка: Касперская Н.И. Цифровая трансформация образования: вызовы и возможности // Высшее образование в России. 2023; Т. 32, № 1: 22–35. Эта ссылка встречается в библиографии нескольких научных статей, но такую работу Касперской я не нашёл. Предполагаю, что это изначальная галлюцинация LLM в статье 2025 года, откуда ссылка потихоньку расползается по другим научным статьям.
Таким образом, это добротная методическая заметка двух преподавателей, но заявленных результатов в тексте нет. Сам урок примера использования ИИ не содержит.
Четвертая статья “К вопросу о правосубъектности искусственного интеллекта” автор Токолов Александр Владимирович, Финансовый университет при Правительстве Российской Федерации. Вестник Московского университета МВД России. 2026г.
Содержательно статью я не рассматривал, поскольку большая её часть является пересказом статьи Зыкова Сергея Викторовича “Проблема субъектности искусственного интеллекта”, научного сотрудника Института философии и права СО РАН. Актуальные проблемы российского права. 2024г. При этом ссылки на Зыкова в статье отсутствуют. Пересказ был выявлен LLM через семантический поиск.
Пример пересказа, остальное в спойлере:
Зыков 2024 г.:
Следует заметить, что и в рамках правовых систем, предполагающих фикционную теорию юридического лица, за последним всегда стоят конкретные люди. Они наделены, в частности, инстинктом самосохранения…
Токолов 2026г.:
Важно отметить, что даже в правовых системах, применяющих теорию фикции, за юридическим лицом всегда стоит реальный человек, обладающий инстинктом самосохранения.
Скрытый текст
№
Зыков, 2024
Токолов, 2026
А1
«В связи с проблемой включения в гражданский оборот объектов, произведенных искусственным интеллектом (ИИ), должен быть решен вопрос о субъектности прав на них.»
«Рассматривается вопрос о том, как интегрировать в экономическую систему продукты, созданные с помощью искусственного интеллекта, для чего необходимо найти ответ на проблему правовой принадлежности к этим объектам.»
А2
«Социальное поведение людей формируется на основе их физической сущности… Очевидно, что физической сущности искусственный интеллект заведомо лишен.»
«Человеческое поведение складывается под влиянием биологической природы, в то время как искусственный интеллект лишен физической природы и собственной воли.»
А3
«Даже если говорить о юридическом лице (в ряде систем, являющихся фикционными образованиями), последствия его деятельности так или иначе возлагаются на лиц физических.»
«В случае с юридическими лицами, которые в определенных системах являются фиктивными структурами, ответственность за их действия всегда ложится на плечи физических лиц.»
А4
«Рассмотрение же ИИ в качестве субъекта гражданского правоотношения не только не оправданно, но и препятствует доктринальному решению вопроса правосубъектности, которое является необходимой предпосылкой формирования норм действующего законодательства.»
«Рассматривать искусственный интеллект как субъект гражданских отношений не имеет смысла, так как это может стать препятствием для теоретического определения его правосубъектности, что является ключевым элементом для создания соответствующих правовых норм.»
№
Зыков, 2024
Токолов, 2026
Примета
1
«Развитие технологий искусственного интеллекта (ИИ) ставит проблему правовой охраны полученных с его использованием результатов. Она подразумевает решение вопроса о субъекте прав на такие результаты, который рассматривается в подавляющем большинстве публикаций данной тематики. Эта задача нормативно закреплена в разд. 12 Концепции…» (132)
«Прогресс в области искусственного интеллекта вызывает необходимость разработки правовых механизмов защиты результатов, достигнутых с его помощью. Важным аспектом выступает определение владельца прав на эти результаты, что является основной темой обсуждения в научной литературе по этому вопросу. Задача защиты прав… определена в разд. 12 Концепции…» (119)
Та же ссылка на раздел 12
2
«Желание сохранить на данном этапе максимум возможностей объяснимо, но этим путем мы не решим практические проблемы правовой охраны, связанные с функционированием ИИ.» (132)
«Необходимость сохранения большего количества опций и функций искусственного интеллекта на текущем этапе развития вполне оправдано, однако подобный путь не приведет к решению реальных задач в сфере правовой защиты, связанных с работой искусственного интеллекта.» (120)
У Зыкова «возможности» — варианты правообладателя из предыдущего абзаца. Абзац выброшен, фраза потеряла предмет
3
«В современном российском праве встречаются работы, в которых закрепление прав непосредственно за ИИ на произведенные им результаты сознательно исключено из рассмотрения, но они составляют явное меньшинство публикаций по данной теме.» (133)
«…подход, встречающийся в некоторых российских исследованиях, где прямое признание прав искусственного интеллекта на результаты его деятельности является предметом исключения из обсуждения, хотя такие работы составляют относительно небольшую долю в общем количестве публикаций по этой проблематике.» (120)
4
«…к теории самостоятельной субъектности ИИ российских исследователей в значительной степени подталкивают некоторые зарубежные исследования (в частности, концепции неличных субъектов, искусственного юридического лица)» (133; сноска 4: Голованов, с. 24–25)
«…идея о независимом статусе искусственного интеллекта в работах российских ученых находит свое отражение благодаря влиянию ряда зарубежных исследовательских проектов, в том числе концепций, связанных с неличностными субъектами и созданием искусственных юридических личностей [3, с. 24–25].» (120)
Тот же источник, те же страницы
5
«Вопрос о субъектности ИИ в большинстве случаев не ставится жестко и однозначно, как правило, обозначается в качестве дискуссионного. К сожалению, не всегда можно проследить аргументацию этой концепции. Например, когда рассматривается единственная альтернатива… такая постановка вопроса предопределяет его решение.» (133; сноска 6: Ивлиев, Егорова, с. 34)
«Вопрос о том, является ли искусственный интеллект субъектом права, часто выражается в форме дискуссии и не имеет четкого ответа. К сожалению, не всегда можно увидеть четкую аргументацию в поддержку этой идеи. В частности, когда предлагаются только две возможности… [5, с. 34]. Данная формулировка вопроса заранее определяет его ответ…» (120)
Тот же источник, та же страница
6
«…человек приобретает также альтруистические качества, которые тоже во многом связаны с его физической природой, хотя эта взаимосвязь является более сложной. Теоретически можно сформировать у ИИ качества идеальной личности (хотя неочевидны критерии такой „идеальности“…), однако как будет обеспечиваться их формирование?» (134)
«…формирует альтруистические качества, которые также имеют корни в его биологии, хотя эти связи обычно оказываются более запутанными. В теории, возможно создать искусственный интеллект с качествами идеального человека, хотя определение этого „идеала“ остается спорным и зависит от личных убеждений, но как же гарантировать формирование таких качеств?» (120)
Сохранены кавычки вокруг заменённого слова
7
«…и в рамках правовых систем, предполагающих фикционную теорию юридического лица, за последним всегда стоят конкретные люди. Они наделены, в частности, инстинктом самосохранения…» (135)
«Важно отметить, что даже в правовых системах, применяющих теорию фикции, за юридическим лицом всегда стоит реальный человек, обладающий инстинктом самосохранения.» (120)
8
«Е. В. Вавилин предлагает наделить ИИ „авторскими и исключительными“ правами на созданные произведения, налоговыми обязанностями и обязанностями по возмещению вреда, а разработчиков — правами на вознаграждение за создание и использование ИИ…» (135; сноска 19: с. 153)
«Так, Е. В. Вавилин предлагает предоставить искусственному интеллекту права на авторство и эксклюзивность по отношению к созданным им произведениям, а также налоговые обязательства и ответственность за причинение вреда, в то время как разработчикам предоставляется право на вознаграждение за разработку и применение искусственного интеллекта… [2, с. 153].» (120)
Та же страница. «Исключительные» права стали «эксклюзивностью»
9
«Основу аргументации исследователя составляет опасение, что если наделить правами… разработчика и инвестора (владельца), то в силу высокой продуктивности первого указанные лица получат сверхприбыли, сфера будет монополизирована, а „живое человеческое творчество в скором времени будет обречено стать раритетом“» (135)
«Автор такой концепции исходит из беспокойства по поводу возможных последствий присвоения прав… разработчикам и инвесторам (владельцам). Предполагается, что из-за высокой эффективности искусственного интеллекта эти лица смогут получить избыточные доходы, что приведет к монополизации отрасли. В результате, человеческое творчество в ближайшем будущем может оказаться на грани исчезновения и стать дорогим раритетом.» (120)
Цитата Вавилина раскавычена. Следом у Зыкова сноска 21 на Гольцова и Голованова, у Токолова на этом месте ссылка [3], а источник 4 в тексте не цитируется
10
«Насколько можно понять, логика здесь в том, чтобы „перетянуть“ выгоды от указанных лиц на ИИ. На наш взгляд, указанные проблемы решаются посредством конкуренции: создание ИИ для решения задачи, предполагающей востребованный результат (например, нейросетей для генерации изображения), не всегда требует больших финансовых вложений, с этим вполне справляются субъекты малого предпринимательства, отдельные физические лица.» (135–136)
«По всей видимости, здесь стоит задача „привлечь“ выгоды от определенных лиц в сторону искусственного интеллекта. …развитие ИИ во многих сферах может быть обеспечено за счет здоровой конкуренции. Разработка искусственного интеллекта для решения задач, которые обещают высокую потребительскую привлекательность (например, нейросети для создания визуального контента), не всегда требует значительных финансовых вложений, и здесь могут успешно справляться небольшие предприниматели и индивидуальные разработчики.» (120–121)
Собственный довод Зыкова («на наш взгляд»). Тот же пример в скобках
11
«Например, В. Д. Голованов отмечает, что ИИ и его носитель „лишены чувств, эмоций, интересов, которые присущи человеку, вследствие чего творить не могут“. Аналогичную мысль формулирует М. Н. Комашко: „Произведением… некий объект становится не в силу своих объективных характеристик, а благодаря осознанию автором факта создания им произведения, оценке автором созданного им объекта как произведения, а своего труда — как акта творчества“» (136; сноска 25: с. 106)
«…как, например, В. Д. Голованов, указывают на то, что что искусственный интеллект и его оператор не обладают чувствами, эмоциями и личными интересами, характерными для человека, и поэтому не в состоянии творить. М. Н. Комашко выражает схожую идею: чтобы объект стал произведением… необходимо наличие осознания создателя о том, что он создал произведение, его оценка созданного им объекта как произведения и его собственное трудолюбие как акт творчества [6, с. 106].» (121)
Общая опечатка: в обоих текстах «В. Д. Голованов», в обоих списках «Н. М.». «Труд» стал «трудолюбием». Та же страница Комашко
12
«Уже в настоящее время даже так называемый слабый ИИ (нейросети) в состоянии продуцировать объекты, вполне сопоставимые с результатами деятельности человека. И такие объекты, пусть медленно, становятся всё более востребованными на практике, а не только в качестве забавного курьеза. Близкий к данному подход — редуцирование вопроса к технической проблематике: указание на возможность наделения юнита субъектностью в случае появления сильного ИИ» (136; сноска 28: Морхат, с. 93)
«Сегодня даже так называемый „слабый“ искусственный интеллект способен создавать продукты, которые не уступают в качестве результатам человеческой работы. Эти продукты пока еще не находят широкого применения, но их значение растет и они уже не являются просто развлечением. …упрощение проблемы до уровня технической задачи: утверждение о возможности придания субъектности единице при возникновении мощного искусственного интеллекта [7, с. 93].» (121)
Термины «юнит» и «сильный ИИ» заменены на «единицу» и «мощный». Та же страница Морхата
13
«Нужно согласиться с авторами, указывающими на то, что препятствием к признанию ИИ субъектами права является отсутствие у них воли. Но не следует на этой констатации останавливаться: даже современный уровень развития теоретически позволяет эту волю у ИИ сформировать, однако она будет в своих базовых параметрах зависеть от целей разработчика (или „учителя“ программы), добросовестность которых, как уже отмечалось, сложно проконтролировать.» (137; сноска 30: с. 100–101, 103)
«Стоит принять во внимание мнение экспертов, которые подчеркивают, что одной из основных проблем признания наделения искусственного интеллекта субъектами права является их неспособность иметь собственную волю [9, с. 100–101, 103]. Не стоит забывать, что даже при нынешнем прогрессе теории создание личности у искусственного интеллекта теоретически возможно, но ее основные характеристики будут зависеть от намерений ее создателя (или „наставника“), чью честность и порядочность, как уже было подчеркнуто, сложно оценить [10].» (121)
Та же тройка страниц. «Как уже было подчеркнуто» отсылает к абзацу Зыкова о сертификации, которого у Токолова нет. Ссылка [10] ведёт на статью об уголовном процессе
14
«Однако если речь идет о принципиально новой организационно-правовой форме, то следует отметить, что процесс нахождения баланса между интересами кредиторов юридического лица и интересами лиц, определяющих его деятельность, был длительным и продолжает совершенствоваться (вспомним относительно недавнее появление субсидиарной ответственности органов и учредителей хозяйственных обществ в российском праве). Выстраивание подобных отношений с чистого листа применительно к совершенно новому субъекту неизбежно приведет к издержкам для участников гражданского оборота.» (137)
«Когда речь заходит о создании абсолютно новой юридической правовой формы, стоит обратить особое внимание, что поиск гармонии между интересами заемщиков и дееспособных лиц, управляющих компанией, всегда был и остается на сегодняшний день трудоемким процессом (напомним, что относительно недавно в российском законодательстве появилась субсидиарная ответственность основателей и руководителей коммерческих организаций). Создание таких отношений на начальном этапе, практически с нуля, касающихся абсолютно нового типа субъекта, неизбежно приведет к дополнительным, возможно не малым, расходам для всех участников рынка.» (121)
«Кредиторы» стали «заемщиками»: смысл перевернут. Та же вставка в скобках
Статья пятая “Искусственный интеллект и политическое восприятие”, автор Каминченко Дмитрий Игоревич, кандидат политических наук, доцент кафедры политологии Национального исследовательского Нижегородского государственного университета. Вестник Пермского университета. 2026г.
Хороший пилотный эксперимент, но неверно проставлена значимость корреляций, один вывод является артефактом сравнения абсолютных чисел в неравных группах, и главный вывод о влиянии опыта статистически не проверен (коэффициент 0,12 помечен p<0,01 при n=60. 12 против 5 нулевых оценок в группах примерно из 37 и 20 человек, в долях это 32% против 25%).
Грамотный консультант, рецензент или LLM эту проблему выявили бы на ранних этапах. Главный плюс – редкая статья, в которой выложены пусть и агрегированные данные, что позволяет провести независимую проверку, а не только оценивать текст.
Что иллюстрирует этот эксперимент
Оговорюсь, то, что у всех пяти статей есть проблемы, отнюдь не доказательство какого-либо кризиса в науке, для того, чтобы начать об этом говорить нужно проверить не менее 250 случайных статей, что для меня чересчур. Более того, настоящая наука не может полностью избежать ошибок или противоречий, потому что должна работать с тем, что требует гипотез, исследования и экспериментов.
Сразу стоит отметить, что институт рецензирования перегружен и работает слабо, и причины знают все, кто хоть как-то пересекался с публикацией научных статей. Очень сложно найти заинтересованного в своей работе рецензента, часто рецензии делаются формально, по просьбе. Давление ВУЗов на преподавателей, безотносительно их ранга и фактического проведения научной работы, включение публикаций научных статей в KPI, приводит к формальному отношению авторов к своим текстам.
В любом случае, часть этих проблем можно снять грамотным использованием LLM. Ради интереса я прикинул экономику масштабного аудита (верификации) статей на Киберленинке на внутренние противоречия, фальсифицируемость, новизну, корректность, внутренние связи и т.д., то весь архив Киберленинки можно хотя бы базово проверить на Хайку ориентировочно за 7-8 тысяч долларов, каскад Хайку плюс 10% Опус – 15 тысяч долларов. Только Опус до 100 тысяч долларов. С точки зрения государства это копейки. Потестил базовый промпт на избранных статьях, дешёвая модель ловит меньше четверти проблем, дорогая – большую часть, но может потеряться на сложных запутанных статьях.
Вообще применение авторами и рецензентами LLM для проверки структуры, фактических ошибок, проведения и контроля расчётов, то есть того, что не касается вопроса творчества, будет невероятно полезным. Иррациональное же предубеждение части ученых против LLM, возможно, является следствием непонимания функции LLM как инструмента.
И добавлю. Не стоит надеяться на нейросеть как идеального рецензента, она далеко не идеальна, её стоит использовать как критика, но не соавтора, ответственность за работу всё равно несёт сам автор. Ещё более глупой будет попытка превратить LLM в фильтр для научных статей, произойдёт тот же самый взлом награды. Как антиплагиат и ИИ-детекторы взламываются пересказом, так и такой фильтр будет взламываться описанием науки, а не наукой.
Источник: habr.com