В условиях цифровой трансформации науки и образования генеративные модели искусственного интеллекта выступают интеллектуальным инструментом, оптимизирующим рутинные процессы и обработку больших данных, но одновременно могут порождать новые риски для качества научной коммуникации. Эти противоречивые эффекты требуют управленческого осмысления и принятия соответствующих решений. В статье рассматривается один из факторов риска: распространение фейковой библиографической информации, возникающей при использовании таких моделей в научно-публикационной деятельности. Исследование включает терминологический анализ с обоснованием выбранного стержневого обозначения «конфабуляция», обзор отечественных и зарубежных исследований.
Цель исследования: анализ причин, типов и последствий генерации недостоверных библиографических ссылок, определение выявленных рисков для принятия управленческих решений на федеральном и институциональном уровнях.
Материалы и методы исследования содержат презентацию авторских подходов к отбору и анализу опубликованных русскоязычных научных работ с последующей верификацией библиографических списков, предлагаемую типологизацию выявленных конфабуляций с обоснованием ее применения.
Результаты показывают нарастающую активность в использовании сгенерированных недостоверных ссылок в публикациях различных тематических направлений и типов изданий, включая рецензируемые журналы. Установлены ключевые причины конфабуляции, связанные как с особенностями функционирования генеративных моделей, так и с практиками их использования авторами. Отдельно показано, что конфабулированная библиография может служить индикатором генерации фрагментов научного текста, что имеет прямое значение как для развития систем обнаружения сгенерированной информации, так и для административных подходов к новым критериям оценки качества публикаций.
Выводы подтверждают необходимость перехода от декларативного регулирования к комплексным управленческим решениям, включающим разработку институциональных политик использования генеративных технологий, пересмотр процедур контроля качества научных публикаций, обеспечение доступа к современным инструментам и целенаправленное формирование компетенций ответственного использования искусственного интеллекта у авторов, редакторов и руководителей.
Обсуждение акцентирует внимание на риске тиражирования недостоверных ссылок через последующие публикации и формирование «цепочек распространения» ложной научной информации, заостряет внимание на необходимости консолидации исследований, связанных с выявлением сгенерированных текстов и фокусирующихся только на библиографической информации, предлагает направления первоочередных нормативных решений, обращает внимание на отсутствие организационного фактора в применении генеративных моделей пользователями.