Почему ИИ-инструменты «галлюцинируют» академические ссылки

ИИ-инструменты отлично генерируют связный текст, который выглядит академическим.

Именно поэтому их ссылки могут быть настолько вводящими в заблуждение.

Когда ChatGPT, Claude или Gemini выдают вам ссылку, она часто предстает в самой опасной форме: уверенной, отполированной и правдоподобной. Ссылка выглядит завершенной. Она звучит научно. Она идеально вписывается в абзац.

Но внешний вид не гарантирует надежности.

Если вы используете ИИ для написания текстов, вам нужно понять простой принцип: хорошо отформатированная ссылка не является доказательством того, что источник реален.

Краткая версия

ИИ-инструменты «галлюцинируют» академические ссылки, потому что они обучены генерировать правдоподобный текст, а не проверять каждое название, автора, DOI и запись в журнале по актуальной научной базе данных.

Вот почему ссылка может звучать точно и при этом быть ложной.

Что показывают данные

Это не просто жалоба на продукт от поставщиков инструментов.

Проблема была задокументирована с нескольких сторон:

• статья 2023 года в Scientific Reports проанализировала вымышленные и ошибочные библиографические ссылки, сгенерированные ChatGPT
• междисциплинарное исследование 2024 года оценило точность ссылок и DOI, сгенерированных в рабочих процессах научного письма
• руководство библиотек USC по ограничениям генеративного ИИ прямо предупреждает, что большие языковые модели (LLM) могут «галлюцинировать» вымышленные ссылки, публикации и другую исследовательскую информацию

Поэтому, когда мы говорим о «галлюцинациях ссылок», мы описываем задокументированную модель поведения, а не просто отдельные разочарования пользователей.

Почему ИИ-ссылки кажутся заслуживающими доверия

ИИ-инструменты хорошо воспроизводят поверхностные признаки академического письма:

• структуру ссылок
• форматирование авторов
• фразировку в стиле журналов
• правдоподобные годы публикации
• техническую лексику

Эта беглость создает ложное чувство уверенности. Пользователи часто предполагают:

• «Это выглядит академическим, значит, это должно существовать».
• «Формат DOI выглядит правильно, значит, это должно быть реально».
• «Название звучит конкретно, значит, это должно быть из статьи».

Это и есть ловушка.

Эти системы оптимизированы для генерации правдоподобного языка, а не для работы в качестве движков библиографической истины.

Основная проблема надежности

Проблема надежности заключается не просто в том, что «иногда он ошибается».

Более глубокая проблема в том, что ИИ-инструмент может генерировать текст, который звучит авторитетно, даже если лежащая в его основе ссылка:

• вымышлена
• неполна
• объединена из нескольких реальных статей
• не связана с утверждением, которое она должна поддерживать

Это означает, что вы не можете судить о надежности по уверенности или отполированности.

Наиболее распространенные типы ошибок в ссылках

1. Несуществующие статьи

Вся ссылка выдумана. Название может звучать реально, но такой статьи не существует.

2. Неверные метаданные для реальной статьи

Существует реальная статья, но ссылка содержит неверные:

• год
• список авторов
• формулировку названия
• журнал
• DOI

3. Реально выглядящие, но неподтвержденные ссылки

Это более тонкий момент. Источник может существовать, но он на самом деле не подтверждает утверждение в вашем абзаце.

Например, ChatGPT может сослаться на реальную обзорную статью для очень конкретного числового утверждения, которое эта статья никогда не делала.

4. Ссылки из смешанных источников

Модель смешивает детали из нескольких источников в одну аккуратно выглядящую ссылку.

Это одна из причин, почему ссылки, сгенерированные ИИ, трудно заметить на глаз. Каждая часть может казаться знакомой, в то время как вся ссылка все равно неверна.

Почему это происходит в академической работе

Академические запросы поощряют точность. Пользователи запрашивают:

• рецензируемые источники
• ссылки в формате APA
• статьи, опубликованные после определенного года
• источники, подтверждающие конкретное утверждение

Это подталкивает модель к генерации ссылок, которые структурно удовлетворяют запросу, даже если она не может фактически найти правильную статью.

Другими словами, чем более «похожим на ссылку» является ваш запрос, тем убедительнее может стать «галлюцинация».

Почему это большая проблема, чем ошибка форматирования

Ненадежная ссылка — это не просто проблема с неаккуратной библиографией.

Это влияет на достоверность всего аргумента.

Если рецензент проверит одну ссылку и обнаружит, что она не существует, он может обоснованно спросить:

• Что еще в этой статье не было проверено?
• Были ли проверены сами утверждения?
• Действительно ли автор читал цитируемую литературу?

Вот почему надежность ссылок важна, даже если основные идеи статьи в остальном обоснованы.

Когда сгенерированные ИИ ссылки наиболее рискованны

В следующих ситуациях следует проявлять особую осторожность:

Написание с чистого листа

Если вы используете ИИ-инструмент для генерации как утверждения, так и ссылки, вы увеличиваете вероятность того, что оба они не проверены.

Работа за пределами вашей точной области

Пользователи с меньшей вероятностью обнаружат поддельные ссылки, когда они пишут в разных дисциплинах или в незнакомой литературе.

Работа в условиях сжатых сроков

Торопящиеся пользователи с большей вероятностью примут отполированную библиографию за чистую монету.

Совместное написание

В командных рабочих процессах один человек может предположить, что другой человек проверил ссылки. Именно так поддельные ссылки доживают до окончательных черновиков.

Что делать вместо того, чтобы слепо доверять ИИ-ссылкам

Ответ не в том, чтобы «никогда не использовать ИИ».

Ответ таков: используйте его для поддержки черновиков, но разделяйте помощь в написании и проверку ссылок.

Вот более безопасный рабочий процесс:

Шаг 1: Относитесь к ИИ-ссылкам как к зацепкам, а не как к окончательным ссылкам

Сгенерированная ИИ ссылка может дать вам направление темы, возможного автора или подсказку для поиска. Это не делает ее окончательной библиографической записью.

Шаг 2: Проверьте ссылку

Проверьте:

• существует ли название
• разрешается ли DOI
• совпадают ли метаданные
• действительно ли источник подтверждает утверждение

Шаг 3: Замените неподтвержденные источники реальными

Если ссылка поддельная или слабая, используйте утверждение, чтобы найти реальную статью, вместо того чтобы пытаться спасти поддельную ссылку.

Source Finder от Citely полезен здесь, когда у вас есть предложение или утверждение, но нет оригинальной статьи.

Шаг 4: Пакетная проверка всей библиографии

Перед отправкой пропустите весь список литературы через Citation Checker от Citely.

Это практичный способ обнаружить:

• поддельные ссылки
• неполные ссылки
• несоответствия авторов
• неверные годы
• подозрительные записи, скопированные из рабочих процессов ИИ

Черновики ИИ против надежных рабочих процессов ссылок

Рабочий процесс	Сильные стороны	Слабые стороны
Запрос ссылок у ИИ-инструмента	Быстрая отправная точка	Ссылки могут быть поддельными или неподтвержденными
Ручная проверка в Google Scholar	Хорошо для нескольких источников	Медленно и монотонно
Проверка DOI + метаданных	Точно	Все еще вручную для больших списков
Citely Citation Checker + Source Finder	Лучше всего для реального рабочего процесса проверки	Требует окончательного человеческого суждения

Лучшее правило для исследователей и студентов

Если вы запомните только одно правило, пусть это будет:

Никогда не отправляйте ссылку только потому, что ее вам дал ИИ. Отправляйте ее только после того, как вы ее проверили.

Эта одна дисциплина защищает:

• вашу репутацию
• вашу библиографию
• ваших соавторов
• ваш рабочий процесс публикации

Ключевые выводы

• Ссылки, сгенерированные ИИ, не всегда надежны, потому что беглое форматирование ссылок — это не то же самое, что проверенная библиографическая истина.
• Основные риски — это вымышленные статьи, искаженные метаданные, неподтвержденные утверждения и ссылки из смешанных источников.
• Академические запросы часто приводят к более убедительным «галлюцинациям», потому что они подталкивают модель к генерации вывода, похожего на ссылку.
• Безопасный рабочий процесс состоит в том, чтобы относиться к ИИ-ссылкам как к зацепкам, а затем проверять их перед использованием.
• Комбинированный рабочий процесс отслеживания утверждений и проверки ссылок является наиболее практичным способом очистки черновиков, созданных с помощью ИИ, перед отправкой.

👉 Проверьте ссылки, сгенерированные ИИ, здесь: citely.ai/citation-checker