Как обеспечить качество контента для цитирования ИИ

В 41 из 77 финансовых статей, которые CNET публиковала под ИИ-генерацией без предупреждения читателей, редакция позже нашла фактические ошибки ^[1]. После огласки Wikipedia перестала считать CNET «в целом надёжным источником» ^[2]. Это конкретный прецедент: автогенерация контента без проверки бьёт не только по SEO, но и по репутации бренда на годы вперёд, причём последствия проявляются не сразу, а тогда, когда исправлять уже дороже и заметнее.

Вопрос не в том, использовать ли ИИ при производстве контента для цитирования нейросетями. В 2026 году это уже данность: почти любая редакция так или иначе задействует генеративные модели на этапе черновика. Вопрос в том, какие проверки стоят между этим черновиком и публикацией, и именно от их количества зависит, станет ли текст источником, на который опирается нейросеть, или источником ошибки, за которую отвечает бренд.

Официальная позиция Google по этому вопросу основана на принципе независимости от источника. Политика оценивает качество, полезность и оригинальность контента, а не инструмент, которым он создан ^[3]. Контент штрафуется не за факт использования ИИ, а за «масштабное злоупотребление контентом», а именно публикацию сотен статей в день по одному шаблону без редакторской проверки ^[3].

Тот же принцип действует и для нейросетей, которые цитируют контент в собственных ответах. Большинство ИИ-систем сначала находят подходящие документы в интернете и только потом формируют ответ на их основе, а не по памяти модели. Такую привязку ответа к конкретным источникам называют grounding. Если источник содержит выдуманный факт, эта выдумка попадает в ответ нейросети как будто бы проверенная информация, а пользователь не может отличить её от настоящей.

Из этого следует практический вывод: доверять можно ИИ-контенту, который прошёл через реальную проверку фактов и редактуру, потому что именно такой контент безопасно использовать как источник при поиске и построении ответа. Доверять нельзя сырому выводу модели, опубликованному без единой правки, не потому, что его написал ИИ, а потому что никто не проверил, что в нём написана правда.

Может навредить, и кейс CNET — не единственный пример. Риск не в самом факте использования генеративной модели, а в том, что именно публикуется без проверки и в каком объёме.

• Выдуманные факты. Модель уверенно называет цифры, даты и цитаты, которых не существует, создавая так называемые галлюцинации.
• Обобщённый ИИ-стиль. Узнаваемые шаблонные обороты без единого факта или числа, которые читатель и поисковая система быстро распознают как признак некачественного текста.
• Дублирующий контент. Однотипные статьи, сгенерированные по одному шаблону для десятков страниц, — именно то, что Google называет масштабным злоупотреблением ^[3].
• Разрыв между обещанием и фактом. Если ИИ-контент цитируется нейросетью, а в нём ошибка, эта ошибка приписывается бренду, а не модели, которая её сделала.

Открытый рейтинг Vectara Hallucination Leaderboard, который измеряет точность моделей при пересказе текста без искажения фактов, показывает разброс от 1,8% до 24,2% в зависимости от модели ^[4]. Это не единичные исключения, а системная особенность любой генеративной модели, которую нужно закладывать в процесс производства контента, а не игнорировать.

Разница между безопасным и рискованным использованием ИИ в контенте видна не в самом факте генерации, а в наборе проверок вокруг неё.

Да, если процесс производства контента выстроен как конвейер с гейтами, а не как «нажал кнопку и опубликовал». Вот из чего обычно состоит такая проверка на примере внутреннего пайплайна Humanswith.AI.

Каждая статья проходит несколько независимых слоёв контроля, прежде чем попасть на публикацию.

1. Фактчекинг ссылок. Каждая цитируемая ссылка проверяется на то, что страница существует и действительно говорит то, на что ссылается текст, а не просто выглядит правдоподобно.
2. Редакторская проверка по девяти параметрам. Читаемость, ритм текста, грамматика, цитируемость, соответствие правилам конкретного языка, экспертность и авторитетность, обоснованность формулировок, повторы и структура — каждый слой оценивается отдельно.
3. Проверка на уникальность. Текст сверяется на совпадения с уже существующими материалами в интернете, порог для публикации — не ниже 90% уникальности.
4. AI-детекция. Отдельный слой проверяет, не выглядит ли текст как типичный сгенерированный, с порогом, при превышении которого текст возвращается на доработку, а не публикуется.
5. Итоговый гейт готовности к публикации. Общий балл по всем проверкам должен превысить пороговое значение, иначе публикация технически блокируется, а не откладывается на усмотрение человека, который может поспешить.

Ни один из этих слоёв не заменяет человека полностью. Фактчекинг ссылок делает и модель, и живой редактор, который дополнительно вручную проверяет самые важные числа в тексте. Как правило, именно на этапе перед публикацией, а не после неё. Разделение труда здесь принципиально: автоматические слои ловят массовые и очевидные проблемы, а человек отвечает за те несколько цифр и утверждений, ошибка в которых обойдётся дороже всего репутационно.

Конкретный пример того, что находит фактчекинг на практике: модель может сгенерировать ссылку на источник, который выглядит абсолютно правдоподобно, — с реальным доменом, логичным URL и подходящим заголовком, — но который физически не существует или ведёт не туда, куда обещает текст. Без проверки статуса каждой ссылки перед публикацией такая выдуманная ссылка уходит в статью и остаётся там до тех пор, пока кто-то из читателей не попробует по ней перейти.

Ещё одна регулярная находка фактчекинга — устаревшие цифры. Модель могла обучаться на данных определённого среза времени и уверенно приводит статистику, которая с тех пор изменилась, не помечая её как потенциально устаревшую. Отдельная сверка каждой цифры с датой её актуальности снимает и эту проблему до публикации, а не после того, как на неё обратит внимание читатель или конкурент.

Системы выбирают источник не по общей репутации сайта, а по тому, можно ли из конкретного фрагмента текста извлечь прямой, проверяемый ответ. Даже у авторитетного домена шансы на цитирование падают, если факты в тексте расплывчаты или не подтверждены источником. Поэтому фактчекинг — это не только защита от репутационного риска, но и прямое условие, чтобы контент вообще годился в качестве материала для поиска источников. Модель с большей вероятностью использует текст с точными цифрами и рабочими ссылками, чем текст с красивыми, но непроверяемыми утверждениями.

Пять правил, которые следуют из всего сказанного выше.

• Проверять каждую ссылку на источник вручную, а не доверять тому, что модель «нашла» её сама.
• Прогонять текст через AI-детектор и проверку уникальности до публикации, а не после жалоб читателей.
• Требовать редакторскую проверку фактов и цифр отдельно от проверки стиля.
• Избегать генерации десятков однотипных страниц по одному шаблону — это прямой путь под фильтр за масштабное злоупотребление контентом.
• Указывать источники прямо в тексте, а не полагаться на то, что нейросеть сама разберётся, откуда взята информация.

Ни одно из этих правил не требует отказа от ИИ в производстве контента. Они требуют относиться к черновику модели так же, как к черновику любого другого автора. Это текст, который проходит проверку перед тем, как стать источником, на который могут сослаться и человек, и нейросеть.

[1] CNN Business — Plagued with errors: A news outlet's decision to write stories with AI backfires — https://www.cnn.com/2023/01/25/tech/cnet-ai-tool-news-stories

[2] Futurism — Wikipedia No Longer Considers CNET a "Generally Reliable" Source After AI Scandal — https://futurism.com/wikipedia-cnet-unreliable-ai

[3] Google Search Central — Creating Helpful, Reliable, People-First Content — https://developers.google.com/search/docs/fundamentals/creating-helpful-content

[4] Vectara — Hallucination Leaderboard — https://github.com/vectara/hallucination-leaderboard/