LLM-детекция: как отличаем бот-отзывы от реальных

Почему это стало отдельной задачей

Нейросети стали доступны всем — и отзывов, написанных или сильно отредактированных моделью, стало больше. Позитивных накрученных и негативных заказных. На глаз такой текст год от года отличить всё труднее. Значит, нужен метод посерьёзнее, чем «что-то звучит подозрительно».

На какие признаки опирается методология

Мы смотрим на сочетание лингвистических и статистических сигналов. Слишком ровная структура, без отступлений, которые бывают в живой речи. Нет бытовых деталей: дат, имён сотрудников, подробностей заказа. Типичные для генеративных моделей клише. Длина предложений распределена не так, как у людей. Ни один признак сам ничего не доказывает. Вывод делаем только по совокупности.

Что означает точность 94.2% на практике

Цифру мы получили на тестовой выборке из 50 тысяч размеченных отзывов. Она показывает долю случаев, где методология верно определила, кто написал текст. Гарантией для каждого отзыва она не является. Любая модель классификации ошибается — особенно на коротких текстах, где сигналов мало.

Наглядно: точность методологии на тестовой выборке

Чек-лист: как самому проверить подозрительный отзыв

1. Есть ли в тексте проверяемые детали — дата, филиал, имя сотрудника, номер или состав заказа.
2. Найдите автора в своей базе по дате и описанию.
3. Откройте профиль автора: есть ли у него история других отзывов.
4. Посмотрите соседние отзывы: не появились ли похожие тексты в те же дни.
5. Поищите фразы из отзыва в кавычках в поиске — не встречаются ли они на других площадках.
6. Решите, на какое правило площадки опираться в жалобе: факт сделки, оскорбления, спам. «Написано нейросетью» основанием не считайте.

Если таких отзывов десятки и разбирать их вручную некогда, проверку можно встроить в мониторинг отзывов.

Как результат детекции используется в работе с площадками

Сам факт, что отзыв похож на сгенерированный, редко бывает формальным основанием для удаления. Площадки (см. статьи о жалобах на Avito, Ozon, Wildberries) реагируют на нарушение конкретных правил: нет факта сделки, есть оскорбления, спам. Детекция помогает увидеть общую картину атаки. Сгенерированные тексты часто идут рядом с другими признаками накрутки.

Как собирается и размечается обучающая выборка

Точность зависит от того, насколько хорошо размечены данные. Выборку в 50 тысяч отзывов мы собирали с разных площадок — отзовиков, медицинских агрегаторов, маркетплейсов. Специально: иначе модель подстроится под одну нишу и начнёт принимать её профессиональную лексику за признак генерации. Разметку «человек / LLM» делаем по нескольким независимым источникам. Отзывы с подтверждённой историей заказа и длинной перепиской в поддержке размечаются как органические с высокой уверенностью. Тексты, полученные контролируемой генерацией для тестов, — как LLM-сгенерированные. Самое сложное — смешанные случаи, когда человек отредактировал текст модели. Здесь точность заметно ниже заявленных 94.2%, и мы учитываем это, когда разбираем реальные отзывы без разметки.

Сравнение с ручной модерацией

Опытный модератор часто угадывает LLM-текст почти так же точно, как алгоритм. Но тысячи отзывов он за разумное время не прочитает. Ценность методологии не в том, что она умнее человека на каждом тексте — на пограничных случаях опытный человек иногда точнее. Она масштабируется. За минуты показывает, на какие сотни отзывов из потока команде стоит посмотреть. Поэтому это фильтр первого уровня, а спорные случаи решает человек. Особенно когда отзыв важен для репутации, а не просто проходит рядовую проверку.

Границы применимости методологии

Методология настроена на текстовые отзывы определённой длины и жанра — короткие рассказы об опыте. На другой контент её напрямую не перенести. У комментариев в соцсетях, длинных статей и постов в Telegram другие лингвистические признаки, и без переобучения точность падает заметно ниже 94.2%. Отдельная сложность — смешанные тексты: русский с вкраплениями других языков или транслитом. Их приходится сначала обрабатывать. Поэтому результат мы всегда указываем вместе с типом контента, а не выдаём за универсальную цифру.

Как детекция встроена в общий процесс мониторинга

Детекция не живёт отдельно. Она встроена в общий мониторинг вместе с другими сигналами: как быстро появляются однотипные отзывы, всплывают ли похожие формулировки сразу на нескольких площадках, правдоподобны ли детали в тексте. Отзыв с пометкой «вероятно, нейросеть» получает приоритет для ручной проверки. Но его не оспаривают на площадке только из-за этой пометки — решение принимают по совокупности признаков. Так мы избегаем двух ошибок. Не пропускаем волну накрутки, где каждый отзыв по отдельности выглядит правдоподобно. И не тратим силы на текст, который просто написал не самый уверенный в русском языке, но вполне реальный клиент.

Готовые шаблоны: комплексная жалоба и внутренняя заметка

Шаблоны опираются на правила площадок, а не на вероятностную оценку. Подставьте свои данные.

Частые ошибки при работе с «нейросетевыми» отзывами

• Жаловаться со словами «написано ИИ». Площадки рассматривают нарушения правил, а не стиль текста.
• Судить по одному короткому отзыву. В одной-двух фразах признаков слишком мало.
• Обвинять клиента публично. Если человек реальный, такой ответ увидят все будущие покупатели.
• Не сохранять ссылки и даты. Без них серию не доказать.
• Считать гладкий текст автоматически фейком. Некоторые люди просто хорошо пишут.

Какие инструменты SERM здесь применимы

• LLM-детекция как фильтр первого уровня — приоритизация тысяч отзывов вместо ручного чтения каждого
• Встраивание в общий конвейер мониторинга — вместе со скоростью появления отзывов и кросс-платформенной корреляцией
• Комплексная жалоба с несколькими признаками — детекция как дополнительный аргумент, а не единственное основание для площадки
• Регулярное переобучение модели — по мере изменения стиля письма новых языковых моделей

Детекция бот-отзывов входит в работу по SERM и ORM в Кликнет: стоимость — от 40 000 ₽/мес, для клиник — от 40 000 ₽/мес.

Часто задаваемые вопросы

❓ Можно ли по одному отзыву гарантированно сказать, что он написан нейросетью?

Нет, уверенность растёт с длиной текста и числом доступных признаков — короткие отзывы в 1-2 предложения детектируются заметно хуже.

❓ Используется ли детекция против клиентов, которые просто плохо пишут?

Методология откалибрована отличать именно LLM-паттерны от органической, пусть и неидеальной по стилю, человеческой речи — это разные распределения признаков.

❓ Меняются ли модели со временем?

Да, по мере развития языковых моделей признаки генерации меняются, поэтому методология регулярно переобучается на новых данных, а не остаётся статичной.

❓ Можно ли использовать детекцию как единственное доказательство в споре с площадкой?

Нет, площадки принимают жалобы по формальным основаниям — нарушение правил, отсутствие факта сделки, оскорбления, — а не по вероятностной оценке происхождения текста, поэтому результат детекции используется как дополнительный аргумент внутри команды и при подготовке комплексной жалобы, а не как единственная ссылка в обращении к модерации.

❓ Как часто переобучается модель детекции?

Регулярность зависит от скорости появления новых языковых моделей и заметных изменений в их стиле письма: как только на выборке новых, ещё не размеченных отзывов заметно растёт доля неуверенных предсказаний, это сигнал для переобучения на свежих данных, а не фиксированный календарный график — иначе методология рискует отставать от того, как реально пишут актуальные модели.