Вопросы и ответы РФ: последствия внедрения ИИ-суммаризаторов

Базы «вопросы и ответы РФ» уже давно перестали быть просто архивами: в них лежат обращения, разъяснения ведомств, переписка, документы, ссылки на нормы и — временами — очень личные детали человеческой жизни.

ИИ-суммаризатор умеет превратить сотню страниц в пять абзацев, найти повторяющиеся темы в жалобах и собрать оператору черновик ответа. Звучит как спасение для перегруженной приёмной, службы поддержки или редакции. Но в этой истории есть подводные камни, и главный из них простой: нейросеть не понимает разницы между «похоже на правду» и «это можно публиковать от имени организации».

Давайте разберёмся на пальцах, что меняется для российских систем вопрос-ответ, где заканчивается удобная автоматизация и начинается зона, в которой экономия пары минут может стать очень дорогой.

Локализация данных: вопрос может оказаться персональными данными

Первое, что хочется сказать командам, внедряющим ИИ: не всякий текстовый запрос — персональные данные. Вопрос «как оформить пособие?» сам по себе не обязательно позволяет установить человека. Но жизнь, как обычно, не ходит по прямой линии.

Пользователь часто добавляет в сообщение ФИО, телефон, адрес, номер заявления, данные ребёнка, медицинские обстоятельства, скриншоты документов или пересылает прежнюю переписку с ведомством. Для модели это просто входной текст. Для оператора сервиса — потенциально регулируемые персональные данные со всеми обязанностями, которые к ним прилагаются.

С 1 июля 2025 года вступили в силу изменения, внесённые Федеральным законом № 23-ФЗ от 28 февраля 2025 года. Для онлайн-сервисов здесь особенно чувствительна норма о локализации: если оператор собирает персональные данные граждан РФ через интернет и затем записывает, систематизирует, накапливает, хранит, уточняет или извлекает их, эти операции нельзя выполнять с использованием баз данных за пределами России, кроме предусмотренных законом исключений.

Переведу с корпоративного на человеческий. Кнопка «сделать краткое содержание» может выглядеть безобидно, но за ней нужно увидеть весь маршрут текста:

1. Где пользователь вводит вопрос. Форма обращения, чат, личный кабинет, приложение, письмо в поддержку — это точки, в которых в систему попадают данные.

2. Где сервис хранит историю. Не только основная база, но и резервные копии, журналы событий, аналитика, файлы вложений.

3. Куда уходит запрос к модели. Внешний API, облачная платформа, прокси-сервер, векторное хранилище для поиска по базе знаний — иногда именно здесь команда внезапно обнаруживает, что «мы ничего не переносили» было не совсем правдой.

4. Что делает модель с результатом. Черновик ответа, краткая выжимка, классификация темы, извлечение фактов, создание эмбеддингов — это разные операции, и их нельзя сваливать в одну коробку с ярлыком «ИИ».

5. Кто получает доступ к логам. Самая грустная классика: персональные детали уже убрали из итогового ответа, но они остались в технической истории запросов.

У оператора сайта есть и более базовые обязанности: публиковать политику обработки персональных данных и сведения о реализуемых требованиях к защите, обеспечивать правовые, организационные и технические меры безопасности, проводить внутренний контроль или аудит, оценивать возможный вред для людей.

Это не тот случай, когда достаточно повесить в футере ссылку на политику из 2018 года и выдохнуть. Если в продукт добавили суммаризацию официальных данных, поиск по обращениям или анализ обращений граждан с ИИ, политика и реальные процессы должны совпадать. Иначе получается знакомая многим картина: на витрине написано одно, а на кухне сервис живёт совсем по другим правилам.

ИИ не превращает персональные данные в «просто текст». Он лишь делает текст быстрее, удобнее и, увы, иногда заметно опаснее в обращении.

Штраф до 500 миллионов — не цена одной ошибки нейросети

Цифра «до 500 млн рублей» звучит так, будто любой неудачный ответ чат-бота немедленно превращается в финансовую катастрофу. Это не так. И здесь лучше не пугать себя лишним, а понимать конструкцию риска.

Для юридических лиц повторное нарушение по определённым составам, указанным в частях 16–18 статьи 13.11 КоАП РФ, может повлечь оборотный штраф от 1% до 3% годовой выручки. При этом установлен коридор: не менее 25 млн и не более 500 млн рублей. Это не универсальная санкция «за ИИ», не автоматическое наказание за каждую галлюцинацию и не штраф за любой недочёт в политике конфиденциальности.

Но и отмахнуться фразой «у нас всего лишь помощник оператора» не получится. Регуляторную историю обычно создаёт не сама модель, а цепочка решений вокруг неё: какие данные в неё отправили, была ли законная основа обработки, где эти данные оказались, кто контролировал доступ, насколько система защищена и как организация реагирует на инциденты.

Для команды, которая автоматизирует ответы ведомств или строит базу вопросов и ответов РФ, я бы разделила риски так:

Самая полезная привычка здесь — перестать оценивать ИИ как отдельный виджет. Смотрите на него как на нового сотрудника, который мгновенно читает десятки тысяч обращений, иногда додумывает детали и может случайно переслать служебную папку не туда. Такому «сотруднику» не дают полный доступ в первый рабочий день и не ставят его подпись под ответом руководителя. С нейросетью логика должна быть примерно той же, только без иллюзии, что она сама догадается о границах.

Ссылка на источник — не волшебная индульгенция

Вторая ловушка прячется в слове «суммаризация». Кажется, что если сервис не копирует статью целиком, а делает короткую выжимку, то никаких вопросов к нему быть не может. Увы, авторское право не работает по принципу «я пересказала, значит всё моё».

Статья 1274 ГК РФ допускает цитирование правомерно обнародованных произведений в информационных целях без согласия автора и без выплаты вознаграждения. Но только в объёме, оправданном целью цитирования, и с обязательным указанием имени автора и источника заимствования — если имя автора известно.

Для новостного дайджеста, справочного сервиса или российской системы вопрос-ответ это означает не «поставим маленькую ссылку внизу и забудем», а несколько вполне земных правил.

Во-первых, первоисточник должен быть виден пользователю. Если ИИ отвечает на вопрос о новом порядке выплат, изменении правил въезда или позиции ведомства, читатель должен понимать, на какой документ, сообщение или разъяснение опирается вывод. Иначе перед ним не справочный ответ, а голос из тумана.

Во-вторых, цитата должна работать на цель ответа, а не заменять исходный материал. Один точный фрагмент нормы для объяснения — это одно. Регулярная переработка чужих публикаций в почти полные коммерческие сводки — совсем другое поле, где автоматическое сокращение текста не отменяет вопросов к способу использования и объёму заимствования.

В-третьих, особенно аккуратно стоит обращаться с официальной информацией и журналистскими материалами одновременно. Формулировка ведомства может быть первичным источником факта, но объясняющая статья редакции, аналитика эксперта или инфографика имеют своего автора и собственную ценность. Суммаризатору всё равно, откуда он собрал фразу. Сервису — не должно быть всё равно.

Как выглядит аккуратный ответ

Представим вопрос: «Правда ли, что с июля изменился порядок обработки данных на сайтах?»

Плохой ИИ-ответ звучит бойко: «Да, теперь всё хранить за рубежом запрещено, а штраф за нарушение — до 500 млн рублей». В нём есть сразу несколько проблем: слишком широкое утверждение, потерянные условия применения нормы, неверное ощущение автоматического штрафа.

Нормальный ответ будет короче, но честнее: изменения вступили в силу 1 июля 2025 года; при сборе персональных данных граждан РФ через интернет закон ограничивает ряд операций с использованием баз данных за пределами России; размер санкции зависит от конкретного состава нарушения и повторности. После этого сервис показывает документ-источник и при необходимости предлагает пользователю уточнить ситуацию.

Да, такой ответ менее эффектный. Зато он не заставляет человека потом разгребать последствия уверенного, но кривого пересказа.

Сильный суммаризатор не прячет дорогу к источнику. Он сокращает путь к пониманию, а не отрезает читателю возможность проверить себя.

Конфабуляции: когда нейросеть говорит уверенно и мимо

Самая заметная проблема генеративного ИИ в вопросах и ответах — не то, что он ошибается. Ошибаются и люди. Проблема в том, что он умеет ошибаться гладко, складно и с интонацией сотрудника, который уже поставил печать.

NIST называет такие случаи конфабуляциями: модель выдаёт ложный или ошибочный контент уверенно. Это может быть выдуманная ссылка на нормативный акт, неверная дата, противоречие внутри одного ответа или ответ, который красиво сформулирован, но не соответствует исходному вопросу.

В базах Q&A риск растёт по нескольким причинам. Вопросы граждан нередко короткие и расплывчатые: «почему отказали?», «могу ли я оформить?», «куда жаловаться?». Модель начинает достраивать недостающие обстоятельства. А официальный тон ответа создаёт ложное ощущение, будто достроенные детали действительно были в обращении.

Я проверила бы суммаризатор не на демо-наборах, где все вопросы чистые и похожи на учебник, а на реальной рабочей грязи:

• запросах с несколькими темами сразу;
• старых обращениях, где нормы уже изменились;
• вопросах с опечатками, обрывками цитат и приложениями;
• похожих по названию органах, программах и документах;
• случаях, когда в исходнике нет ответа и честнее прямо сказать «данных недостаточно».

NIST в профиле рисков генеративного ИИ, выпущенном 26 июля 2024 года, описывает 13 групп рисков и более 400 действий по управлению ими. Не нужно героически переносить в продукт все четыре сотни — иначе пилот закончится ещё до первого пользователя. Но несколько опорных вещей я бы не откладывала:

1. Разделить режимы работы. Суммирование предоставленного документа и свободная генерация ответа по памяти модели — это не один и тот же риск. В первом случае можно требовать опору на конкретный текст; во втором необходимы ещё более жёсткие ограничения.

2. Показывать основание ответа. Внутреннему оператору — фрагменты источников и дату документа. Пользователю — понятную ссылку или реквизиты первоисточника, когда это уместно.

3. Настроить право модели на молчание. Фраза «не могу подтвердить по имеющимся материалам» полезнее выдуманного пункта закона. В корпоративной культуре такое почему-то считают слабостью, хотя это и есть нормальная интеллектуальная гигиена.

4. Оставить человека в точке риска. Чем выше последствия ответа — деньги, права, здоровье, миграционный статус, персональные данные, — тем меньше смысла выпускать текст без проверки.

5. Собирать инциденты. Не прятать неудачные ответы в папку «разберём потом», а помечать тип ошибки: ложная ссылка, устаревшая норма, неверное обобщение, утечка фрагмента обращения. Так система становится лучше не на презентации, а в жизни.

Российский Кодекс этики в сфере ИИ, подписанный 26 октября 2021 года, — не федеральный закон и не набор штрафных статей. Он добровольный. Но его принципы про прозрачность, качественные данные, соблюдение законодательства о персональных данных и человеческий надзор дают очень внятную продуктовую рамку.

Проще говоря: не надо делать вид, что ответ написал живой эксперт, если его собрала модель; не надо кормить её сомнительными архивами; не надо выпускать в гражданский оборот текст, который никто не готов защитить по существу.

Автоматизация ответов ведомств: полезна там, где не подменяет решение

У ИИ-суммаризаторов есть действительно сильные сценарии. И жалко было бы выбросить их из-за страха перед словом «нейросеть».

Они хорошо справляются с рутинной подготовкой: группируют массив обращений по темам, вытаскивают повторяющиеся вопросы, предлагают структуру ответа, находят релевантные документы в утверждённой базе, делают черновую выжимку длинного регламента. Для редакции дайджеста это ещё и способ быстрее увидеть, о чём люди спрашивают чаще всего, а не только о чём громче всего пишут пресс-службы.

Например, анализ обращений граждан с ИИ может показать, что за неделю резко выросли вопросы не просто о «выплатах», а о конкретном сбое в процедуре подачи заявления. Это полезный сигнал: ведомство может обновить разъяснение, сервис — вынести понятный ответ наверх, редакция — проверить, не появилась ли новая проблема.

Но есть тонкая граница между навигацией и решением.

Система может сказать: «В обращениях часто встречается такая причина отказа; вот связанные документы и типовой порядок действий». Она не должна без достаточных оснований говорить: «Вам отказали незаконно» или «вам точно положена выплата». В первом случае ИИ помогает человеку сориентироваться. Во втором — изображает полномочия, которых у него нет.

Национальная стратегия развития ИИ, обновлённая в феврале 2024 года, задаёт амбициозный фон: целевой объём затрат организаций на внедрение и использование ИИ к 2030 году обозначен на уровне до 850 млрд рублей в год. Масштабирование неизбежно. Вопрос уже не в том, появятся ли ИИ-ответы в российских сервисах, а в том, будут ли они построены как аккуратный слой помощи или как фабрика правдоподобных отписок.

И вот здесь я бы не покупалась на обещание «полностью автоматизировать коммуникацию». Оно звучит как робот-пылесос в рекламе: нажали кнопку — и дома идеальный порядок. А потом он наматывает на щётку провод от зарядки, застревает под диваном и почему-то съедает один носок. Автоматизация хороша, пока у неё есть границы, датчики и человек, который не ушёл из квартиры навсегда.

Что стоит сделать до запуска, а не после первого скандала

Если сервис только готовит ИИ-функцию, не начинайте с выбора самой красноречивой модели. Начните с карты процесса: какие вопросы приходят, какие данные в них встречаются, какие источники участвуют в ответе и кто несёт ответственность за итоговый текст.

Дальше — небольшой, но честный пилот на ограниченной категории обращений. Лучше взять темы с устойчивой базой документов и низкой ценой ошибки: навигация по разделам, поиск нужного разъяснения, сжатие длинных текстов для оператора. Не стоит первым делом отдавать модели решения по спорным, чувствительным или персональным ситуациям.

И ещё один лайфхак, который спасает больше нервов, чем кажется: заведите кнопку «ответ неверный или устарел» не только для пользователя, но и для сотрудника. Пусть рядом можно быстро отметить: «не тот источник», «выдумана ссылка», «перепутана редакция нормы», «слишком категоричный вывод». Это превращает жалобу не в репутационную яму, а в материал для настройки.

ИИ-суммаризатор в базе вопросов и ответов РФ может стать хорошим переводчиком бюрократического языка на человеческий. Но переводчик не имеет права добавлять в документ новый абзац от себя, терять сноску или решать за человека его судьбу.

Пусть модель экономит время на поиске, сортировке и черновиках. А точность, источник, границы применения нормы и последнее слово оставьте там, где им и место: у человека, который готов за этот ответ отвечать.