Конфиденциальность личных данных в ИИ-суммаризаторах

Вот с этого вопроса и начинается разговор о том, как проверить конфиденциальность личных данных в ИИ-суммаризаторах. Галочка «не использовать мои тексты для обучения» сама по себе не отвечает ни на вопрос о хранении, ни на вопрос о доступе. Я и сама натыкалась на эти грабли, пока не начала читать политики конфиденциальности так же внимательно, как договор с банком.

Ловушка Opt-Out: почему отказ от обучения не удаляет ваши данные

Тема номер один — та самая настройка, которую легко принять за универсальную защиту. Но отказ от обучения и удаление данных — разные вещи.

Когда вы отключаете использование своих материалов для обучения, вы сообщаете сервису, что не хотите, чтобы ваши тексты применялись для улучшения моделей. Это не обязательно означает, что текст не пройдёт через серверы провайдера, не попадёт в технические журналы или будет сразу удалён после обработки. Сроки и цели хранения зависят от конкретного сервиса, его тарифных условий и настроек. Поэтому искать нужно не одну фразу про обучение, а весь порядок обработки данных: что собирают, зачем, на какой срок и кто может получить доступ.

Отказ от обучения — не кнопка «стереть». Это настройка с конкретным назначением, которая сама по себе ничего не говорит о сроках хранения.

Отдельная ловушка — настройки по умолчанию. В потребительских сервисах условия использования данных могут отличаться от корпоративных тарифов; иногда выбор зависит от региона, типа учётной записи или настроек, которые пользователь может изменить. Но включённая настройка не означает автоматически полученное юридически действительное согласие на обучение. Правовое основание обработки зависит от обстоятельств и применимого закона, а не только от того, в каком положении оказался переключатель. Если сервис опирается на согласие, оно должно отвечать требованиям закона; в других случаях провайдер может указывать иное основание. Пользователю всё равно стоит выяснить, что именно разрешает выбранный тариф и как отозвать разрешение, если оно запрашивается.

В корпоративных продуктах условия нередко строже: провайдер может обещать не использовать клиентские данные для обучения моделей общего назначения. Но и такая формулировка не означает, что данные не обрабатываются для оказания услуги, не сохраняются для безопасности или не передаются привлечённым подрядчикам. В договоре и документах о защите данных эти цели должны быть разведены, а не спрятаны за общим обещанием приватности.

Масштаб проблемы не только в настройках. По данным ГК «Солар», за год сотрудники компаний загрузили в публичные ИИ-сервисы примерно в тридцать раз больше данных, чем годом ранее; при этом около 60% организаций, согласно тем же данным, не имели внутренних регламентов о том, что именно разрешено отправлять в такие инструменты. Цифры описывают не юридический статус каждой загрузки, а разрыв между скоростью распространения сервисов и готовностью компаний управлять рисками. Люди отправляют документы в инструменты, правила которых не читали, а работодатели порой откладывают разговор о том, какие материалы нельзя выносить за пределы корпоративной среды.

Стандарты безопасности: что реально подтверждает SOC 2 Type II

Когда сервис говорит, что прошёл аудит, стоит выяснить, что именно проверяли. SOC 2 Type II — это отчёт о контролях организации за определённый период, подготовленный в рамках независимой проверки. Он может дать представление о том, как устроены процессы безопасности, доступы и обработка инцидентов. Но это не универсальный знак, который автоматически подтверждает нужный вам режим конфиденциальности.

Важно смотреть на границы проверки и на сами критерии: какие системы и подразделения охвачены, какие процессы оценивались, за какой период, были ли выявлены исключения и какие меры компания предприняла. Отчёт обычно предназначен для клиентов и партнёров, а не обязательно полностью публикуется на сайте. Если доступен только рекламный значок или фраза о готовности к аудиту, попросите подтвердить статус и объяснить, какие именно услуги входят в область проверки.

Даже настоящий отчёт SOC 2 Type II не отвечает на вопросы, удаляются ли ваши запросы сразу, используются ли они для обучения и могут ли их видеть сотрудники. Эти условия следует искать отдельно — в политике конфиденциальности, описании хранения данных, соглашении об обработке данных и условиях конкретного тарифа. Аудит помогает оценить зрелость процессов, но не заменяет чтение правил сервиса.

С шифрованием та же история: важен не только алгоритм, названный на странице безопасности, но и то, как он применяется. AES-256 часто используют для шифрования данных при хранении, однако это не универсальный обязательный минимум. AES-128 также считается надёжным при корректной реализации; требования могут зависеть от применимого стандарта, класса данных и архитектуры системы. Для передачи данных обычно описывают использование TLS, но одной аббревиатуры тоже недостаточно: имеет значение настройка протокола и защищены ли все этапы передачи.

Если сервис не сообщает, как шифрует данные и кто управляет ключами, это разумный повод задать вопросы. Но отсутствие упоминания именно AES-256 не доказывает, что защита слабая. И наоборот, одно слово AES-256 не гарантирует, что доступ к данным ограничен должным образом или что они удаляются в обещанный срок.

Технология Zero Data Retention: сильное ограничение, но не магия

Если отказ от обучения касается использования данных для развития модели, то Zero Data Retention (ZDR) — режим, при котором провайдер гарантирует обработку промптов и результатов только в оперативной памяти: без записи их содержимого на диски или в логи сервиса. Это существенно ограничивает риск сохранения текста после обработки, но не отменяет необходимости смотреть на условия режима целиком.

У ZDR могут быть исключения, связанные с отдельными функциями, проверкой злоупотреблений или требованиями безопасности. Кроме того, обещание об обработке содержимого не обязательно распространяется на метаданные: сервису могут быть нужны технические сведения для работы учётной записи, оплаты или защиты от злоупотреблений. Какие именно данные собираются и как долго сохраняются, нужно проверять отдельно. Важна и формулировка самого обещания: охватывает ли оно только промпты или также загруженные документы, ответы модели и результаты суммаризации.

ZDR ограничивает сохранение содержимого запросов и ответов, но исключения и правила работы с метаданными нужно выяснять отдельно.

У ZDR бывают практические ограничения. Режим может быть доступен только для определённых тарифов, функций или API-продуктов, требовать одобрения со стороны провайдера либо отдельного соглашения. Веб-версия и API одного бренда могут работать по разным правилам; настройки хранения у подключённых инструментов или сторонних обработчиков тоже не обязательно совпадают. Для корпоративного применения важно, чтобы обещание было закреплено в документах, а не осталось формулировкой на странице продаж.

Проверить техническую реализацию извне обычно невозможно. Клиент может сопоставить документы, договор и ответы провайдера, запросить описание исключений и доступные материалы аудита, но не заглянуть в чужую инфраструктуру. Поэтому ZDR снижает конкретный риск — сохранение содержимого запросов и результатов, — но не отменяет необходимости оценить доступы, передачу данных подрядчикам, безопасность учётных записей и собственные правила работы с документами.

Регуляторные риски и конфликт с GDPR при обработке корпоративных документов

Для компании, которая работает с персональными данными граждан ЕС, выбор суммаризатора — не просто вопрос удобства. GDPR требует, в частности, ограничивать хранение персональных данных тем сроком, который необходим для целей обработки. Но из этого не следует, что любой сервис, хранящий запросы в течение определённого срока, автоматически нарушает регламент. Оценка зависит от цели обработки, правового основания, роли сторон, настроек сервиса, договорных условий и того, какие именно данные передаются.

Если компания выступает контролёром, а поставщик суммаризатора обрабатывает данные по её поручению, обычно требуется определить и закрепить обязанности сторон, включая цели обработки, меры безопасности и условия привлечения субподрядчиков. В одних случаях потребуется соглашение об обработке данных; в других — дополнительная оценка рисков и мер защиты. Передача данных за пределы Европейской экономической зоны может требовать отдельного правового механизма. Одной надписи «соответствует GDPR» на сайте недостаточно, чтобы понять, выполнены ли эти требования в конкретном сценарии.

Роли сторон тоже нельзя сводить к формуле «виноват пользователь» или «виноват провайдер». При утечке ответственность и обязанности зависят от того, кто определял цели и средства обработки, кто выполнял обработку, какие меры стороны должны были принять и какой закон применяется. У компании могут быть обязанности перед субъектами данных и регулятором; у провайдера — свои обязательства по договору и закону. Конкретное распределение нельзя определить только по факту, что файл загрузили в сторонний сервис.

Для корпоративной команды практический вопрос звучит не так: «Кто будет крайним?» Лучше заранее установить, какие категории документов разрешено отправлять, кто одобряет инструмент и какой порядок действует при инциденте. Это не снимает ответственности с поставщика, если она на нём лежит, и не превращает любую ошибку сотрудника в нарушение со стороны компании. Зато помогает не искать правила уже после того, как документ оказался в чужой системе.

Аудит настроек: как оценить реальный уровень приватности сервиса

Чтобы проверить конфиденциальность личных данных в ИИ-суммаризаторах, не нужно начинать с юридической экспертизы на неделю. Но одного беглого взгляда на переключатель «не обучать» мало. Я бы шла от конкретного сценария: какие документы вы собираетесь загружать, какие сведения в них есть и какой уровень риска приемлем.

Искать удобно по словам retention, training, encryption, subprocessors и data processing. Но если в документах ответ сформулирован общо, это не обязательно доказывает нарушение; скорее, это сигнал запросить уточнение. Например: распространяется ли режим отказа от обучения на ручную проверку запросов? Удаляются ли резервные копии в те же сроки? Охватывает ли ZDR результаты суммаризации, загрузки файлов и подключённые функции? Может ли служба поддержки просматривать содержимое обращений? Какие метаданные остаются после обработки и для каких задач они нужны?

Ответы лучше получить письменно и сохранить вместе с договором. Для компании полезно сверить их не только с политикой поставщика, но и с внутренними требованиями: допустимы ли данные такого типа во внешнем сервисе, установлен ли подходящий срок хранения, нужно ли уведомлять ответственного за защиту данных. Для частного пользователя планка проще: не отправлять сведения, раскрытие которых создаст реальный вред, пока не понятно, как именно сервис с ними обращается.

Сам вопрос «удаляется ли текст?» тоже стоит задавать точнее. Речь может идти о содержимом промпта, загруженном файле, ответе суммаризатора, резервных копиях и метаданных — это не обязательно один и тот же объект с одинаковым сроком хранения. Если сервис обещает удаление, выясните, что именно удаляется, в какой срок и есть ли предусмотренные исключения. И отдельно проверьте, не сохраняются ли материалы в истории аккаунта, если пользователь сам включил такую функцию.

Аудит настроек не заканчивается в день регистрации. Условия и функции сервиса могут меняться, а новый режим суммаризации или интеграция — охватываться другими правилами. Перепроверять стоит при смене тарифа, подключении корпоративной учётной записи или появлении новых функций, которые требуют загружать больше данных. Регулярный пересмотр полезен не потому, что приватность обязательно ухудшится, а потому, что прежние ответы могут перестать соответствовать новому сценарию использования.

С бесплатным суммаризатором можно работать — если понимать, что именно ему доверяется. Короткую заметку без чувствительных сведений и договор с данными клиента не стоит считать одинаковыми входными материалами. Для первого может хватить проверки основных настроек; для второго нужны ясные условия хранения, подходящий договор и согласование с правилами организации. А если сервис не может объяснить, что происходит с загруженным текстом, разумнее сначала убрать из него лишние данные или выбрать другой инструмент.