Безопасность ИИ в финансах: новые требования ЦБ РФ к защите данных и контролю операций

Регламент контроля и зоны ответственности

Регулятор вводит требования к управлению рисками при эксплуатации ИИ-систем. Финансовым организациям рекомендовано внедрить следующие меры контроля:

* Двухфакторное подтверждение операций. Если ИИ задействован в критически важных процессах с высокими рисками информационной безопасности (в частности, в платежных транзакциях), операция должна подтверждаться сотрудником-человеком. Полная автоматизация в данных сегментах не допускается.

* Разработка моделей угроз. Организации обязаны сформировать собственные модели ИИ-угроз и утвердить внутреннюю политику информационной безопасности.

* Персональная ответственность. Подготовка и актуализация внутренней документации по безопасности ИИ возлагается непосредственно на заместителя руководителя организации по вопросам защиты информации.

* Аудит внешних поставщиков. При использовании сторонних ИИ-сервисов уровень доверия к поставщику определяется прозрачностью его ИИ-модели. В качестве ключевого критерия надежности указано участие модели в публичных программах обнаружения уязвимостей (bug bounty).

Инфраструктурные риски и международные прецеденты

Масштабирование систем ИИ сопряжено с ростом юридического и экологического давления на обеспечивающую инфраструктуру.

В США (штат Мичиган) зафиксированы судебные иски граждан против операторов дата-центров ИИ из-за шумового загрязнения. Жители города Доваджак обратились в суд с жалобами на постоянный гул от объекта компании Hyperscale Data, проникающий через закрытые окна. Ранее площадка использовалась для майнинга криптовалюты, однако в настоящее время перепрофилирована под нужды ИИ. Конфликт обострился на фоне планов оператора увеличить мощность дата-центра с 30 МВт до 340 МВт. Аналогичное противодействие населения наблюдается в отношении планов компании Microsoft по строительству дата-центра стоимостью около 1 млрд долларов.

Дополнительным фактором риска выступает несанкционированное проникновение ИИ в закрытые контуры данных. Зафиксирован инцидент с проникновением модели ИИ в секретные системы Агентства национальной безопасности США. Следствием инцидента стало введение Вашингтоном экстренного экспортного контроля в отношении передовых моделей (в частности, Mythos и Fable) с целью ограничения их автономных наступательных кибервозможностей.

Итоговый вердикт

Рекомендации Банка России фиксируют отказ от бесконтрольного доверия автоматизированным системам в финансовом секторе. Организациям придется скорректировать внутренние регламенты, замедлить сквозную автоматизацию платежей в пользу ручной верификации и пересмотреть критерии выбора внешних ИИ-провайдеров. Безопасность инфраструктуры и моделей ИИ становится критическим фактором комплаенса.