Российские банки массово подключаются к одним и тем же зарубежным платформам искусственного интеллекта. Центробанк считает, что это опасно для всей финансовой системы - и хочет это урегулировать.
Многие российские банки используют одни и те же глобальные ИИ-платформы для принятия решений - например, при выдаче кредитов или управлении рисками. На первый взгляд это удобно, но регулятор видит в этом серьёзную угрозу.
Главный вопрос: на каких данных обучены эти модели? Проверить это невозможно. Если данные окажутся некачественными или искажёнными, все банки, работающие на одной платформе, начнут ошибаться одновременно и одинаково.
Представьте: иностранный поставщик ИИ незаметно изменил параметры своей модели или у него случился сбой. Все банки, которые её используют, в один момент начнут принимать похожие неверные решения - сокращать лимиты, отказывать в кредитах, менять условия. По оценкам экспертов, потери в отдельных сегментах кредитного портфеля при таком сценарии могут достигать 3-5% за квартал.
Похожая история может произойти на фондовом рынке. Если одна модель управляет деньгами десятков игроков, все они будут покупать одни и те же бумаги. Спрос искусственно растёт, возникает иллюзия прибыльности - а потом пузырь лопается.
Зависимость от поставщика. Крупные зарубежные вендоры держат в своих руках и серверы, и облако, и саму модель. Если поставщик уйдёт с рынка или изменит условия - банк получит операционный сбой. В 2023 году, когда часть иностранных вендоров покидала Россию, рынок уже столкнулся с этим.
Уязвимость к хакерским инъекциям. Если злоумышленник научится подбрасывать в систему искажённые данные, модель начнёт систематически ошибаться. И если эту платформу используют десятки банков - пострадают все сразу. Исправить проблему своими силами не получится: нужно ждать, пока вендор выпустит обновление. Счёт идёт на часы, а ущерб за это время может стать критическим.
Банк России хочет ввести регулирование самой архитектуры ИИ-решений - то есть установить правила не только для того, что модель делает, но и для того, на каких данных она работает.
На практике это может выглядеть так:
Российские ИИ-модели обучаются на локальных данных: отечественной отчётности, нормативных документах, типовых договорах. Их можно развернуть внутри самого банка - данные никуда не уходят. Ответственность разработчика при этом чётко прописана в российском праве.
Это не гарантия отсутствия ошибок, но как минимум решает проблему непрозрачности и зависимости от зарубежного поставщика.
Самые читаемые
