Главный риск использования искусственного интеллекта в финансовом секторе заключается не в выходе машин из-под контроля, а в их синхронности, которая может превратить один сбой в системный. Об этом Агентству городских новостей «Москва» рассказала налоговый советник, основатель «Бухгалтерского бюро Анны Веденеевой» Анна Веденеева.
«Потенциальный негативный сценарий не в том, что ИИ «выйдет из-под контроля». Он в том, что рынок станет слишком однородным. Если сотни банков и фондов используют похожие модели, обученные на похожих данных, и реагируют на один сигнал одинаково, любой шок может усиливаться лавинообразно. Это не восстание машин, а синхронность машин», – сказала Веденеева.
Она отметила, что в настоящее время искусственный интеллект в финансовом секторе переходит из стадии экспериментов в стадию промышленной эксплуатации. Банки, страховые компании и управляющие активами используют его для многих внутренних процессов, включая клиентский сервис и подготовку отчетности.
«Эффект уже измерим, поскольку уже сокращаются издержки, ускоряются процессы, растет точность прогнозов. Но ключевой парадокс в том, что ИИ снижает риски на уровне отдельного института и одновременно может повышать хрупкость всей системы», – пояснила эксперт.
По ее словам, положительный сценарий очевиден уже сейчас, поскольку ИИ делает финансы доступнее, быстрее и персонализированнее. Он помогает выявлять мошенничество в реальном времени, расширять кредитование для людей без кредитной истории, автоматизировать комплаенс и снижать операционные ошибки.
«В обозримом будущем мы увидим переход от ИИ-ассистентов к агентным системам, которые смогут самостоятельно проводить платежи, управлять ликвидностью и перестраивать портфели», – добавила специалист.
Эксперт также подчеркнула, что дополнительные риски заключаются в непрозрачности решений, концентрации у нескольких поставщиков, ответственности за ошибки алгоритмов и регуляторном отставании.
«Будущее финансов зависит не от того, насколько быстро мы внедрим ИИ, а от того, насколько разнообразно и управляемо мы это сделаем. Нужны гетерогенные модели, обязательный человеческий контроль для критических решений, стресс-тестирование ИИ-систем и понятные правила игры. ИИ должен стать страховкой от хрупкости, а не ее новым источником», – заключила она.