Старые законы для новых машин

Операционный зал центрального банка, 7:45 утра. На экранах мониторов разноцветные карты финансовой системы. Поступившие за ночь данные тысяч банков, брокеров и платежных систем анализируются с помощью модели ИИ, отслеживающей условия ликвидности. Рядом с банком, чья платежная активность внезапно снизилась, мигает маленькая красная точка. Аналитики поднимают взгляд. Компьютер обнаружил что-то необычное — может, случайную ошибку, а может, первый сигнал стресса.

Такие моменты теперь стали обычным делом в финансовых центрах всего мира. ИИ теперь является молчаливым партнером глобальной финансовой системы, принимающим участие в оценке кредитоспособности, обнаружении мошенничества, алгоритмической торговле и даже в денежно-кредитном анализе. Он незримо присутствует при каждой операции, сканируя огромные массивы данных в поисках закономерностей, невидимых человеческому глазу.



Перспективы поражают воображение: более быстрый анализ, более ранние предупреждения и более эффективные рынки. Но столь же велики и риски. Быстрая и скоординированная реакция ИИ может сформировать системную динамику, не имеющую аналогов в мире людей, включая неуправляемые циклы обратной связи. Те же системы, которые делают мир финансов более эффективным, могут сделать его более хрупким.

Как добиться того, чтобы этот новый вид интеллекта не разрушил существующую систему, а служил ей на пользу? Интересно, что ответ можно найти в давно сформулированной идее из научной фантастики.


ЗАКОНЫ АЗИМОВА

В 1940-х годах Айзек Азимов придумал разумных роботов, которые должны были подчиняться трем простым принципам: они должны избегать причинения вреда людям, повиноваться законным приказам, если это не причиняет вреда, и заботиться о собственном функционировании, соблюдая при этом два высших закона. Позднее он добавил «нулевой закон», требующий, чтобы роботы защищали человечество в целом.

Теперь подобная задача стоит перед миром финансов. Модели машинного обучения играют все большую роль в принятии решений о том, кому выдаются кредиты, как корректируются инвестиционные портфели и как руководители выявляют риски. Они влияют на потоки информации и корректировку цен в экономике.

Предложенная Азимовым иерархия, переосмысленная для финансового надзора, перерастает в этические принципы использования ИИ в финансовой сфере: прежде всего ИИ не должен причинять вред финансовой стабильности или добросовестности потребителей, он должен соблюдать институциональные требования без ущерба для справедливости и безопасности, а также поддерживать собственную стабильность, не избегая при этом ответственности. В первую очередь он должен служить высшей цели — сохранению доверия, на котором зиждется мир финансов.



НЕ НАВРЕДИ

Крупный коммерческий банк фактически никогда не закрывается. Его системы работают непрерывно в разных часовых поясах, обрабатывая операции, обновляя открытые позиции и выявляя аномалии, которые могут быть признаком мошенничества или стресса. Но ошибки все же случаются. ИИ может неправильно интерпретировать закономерности, наследовать сложившиеся предубеждения или усиливать рыночные сигналы, ускоряющие волатильность.

Требование Азимова не причинять вреда имеет значение для операционной деятельности: обязательство предотвращать ущерб распространяется не только на потребителей, но и на стабильность самой системы. Для этого требуется тщательное тестирование, грамотное управление данными и, что особенно важно, объяснимость, потому что если алгоритм не может обосновать свое решение, то этого не может сделать и полагающаяся на него организация. Современные модели ИИ не могут объяснить свою мотивацию: они могут лишь изложить факты апостериори. Поэтому объяснимость является не техническим, а институциональным требованием.

ИИ способен оказывать значительное макрофинансовое воздействие. Когда алгоритмы реагируют на новую информацию со скоростью компьютера, корректировки цен и изменения ликвидности становятся более резкими и синхронизированными, чем на рынках, управляемых человеком. Такие события, как молниеносный обвал 2010 года показывают, что автоматизированные системы способны влиять на рынки задолго до того, как директивные органы могут вмешаться.

Текущая ситуация еще сложнее. ИИ реагирует не просто быстрее: он реагирует иначе. Его внутренняя логика не только ускоряет цикл обратной связи между информацией и действием, но и меняет его. Модели на базе ИИ влияют на определение стоимости кредитов, распределение активов и премии за риск взаимоусиливающим образом. Когда такие модели вместе корректируют стратегии, потому что одинаково интерпретируют сигналы или пользуются схожими процедурами оптимизации, они могут влиять на передачу экономических шоков и ответные меры политики центральных банков.


ПОВИНОВЕНИЕ И СПОСОБНОСТЬ РАССУЖДАТЬ

В ИИ заложено повиновение. Он оптимизирует любую поставленную перед ним цель — прибыль, точность, соответствие требованиям. Но слепое повиновение опасно в мире финансов, где существуют не только технические, но и моральные компромиссы. Модель кредитования, направленная на минимизацию дефолта, может привести к исключению целых групп населения с высоким уровнем риска, тем самым не сокращая, а усиливая неравенство. Алгоритм торговли, перед которым поставлена задача обеспечить максимальную доходность, может настолько эффективно использовать микроценовые сигналы, что дестабилизирует рынки.

Использование моделей ИИ может быть оправдано. Однако они должны оставаться инструментами и не принимать самостоятельные решения. Они должны помогать в формировании суждения, а не заменять его. Денежно-кредитная политика, финансовый надзор и управление кризисами требуют участия человека. Модели не могут управлять этими функциями, особенно если они обучены на прошлых данных и не могут предсказывать новые потрясения. Поскольку ИИ меняет ожидания, он может ослабить традиционные каналы подачи сигналов, посредством которых действуют меры политики. Люди тоже ошибаются; как говорится, директивные органы всегда лучше всего готовы к предыдущему кризису. Урок не в том, что машины или люди ошибаются, а в том, что они должны учиться вместе, осознавая недостатки друг друга.

Несмотря на все программы и вычисления, финансы остаются сферой деятельности человека. Невозможно автоматизировать здравый смысл, эмпатию и ответственность. Поэтому центральные банки, органы регулирования и финансовые учреждения должны культивировать не только грамотное использование данных, но и этическую грамотность. ИИ может усилить надзор, но управление остается моральной задачей.



УСТОЙЧИВОСТЬ И ПОДОТЧЕТНОСТЬ

Закон самосохранения трансформируется в устойчивость. Системы ИИ должны надежно функционировать в условиях стресса, а организации должны нести ответственность за используемые ими алгоритмы.

Техническая устойчивость означает дублирование, мониторинг и тестирование в экстремальных ситуациях. Институциональная устойчивость означает открытость: регулирующие органы должны иметь возможность проверять принимаемые ИИ решения, даже если используется проприетарный код. Для этого требуются навыки и инструменты проверки и оспаривания используемых компаниями моделей ИИ.

Инновационный центр Банка международных расчетов (БМР) разработал прототипы инструментов, помогающих руководителям анализировать большие наборы данных и выявлять аномалии. Это многообещающие усилия, основанные на простом принципе: если алгоритм влияет на финансовую стабильность, он должен быть открыт для проверки органами надзора.

Секретность порождает уязвимость. Если модели будут функционировать как «черные ящики», ошибки будут накапливаться незаметно. Глобальный финансовый кризис 2008 года служит напоминанием о том, что сложность без прозрачности ведет к краху. ИИ предупреждает о том же в цифровой форме.

Подотчетность распространяется и на управление. Наряду с руководителями по управлению рисками или соблюдению норм финансовые организации должны иметь специалистов по рискам, связанным с ИИ, чтобы обеспечить объяснимость и возможность проверки алгоритмов. Регулирующие органы, в свою очередь, должны повышать свою грамотность в области ИИ, чтобы интерпретировать и оспаривать получаемые ими результаты. Цель не в том, чтобы замедлить инновации, а в том, чтобы они были безопасными, справедливыми и понятными.


ВЫСШИЙ ЗАКОН

Нулевой закон «не причинять вреда человечеству» в реальном мире эквивалентен поддержанию доверия. Доверие — это невидимая инфраструктура финансов.

Если ИИ подорвет это доверие своей предвзятостью, нестабильностью или отсутствием подотчетности, он поставит под угрозу сам фундамент системы. Однако если ИИ будет служить общественным интересам, это может повысить доверие. ИИ может быстрее выявлять мошенничество, делать надзор более проактивным и обеспечивать доступ к финансовым услугам для тех, кто давно его не имеет.


Влияние ИИ особенно заметно в странах с формирующимся рынком, где стремительно развиваются цифровые финансы, а нехватка данных долгое время ограничивает доступ к кредитам и государственным услугам. ИИ не заменяет существующие цифровые инструменты, а расширяет возможности этих систем путем извлечения закономерностей из больших неструктурированных наборов данных, которые традиционные модели не могут интерпретировать.

В Кении, например, такие экосистемы мобильных денег, как M-Pesa, генерируют большое число операций, которые все чаще анализируются с помощью моделей оценки на базе ИИ. Выявляемые модели поведения и движения денежных потоков позволяют кредиторам оценивать риски для заемщиков, не имеющих официальной кредитной истории. Это расширяет доступ к кредитам для малых предпринимателей и групп населения, ранее не пользовавшихся банковскими услугами. В Индии цифровые системы идентификации и платформы реального времени сочетаются с инструментами машинного обучения, направленными на более эффективное распределение государственных трансфертов и расширение доступа к микрокредитам.

Но ИИ может и усилить изоляцию. Скудность данных, когда имеются лишь ограниченные или предвзятые данные, означает, что целые слои населения остаются невидимыми для алгоритмов. Если женщины, сельское население или работники неформального сектора недостаточно представлены в наборах данных, они будут недостаточно представлены в конечных результатах.

Международные организации принимают соответствующие меры. МВФ и Всемирный банк все активнее включают вопросы цифровых финансов и управления ИИ в свои программы повышения потенциала.


ГЛОБАЛЬНАЯ КООРДИНАЦИЯ

ИИ развивается быстрее регулирования и пересекает границы быстрее денег. Однако, пока закон пытается поспеть за изменениями, директивные органы могут многое сделать в рамках существующих мандатов и правовых основ. Трансграничная координация необходима для предотвращения фрагментации и обеспечения формирования глобального подхода к регулированию ИИ в финансовой сфере на основе меняющейся передовой международной практики.

Совет по финансовой стабильности, БМР и МВФ изучают основы ответственного использования ИИ. Глобальный набор принципов, аналогичный Базельским основным принципам в банковской сфере, может обеспечить последовательность при сохранении гибкости. В рамках такой системы основное внимание будет уделяться справедливости, объяснимости, подотчетности и пропорциональности.

Посредством надзора и технической помощи МВФ может помочь странам в выявлении финансовых рисков, связанных с ИИ, передать им передовую практику и избежать цифрового неравенства в области надзора. Для этого он должен привлечь квалифицированных специалистов в области исследований и финансовых технологий. БМР может создать хранилище алгоритмов надзора, что позволит регулирующим органам сообща создавать модели с открытым исходным кодом.

Всемирный банк и региональные институты развития могут дополнить эти усилия путем развития потенциала ИИ и цифровой инфраструктуры в странах с формирующимся рынком. Посредством технической помощи, диалога по вопросам экономической политики и финансовых инструментов они могут помочь странам разработать основы ответственного использования ИИ для расширения доступа к финансовым услугам, усовершенствования управления данными и включения в экосистемы цифровых финансов этических стандартов ИИ.

Вместе эти институты могут обеспечить возможности для того, чтобы преимуществами ИИ могли пользоваться не только страны с развитой экономикой. Целью является цифровая многосторонность, при которой ИИ будет нести пользу всем странам. Ни одна страна не способна достичь этого в одиночку.


ФИНАНСОВЫЕ ЗАКОНЫ ИИ

Законы Азимова сводят все многообразие моральных вопросов к четким приоритетам: защищать людей, подчиняться в пределах установленных ограничений, нести ответственность и служить человечеству. В эпоху, когда технологии развиваются быстрее законов, такая простота бесценна.

Мы делаем выбор не между прогрессом и благоразумием, а между разумным управлением и слепой автоматизацией, помня о том, что, хотя машины учатся, ответственность по-прежнему лежит на людях. Будущее финансов будет все чаще писаться кодом. Тем не менее оно должно и дальше строиться на человеческих принципах. Система, основанная на принципах превосходства безопасности над повиновением, прозрачности над секретностью, доверия над прибылью, не устраняет риски, но становится управляемой и моральной.


Эти же принципы должны укрепляться посредством международного сотрудничества, с тем чтобы ИИ способствовал созданию финансовой системы, которая будет не только более безопасной и справедливой, но и более согласованной на глобальном уровне. Задача органов надзора и директивных органов заключается в сохранении здравого смысла в эпоху развития искусственного интеллекта.

Машины учатся. Нужно учиться и нам.

---

Бьяджо Боссоне, Международный валютный фонд
Иллюстрация: «За рубежом», Leonardo.ai