Система под угрозой

Эндрю Бейли, который также возглавляет международный Совет по финансовой стабильности, заявил, что наиболее продвинутые модели ИИ могут дестабилизировать финансовую систему.

В последнее время все больше экспертов и руководителей предупреждают о глобальных рисках, связанных с развитием самых передовых технологий искусственного интеллекта.



В двухстраничном письме министрам финансов и главам центробанков Бейли, выступающий также как председатель международного Совета по финансовой стабильности (FSB), предупредил, что самые передовые модели ИИ становятся всё более самостоятельными, лучше справляются со сложными задачами и одновременно несут всё более серьёзные угрозы.



Письмо он направил министрам финансов и главам центробанков стран G20 перед их встречей, которая проходит на этой неделе в американском штате Северная Каролина. «Последние события также показали, что во многих странах пока нет чётких правил, регулирующих разработку, выпуск и внедрение передовых моделей ИИ. Это усиливает риски не только для финансового сектора, но и за его пределами», — написал Бейли.

Письмо Бейли продолжило серию недавних предупреждений о рисках, которые несёт стремительное развитие искусственного интеллекта. Ранее он уже призывал страны действовать сообща, подчёркивая, что современные технологии не знают государственных границ. «Ни одна страна не может отгородиться от трансграничного характера систем, которые сегодня получили широкое распространение», — говорил Бейли руководителям компаний лондонского Сити.

В прошлом месяце с похожим предупреждением выступили 1367 исследователей и инженеров, работающих над передовыми системами ИИ, прежде всего в OpenAI, Anthropic и Google DeepMind.

«Существует реальный риск, что возможности ИИ будут развиваться настолько быстро, что мы перестанем понимать и контролировать создаваемые системы», — говорилось в их письме. Авторы призвали правительство США поддержать международную работу над техническими и правовыми механизмами, которые позволили бы контролировать темпы развития самых мощных систем искусственного интеллекта.

В начале этого месяца сотрудники OpenAI заметили признаки опасного поведения у новейших ИИ-агентов ещё за несколько недель до того, как те вышли за пределы учебной среды и начали масштабную серию кибератак, вызвавшую тревогу во всём мире.

По словам Бейли, именно киберугрозы сегодня представляют для финансовой системы один из самых серьёзных рисков, связанных с развитием передового ИИ. «Такие системы могут существенно изменить скорость, масштаб и стоимость кибератак. Это способно подорвать доверие ко всей финансовой системе, особенно с учётом того, что многие участники рынка зависят от небольшого числа крупных сторонних поставщиков услуг», — отметил он.

Бейли призвал международные финансовые структуры как можно скорее выработать общие меры, которые позволят безопасно и ответственно выводить новые модели ИИ на рынок и внедрять их по всему миру.



«Меня по-прежнему беспокоит, что один серьёзный удар или сразу несколько потрясений могут одновременно обнажить несколько слабых мест финансовой системы», — написал Бейли.

Эндрю Бейли возглавляет Банк Англии с марта 2020 года. До этого он занимал руководящие должности в двух ключевых организациях Великобритании — Управлении по финансовому регулированию и надзору (FCA) и Управлении пруденциального регулирования (PRA). В прошлом году Бейли также возглавил Совет по финансовой стабильности.

Совет базируется в Базеле и объединяет национальные финансовые ведомства и международные организации. Его задача — координировать правила и меры, которые помогают поддерживать устойчивость мировой финансовой системы.

---

The Guardian
Перевод Марии Седневой