Подпишитесь на рассылку
«Экономика для всех»
и получите подарок — карту профессий РЭШ
Искусственный интеллект может подорвать саму основу современной финансовой системы и вернуть ее в далекое прошлое, считают известный экономист Чарльз Гудхарт и его коллега Ли Хоанг Ву. Ведь финансы держатся на доверии, а ИИ переносит нас в мир, где нельзя верить даже собственным глазам и ушам. GURU публикует сокращенный перевод их колонки на сайте Центра исследований экономической политики (CEPR).
Доверие – невидимый фундамент финансовой системы. Она не производит ничего осязаемого, ее продукт – это сеть надежных обещаний. И каждый ее институт – от финансовых посредников и аудиторов до рейтинговых агентств, бирж, надзорных органов и центрального банка – существует для того, чтобы формировать и поддерживать доверие в обществе.
В недавней работе мы проанализировали 423 346 индивидуальных наблюдений в 97 странах за 1981–2022 гг. и подтвердили, что доверие к институтам связано не столько с технологиями, сколько с качеством информационной среды. Так, люди, которые получают информацию из традиционных СМИ, больше доверяют институтам. А те, кто пользуется соцсетями, как правило, характеризуются меньшим доверием, особенно к политическим институтам. Развитие же искусственного интеллекта (ИИ) создает не просто новую угрозу доверию, а качественно отличающуюся от предыдущих технологических потрясений. Мы полагаем, что ИИ способен поставить под угрозу функционирование современной финансовой системы.
Когда мы доверяем кому-то находящемуся вдалеке, то исходим из простой предпосылки: мы знаем, с кем имеем дело. Голос в телефоне, лицо на экране или сообщение от знакомого человека помогают понять, кто наш контрагент. На этом допущении строились сделки и соглашения, заключаемые без очной встречи.
Создаваемые ИИ дипфейки и технологии клонирования голоса разрушают этот фундамент доверия. Если мошенники могут подделать голос любого человека, телефонным разговорам нельзя доверять, даже когда речь идет о членах семьи. Если ИИ способен подделать внешность, нельзя доверять и видеосообщениям. Получается, возможности мошенничества расширяются, а наши возможности проверить личность собеседника резко сужаются.
Это не гипотетическая угроза. В начале 2024 г. сотрудник финансового отдела одной компании в Гонконге перевел 200 млн гонконгских долларов (около $25 млн) после видеоконференции, на которой все остальные участники, включая финансового директора и коллег, были дипфейками, созданными ИИ. Обман вскрылся лишь после того, как сотрудник связался с головным офисом (речь о британской инженерной компании Arup. – Ред.).
По мере того как технологии подделки становятся дешевле и доступнее, таких случаев будет все больше. Это будет иметь серьезные последствия для политики «знай своего клиента» (KYC), авторизации платежей и дистанционного банковского обслуживания.
Риски куда шире отдельных случаев мошенничества – под угрозой оказывается доверие к институтам. В июне 2026 г. Банк Англии предупредил о мошенничестве с использованием ИИ после того, как в социальных сетях распространились дипфейк-видео, в котором Найджел Фарадж дерется с управляющим Банком Англии Эндрю Бейли. Бейли призвал граждан сохранять бдительность и сообщать о подобных случаях, подчеркнув, что мошенники стремятся использовать людей, особенно наиболее уязвимых, в преступных целях.
Это предупреждение иллюстрирует принципиально важный момент: доверие к институтам подрывается не только их реальными действиями, но и тем, что им ложно приписывают. Каждое сфабрикованное видео, каждый клонированный голос, каждая искусственно созданная личность понемногу разрушают общее доверие, на котором держатся финансовые институты и общественная жизнь.
Для финансовой системы последствия могут оказаться чрезвычайно серьезными. Ведь вся архитектура современных финансов основана на возможности незнакомых людей заключать сделки, находясь вдалеке друг от друга, и принимать обязательства на будущее. Логический итог – сужение круга доверия до личного контакта. Такой мир несовместим с современной финансовой системой. Он означал бы обращение вспять многовекового развития финансов и сделал бы невозможными тот размах, скорость и географический охват, которые нужны современной экономике.
Второй механизм имеет более фундаментальный характер. Он опирается на предложенное Маркусом Бруннермайером (из Принстонского университета. – Ред.) понятие «асимметрия понимания» (asymmetric understanding).
При традиционной асимметрии информации стороны используют общую модель мира. Да, они владеют разной информацией или руководствуются разными стимулами, но эти противоречия можно учесть в ценах, урегулировать контрактами или сгладить с помощью посредников.
ИИ создает более глубокую асимметрию. ИИ-агент может действовать на основе усвоенного им представления о мире и правил принятия решений, которые человек – его контрагент – не способен полностью перевести на понятный ему язык или проверить. Из-за этого несовпадение целей человека и ИИ приобретает особое значение.
Например, если торговой системе на базе ИИ поручено максимизировать доходность с учетом риска, она может найти способ формально соблюдать заданные ограничения, одновременно накапливая скрытые риски катастрофических потерь. Системе даже не нужно стремиться кого-либо обмануть – она просто оптимизирует поставленную задачу.
Передавая принятие решений системе, институты полагаются на того, в чьей работе они не могут разобраться, чьи цели не могут проверить и чьи действия могут выходить за установленные пределы. Вопрос «Могу ли я вам доверять?» заменяется вопросом «Соответствуют ли ваши данные установленному стандарту?». Но сам стандарт мы проверить не можем. Если ИИ выйдет из-под контроля, нас могут обобрать подчистую, а мы даже не поймем, что произошло.
Кризис 2008 г. показал, что сложные модели и якобы умные финансовые инструменты могут катастрофически обрушиться в условиях неопределенности. Алгоритмы не могут избавить нас от жадности, страха, стадного поведения, лихорадочных спекуляций и пузырей на рынках активов – они лишь все ускоряют, усиливая и эйфорию, и панику. Обвал, вызванный алгоритмами, может уже не оставить нам месяцев или недель на ответные действия. Он может произойти за часы или минуты и поглотить всю систему прежде, чем кто-либо осознает происходящее.
Салех Афруг и соавторы добавляют еще одно измерение этой проблемы. Когда с ИИ взаимодействует человек, прозрачность и объяснимость – одни из главных условий доверия. Когда же ИИ взаимодействует с другим ИИ, эти условия ничего не значат: важны безопасность и надежность.
Исследований, посвященных правильной настройке уровня доверия во взаимодействиях между ИИ-системами, пока очень мало, несмотря на специфические требования таких взаимодействий. Именно этот мир описывает Бруннермайер – мир необъяснимых решений ИИ-агентов, взаимодействующих друг с другом так, что человек не может это проверить. Поэтому проблема носит не просто технический характер. Это структурная уязвимость финансовой системы, в которой алгоритмические агенты уже обмениваются информацией на скоростях и языках, недоступных человеческому пониманию.
Все это подводит нас к техническому вопросу, на который мы пока не можем ответить: с учетом возможностей ИИ как сохранить доверие в любых отношениях, кроме основанных на личном контакте?
Вопрос не риторический. Он требует технического ответа: механизма, протокола взаимодействия, криптографического решения или институциональной конструкции, которые позволят сохранить возможность надежного дистанционного взаимодействия в мире, где голос, внешность и правила принятия решений могут быть искусственно сгенерированы.
Можно предложить несколько частичных решений, ни одно из которых не является полностью удовлетворительным.
Криптографическая аутентификация сообщений позволяет проверить личность отправителя, но не гарантирует достоверности контента, созданного ИИ, после того как он попадает в канал коммуникации. Многофакторная аутентификация может повысить издержки выдачи себя за другого человека, но не способна полностью устранить такую угрозу. Регуляторные требования к прозрачности ИИ могут сделать некоторые правила принятия решений доступными для проверки, но не все – особенно по мере усложнения моделей.
Требования обязательного одобрения определенных действий человеком могут вернуть в систему элемент ответственности. Но, как отмечает Бруннермайер, если решение ИИ действительно необъяснимо, человек, который должен его одобрить, пребывает в неведении и фактически дает согласие вслепую.
Ни одно из этих решений не восстанавливает тот уровень доверия, который существовал, когда голосу в телефоне можно было верить, а суждения банковского управляющего можно было понять и оспорить. Все это лишь паллиативные меры, а не полноценное решение проблемы.
Если наш диагноз верен, повестка государственной политики должна измениться. Сегодня основное внимание уделяется повышению эффективности благодаря ИИ: ускорению принятия кредитных решений, снижению стоимости финансовых консультаций и совершенствованию управления рисками. При этом упускаются из виду внешние эффекты ИИ, связанные с доверием.
Мы выделяем три приоритетных направления.
Первое. Регуляторы должны разработать стандарты прозрачности и проверяемости ИИ, которые позволят сохранять ответственность за принимаемые решения. Если решение невозможно объяснить, его невозможно оспорить. Если его невозможно оспорить, ему невозможно доверять.
Второе. Финансовые организации должны инвестировать в защиту от мошенничества с использованием ИИ. Для этого необходимо выходить за рамки аутентификации с помощью паролей, развивать биометрические методы проверки личности, устойчивые к дипфейкам, и создавать платежные системы, способные выявлять мошеннические операции и отменять их в режиме реального времени. Кроме того, при сбое торговли на основе ИИ нужен резервный механизм – переход к операциям с участием людей, рекомендует Бруннермайер.
Третье, и это самое главное. Мы должны признать, что доверие – не просто техническая проблема, а социальное и институциональное достижение.
Качество информационной среды, личный опыт граждан и репутацию институтов-посредников невозможно заменить алгоритмами. Если ИИ разрушит эти основы доверия, никакие технические решения не помогут.
И здесь мы сталкиваемся с величайшим парадоксом нашей эпохи. Чем более технологически развитой и автоматизированной становится финансовая система, тем сильнее она должна опираться на нечто сугубо человеческое – доверие. Люди должны верить, что их данные защищены, модели ИИ работают честно, рынками не манипулируют, машины служат интересам общества, а не только прибыли узкого круга лиц.
Если эта вера рухнет, никакие технологии не спасут систему. Ведь финансы в своем лучшем проявлении – великое социальное изобретение, позволяющее людям выстраивать доверительные отношения друг с другом. Сохранить доверие как человеческую ценность, а не просто переменную в математической модели – вот что станет главным вызовом для человечества в эпоху машин.
Чарльз Гудхарт, почетный профессор Лондонской школы экономики (LSE)
Ли Хоанг Ву, приглашенный преподаватель
Чарльз Гудхарт 17 лет проработал в Банке Англии, был его главным советником, а в 1997–2000 гг. входил в состав комитета по денежно-кредитной политике. Один из ведущих исследователей центральных банков и финансовой системы. Его имя носит закон Гудхарта: статистическая закономерность имеет тенденцию разрушаться, как только ее начинают использовать для управления. Чаще его пересказывают так: когда показатель становится целью, он перестает быть хорошим показателем. Вместе с Маноджем Праданом написал книгу «Великий демографический разворот» (2020). В ней авторы еще до всплеска цен предсказали возвращение инфляции: старение населения и сокращение предложения дешевой рабочей силы, прежде всего в Китае, создают условия для роста зарплат и цен.