.png)
По масштабу и скорости изменений новая технологическая революция, вызванная взрывным развитием искусственного интеллекта (ИИ), существенно отличается от предыдущих, уверены научный руководитель РЭШ и профессор Университета Помпеу Фабра Рубен Ениколопов и профессор РЭШ Иван Стельмах. Какими экономическими эффектами она сопровождается, как регуляторы стараются защитить граждан от цифрового манипулирования, рискуя ограничить прогресс, и почему общество все больше беспокоится из-за ИИ, они обсудили во время Просветительских дней РЭШ памяти Гура Офера. GURU публикует основные тезисы дискуссии.
Екатерина Сивякова
Рубен Ениколопов: Технологическую революцию, которую мы переживаем, отличает скорость изменений и их охват: ее можно сравнить с появлением электричества. Фундаментальные изменения охватывают почти все сферы деятельности и меняют не одну индустрию, а организацию многих секторов. Сейчас технологические перемены дошли даже до святая святых – когнитивных возможностей человека. Но когда изменения происходят слишком быстро, общество за ними не поспевает, и мы это наблюдаем сейчас.
Иван Стельмах: ChatGPT возник буквально в прошлом декабре. Прогресс в этом направлении был ожидаемым, однако столь качественный скачок (общаясь с этим чат-ботом, с трудом веришь, что отвечает не человек, а алгоритм) удивителен даже для экспертов. Впрочем, пока ChatGPT, по сути, научный прорыв, а не продуктовый. Мы еще не увидели, как он может поменять продукты и наш образ жизни.
Р. Е.: Сила технологий ИИ в том, что они могут обрабатывать неимоверные массивы данных с потрясающей быстротой и делать предсказания уже во многом лучше людей. Однако пока существующие технологии сильно привязаны к историческим данным, на которых они учатся и которые обрабатывают, – это их слабость. Они еще не умеют выходить за границы того, на чем они обучились.
Р. Е.: Общественный запрос на регулирование индустрии ИИ, очевидно, уже сформулирован. Но в современном мире есть только две юрисдикции, которые действительно обладают достаточной политической мощью, чтобы повлиять на то, как ведут себя технологические компании, прежде всего технологические гиганты, – это США и Европа. Штаты с регулированием скорее запаздывают, но это их политический выбор.
Европейские политики более инициативные, и не случайно первый в мире закон об ИИ обсуждается именно в Европейском союзе – там есть и общественный запрос, и возможности надавить на технологических гигантов. Однако акт достаточно рамочный, он пишется с большим трудом: сложно разрабатывать законы, которые регулируют возможные последствия потенциальной технологии, если вы ее не знаете и не понимаете.
И. С.: Обществом и политиками в какой-то мере движет страх: технология развивается очень быстро, непонятно, что будет завтра, поэтому полезно иметь возможности ее регулирования. Подходы могут быть разными. Первый путь – пойти не от технологий, а от сфер их применения, что и было удачно сделано в европейском акте. В нем классифицируются разные области применения технологий ИИ по уровню рисков. Второй путь – регулировать работу конкретного алгоритма в конкретном случае. Это сложная задача, для решения которой часто не хватает инструментов: например, превратить в математическую формулу понятие честности невозможно (об этом – в тексте GURU про гендерную предвзятость ИИ).
Выбрать способ регулирования непросто. Если регулировать всю индустрию, то мы ограничиваем прогресс, а если запрещать использовать ИИ-алгоритм в определенной области, то не даем ей использовать все преимущества его применения. Секторальный подход не лишен недостатков, но это более надежный способ, чем вводить какие-то числовые критерии (позволяющие оценивать влияние ИИ. – GURU), поскольку любой математик в бизнесе найдет способ обойти это ограничение. Сейчас у регулятора нет инструментов, для того чтобы аудировать алгоритм, поэтому приходится применять секторальный подход к регулированию – может быть, чересчур широкий, но более надежный.
Р. Е.: ИИ – это черный ящик. Технологии самообучаются, и их действия после запуска не могут понять даже люди, которые разработали алгоритм. Необходимо систематизировать научные подходы к проверке алгоритмов. Но чем больше формализованы критерии, тем проще ими манипулировать.
Обсуждаемый акт об ИИ гораздо менее формализован по сравнению с Общим регламентом по защите данных ЕС (General Data Protection Regulation, GDPR), поэтому его ограничения не так-то легко обойти. Он вводит категории рисков применения ИИ, а дальше уклончиво говорит: это повышенный риск, вы должны получить разрешение. У кого? У людей. Такой подход кажется мне правильным. Как это организовать, мы пока еще не знаем, однако то, что во главу угла ставится аудит со стороны людей, кажется мне его важнейшей фундаментальной характеристикой.
Мы отчасти пытаемся подменить проблемы, связанные с ИИ, проблемами, которые стоят перед человечеством, использующим этот мощный инструмент. У ИИ отсутствует мотивация: он не ставит перед собой цели и не принимает решения. Например, ИИ поможет оценить вероятность рака. Но решение, что делать дальше человеку, принимает не машина, и это та грань, которую не стоило бы переходить.
Р. Е: Когда обычно вводится регулирование рынка? Это происходит, когда крупные фирмы усилили свое влияние настолько, что государство с помощью ограничений пытается вроде бы обезопасить общество. Но на самом деле велика роль самих компаний: они с помощью регулирования стараются не допустить на рынок новых игроков. Есть множество примеров, когда фирмы были готовы поддерживать законы, от которых сами страдали: главное – чтобы конкуренты страдали еще больше. Боюсь, что законы о регулировании ИИ принимаются так медленно, потому что за ними не стоят лоббисты в лице крупных фирм. Хотя некоторые из этих законов им выгодны.
Рынок всегда будет сопротивляться ограничениям, поэтому его и приходится регулировать. Рассчитывать на то, что он будет руководствоваться общественным благом, нельзя. Отдельные руководители бизнеса, конечно, могут так себя вести, но в итоге «хороший» бизнес всегда будет вытесняться прагматичным бизнесом. На бизнес могут воздействовать жесткое регулирование и общественное мнение. Есть научные исследования, которые показывают, что бойкоты компаний и продуктов работают.
Еще 15 лет назад люди не заботились о приватности личных данных, но сейчас их отношение меняется. В этих условиях для бизнеса защита данных пользователей становится конкурентным преимуществом. Будет выигрывать продукт, который гарантирует людям, что их данные не будут распространяться и продаваться. Общественные нормы будут меняться: многие из манипулятивных практик, которые сейчас используются, будут считаться не комильфо, а клиенты будут сильнее давить на цифровые компании. Другого пути нет: либо вас регулируют, либо вы теряете деньги, когда плохо себя ведете.
И. С.: Общественное давление на бизнес более действенный инструмент, чем государственное регулирование. Сложно сравнивать темп действий регуляторов со скоростью распространения мысли в Twitter. В достаточно фрагментированной индустрии ИИ есть несколько крупных конкурирующих корпораций, которые владеют технологией, и мы живем в мирном равновесии между ними. Появление на рынке нового игрока с инновационной технологией может заставить больших игроков задуматься о регулировании ради того, чтобы не потерять позиции. Но, мне кажется, чуда не произойдет. Правительства же со своей стороны могут предложить бизнесу аналог ESG-индекса, который будет поощрять передовые компании и наказывать отстающих.
Р. Е.: Я чуть менее оптимистичен относительно перспектив монополизации. Первая фаза – разработка алгоритмов действительно очень прозрачна, поскольку во многом ИИ-комьюнити живет по нормам академического, а не бизнес-сообщества. Но на следующем этапе оно уже начинает жить по законам рынка, и деятельность его, связанная с применением алгоритмов, становится более закрытой. Я пока не вижу в европейском акте регулирования ИИ прозрачности их применения.
ИИ – это функция алгоритма, данных, на которых он обучался, и фидбэка, который получает этот алгоритм: удалось или нет достичь целей, поставленных его создателем. Следующие за разработкой стадии развития алгоритма сильно зависят от данных, поэтому конкурентное преимущество получают компании, имеющие доступ к большему количеству данных. В экономике это называется отдачей от масштаба, в этом случае она будет суперэкспоненциальной. Иными словами, в области ИИ стимулы для создания монополий возникают на стадии применения алгоритма.
И. С.: Для пользователя уровень технологического развития компании определяется не столько экспертизой в узкой области ИИ (насколько совершенные алгоритмы у них есть), а умением «завернуть» их в продукт. С этим у России нет проблем – «Яндекс», «Тинькофф», Ozon делают прекрасные продукты. Имидж технологическим компаниям удастся поддерживать. Будет ли им сложнее? Да, но смекалочка вывезет.
Область ИИ – это самая открытая область исследований: работы представителей ИИ-комьюнити, как правило, публикуются в открытом доступе. Хорошим тоном считается публикация кода разработчиками. Открытость важна: компания может взять алгоритм, на который другие потратили много времени и денег, и уже на его основе сделать продукт. Это продолжает играть на руку России. Я надеюсь, что область останется такой же открытой и наши компании смогут подхватывать и внедрять инновации.
В то же время нейросети нужно постоянно «кормить» данными, для этого им нужны большие мощности и вычислительные ресурсы. А производителей оборудования, которое нужно для тренировки нейросетей и разработки алгоритмов, мало, свои поставки они очень хорошо контролируют. Поэтому я вижу риск замедления разработок из-за серьезного удорожания тренировки нейросетей.
Р. Е.: Согласен, ситуация поменялась: сократился доступ компаний к человеческому капиталу, сократились рынки. А в применении этих продуктов очень важен масштаб: как только вы лишаетесь доступа ко многим зарубежным рынкам, вы будете за это платить. Впрочем, объема рынка России достаточно, чтобы развиваться, страна богата талантами. Поэтому рынок будет расти, но хуже и медленнее.
Развитие технологий ИИ может привести к росту неравенства между странами. Оно будет на уровне компаний, которые создают новые инструменты. Но для алгоритмов нет географических барьеров. Поэтому на уровне применения не будет такого неравенства, как во время предыдущих технологических революций – например, как при переходе к электричеству.
Источник: доклад ОЭСР «Прогноз занятости», июль 2023 г.
И. С.: Больше всего меня удивляет, что нынешняя технологическая революция начала угрожать белым воротничкам, ведь исторически считалось, что этому риску подвержены синие воротнички. Например, Amazon уже перестает нанимать стажеров на некоторые проекты, поскольку их работу хорошо выполняет ChatGPT. Может быть, в будущем и разработчики будут не сами писать коды, а говорить машине, какой код написать.
Сегодня знание машинного обучения (machine learning, ML) – это ключ ко входу в любую профессию, даже если ты не знаешь ее специфику. Людей, которые знают машинное обучение, не хватало, поэтому они легко находили работу в любых областях. Будет расти спрос на более широких «сквозных» специалистов, которые смогут не только разработать, но и внедрить модель самостоятельно. Машинное обучение может стать новой математикой, и студенты будут изучать его на 1-м курсе вместе с линейной алгеброй.
Р. Е.: Болезненность восприятия во многом объясняется скоростью изменений. На рынке труда переходный период, связанный с вытеснением огромного количества людей из-за технологий ИИ. Нужно достаточно времени, чтобы этих людей переобучить и направить в другие сферы. Непонятно, что делать с белыми воротничками, если их завтра вытеснит ИИ: их придется переобучать, чтобы они умели делать то, чего не умеет ИИ.
О влиянии ИИ на рынок труда и общество читайте обзорный текст GURU «Плохой хороший искусственный интеллект».
