.png)
GURU начинает новую рубрику. Научный руководитель, приглашенный профессор РЭШ Рубен Ениколопов будет рассказывать о наиболее интересных и важных, с его точки зрения, исследованиях. В первом обзоре – исследования, которые показывают:
О политических и экономических последствиях использования государством технологий распознавания лиц рассказывает в серии статей группа авторов, среди которых Дэвид Янг из Гарварда и Ноам Юхтман из Оксфорда. Что нужно для создания таких систем на основе искусственного интеллекта? Прежде всего базы с данными о лицах, поведении людей и т. д. В демократических странах получить доступ к таким данным очень трудно или невозможно, поскольку это нарушает тайну личной жизни. Другое дело – Китай, где таких барьеров нет, а потому государство и бизнес смогли создать взаимовыгодный союз: государство получает возможность ужесточить контроль за населением, а бизнес – заработать и использовать госденьги для разработки и внедрения инноваций.
Исследование с говорящим названием AI-tocracy показало, что контракты с фирмами на разработку систем распознавания лиц заключаются гораздо чаще в тех городах и провинциях, где недавно были массовые протесты. Власти в ответ усиливают слежку, и это приносит результат: там, где было больше таких контрактов, количество протестов снижается. Слежка помогает побороть их, становясь инструментом репрессий.
Другая сторона этих контрактов вполне рыночная. Фирмы, у которых есть доступ к госконтрактам, начинают заключать больше контрактов и с частным сектором, поскольку доступ к государственным базам данных позволяет им улучшать алгоритмы и использовать это конкурентное преимущество на рынке. Иными словами, политические элиты усиливают свою власть, а бизнес – рыночную силу.
У такого сотрудничества есть и более глобальные, геополитические последствия, считают Янг, Юхтман и соавторы. Хотя есть вопросы к обоснованности их выводов и чистоте использованных данных, поднятая ими проблема крайне важна. Они пишут, что Китай использует свои технические достижения в международных отношениях, продавая системы слежки авторитарным режимам. Это может усиливать существующие автократии, порождать новые и способствовать еще большей дивергенции демократий и автократий.
Подобное применение искусственного интеллекта бросает вызов и демократическим институтам, становясь своего рода тестом на их способность противостоять соблазнам усиления технологического контроля за обществом (об этом также читайте в статье GURU). Ведь обеспечение безопасности с помощью технологий может перерасти в подавление свободы и репрессии. Способность преодолевать эти вызовы зависит от режима и политических институтов в стране, а также от позиции общества. Этот выбор совершается в том узком коридоре, о котором пишут Дарон Аджемоглу и Джеймс Робинсон, – в борьбе между гражданским обществом и государством.
Существует множество работ о негативном психологическом влиянии соцсетей (об этом – в обзорной статье GURU). Но есть еще одна проблема – токсичная речь в соцсетях. Людей, которые пишут агрессивные, оскорбительные посты, называют «орками», «троллями», призывают соцсети бороться с ними и удалять подобные посты. Но помогут ли такие меры? Чтобы узнать это, нужно понять, почему в соцсетях так много токсичного контента. В поиске ответа группа молодых исследователей (Георгий Бекназар-Юзбашев, Рафаэль Хименес Дюран, Джесси Маккроски и Матеуш Сталински) поставила эксперимент, проверив, что получится, если соцсети начнут скрывать такой контент.
Оказалось, что люди стали существенно меньше пользоваться соцсетями. Это приводит нас к печальному выводу: враждебность, агрессия в соцсетях привлекают пользователей. В обществе есть большой спрос на токсичность, на враждебный тон, и соцсети обеспечивают предложение, удовлетворяющее этот спрос.
Бороться с агрессией в соцсетях гораздо сложнее, чем кажется. Противозаконная в реальном мире, в соцсетях она остается безнаказанной. И одной только фильтрации контента недостаточно, нужно вырабатывать и прививать нормы поведения в относительно новом для нас виртуальном мире. Нужно менять спрос на агрессию, потому что, пока он будет, будет и предложение.
И это порождает еще один вопрос: насколько агрессивное поведение в соцсетях может провоцировать или, наоборот, снижать агрессивное поведение в реальной жизни? Дать ответ очень непросто. Связь между агрессией в реальном и виртуальном мире показала, например, работа Рафаэля Хименеса Дюрана, Карстена Мюллера и Карло Шварца, которые изучили влияние на антимигрантские высказывания принятого в Германии закона: он обязывает крупные соцсети удалять такие посты под угрозой крупного штрафа. Благодаря закону токсичность твитов ультраправых пользователей социальных сетей и правда несколько снизилась. Также снизилось количество преступлений против беженцев на почве ненависти в муниципалитетах, где живет много ультраправых пользователей социальных сетей. То есть все же модерация онлайн-контента может обуздать разжигание ненависти в интернете и насилие в офлайне. Но ее влияние ограничено.
Как умирала наука в исламских странах? Почему, достигнув высочайшего развития в математике, медицине, астрономии, даже в экономической мысли, намного обгоняя христианский мир, эти страны позже пошли по пути регресса и отрицания ценности научного знания? Ответ на этот вопрос ищет Эрик Чейни из Оксфорда. Он пытается понять, как от слов в Коране «Господи мой! Умножь мое знание» мир ислама пришел к мысли «воистину, вера в сочетании с невежеством здрава» (изречение XII в.; цитаты использованы как эпиграф к работе Чейни).
Этот упадок науки в исламском мире Чейни связывает с расширением политического влияния религиозных лидеров, вытеснявших светские бюрократические структуры. Они ограничивали интеллектуальное развитие и не поощряли интерпретации ислама, подрывавшие их авторитет. Этот период XI–XII вв. получил название суннитского возрождения – движения, прямо противоположного европейскому Возрождению. Происходившее в ту эпоху помогает понять причины Великой дивергенции – расхождения в развитии Европы и остального мира.
В развитии любой империи настает момент, когда элиты «окапываются», растут барьеры на вход, прогресс тормозит и в итоге инициативу перехватывают молодые голодные соседние государства или племена. Но когда это связано с религией, эффект оказывается особенно долгосрочным. Яркий пример – Испания Габсбургов, где инквизиция методично выкорчевывала и уничтожала все ростки интеллектуального развития. Светские авторитарные режимы могут даже поощрять науку (как поощрялась физика в СССР), поскольку она может быть им полезна. А вот религиозный авторитаризм несовместим с развитием науки.
