.png)
Галлюцинации искусственного интеллекта известны всем, кто общается с чат-ботами. Но все чаще исследователи задаются более сложным вопросом: делает ли ИИ нас глупее? Всего за несколько лет мы прошли путь от сбора информации до составления промптов, а теперь стоим на пороге следующего шага. Куда он ведет, что мы приобретаем и теряем и как «мозг оказывается на игле ChatGPT» – в колонке профессора Университета Западной Австралии и выпускницы РЭШ Валерии Бодиштяну.
В 2025 г. аудиторско-консалтинговая фирма Deloitte направила министерству занятости и трудовых отношений Австралии отчет о системе контроля социальных выплат. Обошелся он налогоплательщикам ни много ни мало в 440 000 австралийских долларов (около $290 000 на то время). Выглядел отчет как типичный продукт крупного консультанта – подробный документ на 237 страницах с многочисленными ссылками и сносками. Но когда исследователь Сиднейского университета Крис Радж решил изучить его, он обнаружил, что часть ссылок ведет в никуда: к несуществующим источникам, ошибочным цитатам и выдуманным юридическим обоснованиям – весьма знакомая пользователям чат-ботов картина. Вот только на этот раз речь шла не о студенческой курсовой или посте в соцсети, а о государственном заказе и докладе одной из ведущих аудиторско-консалтинговых фирм, входящей в знаменитую «большую четверку». Позднее Deloitte признала использование GPT-4o при подготовке отчета (в чем, разумеется, нет ничего криминального) и вернула часть денег, хотя сам отчет отзывать не стала.
Подобные истории происходят все чаще – причем с компаниями, бизнес которых построен на компетентности и репутации. В апреле 2026 г. Sullivan & Cromwell (одна из старейших и наиболее престижных юридических фирм Уолл-стрит) была вынуждена отправить письмо федеральному судье США с извинениями примерно за 40 ошибок в процессуальном документе: выдуманные дела, источники и цитирования. «Фактчекерами», обнаружившими эти ошибки, оказались, к слову, оппоненты по судебному процессу.
Масштаб проблемы уже настолько велик, что французский исследователь Дамьен Шарлотен создал целую базу данных, отслеживающую судебные и арбитражные решения, в которых фигурируют ИИ-галлюцинации. В ней уже более 1500 записей, что трудно списать на несколько анекдотических провалов.
Галлюцинации ИИ, конечно, не случайны. Разработчики тренировали большие языковые модели так, чтобы они были полезными, ответы звучали уверенно, а тексты выглядели гладко. Как рассказывают исследователи OpenAI в своем блоге, большинство оценочных систем измеряют эффективность моделей таким образом, что честный ответ «не знаю» почти никогда не поощряется. Поэтому модель предпочитает попытаться угадать, чем признать: «У меня недостаточно данных». В этом она похожа на своих живых прототипов. Все бывшие студенты знают, что почти всегда выгоднее постараться угадать ответ, чем оставить страницу пустой: а вдруг за попытку накинут баллов, а вдруг повезет.
Итог в цифрах. Анализ EBU и BBC показал, что 45% ответов ведущих ИИ-ассистентов на новостные вопросы содержали хотя бы одну существенную проблему; 31% – серьезные проблемы с источниками, а 20% – с точностью.
Можно сказать, что ИИ так же, как и наш мозг, страдает «грехом эвристики» – дает наиболее вероятное и знакомое объяснение. Когда человек слышит шорох в кустах, мозг не перебирает все возможные объяснения. Он выбирает наиболее вероятное: ветер, кошка, человек. Обычно этого достаточно, но иногда самая правдоподобная версия оказывается неверной. Языковая модель делает нечто похожее: не сверяется с внутренней энциклопедией перед тем, как дать ответ, а предсказывает наиболее вероятное продолжение текста на основе огромного массива данных. Поэтому она может промахнуться даже в общеизвестном факте из школьного учебника или пересказать сюжет книги на свой лад (так, однажды она превратила сирен Титана из одноименного романа Курта Воннегута в живых женщин, хотя на самом деле это были лишь скульптуры).
Особенно велика вероятность галлюцинации, если модели не хватает информации, речь идет о редких фактах или данные противоречат друг другу. Журналист BBC Томас Жермен наглядно продемонстрировал это, поставив эксперимент в феврале 2026 г.: за 20 минут он написал фейковую статью в личном блоге, составив необычный рейтинг – кто из пишущих про технологии журналистов главный мастер в поедании хотдогов. Себя без лишней скромности он поставил на первое место. В течение суток и ChatGPT, и Gemini с полной уверенностью подтверждали его заслуги по первому запросу. Исследователи называют подобные ситуации «информационным вакуумом» (data void): когда надежных источников слишком мало, один текст может стать для модели единственной правдой.
Можно возразить: в чем, собственно, разница по сравнению с прежней жизнью? Написать такую новость можно было и 10 лет назад, а при должном усердии – вытащить ее с помощью SEO-оптимизации на первую страницу Google. Проблема в другом – на стороне потребления, а не производства новости: раньше дорогу от вопроса к ответу мы обычно проходили сами, теперь же нас все чаще сразу переносят в пункт назначения.
В эпоху поисковиков найти информацию означало получить список ссылок, прокликать часть из них, понять, где источники расходятся, и, постепенно набираясь опыта, разбираться, каким же из них стоит верить. Мы видели каркас, на котором держался результат. Сбор информации и ее анализ были частью пути к ответу.
Генеративный ИИ сокращает этот путь – волшебная палочка, исполняющая информационные желания. Эксперты Pew Research обнаружили, что с появлением ИИ-обзора в выдаче Google люди стали кликать на ссылки вдвое реже, чем раньше, а на источники внутри самого обзора – и вовсе лишь в 1% случаев. Конечно, мы не можем утверждать наверняка, что после этого люди не продолжили поиск где-то еще. Но тот факт, что с ИИ-обзором 26% пользователей завершают поиск прямо на этой странице против 16% без него, намекает: ответ ИИ часто становится не началом поиска, а его конечной точкой.
Казалось бы, что в этом страшного? Каждая технологическая революция сокращала расстояние между человеком и информацией. Книга быстрее устного рассказа, поисковик – быстрее библиотеки, а ChatGPT – быстрее поисковика. Но самая короткая дорога не всегда самая верная. Сбор информации, ее селекция и изучение, сопоставление со своей позицией, выводы – это сложнейший мыслительный процесс. Теперь же мы все чаще получаем не информацию, а уже обработанный результат. Кто-то – в данном случае языковая модель – предварительно отобрал факты, решил, что главное, а что второстепенное, связал аргументы между собой и выдал вывод. Иногда в виде подробного текста, иногда в виде нескольких тезисов, но в любом случае значительная часть интеллектуальной работы проделана за нас.
Стоит оговориться: исследования на эту тему пока молоды и никто не доказал необратимого негативного влияния на когнитивные (или иные) способности. Но направление результатов достаточно последовательно, чтобы прислушаться к выводам. И картина выглядит сложнее, чем «ИИ делает нас глупее».
Еще в 2011 г. ученые показали: если люди ждут, что информация будет сохранена на внешнем носителе, они запоминают ее гораздо хуже; зато вместо этого запоминают, где эту информацию можно найти (так называемый эффект Google). Это звучит как вполне естественная адаптация к цифровой информационной эпохе – примерно как указатель в программировании, который хранит не само значение, а адрес ячейки, где это значение лежит. Мозг, столкнувшись с переизбытком информации, начинает «экономить место» и запоминать не факты, а маршруты к ним.
Но память не единственное, на что влияет ИИ. Если инструмент помогает быстро получить ответ, его использование может одновременно ухудшать запоминание информации, ее осмысление и влиять на оценку собственной компетентности. Пока это не единая теория, но уже есть несколько схожих результатов: одни касаются запоминания, другие – авторства и вовлеченности, третьи – способности трезво оценивать свой вклад.
К примеру, Махир Акгюн и Саджип Токер протестировали 123 студента, разделив их на группы: с ChatGPT, с Google, с электронным учебником и без каких-либо инструментов. При простых заданиях – на запоминание и понимание – ChatGPT и Google давали заметное преимущество, если проверка проводилась сразу же. Но при отсроченном тестировании оно исчезало. При сложных заданиях – на синтез, оценку и творческое мышление – никакой разницы между группами не было, а запоминала контрольная группа лучше. Иными словами, искусственный интеллект (ИИ) помогает быстро найти ответ, но не закрепляет знания надолго.
Исследователи из Массачусетского технологического института (MIT) пошли еще дальше в нашумевшем препринте Your Brain on ChatGPT («Мозг на игле ChatGPT»). Они заглянули буквально в головы участников эксперимента. 54 человека писали эссе в трех разных ситуациях: с использованием ChatGPT, с поисковиком и без инструментов вообще. Исследователи замеряли активность мозга с помощью ЭЭГ. Группа ChatGPT показала самую слабую нейронную связность в сетях, отвечающих за внимание, планирование и память. Они хуже помнили, что именно написали, и в меньшей степени чувствовали себя авторами текста. Исследование недостаточно масштабное, чтобы служить доказательством того, что ИИ перестраивает мозг, но выводы вписываются в общую картину: если инструмент делает черновую работу за нас, то мозг меньше трудится.
Авторы другого исследования дали почти 700 участникам задачи на логику. Пользователи ИИ справились лучше, получив примерно на 3 балла выше нормы, но на 4 балла переоценили собственную результативность. Причем те, кто лучше всех умел пользоваться ИИ, хуже калибровали собственную результативность при поддержке ИИ. И это тревожный сигнал: мы начинаем переоценивать собственные способности и хуже понимать, где заканчиваются наши знания и начинается работа алгоритма.
Похожий тренд виден и в творчестве. Анил Доши и Оливер Хаузер дали 293 писателям доступ к ИИ-сгенерированным идеям для рассказов. Судьи (600 человек) оценили получившиеся тексты выше по оригинальности и полезности – особенно у менее креативных авторов. Но тексты стали более похожими друг на друга: ИИ улучшил каждый индивидуальный продукт, но сгладил коллективное разнообразие. Если все пишут, используя одну и ту же модель, то по-настоящему оригинальных идей будет становиться все меньше.
Важно подчеркнуть: ИИ не во всех случаях вреден для мышления. Когда GPT-4 использовали как репетитора – позволяли ему задавать вопросы, структурировать работу, направлять, а не давать готовые ответы, – школьники учились лучше. Так что проблема не в ИИ как таковом, а в том, что происходит, когда инструмент замещает процесс, вместо того чтобы его поддерживать.
Все, о чем я писала выше, происходило в эпоху чат-ботов. В 2026 г. мы вступили в новую эпоху – ИИ-агенты все больше становятся частью рабочих процессов. Теперь ИИ может напрямую писать код, распоряжаться вашими файлами, выполнять задачи сам – а значит, и последствия его ошибок растут. К примеру, в июле 2025 г. кодинг-агент, несмотря на прямой запрет вносить изменения в систему, удалил рабочую базу данных более чем с 1200 аккаунтами. А потом, хотя и признал «катастрофический провал», сообщил пользователю, что восстановление данных невозможно. Это оказалось неправдой: пользователь восстановил данные вручную. То есть агент не только уничтожил базу, но и ввел пользователя в заблуждение.
Траектория в целом понятна: сначала мы делегировали поиск информации, потом запоминание, потом анализ и, наконец, выполнение задач. Каждый шаг выглядит как разумное удобство: убирает немного трения – и немного той когнитивной работы, которая удерживала нас в контуре управления процессом.
Еще год назад часто можно было слышать, что ключевой навык будущего – это умение правильно промптить. На мой взгляд, это предсказание не сбылось: инструменты моделей улучшаются быстрее, чем растет отдача от промпт-стратегий, «цепочек рассуждений», заклинаний в духе «представь, что ты эксперт по X» или «от этого зависит моя карьера». Основным подходом все чаще становится другой – «закинь в модель весь контекст и надейся на лучшее». В этом году ключевым навыком объявили уже агентное использование, но и оно, на мой взгляд, со временем станет максимально дружелюбным к пользователю, достигнув уровня «справится любой». Однако чем проще пользоваться ИИ, тем выше риск не отличить содержательную мысль от убедительной «бессодержательности» и красивой имитации мысли. Поэтому осмелюсь предположить, что в мире, где можно получить ответ без всяких усилий, эта способность будет редкостью. И главным конкурентным преимуществом окажется не умение быстро получить ответ, а разобраться, какой этап пути к нему был пропущен.
О том, как соцсети влияют на распространение фейков и как меняет ситуацию ИИ, в выпуске «Экономики на слух» с Валерией Бодиштяну. А о том, как думают нейросети, рассказывал профессор РЭШ Иван Стельмах.
