Новый вид цифровой зависимости: когда помощник становится костылем
В последние годы мы стали свидетелями беспрецедентного взрыва использования искусственного интеллекта для сбора информации. Однако новый, более тревожный тренд emerges на горизонте: все большее количество людей использует большие языковые модели (LLM), такие как ChatGPT, Claude и Gemini, не просто для генерации контента, но для верификации и потребления новостей. Исследования Pew Research Center показывают, что каждый пятый подросток в США регулярно полагается на LLM для получения новостей, а каждый четвертый молодой взрослый делал это хотя бы раз.
Но новое исследование из MIT Media Lab должно заставить нас задуматься. Ученые обнаружили, что люди, которые в течение месяца полагались на ИИ-системы для проверки фактов, становились хуже в обнаружении дезинформации самостоятельно, когда их «цифровой наставник» исчезал. Это явление, получившее название «парадокс зависимости от ИИ» (AI dependency paradox), имеет глубокие корни в истории технологий.
Аналогия с GPS: мы теряем инстинкты навигации
Этот феномен не уникален для ИИ. Он зеркально отражает более широкие технологические тренды, известные как «декиллинг» (deskilling) или «когнитивная разгрузка» (cognitive offloading). Мы хорошо знаем этот паттерн:
- Калькуляторы ослабили наши навыки устного счета.
- GPS-навигаторы ухудшили нашу естественную способность ориентироваться на местности. Люди, полагающиеся на голосовые подсказки, чаще теряются в знакомых местах, если навигация дает сбой.
- Поисковые системы снизили нашу способность запоминать факты, так как мы запоминаем не информацию, а путь к ней.
Исследование MIT подтверждает, что ИИ в области новостей действует аналогично GPS, но с гораздо более серьезными последствиями для демократического дискурса. Если мы перестаем уметь различать правду и ложь, мы теряем фундаментальный навык гражданского общества.
Результаты эксперимента: от помощи к регрессу
В ходе месячного исследования, в котором приняли участие 67 человек, участники оценивали пары «заголовок-изображение» новостей. Задача состояла в том, чтобы определить, являются ли они подлинными или фейковыми.
Краткосрочная польза против долгосрочного вреда
Результаты были двойственными. В начале эксперимента участники были на 21% точнее в обнаружении фейковых новостей, когда им помогал ИИ-чатбот. Это подтверждает предыдущие исследования MIT Sloan School of Management: ИИ действительно эффективен как инструмент для снижения веры в ложную информацию в моменте.
Однако по мере продвижения к четвертой неделе ситуация изменилась. Без помощи ИИ производительность участников упала на 15 процентных пунктов по сравнению с началом исследования. Более того, около четверти участников ошибочно считали, что их навыки улучшились, несмотря на объективное ухудшение результатов. Это классический пример эффекта Даннинга-Крюгера: некомпетентные пользователи не способны осознать свою некомпетентность, особенно когда они делегируют анализ машине.
Психологический сдвиг: «Разработчики зависимости»
Качественный анализ выявил четкие поведенческие паттерны. Команда исследователей выделила группу участников, которых они назвали «Dependency Developers» (Разработчики зависимости). Эта группа (около 20% респондентов) постепенно перешла от активного самосовершенствования к пассивному принятию указаний ИИ.
Один из участников прямо признал этот переход в опросе после эксперимента:
«Хотя [чатботы] подчеркивали, что нужно проверять информацию в нескольких источниках, они не научили меня многому о том, как исследовать контекст самих изображений». — Участник исследования
Исследователи отмечают, что ИИ-модели особенно уязвимы к ошибкам в условиях эмоционально заряженных новостей «горячего дня», таких как попытки покушения на президента Трампа или крупные события во время иранского кризиса. Кроме того, исходный человеческий контент, на котором обучаются ИИ, сам становится все менее надежным и более предвзятым, что усугубляет проблему.
Почему это происходит? Статистика против смысла
«Пользователи влюбляются в эти „магические“ LLM, но забывают, что это просто статистические модели, предсказывающие следующий „токен“ в последовательности», — объясняет Анку Рани (Anku Rani), соавтор исследования и аспирант MIT. «Многие впечатляющие поведения возникают благодаря масштабированию, но это сопровождается реальными ограничениями как в том, что модель может надежно сгенерировать, так и в ее более широком воздействии на людей, которые ее используют».
Ключевая проблема заключается в том, что LLM не «понимают» истину. Они предсказывают вероятность следующего слова на основе паттернов в данных. Когда человек делегирует этой модели процесс критического мышления, он не просто передает задачу — он перестает тренировать нейронные связи, отвечающие за анализ контекста, проверку источников и оценку достоверности изображений.
Решение: ИИ как тренер, а не как костыль
Исследователи из MIT предлагают не отказываться от ИИ, а изменить способ взаимодействия с ним. Ключевой вывод работы заключается в различии между «коучингом» (coaching) и «костылем» (crutch). То, как ИИ взаимодействует с пользователем, определяет, разовьет ли человек навык или потеряет его.
Метод Сократа против прямых ответов
Исследование выявило четкое различие между стратегиями диалога:
- Прямые ответы (Костыль): ИИ дает готовый вердикт («Это фейк»). Это создает быстрое решение, но не учит ничего. Это формирует зависимость.
- Метод Сократа (Тренер): ИИ задает наводящие вопросы («Что вы думаете об источнике этого изображения?», «Есть ли несоответствия в光影?»). Это замедляет процесс, но заставляет пользователя активно участвовать в анализе.
- Глубокое зондирование (Deep Probing): Система мягко убеждает пользователя, если он отклоняется от верного ответа, объясняя логику, а не просто давая ответ.
«ИИ, которые „говорят“, предоставляя прямые ответы, с большей вероятностью способствуют зависимости, в то время как те, которые „спрашивают“ через сократический questioning, лучше вовлекают человека в обучение тому, как самостоятельно отличать правду», — говорит Вальдемар Данри (Valdemar Danry), соавтор исследования.
| Стратегия ИИ | Пример взаимодействия | Влияние на навыки пользователя |
|---|---|---|
| Прямой вердикт | «Это изображение сфабриковано. Не верьте этому.» | Негативное: Снижение самостоятельного анализа, рост доверия к ИИ. |
| Сократический метод | «Обратите внимание на тени на лице. Соответствуют ли они источнику света?» | Позитивное: Развитие навыков критического осмотра. |
| Сравнение источников | «Попробуйте найти это изображение в архивах новостей за 2020 год. Что вы обнаружите?» | Позитивное: Обучение технике обратной проверки (reverse image search). |
Взгляд в будущее: Новая грамотность в эпоху ИИ
Исследование, представленное на конференции CHI 2026 (CHI Conference on Human Factors in Computing Systems), подчеркивает необходимость пересмотра подходов к обучению. Профессор Патти Мейс (Pattie Maes) отмечает: «Особенно важно повышать осведомленность в наших школах и академических сообществах о недостатках использования ИИ как инструмента обучения. Люди должны знать, что если они „делегировать“ свое мышление, они не станут лучше решать этот тип задач».
Анку Рани указывает на ограничения текущего исследования: малая выборка (около 50 проверенных новостей) и фокус на США и Великобритании. В будущем команда планирует изучить влияние ИИ на аудитории с разным культурным бэкграундом, включая малообеспеченные сообщества, а также протестировать мультимодальные стратегии, такие как взаимодействие с культурно-адаптивными цифровыми близнецами.
Что это значит для индустрии?
- Дизайн интерфейсов (UX/UI): Разработчикам ИИ-инструментов для журналистики и фактчекинга необходимо внедрять алгоритмы, которые поощряют «медленное мышление» и задают вопросы, а не дают готовые ответы. Скорость больше не должна быть единственным KPI.
- Образовательные программы: Школы и университеты должны интегрировать AI Literacy (грамотность в области ИИ) в свои программы. Ученики должны учиться не только использовать ИИ, но и понимать его ограничения, предвзятость и механизм работы.
- Медиаиндустрия: Журналистам необходимо развивать «иммунитет» к автоматизации. Навык критического анализа, проверки контекста и этического суждения станет главной конкурентоспособной способностью человека в эпоху, когда генерация контента становится commodity.
В конечном итоге, способность ставить под сомнение и анализировать информацию важна для каждого, потому что она наделяет нас силой решать проблемы и формировать собственные независимые мнения о мире. ИИ должен быть нашим партнером в этом процессе, а не заменой нашему интеллекту.
Статья основана на исследовании MIT Media Lab, опубликованном в июне 2026 года. Авторы: Anku Rani, Valdemar Danry, Paul Pu Liang, Andrew Lippman, Pattie Maes.
