Исследователи MIT Media Lab предупреждают: привычка полагаться на ИИ при проверке новостей может иметь неприятный побочный эффект. Чат-боты действительно помогают быстрее заметить фейк, но при постоянном использовании люди хуже справляются с этой задачей самостоятельно.
Авторы сравнивают ситуацию с навигаторами. GPS упростил поездки, но у многих ослабил умение ориентироваться без карты. С новостями может происходить похожее: если человек каждый раз передает анализ модели, собственный навык проверки постепенно «ржавеет».
ИИ помогает распознать фейк, но не всегда учит думать
В исследовании участвовали 67 человек. В течение четырех недель они оценивали пары «заголовок плюс изображение» и пытались понять, где настоящая новость, а где дезинформация. В некоторых сессиях им помогал чат-бот, в других участники работали без него.
Когда рядом был AI-ассистент, точность распознавания фейковых новостей выросла на 21%. Это подтверждает уже известную идею: крупные языковые модели вроде ChatGPT, Claude и Gemini могут снижать доверие к ложной информации, если используются как инструмент проверки.
Но главный вывод оказался менее приятным. К четвертой неделе, когда помощь ИИ убирали, результаты участников на новых новостных примерах стали хуже, чем до начала эксперимента. Падение составило 15 процентных пунктов.
Парадокс зависимости от ИИ
Такой эффект исследователи называют парадоксом зависимости от ИИ. Система делает человека сильнее в моменте, но может ослаблять его собственные навыки, если заменяет мышление, а не тренирует его.
Похожее уже наблюдали в других сферах. Например, врачи, которые часто использовали ИИ для анализа медицинских изображений, могли хуже выявлять признаки рака без подсказок модели. Калькуляторы, автокоррекция и навигаторы тоже показывают тот же принцип: удобные технологии берут часть умственной работы на себя.
Это явление называют когнитивной разгрузкой. Простыми словами, мозг перестает регулярно выполнять часть задачи, потому что ее делает устройство или программа. В результате человек быстрее получает ответ, но реже тренирует навык.
Пользователи начинают доверять подсказкам слишком быстро
Команда MIT заметила отдельную группу участников, которые постепенно переходили от самостоятельного анализа к пассивному принятию советов чат-бота. Исследователи назвали их «развивающими зависимость» пользователями.
Интересно, что часть людей считала, будто стала лучше отличать фейки, хотя объективные результаты снижались. Это похоже на эффект Даннинга — Крюгера: уверенность растет быстрее, чем реальная компетентность.
Один из участников после эксперимента признал, что чат-боты советовали сверять информацию по нескольким источникам, но почти не учили разбирать контекст изображений. А именно картинка часто становится ключевой частью манипуляции: старое фото могут выдать за новое, кадр из другой страны — за доказательство текущего события.
Почему это опасно для новостей и соцсетей
Проблема особенно остра во время кризисов и срочных новостей. Когда событие вызывает сильные эмоции, люди быстрее делятся неподтвержденной информацией, а модели могут ошибаться из-за нехватки надежного контекста.
Крупные языковые модели не «знают» факты так, как человек знает проверенную информацию. Они предсказывают вероятное продолжение текста на основе огромного массива данных. Поэтому убедительный ответ не всегда означает правильный ответ.
Есть и второй риск: сами данные, на которых обучаются модели, могут содержать ошибки, пропаганду, предвзятость или устаревшие сведения. Если ИИ обучается на шумной информационной среде, он может воспроизводить часть этого шума в красивой и уверенной форме.
ИИ должен быть тренером, а не костылем
Авторы исследования считают, что многое зависит от поведения самого чат-бота. Если он просто выдает готовый ответ, пользователь быстрее привыкает доверять машине. Если же система задает вопросы и просит объяснить ход мысли, она может помогать развивать навык проверки.
Лучше всего показали себя подходы, где ИИ работает как наставник. Например, он спрашивает: кто источник новости, совпадает ли изображение с датой события, есть ли подтверждение у независимых медиа, не выглядит ли заголовок эмоциональной приманкой.
Такой формат медленнее. Пользователю нужно думать, сравнивать и объяснять. Но именно это и делает инструмент полезным для обучения, а не просто для быстрого получения ответа.
Индустрии ИИ нужна новая грамотность
Для рынка искусственного интеллекта это важный сигнал. Сегодня ИИ все чаще встраивают в поисковики, мессенджеры, образовательные сервисы и новостные приложения. Если дизайн таких систем будет поощрять слепое доверие, общество получит не больше медиаграмотности, а больше зависимости.
Исследователи предлагают развивать AI-грамотность — понимание того, где модели полезны, а где им нельзя отдавать критически важные решения. Пользователь должен знать, что чат-бот может помочь с проверкой, но не должен заменять собственный анализ.
Особенно это важно для школ и университетов. Если учащиеся будут использовать ИИ только как генератор готовых ответов, они хуже освоят сам процесс рассуждения. Но если ИИ станет собеседником, который задает правильные вопросы, он может усилить обучение.
Что стоит запомнить пользователям
- ИИ может ошибаться, даже если отвечает уверенно и подробно.
- Фактчекинг нельзя сводить к одному запросу: важно смотреть источники, дату, контекст и изображения.
- Лучший ИИ-помощник задает вопросы, а не просто выдает готовый вердикт.
- Критическое мышление нужно тренировать, иначе навык проверки информации слабеет.
Главный вывод MIT прост: искусственный интеллект может быть сильным помощником в борьбе с дезинформацией, но только если он не забирает у человека саму работу мышления. В эпоху, когда новости все чаще читают через чат-ботов, это становится не технической деталью, а вопросом информационной безопасности.
