Исследователи MIT Media Lab изучили, как люди используют ИИ для проверки новостей, и пришли к тревожному выводу: чат-боты действительно помогают быстрее отличать правду от фейка, но постоянная опора на них может ухудшать самостоятельную способность распознавать дезинформацию.
Авторы сравнивают эффект с навигаторами: GPS упростил поездки, но многие стали хуже ориентироваться без карты и подсказок. С новостями происходит похожее: если человек постоянно передает проверку фактов модели, он меньше тренирует собственное внимание к источникам, изображениям и контексту.
ИИ помогает найти фейк, но не всегда учит думать
В эксперименте участвовали 67 человек. В течение четырех недель они оценивали пары «заголовок плюс изображение» и решали, похожа ли новость на правду или на манипуляцию. В части заданий участникам помогал чат-бот.
Когда LLM, то есть большая языковая модель вроде ChatGPT, Claude или Gemini, была рядом, результаты становились заметно лучше. С помощью ИИ участники на 21% точнее определяли фейковые новости во время самой сессии.
Но главная проблема проявилась позже. К четвертой неделе, когда чат-бот убирали, самостоятельная точность участников на новых материалах снизилась на 15 процентных пунктов по сравнению с началом исследования. При этом примерно четверть людей считала, что стала справляться лучше, хотя их реальные показатели падали.
Парадокс зависимости от ИИ
Этот эффект исследователи называют парадоксом зависимости от ИИ. Технология повышает качество решения задачи в моменте, но при неправильном использовании может ослаблять навык, который должна была поддерживать.
Похожий процесс называют когнитивной разгрузкой: человек переносит часть мыслительной работы на инструмент. Калькуляторы меняют то, как мы считаем в уме, навигаторы влияют на чувство направления, а ИИ может менять то, как мы проверяем информацию.
В случае новостей это особенно важно. Все больше подростков и молодых взрослых используют чат-боты как источник новостей или как быстрый способ проверить спорную публикацию. Если модель ошибается или подает ответ слишком уверенно, пользователь может принять ее вывод без нормальной проверки.
Почему языковые модели могут ошибаться
Большие языковые модели не «знают» новости так, как их знает редактор или фактчекер. Упрощенно говоря, они предсказывают, какие слова должны идти дальше, опираясь на огромные массивы текстов. Из этого рождаются впечатляющие ответы, но не гарантированная достоверность.
Особенно уязвимы такие системы во время эмоциональных и быстро развивающихся событий: терактов, покушений, войн, катастроф, политических кризисов. В такие моменты в сеть попадает много непроверенных сообщений, старых фото, вырванных из контекста видео и намеренных вбросов.
Есть и другая проблема: сами данные, на которых обучаются модели, могут содержать ошибки, предвзятость или устаревшую информацию. Если пользователь не понимает этих ограничений, чат-бот превращается не в помощника, а в авторитет, которому слишком легко поверить.
«Костыль» или тренер: все решает формат подсказок
Команда MIT подчеркивает: вреден не сам ИИ, а способ взаимодействия с ним. Если модель просто выдает готовый ответ, пользователь быстрее привыкает делегировать ей мышление. Такой подход делает ИИ удобным костылем, но плохо развивает навык проверки.
Лучше работают системы, которые ведут себя как тренер. Например, задают уточняющие вопросы: кто источник, совпадает ли фото с датой события, есть ли подтверждение в независимых медиа, не выглядит ли заголовок слишком эмоциональным.
Исследователи отмечают пользу сократического метода — когда ИИ не отвечает сразу, а направляет пользователя вопросами. Это медленнее и требует больше усилий, зато человек учится замечать признаки манипуляции сам.
Что это значит для индустрии ИИ и медиа
Для разработчиков новостных и образовательных ИИ-сервисов вывод очевиден: интерфейсы должны не только ускорять проверку, но и сохранять у пользователя самостоятельный навык анализа. Если продукт просто говорит «это правда» или «это фейк», он может повышать зависимость от автоматического вывода.
Для школ, университетов и редакций это тоже важный сигнал. ИИ-грамотность должна включать не только умение писать запросы, но и понимание ограничений моделей. Пользователям нужно объяснять, когда чат-бот полезен, а когда его ответ необходимо перепроверять особенно тщательно.
Авторы исследования считают, что будущие ИИ-инструменты должны помогать людям формировать собственное мнение, а не заменять процесс анализа. В мире, где генеративные модели уже умеют создавать тексты, изображения и видео, способность задавать вопросы к информации становится базовым навыком цифровой безопасности.
Главный вывод
ИИ может быть мощным помощником в борьбе с дезинформацией, но только если он усиливает критическое мышление, а не подменяет его. Быстрый ответ удобен, однако привычка полностью полагаться на модель может сделать человека менее внимательным к фактам.
Поэтому следующий этап развития новостных ИИ-сервисов — не просто более точные чат-боты, а инструменты, которые учат проверять: сравнивать источники, искать контекст, анализировать изображения и сомневаться в слишком уверенных формулировках.
