Искусственный интеллект (ИИ) имеет огромный потенциал в улучшении медицинской диагностики и персонализации лечения. Однако, как отмечает группа международных ученых из MIT, современные ИИ-системы могут вести врачей по неверному пути из-за излишней уверенности в своих решениях. Как же решить эту проблему?
Создание «скромного» ИИ: новая парадигма
Исследователи MIT предложили разработку ИИ-систем, которые будут более **осмотрительными**. Такие системы должны открыто сообщать о своей неуверенности в диагнозах или рекомендациях, побуждая пользователей собирать дополнительную информацию, если диагноз вызывает сомнения.
По словам Лео Энтони Сели, старшего научного сотрудника MIT, вместо восприятия ИИ как оракула, его можно использовать как коуча или сопилота. Это позволит не только улучшить доступ к информации, но и повысить способность врачей связывать разрозненные данные.
Внедрение человеческих ценностей в ИИ
Проблема излишней уверенности ИИ-систем может приводить к ошибкам в медицинских учреждениях. Врачи интенсивной терапии часто полагаются на ИИ-системы, которые они считают надежными, даже когда их собственная интуиция противоречит рекомендациям ИИ.
Для создания более **коллаборативных** ИИ-систем консорциум разработал несколько вычислительных модулей. Один из таких модулей — Эпистемическая Оценка Добродетели, которая проверяет уверенность системы относительно сложных клинических сценариев.
Преимущества «скромного» ИИ: примеры и перспективы
С внедрением самосознания, модель ИИ может адаптировать свои ответы в зависимости от ситуации. Если система обнаруживает, что ее уверенность превышает подтвержденные данные, она может остановиться и запросить дополнительные тесты или консультации специалистов.
Такой подход уже реализуется в системах анализа рентгеновских снимков и выбора оптимальных методов лечения пациентов в отделениях неотложной помощи.
Движение к более инклюзивным ИИ-системам
Создание инклюзивных ИИ-систем — это часть более широкой инициативы, направленной на устранение предвзятости в медицинских моделях, основанных на данных США. Привлечение различных точек зрения способствует устранению потенциальных предвзятостей.
На воркшопах MIT Critical Data группы специалистов из разных областей обсуждают, как избежать кодирования существующих структурных неравенств в моделях. Это особенно важно, поскольку многие данные, например, электронные медицинские записи, не всегда полны и включают всех пациентов.
Заключение
Современные достижения в области ИИ открывают новые горизонты для медицины, но требуют осторожного и продуманного подхода. Создание «скромного» ИИ — это шаг к более человечному и эффективному взаимодействию между технологиями и медициной.
