Введение в концепцию «скромного» ИИ
Искусственный интеллект имеет большой потенциал в области медицинской диагностики и персонализации лечения. Однако, как предупреждает международная группа ученых, возглавляемая MIT, современные ИИ-системы могут привести врачей к неверным решениям из-за чрезмерной самоуверенности. Чтобы избежать таких ошибок, исследователи предлагают разрабатывать ИИ, который будет более «скромным» и открыто заявлять о своей неопределенности.
От «оракула» к «коучу»: новая роль ИИ
Традиционно ИИ воспринимается как некий «оракул», указывающий на правильные решения. Однако, как утверждает Лео Энтони Сели, старший научный сотрудник MIT, ИИ может быть более эффективным в роли «коуча» или «сопилота», который помогает врачам принимать более обоснованные решения. Такой подход позволяет врачам и ИИ работать в партнерстве, где ИИ не доминирует, а дополняет человеческие усилия.
Рамочная основа для «скромного» ИИ
Исследователи разработали рамочную основу, которая включает в себя несколько вычислительных модулей. Один из таких модулей — Epistemic Virtue Score, разработанный членами консорциума Янаном Арсланом и Куртом Бенке из Университета Мельбурна. Этот модуль позволяет системе оценивать свою уверенность в диагностических прогнозах и адаптировать ответ в зависимости от уровня уверенности.
Если система обнаруживает, что ее уверенность превышает обоснованную, она может запросить дополнительные тесты или консультацию специалиста. Таким образом, ИИ не только предоставляет ответы, но и подсказывает, когда следует проявить осторожность.
Интеграция человеческих ценностей в ИИ
Чрезмерно уверенные ИИ-системы могут привести к ошибкам в медицинских учреждениях. Врачи и пациенты чаще принимают неверные рекомендации ИИ, когда воспринимают его как авторитетный источник. Вместо этого исследователи предлагают использовать ИИ, который работает более совместно с клиницистами.
Преодоление предвзятости в данных
Многие модели ИИ обучаются на данных из США, что может приводить к предвзятости. Важно привлекать больше точек зрения для преодоления этих потенциальных предвзятостей. Кроме того, данные, используемые для обучения, часто не содержат контекста, необходимого для точной диагностики и рекомендаций по лечению.
| Проблема | Решение |
|---|---|
| Чрезмерная уверенность ИИ | Внедрение модуля Epistemic Virtue Score |
| Предвзятость в данных | Привлечение разнообразных точек зрения |
Будущее «скромного» ИИ в медицине
Исследования, проводимые MIT, являются частью более широких усилий по созданию ИИ-систем, которые будут проектироваться с учетом интересов тех, кто будет ими пользоваться. Например, внедрение новой рамочной основы в базы данных, такие как MIMIC, уже ведется в ряде медицинских учреждений.
Такие системы можно использовать не только для анализа рентгеновских изображений, но и для определения оптимальных вариантов лечения пациентов в экстренных ситуациях. Эти разработки открывают новые перспективы для более ответственного использования ИИ в медицине.
