Введение в концепцию "скромного" ИИ
Искусственный интеллект (ИИ) становится неотъемлемой частью медицинской диагностики, обещая помочь врачам в постановке диагнозов и персонализации лечения. Однако исследователи из MIT предупреждают, что текущие ИИ-системы могут быть слишком самоуверенными, принимая неверные решения, что может негативно сказаться на результатах лечения.
Проблема самоуверенности в ИИ
Современные ИИ-системы часто выступают в роли "оракулов", давая рекомендации, которые врачи принимают как окончательные. Исследования показывают, что врачи склонны полагаться на ИИ, если считают его надежным, даже если их собственная интуиция подсказывает иное. Это может привести к ошибкам, если ИИ делает неверные выводы.
Создание "скромного" ИИ
Чтобы избежать таких ошибок, исследователи из MIT предлагают создавать ИИ-системы, которые будут более "скромными". Эти системы должны открыто сообщать, когда они не уверены в своих диагнозах или рекомендациях и поощрять пользователей собирать дополнительную информацию при наличии неопределенности.
Кооперация вместо конкуренции
Вместо того чтобы видеть в ИИ конкурента, врачи могут рассматривать его как коуча или помощника. "Мы можем использовать ИИ как истинного ко-пилота, который не только увеличит нашу способность извлекать информацию, но и повысит нашу возможность соединять точки," — считает Лео Энтони Чели, старший исследователь в MIT.
Техническая реализация
Команда разработала рамочную структуру, которая позволяет ИИ-системам демонстрировать любознательность и скромность. Важнейшим компонентом этой структуры является оценка эпистемической добродетели, которая проверяет уверенность ИИ в каждом конкретном клиническом сценарии.
Внедрение человеческих ценностей
Скромные ИИ-системы должны быть более открытыми и честными в вопросах своей уверенности, что позволит врачам и ИИ работать как партнерам. Это поможет избежать ситуации, когда ИИ оказывает чрезмерное влияние на решения врачей.
"Мы стараемся включить людей в эти системы, чтобы они могли коллективно размышлять и переосмыслять, вместо использования изолированных ИИ-агентов, которые делают все за нас," — говорит Себастьян Андрес Кахас Ордоньес, ведущий автор исследования.
Перспективы и вызовы
Этот подход может быть применен к ИИ-системам для анализа рентгеновских снимков или определения наилучших вариантов лечения в неотложных ситуациях. Однако важно учитывать, что многие современные ИИ-системы обучены на данных, которые могут содержать предвзятость.
Привлечение разных точек зрения критически важно для преодоления этих потенциальных предвзятостей, что подчеркивает необходимость включения разнообразных данных и мнений в процесс разработки.
Заключение
Создание "скромного" ИИ — это шаг к более надежной и инклюзивной системе здравоохранения. Он требует тщательной разработки и оценки данных, чтобы избежать внедрения структурных неравенств и обеспечить, что системы ИИ служат людям, которые будут на них полагаться.
