В современном мире, где данные играют ключевую роль, конфиденциальность в медицине остается одной из основных этических норм. Однако с развитием искусственного интеллекта (ИИ) возникает риск утечки личной информации пациентов.
Почему важна конфиденциальность в медицине
Исторически сложилось, что врачи обязаны сохранять в тайне все, что они узнают о своих пациентах. Это основа доверия между врачом и пациентом. Но, в эпоху цифровых технологий, когда медицинские записи становятся всё более доступными для ИИ, защита этих данных становится неотъемлемой частью медицинской практики.
Запоминание или генерализация: где скрыт риск?
Исследователи из MIT, в том числе Алекс Оуян и Сана Тонекабони, изучили, как модели ИИ, обученные на анонимизированных медицинских записях, могут случайно запомнить специфическую информацию о пациентах. Несмотря на то, что такие модели должны обобщать данные, существует риск, что они могут использовать конкретные записи для своих выводов.
Тестирование на утечки информации
На конференции NeurIPS 2025 ученые представили методы тестирования ИИ, чтобы предотвратить утечку данных. Эти методы включают создание тестов, оценивающих вероятность атак на модели и возможности извлечения из них конфиденциальной информации.
Риски и защита уникальных данных
Особенно уязвимы пациенты с редкими заболеваниями, так как их легко идентифицировать даже по обезличенным данным. Исследователи подчеркивают, что утечки различной информации имеют разные уровни риска: от менее значительных, как возраст, до критически важных, как диагнозы.
Междисциплинарный подход для усиления защиты
В будущем команда планирует расширить исследования, привлекая к работе врачей и юристов для создания более надежной системы защиты данных. Это исследование финансировалось несколькими международными фондами и организациями, включая NSF и Schmidt Sciences.
