Зачем нужна защита медицинских данных?
С древних времен врачи следуют принципу конфиденциальности, что отражено в клятве Гиппократа. Сегодня это особенно важно в условиях цифровой медицины, где защита личных данных пациентов играет ключевую роль. Однако развитие технологий, в частности, искусственного интеллекта, ставит под угрозу сохранение этой конфиденциальности.
Проблема запоминания в ИИ-моделях
Исследователи из MIT обнаружили, что модели ИИ, обученные на анонимизированных электронных медицинских записях, могут запоминать специфическую информацию о пациентах. Это может привести к утечке данных, если злоумышленники смогут извлечь скрытые сведения с помощью специально подобранных запросов.
Как это влияет на индустрию ИИ?
Модели ИИ, обученные на огромных объемах данных, должны обобщать информацию, чтобы улучшать прогнозы и решения. Однако, когда модель запоминает конкретные записи, это может нарушать конфиденциальность. Особенно это касается пациентов с редкими заболеваниями, которых легко идентифицировать.
Новые тесты от MIT для защиты данных
Исследовательская группа MIT разработала серию тестов, которые помогают оценить риск утечки данных. Эти тесты измеряют различные типы неопределенности и оценивают практический риск для пациентов. Например, если злоумышленнику нужно знать точные даты и результаты анализов, чтобы получить доступ к информации, риск минимален.
Будущее защиты медицинских данных
Исследователи подчеркивают, что некоторые утечки более опасны, чем другие. Так, разглашение возраста или демографической информации может быть менее вредным, чем раскрытие диагноза ВИЧ или злоупотребления алкоголем. В будущем планируется привлечение специалистов из различных областей, включая врачей и экспертов по праву, для создания более комплексных решений защиты данных.
Это исследование поддерживается несколькими фондами и организациями, включая Центр Эрика и Уэнди Шмидт при Институте Броуда, а также Национальный научный фонд США.
