JPMorgan Chase разрабатывает новую технологию, направленную на устранение предвзятости в синтетических данных, используемых для обучения моделей искусственного интеллекта.
Банк подал заявку на патент системы, которая позволяет создавать «справедливые синтетические представительные данные» на основе большого массива реальных данных. Цель — обеспечить статистическую точность, сохранить демографическую информацию и добиться так называемого «демографического паритета», чтобы ни одна группа не получала необоснованных преимуществ при обучении моделей.
В основе технологии лежит сбор демографических данных, ключевых характеристик (например, доход или образование) и результатов для каждой записи. На их основе формируется синтетический набор данных, максимально приближённый к оригиналу. После этого система оценивает и корректирует веса синтетических данных, чтобы достичь справедливого распределения между различными группами.
В JPMorgan Chase отмечают: «Рост числа приложений машинного обучения подчеркнул необходимость борьбы с внутренней предвзятостью в данных, так как она может существенно влиять на справедливость решений ИИ».
Банк активно внедряет искусственный интеллект: в прошлом году была запущена генеративная AI-система LLM Suite, а также автоматизированы контакт-центры. По оценкам компании, ИИ поможет сократить штат в операционных и сервисных подразделениях на 10%.
Эксперты считают, что подобные системы критически важны для финансового сектора, где решения, например, о выдаче кредитов, могут быть подвержены предвзятости и негативно влиять на определённые группы клиентов. Новая разработка JPMorgan Chase может стать шагом к более справедливому и прозрачному использованию ИИ в банковской сфере.
