Новое исследование показало тревожную тенденцию: более четверти компаний в США не имеют стратегии по управлению рисками, связанными с искусственным интеллектом.
Согласно данным аналитиков, 26% американских предприятий заявили, что у них полностью отсутствует план по выявлению и смягчению рисков, связанных с ИИ. Это вызывает серьёзные опасения на фоне активного внедрения машинного обучения, нейросетей и автоматизированных систем в бизнес-процессы.
Исследование, в котором приняли участие 250 ИТ-руководителей и специалистов по безопасности данных, выявило и другие тревожные факты. Например, более половины компаний не способны точно идентифицировать, где и как ИИ используется в их инфраструктуре. Кроме того, 64% организаций признались, что у них нет централизованного мониторинга ИИ-систем, что делает их уязвимыми перед киберугрозами и регуляторными рисками.
«Мы наблюдаем, как компании внедряют ИИ, не задумываясь о возможных последствиях. Это похоже на вождение автомобиля без ремня безопасности», — отметил один из авторов исследования. Он добавил, что отсутствие стратегии управления рисками может привести к серьезным последствиям: от утечки данных до принятия дискриминационных решений ИИ-моделями.
Эксперты подчёркивают, что в условиях роста регулирования и усиления требований к этическому применению ИИ, бизнесам необходимо срочно разработать и внедрить чёткие протоколы оценки и контроля рисков. В противном случае они могут столкнуться с серьёзными штрафами, потерей доверия клиентов и юридическими претензиями.
Прогнозы аналитиков также неутешительны: без немедленных действий по стандартизации и обучению персонала многие компании могут оказаться в центре скандалов, связанных с неэтичным или небезопасным применением ИИ.
