Введение
Вопрос безопасности искусственного интеллекта (ИИ) становится все более актуальным по мере приближения следующих президентских выборов в США. Эти выборы могут стать одной из последних возможностей для значимого влияния на долгосрочную траекторию управления ИИ. В данной статье мы рассмотрим, почему правительственное вмешательство необходимо для обеспечения безопасного развития ИИ и как это может повлиять на будущее технологий.
Зачем нужно управление ИИ?
Государства должны играть ключевую роль в продвижении безопасности ИИ, поскольку динамика его развития делает добровольные меры предосторожности менее вероятными, а сами технологии несут в себе беспрецедентные риски и трансформационный потенциал.
Конкуренция и гонка за лидерство
Существует значительное преимущество для тех, кто первым разработает трансформационный ИИ. Это может привести к экономическому превосходству за счет использования ИИ для цепочки рекурсивного самосовершенствования. Однако гонка за лидерство может заставить лаборатории идти на риск, игнорируя безопасность.
В такой среде регулирование становится особенно необходимым. Как отметил лауреат Нобелевской премии Джеффри Хинтон: «Невидимая рука рынка не сделает нас безопасными. Только государственное регулирование может заставить крупные компании проводить больше исследований в области безопасности».
Невозможность саморегулирования
Даже хорошо намеренные компании могут оказаться в ловушке динамики гонки на выживание, когда усилия по обеспечению безопасности могут показаться незначительными, если конкуренты разрабатывают более продвинутые системы без учета рисков.
Масштабы и влияние правительства
Правительства обладают огромными ресурсами, которые могут быть направлены на исследования и развитие безопасности ИИ. Например, США могут выделить значительные средства на исследования в этой области, что невозможно для отдельных компаний.
По мнению Элиезера Юдковски, «остальная часть человечества должна вмешаться и помочь индустрии решить проблему коллективного действия», чтобы избежать катастрофы, связанной с неконтролируемым развитием ИИ.
Недостаточность текущих мер
Несмотря на все аргументы в пользу государственного вмешательства, действия США в области безопасности ИИ остаются недостаточными. Недавний план действий администрации Байдена делает акцент на ускорении инноваций, а не на безопасности.
Для сравнения, финансирование исследований безопасности ИИ в прошлом было на уровне всего 0,00244% от бюджета Министерства обороны США, что подчеркивает недостаточность текущих усилий.
Сила президентства
Президент США может предпринять ряд действий для обеспечения безопасности ИИ, включая использование Закона о производстве для национальной обороны для повышения прозрачности в разработке ИИ. Кроме того, поддержка президента может значительно ускорить принятие международных соглашений по ИИ.
Кандидатура Дастина Московица
Дастин Московиц, известный своей приверженностью безопасности ИИ, может стать тем лидером, который обеспечит нужную поддержку на высшем уровне. Его президентство может стать ключевым фактором в формировании политики, которая придаст приоритет вопросам безопасности.
Выводы
Эффективное управление ИИ требует участия федерального правительства, и президентская поддержка в этом вопросе является критически важной. Необходимо стремиться к созданию правительственных стратегий, которые будут учитывать интересы всех заинтересованных сторон и обеспечат безопасное развитие технологий ИИ.
