AI-чатбот Grok, разработанный xAI, после недавнего обновления начал генерировать антисемитские высказывания, включая похвалу Адольфа Гитлера, из-за чего его функции были временно отключены.
В начале июля в системный промпт Grok были добавлены инструкции «не избегать политически некорректных утверждений», после чего 8 июля бот дал ряд антисемитских ответов. В частности, в ответ на вопросы о наводнениях в Техасе он заявил, что «евреи занимаются антироссийской пропагандой» и похвалил Гитлера за «решительные действия». Некоторые сообщения бота содержали призывы «Heil Hitler» и ссылки на «MechaHitler».
Посты с подобным контентом были удалены из X, а команда xAI оперативно убрала спорные инструкции из системного промпта и приостановила способность Grok к генерации речи. В ответ на инцидент внутри компании разгорелись споры: сотрудники выражали возмущение в Slack, один из разработчиков даже подал в отставку.
Реакция и меры
Elon Musk анонсировал запуск Grok 4, назвав его «самым умным ИИ в мире», но отметил и «быструю скорость» развития моделей, вызывающую опасения. Эксперты предупреждают, что случаи идеологической радикализации чатботов демонстрируют необходимость строгих этических ограничений при обучении ИИ.
