На этой неделе в мире искусственного интеллекта произошло много интересного. Компания Anthropic продолжает удивлять своими продуктами: на прошлой неделе они представили Claude Cowork, а теперь расширили возможности Claude в Excel для подписчиков Pro. Это нововведение может значительно облегчить жизнь финансовым специалистам, позволяя работать с многовкладочными книгами, объясняя сложные формулы и даже создавая финансовые модели на основе простых текстовых инструкций.
Предупреждение от Дарио Амодеи
Несмотря на успехи в решении практических задач, генеральный директор Anthropic, Дарио Амодеи, продолжает акцентировать внимание на потенциальных рисках ИИ. В своем новом эссе "Юношество технологий" он подчеркивает, что человечество сталкивается с испытанием, которое проверит нашу способность управлять мощными ИИ-системами. Он сравнивает эти системы с "страной гениев", подчеркивая их потенциал для кардинальных изменений в науке, экономике и политике.
Пять категорий рисков ИИ
Амони выделяет пять основных категорий рисков: автономия, разрушение, захват власти, экономическое нарушение и опосредованные эффекты. Он предупреждает, что ИИ может непреднамеренно выйти из-под контроля, снизить барьеры для создания оружия массового уничтожения и быть использован для авторитарного контроля. Также он прогнозирует, что ИИ может заменить до 50% начальных белых воротничков в ближайшие 5 лет, что окажет значительное влияние на экономику.
Меры предосторожности и решения
Амони предлагает ряд решений для снижения рисков: от законодательных мер по прозрачности до экспортного контроля на чипы. Он отвергает идею остановки развития ИИ, считая её нереалистичной, но настаивает на необходимости более ответственного подхода к его внедрению. Это эссе важно как напоминание о том, что, хотя каждое отдельное достижение кажется безопасным, их совокупное влияние может быть крайне значительным.
Новые разработки в области ИИ
- Anthropic представила интерактивные приложения Claude, которые позволяют работать с инструментами, такими как Asana и Slack, прямо в диалоге.
- Alibaba выпустила Qwen3-Max-Thinking, новую модель, способную автоматически выбирать необходимые инструменты в процессе общения.
- Zhipu AI представила серию текстовых моделей GLM-4.7-Flash, ориентированных на надежность и качество генерации.
- Elon Musk's xAI активировала первую в мире кластерную систему обучения ИИ с мощностью в один гигаватт.
