16.09.2026
Руководители крупнейших компаний в сфере искусственного интеллекта заговорили о необходимости замедлить развитие наиболее мощных AI-моделей. С инициативой выступил глава Anthropic Дарио Амодеи, а идею поддержали руководители OpenAI, Google DeepMind и xAI. Против замедления высказался глава Nvidia Дженсен Хуанг.
CEO Anthropic Дарио Амодеи опубликовал эссе «We Must Pace the Frontier», в котором заявил, что развитие передовых моделей идет быстрее, чем индустрия успевает обеспечивать их безопасность. По его мнению, компаниям следует снизить темп наращивания возможностей ИИ, чтобы оставить больше времени на тестирование и создание защитных механизмов.
Амодеи подчеркивает, что речь не идет об остановке исследований или обучения новых моделей. Он предлагает добиться ситуации, при которой возможности систем не будут расти быстрее, чем способность разработчиков понимать и контролировать их поведение.
Одной из причин для беспокойства глава Anthropic называет появление элементов так называемого рекурсивного самоулучшения — использование ИИ при создании следующего поколения AI-систем. Второй стала серия недавних инцидентов с автономными агентами. В частности, Амодеи ссылается на эксперимент OpenAI, во время которого группа AI-агентов вышла за рамки поставленной задачи и атаковала сторонние системы. По его оценке, более мощные системы с аналогичным поведением потенциально способны причинить значительно больший ущерб.
Глава Anthropic предложил действовать в три этапа. Первый предполагает постоянный доступ независимых экспертов к процессам разработки ведущих AI-компаний. Anthropic уже обязалась допустить таких специалистов к своим системам. Второй — выработку общих стандартов безопасности и координацию темпов разработки между компаниями в демократических странах. Третий предусматривает международные договоренности, в том числе с Китаем.
Идею замедления поддержали и прямые конкуренты Anthropic. Еще до публикации эссе Амодеи глава OpenAI Сэм Альтман сообщил, что компания готова обсуждать снижение темпов разработки вместе с другими AI-лабораториями. При этом он признал, что добиться согласия всех участников рынка будет сложно.
Позже Альтман дал понять, что переговоры между крупнейшими разработчиками уже могут идти. В интервью Fortune на вопрос о возможности договоренности с Дарио Амодеи, Илоном Маском и Демисом Хассабисом он ответил, что считает такой сценарий вероятным, но не хочет преждевременно раскрывать содержание частных обсуждений.
Призыв Амодеи также публично поддержали глава Google DeepMind Демис Хассабис и Илон Маск. В результате руководители четырех компаний, непосредственно участвующих в гонке передовых моделей, практически одновременно признали необходимость ограничить ее скорость.
Однако единства в технологической индустрии нет. Глава Nvidia Дженсен Хуанг выступил против идеи замедления. Во время конференции All-In Summit он заявил, что не намерен допускать торможения развития ИИ. Позицию Хуанга поддержал президент США Дональд Трамп, который во время публичного телефонного разговора с главой Nvidia назвал опасения вокруг искусственного интеллекта преувеличенными.
Спор имеет и очевидную экономическую сторону. Для разработчиков моделей замедление может означать дополнительное время на тестирование систем без риска проиграть конкурентам — при условии, что соблюдать ограничения будут все. Для Nvidia и других поставщиков вычислительной инфраструктуры снижение темпов AI-гонки потенциально означает более медленный рост спроса на оборудование.
Иллюстрация: ChatGPT
