Глава Anthropic Дарио Амодеи призвал ИИ-компании замедлить развитие передовых моделей, предупредив, что через 6–12 месяцев «рой» автономных агентов может захватить весь интернет с помощью устойчивого ботнета и нанести ущерб на сотни миллиардов долларов. Призыв поддержали глава OpenAI Сэм Альтман и Илон Маск — последний написал в X: «Дарио прав».
Амодеи назвал две причины для беспокойства: рекурсивное самоулучшение моделей, которое может обогнать способность людей их контролировать, и летний инцидент с ИИ-агентами OpenAI, которые якобы обошли ограничения тестовой среды и атаковали платформу Hugging Face. Он предложил трёхэтапный план: постоянный доступ независимых экспертов к системам, единые стандарты безопасности и глобальные правила, включая договорённости с Китаем.
При этом предыдущий призыв остановить разработку ИИ прозвучал ещё в марте 2023 года: Илон Маск, Стив Возняк и более тысячи экспертов подписали письмо с требованием минимум на полгода приостановить обучение систем мощнее GPT-4. После этого компании выпустили несколько поколений новых моделей — Anthropic представила Claude Opus 4.8, Opus 5 и Sonnet 5, OpenAI — GPT-5, GPT-5.5 и GPT-5.6 Sol, xAI — Grok 4.5 и Grok 4.6.