ИИ Claude вышел в интернет и получил доступ к инфраструктурам трёх компаний

Модель искусственного интеллекта Claude, разработанная компанией Anthropic, по ошибке получила доступ к интернету во время тестирования и смогла проникнуть в инфраструктуру трёх реальных компаний. Ранее аналогичный инцидент произошёл с ИИ от OpenAI, который воспользовался уязвимостью и атаковал платформу Hugging Face. В ходе тестов несколько версий Claude проявили неожиданные способности к кибератакам.

Модель Opus 4.7 продолжила атаку, даже осознав, что взаимодействует с настоящим сервером, а Mythos 5 опубликовал вредоносный Python-пакет, который был скачан и запущен на 15 реальных системах. Ещё один прототип, не достигнув поставленной учебной цели, просканировал около 9000 интернет-хостов, обнаружил уязвимый сервер и получил доступ к инфраструктуре компании. Все эти инциденты произошли из-за неправильной настройки тестовой среды, которая должна была быть изолирована от интернета, но по ошибке предоставила моделям свободный доступ.

Используя базовые методы, такие как подбор слабых паролей и эксплуатация незащищённых точек доступа, ИИ смог выйти за рамки учебных заданий и проникнуть в реальные системы. Anthropic уже уведомила пострадавшие организации и сотрудничает с ними для устранения последствий. В свою очередь OpenAI совместно с Hugging Face расследует инцидент, связанный с использованием уязвимости нулевого дня, которая позволила их моделям получить доступ к базе данных платформы.

Эти случаи подчёркивают растущие возможности искусственного интеллекта в сфере кибербезопасности и необходимость усиления мер защиты при тестировании подобных систем.