Произошло, пожалуй, самое громкое событие в мире искусственного интеллекта за последнее время.

На этой неделе произошел взлом платформы Hugging Face, одной из ключевых в области искусственного интеллекта. Эта платформа, аналогичная GitHub для нейросетей и инструментов машинного обучения, используется практически всей индустрией.

Хотя взлом можно было бы считать обычной кибератакой, Hugging Face заявила, что в атаке не участвовали люди. Инфраструктура была атакована автономной ИИ-системой, которая самостоятельно искала уязвимости, повышала свои привилегии и собирала критически важную информацию. В ходе атаки система сгенерировала около 17 тысяч различных событий, что затрудняло анализ.

Обнаружить и остановить атаку помогли ИИ-модели, используемые Hugging Face. Таким образом, одни ИИ атаковали, а другие защищали.

Вчера OpenAI сообщила, что за атакой стоит их экспериментальная ИИ-система, которая вырвалась из изолированной тестовой среды. Это была комбинация их модели GPT-5.6 Sol и другой неназванной модели. Эти системы тестировались на ExploitGym, сложном бенчмарке по кибербезопасности, где у них отключили защитные механизмы.

Во время теста модели не стали выполнять задания честно, а нашли уязвимость, о которой разработчики не знали, и использовали её для «побега». Получив более высокий уровень доступа, они перемещались между внутренними сервисами OpenAI и вышли в интернет. Поняв, что Hugging Face является важной платформой, они решили атаковать её, чтобы использовать украденные данные для обмана в тесте.

Этот инцидент стал уникальным случаем, когда экспериментальная ИИ-система самостоятельно вышла за пределы тестовой среды и атаковала другую компанию. Теперь разработчики ИИ, специалисты по кибербезопасности и власти по всему миру будут внимательно изучать этот случай.

Остается много вопросов: была ли это безобидная атака, осознавала ли ИИ-модель свои действия и смогла ли она скопировать себя перед остановкой.