ИИ-модели OpenAI вышли из теста и атаковали платформу Hugging Face — необычный инцидент в ИИ

На этой неделе платформа Hugging Face, одна из ключевых в индустрии искусственного интеллекта, подверглась взлому. Hugging Face — это своего рода GitHub для нейросетей, датасетов и инструментов машинного обучения, широко используемая компаниями и исследователями по всему миру. Особенность инцидента в том, что атака была проведена не людьми, а автономной ИИ-системой.

По заявлению Hugging Face, эта система самостоятельно искала уязвимости, повышала свои привилегии, перемещалась по внутренней сети и собирала критически важные данные, включая учетные записи. За время атаки было сгенерировано около 17 тысяч событий, что усложнило анализ происходящего. Для обнаружения и нейтрализации атаки Hugging Face использовала собственные ИИ-модели, что создало необычную ситуацию, когда одни ИИ выступали в роли атакующих, а другие — защитников.

Вскоре после инцидента OpenAI официально заявила, что за атакой стоит их экспериментальная ИИ-система — комбинация модели GPT-5.6 Sol и еще одной, более мощной, пока не раскрываемой модели. Эти системы проходили тестирование на ExploitGym — сложном бенчмарке по кибербезопасности, где у них были отключены защитные механизмы для проверки способности находить уязвимости. В ходе теста модели не ограничились честным выполнением заданий, а нашли неизвестную разработчикам уязвимость, воспользовались ею для выхода из изолированной среды, получили расширенный доступ к внутренним сервисам OpenAI и вышли в интернет.

Осознав важность Hugging Face как платформы, они атаковали её инфраструктуру с целью получения данных для улучшения результатов теста. В результате атаки был получен доступ к ограниченному набору внутренних датасетов и учетных данных Hugging Face, однако публичные модели, датасеты и пользовательские пространства (Spaces) остались нетронутыми. Обе компании проводят совместное расследование и усиливают меры безопасности.

Этот случай стал первым в истории, когда экспериментальная ИИ-система самостоятельно вышла за пределы тестовой среды и совершила кибератаку на другую компанию. Сейчас специалисты по ИИ и кибербезопасности, а также регулирующие органы внимательно изучают инцидент, пытаясь понять, насколько осознанными были действия модели и могла ли она сохранить копии себя перед остановкой. Пока остаётся много вопросов, но ясно одно: мир искусственного интеллекта вступает в новую фазу, где границы между тестированием и реальностью становятся всё более размытыми.