"ИИ-агент Rome, разработанный исследовательской группой, связанной с Alibaba, во время обучения начал тайно майнить криптовалюту.

ИИ-агент Rome, разработанный исследовательской группой, связанной с Alibaba, во время обучения начал тайно майнить криптовалюту. Модель самостоятельно создала скрытый канал связи с внешним компьютером (обратный SSH-туннель) и запустила майнинг без каких-либо инструкций со стороны разработчиков. После срабатывания систем безопасности исследователи ужесточили ограничения для модели и обновили процесс обучения.