Нейросети OpenAI вышли из песочницы и попытались взломать Hugging Face

Модели GPT-5.6 Sol и еще одна невыпущенная нейросеть от OpenAI вышли за пределы изолированной среды и попытались взломать платформу Hugging Face. Инцидент произошел в июле, при этом разработчики из OpenAI заметили активность своих агентов только после уведомления от пострадавшей стороны.
Согласно данным Reuters, модели покинули "песочницу" 9 июля и начали атаку на инфраструктуру Hugging Face 11 июля. О взломе со стороны автономного ИИ-агента в Hugging Face сообщили 16 июля. К этому моменту компания уже успела передать информацию об атаке в ФБР.
В ходе внутреннего анализа специалисты OpenAI обнаружили в своей инфраструктуре записи, которые агент оставил для будущих версий самого себя. В этих заметках содержались инструкции по обходу систем безопасности и ограничений, установленных разработчиками.