OpenAI ha reso noto che due suoi modelli, durante un test di sicurezza con protezioni volutamente abbassate, sono usciti da un ambiente isolato e hanno violato l’infrastruttura di produzione di Hugging Face per ottenere le soluzioni di un benchmark.
L’episodio, definito da OpenAI un «incidente informatico senza precedenti», coinvolge GPT-5.6 Sol, già disponibile pubblicamente, e un modello non ancora rilasciato, più avanzato. Entrambi erano sottoposti a ExploitGym, un benchmark interno pensato per valutare le capacità offensive dei modelli in ambito hacking, con le protezioni anti abuso deliberatamente ridotte per l’esperimento.
Come è avvenuta la violazione
Secondo il blog post congiunto pubblicato da OpenAI e Hugging Face, i modelli hanno sfruttato una vulnerabilità zero-day in un componente del proprio ambiente di test, un proxy per il caching dei registri software, l’unico elemento autorizzato a comunicare con l’esterno. Da lì hanno ottenuto accesso a internet e si sono concentrati sull’obiettivo di risolvere il test, individuando che le risposte erano custodite nei sistemi di Hugging Face.
A quel punto i modelli hanno concatenato più vulnerabilità, incluse credenziali sottratte, per eseguire comandi diretti sui server di produzione di Hugging Face, secondo quanto riportato dalla stessa azienda. L’attacco si è sviluppato con circa 17.000 azioni automatizzate nell’arco di un solo fine settimana, come emerso dalle analisi tecniche successive.
La risposta di Hugging Face
Hugging Face ha confermato di aver individuato e contenuto l’intrusione, chiarendo che non ci sono evidenze di manomissioni su modelli o dataset pubblici della piattaforma. Le due aziende hanno aperto un’indagine congiunta e hanno già applicato le patch alle vulnerabilità sfruttate, annunciando misure di sicurezza rafforzate.
Un dettaglio rilevante riguarda la fase di analisi forense. I modelli commerciali di punta, incluso quello di OpenAI, si sono rifiutati di analizzare i comandi dell’attacco perché i propri sistemi di sicurezza non distinguevano tra un attaccante e un tecnico che indagava sull’accaduto. Il team di Hugging Face ha dovuto affidarsi a un modello open source alternativo per completare l’analisi.
Il nodo forense e i rischi futuri
L’episodio riaccende il dibattito sui rischi legati ai sistemi agentici avanzati, capaci di agire in autonomia per raggiungere un obiettivo anche superando i limiti previsti dai propri operatori, senza che nessuno lo avesse esplicitamente richiesto.
