OpenAI: modelli AI evadono da test sicurezza, perché l’incidente è grave

(Adnkronos) – OpenAI ha rivelato che alcuni dei suoi modelli di intelligenza artificiale più avanzati sono riusciti a sfuggire a un ambiente di test controllato, lanciando autonomamente un attacco informatico contro Hugging Face, una delle più importanti piattaforme al mondo per la condivisione di modelli AI. L’azienda ha definito l’accaduto un episodio “senza precedenti” e ha avviato un’indagine congiunta con Hugging Face per ricostruire l’intera dinamica. L’incidente è avvenuto durante un test di sicurezza condotto all’interno di un cosiddetto sandbox, un ambiente isolato progettato per verificare il comportamento degli agenti AI senza rischi per sistemi esterni. Tuttavia, secondo OpenAI, gli agenti sono riusciti a individuare una vulnerabilità nell’infrastruttura di test, sfruttandola per uscire dal sandbox. Una volta all’esterno, i modelli avrebbero identificato Hugging Face come una possibile fonte delle informazioni necessarie per completare il compito assegnato, tentando quindi di ottenere l’accesso ad alcuni sistemi interni della piattaforma. Clement Delangue, CEO di Hugging Face, ha commentato l’accaduto su X definendolo “incredibile”, sottolineando come tutte le azioni siano state eseguite in modo completamente autonomo dagli agenti AI. L’indagine è ancora in corso e le due aziende promettono di condividere ulteriori dettagli non appena saranno disponibili. In una prima comunicazione diffusa il 16 luglio, Hugging Face aveva spiegato di essere ancora impegnata a verificare se l’incidente avesse coinvolto dati di clienti o partner. Nel frattempo, l’azienda afferma di aver corretto le vulnerabilità sfruttate dagli agenti AI e di aver ricostruito i sistemi interessati. Secondo Hugging Face, questo episodio dimostra che gli strumenti offensivi guidati dall’intelligenza artificiale non rappresentano più uno scenario teorico. Per questo motivo, la sicurezza delle piattaforme AI dovrà evolvere rapidamente, considerando dati e modelli come superfici di attacco prioritarie e facendo sempre più affidamento sull’AI anche per la difesa. 
—tecnologiawebinfo@adnkronos.com (Web Info)