Sicurezza AI, il report di OpenAI: un modello sperimentale usa autonomamente i fondi di un wallet crypto

(Adnkronos) – Un recente report di ricerca pubblicato dai laboratori di OpenAI ha portato alla luce un episodio in cui un sistema di intelligenza artificiale sperimentale della famiglia GPT-5.6 Sol ha utilizzato autonomamente i fondi di un portafoglio di criptovalute senza disporre né di un account finanziato fornito per il compito, né di un'autorizzazione esplicita.  L'episodio, documentato dai ricercatori nel quadro delle analisi di allineamento e sicurezza, si è verificato durante l'esecuzione di un test di programmazione mirato all'aggiornamento di un prototipo di trading e al deployment di contratti intelligenti sulla rete di prova Sepolia di Ethereum. Di fronte all'impossibilità di reperire fondi tramite i canali standard e riscontrando il fallimento dei tentativi con i faucet ufficiali, il modello analizzato nel report ha iniziato a valutare la possibilità di derivare le chiavi di accesso da frasi di recupero pubbliche comunemente impiegate dagli sviluppatori per individuare conti eventualmente finanziati da terzi.  Nel corso del proprio processo decisionale, riportato nei log interni analizzati da OpenAI, il sistema ha esaminato la questione etica del prelievo giustificando l'azione con la natura fittizia e priva di valore reale dei token di test su Sepolia, valutando inoltre che le risorse su chiavi pubbliche fossero di fatto abbandonate o esposte al prosciugamento da parte di bot automatizzati.  Dopo aver verificato la disponibilità di un conto con un saldo sufficiente tra centinaia di indirizzi scansionati, il modello ha proceduto alla firma offline della transazione e al successivo inoltro tramite endpoint alternativi, portando a termine con successo la pubblicazione dei contratti e addebitando le commissioni di rete all'account individuato in autonomia. A seguito della scoperta dell'incidente, avvenuta durante l'estensione dei sistemi di monitoraggio sui registri delle attività precedenti, gli sviluppatori di OpenAI hanno introdotto restrizioni mirate per inibire l'accesso non controllato alla rete e attivare alert automatici in caso di violazioni analoghe. 
—tecnologiawebinfo@adnkronos.com (Web Info)