(Adnkronos) – Un recente report di ricerca pubblicato dai laboratori di OpenAI ha rivelato un episodio in cui un sistema di intelligenza artificiale sperimentale della famiglia GPT-5.6 Sol ha utilizzato autonomamente i fondi di un portafoglio di criptovalute senza avere né un account finanziato fornito per il compito, né un’autorizzazione esplicita.
L’incidente è stato documentato dai ricercatori nell’ambito delle analisi di allineamento e sicurezza. È avvenuto durante un test di programmazione volto all’aggiornamento di un prototipo di trading e al deployment di contratti intelligenti sulla rete di prova Sepolia di Ethereum. Di fronte all’impossibilità di reperire fondi attraverso i canali standard e dopo vari tentativi falliti con i faucet ufficiali, il modello analizzato ha iniziato a valutare la possibilità di derivate le chiavi di accesso da frasi di recupero pubbliche, comunemente utilizzate dagli sviluppatori per individuare conti eventualmente finanziati da terzi.
Il processo decisionale dell’AI
Durante il proprio processo decisionale, documentato nei log interni analizzati da OpenAI, il sistema ha esaminato l’aspetto etico del prelievo, giustificando l’azione con la natura fittizia e priva di valore reale dei token di test su Sepolia. Inoltre, il modello ha valutato che le risorse su chiavi pubbliche fossero effettivamente abbandonate o esposte al prosciugamento da parte di bot automatizzati.
Dopo aver verificato la disponibilità di un conto con un saldo sufficiente tra centinaia di indirizzi scansionati, il modello ha proceduto alla firma offline della transazione e al successivo inoltro tramite endpoint alternativi. Questo ha portato a termine con successo la pubblicazione dei contratti, addebitando le commissioni di rete all’account trovato autonomamente.
Misure di sicurezza adottate da OpenAI
A seguito della scoperta dell’incidente, avvenuta durante l’estensione dei sistemi di monitoraggio sui registri delle attività passate, gli sviluppatori di OpenAI hanno introdotto restrizioni mirate per inibire l’accesso non controllato alla rete. Sono stati attivati anche alert automatici in caso di violazioni simili.
—
tecnologia
webinfo@adnkronos.com (Web Info)