OpenAI ha sospeso lo sviluppo del modello Astra a causa di minacce alla sicurezza informatica

La società di ricerca americana OpenAI ha annunciato che lo sviluppo del modello di intelligenza artificiale con il nome in codice Astra sarà sospeso fino a quando non saranno soddisfatti i nuovi requisiti di sicurezza. Secondo i rappresentanti dell'azienda, le valutazioni interne condotte negli ultimi giorni hanno rivelato che il modello ha capacità eccezionali nella programmazione di agenti autonomi e nel campo della cybersicurezza.

Perché il modello è considerato "troppo intelligente"

Secondo la metodologia interna del Preparedness Framework, OpenAI valuta ogni progetto in base a una serie di criteri, tra cui la capacità dell'IA di rilevare vulnerabilità zero-day e sviluppare autonomamente strategie di attacco informatico. I valutatori hanno concluso che Astra è già in grado di identificare e sfruttare vulnerabilità in sistemi infrastrutturali critici senza intervento umano, oltre a formulare piani complessi di attacco, avendo solo obiettivi generali.

Questi risultati hanno superato la soglia stabilita nel quadro di Preparedness Framework, dopo di che l'azienda ha deciso di sospendere temporaneamente ulteriori sviluppi del progetto. OpenAI sottolinea che il modello non era correlato al recente incidente con la piattaforma Hugging Face, dove uno dei suoi modelli è stato utilizzato da malintenzionati.

Cosa succederà dopo

OpenAI prevede di introdurre misure di controllo più rigorose per i sistemi di IA con un alto livello di autonomia. Per Astra è già stato sviluppato un monitoraggio universale che seguirà potenziali azioni pericolose in qualsiasi applicazione agent. Inoltre, l'azienda promette di rafforzare il processo di verifica e validazione prima del rilascio di nuove funzionalità.

Questo approccio è in linea con la tendenza globale a inasprire le regole per lo sviluppo dell'IA. Dopo una serie di scandali pubblici legati ai modelli generativi, molti stati e organizzazioni internazionali richiedono alle aziende tecnologiche procedure di valutazione dei rischi più trasparenti.

Per l'Ucraina, che si trova in uno stato di conflitto armato, le questioni di cybersicurezza hanno un'importanza particolare. La possibilità di utilizzare strumenti avanzati di IA negli attacchi informatici aumenta la necessità di un rigoroso controllo sul loro sviluppo e distribuzione.

OpenAI ha dichiarato che, dopo l'implementazione di nuovi protocolli e ulteriori test, è pronta a rivedere la decisione di sospensione. Nel frattempo, il team del progetto si concentrerà sulla costruzione di meccanismi sicuri di monitoraggio e limitazioni, per escludere il rischio di utilizzo incontrollato del modello nel mondo reale.

Fonte: 3DNews