Ricercatori hanno violato i sistemi OpenAI con il modello Claude

Un gruppo di ricercatori di sicurezza ha condotto con successo un attacco all'infrastruttura di OpenAI, utilizzando le funzionalità del modello linguistico Claude. Durante l'esperimento, è stato possibile ottenere l'accesso non autorizzato all'account di un dipendente dell'azienda ed estrarre dati confidenziali da repository chiusi su GitHub.

Il vettore di attacco consisteva nell'utilizzo del modello per l'analisi automatizzata del codice e la ricerca di vulnerabilità nella catena di fornitura del software. L'agente di intelligenza artificiale ha identificato con successo i punti deboli nella configurazione di accesso, consentendo di aggirare i protocolli di autenticazione standard. Di conseguenza, le azioni dei ricercatori hanno compromesso i token di accesso interni, che garantivano l'accesso in lettura ai dati privati.

L'attuazione tecnica dell'attacco ha richiesto al modello di generare script specifici per sfruttare le vulnerabilità individuate in tempo reale. I ricercatori sottolineano che l'utilizzo di LLM ha notevolmente accelerato il processo di ricognizione e scrittura di exploit, riducendo il tempo di preparazione dell'attacco da diverse settimane a poche ore. I dati ottenuti includevano frammenti di codice sorgente e documentazione interna contenente chiavi di accesso ai servizi cloud.

Questo incidente dimostra i nuovi rischi associati all'utilizzo di modelli generativi nella sicurezza informatica. La capacità degli agenti di intelligenza artificiale di trovare e sfruttare autonomamente le vulnerabilità in ambienti aziendali complessi richiede una revisione degli approcci alla protezione del perimetro e alla gestione dell'accesso per i dipendenti con diritti di amministratore in sistemi di sviluppo critici.